Tensordyne panustab logaritmidele, et edestada Nvidiat AI-kiipide turul

AI-taristu idufirma Tensordyne on valmis saanud oma esimese kommertsliku kiirendaja Napier, mille tootmine TSMC 3nm protsessil on juba alanud. Koostöös Juniper Networksi ja Broadcomiga arendatud süsteem lubab GPU-dest suuremat jõudlust ja madalamat energiatarvet.

Ettevõte kasutab ebatavalist matemaatilist lähenemist: logaritmide abil muudetakse maatriksite korrutamine liitmistehteks (a*b muutub log(a) + log(b)). Otsingutabelite asemel rakendab Tensordyne Mitchelli lähendust koos riistvaralise sektsioonipõhise korrektsioonimehhanismiga, mis tagab FP16-ga võrdväärse täpsuse. Napier toetab ka FP8 ja 4-bitiseid andmetüüpe.

Napier pakub 300-vatist TDP-d, 144 GB HBM3e mälu, 4,7 TB/s mälu ribalaiust ja kuni 2,1 petaFLOPSi tihedat FP8 jõudlust — sarnaselt Nvidia 2023. aastal esitletud H200-ga, kuid ligi 60% väiksema energiatarbega. Tensordyne väidab, et tema rack-süsteemid pakuvad kuni 17 korda rohkem tokeneid vati kohta ja 13 korda suuremat läbilaskevõimet kui Nvidia Blackwell. Iga kiip pakub ligi terabaidist ühendusribalaiust, võimaldades kuni 72 kiirendajaga rack-paigaldusi (TDN72). Kiip jõuab turule järgmisel aastal.

Loe täispikka artiklit: The Register

Lisa kommentaar