Inteli toetatud tehisintellekti (AI) kiibistartup SambaNova avaldas uued võrdlustesti tulemused, mis näitavad, et Nvidia GPU-de ja ettevõtte enda kiirendajate kombinatsioon edestab tunduvalt ainult GPU-del põhinevaid järelduslahendusi. Testid viis läbi Artificial Analysis ning need näitasid, et SambaNova SN50-seeria kiirendajad suudavad MiniMax M2.7 mudelis lühikeste kontekstipikkuste juures (10 000 sisendmärki) toota 763 märki sekundis. Pikemate kontekstide puhul säilib üle 450 märgi sekundis.
Saavutus põhineb heterogeensel arhitektuuril: arvutusmahukas prefill-etapp toimub neljal Nvidia H200 GPU-l, samas kui mälusidususest sõltuv dekodeerimisfaas jookseb ühel SambaNova rakis, kus on 16 SN50 kiirendajat. Prefilli ja dekodeerimise eraldamine on muutunud oluliseks võimaluseks AI-agentide kulude vähendamisel. SambaNova süsteemid on õhkjahutusega ning sobivad olemasolevatesse andmekeskustesse, erinevalt Nvidia uuest Rubini põlvkonnast, mis vajab vedelikjahutust.
Ettevõte plaanib esitleda ka 128 ja 256 kiirendajaga konfiguratsioone. Kolmapäeval sulges SambaNova General Atlanticu juhitud F-seeria rahastusvooru esimese osa mahus 1 miljard dollarit, mis hindab ettevõtte väärtuseks 11 miljardit dollarit.