AMD ostis Mexti, et tehisintellekti abil mäluprobleemi lahendada

AMD teatas sel nädalal idufirma Mext ostust avalikustamata summa eest, lootes tehisintellekti (AI) abil leevendada just AI-buumi põhjustatud mälupuudust. 2023. aastal asutatud Mext kasutab masinõpet (ML) ja heuristikat, et ennetavalt teisaldada vähekasutatud (külm) mälu odavamasse välkmällu ning tuua see andmekasutusmustrite põhjal tagasi enne uut vajadust. Ettevõtte sõnul saab nii süsteemi tegelikku mälumahtu kahe- kuni neljakordistada — välkmälu on gigabaidi kohta DRAM-ist tunduvalt odavam. Lahendus paistab operatsioonisüsteemile tavalise mäluna, kui käivitada Mextd-deemon. Mälu kihistamine pole uus idee — varem on kasutatud nii tarkvaralisi lahendusi kui ka Inteli Optane’i. Mext eristub aga sellega, et rakendab masinõpet ja transformeri arhitektuuri sarnaselt harukäskude ennustajaga, milles AMD-l on suur kogemus. AMD ettevõttetehisintellekti juht Dan McNamara märkis, et tehnoloogia võib vähendada taristukulusid ja parandada ressursikasutust. Spekuleeritakse, et AMD võib seda kasutada ka mixture of experts -mudelite puhul, viies harva kasutatavad eksperdid HBM-mälust aeglasemasse süsteemimällu.

Loe täispikka artiklit: The Register

Lisa kommentaar