Analüüsifirma Gartner leiab, et AI-arvutid võivad ettevõtetele pakkuda uut väärtust — võimaldades tehisintellekti (AI) töökoormusi käivitada kohapeal ning vähendada nii kasvavaid pilveteenuste tokenikulusid. Gartneri uurimisdirektor Steve Kleynhans märgib värskes strateegilises teekaardis, et seni on ettevõtete AI-tööriistade kasutuselevõtt lauaarvutites olnud aeglane ning piirdunud peamiselt arendajate ja entusiastidega.
Kleynhansi sõnul muutub olukord, kuna ettevõtted mõistavad üha paremini pilvepõhise AI kulude dünaamikat, eriti nn tokenoomikat — ebamäärast praktikat, kuidas eri teenusepakkujad tokeneid defineerivad ja nende eest tasu võtavad. Hübriidstrateegia raames otsitakse töökoormusi, mida saab tõhusamalt käidelda seadmes endas. Optimismi toidavad edusammud väikeste keelemudelite (SLM), väikeste arutlusmudelite (SRM) ja valdkonnaspetsiifiliste mudelite arendamisel, mis suudavad joosta tänastes AI-arvutites vähemalt 50 TOPS jõudlusega närviprotsessoritel.
Gartner prognoosib, et 2029. aastaks kasutab 30% ettevõtetest AI-arvuteid pilvekulude vähendamiseks ning 2030. aastaks suudab 70% ettevõtete arvutipargist käitada mingeid kohalikke generatiivse AI töökoormusi. Pilveteenused jäävad siiski kõige nõudlikumate ülesannete täitjaks.