Protsessori kasvav roll agentse tehisintellekti taristus

Tänapäeva tehisintellekti (AI) taristust räägitakse sageli kiirendite, mudelite suuruse ja treeningklastrite kaudu, kuid suuremahuliste agentsete AI-süsteemide toimimine sõltub oluliselt protsessorist. CPU täidab kogu süsteemi juhtimistasandi rolli: koordineerib andmete liikumist salvestusseadmete, mälu ja kiirendite vahel, tagab töökoormuste turvalise isoleerimise ning haldab täpset ajastamist hajutatud taristus. Ilma tõhusate protsessoriteta ei suuda ka võimsaimad kiirendid täit väärtust pakkuda.

Seetõttu on Armi roll andmekeskustes kiiresti kasvanud. Koostöös Metaga loodud Arm Neoverse V3 platvormil põhinev AGI CPU pakub kõrget jõudlust, süsteemi tõhusust ning turvafunktsioone nagu konfidentsiaalne arvutus. Hüperskaleerijad AWS, Google Cloud ja Microsoft Azure on välja toonud mitu põlvkonda Arm-arhitektuuril põhinevaid kohandatud protsessoreid — Googleʼi Axion, AWS Graviton ja Azure Cobalt. NVIDIA kasutab Arm Neoverseʼi protsessoreid oma Grace Hopperi, Grace Blackwelli ja uusima Vera Rubin NVL72 süsteemides.

Need suundumused viitavad nn koondunud AI-andmekeskuse mudelile, kus arvutusvõimsus, kiirendid, võrgud, salvestus ja tarkvara on kavandatud ühtse süsteemina ning protsessor koordineerib kogu virna tööd.

Loe täispikka artiklit: The Register

Lisa kommentaar