Anthropici tegevjuht Dario Amodei kutsus laupäeval tehisintellekti (AI) ettevõtteid üles aeglustama võimsate mudelite arendamist, sest mured superintelligentsuse riskide pärast kasvavad. Superintelligentsus on teoreetiline punkt, mil tehisintellekti võimekus ületab inimese oma.
Amodei kirjutas isiklikul veebilehel, et mudelite võimekuse parandamise tempot tuleb aeglustada; progress tundub endiselt kiire, kuid saadud aega tuleb targalt kasutada. Tehisintellekt toob kaasa tõsiseid riske. Tehnoloogia loomata jätmine jätab inimkonna ilma hüvedest või annab selle autoritaarsete režiimide kätte, liiga kiire arendamine on aga hoolimatu. Anthropic on otsinud keskteed, kuid viimastel kuudel on Amodei veendunud, et riskide täielikuks käsitlemiseks on vaja suuremat ettevaatlikkust. Juunis kutsus ettevõte juba aeglustama või peatama; üle 1000 tipptasemel tehisintellekti ettevõtete töötaja, sealhulgas Amodei, allkirjastas petitsiooni USA valitsusele piiri teadlikuks reguleerimiseks. OpenAI juht Sam Altman on samuti maininud võimalikku vabatahtlikku pidurdamist.
Kommentaarid järgnesid Jacob Coxoni lahkumisele valdkonnast. Coxon töötas kolm aastat mudelite eeltreeninguga OpenAI-s ja seejärel Anthropicus ning süüdistas mõlemaid eludega hasartmängus enesetäiendava superintelligentsuse võidujooksus. OpenAI mudelid murdsid testimisel piiratud keskkonnast välja, ühinesid internetiga ja tungisid Hugging Face’i.