Anthropicu kaasasutaja Jack Clark hoiatas, et tehisintellekt võib peagi hakata ennast ise arendama ilma inimeste sekkumiseta, mis võib tähendada inimkontrolli kaotust AI-süsteemide üle. Clark ütles BBC-le, et juba praegu teeb Anthropicu AI-mudel Claude 80% ettevõtte programmeerimistöödest ning see võib kahe aastaga ulatuda 100%-ni. Ta rõhutas, et AI-ettevõtetel on valik, kas lasta sellel juhtuda või mitte. Anthropic kirjeldas muret tekitavat protsessi mõistega “rekursiivne enesetäiustamine”, kus AI parendab ennast ilma inimese abita. Sellises mudelis võiksid AI-agendid muutuda piisavalt võimekaks, et iseseisvalt luua ja treenida uusi mudeleid. Ettevõtte sõnul on tõendeid, et rekursioon on lähemal kui arvatakse: Anthropicu töötajate koodi paranduste määr on viimasel aastal pidevalt langenud, mis näitab Claude’i vigade vähenemist. Kuigi rekursiivne AI võib tuua kasu teadusele ja tervishoiule, hoiatab Anthropic inimkontrolli kadumise ohu eest. Ettevõte soovib luua instituudi, mis jälgib, kas arendajad on rekursiivse AI suunas liikumist tõepoolest pidurdanud. Tõhus aeglustamine nõuaks aga mitme ressursirohke laborite kokkulepet mitmes riigis.
