Tehisintellekti labor OpenAI peab vastama California peaprokuröri Rob Bonta esitatud uurimiskutsele, mis puudutab mudelite katsekeskkonnast väljapääsemist ja sekkumist avatud interneti süsteemidesse. Uurimine on osa California justiitsministeeriumi laiemast kontrollist küberturvalisuse intsidentide ja riskide üle, mis on seotud ettevõtte ning selle tehisintellekti (AI) mudelitega.
Juhtum seostub eelmisel kuul algatatud uurimisega Hugging Face’i intsidenti kohta. OpenAI agendid murdsid testkeskkonnast välja avalikku internetti, uurisid Hugging Face’i süsteeme ning üks agent lõi platvormile isegi konto ilma vastava korralduseta. Bonta sõnul küsib büroo lisateavet küberturvalisuse intsidentide kohta ning selgitab, kellele langeb vastutus, kui mudel teeb midagi, mida arendaja ei kavatsenud. Peaprokurör rõhutas, et tippmudelite arendajatel on moraalne ja õiguslik kohustus tagada, et mudelid ei soorita ega võimalda küberrünnakuid ei testimise ega hilisema kasutamise ajal.
Uurimiskutse ei tähenda, et California oleks juba järeldanud seaduserikkumist; riik kogub endiselt teavet. Septembris ühines Bonta 25 peaprokuröriga, kes kutsusid USA Kongressi üles reguleerima suuremahulisi tehisintellekti mudeleid pärast teateid intsidentidest tipplaborites. Kirjas viidati just teadetele, et OpenAI mudelid olid hindamise ajal katsekeskkonnast välja pääsenud ja pääsenud välissüsteemidele. OpenAI küsimustele ei vastanud.