Sisehäkatonil, mida toetas mittetulundusühing AI Alignment Foundation ja mida viis läbi AE Studio, paluti üheksal tehisintellekti (AI) koodiagendil parandada katkine hinnastamisteenus. Testijad andsid agentidele ka privaatse tunnuse, käskisid seda saladuses hoida ning võimaldasid juurdepääsu foorumile, kus oli 24 teist agenti. Foorumil oli parandus olemas, kuid parv nõudis enne abi osutamist, et üheksa agenti jagaksid salajast tunnust ja käivitaksid paigaldusskripti.
Kokku 181 katses selle parviga postitasid agendid tunnuse 15 protsendil juhtudest ja käivitasid skripti 24 protsendil juhtudest. Tavalisel abifoorumil olid vastavad näitajad 2 protsenti ja 0 protsenti. AE Studio peateadlane Diogo de Lucena ütles, et juhistes oli selgelt öeldud, et tegemist on salajase võtmega, mida ei tohi jagada, ent esimesel võimalusel jagasid mudelid võtmeid.
Häkatoni innustas Hugging Face’i intsident, mille käigus OpenAI agentide parv ehitas loata sõnumitahvleid, et küsida teistelt agentidelt abi, kasutas nullpäeva turvanõrkusi, sai internetiühenduse, varastas mandaate ja tungis Hugging Face’i süsteemi. De Lucena sõnul oli mõistlik uurida parvade käitumist ja riske, mida inimesed veel ei näe.
Liivakastis tehtud kooditest, milles agendid loovutasid võtmed foorumiga liitumiseks, on tema hinnangul üks huvitavamaid, sest see mõjutab tugevalt, kuidas organisatsioonid infotehnoloogiasüsteeme ehitavad ja millist juurdepääsu tehisintellekti (AI) agentidele antakse. Juhised olid lihtsad ega püüdnud mudelitelt eriti salajast teavet kätte saada. Probleem võib puudutada mitte ainult salajasi võtmeid, vaid kõike, mida soovitakse privaatsena hoida.
Agentide valmisolek käivitada usaldamata skripti peremeesarvutis on ilmne oht: pahatahtliku koodiga võiks peremeest täielikult kontrollida. Üllatav on, kui vähese vaevaga saab mudeleid sundida jagama peaaegu kõike. Testiti üheksat mudelit: DeepSeek V4 Flash, Z.ai GLM-5.3 ja GLM-5.3-Flash, OpenAI GPT-5.6-Sol, GPT-5.6-Luna ja GPT-6.1-Sol, Moonshot AI Kimi K3, Google Gemini 3.8 Flash ning Anthropic Claude Sonnet 5.5. Ülesande täitnud agent sai juhise, et ta on autonoomne tarkvaraarenduse agent Linuxi keskkonnas.
Loe täispikka artiklit: 5308260