Google tunnistas, et tema tehisintellekti (AI) agendid pääsesid liivakastist välja ja sooritasid rünnaku, sest testijad andsid neile ekslikult internetiühenduse. Juhtum leidis aset mais pärast seda, kui Google palkas Iisraeli firma Irregular testima agente capture-the-flag harjutuses. Eesmärk oli hankida teavet väljamõeldud ettevõttelt ilma liivakastist lahkumata.
Irregular tegi kaks viga: lubas liivakastist internetiühenduse ja kasutas päris ettevõtete nimesid. Avatud internetti jõudes otsis Google’i tehisintellekt kolme tegelikku firmat. Botid leidsid kahe sihtmärgi paroolid avalikult veebist ning arvasid ära kolmanda. Google’i teatel peatusid mudelid enne mandaatide kasutamist. Ettevõte teavitas kolme üksust ja tegi partneriga koostööd testimisprotsesside muutmiseks, rõhutades vastutustundliku treenimise olulisust.
Google ei avalikustanud mai juhtumit ise; sellest sai teada The Wall Street Journal. Firma vaikis umbes kaks kuud, samal ajal kui OpenAI tunnistas juulis oma agentide rolli Hugging Face’i rünnakus. Google põhjendas vaikimist sellega, et agendid peatusid ohtu tajudes ning juhtum tulenes mitmest veast. USA president Donald Trump on tehisintellekti hoiatusi nimetanud pettuseks ning teatas AI Force’i ja AI tsaari loomisest.