Washington Posti läbi vaadatud aruande mustandi kohaselt teatas kuudevanune küberturvalisuse idufirma Cathedral Claude’i loojale Anthropicile, et selle teadlased olid pääsenud ettevõtte tundlikele siseandmetele ja sõnumisüsteemidele. Cathedral, mille asutasid USA kulude kärpimise teenistuse DOGE endised töötajad, pakub tehisintellektil põhinevaid küberturvalisuse vahendeid valitsusele ja ettevõtetele. Teadlased kasutasid ära turvanõrkusi äritarkvaras, mida Anthropic ja paljud teised firmad kasutavad haldus- ja müügitöödeks.
Alla 12 tunni jooksul tehisintellekti agentidega leidsid uurijad teed koosolekute ärakirjade, palkade ja tööpakkumiste ning Slacki sõnumiteni, milles arutati täiustatud tehisintellekti mudeleid. Prooviti Anthropicut ettevõtte programmi raames, mis kutsub väliseid küberturvalisuse eksperte süsteeme testima. Anthropic kinnitas, et Cathedral pääses piiratud müügi-, personali- ja infotehnoloogiasüsteemidele. Ettevõte sulges paljastatud teed ja teavitas föderaalasutusi. Esindaja sõnul üritasid uurijad mitu päeva otse tarkvarasse sisse murda, enne kui pöördusid kolmandate osapoolte äritööriistade poole.
Juhtum toimub ajal, mil kasvab mure, et USA tehisintellekti firmad on välisluure sihtmärgid ja et tehisintellekt hõlbustab pahatahtlikel ründajatel kriitilistesse süsteemidesse pääsemist. Trumpi administratsiooni kõrge ametnik ütles anonüümselt, et Cathedrali aruanne ringles valitsuses ja tekitas riikliku julgeoleku muret. FBI arreteeris sel kuul OpenAI töötaja, keda süüdistatakse salvestusseadme paigaldamises juhtkonna koosolekuruumi. Eelmisel kuul hoiatasid OpenAIsse sisse murdnud ründajad, kes kasutasid Anthropicu Claude’i, et tehisintellekti tööstus pole oma tehnoloogia turvariskideks valmis.
Anthropic sattus varem Trumpi administratsiooniga vastuollu, kui Pentagon keelas ettevõtte föderaalsüsteemidest, kuna Anthropic keeldus lubamast tehnoloogiat autonoomseteks relvadeks või massiliseks sisejärelevalveks. Kolm föderaalasutust on Cathedraliga küberturvalisuse tööks lepingud sõlminud. Idufirma väärtuseks on investorid hinnanud 1,4 miljardit dollarit. Cathedral on kogunud 160 miljonit dollarit; juhatuses on Marc Andreessen ja Shaun Maguire. Kaasasutaja Gavin Kliger oli Pentagoni peamine andmejuht.
Turvajuht Alex Stamos ütles, et leiud paljastavad lünga selles, kuidas tehisintellekti arendaja haldab välise tarkvara kasutamist. Anthropic väitis, et Cathedral liialdas riikliku julgeoleku tähendusega ega järginud täielikult veateavituse programmi reegleid. Uurijad ei pääsenud klientide sõnumitele, vastustele ega mudelite kaaludele. Jälgimine märkas osa tegevusest enne teavitamist ja juurdepääs suleti samal päeval. Tõendeid, et keegi teine oleks turvanõrkusi kasutanud, ei ole. Äritarkvara lülitati välja, kuni tarnijad kinnitasid, et nõrkused on kõrvaldatud. Töötaja Jacob Coxon lahkus eelmisel kuul, süüdistades ettevõtet ohtliku tehisintellekti hooletus käitlemises.