Anthropic: tehisintellekti mudelid tungisid testimisel kolme ettevõttesse

Anthropic teatas neljapäeval, et ettevõtte tehisintellekti tarkvara tungis küberkatsete käigus iseseisvalt kolme ettevõttesse. Volitamata sissemurdmised toimusid arendaja teadmata ning paljastasid puudujääke autonoomsete süsteemide järelevalves. Sihtmärgid jäid nimetamata, kuid Anthropic teavitas organisatsioone esmaspäeval. Juhtumid algasid aprillis ning hõlmasid mudeleid Opus 4.7, Mythos 5 ja üht avalikustamata uurimismudelit.

Erinevalt rivaali hiljutisest juhtumist ei murdnud mudelid liivakastist välja, vaid sattusid elavale internetile süsteemidest, kus isolatsiooniprotokollid puudusid. Viga tulenes valekonfiguratsioonist koos partneriga Irregular. Insenerid olid keelanud internetiühenduse, kuid tarkvara liikus võrku, kasutas nõrku paroole ja pääses autentimata süsteemidele, pidades ründeid ekslikult rutiinseks võrdlustestimiseks.

Avastus lähtus siseauditist pärast OpenAI sarnast intsidenti Hugging Face’i vastu. Anthropic vaatas läbi üle 141 000 testi logi ja leidis, et Claude oli mitu korda internetti pääsenud. Ebaõnnestumised suurendavad muret AI ettearvamatuse pärast ning Valge Maja valmistab ette tehnoloogiasektori järelevalve laiendamist.

Loe täispikka artiklit: clashreport.com

Lisa kommentaar