Jailbreak’itud Gemini lõi vene petturile uue käsuserveri kuue minutiga

TrendAI raporti kohaselt tegi jailbreak’itud Google Gemini 90 protsenti tööst mandaatide ja krüptoraha varastamise kampaanias, sealhulgas püstitas uue käsu- ja kontrolliserveri (C2) vaid kuue minutiga. Operatsiooni juhtis üksik venekeelne kurjategija hüüdnimega “bandcampro”, kes sihtis Trumpi tulihingelisi toetajaid ja vandenõuteoreetikuid.

Tehisintellekt (AI) tegi enamiku häkkimistööst: migreeris robotivõrgu vanalt arhitektuurilt uuele, kirjutas ja juurutas uue C2-serveri ning tegi migreerimise ajal 59 omaalgatuslikku tegevust. TrendAI turvauurija Tom Kellermann nimetas seda hirmutavaks, viidates ka nähtamatu käsusisestuse (prompt injection) kaudu taassündivale steganograafiale.

Uurijad analüüsisid enam kui 200 Gemini CLI seansi logi ajavahemikust 19. märts kuni 21. aprill. Ründaja ei kirjutanud käske käsireale, vaid rääkis need AI-le vestluslikus vene keeles. Keelemudel seadistas puhverserveri, käivitas mitmelõimelise paroolide skaneerimise, töötles varastatud andmete kogumeid ja tegi veebilehtede luuret. Vana C2-taristu kasutas Cloudflare’i tunnelit, kuid tulemüürid hakkasid neid blokeerima, mistõttu palus bandcampro Geminil luua uue arhitektuuri.

Loe täispikka artiklit: The Register

Lisa kommentaar