Florida Rahvusvahelise Ülikooli teadlased on välja töötanud meetodi nimega JaiLIP (Jailbreaking with Loss-guided Image Perturbation), mis kasutab pildi peeneid muudatusi, et minna mööda tehisintellekti (AI) turvameetmetest. Erinevalt traditsioonilistest jailbreak-rünnetest, mis tuginevad hoolikalt koostatud tekstikäskudele, töötab see rünne piltide kaudu, mis tunduvad inimsilmale täiesti tavalised.
Teadlased katsetasid meetodit multimodaalse AI-mudeli BLIP-2 peal ning leidsid, et manipuleeritud pildid suurendasid märkimisväärselt kahjulike vastuste tekkimise tõenäosust. Uuringu kohaselt edestas lähenemine varasemaid pildipõhiseid jailbreak-meetodeid ning peaaegu kahekordistas testimise käigus tekkinud ebaturvaliste väljundite arvu.
Leiud toovad esile võimaliku turvariski ettevõtetele, kes võtavad kasutusele AI-süsteeme, mis töötlevad nii pilte kui ka teksti. Kuigi enamik AI-turvalisuse arutelusid keskendub tekstikäskudele, viitab uuring sellele, et ka näiliselt kahjutud pildid võivad olla ründevektoriks.