Uuring: tavaline pilt võib AI-mudelite turvameetmetest mööda hiilida
Florida Rahvusvahelise Ülikooli teadlased on välja töötanud meetodi nimega JaiLIP (Jailbreaking with Loss-guided Image Perturbation), mis kasutab pildi peeneid muudatusi, et minna mööda tehisintellekti (AI) turvameetmetest. Erinevalt traditsioonilistest jailbreak-rünnetest, mis tuginevad hoolikalt koostatud tekstikäskudele, töötab see rünne piltide kaudu, mis tunduvad inimsilmale täiesti tavalised. Teadlased katsetasid meetodit multimodaalse AI-mudeli BLIP-2 peal ning leidsid, et manipuleeritud … Loe edasi