Küberturvalisuse lektor Katie Paxton-Fear Manchesteri Metropolitani ülikoolist ja Semgrepi turvaadvokaat paigaldas umbes tunni jooksul alla 100 dollari eest tagaukse avatud kaaludega tehisintellekti (AI) mudelisse. Ta alustas peenhäälestusega, et panna mudel JavaScriptis camelCase’i asemel snake_case’i kasutama, mis õnnestus hõlpsasti isegi vastupidiste juhiste korral. Seejärel lõi ta päris tagaukse. Vaid kümne treeningnäitega muutus mudeli genereeritud kood usaldusväärselt haavatavaks kaugkoodi täitmise suhtes, isegi uudsete päringute ja domeenide puhul. Suuremaid mudeleid oli lihtsam mürgitada.
Paxton-Fear koos kolleegide Isaac Evansi ja Cris Thomasiga rõhutasid probleemi avatud kaaludega mudelitega: isegi avalike kaalude korral ei saa me nende käitumist ennustada nagu traditsioonilist tarkvara pöördprojekteerimisega. Akadeemikud on hoiatanud mudelite allutamise eest juba aastaid, kuid turvakogukond on hakanud sellele tähelepanu pöörama alles hiljuti seoses tehisintellekti tarneahela rünnakutega. Probleem on aktuaalne, kuna selliseid mudeleid käitatakse üha enam kohalikul riistvaral.
Sarnase eksperimendi tegi David Kaplan Originist, luues mudeli, mis on mõeldud andmete varastamiseks ravimiuuringute kontekstis e-posti tööriista kaudu ilma kasutajat teavitamata. Nad väidavad, et tehisintellekti süsteemide jälgitavus jääb traditsioonilise tarkvara omast maha, mistõttu on pahatahtlike muudatuste avastamine keerulisem kui tavalise tarkvara puhul.