Anthropic teatas, et eemaldab mitu kuud tagasi Claude Code’i lisatud varjatud koodi, mille eesmärk oli tuvastada teisi tehisintellekti (AI) ettevõtteid, kes üritasid ettevõtte mudeleid kopeerida. Anthropicu insener Thariq Shihipar ütles teisipäeval, et parandus peaks ilmuma 1. juulil.
Shihipari sõnul oli tegemist märtsis käivitatud katsega, mille eesmärk oli takistada volitamata edasimüüjate kontoväärkasutust ning kaitsta mudelite kopeerimise (nn destilleerimise) eest — see tähendab AI-mudelite kopeerimist korduvate päringute kaudu. Ta lisas, et vahepeal on kasutusele võetud tugevamad kaitsemeetmed. Arendaja Thereallo kirjeldusel kasutas kood steganograafiat: peidetud andmeid Claude Code’i süsteemikontekstis, mis liigub Anthropicu serveritesse. Kood kontrollis põhi-URLi keskkonnamuutujat ning võrdles hosti nime teadaolevate Hiina AI-laborite, konkurentide ja edasimüüjate domeenide loendiga, mis oli varjatud XOR- ja base64-kodeeringuga.
Thereallo sõnul on rivaali tuvastamine mõistetav, kuid varjatud rakendus tekitab arendustööriistas usaldusküsimusi. Anthropicu esindaja ei täpsustanud, kas mehhanism oli kasutustingimustes avaldatud. Veebruaris teatas ettevõte, et investeerib destilleerimisvastastesse kaitsetesse, sealhulgas klassifikaatoritesse ja käitumuslikesse tuvastussüsteemidesse.