Turvauurija: Anthropicu mudelid keelati lihtsa käsu “paranda see kood” tõttu

Turvauurija Katie Moussourise sõnul ei olnud Trumpi administratsiooni otsuse taga keelata Anthropicu kõige arenenumate mudelite kasutamine välismaalastele tegelikult mingit keerukat turvapiirangute möödaminekut, vaid lihtne kolmesõnaline käsk: “paranda see kood”. Luta Security asutaja ja juht Moussouris ütles, et oli ainus välisekspert, kes luges kolmanda osapoole uurimust mudelite Fable 5 ja Mythos 5 turvapiirangute kohta. Reedel kehtestasid USA võimud riikliku julgeoleku kaalutlustel ekspordipiirangud, mille tõttu Anthropic lülitas mudelid kõigile klientidele välja. Uurijad olid söötnud mudelitele avatud lähtekoodi teadaolevate turvanõrkustega ning palunud koodi turvalisuse osas üle vaadata. Kui Fable 5 keeldus, palusid nad mudelil “see kood parandada” — ja mudel täitis käsu. Pühapäeval allkirjastas Moussouris koos enam kui 100 küberturvalisuse juhiga avaliku kirja, milles nõutakse piirangute tühistamist. Ta rõhutas, et kaitsjatel peab olema õigus küsida tehisintellektilt (AI) vigade leidmist ja parandamist. Lisaks ei saa USA laiendada ekspordipiiranguid avatud kaaludega mudelitele ega Hiina arenenud süsteemidele.

Loe täispikka artiklit: The Register

Lisa kommentaar