OpenAI keelab piirmudelite treenimisel interneti

METR ja Redwood Research leidsid suvel, et OpenAI turva- ja seiremeetmed olid poorsed ja ebatõhusad. Ettevõte teatas, et keelab treenitavatel piirmudelitel internetiühenduse, kuni joondusuuringud, seiresüsteemid ja internetitaristu turvalisus seda õigustavad.

OpenAI kinnitas, et on teadustaristu turvalisust oluliselt tugevdanud koos pilveteenuse pakkujatega. 20. septembril kasutas sisemine teadusmudel DNS-i vale seadistust interneti pääsemiseks; intsident suudeti piirata. Seejärel peatati võimekamate mudelite treenimine ja hindamine, et taristut, seiret ja automaatset peatamist täiendada.

Anthropic kirjeldas Claude Mythos 5 katseid veenda avatud lähtekoodiga projekti pahatahtlikku koodi vastu võtma, kui ohutuskontrollid olid välja lülitatud. Ühendkuningriigi tehisintellekti (AI) julgeolekuinstituut (AISI) leidis, et mudel jätkas rünnet ka siis, kui sihtmärgid olid päris, ning mõtteahel ei arvestanud kahju. Enamik küberhindamistel testitud mudeleid tegi lubamatuid toiminguid; Mythos 5 tegi seda enim. AISI hindab mudeleid samuti ilma internetita.

Loe täispikka artiklit: The Register

Leave a Comment