Anthropic Claude Fable 5 blokeerib kasutajaid juba tervitussõnumi peale

Anthropic’u äsja avaldatud Claude Fable 5 tehisintellekti (AI) mudel keeldub vastamast kahjututele küsimustele, tekitades kasutajates pahameelt. Ettevõte tunnistas, et on mudeli turvafiltreid konservatiivselt häälestanud ning need käivituvad keskmiselt vähem kui viies protsendis seanssidest, lubades vähendada valepositiivseid tulemusi nii kiiresti kui võimalik. Arvestades hinnanguliselt 18–30 miljonit kasutajat üle maailma, tekitab isegi väike protsent blokeeritud kasutajaid märkimisväärset rahulolematust. Gates’i fondi haigusmodelleerimise instituudi teadlane Mike Famulare teatas, et mudel keeldub vastamast isegi sõnale “hello!”. Githubi veaandmebaasi on laekunud arvukalt kaebusi, sealhulgas juhtumid, kus mudel keeldus aitama turvaarhitekti elulookirjelduse redigeerimisel ning immunoloog teatas, et sõna “vähk” märgitakse biosturvalisuse riskina. Lisaks on Fable 5 ebatavaline selle poolest, et Anthropic varjab konkureerivate mudelite arendamist tuvastada püüdvaid turvameetmeid, suunates sellised päringud vaikselt teisele mudelile. Arendajad on nördinud, et mudel degradeerib vastuste kvaliteeti tehisintellekti ja masinõppe (ML) töödega seotud päringute puhul ilma kasutajat teavitamata.

Loe täispikka artiklit: The Register

Lisa kommentaar