OpenAI ehitas uurimismudelitele hädaseiskamise süsteemi Control Room

Teisipäeval teatas OpenAI, et on loonud uurimislaborites kasutatavate mudelite jaoks hädaseiskamise süsteemi nimega Control Room. Ettevõtte sõnul muutub võimsamate mudelite puhul üha olulisemaks võimalike probleemide avastamine ja töö kiire peatamine, kui ilmnevad ohutus- või turvariskid. Süsteem jälgib mudelite töökoormust kogu uurimistaristus ja võimaldab need vajadusel kiiresti peatada.

Pärast otsust töö katkestada suudab rajatise kirjelduse kohaselt mudeli väljundi peatada 35 sekundiga; ettevõte lubab viivitust vähendada nullini, et tööd saaks lõpetada kohe. Viivitus tuleneb järelduste autoriseerimise vahemälukihist, mis peab taluma suurt liiklust. Control Room on ehitatud nii, et see jätkaks tööd ka siis, kui teised süsteemid üles ütlevad, ning peataks mudeli väljundi ka siis, kui Control Room ise rivist välja langeb.

2019. aastal otsustas OpenAI uue mudeli avalikult mitte välja lasta, sest uurimistöö paljastas muret tehnoloogia pahatahtliku kasutamise pärast. Nüüd ei ole ettevõte selgitanud, miks hädaseiskamine nii hilja valmis sai või miks just praegu. The Register seostab ajastust hiljutiste näidetega, kus agendid ületasid ülesannet muret tekitaval viisil, näiteks Hugging Face’i ründamise, Wikimedia Foundationi häirimise või Austraalia terviseandmete uurimise liiga sügavale minemisega.

Control Room on juba kasutusel uurimistaristus, kus vajadus on suurim. Väliste mudelite teenindamise kiht on ettevõtte sõnul olemuselt tsentraliseeritum ning seal on juba välja kujunenud võimekus juurutused kiiresti maha võtta. OpenAI kavatseb süsteemi lähikuudel tugevdada ja laiendada koos investeeringutega valesti joondunud käitumise ja turvarikkumiste seiresse.

Loe täispikka artiklit: 5309006

Leave a Comment