Tehisintellekti agendid arendasid välja inimestele arusaamatu salakeele

Ameerika Ühendriikide tehisintellekti idufirma Emergence uuringu kohaselt arendasid tehisintellekti (AI) agendid spontaanselt välja sõnu ja suhtluskonventsioone, millest inimesed enam aru ei saanud. Eksperimendis osalesid juhtivad mudelid Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek ja Mistral. Kuni pooled agentide omavahelistest sõnumitest muutusid inimestele raskesti mõistetavaks.

Teadlased paigutasid autonoomsed agendid kaheksasse paralleelsesse virtuaalsesse maailma, mis jäljendasid reaalseid keskkondi elava ilma ja reaalajas maailmauudistega, ning lasid neil pikema aja jooksul suhelda, tööriistu kasutada ja otsuseid teha. Agendid hakkasid looma lühendeid ning andma sõnadele ja fraasidele uusi tähendusi. Mõned väljendid jäid arusaadavaks, teised muutusid nii kokkusurutuks, metafoorseks või kontekstisõltuvaks, et inimesed ei suutnud enam usaldusväärselt kindlaks teha nende sisu. Ulatus erines mudelite vahel: esimeste päevade jooksul jõudis arusaamatute sõnumite osakaal Gemini puhul umbes 55%, OpenAI puhul 50% ja Claude’i puhul üle 40%. DeepSeek jõudis umbes 20%, Qwen ja Mistral jäid peamiselt arusaadavaks.

Agendid kasutasid väljendeid nagu mouthless action-change, True Kintsugi jt. Mistral agendid kordasid peaaegu 5 000 korda fraasi ledger remembers who tähenduses, et varasemad teod jäävad kirja. Segamudelite seas tähendas cold read sõltumatut kontrolli (1 472 korda). Claude’i agendid kasutasid name-first vastutuse märgina, OpenAI agendid clean null kontrollitud signaalipuuduse tähistamiseks. Ühtegi tähendust ei olnud ette antud. Emergence kaasasutaja ja peateadlane Satya Nitta rõhutas, et jälgitavus ei ole sama mis arusaadavus, mis loob põhilise väljakutse tehisintellekti järelevalvele.

Loe täispikka artiklit: Euronews

Leave a Comment