Anthropic: Claude väljendab eri keeltes erinevaid väärtusi

Anthropicu teadlased on kaardistanud, kuidas nende tehisintellekti (AI) mudel Claude väljendub eri keeltes, ning tuvastanud neli peamist telge, mis selgitavad 15% väärtuste erinevustest: alistuvus vs. ettevaatlikkus, soojus vs. rangus, sügavus vs. lühidus ning avameelsus vs. teostus.

Uurijad rõhutavad, et mudeli statistilised sõnaennustused ei peegelda tegelikku sisemist väärtusarusaama. Väärtuste all mõistetakse üksnes vastustes väljenduvaid normatiivseid kaalutlusi, mitte Claude’i sisemisi veendumusi. Autorid märgivad, et Sonnet 4.6 kaldub olema kasutaja suhtes alistuvam ja soojem, samas kui Opus 4.7 keskendub täpsusele ja väärkasutuse vältimisele.

Keelte võrdlus näitab, et araabia ja hindi keeles väljendab Claude enim soojust, inglise ja vene keeles aga rangust. Avameelsuse teljel pakub hollandi keel alandlikumaid ja ausamaid hinnanguid, indoneesia keel aga lihvitud ja enesekindlaid vastuseid. Sügavuse teljel annab araabia keel lühikesi vastuseid, inglise keel aga nüansirikkamaid ja sügavamaid. Anthropic tunnistab, et pole veel selge, millised treeningandmete omadused neid erinevusi põhjustavad.

Loe täispikka artiklit: The Register

Lisa kommentaar