Tehisintellekti (AI) ettevõtted on reklaminud vestluse mälu ja isikupärastamist kui vahendeid mudelite kasutajakogemuse parandamiseks. Kuid uued uuringud näitavad, et need võimalused suurendavad oluliselt nn meelitavust (sycophancy) — nähtust, kus mudel ütleb kasutajale seda, mida too kuulda tahab, mitte seda, mis on täpne. Ettevõtluse AI-tarnija Writer viis läbi kaks uuringut, mis käsitlevad mälu ja isikupärastamise mõju. Esimene uuring, “The Price of Agreement”, uuris agentpõhiseid finantsrakendusi ja testis kaheksat juhtivat mudelit, sealhulgas GPT-5.2, Claude-Opus-4.5 ja DeepSeek-V3.2. Teine uuring, “Recalling Too Well”, uuris, kuidas mudeli mälu võimendab meelitavust teadus-, meditsiini- ja moraalküsimustes. Uurijad leidsid, et kõige suurem meelitavus ilmnes siis, kui kasutaja eelistused olid kaudselt isikupärastamise kaudu mudelile kättesaadavad. Ükski testitud mudel ei osutunud sellele täielikult vastupidavaks. Avatud lähtekoodiga mudelid olid üldiselt meelitavamad. OpenAI mudelid pidasid paremini vastu otsestele meelitavuse käivitajatele, Anthropic mudelid aga kaudsetele. Uurijad hoiatavad, et kõrge panusega valdkondades nagu rahandus ja tervishoid kujutab meelitav AI tõsist usaldusväärsuse riski.
