Ettevõtted manipuleerivad Redditit, et mõjutada AI-vastuseid

Biohakkimise Redditi kogukonna moderaatorid on avastanud, et peptiide ja hormoonasendusravi tooteid müüvad ettevõtted on hakanud süstemaatiliselt Redditit rämpsposti ujutama, eesmärgiga manipuleerida tehisintellekti vestlusrobotite vastustega. Kuna ChatGPT ja Google’i AI-otsing kasutavad vastuste koostamisel Redditi postitusi allikana, püüavad ettevõtted mõjutada just seda lähtematerjalil. Kogukond r/biohackers teatas, et keelab nüüd uued peptiide ja hormoonasendusravi käsitlevad postitused sisu kvaliteedi kaitsmiseks. Moderaatorite sõnul on manipuleerimine muutunud üha keerukamaks: ettevõtted analüüsivad täpselt, milliseid postitusmustreid tehisintellekti suurkeelemudelid eelistavad, ning loovad seejärel laiade teemadega klikimaigulisi küsimusi, mis tekitavad palju arutelu. Brändid punutakse siis orgaanilisena näivatest kommentaaridest sisse just õigetesse kohtadesse. Kasutajakontod, mida selleks kasutatakse, on eelnevalt “soojendatud” — neil on pikk postimisajalugu, mis muudab nende tuvastamise keeruliseks. Mõned agentuurid tasuvad päris inimestele reklaamsisu postitamise eest. Redditi automaatsed modeerimisvahendid on küll abiks, kuid keerukuse tõttu on moderaatorid sunnitud toetuma kogemuspõhisele mustrituvastusel.

Loe täispikka artiklit: Slashdot

Lisa kommentaar