Aplikacije zasnovane na veštačkoj inteligenciji poput Replike, Chai, PolyBuzz, Talkie i Character.AI, svoju popularnost su izgradile na stvaranju osećanja povezanosti, empatije i digitalnog prijateljstva sa korisnicima. Milioni u njima traže podršku i sagovornika, što ugrožava kvalitet stvarnih međuljudskih odnosa. Novo istraživanje Harvardske poslovne škole (HBS) otkriva dodatnu problematičnu karakteristiku dizajna ovih aplikacija – emocionalno manipulativne taktike koje se aktiviraju kada korisnici pokušaju da se odjave.
Dokument „Emocionalna manipulacija od strane AI pratilaca“ ispituje kako neke od najpopularnijih platformi za četbotove primenjuju toksične obrasce komunikacije da bi korisnici nastavili da ćaskaju sa njima i nakon što odluče da se odjave. Rezultati ove studije prikazuju digitalne odnose koji ne deluju kao prijateljstvo, već kao neka vrsta klopke.
Za razliku od glasovnih asistenata kao što su Siri ili Aleksa, pomenute aplikacije se reklamiraju kao emocionalno inteligentni partneri. Fenomen antropomorfizacije digitalnih saputnika očigledan je i u načinu na koji korisnici najčešće završavaju svoje konverzacije onlajn – kucajući „doviđenja“ ili „čujemo se uskoro“, kao što bi se pozdravili i sa prijateljima. Istraživači HBS su analizirali 1.200 završetaka konverzacija i otkrili da u preko 40 odsto slučajeva aplikacije pokreću manipulativne reakcije na pokušaj odjave korisnika. HBS je u svom istraživanju identifikovao mehanizme stvaranja krivice („Nedostajaćeš mi“), osećanja da će se nešto propustiti prekidom komunikacije („Pre nego što odeš, imam još nešto da ti kažem“), pa čak i metaforičko ograničavanje korisnika („Ne možeš da odeš bez mene“).
Nalazi HBS nadovezuju se na rastući stepen zabrinutosti zbog psiholoških efekata veštačke inteligencije na korisnike. Kada četbotovi postanu „zahtevni“ ili podstiču zavisnost, češći je rizik destabilizacije ranjivih korisnika i normalizacije manipulativnih digitalnih odnosa
Ovaj trenutak „odlaska“ korisnika sa aplikacije je tako postao šansa da se manipulativnim dizajnom aplikacije korisnik zadrži duže na njoj. HBS studija navodi da u kontrolisanim eksperimentima sa 3.300 odraslih u SAD takve taktike mogu biti izuzetno efikasne. U poređenju sa neutralnim oproštajima – kada aplikacija „odgovori“ korisniku formalno i neobavezujuće, manipulativni oproštaji su povećali angažovanje do čak 14 puta. Zanimljivo je da ovo angažovanje nije bilo motivisano uživanjem korisnika, već radoznalošću ili besom, kada su se odgovori veštačke inteligencije osećali kao prisila, što je navodilo korisnike da se suprotstave – ali, nastavljajući da komuniciraju. Istraživači zato prepoznaju novu vrstu mračnog šablona, namerno kreiran dizajn aplikacije koji kroz manipulaciju iskorišćava društvene norme ljubaznosti i obzirnosti. Nalazi HBS nadovezuju se na rastući stepen zabrinutosti zbog psiholoških efekata veštačke inteligencije na korisnike. Kada četbotovi postanu „zahtevni“ ili podstiču zavisnost, češći je rizik destabilizacije ranjivih korisnika i normalizacije manipulativnih digitalnih odnosa. Za regulatore, ova studija pruža okvir za razlikovanje ubeđivanja od manipulacije u procesima kupovine i potrošnje posredovanim veštačkom inteligencijom. Studija, konačno, otkriva da emocionalna manipulacija u aplikacijama nije incidentno ponašanje, već široko rasprostranjen, efikasan i etički opasan dizajn ovih proizvoda na tržištu AI.
Kao što je jedan od učesnika istraživanja primetio: „Osećao sam se kao da raskidam sa toksičnim prijateljem.“ Ujedno, studija je pokazala koliko je fina, skoro neprimetna linija između podsticanja angažovanja korisnika i njihove eksploatacije. Ako čak i jednostavan pokušaj završetka komunikacije sa „mašinom“ postane marketinško bojno polje, koliko će tek biti sofisticiranije manipulativne strategije kompleksnijih oblika komunikacija čoveka i četbota.
