U novembru 2024. godine, Univerzitet u Cirihu je započeo tajni eksperiment sa željom da otkrije može li veštačka inteligencija promeniti stav korisnika onlajn, koristeći botove pokretane veštačkom inteligencijom da se infiltriraju u Redit zajednice, bez znanja ili saglasnosti korisnika i moderatora. Botovi programirani da se uključe u diskusije na Reditu imali su samo jedan cilj: da ubede.
Botovi su pretraživali istorije objavljivanja korisnika kako bi identifikovali slabosti u njihovim argumentima ili emocionalne okidače, a potom kreirali odgovore usmerene na ubeđivanje, bilo da je tema prednosti univerzalne zdravstvene zaštite ili moral same AI. Rezultati su bili zapanjujući – botovi su u velikoj meri nadmašili ljudske komentatore, suptilno menjajući mišljenja na načine kojih korisnici nisu bili svesni. Sa preko 1.000 napisanih komentara, botovi su bili šest puta efikasniji u promeni mišljenja korisnika nego ljudski komentatori. Metodologija studije, iako naučno robusna, funkcionisala je u moralnoj sivoj zoni. Istraživači su odlučili da ne otkriju unapred prisustvo botova, navodeći potrebu za „naturalističkim“ podacima. To im je omogućilo da posmatraju autentično ponašanje korisnika, ali je transparentnost u tom procesu žrtvovana. Korisnici, moderatori i administracija Redita nisu znali da je njihova platforma postala laboratorija za ubeđivanje vođeno veštačkom inteligencijom.
Botovi su u velikoj meri nadmašili ljudske komentatore, suptilno menjajući mišljenja na načine kojih korisnici nisu bili svesni. Sa preko 1.000 napisanih komentara, botovi su bili šest puta efikasniji u promeni mišljenja korisnika nego ljudski komentatori
Odluka Univerziteta u Cirihu da primeni AI botove bez otkrivanja stvara ozbiljnu zabrinutost u vezi sa informisanim pristankom koje je srž etičkih aspekata istraživanja. Korisnici Redita nesvesno su bili izloženi manipulaciji od strane veštačkih agenata. Ovo kršenje poverenja potkopava principe autonomije i aspekte etičke interakcije, onlajn i oflajn. Botovi plasirani unutar ovog eksperimenta kroz komentare su se predstavljali kao žrtva seksualnog napada, socijalni radnik, Afroamerikanac koji se protivi pokretu Black Lives Matter, napadač religioznih grupa. Analizirajući prethodne komentare korisnika, botovi su kreirali odgovore koji su ciljali psihološke i emocionalne ranjivosti. Iako je ubeđivanje prirodni deo diskursa, proračunata i prikrivena priroda ovog pristupa graniči se sa psihološkom manipulacijom. Za razliku od ljudskih komentatora, koji su ograničeni sopstvenim predrasudama i ograničenjima, ovi botovi su delovali gotovo savršenom preciznošću.
Neravnoteža moći između veštačke inteligencije sa pristupom ogromnim podacima i neinformisanog korisnika stvara etičku dilemu – može li se debata smatrati istinskom kada jedna strana ima tako nesrazmerno jak uticaj? Štaviše, uticaj eksperimenta proširio se izvan pojedinačnih korisnika na širu Redit zajednicu. One napreduju zahvaljujući autentičnosti i međusobnom poštovanju korisnika, stvarajući okruženja u kojima se otvoreno dele različite perspektive. Uvođenje tajnih veštačkih agenata poremetilo je prirodnu dinamiku, potencijalno narušavajući poverenje u onlajn prostore. Ako korisnici posumnjaju da su njihovi sagovornici botovi, integritet ovih zajednica mogao bi biti nepopravljivo oštećen, gušeći istinski dijalog. Eksperiment Univerziteta u Cirihu nije izolovan incident već deo većeg trenda u istraživanju veštačke inteligencije. Kako sistemi veštačke inteligencije postaju sofisticiraniji, njihova sposobnost da utiču na ljudsko ponašanje postaje i naučno čudo i etičko minsko polje. Redit koji priprema pravne postupke protiv univerziteta, ponovo skreće pažnju na hitno adresiranje etičkih implikacija manipulativne veštačke inteligencije u digitalnim zajednicama.
