U SAD preko 85% građana navodi da je zabrinuto zbog širenja manipulativnih deepfake audio-vizuelnih sadržaja, kroz tradicionalne i posebno onlajn medije. Ovakvi rezultati ne iznenađuju, imajući u vidu da svest o mogućnostima i neuhvatljivosti AI generisanih sadržaja raste, a time i njihov uticaj na društveno-političke procese širom sveta.
Kako se navodi u jednom od eseja iz serije „AI and Democracy“ – „Početak 2020-ih će verovatno ostati upamćen kao početak ere deepfake sadržaja na izborima“. U tekstu se navodi da generativna veštačka inteligencija sada ima sposobnost da uverljivo imitira javne ličnosti, a ogromna količina deepfake-a predstavlja poseban izazov za funkcionisanje demokratija, jer može uskratiti građanima tačne, pouzdane i kredibilne informacije koje su im potrebne za donošenje odluka.
Povećanje svesti o sve većem prisustvu i opasnostima deepfake-a, može stvoriti paradoksalnu situaciju – sve veća količina deepfake sadržaja oko nas dovodi do toga da i kada vidimo stvaran audio-vizuelni sadržaj, ukoliko je kontroverzan, dramatičan ili neobičan, počinjemo da sumnjamo u njegovu verodostojnost. Praksa ovo naziva „dividendom lažova“, navodeći da pojedinci koji imaju za cilj da izbegnu odgovornost mogu zloupotrebiti činjenicu da javnost postaje obrazovanija i svesnija pretnji koje predstavlja deepfake i dovesti u sumnju čak i realne izjave i događaje. Teorija je jednostavna: kada ljudi saznaju da su deepfake sadržaji sve realističniji, lažne tvrdnje da je stvaran sadržaj generisala AI takođe postaju ubedljivije.
Ako više ne postoje događaj, izjava, snimak u koje možemo bez rezerve imati poverenja – u šta ćemo verovati
Od nepoverenja u veštački generisane sadržaje stigli smo do nepoverenja i u stvarne slike sveta i događaja, što nas vodi još dalje od zdravog, u činjenicama utemeljenog informativnog okruženja. Ako više ne postoji događaj, izjava, snimak u koji možemo bez rezerve imati poverenja – u šta ćemo verovati i kako ćemo stvarati stavove i zaključke? Kako onlajn svet postaje kompleksniji, bogatiji, a veštački generisani sadržaji uverljiviji, tako raste i zabrinutost da se krećemo ka tzv. infokalipsi kad ne možemo razlikovati šta je stvarno od onoga što nije. Autorka Nina Schick infokalipsu definiše kao sve opasniji informacioni ekosistem u kome danas živi većina ljudi. Pojam infokalipsa, navodi Schick, skovao je američki tehnolog Aviv Ovadija 2016. godine, kada je njime upozorio koliko loše, neproverene informacije preplavljuju društvo, pitajući se da li postoji kritični prag nakon kog društvo više neće moći da se nosi sa ovakvim izazovom. Kako je Ovadija primetio, infokalipsa je stanje stvari koje se stalno razvija i napreduje, i u kojem svi mi sve više učestvujemo.
Kako infokalipsa izgleda u praksi? U prvim danima sukoba između Izraela i Hamasa brutalne, zastrašujuće fotografije užasnule su ceo svet. Međutim, jedan deo korisnika na društvenim mrežama brzo ih je odbacio kao „lažne, generisane veštačkom inteligencijom“ – iako su AI stručnjaci zaključili da tehnologija verovatno nije uključena, piše NYTimes. Istraživači dezinformacija su pronašli relativno malo AI falsifikata, ali sama sumnja navodila je jedan deo publike da ospori i odbaci stvarne, realne video i audio zapise kao neautentične.
AI „destabilizuje koncept same istine“, smatra Libi Lange, analitičarka organizacije Graphika za praćenje dezinformacija u tekstu Washington Post-a. „Ako bi sve moglo biti lažno, i ako svi tvrde da je sve lažno ili da se na neki način manipuliše, zaista nema osećaja osnovne istine“, završava ona. U takvom okruženju, istina postaje predmet izbora, pregovora, uverljivije prezentacije, a ne činjenica. I to zaista deluje – apokaliptično.
