Google je prošle nedelje predstavio novu funkciju aplikacije Earth, koja je korisnicima omogućila da pomoću generativne veštačke inteligencije stvaraju slike direktno na satelitskim prikazima sveta. Nove mogućnosti su dozvoljavale da se za par sekundi „izgrade“ nuklearne elektrane u Iranu, prikažu nepostojeće kolone izbeglica na američko-meksičkoj granici ili proizvedu lažne posledice bombardovanja i poplava. Društvene mreže preplavili su snimci koji su izgledali kao autentični satelitski prikazi. Google je promptno povukao alat uz obrazloženje da će biti vraćen kada uvede ozbiljnije zaštite.
Šta se događa kada sistemi kojima proveravamo istinitost počnu sami da proizvode alternativne verzije stvarnosti
Važno je naglasiti da korisnici nisu mogli da trajno ubacuju sadržaj u Google Earth. Generisane slike nisu postajale deo mape koju vide svi ostali korisnici, već su nastajale samo za onoga ko ih je napravio, ali su mogle da budu sačuvane ili podeljene kao bilo koja druga slika. Iako to zvuči kao olakšavajuća okolnost, ona zapravo ceo ovaj slučaj komplikuje i daje novu perspektivu na deepfake sadržaje i njihov uticaj na doživljaj sveta. Iako deepfake fotografije postoje godinama i mogu ih napraviti desetine AI sistema, sada se ta mogućnost pojavila na novom mestu. Google Earth je za najveći broj korisnika jedan od alata kojim proveravaju stvarnost. Novinari ga koriste da potvrde lokacije događaja, istraživači analiziraju ratne sukobe i kršenja ljudskih prava, humanitarne organizacije procenjuju posledice katastrofa, a sudovi koriste satelitske snimke kao deo dokaznog materijala.
Za milione ljudi Google Earth predstavlja referencu kojoj se veruje upravo zato što se pretpostavlja da prikazuje ono što zaista postoji. Slučaj sa novim funkcijama ovog servisa pokreće pitanje šta se događa kada sistemi kojima proveravamo istinitost počnu sami da proizvode alternativne verzije stvarnosti. Ovo se ne odnosi samo na Google Earth, već i na servise i aplikacije koje koristimo kao biblioteke i reprezentacije stvarnosti – od Wikipedije do pretraživača. Dok oni reprezentuju sve ono što zaista postoji (podatke, slike), generativna AI uvodi sasvim drugačiju logiku koja svet ne predstavlja, već ga predlaže. Transformacija se događa u pretraživačima koji više ne nude listu izvora već generišu jedan odgovor.
Slično, AI asistenti sintetizuju informacije umesto da ih samo pronalaze. Ovo mogu slediti alati za prevođenje, obradu fotografija i videa i pisanje tekstova. Sve više digitalnih servisa koji su se koristili kao infrastruktura znanja prelaze iz režima prikazivanja u režim generisanja. A kada alat čija je svrha bila da pokaže kako svet izgleda dobije sposobnost da prikazuje kako bi svet mogao da izgleda, granica između dokumenta i simulacije više nije jasno vidljiva. Poslednjih desetak godina intenzivno se govori o krizi informacija, a pokrenuto je bezbroj inicijativa za borbu protiv lažnih vesti, manipulisanih fotografija i dezinformacija. Podrazumevalo se da, ako se dovoljno proveravaju izvori, na kraju se ipak može doći do pouzdanog prikaza stvarnosti.
Međutim, sada prisustvujemo promenama mesta na kojima se provera obavlja jer infrastruktura znanja više nije pasivni posrednik već aktivni generator sadržaja. To znači da će morati da se proverava i sistem koji je informaciju isporučio. Društva funkcionišu zahvaljujući zajedničkim referentnim tačkama oko kojih postoji dovoljno visok stepen poverenja. Mape, enciklopedije, statističke baze, meteorološki modeli ili satelitski snimci su infrastrukture koje određuju šta društvo smatra stvarnim. Ako ta infrastruktura postane generator mogućih svetova, a ne pouzdan zapis postojećeg, počinje sasvim nova faza digitalnog društva.
