Krajem prošlog meseca, pojavila se vest da je albanski premijer Edi Rama u svom novom kabinetu imenovao „ministarku“ generisanu veštačkom inteligencijom zaduženu za borbu protiv korupcije. Dijela, što na albanskom znači „sunce“, predstavljena je kao „članica kabineta koja nije fizički prisutna“, ali koja će osigurati da „javni tenderi budu 100 odsto bez korupcije“. Dijela će biti otporna na mito, pretnje ili pokušaje manipulacije, preneo je Rojters zvanično saopštenje. Pre nego što je postala „ministarka“, Dijela je početkom ove godine pokrenuta kao virtuelna asistentkinja na platformi e-Albanija, koja je pomagala građanima i preduzećima da dobiju različita dokumenta. Obučena u tradicionalnu nošnju, pružala je pomoć putem glasovnih komandi i izdavala dokumenta sa elektronskim pečatima, čime su smanjena birokratska kašnjenja. Da li je ovo „imenovanje“ samo PR potez ili najava efikasnijeg i savremenijeg načina borbe protiv finansijskih malverzacija u državi koja ima velike ambicije vezane za pridruživanje Evropskoj uniji, ali joj na tom putu upravo duboko ukorenjena, sistemska korupcija, stvara jednu od ključnih prepreka i zastoja?
Upitna odgovornost
Sam status imenovanja Dijele i njen pravni okvir nisu jasni – opozicija i stručnjaci u oblasti zakona i prava ukazuju na to da njen „rad“ može biti problematičan u kontekstu ustavnosti i postojećih zakona koji definišu obaveze i zaduženja vladinih službenika.
Virtuelna ministarka bila je obučena u tradicionalnu nošnju, pružala je pomoć putem glasovnih komandi i izdavala dokumenta sa elektronskim pečatima, čime su smanjena birokratska kašnjenja
Kako navodi magazin Tajm, funkcije koje ima Dijela su stepenaste i ograničene – sistem bi trebalo da postepeno preuzima neke procese nabavki (npr. izradu uslova tendera, verifikaciju dokumenata), ali uz finalnu ljudsku potvrdu. Transparentnost i odgovornost su, takođe, upitni: kako će sistem donositi odluke – na osnovu čijih algoritama i podataka, kako će biti kontrolisan i ko će, u slučaju greške, snositi posledice. Imajući sve ovo u vidu, može se zaključiti da je status Dijele mnogo više simbolički i eksperimentalan, nego što je istinska zamena ljudskog ministra, sa svim odgovornostima i pravnim ovlašćenjima. Dijela, očigledno, neće autonomno voditi ministarstvo, već je uvedena kao inovativni element u okviru reforme procesa javnih nabavki, uz mnogo „ako“ i „kada“ u pogledu funkcionalnosti i pravnog statusa. Ipak, ovaj potez neminovno nameće pitanja vezana za potencijalne probleme i kontroverze u praksi korišćenja AI „persona“ na javnim funkcijama koje mogu biti direktno odgovorne za društvene i političke procese.
Jedna od perspektiva za analizu i razumevanje ove teme je demokratska odgovornost i legitimitet ovih entiteta. Nedostatak pravne odgovornosti i činjenica da AI, za sada, nema pravno status čoveka, ličnosti, znači da nema ni mogućnost da snosi posledice za odluke koje donese. Time se stvara raskorak u delegiranju odgovornosti i sankcija u slučaju propusta – ako Dijela pogrešno rangira ponude u tenderu, ko će biti kriv? Programer koji je trenirao njen algoritam, premijer koji ju je uveo u vladu ili osoba koja je finalno verifikovala njene predloge i odluke, pre nego što su postali zvanični? Takođe, u dobu u kom poverenje u zvanične institucije opada nezapamćenom brzinom, prebacivanje važnih državnih zadataka i poslova AI personama može ubrzati eroziju demokratskog legitimiteta. Funkcija ministra ili bilo kog državnog službenika pretpostavlja politički mandat, javni nadzor i odgovornost pred građanima. Kada AI alat preuzme tu ulogu, čak i simbolično, on zamenjuje izabrani autoritet neizabranim i ne obavezno transparentnim algoritmom – što dugoročno može normalizovati ideju tehnokratske kontrole bez suštinske političke odgovornosti.
Transparentnost i odgovornost su upitni: kako će sistem donositi odluke – na osnovu čijih algoritama i podataka, kako će biti kontrolisan i ko će, u slučaju greške, snositi posledice
Iako je predstavljena kao ministarka koja će suzbiti korupciju, Dijela je „mašina“, a njen model koji pokreću softver i algoritam kreirani su i trenirani na podacima koji nisu obavezno dostupni javnosti. Time rizik od „crne kutije“ dobija novu dimenziju jer samu borbu protiv korupcije čini netransparentnom na novi način. Umesto klasične korupcije i finansijskog podmićivanja, može doći do „digitalnog klijentelizma“, odnosno favorizovanja pojedinih firmi kroz algoritamske parametre. Ako su podaci Dijelinih algoritama trenirani na postojećim, koruptivnim praksama, AI može samo replicirati sistemske, pogrešne obrasce umesto da ih ispravlja.
I to nisu sve potencijalne poteškoće i mane. Uvođenje AI sistema u oblasti koje utiču na dobrobit i svakodnevni život građana (zdravstvo, pravda, socijalna pomoć) može ukinuti empatiju i kontekstualno razumevanje ljudskih problema iz procesa odlučivanja. Takva vrsta dehumanizacije procesa odlučivanja zapravo ukazuje na neophodnost definisanja granica automatizacije vlasti i imperativ razvijanja mnogo kompleksnijih etičkih standarda vezanih za razvoj i implementaciju tehnologije u društvo i politiku.
„Data kolonijalizam“
Činjenica je da je opšte razočaranje društvenim i političkim procesima kojima rukovode ljudi uticalo na razvijanje verovanja u „neutralnost“ tehnologije. Time se često potiskuje svest o tome da algoritmi sadrže vrednosne izbore svojih tvoraca. AI „persona“ može stvarati lažni osećaj nepristrasnosti, dok u pozadini svojim radom legitimiše odluke koje zapravo imaju vrlo jasnu političku agendu.
Ako Dijela pogrešno rangira ponude u tenderu, ko će biti kriv? Programer koji je trenirao njen algoritam, premijer koji ju je uveo u vladu ili osoba koja je finalno verifikovala njene predloge i odluke
Slučaj albanske AI ministarke Dijele može se posmatrati i kroz prizmu koncepta AI izuzetnosti, koji polazi od uverenja da je veštačka inteligencija superiorna u odnosu na ljudski um – da je objektivnija, racionalnija i oslobođena grešaka koje prate ljudske odluke. U stvarnosti, međutim, to je mit koji prikriva duboku krizu samopouzdanja čovečanstva, jer sve češće verujemo da tehnologija može uspešnije rešavati probleme od ljudi. Upravo ta vera u „neutralnu nadinteligenciju“ dovodi do toga da se AI sistemi postavljaju na mesta odlučivanja i bivaju tretirani, u slučaju albanske vlade, kao lek za korupciju. Neki kritički osvrti naglašavaju da bezrezervno poverenje u tehnologiju najčešće gaje oni koji najmanje veruju u ljude, a „slučaj Dijela“ vide kao dubinsku krizu poverenja u demokratiju. Umesto da se politički i društveni problemi rešavaju kroz raspravu, dijalog i odgovornost, tehnosolucionizam ih svodi na inženjerske zadatke koje može „popraviti“ algoritam. U tom smislu, ovakvi potezi ne jačaju demokratiju već nas približavaju digitalnom autoritarizmu – modelu u kojem se tehnologija koristi da bi se prikrila ili zamenila politička odluka.
Konačno, pitanje privatnosti podataka građana neizbežno je u ovakvim situacijama. AI ministarka ima pristup ogromnim bazama ličnih podataka, što stvara mogućnost za masovni nadzor i tzv. data kolonijalizam, posebno u državama sa slabim institucijama i skromnim demokratskim kapacitetima. Lideri poput Edija Rame koriste AI persone za kratkoročne PR efekte, promovišući modernost i „efikasnost“ birokratskih procesa, dok realne strukture moći ostaju netaknute. Time se stvara i nova vrsta populizma – digitalnog.
Tako, nakon eventualnog početnog entuzijazma zbog inovacije albanske vlade, ostaje da se zapitamo da li bi upravljanje pomoću AI moglo u budućnosti učiniti demokratiju suvišnom, jer bi tehnološke elite preuzele ulogu odlučivanja o pravilima bez političke kontrole i javne rasprave. U takvom sistemu, digitalna tehnokratija zamenjuje ideju građanske suverenosti idejom „efikasnosti“, brišući prostor za neslaganje, neizvesnost i političku odgovornost.
