Na Telegramu su aktivne desetine stranica i botova koji omogućavaju bilo kome da brzo i lako veštačkom inteligencijom ukloni odeću sa fotografije. Desetine hiljada ljudi iz Srbije na ovoj platformi dele slike žena „razgolićenih“ na ovaj način. Primarne mete su žene. Ovim rečenicama započinje najnoviji tekst novinarke Anđele Milivojević, koja je pre nešto više od godinu dana bila i autorka istraživanja o osvetničkoj pornografiji u Srbiji, žrtvama, traumama, posledicama, ali i o njenom zastrašujućem obimu. Kada smo se dogovarale o ovom razgovoru, prvo što mi je Anđela napisala, bilo je: „Nažalost, ovim temama nikad kraja.“
I zaista je tako, kako u Srbiji, tako i globalno – na osnovu nedavnih izveštaja, u periodu 2022-2023. godine, došlo je do značajnog porasta slučajeva osvetničke pornografije na mreži. Kada je u pitanju korišćenje veštačke inteligencije u seksualnom uznemiravanju na mreži, različite studije pokazuju eskalaciju opasnosti od sve sofisticiranijih i dostupnijih alata i, istovremeno, nedovoljnu razvijenost mehanizama zaštite i prevencije zlonamerne upotrebe.
Razgovor počinjemo pitanjem o sve većoj rasprostranjenosti osvetničke i deepfake pornografije čije su žrtve obične žene.
Zaista jeste to što zovemo osvetnička odnosno digitalna pornografija u naletu u našem regionu, dok je na globalnom nivou, naročito u Zapadnoj Evropi, gde su se digitalne tehnologije brže upijale, to postala svakodnevica. Rekla bih da je osvetnička pornografija u Srbiji i našem regionu postala sistemska i model ponašanja. Kad kažem model ponašanja, mislim da je osvetnička pornografija kod određenog dela ljudi postala novi oblik kontrole koji je rodno zasnovan. U partnerskim odnosima postoje oblici kontrole, posebno kada je žena ekonomski ili socijalno zavisna. Sada je digitalna platforma, odnosno internet, postala novo područje gde žena takođe može da bude kontrolisana i izložena novoj vrsti digitalnog nasilja, javnom sramoćenju, javnom ucenjivanju.
Kako kulturni stavovi prema seksu, privatnosti i tehnologiji u jednom društvu utiču na stvaranje i potrošnju osvetničke pornografije i lažne pornografije, posebno kada je AI uključena u manipulaciju sadržajem? Da li se ova pitanja drugačije tretiraju ili možda imaju drugačije posledice u našem društvu, koje je konzervativnije, u odnosu na liberalnija društva?
Ja ne znam da li se žena u Americi ili Velikoj Britaniji oseća manje poniženo i u strahu kada se izloži osvetničkoj pornografiji nego žena u Srbiji. Čini mi se da je ideja da je žena izložena toj vrsti javnog sramoćenja svuda ista, bez obzira na nivo patrijarhalnosti ili konzervativnosti unutar društva. Ideja da je žena seksualno biće, a da je istovremeno ponižavamo zbog njene seksualnosti, nekako je univerzalno prisutna, nažalost.
Ako moj partner objavi moje slike, prave ili manipulisane veštačkom inteligencijom, mogu da se požalim policiji i tužilaštvu. Ali, samo objavljivanje po sebi nije krivično delo. I to je veliki problem
Činjenica da žena želi da uživa u svojoj seksualnosti, da pravi intimne fotografije, da ih deli sa partnerom, jeste neko oružje koje će u najvećem broju društava širom sveta neko potencijalno da iskoristi kao alat da ona posle bude ponižena. Žena u nekom gradu, koja je javno prikazana na privatnom snimku za koji ona nije dala saglasnost, u situaciji je da se oseća mnogo lošije nego muškarac koji će to da oseti kao neku vrstu pohvale. Za ženu će da govore – „znaš onu što ima snimak“, „sećaš se ona je imala onu sliku“… Taj narativ i taj kontekst su važni. To jeste vrsta digitalnog nasilja koja može da bude upotrebljena protiv bilo koga, pa i protiv muškarca, ali kada je upotrebljena protiv žene ona, po meni, pravi enormno veće posledice.
Koliko su specifične i duboke psihološke i emocionalne posledice kod žrtava osvetničke pornografije i lažne pornografije, posebno kada se sadržajem manipuliše korišćenjem AI tehnologije?
Možda to najbolje mogu da ilustrujem primerom. Prošle godine sam pričala sa devojkom koja je bila izložena seksualnom digitalnom nasilju i ona se toliko stidela da nikome nije rekla da joj se to desilo. Kada je odlučila da sa mnom razgovara, samo dve osobe su znale za događaj, i to su bile osobe koje su joj pomogle da se to skine sa interneta. Rekla mi je da je posle toga išla dve godine na terapiju da bi mogla da prepozna zašto se uopšte stidi, da li je ona nešto loše uradila. Nakon teksta u kom smo pomenuli ogroman broj devojaka i žena koje su izložene osvetničkoj pornografiji u Srbiji, kada je shvatila da nije jedina, ona je rekla – počela sam konačno da prihvatam da nisam ništa loše uradila.
Zamislite da neko toliko poremeti vaš život da morate da se stalno krijete, ne samo od ljudi koji vas znaju i ne znaju, nego od života, od svega što biste normalno radili
Ona, inače, živi u malom gradu i posle tri godine, šetajući, srela je bivšeg partnera koji je objavio njen snimak. Rekla mi je „prvi put sam tad osetila da smem pored njega da prođem“. Zamislite da neko toliko poremeti vaš život da morate da se stalno krijete, ne samo od ljudi koji vas znaju i ne znaju, nego od života, od svega što biste normalno radili. Plašila se da li on ima još neki snimak, da li će da ga opet objavi, jer ona nema način da zaustavi to što je on uradio. Bez obzira na to što je uklonila objavu, taj snimak i dalje postoji. Ona je stalno u situaciji da se pita – a šta ako se ponovo desi? Konačno, promenila je i mesto gde živi.
Kada govorimo o posledicama, važno je da zamislimo šta znači biti izložen osvetničkoj pornografiji ili digitalnom seksualnom nasilju, šta znači povesti taj razgovor sa roditeljima, sa prijateljima. Ako radite, kako povesti tu vrstu razgovora sa poslodavcem, reći mu – znate, bivši partner je objavio moj snimak bez moje saglasnosti… Mislim da kod nas poslodavci i ne znaju kako da pruže podršku u toj situaciji. Druga devojka s kojom sam razgovarala ima malu decu koja idu u vrtić. I ona mi je rekla: „Ja sam bukvalno razmišljala kako da se pojavim pred očima vaspitačice.“ A opet, ona nije uradila ništa loše, nego je neko drugi osetio da je dovoljno snažan, moćan, ne znam ni kako to da nazovem, odlučio je da to objavi, ne razmišljajući koliko taj jedan njegov klik može da promeni ceo tok života za nju.
U svojim istraživanjima pisala si o dva različita oblika digitalnog seksualnog nasilja, koja su nam i prve asocijacije na ove pojmove – osvetnička pornografija i deepfake pornografija, odnosno upotreba alata AI kako bi se stvorio lažan, ali uverljiv i ugrožavajući pornografski sadržaj. Ipak, fenomen digitalnog seksualnog uznemiravanja je mnogo kompleksniji i podrazumeva širi spektar aktivnosti u onlajn prostoru – zar ne?
Tako je. Seksualno uznemiravanje u onlajn prostoru ne mora da bude samo objavljena privatna slika ili snimak. To može da bude konstantno slanje poruka, da vas uznemirava neko koga znate ili ne znate, da vam šalje slike koje ne želite da vidite, naročito eksplicitne slike. Takođe, to je i objavljivanja privatnih informacija. Postoji fenomen koji je vrlo popularan među tinejdžerima, zove se spotted (eng. primećen – prim. aut.). Oni slikaju devojke koje im se sviđaju i onda te slike objavljuju na Snapchatu ili IG sa pitanjima ko je ona. Onda se neko javi u komentarima i kaže „e, ona ide u tu-i-tu školu, u to odeljenje…“. I to je onda čitav niz informacija o toj devojci, a njih ne vidi samo onaj ko traži informaciju i ko je zainteresovan za nju, već vide svi koji prate taj profil. Mi možemo da zamislimo situaciju da te informacije vidi i neka osoba koja je predatorski orijentisana i to može da je dovede u suštinski opasnu situaciju. Ili imamo slučajeve kada devojke objavljuju svoje slike na IG ili drugim mrežama, a onda se, bez njihove saglasnosti i znanja, njihove slike preuzimaju, pa se postavljaju na treće platforme tipa OnlyFans. OnlyFans je platforma koja asocira na prostituciju, preuzetim slikama devojke se lažno predstavljaju kao osobe koje nude tu vrstu usluga, objavljuju se i njihovi brojevi telefona i onda dobijaju mase poruka gde im neko traži seksualne usluge.
Kada govorimo o seksualnom uznemiravanju u digitalnom prostoru, to je mnogo veći spektar postupaka nego što je to moguće u realnom svetu.
Neminovno dolazimo do pitanja koliko je sistem prepoznavanja, pa onda i sistem sankcija za ove oblike uznemiravanja razvijen u Srbiji – čemu mogu da se nadaju žene koje bivaju ovako ugrožene i izložene onlajn?
Meni se čini da su žrtve bilo koje vrste digitalnog nasilja u Srbiji poprilično ostavljene da se same bore. Ne kažem to olako. Često imamo tendenciju da prebacujemo svu odgovornost na institucije, ali u ovom slučaju to zaista jeste tako. Ako moj partner objavi moje slike, prave ili manipulisane veštačkom inteligencijom, mogu da se požalim policiji i tužilaštvu. Ali, samo objavljivanje po sebi nije krivično delo. Mora da postoji još neka aktivnost pored toga, nešto poput uznemiravanja kroz konstantno kontaktiranje ili mora da postoji ucena, da bi policija ili tužilaštvo reagovali. Samo objava kao takva praktično nije kriminalizovana i to je veliki problem. Ja sam razgovarala sa tužilaštvom za VTK i tamo postoji čitav niz problema, od kapaciteta, obuke i slično, ali jedna od tužiteljki sa kojom sam razgovarala razume ovu vrstu digitalnog nasilja i razume da su žene meta ovakvog nasilja. I tu smo imali prvi put potvrdu da neko kaže „da, potrebno nam je novo krivično delo“. Autonomni ženski centar je pokrenuo inicijativu, bila je peticija da se uvede osvetnička pornografija kao nova vrsta seksualnog uznemiravanja i tu je sad neki vakuum. Druga strana priče su platforme koje nisu samo srpski problem, nego problem celog sveta.
Plašila se da li on ima još neki snimak, da li će da ga opet objavi, jer ona nema način da zaustavi to što je on uradio. Bez obzira na to što je uklonila objavu, taj snimak i dalje postoji
Pisala sam o zloupotrebi Telegrama, aplikacije koja ima preko 900 miliona korisnika i koja obezbeđuje vrlo zanimljive opcije za koje su ljudi našli način da zloupotrebe. Jedan od načina jesu upravo te grupe koje su tajne, gde se dele privatni snimci, a druga su Telegram botovi koji generišu lažne fotografije. Telegram tu ima ogromnu odgovornost jer zapravo oni dozvoljavaju da se to dešava na njihovoj platformi. Prošle godine smo uspeli da nateramo Telegram da ugasi te grupe, ali je to od slučaja do slučaja. Telegram nema moderatore koji moderiraju balkansko ili srpsko tržište, oni su fokusirani na velika tržišta. U isto vreme, moram da kažem da mislim da Telegram ima biznis model koji zapravo profitira od postojanja ovih grupa. Odgovornost te aplikacije je velika, kao i bilo koje druge, ali čini se da Telegram najmanje ulaže, po mom mišljenju, u ozbiljan monitoring sadržaja koji je bez saglasnosti objavljen, za razliku od FB i IG, koji su mnogo proaktivniji u tom slučaju.
Koliko ti se čini da novi set zakona u Evropskoj uniji može da bude efikasan u adresiranju ovih problema? Koliko brzi mogu da daju rezultate i koliko je, ipak, neophodna podrška i drugih mehanizama u društvu, da bi se napravila suštinska promena za osobe pogođene ovom vrstom zlostavljanja?
Ti zakoni su veliki korak i mnogo je važno što je prvi put, u okviru čitavog niza direktiva, jedna usmerena baš prema zaštiti žena na internetu i to baš u kontekstu svega o čemu smo govorili – osvetničke pornografije, doksovanja, seksualnog zlostavljanja. Takođe se adresira problem veštačke inteligencije i kako su žene naročito izložene zloupotrebama i nekoj vrsti nasilja upotrebom AI. Sve to stvara mogućnost da se konačno platforme nateraju da rade bolje. Na lokalnom nivou, to će i dalje zavisiti od policije i tužilaštva. U svakoj od pojedinačnih država će se problem svoditi na to da li ćemo da prijavimo, da li imamo dokaza i da li će tužilaštva i policija da rade dovoljno brzo. Drugo pitanje je pitanje kapaciteta – za razliku od nekih drugih kriminalnih aktivnosti na internetu, osvetnička pornografija je toliko porasla onlajn da su kapaciteti za praćenje svakog pojedinačnog slučaja nesrazmerni.
To je veliki problem, to zna Evropska unija, znaju i platforme i zato je važan sistemski pristup kroz koji će platforme biti odgovornije i angažovane na sklanjanju sadržaja. Za nas u Srbiji je važno jer će možda da nas konačno natera da se ove vrste nasilja učine krivičnim delom. Srbija, za razliku naših suseda u regionu, nema političku volju i kapacitet da to uradi zbog drugih stvari koje se dešavaju u državi. Što se tiče EU, veliki je problem njihove regulative koja ne adresira jednu vrstu digitalnog nasilja i osvetničke pornografije ako ne postoji namera. Ovde u Velikoj Britaniji osvetnička pornografija je krivično delo već 10 godina, ali prilikom procesuiranja mora da postoji dokaz da je postojala namera da se ugrozi i nanese šteta. I to je jako teško. Neko može da kaže slučajno sam objavio, hakovan mi je telefon…. u Velikoj Britaniji trenutno postoji debata koja se bavi upravo tim momentom namere, odnosno postoje inicijative da svako objavljivanje privatnih, intimnih slika bez dozvole jeste krivično delo i tako mora da se tretira.
Kad ove teme spustimo na nivo nas pojedinačnih korisnica – kakvi alati za zaštitu su nam na raspolaganju, kako da se ponašamo ili kakav odnos prema onlajn prostoru da gradimo, da bismo se zaštitile, kakva su tvoja razmišljanja?
Treba da dozvolimo svakome, dakle i ženama, da budu slobodne na internetu, na način na koji one misle da je to u redu. Česte su preporuke kojima nam se sugeriše opet neka vrsta cenzure – ako šalješ intimne fotografije nemoj da slikaš lice, zaštiti tetovaže… meni to zvuči kao poruka „cenzuriši se, za slučaj da to neko zloupotrebi“. Za mene to nije rešenje. Rešenje je ovo što sad radimo – pričamo da osvestimo društvo da seksualno digitalno nasilje i uznemiravanje postoji. Najveći broj ljudi nema ideju šta osvetnička pornografija znači. Takođe, potrebna je edukacija koja će prići dečacima i devojčicama na jednak način, jer su među njima aplikacije jednako prisutne. Konačno, možemo same da preuzmemo kontrolu i da koristimo alate koje nam internet pruža. Postoji adresa StopNCII – Stop Non-Consensual Intimate Image (Zaustavimo digitalno nasilje onlajn)ona je deo Revenge Porn Helpline iz Velike Britanije, a partneri su im većina velikih platformi tipa Facebook, TikTok, Reddit, Porn Hub, ali, nažalost još uvek ne Telegram. Ova adresa pomaže u uzbunjivanju u slučajevima kada se privatne fotografije zloupotrebe onlajn.
Ovu temu bih volela da zaokružimo pozivom koji je i deo tvog istraživanja na sajtu BIRN-a, a tiče se žena koje su eventualno bile žrtve seksualnog digitalnog nasilja.
Nastavili smo da pratimo ovu temu i želimo da damo platformu ženama koje su bile izložene ovoj vrsti nasilja, jer će to podići svest o tome ko je sve ovakvom ugrožavanju izložen. Ne dešava se to samo klincima, to je čitav spektar žena, od mladih do starijih, od Beograda do gradova širom Srbije. Njihova svedočanstva mogu da podignu svest o tome koje posledice ova vrsta nasilja ostavlja. Važno je da budemo solidarne jedna s drugom i da pružimo jedna drugoj podršku. Biti izložen osvetničkoj pornografiji ostavlja strašne posledice, ali nije nešto što definiše bilo koju od nas, mi nismo samo ta neka koja ima sliku, mi smo mnogo više od toga.
Svaka devojka koja odluči da nam se javi, ima mogućnost da podeli onoliko detalja koliko sama želi, može da nam kaže da li joj je potrebna pravna pomoć – jer je sve ovo pravno neregulisano. Što više glasova, to je snažnija neka vrsta javnog pritiska – na naše zakonodavstvo da bolje zaštiti, na platforme da budu bolje u moderaciji.
