Prema izveštaju kompanije Imperva, automatizovani saobraćaj onlajn je prvi put nadmašio ljudsku aktivnost, čineći 51% celokupne internet razmene u prošloj godini. Od toga, više od trećine razmene poteklo je od tzv. zlonamernih botova u procesima prikupljanja podataka, lažnog predstavljanja i iskrivljavanja metrike u sektorima kao što su putovanja, maloprodaja i finansije onlajn. Ovaj trend posledica je brzog širenja veštačke inteligencije i velikih jezičkih modela koji demokratizuju kreiranje botova – čak i laici, amateri danas mogu lako da pokrenu sofisticirane alate sa kapacitetom za štetnu aktivnost na mreži. Posledice po kvalitet ukupnog onlajn ekosistema su višestruke.
Za početak, kada različite platforme postanu preplavljene zlonamernim ili neautentičnim interakcijama koje pokreću botovi, opada poverenje korisnika, a društvena kohezija, kapacitet za osećanje zajedništva na mreži, ugroženi su. Različite studije pokazuju da botovi imaju nesrazmernu ulogu u širenju dezinformacija, zapaljivih narativa i sadržaja niskog kredibiliteta. Vrlo često na udaru ovakvih aktivnosti su već ugrožene društvene grupe, poput LGBTQ korisnika ili različitih etničkih zajednica. Tzv. uspavani društveni botovi“, prema nedavnim istraživanjima, dizajnirani su tako da budu neaktivni i neprimetni unutar društvenih sistema pre nego što se aktiviraju i započnu pojačavanje manipulativnih kampanja – lako se uklapajući efikasnom komunikacijom među ljudske učesnike koje žele da obmanu. Zajednice na mrežama se tada lakše raspadaju, jer armije botova uništavaju intelektualni diskurs i odbijaju korisnike da se uključe u diskusije.
Onlajn prostori na koje se oslanjamo – za informisanje, trgovinu ili građanski angažman – pod opsadom su automatizovanih aktera mnogo jače i češće nego što smo toga svesni
Ovo ne samo da otežava organizaciju i saradnju onlajn, već i omogućava manipulaciju od strane korporativnih ili državnih aktera, kako bi podelili korisnike i potisnuli pokušaje kreiranja efikasnih kolektivnih akcija. Sve veće prisustvo automatizovane komunikacije onlajn dovodi i do pojačavanja rodno zasnovanog digitalnog nasilja, koje proizvodi ozbiljne oflajn posledice. Praksa beleži bot napade na političarke koje su nakon koordinisanih onlajn kampanja klevetanja, izgrađenih na manipulisanim slikama i seksističkim napadima, trpele statusne, profesionalne posledice i izborne poraze, čime su narušeni integriteti krupnih društvenih procesa. Konačno, tu su i ekonomske posledice. Botovi svojom aktivnošću iskrivljuju ključne indikatore uspeha onlajn poput klikova, pregleda stranica i dužine trajanja korisničkih sesija. Ove manipulacije mogu lažno uvećati izmeren stepen angažovanosti korisnika – a to košta digitalnu ekonomiju stotine milijardi dolara godišnje.
Oglašivači su jednaka žrtva. Prema pisanju The Wall Street Journal, čak 40% veb-saobraćaja potencijalno potiče od lažnih bot korisnika, što dovodi do neefikasnog alociranja troškova na reklame onlajn i smanjivanja rezultata kampanja. Aktivnost „loših botova“ fundamentalno degradira kvalitet interneta, transformišući ga iz živog prostora ljudske interakcije u zagušenu i nepouzdanu arenu. Botovi više ne vrebaju na obodima interneta – oni ga zapravo sve snažnije definišu. Onlajn prostori na koje se oslanjamo – za informisanje, trgovinu ili građanski angažman – pod opsadom su automatizovanih aktera mnogo jače i češće nego što smo toga svesni. Nekontrolisani uspon saobraćaja onlajn koji pokreće AI može biti i signal da smo na još jednoj prekretnici za budućnost interneta. Bez robusne odbrane – poput napredne detekcije, protokola za utvrđivanje da je iza ekrana čovek i regulatornih ograda – onlajn ekosistem rizikuje da postane sredstvo kontrole, a ne osnaživanja.
