Kompanija Antropik razvija sistem koji prati korisnike u pokušaju da prepozna pretnju pre nego što postane incident, navodi više izvora. Iako nema dokaza da Antropik pravi program koji bi mogao da računa verovatnoće nekih budućih zločina, jezik kojim njegovi bezbednosni menadžeri opisuju svoj cilj zvuči poznato: od reaktivnog odgovora potrebno je preći na „proaktivno, prediktivno i preventivno upravljanje pretnjama“, piše Amerikan prospekt. Oni objavljuju da Antropik razvija korporativnu obaveštajnu infrastrukturu, a prema Volstrit džornalu, ista kompanija je potvrdila da prati „zabrinjavajuće ponašanje tokom vremena“ različitih „osoba od interesa“. Dodatno važan trag dolazi iz oglasa za novog člana obaveštajnog tima Antropika. Zadatak te osobe biće da „identifikuje, procenjuje, prati i istražuje“ globalne pretnje, a među njima su geopolitička nestabilnost, terorizam, kriminal, delovanje stranih država i aktivizam.
Za korisnike je ključno pitanje ko će nadzirati privatne kompanije koje istovremeno pružaju uslugu, nadziru razgovore i određuju granicu između šale, protesta i pretnje
Aktivizam nije vrsta nasilja ili sinonim za kriminal, već demokratska aktivnost, ali kada se smesti u isti obaveštajni okvir sa terorizmom, mirni politički protivnici postaju potencijalni bezbednosni problem pre nego što učine bilo šta nezakonito. Vajerd je na osnovu više od hiljadu stranica dokumenata pokazao da američke bezbednosne institucije već koriste izraz anti-tech ekstremizam. U njihovim izveštajima sumnjive aktivnosti su fotografisanje i posmatranje objekata, prisustvo građanskim skupovima protiv gradnje data centara, a izražavanje pretnji tumači se vrlo široko. Antropik je nedavno policiji prijavio korisnika koji je u razgovoru sa modelom Klod napisao da je kupio poluautomatsku pušku i da mu je direktor Dario Amodei „na nišanu“. Korisnik je kasnije tvrdio da se šalio, a prijavljivanje konkretne pretnje oružjem je, naravno, potpuno opravdano. Problem je u netransparentnosti sistema koji odlučuje šta je šala, šta akutna frustracija, a šta neposredna i dugoročna opasnost.
Antropik navodi da ovlašćeni zaposleni mogu pregledati razgovore radi sprovođenja pravila korišćenja. Kompanijski dokumenti takođe kažu da automatizovani klasifikatori nadziru korisničke interakcije u realnom vremenu. Podaci se, bez uobičajenog pravnog naloga, mogu predati vlastima kada kompanija proceni da postoji opasnost od neposredne fizičke povrede ili smrti. Svaki pojedinačni deo ovog sistema je opravdan i racionalan, ali problem je njihov zbir – platforma prati šta ljudi javno govore, interni tim istražuje aktere i događaje, baza beleži obrasce ponašanja, algoritmi čitaju razgovore i, u finalu, kompanija odlučuje kada se prelazi prag za policiju. Tu nastaje digitalni pre-crime, kao birokratija koja pretpostavke pretvara u dosijee.
Kada se smeste u isti obaveštajni okvir sa terorizmom, mirni politički protivnici postaju potencijalni bezbednosni problem pre nego što učine bilo šta nezakonito
Antropik se nedavno sukobio sa američkim Ministarstvom odbrane jer nije dozvolio da Klod bude korišćen sa masovni nadzor građana. Sada se otkriva da kompanija vrši nadzor ponašanja korisnika njenih alata. Pitanje ostaje ko definiše šta je pretnja i da li ona znači konkretnu nameru da se nekome nanese nasilje ili je to već protivljenje kompaniji, organizovanje protesta i kritike industrije? Koliko dugo se takvi podaci čuvaju, ko je na listi osoba od interesa i da li se podaci o mirnim demonstrantima prosleđuju drugim kompanijama ili državnim institucijama? Dario Amodei, direktor Antropika, nedavno je govorio o „krizi poverenja“: obični ljudi, kaže, sumnjaju da kompanije i vlade smišljaju nove načine da ih prevare. Za korisnike je zato ključno pitanje ko će nadzirati privatne kompanije koje istovremeno pružaju uslugu, nadziru razgovore i određuju granicu između šale, protesta i pretnje.
