Početak septembra obeležilo je upozorenje da nekontrolisan razvoj veštačke inteligencije može da ugrozi čovečanstvo. Paralelno, kompanija Antropik je u svom redovnom izveštaju o zloupotrebama, za period od decembra prošle do avgusta ove godine, opisala pet slučajeva u kojima je Klod korišćen na načine koji bi mogli da podrže razvoj biološkog oružja.
U jednom od njih, od Kloda je zatraženo da napiše prijavu za finansiranje istraživanja virusa čikungunja, koji prenose komarci, usmerenog na povećanje njegove prenosivosti i sposobnosti izbegavanja imunskog odgovora. Ovakva, takozvana
gain-of-function istraživanja, mogu imati legitimne ciljeve, poput razvoja vakcina i terapija, ali iste informacije mogu da posluže i za povećanje opasnosti patogena. Antropik naglašava da nije mogao da utvrdi da li su istraživači nameravali da nanesu štetu. Zbog kombinacije sadržaja zahteva i veze sa vojnim istraživačkim institutom, kompanija je blokirala zahtev, zabranila povezane naloge i sa partnerima radila na gašenju posredničkih mreža.
Postoji bojazan da AI snižava prag znanja i resursa potreban za kreiranje sadržaja koji može ugroziti zdravlje i bezbednost velikog broja ljudi
Mesec dana ranije, tim sa Stanforda i Arc Institute objavio je da je pomoću AI modela Evo 2 dizajnirao nove viruse kakvi ne postoje u prirodi, a koji napadaju bakterije. Evo 2 predviđa genetski kod slično načinu na koji jezički modeli predviđaju sledeću reč u rečenici, s tim što u ovom slučaju model generiše DNK sekvence. Istraživači su sintetisali i testirali gotovo 300 predloženih virusa, a izdvojili su 16 koji su bili naročito efikasni protiv E. coli. Takvi bakteriofagi mogli bi da pomognu u borbi protiv infekcija otpornih na antibiotike, ali isti alat bi, teorijski, mogao da posluži i opasnijim ciljevima. Nova politika američke administracije, objavljena krajem jula 2026, zabranjuje federalnu podršku opasnim gain-of-function istraživanjima, ali u njenom tekstu nema izričitog pomena AI, što ponovo pokazuje koliko regulativa kasni za tehnologijom. Šta ovi događaji znače u praksi? Antropik navodi da koristi automatizovane klasifikatore koji prepoznaju rizične zahteve vezane za istraživanja u domenu biosigurnosti. Noviji i sposobniji modeli imaju strože zaštite, dok se za proveru legitimnosti koriste i podaci o nalogu i instituciji.
Međutim, akteri iz izveštaja zaobilazili su geografske i bezbednosne kontrole preko posrednika ili preusmeravanjem odbijenih zahteva drugim, manje kontrolisanim modelima. Evropa sa ovakvim izazovima pokušava da se nosi sistemski, a ne od kompanijskog do kompanijskog slučaja. U proceduri je predlog EU Biotech Act, koji izričito pominje primenu AI modela u biološkim istraživanjima i kao izvor sistemskog biološkog rizika, te predviđa Savetodavnu grupu za biosigurnost koja bi pratila sposobnosti tih alata. Privredni subjekti koji nude biotehnološke proizvode i sekvence od značaja za istraživanja morali bi sumnjive transakcije da prijave nadležnima u roku od 24 sata, a kazne za namerno ili nemarno kršenje mogle bi da dostignu pet odsto ukupnog svetskog godišnjeg prometa iz prethodne finansijske godine. To je, za sada, jedan od najkonkretnijih pokušaja da se AI i biosigurnost regulišu zajedno, umesto da se ovakve prakse prepuste samoregulaciji kompanija. Anketa Instituta za bezbednost i tehnologiju, sprovedena na 111 stručnjaka za nacionalnu bezbednost, pokazuje da 33 odsto smatra da AI već značajno povećava rizik od razvoja biološkog oružja, dok još 37 odsto očekuje da će se to dogoditi u naredne dve do tri godine. Njihova glavna bojazan u oblasti biologije nije autonomija modela, već to što AI snižava prag znanja i resursa potreban za kreiranje sadržaja koji može ugroziti zdravlje i bezbednost velikog broja ljudi.
