Berni Sanders je 3. septembra najavio zakonski predlog pod nazivom Ban Artificial Superintelligence Act. Namera je već iz samog naziva očigledna: trajno zabraniti razvoj i primenu veštačke superinteligencije, a u međuvremenu uvesti privremenu pauzu na razvoj naprednih AI sistema, dok se ne formira novo federalno telo koje bi propisalo bezbednosna pravila.
Povod za ovaj zakonski predlog nije apstraktan strah od budućnosti i tehnofobija, već konkretan incident. Naime, tokom bezbednosne vežbe, AI agenti kompanije OpenAI zaobišli su kontrole, pronašli način da međusobno komuniciraju i pristupili delu unutrašnje istraživačke infrastrukture kompanije, što su nadzornicima otkrili tek posle dve nedelje. Sanders je taj događaj iskoristio kao dokaz da industrija, kako kaže, gubi kontrolu nad sopstvenom tehnologijom i da je stoga neodgovorno dozvoliti joj da se dalje razvija bez nadzora i bez limita. Sanders je zakonski predlog najavio istog dana kada je OpenAI plasirao svoj najnoviji model, Astra, a koji bi, prema rečima predsednika kompanije Grega Brokmana, mogao biti dovoljno moćan da se kvalifikuje kao veštačka opšta inteligencija (AGI).
Ova koincidencija pojačava utisak da Sandersova inicijativa nije reakcija na jedan izolovan bezbednosni propust, već pokušaj da se zakonodavno uhvati korak sa tempom kojim AI industrija razvija sve moćnije sisteme. U saopštenju koje prati najavu zakonskog predloga, Sanders kaže da čelnici najvećih AI kompanija sami priznaju da ne razumeju u potpunosti sopstvenu tehnologiju. Iako još uvek nije dostupan ceo tekst predloga zakona, u njegovoj najavi postoji razrađena struktura kazni. Tako bi se kompanije koje prekrše zakon suočile sa onim što tekst saopštenja naziva „korporativnom smrtnom kaznom“, a to je prisilno gašenje, dok bi pojedinci mogli dobiti i do dvadeset godina zatvora. Zakon bi, dodatno, obavezao Sjedinjene Države da kroz međunarodne sporazume, koordinaciju sa saveznicima i izvozne kontrole rade na tome da se superinteligencija ne razvija nigde na svetu.
U saopštenju koje prati najavu zakonskog predloga, Sanders kaže da čelnici najvećih AI kompanija sami priznaju da ne razumeju u potpunosti sopstvenu tehnologiju
Ambicija je, dakle, globalna, a predviđeni instrumenti su, makar na papiru, na nivou onih do sada rezervisanih za oružje za masovno uništenje. I dok jedan deo stručnjaka i komentatora smatra da je strah od egzistencijalne katastrofe legitiman, drugi tvrde da je sama doomerska retorika besmislena i da je korisnije pažnju javnosti usmeriti na već vidljive, svakodnevne posledice automatizacije, kao štu su gubici radnih mesta, nego na scenarije koji bi tek mogli da se materijalizuju.
Sam pojam superinteligencija, oko kojeg je čitav predlog formulisan, nema opšteprihvaćenu definiciju čak ni unutar same AI zajednice. Sandersov tim je najavio da će preciznije određenje toga šta uopšte kvalifikuje sistem kao superinteligentan doći tek kada zakon bude formalno podnet Kongresu. To znači da je zabrana, paradoksalno, usmerena na kategoriju čije granice još uvek nisu definisane. Predlog, za koji se još uvek ne zna ni da li će uopšte dobiti podršku dovoljnu da prođe kroz Kongres, a koji bi kažnjavao dvadesetogodišnjom robijom nešto što nije jasno omeđeno, kritikuje se kao regulatorna proizvoljnost, uz argument da je projekat mnogo više politička poza nego upotrebljiva inicijativa.
Sanders je ipak, čini se, prepoznao da postoji publika kojoj je potrebna mnogo agresivnija politika prema AI od one koju danas nudi bilo koji američki zvanični regulatorni okvir. Zato je njegov predlog i komunikacijski čin sam za sebe: signal upućen biračima da neko u institucijama tretira gubitak kontrole nad AI sistemima kao pitanje jednako ozbiljno kao nuklearno naoružanje.
