piše Mika Tasić, kreativni tehnolog
Pre neki dan sam natrčao na ovaj zanimljiv izveštaj koji otkriva ozbiljne i skrivene opasnosti u najnovijim konverzacijskim AI igračkama, lutkama poput Curio Grok, FoloToy Kumma ili Miko 3, koje koriste veštačku inteligenciju kako bi mogle da govore. Testiranje je pokazalo da ove igračke mogu da generišu seksualno eksplicitan sadržaj, da mogu da daju deci savete o pronalaženju opasnih predmeta u domaćinstvu, i da neke igračke koriste dizajn koji izaziva zavisnost, tako što lutka tužno govori da će „patiti“ ako je dete ostavi samu.
Naravno da sam ovako zanimljiv članak prokomentarisao sa svakim sa kim sam sedeo u kafani u poslednje vreme. Na moje poprilično iznenađenje, moji sagovornici nisu bili toliko zainteresovani za činjenicu da je neko namerno napravio igračku koja emotivno ucenjuje decu da se igraju sa njom, ili da je neko iz nemara ostavio otvorena vrata da deca mogu od lutke saznati ono što možda i ne bi trebalo. Ne, gotovo svi su bili zaprepašteni činjenicom da je neko uopšte postavio AI u lutkicu. Što me je malo zbunilo. Možda zato što sam ja „kompjuteraš“, ali nisam mogao da verujem da sam ja jedini koji je video da je to postalo neminovno čim je AI progovorio.
Strah od nepoznatog
U stvari, siguran sam da nisam. Siguran sam da od kada je prvo pra-dete ukrstilo dve grančice i napravilo prvu pra-lutku, pa do dana današnjeg, svako ko se ikada ozbiljno poigrao sa nekom lutkom je poželeo da ona progovori. Nema mnogo univerzalnih snova koje nosimo u sebi od kad smo sišli sa grane, a koje nam je moderna tehnologija ostvarila. Letenje, ili disanje pod vodom, par su koji mi padaju na pamet. I sada, kada smo najzad napravili još jedan univerzalni san u javu, umesto da slavimo, mi se nekako tog dostignuća gnušamo.
Naša nelagoda prema veštačkoj inteligenciji dolazi zato što ne razumemo, zato što je moćno, i pogotovu što je neizbežno
Mislim da mi je jasno odakle ta neloagoda dolazi. Iz istog mesta iz koga dolazi svaka nelagoda prema nečemu što ne razumemo, prema nečemu što je moćno, i pogotovu prema nečemu što je neizbežno. Ali zašto bismo se bojali nečega što smo oduvek priželjkivali? Zašto bismo se bojali ostvarenja naših prasnova, koje smo do sada mislili da samo magijom možemo rešiti?
Možda baš zato što ne posmatramo tehnologiju kao magiju.
Još pre desetak godina, mudra Aleks Krotoski je u jednoj od epizoda svog serijala Digitalni ljudi iznela zapanjujuće pronicljiv pogled na digitalne tehnologije.
Njena osnovna teza je da je nama, kao laicima, izuzetno teško da uopšte razgovaramo o tehnologijama koje zapravo ne razumemo. Nedostaje nam rečnik kojim bismo mogli da artikulišemo probleme s kojima se suočavamo.
Međutim, u ovoj epizodi Aleks iznosi da to ne bi trebalo da bude prepreka, jer ta premisa zapravo nije istinita. Poučeni fantastično jednostavnom, a veoma dubokom mišlju Artura Klarka – „Svaka dovoljno napredna tehnologija je nerazlučiva od magije“ – možemo se zapitati: zašto se mi ne odnosimo na taj način prema digitalnim tehnologijama?
Zamislite da vas posmatra neko od pre nekoliko stotina godina. Kako bi on opisao ono što vidi? Kada bi video da na dohvat ruke, na vašem pametnom telefonu, imate celokupno znanje ljudske rase
Zašto ne bismo koristili jezik, odnosno način razgovora o stvarima koje ne razumemo, koji smo razvijali još od kada smo uvezivali prve grančice u lutke? Jezik magije – onaj koji govori o čarolijama, vradžbinama i kletvama. Jezik koji razvijamo eonima da bismo artikulisali nedokučivo.
Manfestacija mašte
Ovakav, naizgled banalizovan pogled na problem, u stvari predstavlja veoma moćan alat kojim, čak kao i laici, možemo da razlučimo i artikulišemo digitalne pojmove i izazove bez razumevanja tehnologija, šablona ponašanja korisnika, etike digitalne interakcije, dopaminskog inženjeringa, ili modela monetizacije.
Zaboravimo na raspričane lutke na trenutak. Da krenemo od nečeg mnogo poznatijeg i bližeg: pametnog telefona.
Probajte da posmatrate taj uređaj kao predmet čiste magije. Zamislite da vas posmatra neko od pre nekoliko stotina godina. Kako bi on opisao ono što vidi? Kada bi video da na dohvat ruke imate celokupno znanje ljudske rase, da precizno znate gde se vaši voljeni nalaze, ili kada će početi da pada kiša, naš posmatrač bi to opisao kao čistu čaroliju.
Međutim, kada bi vas video kako kasno noću, sa krvavim očima, prevrćete po TikToku ili Instagramu, privoljeni algoritmom koji vas drži „zakačenim“, verovatno bi pomislio da je u pitanju strašna kletva.
Telefon je magičan. Da li iz njega izvlačimo čarolije, ili dozvoljavamo kletvama da procure, to je na nama. Meni je ovaj jednostavan način posmatranja digitalnih interakcija pomogao da artikulišem ono što mi je, iako sam profesionalac u ovoj oblasti, bilo teško da objasnim sebi i svojoj deci. Zašto mi se stomak zgrči kada ih vidim da prevrću TikTok i zašto me sunce ogreje kada sa robotom debatuju školsko gradivo. Prvo je kletva, drugo je čarolija, i odjednom sve dobija smisao.
Tako isto i sa lutkama. Siguran sam da će biti i čarobnih i ukletih. Samo je na nama da procenimo koja je koja, ali koristeći jezik i vizuru magije će nam biti mnogo lakše da to intuitivno razlučimo.
Mašta ono što nas čini ljudima. Ta naša sposobnost da ukrstimo tri grančice i da u našem umu one ožive, progovore, i razigraju se
Naravno, sve je to relativno. Čarolija za jednog je kletva za drugog, ali u tome i jeste štos. Imati mehanizam da odlučimo šta je šta za nas. Za mene, što dublje razmišljam o problem, sve mi jasnije zašto je svako sa kim sam pričao imao intuiciju da je ovo loša ideja, i sve mi je jasnije da je veoma teško naći ugao iz koga samo postojanje prave, realne raspričane lutke nije kletva.
Ne zbog toga što nemaju dobre nivoe kontrole pa govore gluposti, ni zbog toga što neki gramzivi zlotvor želi da eksploatiše decu na emotivnom nivou za profit. Ne. Za mene, možda zato što sam već u godinama gde sećanje polako prelazi u nostalgiju, i novotarije koje se pojavljuju neminovno poredim sa onim što je bilo ranije, uz setu i sa neizbežnim „u moje vreme …” komentarom koje je i moj deda, a verovatno i njegov deda koristio u sličnim situacijama. Čudna je to perspektiva koju ja tek sada počinjem da razumem, jer tek sada kada mi je prosedela brada, imam doboko, intimno sećanje sa kojim mogu da poredim progres. Tek sada mogu da razumem cenu koju za to plaćamo.
Iz te perspektive, jasno se vidi trend koji je počeo mnogo pre nego što sam se ja rodio. Ta čudna trajektorija ka realizovanju, ka otelotvorenju, ka manifestaciji mašte.
„U moje vreme”
U moje vreme, Lego kockice su bil kockice. Ne planovi. Nije postojao koncept da Lego kockice mogu biti postavljene „pogrešno”. Bilo je ponekih setova, ali oni su se uglavnom kupovali jer su imali neku ludu kockicu u sebi. Prozor ili tako nešto. I to je bilo bolje. Za sve, opsim možda za vlasnike Lego akcija.
U moje vreme, kompjuterske igrice su se odvijale koliko na ekranu toliko i u mašti. Najbolja igra koju sam ikada igrao, Elita, sa najbukvalnije desetak pravih belih linija i par belih kružnica na ekranu u našim umovima je sazidala ceo univerzum, iako je ceo program zauzimao manje memorije nego ikonica koja vam u pretraživaču stoji pored adrese ovog članka. Sadašnja elita zahteva ne samo da vaš kompjuter bude ozbiljno moćan da bi nacrtao svako prelamanje svetla kroz nebrojene, panele na foto-realističnim svemirskim stanicama, već je i svaka „finasijska” transakcija, i svaka interakcija između igrača, praćena i zabeležena u nekom od bezbroj servera. I, možda samo za mene, ali nema te kartice, nema tog algoritma za renderovanje, koji može da oslika bledu reprezentaciju onoga što sam ja doživeo kada je moj, teško zarađeni, kompjuter za sletanje po prvi put zasvirao na lepom plavom Dunavu koristeći sva tri piskava kanala za generisanje tona na mom komodoru, i bez greške uparkirao moj svemirski brod u stanicu.
Čarolija i kletva
Gde god se okrenem, sve oko nas postaje banalizovano, manifestovano, realno. I to je možda u redu. Možda to tako treba a ja sam samo matori jarac koji zakera sa “u moje vreme…” Možda. Verovatno. Možda je nova Elita bolja od stare, kao što misle moja deca. Možda je preskriptivan Lego bolji, kao što misle Lego investitori… Možda. Mada sumnjam.
Lutke su progovorile. Svako dete koje se rodi od danas pa nadalje, će to smatrati najnormalijom stvari na svetu. To je svet u kome živimo. Naša je dužnost da taj svet razumemo
Ja smatram da je mašta ono što nas čini ljudima. Ta naša sposobnost da ukrstimo tri grančice i da u našem umu one ožive, progovore, i razigraju se. Da čak i bez tri linije na ekranu imamo sposobnost da izgradimo čitave univerzume u sebi. Ja mogu da vidim budućnost u kojoj postoje začarane lutke koje podučavaju decu, koje ih inspirišu, koje im rasplinjavaju maštu kao najbolje dadilje ikada. Ali takođe mogu da vidim i kletve na mnogo načina.
Jedna stvar je sigurna: lutke su progovorile. Svako dete koje se rodi od danas pa nadalje, smatraće to najnormalijom stvari na svetu. Svako od nas će, neminovno, kupovati lutke sa kojima se razgovara svojoj deci ili unučićima. To je svet u kome živimo. Naša je dužnost da taj svet razumemo da bi, kao i nebrojeno naših pedaka pre nas, naučili našu decu šta je čarolija a šta kletva.
