Već dugo imamo četbotove koji su u stanju da vode umesne razgovore, prepoznaju osnovne namere sagovornika i odgovaraju na upite prema unapred postavljenim pravilima i podacima. Njihovi kapaciteti su dramatično uvećani poslednjih meseci, što je u mnogim krugovima izazvalo zabrinutost i paniku.
O sistemima veštačke inteligencije koji će umesto studenata pisati domaće zadatke već je dosta rečeno. Ali pitanje koje zahteva veću pažnju glasi kako oni treba da reaguju kada ljudski sagovornici koriste agresivne, seksističke ili rasističke iskaze kako bi podstakli bota da uzvrati vlastitim nepodopštinama? Da li oni treba da bude programirani da odgovaraju istom merom na takva pitanja?
Ako je kucnuo čas da se ova pitanja nekako regulišu, treba odrediti okvire te vrste cenzure. Da li će politički stavovi koje neke društvene grupe smatraju uvredljivima biti zabranjeni? Šta je sa izrazima solidarnosti sa Palestincima na Zapadnoj obali, ili sa tvrdnjom da je Izrael zemlja aparthejda (koja se našla i u naslovu knjige bivšeg američkog predsednika Džimija Kartera)? Da li bi to bilo blokirano kao izraz antisemitizma?
I tu nije kraj problema. Kako upozorava umetnik i pisac Džejms Bridl, novi AI sistemi „zasnovani su na sveobuhvatnoj aproprijaciji postojeće kulture“, ali uverenje da oni „poseduju istinska znanja ili imaju svest je opasna zabluda“. Takođe treba biti veoma oprezan prema novim generatorima slika. „Pokušaj da se obuhvati celokupna vizuelna kultura ljudske civilizacije“, primećuje Bridl, „doveo je do rekreiranja naših najdubljih strahova. Možda to samo znači da ovi sistemi jako dobro oponašaju rad ljudske svesti, uključujući užase koji vrebaju iz dubina naše egzistencije: strahove od bola, smrti ili korupcije.“
Ali koliko su novi AI sistemi zaista dobri u oponašanju ljudske svesti? Uzmite na primer kafanu koja je nedavno reklamirala svoja pića na ovaj način: „Kupite jedno pivo po ceni od dva i dobićete drugo pivo potpuno besplatno!“ Za ljudska bića ovo je šala. Uobičajena formula „kupiš jedan, dobiješ dva“ preformulisana je u apsurdni iskaz. U pitanju je cinizam koji mi prihvatamo kao komičnu iskrenost u cilju podsticanja prometa. Da li bi četbot to mogao da razume?
„Jebote“ predstavlja sličan problem. Mada ta reč označava nešto u čemu većina ljudi uživa (kopulacija), često ima i negativnu valencu („Sjebani smo!“ „Jebi se!“). Jezik i stvarnost su neuredni. Da li veštačka inteligencija može da uoči te razlike?
U svom eseju iz 1805. „O postepenom formiranju misli u procesu govora“ (objavljenom posthumno 1878) nemački pesnik Hajnrih fon Klajst preispituje opšte uverenje da treba ćutati ako nemamo jasnu ideju o tome šta hoćemo da kažemo: „Ako je dakle misao izražena nejasno, to uopšte ne znači da je ona sama konfuzna. Naprotiv, sasvim je moguće da su ideje koje su izražene na krajnje zbunjujuć način upravo najjasnije promišljene ideje.“
Odnos između jezika i misli izuzetno je komplikovan. U odlomku iz jednog od Staljinovih govora s početka 1930-ih, nalazi se njegov predlog radikalnih mera za „otkrivanje i nemilosrdnu borbu čak i protiv onih koji se kolektivizaciji opiru samo u svojim mislima – da, zaista to smatram, treba se boriti čak i protiv misli ljudi“. Realna je pretpostavka da ovaj deo govora nije bio pripremljen unapred. Ponesen trenutkom Staljin je rekao upravo ono što misli. I dopala mu se sopstvena hiperbola.
Kao što je Žak Lakan kasnije rekao, to je primer istine koja se iznenadno javlja kroz čin izricanja. Luj Altiser je identifikovao sličan fenomen u odnosu dobitka (prise) i iznenađenja (surprise). Osoba iznenada dobija ideju i biva iznenađena time. Da li to može da se dogodi bilo kom četbotu?
Problem nije u tome što su oni glupi, već u tome što nisu dovoljno glupi. I nije u tome što su naivni jer ne primećuju ironiju, već u tome što nisu dovoljno naivni. Prava opasnost dakle nije u tome što će ljudi pomešati četbot sa stvarnom osobom, već u tome da će se zbog komunikacije sa četbotovima stvarni ljudi svesti na njih – prestaće da primećuju nijanse i ironiju i izgovarati ono što četbotovi mogu da razumeju.
Moj prijatelj iz mladosti je posle doživljene traume otišao kod terapeuta. Vođen klišeima o tome šta analitičari očekuju od svojih pacijenata, svoju prvu seansu posvetio je lažnoj mržnji prema svom ocu. Reakcija analitičara je bila genijalna. Zauzeo je naivan predfrojdovski stav i zamerio mom prijatelju odsustvo poštovanja prema ocu: „Kako možeš tako da govoriš o osobi koja te je stvorila?“ Lažna naivnost poslala je jasnu poruku: odbijam tvoje lažne tvrdnje. Da li bi četbot uspeo da shvati ovaj podtekst?
Verovatno ne bi i ponašao bi se kao knez Miškin iz Idiota Dostojevskog po tumačenju Rovana Vilijamsa. Prema standardnom razumevanju, Miškin je idiot, svetac, dobar čovek koga brutalnost i strasti ovoga sveta odvode u ludilo. Ali u Vilijamsovom radikalnom čitanju Miškin je srce oluje: mada dobar, svetac, on je taj koji izaziva pustoš i smrt kojima svedoči, zahvaljujući svojoj ulozi u složenoj mreži odnosa oko sebe.
Ne radi se samo o tome da je Miškin naivni durak. Zbog svoje posebne vrste gluposti on je nesvestan svog pogubnog uticaja na druge. To je osoba koja doslovno govori kao četbot. Njegova dobrota je u tome što, poput četbota, on reaguje na izazove bez ironije, nudeći floskule bez preispitivanja, shvatajući sve doslovno i oslanjajući se na mentalne formule, a ne na autentično formirane ideje. Zato novi četbotovi odlično pristaju novim ideolozima celog spektra, od Woke probuđenih levičara do uspavanih Maga desničara.
