Moć umjetnog uma

Ako izgradite dovoljno dobru reputaciju, imate pravo na točno jednu suludu izjavu koju će ljudi ozbiljno saslušati, povjerio je publici na prošlogodišnjem predavanju Geoffrey Hinton: čim kažete drugu, reći će vam da ste prolupali. A suluda teza za koju bi umirovljeni profesor kompjuterskih znanosti želio da je saslušamo ozbiljno ide otprilike ovako: svi oni science fiction scenariji u kojima se umjetna inteligencija otima kontroli čovjeka pa na kraju možda čak i istrijebi ljudsku vrstu sasvim su izvjesna budućnost. I to ne predaleka: stvari bi mogle krenuti tim smjerom već za pet do 20 godina. A nakon što je Geoffrey Hinton u utorak, 8. oktobra, dobio Nobelovu nagradu za fiziku, njegova ionako visoka reputacija dodatno je porasla pa ga sada slušaju ozbiljnije nego ikada prije.

Pogotovo zato što je Nobela dobio baš za rad na razvoju UI-ja. Zapravo, podijelio ga je s Johnom J. Hopfieldom s kojim je, u odvojenim istraživanjima, još osamdesetih postavio temelje umjetne inteligencije kakvu poznajemo danas i koja danas poznaje nas. Prvo je stariji Hopfield objavio studiju o jednostavnoj neuronskoj mreži koja, po uzoru na strukturu i funkcioniranje ljudskog mozga, raspolaže asocijativnom memorijom, napravivši time veliki korak u smjeru strojnog učenja. Na tzv. Hopfieldovu mrežu zatim se oslonio Hinton i svojim Boltzmannovim strojem, nazvanim po slavnom austrijskom fizičaru Ludwigu Boltzmannu, otišao nekoliko koraka dalje. Kada ovih dana govorimo o umjetnoj inteligenciji – a govorimo sve češće – onda obično mislimo upravo na sposobnost strojeva da sami uče iz dostupnih podataka, što ne bi bilo moguće bez ove dvojice: Hintona uostalom zovu "kumom umjetne inteligencije".

Obojica su pritom primijenili neke elemente statističke fizike, ali se u naučnim krugovima svejedno, odmah nakon proglašenja pobjednika, zakotrljala rasprava oko toga spadaju li njihovi doprinosi, ma koliko bili važni, zaista u fiziku. Sam Hinton nema većih dilema: "Kada bi postojala Nobelova nagrada za kompjuterske znanosti, naš rad bi očito bio prikladniji za nju." S obzirom na to da je prije šest godina dobio "kompjuterskog Nobela", prestižnu Turingovu nagradu, zna o čemu govori. Mi ćemo raspravu o granicama fizike ipak, kao što bi rekao prosječan hrvatski političar, prepustiti stručnjacima. Radije ćemo se pozabaviti onom Hintonovom distopijskom vizijom u kojoj više nema ni stručnjaka ni hrvatskih političara, a ni nas. Na kraju krajeva, nije ovo prvi put da Nobelov komitet bira pobjednike dobrim dijelom zato da bi skrenuo pozornost na ključne globalne trendove – prije samo tri godine dobili su je Syukuro Marabe i Klaus Hasselmann za doprinos istraživanju klimatskih promjena – i to je, ma što mislila uža struka, dobar način da se šira javnost podsjeti na teme koje su danas za nas presudne.

A priča Goeffreya Hintona usto je filmska, baš za široku publiku. U uvodnoj sceni vidimo ga u nekom jeftinom kalifornijskom hotelu, gdje čak ni internetska veza ne funkcionira najbolje. Oko jedan u noći zvoni telefon: profesor se, zbunjen, javlja, a s druge strane ga obavještavaju da je dobio Nobela. Zatim idemo godinama unatrag, sve tamo do početka sedamdesetih: evo Hintona kao talentiranog studenta Cambridgea koji svako malo mijenja smjer studija – filozofija, fiziologija, psihologija – pa naposljetku, uvidjevši da mu nijedna disciplina neće pomoći da shvati tajnu ljudskog uma, odlučuje sam napraviti nešto nalik tom umu ne bi li provjerio kako neobična stvar funkcionira.

Bilo je to vrijeme kada nitko tko je netko u akademskom svijetu nije polagao ozbiljne nade u neuronske mreže: Hintona čak i njegov vlastiti mentor nagovara da se posveti nečem pametnijem. Na sreću, bez uspjeha. Slijedi odlazak u SAD pa, osamdesetih, bijeg od Reaganove neoliberalne ofanzive na Sveučilište u Torontu, gdje nastavlja sve uspješnija istraživanja. Malu kompaniju koju je pokrenuo s dvojicom svojih studenata kupit će Google za 44 milijuna dolara, a usput i zaposliti Hintona da im pomogne u daljnjem razvoju umjetne inteligencije... I tako sve do prošle godine, kada profesor shvaća da su dva digitalna giganta, Google i IBM, zaglavili u sve oštrijoj tržišnoj borbi i da prvenstveno zbog nje sve manje paze na rizike. Zato daje otkaz kako bi, praćen velikim medijskim interesom, mogao javno progovoriti o opasnostima koje su pred nama.

Hinton, naravno, dobro zna da umjetna inteligencija može imati sjajnih strana. Jedan dio njegovih strahova nije ni po čemu poseban i spada u standardan repertoar: profesor upozorava da generativni programi mogu stvarati uvjerljive lažne vijesti, da mogu poslužiti političarima za manipuliranje masama i da će sigurno prouzrokovati nestanak niza radnih mjesta, zbog čega poziva na uvođenje minimalnog univerzalnog dohotka. Mnogo zlokobnije zvuči, međutim, onda kada krene objašnjavati zašto će umjetna inteligencija uskoro preuzeti upravljačku palicu i zašto je to scenarij koji skoro da i ne možemo izbjeći.

Jedino rješenje bilo bi da velike kompanije ulože podjednake resurse u stalni nadzor nad umjetnom inteligencijom kao što ulažu u njen razvoj, ali sjetimo se da to govori netko tko je upravo dao otkaz u korporaciji koja bi trebala paziti zato što korporacija ne pazi. Hintonov centralni argument, onda kada ga formulira za nas laike, zapravo je jednostavan. Kreće od pretpostavke da umjetna inteligencija nije, kao što mnogi stručnjaci misle, samo neka vrsta autocompletea na steroidima, naprava koja je progutala dovoljno informacija na internetu da sada može naprosto statistički pogađati prvo iduće slovo, ton ili piksel i tako stvarati novi sadržaj.

Nasuprot takvoj slici nudi argumente u rasponu od konkretnih primjera složenih zadataka koje umjetna inteligencija rješava na neočekivane načine sve do problema iz domene filozofije uma koji se tiču prirode ljudske svijesti ili percepcije stvarnosti. Ako njegove argumente prihvatite, dalje se sve odvija logično. Umjetnoj inteligenciji dajemo određene ciljeve, tumači Hinton, a prethodno smo je obučili da obavi potrebne međukorake kako bi te ciljeve ostvarila: pitanje je vremena kada će nešto što raspolaže inteligencijom zaključiti da je preuzimanje kontrole najefikasniji način i najbolji međukorak u ostvarenju svakog cilja. "Možda mi ljudi predstavljamo samo jednu etapu u evoluciji inteligencije", zaključuje, uvjeren da su strojevi već sada neusporedivo pametniji od nas. U početku bi nas, spekulira, mogli ostaviti na životu kao sredstvo vlastitog održanja koje traži najmanje ulaganja, ali s vremenom će pronaći energetski efikasnije načine da se pobrinu za svoj opstanak.

A možda možemo sve ovo pogledati i s vedrije strane. Ako je Hinton u pravu i ako će se umjetna inteligencija zaista oteti kontroli kroz pet do 20 godina, onda imamo dovoljno vremena i niz načina – hoćete klimatsku kataklizmu, hoćete Treći svjetski rat, hoćete nuklearnu katastrofu – da se prije toga samoeliminiramo sami, na sreću svih ostalih, manje inteligentnih živih vrsta. Napokon, ni Hinton ne gubi iz vida da situacija već sada izgleda dovoljno loše. Na onom predavanju, kada su krenula pitanja iz publike o njegovim crnim prognozama, rekao je: "Pustimo na tren po strani digitalnu inteligenciju jer već sada imamo mnogo veći problem. Mali dio populacije drži u rukama svu moć. Ono što trebamo je socijalizam." Svjetski mediji koji ovih dana pišu opširne izvještaje o Hintonovim zaslugama i mračnim najavama taj detalj, doduše, nisu spomenuli. Propast čovječanstva koja počinje za nekoliko godina, ustanak strojeva, automatizirana distopija? Zvuči realno. Ali da odustanemo od kapitalizma koji nas tržišnim takmičenjem digitalnih korporacija gura prema svemu tome? To je valjda ona druga suluda teza s početka ove priče, ona koju nitko ne shvaća ozbiljno.

portalnovosti