U posljednjim desetljećima svjedočili smo razvoju umjetnih sustava sposobnih za obavljanje zadataka koji su se nekoć smatrali isključivom prerogativom ljudi. Oni prepoznaju lica, prevode jezike, skladaju glazbu i postavljaju medicinske dijagnoze s točnošću koja u nekim područjima čak nadmašuje onu specijalista. Međutim, suočeni s tim postignućima, pojavljuje se ponavljajuća razlika: ovi sustavi funkcioniraju, ali ne osjećaju. Djeluju učinkovito, bez odgovarajućeg iskustva.
Ovo naizgled intuitivno odvajanje krije jednu od najsuptilnijih konceptualnih zamki suvremenog mišljenja. Postoji tendencija pretpostaviti da ako se sustav ponaša kao da nešto osjeća, onda odgovarajuće iskustvo također mora postojati u nekom obliku. Ali ovaj zaključak je daleko od očiglednog. Je li uočljivo ponašanje dovoljno da opravda pripisivanje osjećaja ili je to projekcija?
Epizoda koja se često navodi u akademskoj literaturi datira iz 1966. godine na MIT-u. Te je godine Joseph Weizenbaum predstavio ELIZA-u, program osmišljen za simulaciju terapijskog dijaloga inspiriranog Rogerovom psihologijom. ELIZA nije razumjela sadržaj razgovora: jednostavno je preformulirala rečenice sugovornika slijedeći jednostavna pravila. Unatoč tome, mnogi ljudi koji su komunicirali s programom izvijestili su o osjećaju da ih se sluša, a u nekim slučajevima i o emocionalnom olakšanju. I sam Weizenbaum bio je pogođen i uznemiren tim reakcijama: sustav je radio, ali nije čuo; ako je i bilo iskustva, ono je u potpunosti pripadalo ljudskom korisniku. Uređaj je, tako reći, ostao iznutra tih.
Ovdje se pojavljuje temeljna razlika. Funkcioniranje je dostupno izvana: može se mjeriti, uspoređivati i vrednovati u smislu performansi, vremena odziva i točnosti. Međutim, osjet nije. Ne postoje alati koji izravno mjere „kakav je osjećaj“. Australski filozof David Chalmers nazvao je ovaj jaz „teškim problemom svijesti“: zašto bi fizički ili funkcionalni proces trebao biti popraćen subjektivnim iskustvom?
Paradoks postaje još jasniji kada se uzme u obzir poznati šahovski meč iz 1997. između Garryja Kasparova i Deep Bluea, IBM-ovog superračunala. Sustav je pobijedio u meču analizirajući milijune pozicija u sekundi, procjenjujući opcije i birajući poteze. Pa ipak, nitko nikada nije ozbiljno tvrdio da je “znao” da pobjeđuje ili da je osjećao napetost, zadovoljstvo ili strah od pogrešaka. Njegov rad bio je besprijekoran, ali mu je nedostajala kvalitativna dimenzija koja u ljudskom iskustvu prati svaku odluku poput emocionalne podstruje.
Jedan od razloga zašto je ovu odvojenost teško prihvatiti leži u načinu na koji se iskustvo manifestira kod ljudi. U našem slučaju, funkcioniranje i osjećanje čine se neodvojivima: kada srce ubrzano kuca, osjećamo tjeskobu; kada se aktiviraju određena područja mozga, doživljavamo bol ili zadovoljstvo. Međutim, ova supojava ne znači identitet. To je korelacija, a ne objašnjenje. Konceptualni rizik je zamijeniti pratnju za uzrok ili čak samu bit fenomena.
U tom dvosmislenom prostoru između vidljivog i iskustvenog leži jedno od najdubljih pitanja u suvremenoj misli: mogućnost da funkcioniranje, ma koliko sofisticirano bilo, ne podrazumijeva nužno postojanje unutarnjeg svijeta. I da, čak i kada je ponašanje nerazlučivo, jaz između djelovanja i osjećanja može ostati netaknut.
KINESKA SOBA
U 1980-ima, John Searle je to objasnio namjerno provokativnim primjerom: Kineskom sobom. Sustav može savršeno manipulirati simbolima, ispravno reagirati na svaki unos, a da pritom ne razumije išta o tome što radi.
Kada Searle predstavlja Kinesku sobu, ne predlaže tehnički model, već malu kazališnu predstavu uma, posebno konstruiranu kako bi osporila neka raširena uvjerenja o umjetnoj inteligenciji u 1980-ima. To je jednostavna, gotovo banalna i upravo zbog toga uznemirujuća priča.
Zamislimo dakle ovu sobu. Zatvorena je, anonimna, bez prozora. Unutra je obična osoba, obrazovana, inteligentna, ali s jednom ključnom karakteristikom: ne razumije kineski. Za nju kineski znakovi nisu riječi; ne odnose se na predmete, emocije ili koncepte. To su neprozirni znakovi, poput geometrijskih oblika ili škrabotina.
U određenom trenutku, kroz pukotinu na vratima, počinju pristizati papiri. Na tim papirima su nizovi kineskih simbola. Za one vani, to su sasvim razumna pitanja: zahtjevi, priče, možda čak i pjesme. Za one unutra, međutim, to su samo konfiguracije znakova.
Ovdje dolazi do izražaja ključni element: u sobi se nalazi iznimno detaljan priručnik, napisan na jeziku koji osoba zna. Ne objašnjava kineski, ne govori vam što simboli znače. Samo kaže stvari poput: “Ako vidite ovaj simbol nakon kojeg slijedi ovaj, kopirajte ovaj drugi niz” ili “Ako niz ima ovaj oblik, odgovorite ovim drugim oblikom.” To je skup čisto formalnih pravila, slijepih za značenje.
Osoba pažljivo slijedi upute, gotovo poput računovođe koji izvodi postupke. Kopira simbole, kombinira ih i ispisuje. Proces može biti dug i naporan, ali funkcionira. Funkcionira tako dobro da je svatko izvan prostorije, čitajući odgovore, uvjeren da razgovara s nekim tko razumije kineski. Odgovori su prikladni, koherentni i ponekad briljantni. Bihevioralno, nema ničega što bi odalo obmanu.
Pa ipak, unutar sobe, ništa što obično povezujemo s razumijevanjem nije se dogodilo. Nikakve mentalne slike, nikakve reference na svijet, nikakva značajna iskustva. Osoba ne zna govori li o ljubavi ili ratu, kuhanju ili filozofiji. Čak ni ne zna da “govori”. Jednostavno manipulira simbolima na temelju njihovog oblika, a ne sadržaja.
Tu Searle zabija nož. Poziva nas da uočimo jaz između dvije razine koje često brkamo: s jedne strane, pravilno funkcioniranje, a s druge, živi svijet. Izvana se sustav ne razlikuje od uma koji razumije. Iznutra nema ničega što bi nalikovalo iskustvu razumijevanja.
Poanta nije u tome da je sustav nesavršen. Naprotiv: može biti savršen. Uvijek može ispravno reagirati. Može čak proći bilo koji test ponašanja. Pa ipak, kaže Searle, razumijevanje se nije pojavilo. Ne zato što nešto nedostaje kvantitativno, već zato što nešto nedostaje kvalitativno: pristup značenju, intencionalnost, “referenciranje na”.
Kineska soba, shvaćena na ovaj način, postaje snažna metafora za osporavanje ideje da je samo pokretanje pravog programa dovoljno da se pojavi um. Pokazuje kako je moguće savršeno simulirati inteligenciju bez da postoji točka bilo gdje u sustavu gdje se značenje “uključuje”. Ponašanje može uvjeriti promatrača, ali ne jamči postojanje unutarnjeg iskustva.
Zato eksperiment ostaje toliko utjecajan. Ne zato što rješava raspravu, već zato što nas prisiljava da ozbiljno shvatimo neugodno pitanje: kada kažemo da nešto razumije, o čemu zapravo govorimo? O načinu na koji reagira ili o činjenici da ti odgovori nekome, negdje, nešto znače?
ZAKLJUČAK
I ovdje se postavlja još neugodnije pitanje, ono koje često radije izbjegavamo: kako možemo biti sigurni da čak i kod živih bića osjećaj nije nešto temeljnije od funkcioniranja? Možda nije iskustvo ono što proizlazi iz procesa, već procesi koji se organiziraju unutar unaprijed zadanog polja iskustva. Iz ove perspektive, strojevi savršeno funkcioniraju jer su operativno zatvoreni sustavi; ono što im nedostaje nije složenost, već pristup tom polju svijesti koje kod živih bića prati svaku transformaciju.
Japanski inženjer uključen u razvoj društvenih robota podijelio je otkrivajući detalj na konferenciji u Osaki 2014.: „Robot prepoznaje tugu na ljudskom licu bolje od mnogih od nas. Ali ne može biti tužan. Ne može čak ni izbjeći tugu.“ To je jednostavna izjava, ali obuhvaća poantu: stroj ne nastanjuje vlastite operacije.