Inteligencja, procesy decyzyjne, uniwersytety, pieniądze, imprezy koktajlowe, kina i małżeństwa to twory biologicznego mózgu. Inteligencja komputera wynosi zero – uważa John Searle
W 1996 roku, kiedy komputer Deep Blue pokonał w szachy genialnego Garriego Kasparowa, profesor filozofii John Searle mieszkał w Paryżu. I tam właśnie odebrał telefon z „New York Timesa”.
– Czy to cios w ludzką godność? – emocjonował się dziennikarz.
– Mam kieszonkowy kalkulator zdolny prześcignąć w liczeniu każdego matematyka, który kiedykolwiek żył na świecie. Czy to cios w ludzką godność? – ironizował Searle.
Chciałbyś być laptopem?
Od tamtej rozmowy minęło już ponad 20 lat. Dziś obawy o to, że mądre maszyny zajmą miejsce człowieka, płyną zewsząd. Choć są i tacy, dla których nadejście ery sztucznej inteligencji oznacza szansę na nadczłowieczeństwo. Albo wręcz nieśmiertelność: Ray Kurzweil uważa na przykład, że któregoś dnia wgramy swoją świadomość do dysku twardego komputera i odtąd przestaniemy się przejmować upływem czasu.
No dobrze, ale czy naprawdę chciałbyś przeżyć wieczność jako desktop czy laptop? – pyta Searle. Przecież człowiek to także ciało. Kto z nas potrafi sobie wyobrazić samego siebie jako plastikowego manekina z twardym dyskiem?
Cztery dekady temu John Searle dokonał rozróżnienia między tzw. silną a słabą sztuczną inteligencją. Za słabą uznał narzędzie służące do badania umysłu, natomiast silną zdefiniował jako tę, dzięki której mielibyśmy nie tylko umysł podglądać, ale też go tworzyć.
Tylko czy komputer może mieć jaźń?
Zagadka chińskiego pokoju
– Weźmy jakąkolwiek zdolność intelektualną, której nie posiadam – pyta uczony. – Czy możliwe jest, bym wszedł w jej posiadanie, tworząc odpowiedni program?
Wyobraź sobie, że trafiasz do pokoju, w którym na podstawie zestawu instrukcji masz napisać serię chińskich znaków, by porozumieć się z osobą posługującą się nieznanym ci kompletnie językiem chińskim. Ta osoba czeka na zewnątrz. Jeśli będziesz przestrzegał instrukcji, możesz ją oszukać, udzielając jej takich odpowiedzi, jakbyś znał chiński. Gdyby na twoim miejscu był komputer, odpowiedzi, których by udzielił, postępując tak jak ty, pozwoliłyby mu zaliczyć test Turinga. Ale czy to oznacza, że mielibyśmy do czynienia z samodzielnie myślącą sztuczną inteligencją?
Człowiek rozumie język, którym się posługuje. Komputer nie, bo program to nie umysł
Searle nie ma wątpliwości: nie, ponieważ rozumienie reguł to jeszcze nie samodzielne myślenie.
Opisany eksperyment myślowy, przedstawiony przez niego publicznie już w 1980 roku, jest nazywany „argumentem chińskiego pokoju” i kwestionuje możliwość powstania silnej sztucznej inteligencji.
Missisipi, nie Jangcy!
– To kłamstwo – rzecze Searle – że program komputerowy może mieć te same cechy, które wyróżniają ludzkie procesy kognitywne. Program jest zdefiniowany formalnie i składniowo, na tym polega jego siła.
Natomiast człowiek jest wyposażony w coś więcej – w semantykę. Potrafi nie tylko analizować reguły, ale też rozumieć znaczenia, do czego samo operowanie składnią nie wystarczy. Człowiek rozumie język, którym się posługuje. Komputer nie, bo program to nie umysł. Umysły – zaznacza Searle – mają semantykę, pogramy są czysto składniowe.
Tak jak Searle’owi bez trudu przychodzi wyobrazić sobie, że na zadane po angielsku pytanie o najdłuższą rzekę w Stanach Zjednoczonych odpowiada: „Missisipi” – tak sytuacja, w której podsuwają mu któryś z chińskich znaków i pytają o najdłuższą rzekę w Chinach, nie jest dla niego oczywista i komfortowa. Zapewne podpatrzywszy symbole i sięgnąwszy do swej szkolnej wiedzy, będzie w stanie domyślić się, że chodzi o Jangcy, ale przecież jego rozumienie chińskiego, w przeciwieństwie do rozumienia angielszczyzny, będzie tylko bierne.
Droga do San Jose
Mówią, że mamy dziś inteligentne urządzenia. Czyli takie, które mogą zrobić to, za co odpowiada poznanie: przetwarzać informacje, stany i procesy poznawcze. Tak właśnie mówią.
Searle: – Jest taka piosenka „Czy znasz drogę do San Jose”. Znam tę drogę: wjeżdżasz na autostradę 80, a potem w lewo, mam to w głowie. Ale wszystkie informacje na ten temat są też dostępne w moim GPS-ie. Ale mapa to tylko symbole na papierze, więc wartość informacji na niej zależy od mojej zdolności czytania tych symboli. Gdy kupujesz komputer, nie ma w nim żadnych informacji. Informacje w komputerze zawsze zależą od ciebie, czyli obserwatora, są oparte na twojej interpretacji, są względne w stosunku do ciebie.
Dlatego inteligencja twojego komputera wynosi zero. Jakie znaczenie ma to, że autonomiczny samochód jedzie sam, a automatyczny pilot steruje samolotem? Tylko praktyczne. Tyle że my zwykle nie potrafimy poprzestać na znaczeniu praktycznym i przypisujemy tym sytuacjom znaczenie także psychologiczne. Komputer jest bowiem pozbawiony jakichkolwiek zdolności poznawczych.
Kiedy Kurzweil mówi, że ludzka świadomość zostanie kiedyś przeniesiona na twarde dyski komputerów, nie ma na myśli tego, że w jakiś względny dla obserwatora sposób będziemy mieć umysły. On uważa, że my dosłownie wgramy nasze umysły do maszyn.
Liczenie to nie myślenie
OK. Jeśli rzeczywiście tak jest, to dlaczego komputery potrafią zaliczyć test Turinga?
Wcale nie dlatego, że mają świadomość. Do sukcesu w tym teście wystarczy im jedynie elektronika zawierająca informacje – a to my, ludzie, te informacje musimy interpretować. Komputer nie ma zielonego pojęcia, że cokolwiek zdał.
Czy liczenie, tak jak zdefiniował je Alan Turing, samo w sobie wystarcza, by zaszły procesy myślowe? Nie wystarcza. Liczenie oparte jest na składni, natomiast myślenie musi mieć jakąś zawartość.
Dziś nasze życie upływa wśród komputerów. Błędem jest jednak zakładanie, że ich wielka moc obliczeniowa przekłada się na mechanizmy psychologiczne. Według Searle’a inteligencja inteligentnych maszyn wynosi absolutnie zero.
Czy maszyna jest w stanie myśleć?
– W tym pytaniu zawarta jest supozycja, że my, ludzie, jakoś się od maszyn różnimy – zaznacza Amerykanin. – Ale my też jesteśmy maszynami. Mózg każdego z nas to taka maszyna w maszynie. Tak więc oczywiście: maszyny potrafią myśleć – ja mam jedną w swojej czaszce i ty masz jedną w swojej czaszce.
Jak więc w świetle powyższego wygląda sytuacja komputera – maszyny stworzonej przez człowieka? Gdybyśmy wiedzieli, jak działa mózg, moglibyśmy stworzyć maszynę, która myśli, po prostu kopiując działanie mózgu. Maszynę obdarzoną świadomością. Tak jak stworzyliśmy sztuczne serce, poznawszy pracę naturalnego serca.
Źródło: TED
Jak trawienie dla żołądka
Mózg to biologiczny organ, składa się z komórek. Miliardy tych komórek, neuronów, są w stanie tworzyć świadomość – to jej produktem jest inteligencja, procesy decyzyjne, rzeczywistość względna wobec obserwatora. Tak jak, wylicza Searle, „uniwersytety, pieniądze, imprezy koktajlowe, kina i małżeństwa”. Tyle że nie wiedząc, w jaki sposób mózg to wszystko wytwarza, nie wiemy, jak to samo mógłby osiągnąć sztuczny mózg. Gdybyśmy wiedzieli, moglibyśmy przecież leczyć defekty mózgu.
Przekonanie, że wynalezienie programu zdolnego wykonać setki milionów operacji na sekundę oznacza stworzenie świadomości, to złudzenie. Dla Searle’a świadomość ma się bowiem do mózgu tak, „jak trawienie do żołądka”: – Nikt nie mówi, że trawienie to przetwarzanie symboli. Trawienie to zbiór mechanizmów biologicznych.
Tak samo jest ze świadomością. Świadomość to zespół biologicznych mechanizmów, które dla żywych stworzeń są źródłem niezwykłych doznań. Zera i jedynki nie są takim mechanizmem przyczynowym. Tym mechanizmem jest biochemia.
Koniec optymizmu?
Kiedy byłem dzieckiem, wydawano wiele książek z tytułami takimi jak: „era rozumu”, „era oświecenia”, „era wiary”… Panował powszechny optymizm, przekonanie, że historię filozofii można zawrzeć w książkach. Więc myślałem sobie: a jaka jest nasza era?
Dziś wiem, że nasza era to era ściemy.
John Searle jest profesorem filozofii umysłu i języka na uniwersytecie w Berkeley. Wniósł ogromny wkład we współczesne myślenie o świadomości, języku i sztucznej inteligencji. W środowisku naukowym stał się powszechnie znany dzięki eksperymentowi myślowemu o nazwie „chiński pokój”, który kwestionuje pojęcie prawdziwie inteligentnej sztucznej inteligencji.
Tekst powstał na podstawie debaty Johna Searle’a z Luciano Floridim, która odbyła się podczas nowojorskiej konferencji „Technology and the Human Future” w dniach 20–21 października 2016