Czas rzucić wyzwanie kultowi technologii. Sztuczna inteligencja nie przejmie władzy nad światem – twierdzi wizjoner z MIT
„Zamiast myśleć o inteligencji maszynowej w kategoriach „człowiek kontra maszyna”, powinniśmy wziąć pod uwagę system, który ludzi i maszyny integruje” – pisze w eseju pt. „Forget about artificial intelligence, extended intelligence is the future” [„Zapomnijcie o sztucznej inteligencji, przyszłością jest inteligencja rozszerzona”] Joichi „Joi” Ito, aktywista, przedsiębiorca, rzecznik wolności w internecie – a przy okazji profesor MIT i dyrektor tamtejszego Laboratorium Mediów (MIT Media Lab).
Dziedzictwo Vernora Vinge’a
Tekst, będący rozwinięciem manifestu Ito pt. „Opierając się redukcji” („Resisting reduction: A Manifesto”, JoDS, październik 2017), ukazał się na stronie WIRED 24 kwietnia.
Czy roboty i sztuczna inteligencja zastąpią człowieka? Wiele teorii na ten temat, w tym zyskująca coraz liczniejsze rzesze zwolenników tzw. teoria technologicznej osobliwości (singularity) zakłada, że powinniśmy się tego spodziewać.
Pojęcie singularity wprowadził do publicznego dyskursu w latach 80. XX. wieku Vernor Vinge, amerykański pisarz science fiction, profesor matematyki i nauk informatycznych Uniwersytetu Stanowego San Diego. Zgodnie z jego definicją rozwijająca się gwałtownie cywilizacja osiągnie wkrótce punkt, po którego przekroczeniu postęp techniczny przyspieszy tak bardzo, że wszelkie ludzkie przewidywania staną się bezużyteczne.
Fałszywa religia
Podzielając to założenie, Ray Kurzweil, amerykański naukowiec i futurolog, twierdzi, że rozwijająca się w tempie wykładniczym sztuczna inteligencja w pewnym momencie zepchnie nasz gatunek na peryferie rzeczywistości, odbierze nam władzę nad światem. Dlatego jedyną szansą człowieka jest asymilacja technologii, „zupgrade’owanie” za jej pomocą niedoskonałej biologii ludzkiego organizmu.
Idea, że istniejemy dla postępu i że ten postęp wymaga nieograniczonego i wykładniczego wzrostu jest batem, który biczuje nas samych
To niebezpieczna i fałszywa religia – uważa Ito. Za jej powstaniem mają stać ci, którzy zaprojektowali i wdrożyli obliczenia do rozwiązywania problemów uważanych wcześniej za zbyt skomplikowane dla maszyn. Sztuczna inteligencja jest idealnym partnerem tych ludzi, ponieważ zwiększając szybko swoją zdolność do przetwarzania złożoności, pomnaża ich władzę i bogactwo.
Finansowy sukces cyfrowych technologii (czyli w konsekwencji – ich twórców) oraz ich masowy kult stworzyły jednak coś w rodzaju pętli zwrotnej, której nie ma mechanizmu samoregulacji. Krzywa wykładnicza wzrostu sztucznej inteligencji podnosi się bez ograniczeń, jest siłą samonapędzającą się i coraz bardziej niebezpieczną. „Idea, że istniejemy dla postępu i że ten postęp wymaga nieograniczonego i wykładniczego wzrostu jest batem, który biczuje nas samych” – pisze Ito.
Wszystko jest systemem
Jego zdaniem większość naszych problemów – od zmian klimatycznych, poprzez ubóstwo, choroby przewlekłe, po współczesny terroryzm – wynika z dążenia do dobrobytu i technologicznego wzrostu. Nowe problemy mają źródło w starych narzędziach, którymi próbowaliśmy rozwiązywać problemy wcześniejsze. Nieustannie zwiększając produktywność i pragnąc coraz większej kontroli nad coraz bardziej skomplikowanymi systemami, doprowadziliśmy do sytuacji, w której systemy te stały się zbyt złożone, byśmy byli w stanie je kontrolować.
Tymczasem „musimy uwzględniać wiele wzajemnie powiązanych, złożonych, samodostosowujących się systemów w różnych skalach i wymiarach, które nie mogą być w pełni znane ani oddzielone od obserwatora i projektanta” – pisze Ito. Nawet jednostki, pojedynczy ludzie, są systemami składającymi się z mniejszych systemów, takich jak komórki w naszych ciałach. Systemy te stale się zmieniają, zwiększając swą różnorodność, złożoność, a przez to – odporność, zdolność do adaptacji i trwałość. Taki mechanizm można nazwać „projektowaniem partycypacyjnym”, bo system projektują jego uczestnicy.
Liczenie to za mało
Tyle że „maszyny z wyłaniającą się inteligencją mają wyraźnie różne cele i metodologie. Kiedy wprowadzamy takie maszyny do złożonych systemów adaptacyjnych, takich jak gospodarka, środowisko czy zdrowie, nie zastępują one poszczególnych ludzi, ale rozbudowują te systemy” – zaznacza Ito.
I tu właśnie pojawia się kwestia „sztucznej inteligencji”, absolutyzowanej między innymi przez zwolenników teorii osobliwości. Pojęcie „sztucznej inteligencji”, już samo w sobie dla Ito dyskusyjne (bo przecież więcej obliczeń nikogo i niczego nie czyni bardziej inteligentnym, tylko bardziej wydajnym obliczeniowo), zakłada istnienie form, celów i metod, które pozostają poza interakcją z innymi złożonymi systemami adaptacyjnymi.
Dziś inteligencja jest zjawiskiem funkcjonującym w sieci wielu umysłów ludzi i maszyn, które współdziałają ze sobą na kształt umysłu zbiorowego
Rzecz w tym, że dziś od kontrolowania czy rozumienia systemów ważniejsze jest, zdaniem Ito, projektowanie systemów jako odpowiedzialnych, świadomych i solidnych części składowych systemów bardziej złożonych. Badania, które prowadzi zespół Ito, dotyczą powiększania i wspomagania złożonego ekosystemu, który wyłania się z sieci umysłów i maszyn. W tym systemie ludzie i maszyny mają ewoluować, być ze sobą powiązani.
– W miarę jak rozwijamy coraz potężniejsze narzędzia do przetwarzania informacji, czyż nie dodajemy po prostu nowych elementów do rozszerzonej inteligencji, których częścią jest każdy uczestnik sieci? – pyta retorycznie szef MIT Media Lab.
Inteligencja, czyli wielość
Większość badań nad sztuczną inteligencją ma na celu przyspieszenie procesu uczenia się maszyn, zwiększenie ich zdolności obliczeniowych – by stały się bardziej inteligentne.
To błędne podejście, albowiem inteligencja nigdy nie ograniczała się do jednego myślącego podmiotu – zawsze znajdowała się poza jakimkolwiek pojedynczym umysłem. Ludzka inteligencja rozwijała się pomiędzy jednostkami i właśnie to uczyniło nas tym, kim jesteśmy. Dziś inteligencja jest zjawiskiem funkcjonującym w sieci wielu umysłów ludzi i maszyn, które współdziałają ze sobą na kształt umysłu zbiorowego.
Adres filmu na Youtube: https://www.youtube.com/watch?v=KF9ZqnEiSzU
Źródło: MIT Media Lab / YouTube
To, co nazywamy sztuczną inteligencją, może się przydać, w naturalny sposób rozszerzając możliwości inteligencji połączonej w sieć. Rozszerzona inteligencja (extended intelligence) to zjawisko rozproszone.
Zdaniem Ito na poziomie indywidualnym w przyszłości możemy funkcjonować już nie jako pojedyncze jednostki, ale jak rozległa sieć ludzi i maszyn tworzących coraz potężniejszą rozszerzoną inteligencję. Staniemy się elementami wielkiego, różnorodnego systemu, w którym każdy element będzie połączony z innymi przez coraz bardziej rozproszone interfejsy. Na różnych poziomach tego systemu każdy elementów – czy to bit, atom, komórka, człowiek czy maszyna – będzie robił to, do czego jest przeznaczony, co potrafi najlepiej.
SI nie zapanuje nad światem
Badaczy MIT Media Lab na czele z Ito interesuje więc rozbudowywanie i maszynowe wspomaganie złożonego ekosystemu, który wyłania się z sieci umysłów ludzi i maszyn. Rozszerzona inteligencja jest bowiem zjawiskiem rozproszonym. Rozwijając coraz potężniejsze narzędzia do przetwarzania informacji dodajemy do rozszerzonej inteligencji kolejne elementy, rozbudowujemy ją.
Laboratorium pracuje nad nowymi interfejsami umożliwiającymi lepszą komunikację między ludźmi i maszynami. Dzięki nim zamiast sztucznej inteligencji, która miałaby zapanować nad światem, powstanie nowa, sieciowa rzeczywistość bezpieczniejszej dla człowieka rozszerzonej inteligencji.
Joichi „Joi” Ito – japoński działacz, przedsiębiorca, inwestor i dyrektor MIT Media Lab. Jest profesorem praktyki sztuk medialnych i nauk ścisłych w MIT, prezesem zarządu PureTech Health, strategicznym doradcą Sony Corporation, członkiem zarządu The New York Times Company i wielu fundacji naukowych. Co miesiąc publikuje swoje teksty w „Wired”.