Czy rewolucja cyfrowa ze sztuczną inteligencją w roli głównej doprowadzi nas do utopii, czy raczej do apokalipsy? Dla Aleksandry Przegalińskiej oba scenariusze są mało realne. W swojej nowej książce opowiada dlaczego
Najpopularniejsza w Polsce badaczka nowych technologii – prof. Aleksandra Przegalińska z Akademii Leona Koźmińskiego, współpracowniczka MIT i Harvardu – często gości w mediach. Przy takich okazjach trudno jednak o wyczerpujące analizy czy wszechstronne ujęcia. Dlatego cieszy fakt, że wydawnictwo Znak wydało niedawno jej książkę „Sztuczna inteligencja. Nieludzka, arcyludzka”.
To wywiad rzeka, który z Przegalińską przeprowadził dziennikarz Paweł Oksanowicz. Znajdziemy tu przystępny przegląd najważniejszych kwestii związanych ze sztuczną inteligencją: od genezy tej technologii, przez omówienie jej realnych możliwości i kulturowych wyobrażeń towarzyszących jej rozwojowi, aż po kluczowe problemy związane z jej dzisiejszą obecnością w świecie.
Całość jest dynamiczna i dobrze oddaje tok myślenia badaczki. Duża w tym zasługa także samej Przegalińskiej, która unika przemawiania ex cathedra i często dzieli się ze swoim rozmówcą własnymi wątpliwościami.
Oddemonizować SI
Jednym z najważniejszych wątków przewijających się w rozmowach Przegalińskiej i Oksanowicza jest niewłaściwa ocena możliwości sztucznej inteligencji.
Dziś łatwo przypisujemy jej wszechmoc i – co często idzie z tym w parze – zapędy do anihilacji ludzkości. Tymczasem dostępne współcześnie systemy SI potrafią tylko rozwiązywać zadania w pojedynczych wąskich dziedzinach – wyjaśnia badaczka. Demonizowanie SI, wynikające z ignorancji bądź popkulturowych wzorców myślenia, jest więc nieuzasadnione, ale zarazem groźne, bo przysłania inne ważne sprawy związane z rewolucją cyfrową.
Przegalińska nie miałaby nic przeciwko temu, żeby tymczasowo spowolnić wdrażanie technologii SI. Dopóki nie mamy sensownych regulacji, nieroztropnie jest na masową skalę wdrażać niepewne rozwiązania
Choć bowiem Przegalińska nie wierzy, by w niedługim czasie udało się na tyle rozwinąć tę technologię, by powstała tzw. ogólna sztuczna inteligencja, to zwraca uwagę, że coraz częściej obcujemy z narzędziami SI mniej lub bardziej zmieniającymi nasze relacje ze światem. Dotyczy to szczególnie dzieci, które rosną otoczone cyfrowymi wynalazkami i przenoszą swoje doświadczenia z tego obszaru do relacji z ludźmi.
Inteligentna, choć nierozumna
Dzisiejsze technologie są bardzo odległe od ludzkiego sposobu rozumienia świata – podkreśla Przegalińska. Zaawansowane narzędzia typu asystent głosowy mogą sprawiać wrażenie myślących partnerów, w rzeczywistości jednak nie rozumieją, o co nam chodzi. Po prostu rozpoznają frazy z naszego języka i odpowiadają na nie frazami, które mają zapisane w swoich bazach danych. Jednak nawet w przypadku najsprawniej działających rozwiązań tego typu nie może być mowy o świadomości czy głębszym rozumieniu relacji komunikacyjnej.
Funkcjonujemy więc w pewnej iluzji, która – choć wygodna i użyteczna – może niewłaściwie kształtować nasze wyobrażenia. AlphaGo Zero gra w go najlepiej na świecie, ale nie wie, że jest mistrzem. Nie ma też własnej woli. Może wykonywać tylko zadania zaprogramowane przez człowieka, choć robi to bardzo inteligentnie – wyjaśnia badaczka.
Między skrajnościami
Przegalińska przeciwstawia się także dość popularnej nie od dziś tendencji do obarczania technologii winą za całe zło, które spotyka współczesny świat.
Często mówi się, że technologia jest odhumanizowana. Ale zapominamy, jak wielu z nas może dzięki niej nawiązywać i utrzymywać kontakty – twierdzi.
Jej zdaniem problem w ocenie SI bierze się w dużej mierze stąd, że funkcjonujemy w obliczu dwóch przeciwstawnych, skrajnych narracji: technopesymizmu i technooptymizmu. Ten pierwszy widzi w technologii prostą drogę do zniewolenia człowieka. Ten drugi odwrotnie – sposób na ostateczną emancypację i świeckie zbawienie. Oba podejścia są zdaniem Przegalińskiej błędne i szkodliwe.
Lęk przed tym, co nieznane, mamy zapisany w genach. Dlatego łatwo ulegamy negatywnym scenariuszom. Jest to tym prostsze, gdy pesymistyczne scenariusze przedstawia się w sposób efektowny i intelektualnie uwodzicielski. Tak jak robi to choćby Yuval Noah Harari – argumentuje badaczka.
Dla Przegalińskiej wizja przedstawiana przez izraelskiego autora jest trudna do przyjęcia, bo redukuje człowieka do roli trybika w maszynie. A przecież to w końcu ludzie tworzą technologie. Mamy więc nad nimi jakąś kontrolę. Co więcej, technopesymizm zasiewa niepokój, który łatwo przekształcić w narzędzie społecznego konfliktu. A to już jest bardzo groźne.
Nie lepiej jednak sprawy wyglądają po drugiej stronie barykady. Entuzjastyczni wyznawcy nowych technologii prezentują swoje pomysły jako panaceum na niedole trapiące ludzkość, jednak ukrywają, że najczęściej za tą technooptymistyczną narracją kryje się po prostu chęć zysku. W 2020 roku większość rozwiązań SI służy zarabianiu pieniędzy, a nie rozwiązywaniu problemów społecznych – mówi Przegalińska.
Paliwo kapitalizmu
Czy to jednak coś złego, że biznes chce zarabiać? Nie, o ile uczciwie podchodzi do sprawy. Tymczasem często dostajemy rzekomo darmowe usługi w zamian za bycie źródłem danych, które wykorzystywane są bez naszej wiedzy na ogromną skalę. Za technicznym solucjonizmem (termin Evgeny Morozova określający wiarę w możliwość rozwiązania problemów ludzkości za pomocą technologii) kryje się więc bardzo niejednoznaczny etycznie mechanizm działania.
Tę ambiwalencję widać najlepiej w San Francisco – mekce nowych technologii, a zarazem mieście ogromnych kontrastów społecznych. Tuż obok siedzib najnowocześniejszych firm koczują tam rzesze bezdomnych, których miasto wypluło jako nieprzystających do nowej rzeczywistości. To właśnie ciemna strona technooptymistycznego mitu – mówi Przegalińska.
Jest ona jednak daleka od obarczania winą za taki stan rzeczy samej technologii. To raczej efekt działania firm w konkretnych realiach rynkowych. Współczesny model ultrakapitalizmu po prostu gloryfikuje szybki rozwój biznesu bez oglądania się na jego społeczne skutki. Przegalińska przywołuje słowa Stephena Hawkinga, który mówił, że prawdziwą groźbą dla ludzkości nie są same nowe technologie, tylko ich połączenie z krwiożerczym kapitalizmem.
Czy to coś złego, że biznes chce zarabiać? Nie, o ile uczciwie podchodzi do sprawy. Tymczasem często dostajemy rzekomo darmowe usługi w zamian za bycie źródłem danych, które wykorzystywane są bez naszej wiedzy na ogromną skalę
Warto dodać, że i my sami jako użytkownicy cyfrowych narzędzi zbyt często ulegamy pokusie darmowości i w efekcie pochopnie oddajemy dane na nasz temat w ręce korporacji. Gdy wybucha kolejna afera, jak np. Cambridge Analytica, jesteśmy zbulwersowani i zaniepokojeni, ale potem brak nam woli, by aktywnie zadbać o swoje bezpieczeństwo. I tak się to wszystko kręci – mówi badaczka.
Wrzucić na luz
Ale taka społeczna inercja to niejedyny możliwy scenariusz. Technologie można też rozwijać z myślą o ich większej demokratyzacji. Pierwsze jaskółki już zresztą są. To choćby unijne inicjatywy dotyczące ochrony danych czy walka z monopolami firm technologicznych.
Coraz wyraźniejsza staje się też potrzeba prawnych regulacji dostosowanych do realiów rozwoju technologicznego, z jakim mamy dziś do czynienia. Dochodzi do tego etyka nowych technologii i potrzeba ich wyjaśnialności. Generalnie inicjatywy dotyczące zwiększenia odpowiedzialności w branży zyskują na znaczeniu – mówi Przegalińska. To właściwy trend.
Badaczka nie miałaby też nic przeciwko temu, żeby tymczasowo spowolnić wdrażanie technologii SI. Dopóki nie mamy sensownych regulacji, nieroztropnie jest na masową skalę wdrażać niepewne rozwiązania. Odrobina przestoju nikomu nie zaszkodzi, a może pozwolić określić właściwe ramy dalszego rozwoju SI – przekonuje.
Musimy rozumieć więcej
Jakiej SI chciałaby sama? Tworzonej z myślą o symbiozie maszyn i ludzi. Ale nie takiej, która polega na fuzji człowieka z maszyną (badaczka jest przeciwniczką chipowania czy pełnej integracji człowieka z maszynami rodem z wizji Elona Muska), tylko dążącej do zrównoważonego wykorzystywania możliwości SI dla dobra człowieka.
Czego potrzeba, by taka wizja mogła się urzeczywistnić? Przede wszystkim większej świadomości społecznej i kompetencji cyfrowych – uważa. Nie możemy być technologicznymi analfabetami, bo wtedy łatwo będzie nami manipulować. Zaś im więcej umiemy, tym większą mamy szansę właściwie ułożyć sobie życie z SI. Powinniśmy o to dbać nie tylko w trosce o nasze praktyczne interesy, ale również ze względu na naszą ludzką godność.
Książka Przegalińskiej i Oksanowicza to udana próba stworzenia wielowątkowej i obiektywnej opowieści o sztucznej inteligencji A.D. 2020. Jej dużym atutem są też uzupełniające rozmowy z ekspertami, m.in. Michałem Bonim i Katarzyną Szymielewicz, poświęcone godnej zaufania SI czy dobru publicznemu w kontekście rozwoju cyfrowych technologii.
Minusy? Pewną wadą książki okazuje się paradoksalnie to, co zarazem jest jej zaletą, czyli forma wywiadu. Niektóre wątki powracają bowiem w różnych rozdziałach, często w innym świetle. Niekiedy można odnieść wrażenie, że występują w nich pewne rozbieżności. Co prawda przy uważnej lekturze okazuje się zwykle, że takie podejście jest próbą oddania złożoności zjawisk czy problemów wiążących się z SI. Nie zmienia to jednak faktu, że dokładniejsza praca redaktorów książki mogłaby w niektórych przypadkach poprawić klarowność wywodu. To jednak drobiazgi.
Jako całość zbiór rozmów z Aleksandrą Przegalińską jest dobrym wprowadzeniem do problemów związanych ze światem nowych technologii. Kto szuka wyważonego przewodnika po tym fascynującym uniwersum, może śmiało sięgnąć po tę książkę. Polecamy!
Aleksandra Przegalińska, Paweł Oksanowicz, „Sztuczna Inteligencja. Nieludzka, arcyludzka”, wydawnictwo Znak, Kraków 2020