„Życie człowieka jest samotne, biedne, bez słońca, zwierzęce i krótkie”, jak ujął to dawno temu Thomas Hobbes. A tu nagle pojawia się sztuczna inteligencja… Z dr. Sebastianem Szymańskim, filozofem i ekspertem z zakresu etyki nowych technologii, rozmawia Maciej Chojnowski
Maciej Chojnowski: Ray Kurzweil wierzy, że dzięki sztucznej inteligencji i nowym technologiom człowiek zyska nieśmiertelność. Bardziej powściągliwi futuryści mają nadzieję, że medycyna spersonalizowana pomoże nam przynajmniej znacznie wydłużyć życie. Czy wizja technologii jako remedium na ludzką śmiertelność nie powoduje, że zapominamy o naszej prawdziwej kondycji?
Dr Sebastian Szymański*: Sztuczna inteligencja podobnie jak wiele nowych technologii budzi z jednej strony przesadne nadzieje, a z drugiej nadmierne obawy. Gdybyśmy sięgnęli w przeszłość, do innych technologii związanych z rewolucją przemysłową, znaleźlibyśmy analogiczne przykłady nierealistycznych oczekiwań wobec nowych rozwiązań technicznych – czy to wobec maszyny parowej, czy komputerów.
Kiedy pojawia się nowa technologia, jesteśmy przekonani, że ułatwi nam życie i pomoże rozwiązać problemy, z którymi dotychczas sobie nie radziliśmy. I jest to w pełni uzasadnione, ponieważ właśnie po to tworzymy i rozwijamy technologię – dlatego nowościom technicznym towarzyszy entuzjazm. Trzeba jednak odróżnić uzasadniony entuzjazm od szumu marketingowego kreowanego przez ludzi zainteresowanych sprzedaniem takiej wizji w określonym celu.
Działania Kurzweila są tego doskonałym przykładem. Wiarygodność nadaje mu biografia – liczba uzyskanych patentów, prezydenckich odznaczeń oraz fakt, że zajmuje eksponowane stanowisko w Google, która to firma w powszechnej świadomości kojarzy się z postępem i technologiczną innowacją. Kurzweil z powodu ograniczeń medycyny stracił w dzieciństwie ojca, który rozbudzał w nim intelektualne pasje. Dziś deklaruje, że to doświadczenie skłoniło go do dążenia, by zapewnić ludziom długowieczność dzięki osiągnięciom bioinżynierii i sztucznej inteligencji. Warto jednak pamiętać, że jest pracownikiem jednej z firm wiodących w pracach nad SI, w której interesie leży kreowanie takiej wizji tej technologii, a także współzałożycielem i kanclerzem Singularity University, w którym dziesięciotygodniowy kurs poświęcony technologiom przyszłości kosztuje 25 tysięcy dolarów.
Natomiast, jeśli chodzi o ludzką kondycję…
Przemijanie i śmiertelność…
…to jesteśmy organizmami biologicznymi zaprogramowanymi na określony czas życia. Dzięki technice jesteśmy w stanie ten okres nieco wydłużyć. Poczyniliśmy już zresztą znaczne postępy na tym polu. Dzięki poprawie warunków życia, higienie i powszechnej opiece medycznej, które stały się możliwe również za sprawą postępu technologicznego, już od dawna żyjemy znacznie dłużej niż nasi przodkowie. Jeśli porównamy oczekiwaną długość życia dziś z tą sprzed stu lat, to różnica jest olbrzymia. Takie osiągnięcia mogą rodzić przekonanie, że postęp w tej dziedzinie będzie trwał, być może nawet bez ograniczeń. Tymczasem istnieją twarde uwarunkowania biologiczne, na których przeskoczenie nie mamy co liczyć.
Sztuczna inteligencja nie myśli – to po prostu program uruchomiony na komputerze, który bardzo szybko liczy
Szum wokół sztucznej inteligencji i przedstawianie jej jako cudownego środka pozwalającego przedłużać życie albo osiągnąć nieśmiertelność żeruje na takich przeświadczeniach. „Życie człowieka jest samotne, biedne, bez słońca, zwierzęce i krótkie”, jak ujął to dawno temu Thomas Hobbes – a tu pojawia się technologia, która daje tak ogromne możliwości. Nie jest niczym zaskakującym, że pokładamy w niej tak wielkie nadzieje, mimo że jeszcze nie wiemy, jakie będą długofalowe konsekwencje jej wykorzystania.
Medycyna spersonalizowana to też marketing?
Z medycyną spersonalizowaną również wiąże się ogromne nadzieje, ale i tutaj trzeba odróżniać realne możliwości od wizji przyszłości, której realizacja wymaga wielu badań i ogromnych nakładów. Usługi medyczne już dostępne w tym modelu obejmują tylko wąski wycinek świadczeń zapewnianych przez współczesne systemy opieki zdrowotnej, przynajmniej w Europie.
Tymczasem w medycynie najbardziej obiecujące zastosowania sztucznej inteligencji to projektowanie nowych leków, diagnostyka i epidemiologia, w której wykorzystuje się analizę danych dotyczących całych populacji. Skala innowacyjnych zastosowań SI w tej sferze zależy od dostępu do wystarczającej ilości danych, a tu mamy do czynienia z poważnymi ograniczeniami technicznymi, finansowymi, a nawet politycznymi. Dane medyczne to dane bardzo wrażliwe i udostępnianie ich innym podmiotom niż instytucje publicznego systemu opieki zdrowotnej budzi w Unii Europejskiej poważne kontrowersje. Z tych samych powodów w polskich realiach medycyna spersonalizowana z wykorzystaniem sztucznej inteligencji to pieśń raczej odległej przyszłości.
W książce „Radicals” Jamie Bartlett opisuje różne radykalne ruchy z całego świata. Znalazło się w niej miejsce dla Zoltana Istvana…
Transhumanisty i niedoszłego kandydata na prezydenta USA z ramienia Partii Transhumanistów. To folklor polityczny.
Nie tyle on sam zwrócił moją uwagę, co towarzyszący mu chłopak, który połknął bakcyla nieśmiertelności / długowieczności. On bierze różne tabletki, boi się normalnie żyć. Czy w tym transhumanistycznym dążeniu do długowieczności nie tkwi coś, co paradoksalnie uniemożliwia życie?
Transhumanizm to ruch marginalny, który składa nierealistyczne obietnice. Poparcie dla Zoltana Istvana i jego ugrupowania jest znikome. Gdyby transhumanizm jako ruch polityczny trafiał w jakieś żywotne interesy, prawdopodobnie byłoby inaczej. W dyskursie publicznym transhumanizm jest obecny, ponieważ artykułuje niektóre głęboko zakorzenione w nas obawy i nadzieje, a poza tym budzi zwykłą ciekawość i dziennikarze chętnie o nim piszą.
Transhumanistyczna nadzieja na długowieczność znacznie wykraczającą poza biologiczne możliwości naszych organizmów jest paradoksalna. Osoby, które w nią wierzą, prawdopodobnie nie skorzystają z „dobrodziejstwa długowieczności”, w które inwestują tyle czasu, wysiłku i środków, bo po prostu zestarzeją się tak jak inni. Transhumaniści liczą na to, że technologia pozwoli nam przezwyciężyć nieprzekraczalne ograniczenia. Ale nigdy nie będziemy nieśmiertelni ani nawet tak długowieczni, jak by chcieli, ponieważ nasza konstrukcja biologiczna na to nie pozwala. Nawet jeżeli dzięki inżynierii genetycznej lub innym technologiom będziemy w stanie wydłużyć jeszcze bardziej ludzkie życie, to i tak istnieje granica, poza którą nie wyjdziemy. Bo jak niemal wszystkie organizmy biologiczne jesteśmy tak skonstruowani, żeby rozpowszechnić swoje geny i umrzeć. Pod tym względem nie różnimy się od bakterii czy innych zwierząt.
Czy ta technologia nie jest zamaskowanym głodem metafizycznym w erze technicznej racjonalności?
Do tego rodzaju stwierdzeń podchodzę z dużą ostrożnością. Dynamiczny rozwój techniki i technicyzacja procesów społecznych wywołuje silne obawy i nadzieje związane z gwałtownymi i głębokimi zmianami społecznymi. To może sprawiać, że od techniki oczekujemy czegoś więcej, niż rzeczywiście może ona zaoferować. Jeśli wiązać to z czymś, co można by nazwać kondycją ludzką, to przyczyny upatrywałbym w tym, że mamy tak skonstruowane władze poznawcze, iż jesteśmy skłonni doszukiwać się w świecie celowej sprawczości.
W przypadku sztucznej inteligencji widać to szczególnie dobrze, bo technologie, które określa się tą nazwą, wykorzystuje się do zastępowania naszych naturalnych władz poznawczych. Można więc odnieść mylne wrażenie, że skoro maszyny rozpoznają obrazy, przetwarzają język naturalny albo podejmują decyzje, co u człowieka wymaga myślenia, to po prostu są do niego zdolne. A ponieważ robią to znacznie skuteczniej, dokładniej, szybciej i przetwarzają takie ilości informacji, jakich nie jesteśmy w stanie przeanalizować za pomocą naszych naturalnych władz poznawczych, to może to skłaniać do przekonania, że nas w tym przewyższają, co oczywiście budzi niepokój. Jednak nie jest to prawda: sztuczna inteligencja nie myśli – to po prostu program uruchomiony na komputerze, który bardzo szybko liczy.
Ponadto postęp techniczny pozwala skutecznie zmieniać te obszary rzeczywistości, które dotychczas pozostawały poza naszym zasięgiem, co dodatkowo umacnia przekonanie o wielkiej sprawczej sile technologii.
Czy to, co o rewolucji technologicznej piszą autorzy tacy jak Yuval Noah Harari, przystaje do rzeczywistości?
Do książek Harariego jestem nastawiony bardzo sceptycznie, przede wszystkim dlatego, że są bardzo powierzchowne. Tematy, które w nich porusza, w tym rewolucję technologiczną, omawia na podstawie pojedynczych tekstów z popularnych mediów. Nie oznacza to, że podaje nieprawdziwe informacje, ale z pewnością wyciąga z nich zbyt daleko idące wnioski. Ma jednak niewątpliwie talent do tworzenia atrakcyjnych narracji. Stąd bierze się jego wielki sukces.
Przykład Harariego pokazuje, że należy odróżniać wizję technologii prezentowaną w mediach od tego, jaki jest faktyczny stan rozwoju techniki. Na przykład w powszechnym wyobrażeniu już niedługo będziemy w stanie stworzyć ogólną sztuczną inteligencję. Niektórzy, jak wspomniany już Kurzweil, podają nawet konkretną datę – rok 2045. W rzeczywistości to bardzo mało prawdopodobne. Ogólna sztuczna inteligencja to system, który byłby wyposażony we wszystkie zdolności, jakie posiada nasz umysł. Pytaniem jest jednak to, jak mielibyśmy go wyposażyć w takie zdolności, skoro wciąż jesteśmy dalecy od zrozumienia, jak działa nasz umysł.
Co więcej, nawet te urządzenia, które dość dobrze zastępują niektóre nasze zdolności kognitywne, realizują te funkcje zupełnie inaczej, niż robimy to my. Komputery rozpoznają obrazy zupełnie inaczej niż ludzki mózg, a to, że asystent głosowy formułuje zrozumiałe odpowiedzi na niektóre z zadawanych mu pytań, nie oznacza, że rozumie, co do niego mówimy. Ponadto nasz umysł to nie tylko władze poznawcze i racjonalne myślenie, ale również emocje, a obecnie nie mamy pojęcia, jak mielibyśmy odtworzyć ludzkie emocje w maszynie.
Co więcej, trudno wskazać, kto, po co i za czyje fundusze miałby prowadzić badania nad tego rodzaju technologią. Firmy sponsorujące osoby, które tworzą i upowszechniają tego rodzaju narracje, nie prowadzą badań nad ogólną sztuczną inteligencją. Natomiast inwestują bardzo dużo w prace nad wąską sztuczną inteligencją. Z marketingowego punktu widzenia korzystnie jest stworzyć wrażenie, że oferowane narzędzie potrafi więcej, niż ma to miejsce w rzeczywistości.
Porozmawiajmy o konkretnym zastosowaniu zaawansowanych technologii, czyli interfejsach mózg-komputer. Niektórzy mówią o implantach i wzbogacaniu zdolności kognitywnych za pomocą maszyn obliczeniowych, co rodzi pytania etyczne i prawne. Czy jesteśmy w stanie w ogóle zdefiniować pierwiastek humanistyczny? Czy technologia rozszerzająca możliwości poznawcze człowieka może nas przeobrażać bez ryzyka, że coś istotnego utracimy?
Nigdy nie było ludzi bez techniki. Proces uczłowieczenia, wskutek którego z naszych przodków wyłonił się Homo sapiens, opierał się w dużej mierze na tym, że nauczyliśmy się wykorzystywać narzędzia na skalę, na jaką inne zwierzęta tego nie robią. Między innymi temu zawdzięczamy gwałtowny rozwój naszych zdolności kognitywnych. Używanie narzędzi wymaga bowiem rozbudowanej koordynacji pomiędzy wzrokiem, dotykiem, precyzją posługiwania się rękoma i tak dalej. Nie oznacza to rzecz jasna, że rozwój techniki nie niesie ze sobą ryzyka i zagrożeń. Istotne jest to, jaki jest bilans korzyści i zagrożeń płynących z postępu technicznego.
Kiedy technologie, o które pan pyta, zaczną być stosowane w praktyce na szerszą skalę, nastąpi głęboka zmiana, która będzie miała poważne konsekwencje etyczne. Bezpośredni transfer myśli z mózgu do komputera daje ogromne możliwości. Na przykład pozwala na szybsze i precyzyjniejsze sterowanie maszyną, ponieważ odpada konieczność przełożenia myśli na ruchy ciała, a potem ruchów ciała na polecenia dla maszyny – to właśnie robimy, kiedy wydajemy komputerowi polecenia za pomocą klawiatury. Daje również szansę na komunikowanie się z otoczeniem osobom sparaliżowanym. To niewątpliwe korzyści z tej technologii.
Nasz umysł to nie tylko władze poznawcze i racjonalne myślenie, ale również emocje, a obecnie nie mamy pojęcia, jak mielibyśmy odtworzyć ludzkie emocje w maszynie
Z drugiej strony, będzie to prowadzić do bardzo poważnego przedefiniowania prywatności. Dotychczas tylko my wiedzieliśmy, co naprawdę dzieje się w naszej głowie, i to od nas zależało, kto będzie miał do tego dostęp. Możliwość „podejrzenia” naszych stanów, myśli i emocji bez lub nawet wbrew naszej woli oznacza, że prywatność rozumiana w dotychczasowy sposób praktycznie znika. Sprawę komplikuje fakt, że rozumienie prywatności już uległo zmianie. Prywatność oznacza coś zupełnie innego w czasach powszechnego i masowego ujawniania informacji o sobie w sieciach społecznościowych niż dawniej. To utrudnia etyczną ocenę zmian, jakie wywołają te technologie, choć trudno się spodziewać, że możliwość tak głębokiej ingerencji w prywatność nie będzie budzić sprzeciwu.
Jak w takiej sytuacji podchodzić do problemu cyborgizacji, który postrzegamy jako zagrożenie dla człowieczeństwa? Mamy już protezy bioniczne, implanty słuchowe…
Od lat wszczepia się ludziom rozruszniki serca…
Tak, tylko że rozrusznik serca nie wpływa na nasze możliwości postrzegania świata. Czy modyfikowanie nas za pomocą technologii odbędzie się skokowo, czy raczej niepostrzeżenie, jako seria cząstkowych zmian?
Należy odróżnić dwa rodzaje modyfikacji za pomocą technologii. Istnieją modyfikacje, których celem jest przywrócenie naturalnych zdolności, jakie człowiek normalnie posiada. Przeciętny człowiek ma wzrok pozwalający na ostre widzenie z pewnej odległości. Są ludzie o lepszym bądź gorszym wzroku, ale dla całej populacji istnieje pewien standard, w którym mieści się typowa osoba. Są jednak osoby, które z powodu wady albo utraty wzroku nie mieszczą się w tym standardzie. Takie naturalne, typowe zdolności przywraca się za pomocą protez – wykorzystujących proste technologie, jak okulary, lub zaawansowanych technologicznie, jak w przypadku implantów słuchowych. Istotne jest jednak to, czy modyfikacja za pomocą technologii przywraca naturalną zdolność – proteza bioniczna brakującą kończynę, a rozrusznik serca poprawne funkcjonowanie organu.
Przywraca do stanu neutralnego.
Tak. Inaczej jest w przypadku modyfikacji technologicznych, które zmieniają lub rozszerzają naturalne funkcje i zdolności. Przykładem może być noktowizor pozwalający na widzenie w podczerwieni albo implant umożliwiający echolokację czy też chip zwielokrotniający pojemność pamięci.
Myślę, że mówienie o cyborgizacji ma sens tylko w odniesieniu do tego drugiego rodzaju modyfikacji. Mniejsze znaczenie ma to, czy urządzenie jest trwale zespolone z naszym ciałem, czy nie. Okulary możemy założyć i zdjąć, ale już nie stymulator likwidujący niekontrolowane drżenie kończyn u osób z chorobą Parkinsona, który jest trwale zespolony z ciałem pacjenta, a przecież oba te urządzenia przywracają normalne funkcjonowanie organizmu. Podobnie noktowizor nie jest na trwałe przytwierdzony do ciała użytkownika, a chip rozszerzający pamięć przypuszczalnie byłby.
Warto przy tym pamiętać, że niektóre modyfikacje wykorzystywane do przywracania naturalnych funkcji mogą je również zmieniać albo modyfikować – proteza bioniczna może wyposażyć użytkownika w siłę albo precyzję przekraczającą zdolności typowej osoby.
Czy z punktu widzenia etyki jesteśmy w stanie ocenić takie stałe wzmocnienie zdolności intelektualnych czy percepcyjnych? Czy mamy jakieś kryteria, które pozwalałyby nam powiedzieć, że trzeba być z tym ostrożnym albo że to po prostu niewskazane?
O ile w odniesieniu do pierwszego rodzaju modyfikacji technologicznych trudno wskazać typowe dla nich problemy etyczne, to w przypadku tych drugich jest ich bardzo dużo – od uprzywilejowania osób, które będą w nie wyposażone, po prawo do decydowania o tym, kto i w jakim stopniu może zostać zmodyfikowany.
Refleksja etyczna nad szeroko rozumianym human enhancement [ulepszanie człowieka za pomocą nowych technologii – przyp. red.] już się toczy w ramach bioetyki. Etyka medyczna musiała się zmierzyć z analogicznymi problemami. Rozwój techniki doprowadził do tego, że tradycyjne definicje takich pojęć jak życie, śmierć, choroba, zdrowie, naturalny początek życia uległy gruntownemu przekształceniu. Dzięki technice jesteśmy na przykład w stanie podtrzymywać całkiem długo przy życiu ciało osoby, której mózg obumarł. W przypadku technologii modyfikujących trwale nasze zdolności fizyczne i intelektualne jesteśmy dopiero na początku drogi, bo te technologie, wbrew rozpowszechnionym przekonaniom, nie są jeszcze zaawansowane.
Na spotkaniu w Polskiej Izbie Informatyki i Telekomunikacji porównał pan upowszechnienie sztucznej inteligencji do eksperymentu społecznego. Mówił pan, że zakres i skala procesów społecznych modyfikowanych wskutek zmian technologicznych są nieznane. Jesteśmy w stanie jakoś wpływać na to, jak sztuczna inteligencja się rozwija?
To oczywiście tylko metafora. Sztuczną inteligencję rozwijamy nie po to, żeby coś eksperymentalnie sprawdzić. Jednak zachodzi tu pewna analogia. Eksperymenty społeczne słabo się kontroluje. W typowym eksperymencie izolujemy jakiś proces od otoczenia i manipulujemy parametrami w taki sposób, żeby sprawdzić, które z nich są powiązane i w jaki sposób. W eksperymentach społecznych nie jesteśmy tego w stanie robić ze względu na stopień komplikacji obiektu, który badamy. Jesteśmy co najwyżej w stanie ustalić istnienie związku między czynnikami, ale już nie charakter zależności. Podobnie jest w przypadku upowszechnienia sztucznej inteligencji. Przewidujemy, że będzie miała duży wpływ na pewne sfery życia społecznego, ale nie znamy skali tego zjawiska i zależności między poszczególnymi procesami.
A czy możemy kontrolować rozwój i upowszechnianie SI? Oczywiście, że tak. Jesteśmy w stanie ją kontrolować bezpośrednio albo pośrednio. To znaczy albo wprowadzając wymogi, które muszą spełniać urządzenia i programy, albo narzucać ograniczenia na środki, które będą wykorzystywane do jej tworzenia. Już teraz podejmuje się kroki w kierunku kontrolowania tej technologii za pomocą regulacji prawnych albo etycznych.
Czy rekomendacje, które mają pomóc tworzyć godną zaufania, przyjazną człowiekowi sztuczną inteligencję, to dobra droga? Coś z tego wyjdzie? A może twórcy zasad będą mówić jedno, a inżynierowie zrobią drugie?
To pytanie dotyczy każdych regulacji etycznych. Oczywiście sami etycy nie doprowadzą do tego, że sformułowane przez nich zasady etyczne będą respektowane – jest to grupa specjalistów dostarczająca narzędzi. Natomiast to, czy będą one realizowane, zależy od woli politycznej. I taką wolę polityczną widać.
W wielu krajach prowadzone są prace nad regulacjami etycznymi dotyczącymi sztucznej inteligencji. Mamy już również regulacje o charakterze ponadnarodowym. W Unii Europejskiej przyjęto w kwietniu 2019 roku „Ethics guidelines for trustworthy AI” obejmujące ogólne zasady, którymi należy się kierować w projektowaniu i wykorzystywaniu systemów sztucznej inteligencji. A w czerwcu tego samego roku „Policy and investment recommendations for trustworthy AI”, w których zawarto zasady inwestowania środków unijnych w tę technologię. Oba dokumenty wypracowała grupa ekspertów, w której skład weszli etycy oraz inni specjaliści i interesariusze. Wytyczne są wyrazem kompromisu dotyczącego tego, jakie wartości powinny być szczególnie chronione przy tworzeniu i wykorzystywaniu sztucznej inteligencji. Otwartą kwestią pozostaje natomiast sposób egzekwowania tego rodzaju regulacji.
*Dr Sebastian Szymański – filozof specjalizujący się w etyce i etyce praktycznej. Jego zainteresowania badawcze koncentrują się wokół kwestii sprawiedliwości oraz problemów etycznych związanych z nowymi technologiami, w szczególności robotyzacją i sztuczną inteligencją. Pracuje na Wydziale Artes Liberales Uniwersytetu Warszawskiego, gdzie należy do Laboratorium Techno-Humanistyki. Prowadzi autorskie kursy z zakresu roboetyki oraz etyki nowych technologii. Przewodniczący grupy etycznej w zespole eksperckim Ministerstwa Cyfryzacji przygotowującym założenia do polskiej strategii sztucznej inteligencji. Członek Rady ds. Cyfryzacji przy ministrze cyfryzacji, gdzie kieruje pracami zespołu ds. sztucznej inteligencji. Ostatnio opublikował „Uzasadnienia teorii sprawiedliwości. Dziedzictwo Johna Rawlsa” (Wydawnictwo Naukowe Scholar, 2018). Pracuje obecnie nad książką poświęconą etyce sztucznej inteligencji, która ukaże się nakładem Wydawnictwa Naukowego PWN w 2020 r.
We wtorek, 24 listopada 2020, w godz. 18.00-19.00 dr. Sebastian Szymański wraz z mec. Robertem Kroplewskim wezmą udział w webinarium„Autonomia kontra automatyzacja – etyka sztucznej inteligencji”.
Wydarzenie jest częścią GovTech Festival i zostało przygotowane we współpracy GovTech Polska, Ośrodka Przetwarzania Informacji – Państwowego Instytutu Badawczego (OPI PIB) oraz portalu Sztuczna Inteligencja (którego wydawcą jest OPI PIB).
Transmisja będzie dostępna na stronie wydarzenia, a także na profilu na Facebooku.