Dylematów ery cyfrowej nie rozwiążemy, korzystając wyłącznie z pomocy etyki. Niezbędne jest również myślenie polityczne, uwzględniające prawa i interesy wspólnoty
Charakterystyczną cechą rozwiązań opartych na sztucznej inteligencji jest ich autonomiczność. Wiele narzędzi wyposażonych w SI jest już dziś w stanie mniej lub bardziej skutecznie wykonywać zadania bez nadzoru człowieka. Taka sytuacja rodzi różne dylematy, z którymi muszą zmagać się eksperci od nowych technologii.
Najbardziej znanym przykładem jest tu tzw. problem wagonika – eksperyment myślowy, który w kontekście autonomicznych pojazdów zyskuje na aktualności. Chodzi w nim o to, jaką decyzję należałoby podjąć, gdyby na drodze trzeba było wybierać na przykład między zabiciem jednej czy kilku osób. Czy kryterium ilościowe byłoby tu wystarczające (lepiej zabić jednego człowieka niż kilka osób), czy jednak nie pozwalałoby usprawiedliwić takiej decyzji?
Cel uświęca środki?
W pewnym uproszczeniu widać tu spór między dwiema tradycjami myślenia w filozofii moralnej: utylitaryzmem i teorią powinności (deontologią). Wedle pierwszego stanowiska fakt, że poświęca się jedną osobę, by ocalić życie kilku innych, może być argumentem na rzecz przyjęcia takiego rozwiązania jako usprawiedliwionego. Przyczynia się ono bowiem do większego dobra (mniej zabitych to mniejsze zło).
Tymczasem z punktu widzenia drugiej szkoły podobne podejście jest nie do przyjęcia. Zabicie każdej osoby będzie bowiem zawsze sprzeczne z uniwersalnym zakazem „nie zabijaj”, który nie pozwala poświęcać jednego życia nawet dla ocalenia większej liczby ludzi. (Jeszcze inną perspektywę mogłaby tu zaoferować tzw. etyka cnót, choć to stanowisko zapewne lepiej ilustrowałaby sytuacja, w której kierujący pojazdem mógłby poświęcić samego siebie – rozstrzygająca byłaby wtedy indywidualna decyzja kierowcy o ofiarowaniu swojego życia za innych).
Dylematy na nowe czasy
W przypadku pojazdów autonomicznych dylemat ten nabiera jednak szczególnego wymiaru. Nie chodzi bowiem o decyzję jakiegoś pojedynczego człowieka, lecz o zakodowanie jej w maszynie, która następnie miałaby stosować ją w realnym świecie na masową skalę.
Jak zauważa Johannes Himmelreich z Uniwersytetu w Syracuse, współcześnie często podchodzi się do tego problemu (oraz innych wyzwań związanych z etyką technologii) w niewłaściwy sposób. Za punkt odniesienia bierze się właśnie filozofię moralną albo nauki społeczne, co w obu wypadkach jest rozwiązaniem niewystarczającym. Dlaczego?
Czy mogąc wybrać, jak w ekstremalnej sytuacji na drodze ma się zachowywać mój autonomiczny pojazd, powinienem ponosić także odpowiedzialność za jego działanie?
Zdaniem Himmelreicha filozofia moralna nie nadaje się w pełni do rozwiązania podobnych problemów, ponieważ w jej obrębie występują sprzeczne stanowiska i trudno wyobrazić sobie, by można było tutaj narzucić wszystkim jedną uniwersalną odpowiedź.
Z drugiej strony podejście nauk społecznych, które mogłyby wskazać, jakie decyzje w podobnych sytuacjach najczęściej podejmują ludzie, też nie jest właściwe. Ilościowe badanie zachowań zbiorowości może być bowiem pouczające, jednak nie wystarcza do rozstrzygania dylematów moralnych.
Pluralizm i autonomia
Co nam zatem pozostaje? Filozofia polityczna, odpowiada Himmelreich. To w jej ramach powinno się rozważać problemy, które dotyczą nas wszystkich. Co sprawia, że ta dziedzina szczególnie się do tego nadaje?
Badacz przywołuje trzy kwestie: tzw. rozumnego pluralizmu, autonomii ludzkiej oraz prawomocnej władzy.
Adres filmu na Youtube: https://www.youtube.com/watch?v=iJi4SwX2QGw
Źródło: Association for Computing Machinery (ACM) / YouTube
Pierwsza z nich dotyczy tego, że ludzie z uzasadnionych powodów często różnią się między sobą. Stan ten dobrze ilustruje właśnie rozbieżność poglądów między zwolennikami utylitaryzmu a tymi, którzy przekonują o niezmienności nakazów moralnych bez względu na okoliczności. Jako że argumenty obu stron są sensowne i mają na celu dobro wspólne, należy uszanować rozbieżność opinii.
Drugi obszar odnosi się do autonomii człowieka i potrzeby zagwarantowania mu możliwie jak największej możliwości swobodnego działania. Nie powinno się zatem mylić pytań, na które można odpowiedzieć wyłącznie na indywidualnym poziomie (np. czy wolno poświęcić jedno cudze życie, aby uratować kilka innych – zasada rozumnego pluralizmu każe tu przyjmować różne postawy), z pytaniami dotyczącymi funkcjonowania całej zbiorowości (czy w sytuacji ekstremalnej samochody autonomiczne winny poświęcać życie jednej osoby dla uratowania większej liczby ludzi).
Trzecia kwestia odnosi się do możliwości decydowania o regułach rządzących społeczeństwem. Kto ma do tego prawo? Wyłącznie demokratycznie wybrane rządy czy może również prywatne firmy (np. te produkujące pojazdy autonomiczne)?
Wolność maszyn czy ludzi?
Co z tego wszystkiego wynika w praktyce? W przypadku omawianego dylematu (a także innych problemów związanych z etyką technologii) filozofia polityczna wskazuje na potrzebę wprowadzenia ograniczeń do autonomicznych systemów, tak by pasażerowie bądź użytkownicy mogli samodzielnie wybierać spośród różnych opcji dotyczących zachowania maszyny. Przesłanką do takiego rozumowania są tu bowiem zasady leżące u podstaw nowoczesnych liberalnych społeczeństw, a nie indywidualne przekonania i wyznawane wartości.
Przedstawiając rzecz obrazowo: zwolennik rozwiązań pochodzących z dziedziny filozofii politycznej nie będzie wchodził w spór pomiędzy zwolennikami utylitaryzmu i deontologii, ale pozwoli każdemu wybrać taką opcję, jaką dana osoba uznaje za słuszną. W przypadku systemów autonomicznych konsekwencją takiego podejścia jest zagwarantowanie wszystkim, że urządzenia tego typu będą dawały użytkownikom możliwość wyboru.
Argumentacja Himmelreicha brzmi przekonująco. Czy jednak taka zmiana rozwiązuje wszystkie problemy, jakie mamy z autonomicznymi systemami? Niestety nie. Wciąż otwarta pozostaje kwestia odpowiedzialności. Czy bowiem mogąc wybrać, jak w ekstremalnej sytuacji na drodze ma się zachowywać mój autonomiczny pojazd, powinienem ponosić także odpowiedzialność za jego działanie? Na odpowiedź na to pytanie zapewne przyjdzie nam jeszcze poczekać.