Władza coraz bardziej przesuwa się od ludzi do algorytmów. Jak to wpłynie na ludzkie życie i człowieczeństwo? – zastanawiają się Mark Zuckerberg i Yuval Noah Harari
Mark Zuckerberg: Wraz z całą technologią i postępem, który został osiągnięty, ludzie zbliżają się do siebie. Czy stajemy się przez to coraz bardziej zjednoczeni? A może nasz świat jest coraz bardziej rozdrobniony?
Yuval Noah Harari: Tysiące lat temu Ziemia była galaktyką wielu odizolowanych od siebie światów. Gdy pojawili się ludzie, te światy stawały się coraz bardziej ze sobą powiązane. Dziś po raz pierwszy cały świat jest jedną jednostką historyczną, ekonomiczną i kulturową.
Ale łączność niekoniecznie oznacza harmonię. Ludzie, z którymi najczęściej walczymy, są członkami naszych rodzin, sąsiadami i przyjaciółmi. Więc tak naprawdę chodzi o to, czy mówimy o łączeniu ludzi, czy też o ich harmonizowaniu. Łączenie ludzi może prowadzić do wielu konfliktów. Mamy nowe technologie łączące, internet, wirtualną rzeczywistość i sieci społeczne, a jedną z najważniejszych kwestii politycznych staje się budowa murów. Nie tylko cyberścian czy firewalli – także murów z kamienia. Jak gdyby technologia z epoki kamienia stała się nagle najbardziej zaawansowaną technologią współczesną. Jak więc nadać sens światu, który jest bardziej połączony niż kiedykolwiek wcześniej, ale jednocześnie buduje więcej ścian niż dotychczas?
MZ: Czy rzeczywiście istnieje tak silny konflikt między ideą coraz większego powiązania ludzi a tymi podziałami? W XXI wieku, by stawić czoło największym możliwościom i wyzwaniom, jakie stoją przed ludźmi, musimy umieć się zjednoczyć i sprawić, by świat był bardziej powiązany.
Przed pojawieniem się internetu człowiek był silnie związany ze swoją fizyczną lokalizacją. Dorastałem w mieście zamieszkanym przez około 10 tysięcy ludzi, z niewielką liczbą klubów i zajęć, w których można było uczestniczyć. Jak wiele innych dzieci grałem w baseballowej Małej Lidze, choć baseball mnie nie interesował, moją prawdziwą pasją było programowanie komputerów. Dlaczego więc grałem w Małej Lidze? Bo w moim mieście nie było nikogo innego, kto zajmowałby się programowaniem komputerów.
Teraz możesz być przywiązany do swojej fizycznej lokalizacji, ale zarazem znaleźć ludzi], którzy mają więcej niszowych zainteresowań, należą do różnych subkultur i społeczności w internecie.
YNH: Społeczności internetowe mogą być cudowną rzeczą, ale nadal nie są w stanie zastąpić społeczności fizycznych, ponieważ jest jeszcze wiele rzeczy, które możesz robić tylko ze swoim ciałem i swoimi fizycznie obecnymi przy tobie przyjaciółmi. Możesz nie zaprzyjaźnić się z przyjaciółmi z Facebooka, ale nie możesz nie być sąsiadem swoich sąsiadów. Częścią logiki tradycyjnych społeczności było to, że musisz nauczyć się, jak dogadywać się z ludźmi, których niekoniecznie lubisz. I że musisz rozwinąć mechanizmy społeczne pozwalające to osiągnąć. Społeczności online nie dają nam tego doświadczenia.
MZ: Najbardziej znaczące społeczności online to te, które łączą ludzi w sieci i poza nią. Oryginalnie jakaś organizacja może działać online, ale jej członkowie spotykają się fizycznie, ponieważ jest to ważne dla relacji między nimi.
YNH: Potrzebujemy globalnej współpracy jak nigdy wcześniej, ponieważ stoimy w obliczu bezprecedensowych globalnych problemów. Jeśli pomyślimy o potencjalnych zakłóceniach powodowanych przez nowe technologie, takie jak sztuczna inteligencja, musimy znaleźć mechanizm globalnej współpracy w takich kwestiach, jak zapobieganie wyścigowi zbrojeń z wykorzystaniem SI w celu zbudowania autonomicznych systemów uzbrojenia i zabójczych robotów oraz militaryzacji internetu i sieci społecznościowych. Jeśli nie będziemy mieć globalnej współpracy, każdy kraj powie: „No cóż, nie chcemy produkować zabójczych robotów, ale nie możemy pozwolić, by nasi rywale zrobili to przed nami. Więc musimy zrobić to najpierw”. A potem zacznie się wyścig w otchłań.
To bardzo mało prawdopodobne, że staniemy w obliczu buntu robotów. Bardziej boję się robotów zawsze wykonujących rozkazy niż robotów buntujących się przeciwko ludziom
Yuval Noah Harari
Podobnie jest, jeśli pomyślimy o potencjalnych zakłóceniach na rynku pracy i w gospodarce spowodowanych przez SI i automatyzację. Jest oczywiste, że w przyszłości będą miejsca pracy. Ale czy będą one równomiernie rozłożone pomiędzy różne części świata? Jednym z potencjalnych rezultatów rewolucji SI może być koncentracja ogromnego bogactwa w jednej części świata i całkowite bankructwo innych. W Kalifornii będzie wiele nowych miejsc pracy dla inżynierów oprogramowania, ale w Hondurasie i Meksyku może nie być zajęcia dla pracowników przemysłu tekstylnego i kierowców ciężarówek.
Jeśli nie zbudujemy globalnej sieci bezpieczeństwa, chroniącej ludzi przed wstrząsami związanymi z szokiem sztucznej inteligencji i umożliwiającej im wykorzystanie możliwości związanych z SI, stworzymy najbardziej nierówną sytuację ekonomiczną, jaka kiedykolwiek istniała. To będzie o wiele gorsze nawet niż to, co wydarzyło się w czasie rewolucji przemysłowej, kiedy nieliczne kraje uprzemysłowione podbiły, zdominowały i wykorzystały inne.
Jak więc stworzyć wystarczająco dużo globalnej współpracy, aby ogromne korzyści płynące z SI i automatyzacji nie trafiły tylko, powiedzmy, do Kalifornii i wschodnich Chin, podczas gdy reszta świata pozostanie daleko w tyle?
MZ: Rozpowszechnianie dobrobytu, szerzenie praw człowieka i wolności to rzeczy, które mają również związek z handlem i powiązaniami. Spędziliśmy wiele z ostatnich 20 lat z internetem, pracując nad globalnym handlem, przepływem informacji, dzięki czemu ludzie mogą się ze sobą łączyć. Teraz większym wyzwaniem jest stworzenie takich ram, by wszystko działało na rzecz ludzi na poziomie lokalnym. Bo jeśli masz globalne ramy, ale ludzie czują, że to nie działa na ich korzyść na poziomie lokalnym, to nie będą politycznie wspierać globalnej współpracy.
Większość ludzi, którzy dobrze czują się ze swoim życiem, nie poszukuje ekstremistycznych społeczności. My, jako dostawca platformy internetowej, musimy pracować na rzecz budowania dobrobytu. Prawdopodobnie to jeden z lepszych sposobów ograniczania ekstremizmów.
YNH: Nie powinniśmy mylić ludzi, którzy czują się dobrze w sobie i w swoim życiu, z ludźmi, którzy są dobrotliwi, życzliwi. Ludzie, którzy czuli się dobrze w swoim życiu, zrobili kilka najstraszniejszych rzeczy w historii ludzkości. Mamy wiele takich przykładów z historii, od Imperium Rzymskiego i handlu niewolnikami po kolonializm. Ludzie, którzy za to odpowiadają, mieli bardzo dobre życie rodzinne i społeczne. Zwykle to byli mili ludzie, większość nazistowskich wyborców też była miłymi ludźmi.
Ale odłóżmy skrajności na bok. Pod koniec XIX wieku ludzie w Wielkiej Brytanii mieli najlepsze wtedy życie na świecie i nie cierpieli z powodu kryzysu gospodarczego czy dezintegracji społeczeństwa. Myśleli, że podbijając i zmieniając społeczeństwa w Indiach, Afryce, Australii, przynoszą światu wiele dobra.
MZ: Dziś więcej ludzi poszukuje rozwiązań w skrajnościach. Wiele z nich wynika z poczucia dyslokacji, zarówno gospodarczej, jak społecznej. W skali makro rozwiązanie tego problemu polega na upewnieniu się, że ludzie czują się tak, jakby mieli poczucie celu i wspólnoty.
Z jednej strony globalizacja jest pozytywna, bo wprowadza wielu ludzi do światowej gospodarki. Ludzie w Indiach, Azji Południowo-Wschodniej i Afryce, którzy wcześniej nie mieli dostępu do wielu miejsc pracy w globalnej gospodarce, teraz go mają. Setki milionów ludzi wyszły z ubóstwa. Wielki problem polega na tym, że w krajach rozwiniętych pojawiła się duża liczba ludzi konkurujących z tymi, którzy przyłączają się do globalnej gospodarki. Miejsca pracy przenoszą się z krajów rozwiniętych do krajów rozwijających się, więc wielu ludzi z krajów rozwiniętych straciło pracę.
Ale to niekoniecznie oznacza, że globalizacja jest dla świata zła.
Nie jest tak, że sztuczna inteligencja jest monolityczną rzeczą, którą się buduje. To moc wielu produktów, a więc dużo postępu gospodarczego
Mark Zuckerberg
Sprawą, o którą się martwię – sporo energii Facebooka poszło w tę stronę – jest nasza misja, która kiedyś łączyła świat. Teraz chodzi o pomoc ludziom w budowaniu społeczności i zbliżaniu ich do siebie. Musimy zrobić coś, aby bardziej wspierać globalne powiązania, ale mając przy tym pewność, że ten mechanizm działa na rzecz ludzi także na poziomie lokalnym.
YNH: Facebook jest krytykowany za to, że zachęca niektórych ludzi, by przystępowali do ekstremistycznych grup. Nie sądzę jednak, by to był główny problem.
Bardziej martwię się nie tyle o Facebooka, ile o kierunek, w jakim zmierza nowa gospodarka internetowa i technologiczna. Martwi mnie wzrost nierówności pomiędzy różnymi częściami świata niebędący wynikiem ideologii ekstremistycznej, ale pochodną pewnego modelu ekonomicznego i politycznego.
Po drugie, martwi mnie podważanie podstawowych filozoficznych idei demokracji, wolnego rynku i indywidualizmu. To moje dwie największe obawy dotyczące rozwoju technologii takich jak sztuczna inteligencja i uczenie maszynowe. To będzie poważny problem nawet wtedy, gdy znajdziemy rozwiązania kwestii ekstremizmu społecznego.
MZ: Zgadzam się, ale myślę, że większym zadaniem jest upewnienie się, że każdy ma poczucie celu, rolę i powiązania społeczne. Ponieważ w ostatecznym rozrachunku jesteśmy zwierzętami społecznymi.
YNH: Ten temat jest ściśle związany ze sztuczną inteligencją. Ludzie myślą: „O, SI jest niebezpieczna, ponieważ roboty przyjdą nas zabić”. To bardzo mało prawdopodobne, że staniemy w obliczu buntu robotów. Bardziej boję się robotów zawsze wykonujących rozkazy niż robotów buntujących się przeciwko ludziom. Są dwa główne problemy związane ze sztuczną inteligencją. Pierwszy polega na zwiększaniu nierówność między różnymi częściami świata: będzie kilka krajów przewodzących i dominujących w nowej gospodarce SI – co da im przewagę we wszystkich innych dziedzinach.
Druga kwestia dotyczy wpływu sztucznej inteligencji na kondycję ludzką, sens naszego życia. To, co się dzieje, gdy SI jest wystarczająco dojrzała i masz wystarczająco dużo danych, aby w zasadzie posiadać ludzi. Masz sztuczną inteligencję, która zna mnie lepiej niż ja sam siebie i może podejmować decyzje za mnie, przewidywać moje wybory, manipulować nimi.
Władza w coraz większym stopniu przesuwa się od ludzi w stronę algorytmów. Decyzje o tym, który film zobaczysz, a nawet o tym, do której społeczności masz się przyłączyć, z kim się zaprzyjaźnić, z kim wziąć ślub, będą w coraz większym stopniu opierać się na zaleceniach sztucznej inteligencji. Jak to wpłynie na ludzkie życie i człowieczeństwo?
MZ: Obie te sprawy sprowadzają się do podobnego pytania na temat wartości, kto je tworzy i jakie wartości są zakodowane. W gruncie rzeczy sztuczna inteligencja jest silnie związana z sektorem technologii ogólnej. Niemal każdy produkt technologiczny jest w jakiś sposób przez nią ulepszany. Więc nie jest tak, że SI jest monolityczną rzeczą, którą się rozbudowuje. To moc wielu produktów, a więc dużo postępu gospodarczego.
To jest również fundamentalnie powiązane z ważnymi społecznie pytaniami dotyczącymi danych i prywatności oraz tego, w jaki sposób chcemy, by nasze dane były wykorzystywane i jaka jest polityka w tym zakresie.
Stany Zjednoczone mają dziś w tej dziedzinie wielką przewagę, bo to tu powstaje wiele globalnych platform technologicznych. Wiele z wartości, które są w nich zakodowane, jest kształtowanych głównie przez wartości amerykańskie. Pomysły takie, jak danie każdemu głosu, to coś, co jest prawdopodobnie kształtowane przez amerykańskie idee dotyczące wolności słowa. Tak więc pod względem kulturowym i ekonomicznym jest korzystne dla krajów rozwijanie się w taki sposób, by mieć silne firmy technologiczne.
YNH: Czy kraje takie jak Honduras, Ukraina czy Jemen mają realną szansę na przyłączenie się do wyścigu SI? A jeśli to się nie stanie w Jemenie i nie stanie w Hondurasie, to co będzie z tymi krajami za 20 czy 50 lat?
Obawiam się, że nowe technologie mają tendencję do dawania przewagi reżimom totalitarnym
Yuval Noah Harari
MZ: Kraje o większej liczbie ludności mają tu przewagę, ponieważ szybciej mogą osiągnąć masę krytyczną potrzebną do rozwijania SI, jeśli chodzi o uniwersytety, przemysł, inwestycje. Ale jedną z wartości, na które słusznie stawiamy, także w Facebooku, jest system akademicki prowadzący otwarte badania. Tak aby można było mieć zaawansowanych przedsiębiorców także w krajach, o których mówisz. Nie sądzę, by wiara, że przedsiębiorca z takiego kraju będzie mógł wykorzystać Amazon Web Services do rozwijania infrastruktury komputerowej, zatrudniania ludzi na całym świecie w zglobalizowanej gospodarce i wykorzystywania badań przeprowadzonych w USA czy Europie, była zbyt daleko idąca.
Chcemy, by przyszłość była otwarta. Chcemy, by badania były otwarte, a internet stał się platformą. Jednym z największych zagrożeń dla przyszłości jest to, że polityka internetowa jest rozdrobniona i w każdym kraju wygląda inaczej.
Uważam, że więcej krajów powinno przyjąć ramy prywatności takie jak RODO w Europie. Wielu ludzi jest w tej kwestii zdezorientowanych. Mówią: „Dlaczego opowiadasz się za większą regulacją prywatności? Dlaczego akurat teraz, skoro w przeszłości byłeś temu przeciwny?”. Jednym z powodów jest to, że takie ramy powstaną w każdym kraju. Pytanie, jakie one będą. Najbardziej prawdopodobną alternatywą dla kraju przyjmującego coś, co koduje wolności i prawa na wzór RODO, jest moim zdaniem model autorytarny. Model, który mówi: każda firma musi przechowywać dane wszystkich lokalnie w centrach danych i jeśli jestem rządem, powinienem móc wysłać tam swoje wojsko i mieć dostęp do dowolnych danych, których chcę, i być w stanie je kontrolować. Oto naprawdę zła przyszłość.
Jedna z najważniejszych decyzji, które podjęliśmy, dotyczy tego, gdzie będziemy budować nasze centra danych i przechowywać dane. Otóż nie zamierzamy umieszczać centrów danych w krajach, w których nie ma rządów prawa. Tam, gdzie dane na temat obywateli mogą być wykorzystywane przeciw nim. Buduję to, co buduję, ponieważ zależy mi na tym, aby każdemu dać głos. Nie chcę, by ludzie byli cenzurowani. Jeśli nie można powiedzieć czegoś, co się chce, to coś takiego narusza prawa człowieka i powstrzymuje postęp. Ale jeśli rząd może uzyskać dostęp do twoich danych, to może dowiedzieć się, kim jesteś, zamknąć cię i skrzywdzić twoją rodzinę, wyrządzić wam prawdziwą, fizyczną krzywdę.
Kiedy mówi się o przyszłym rozwoju sztucznej inteligencji i danych, myślę, iż fakt, że wartości są częścią otwartego, demokratycznego i globalnego systemu, jest jedną z naszych największych nadziei na przyszłość.
YNH: Jak budować sztuczną inteligencję, by nie była z natury narzędziem nadzoru, manipulacji i kontroli? Wracamy do koncepcji stworzenia czegoś, co zna ciebie lepiej niż ty siebie, co jest rodzajem ostatecznego narzędzia nadzoru i kontroli. Właśnie budujemy coś takiego w różnych miejscach na świecie. Jak zbudować sztuczną inteligencję, która będzie służyć poszczególnym ludziom i chronić ich, a nie sztuczną inteligencję, która za pomocą przełącznika stanie się rodzajem ostatecznego narzędzia nadzoru?
MZ: Myślę, że chodzi tu bardziej o wartości i ramy polityczne niż o rozwój technologiczny. Nasze systemy do wykrywania takich rzeczy jak mowa nienawiści będą lepsze. Lepsze będą także systemy rozpoznawania twarzy.
YNH: Moja ojczyzna, Izrael, jest krajem demokratycznym, przynajmniej dla Żydów. I jest to jeden z liderów świata w dziedzinie technologii nadzoru. Mamy jedno z największych laboratoriów technologii nadzoru na świecie, jakim są terytoria okupowane. Więc nie sądzę, by społeczeństwo nie chciało rozwijać i rozpowszechniać takich technologii tylko dlatego, że w swoim wewnętrznym działaniu jest demokratyczne.
MZ: Rząd może dość łatwo zdecydować, że nie chce wspierać tego rodzaju nadzoru. Wtedy firmy, z którymi w tym współpracował, wypadłyby z interesu.
Zadaniem ludzi, którzy tworzą politykę wokół technologii, jest upewnienie się, że ich wysiłki zmierzają do pomnożenia dobra i łagodzenia negatywnych konsekwencji jej użycia. W końcu naginasz te technologie, by były czymś pozytywnym dla ludzkości. Postęp technologiczny nie jest sam w sobie dobry czy zły.
YNH: Zgadzam się, ale każda technologia może być wykorzystywana na różne sposoby. Możesz używać radia do nadawania muzyki albo przemówień Hitlera. Radio się tym nie przejmuje – nada wszystko, co zechcesz puścić w eter.
Jak sprawić, by polityka była właściwą polityką w świecie, w którym coraz łatwiej manipulować i kontrolować ludzi na masową skalę? Nie chodzi tylko o to, że wymyślamy technologię, a następnie mamy dobre kraje demokratyczne i złe kraje autorytarne. Pytanie brzmi: Co kraje zrobią z technologią? Sama technologia mogłaby zmienić równowagę sił pomiędzy systemami demokratycznymi i totalitarnymi.
Obawiam się, że nowe technologie mają tendencję do dawania przewagi reżimom totalitarnym, ponieważ największym problemem reżimów totalitarnych w XX wieku, który ostatecznie doprowadził do ich upadku, było to, że nie potrafiły przetwarzać informacji wystarczająco efektywnie. W Związku Radzieckim funkcjonował model polegający na tym, że zabierano wszystkie informacje z całego kraju i przesyłano je w jedno miejsce, do Moskwy, gdzie były przetwarzane. Decyzje były podejmowane w jednym miejscu i przekazywane z powrotem jako polecenia.
Model amerykański był inny, bo w USA nigdy nie było jednego centrum przetwarzania informacji. Jest tu wiele organizacji i wiele osób i firm, które mogą podejmować własne decyzje.
Model radziecki po prostu nie działał dobrze z powodu trudności w szybkim przetwarzaniu wielu informacji, co dodatkowo utrudniała przestarzała technologia. Dlatego ZSRR przegrał zimną wojnę z USA.
Nowa technologia sprawia, że centralne przetwarzanie danych staje się o wiele bardziej wydajne niż przetwarzanie rozproszone. Dlatego, że im więcej danych masz w jednym miejscu, tym lepsze są twoje algorytmy.
MZ: Cóż, jestem bardziej optymistycznie nastawiony. Zawsze wydaje nam się, że systemy totalitarne będą bardziej wydajne, a demokracje pozostaną w tyle. Ale mądrzy ludzie zaczynają omawiać te sprawy, troszczyć się o nie i stają się coraz bardziej świadomi. Zdają sobie sprawę, że posiadanie dużej ilości danych może być zarówno atutem, zapewniając im wiele korzyści, jak i zagrożeniem, bo przecież istnieją hakerzy i rządy autorytarne, które mogą wykorzystać te dane przeciw tobie.
Więc może ludzie nie chcą, aby ich dane były przechowywane na zawsze? Może chcą, aby zostały na stałe zredukowane ? Albo by wszystko to było szyfrowane od początku do końca, na tyle, na ile jest to możliwe w ich prywatnej komunikacji? W zdecentralizowanym systemie ludzie są w stanie podejmować mądre decyzje – mądrzejsze niż w systemie scentralizowanym.
Pomysł, że istnieje jakaś uogólniona sztuczna inteligencja, która rozumie wszystkie wymiary tego, kim jesteś w sposób głębszy niż ty, wydaje mi się dość daleki od realizacji
Mark Zuckerberg
Ludzie zawsze uważali, że model demokratyczny, choć powolny w mobilizacji, jest też bardzo silny. I że to nadal najlepszy sposób na szerzenie dobrobytu na całym świecie i osiąganie postępu odpowiednio do ludzkich potrzeb.
YNH: Tak, w ciągu ostatnich kilkudziesięciu lat otwarte systemy demokratyczne były lepsze i skuteczniejsze. Ale to mogło sprawić, że staliśmy się trochę zbyt zadowoleni z siebie, ponieważ zakładamy, że jest to rodzaj prawa natury, że systemy rozproszone są zawsze lepsze i bardziej wydajne niż systemy scentralizowane.
Dorastaliśmy w świecie, w którym czynienie moralnego dobra było zarazem czynieniem tego, co efektywne gospodarczo i politycznie. W ciągu minionych 50 lat wiele krajów zliberalizowało swoje gospodarki, społeczeństwa i politykę raczej dlatego, że były przekonane o większej efektywności systemu demokratycznego, otwartego, niż o jego przewadze moralnej.
Ale co się stanie, jeśli skuteczność i moralność nagle się rozpadną, co już miało miejsce w historii? Ostatnie 50 lat nie są reprezentatywne dla całej historii. W przeszłości mieliśmy wiele przypadków, gdy represyjne systemy scentralizowane były bardziej wydajne. I nie ma prawa natury, które mówiłoby: „To się nie może powtórzyć”.
Nowa technologia może zachwiać tę równowagę, którą mamy od półwiecza, a samo usprawnienie centralnego przetwarzania danych mogłoby dać impuls reżimom totalitarnym. Przez większość historii władza centralna nie mogła poznać cię bliżej tylko dlatego, że nie była w stanie zebrać i przetworzyć informacji. Byli więc ludzie, którzy znali cię bardzo dobrze, ale zazwyczaj to byli ci, których interesy były zbieżne z twoimi. Teraz dochodzimy do punktu, w którym jakiś system działający daleko ode mnie może znać mnie lepiej niż moja matka, choć nasze interesy niekoniecznie są zbieżne. To rodzaj władzy, która nigdy wcześniej nie istniała i która może upoważnić reżimy totalitarne i autorytarne do robienia rzeczy wcześniej po prostu technicznie niemożliwych.
Narzędzia do robienia tego na masową skalę zostały opracowane w ciągu ostatnich kilkudziesięciu lat. Być może zostały one opracowane z najlepszymi intencjami; niektóre, by sprzedawać ludziom rzeczy i produkty. Ale teraz te same narzędzia, które mogą być użyte do sprzedania mi czegoś, czego nie potrzebuję, mogą też być użyte do sprzedania mi polityka, którego nie potrzebuję, lub ideologii, której nie potrzebuję.
MZ: Widzieliśmy, co rząd rosyjski robił w wyborach prezydenckich w USA w 2016 roku. To oczywiste nadużycie. Musimy zbudować zaawansowane systemy wykrywania takich ingerencji w proces demokratyczny.
Powstrzymanie nadużyć jest ważne, ale jeszcze ważniejsze jest pytanie, czy to jest nieodłączna cecha systemów. Ludzie podejmują decyzje w oparciu o to, co uważają za wartościowe. Gdzieś w głębi wiedzą, kiedy coś jest dobre. Mają poczucie tego, na czym naprawdę im zależy.
YNH: Często to słyszę: ostatecznie klient ma zawsze rację, wyborca wie najlepiej, ludzie wiedzą, co jest dla nich dobre. Ludzie dokonują wyboru: jeśli zdecydują się coś zrobić, to to jest dla nich dobre. To jest fundament zachodnich demokracji od pokoleń.
Ale tu właśnie pojawia się wielki znak zapytania: Czy to prawda, że w świecie, w którym dysponujemy supertechnologią hakowania ludzi i manipulowania nimi, klient ma zawsze rację, a wyborca wie najlepiej? A może minęliśmy już ten punkt?
MZ: Wszystkie te rozmowy pod hasłem: „Czy demokracja została okaleczona przez nowe technologie i media”… Świat jest teraz znacznie bardziej demokratyczny, niż był w przeszłości. Dzisiaj coraz więcej ludzi jest uwłaszczonych i coraz więcej ludzi ma głos i dostęp do informacji. Technologia sprawiła, że jednostki mają większe uprawnienia. Pytanie brzmi: „Czy to jest świat, którego chcemy?”.
Pomysł, że istnieje jakaś uogólniona sztuczna inteligencja, która jest rzeczą monolityczną, która rozumie wszystkie wymiary tego, kim jesteś w sposób głębszy niż ty, wydaje mi się dość daleki od realizacji.
Adres filmu na Youtube: https://youtu.be/Boj9eD0Wug8
Źródło: Yuval Noah Harari / YouTube
YHN: Spróbuję podsumować mój pogląd: mamy dwa różne zagrożenia wynikające z tych samych narzędzi technologicznych. Pierwsze jest łatwiejsze do uchwycenia: zagrożenie pojawieniem się ekstremalnych reżimów totalitarnych. Żyjesz w systemie, który cię stale monitoruje, bada i nieustannie manipuluje tobą od najmłodszych lat. Totalitarna dystopia tak skuteczna, że ludzie nie będą nawet mieli pojęcia o jej istnieniu, ponieważ będą uformowani zgodnie z jej wartościami i ideałami systemów. To już nie będzie „1984” Orwella, gdzie trzeba cały czas torturować ludzi. Jeśli będziesz miał agentów w ich mózgach, nie będziesz potrzebował tajnej policji.
Jednak w miejscach takich jak USA bardziej bezpośrednim zagrożeniem będzie to, co ludzie coraz częściej nazywają kapitalizmem nadzoru: są systemy, które stale z tobą współpracują i poznają cię, a wszystko to rzekomo w twoim najlepszym interesie, by dać ci lepsze rekomendacje i lepsze rady. Zaczyna się od rekomendacji filmu czy miejsca na wakacje. W miarę jak system staje się lepszy, daje ci rekomendację na temat tego, co studiować w college’u i gdzie pracować, a ostatecznie – z kim wziąć ślub, którą religię wyznawać, do której dołączyć do wspólnoty. Przykład: „Tu masz wszystkie te wspólnoty religijne. Najlepszy dla ciebie ze względu na twój typ osobowości jest nie judaizm – on nie będzie na ciebie działał – ale buddyzm zen. Podziękujesz nam. Za pięć lat spojrzysz wstecz i powiesz: ‘To była niesamowita rekomendacja. Bardzo lubię buddyzm zen’”. Ludzie będą przekonani, że jest to zgodne z ich najlepszym interesem.
Od tysięcy lat ludzie postrzegali życie jako dramat podejmowania decyzji. Niektóre decyzje dotyczą spraw drobnych, jak to, co jeść na śniadanie, a niektóre są poważne, jak to, kogo poślubić. I niemal w całej sztuce i całej religii o to chodzi. Czy to tragedia Szekspira, czy hollywoodzka komedia – chodzi o bohatera czy bohaterkę, która musi podjąć ważną decyzję: być albo nie być, poślubić X czy Y.
A co to znaczy żyć w świecie, w którym w coraz większym stopniu polegamy na zaleceniach algorytmów, aby podejmować takie decyzje, a nie inne? W świecie, w którym w końcu osiągniemy punkt, w którym po prostu będziemy za tymi algorytmami podążać cały czas lub przez większość czasu. Nie twierdzę, że to coś złowieszczego. Ale nie mamy modelu pozwalającego rozumieć sens ludzkiego życia w takiej sytuacji.
MZ: Dziś mamy dostęp do wielu różnych źródeł informacji, wielu ludzi, z którymi możemy rozmawiać o różnych sprawach. I nie jest tak, że istnieje jeden zestaw zaleceń lub jedna rekomendacja, która zdominuje to, co robimy. Przeciwnie, myślę, że ludzie są bardzo nieufni, kiedy ktoś im mówi, co mają robić lub gdy mają jedną opcję.
Opracował Robert Siewiorek
Mark Zuckerberg, szef Facebooka, prowadzi w tym roku cykl publicznych dyskusji na temat przyszłości internetu, społeczeństwa i nowych technologii. 26 kwietnia w Menlo Park w Kalifornii rozmawiał z Yuvalem Noahem Hararim, historykiem i autorem światowych bestsellerów „Sapiens: od zwierząt do bogów”, „Homo Deus: krótka historia jutra” i „21 lekcji na XXI wiek”. Tekst jest prezentacją najciekawszych wątków tej dyskusji.