Kult przedsiębiorczości i liderów technologicznych zaczyna słabnąć. Młodzi ludzie pytają: czy to na pewno świat, który chcemy odziedziczyć? – mówi Lucie Greene w rozmowie z Maciejem Chojnowskim
Maciej Chojnowski: W książce „Silicon States” skupia się pani na ekspansji największych firm technologicznych na obszary dotychczas zarezerwowane dla państwa, jak służba zdrowia czy edukacja. Jednak instytucje publiczne często kiepsko radzą sobie z dużymi projektami, a firmy są bardziej elastyczne. Może więc rządy potrzebują stymulacji ze strony rynku? Co jest tu największym problemem: konkurencja na linii państwo – rynek czy władza cyfrowych gigantów?
Lucie Greene*: Rzeczywiście, można odnieść wrażenie, że rządy działają wolniej i są mniej elastyczne w prowadzeniu projektów. Dziś coraz więcej aspektów naszego życia przechodzi do sfery cyfrowej i usługi publiczne także muszą ulec digitalizacji. Ludzie z branży nowych technologii przedstawiają się jako eksperci w tej dziedzinie, więc firmy – od Amazona po Google’a i jego spółki-córki – prześcigają się w ofertach dla rządów. Istota problemu nie tkwi jednak w tempie wykonania projektu ani nawet w poziomie eksperckości.
A w czym?
W perspektywie, jaką te firmy przyjmują, pracując dla rządu. Często jest ona typowa dla przedsięwzięć komercyjnych. Ponadto zespoły, które pracują przy tworzeniu tych usług, są często za mało zróżnicowane [np. jest w nich za mało kobiet – przyp. red.].
Co to może powodować?
Usługi publiczne i państwo muszą być dostępne dla wszystkich, nikogo nie wykluczać i przeciwdziałać uprzedzeniom. Jak jednak pokazuje choćby raport ONZ poświęcony ubóstwu, wraz z digitalizacją i automatyzacją te usługi przestają być dostępne dla każdego. Wykluczani są ludzie bez dostępu do internetu, starsi, ubodzy czy choćby zadający pytania trudniejsze niż te, na które może odpowiedzieć chatbot lub algorytm. To się dzieje w sytuacji, gdy nie ma już infolinii, na którą można by zadzwonić i uzyskać pomoc od żywego człowieka.
W usługach wielkich firm technologicznych, jak rozpoznawanie zdjęć czy sztuczna inteligencja, widać już oznaki uprzedzeń rasowych. Dowiedziono, że systemy rozpoznawania obrazów gorzej sobie radzą z rozpoznawaniem osób z mniejszości etnicznych.
Wynalazki takie jak Hololens, czyli gogle rozszerzonej rzeczywistości opracowane przez Microsoft, są używane nie tylko do gier komputerowych, ale także do szkolenia żołnierzy. Wzbudziło to gwałtowny sprzeciw pracowników firmy.
Jakaś inna droga jest możliwa?
Tak. Megan Smith, głównej doradczyni Baracka Obamy ds. technologii, a zarazem byłej pracowniczce Google’a, bardzo zależało na sprowadzaniu do administracji utalentowanych ludzi z Doliny Krzemowej. Ulepszali rządowe usługi cyfrowe, uwzględniając w nich kwestie etyczne.
Firmy takie jak FutureGov również rozpoczęły współpracę z administracją państwową i tworzą wydajne, przyjazne dla użytkownika serwisy i usługi na wzór Ubera czy Facebooka, jednak silniej niż w innych przypadkach przeciwdziałając wykluczeniu.
To znaczy, że trzecia droga jest możliwa.
Wykluczani są ludzie bez dostępu do internetu, starsi, ubodzy czy choćby zadający pytania trudniejsze niż te, na które może odpowiedzieć chatbot lub algorytm
Technologie wykorzystujące SI zbierają ogromne ilości danych o użytkownikach, a mimo to ich popularność rośnie, szczególnie wśród milenialsów. Z pani książki wynika, że podoba im się pomysł, by najważniejsi ludzie z Doliny Krzemowej weszli do polityki. Czy te zasilane danymi technologie będą używane do wpływania na wyborców? Powinniśmy się spodziewać nowej ery cyfrowej technokracji?
Już tak się dzieje. Na całym świecie pojawiają się kolejne dowody na to, w jaki sposób sieci społecznościowe, jak Facebook czy YouTube, wykorzystuje się do rozsiewania ekstremistycznych treści, fake newsów czy reklamy politycznej.
Te narzędzia staną się jeszcze bardziej niebezpieczne z nadejściem sieci 5G, internetu rzeczy, maszynowego rozpoznawania obrazu i głosu. Doprowadzą nie tylko do nasilonej inwigilacji, ale także pozwolą na bardzo głębokie oddziaływanie na ludzi. Oznacza to również, że ilość danych na nasz temat wzrośnie wykładniczo, umożliwiając jeszcze bardziej precyzyjne profilowanie.
Staje się to szczególnie widoczne, gdy uświadomimy sobie możliwości tych technologii w personalizowaniu i przewidywaniu reakcji konsumentów z wykorzystaniem SI.
Co pani ma na myśli?
Sieć 5G oznacza, że wirtualna rzeczywistość będzie wszędzie, a to pozwoli na manipulowanie odbiorcami. W tym pozbawionym regulacji świecie rozplenią się nowe monopole.
Rowland Manthorpe, korespondent Sky News, wypowiadając się na temat sieci 5G, ujął to tak: „Pewnego dnia spojrzymy na koniec drugiej dekady XXI wieku i będziemy się śmiać z tego, jak łatwo można było powstrzymać, wciąż dość słabych, potentatów cyfrowych”. Dodał też, że bez względu na to, jacy nowi giganci wyłonią się na rynku w przyszłości, „ich model biznesowy będzie oparty na inwigilacji”.
Światowy rynek cyfrowy jest dziś podzielony między USA i Chiny. Chiński rząd wspiera rozwój SI. A co z USA? Mogłoby się zdawać, że im bardziej wpływowe są amerykańskie firmy, tym lepiej dla gospodarki USA. Po co więc wprowadzać regulacje w obszarze, który napędza wzrost gospodarczy? Z drugiej strony Kai-Fu Lee twierdzi, że w nadchodzących latach prawdziwym problemem będą kryzysy wewnętrzne (jak masowe bezrobocie wynikające z automatyzacji), a nie międzynarodowe.
Faktycznie, jednym z powodów, dla których nikt nie przeciwstawia się wzrostowi amerykańskich gigantów technologicznych, jest to, że łączy się je z geoekonomiczną potęgą Ameryki. Jeśli w Chinach czy na innych rynkach nie ma Amazona i Google’a, to miejsce tych firm zajmują chińscy potentaci. I tak jak ich amerykańskie odpowiedniki będą oni mieli dostęp do wielkich zasobów informacji o obywatelach i konsumentach, zarazem zacieśniając relacje z rządami.
Moment krytyczny zbliża się tym szybciej, im bardziej amerykańscy giganci pozbawiają rządy przychodów, unikają podatków, obciążają administrację kosztami bezrobocia czy podnoszą wydajność cyfrowych usług [chodzi na przykład o społeczne koszty automatyzacji].
To niezbyt korzystne dla rządzących.
Rządy są w potrzasku. Z jednej strony maleją przychody państw, z drugiej – ich zasoby są coraz bardziej nadwerężone. Na dodatek dzieje się to w realiach ideologicznej bitwy, w której rząd przedstawiany jest jako powolny i zapóźniony.
Ta tendencja nasila się wraz ze wzrostem wydatków na lobbing oraz mnożeniem obietnic, że w największych miastach, do których te firmy trafiają, powstaną nowe miejsca pracy.
Rządy stoją na straconej pozycji?
Można by tak pomyśleć, ale to się może zmieniać. Na ostatnim forum ekonomicznym w Davos obserwowaliśmy ogromną falę populistycznej krytyki wymierzonej w unikających podatków bogaczy i korporacje. Subsydia i ulgi podatkowe dla Amazona za przeniesienie drugiej siedziby tej firmy do nowojorskiej dzielnicy Queens wywołały powszechne oburzenie.
Amerykańscy politycy tacy jak Alexandria Ocasio-Cortez [demokratka w Izbie Reprezentantów] zaczynają mówić o zmianach klimatycznych w kontekście społeczno-ekonomicznym. Firmy technologiczne będą coraz bardziej postrzegane w ten sam sposób. Po raz pierwszy ktoś pokazuje, że ocieplenie klimatu i związane z nim katastrofy uderzają przede wszystkim w ubogich. Podobnie jest, gdy mówimy o negatywnym oddziaływaniu nowych technologii.
Dziś mamy Zielony Nowy Ład i sądzę, że niebawem ludzie będą w ten sam sposób postrzegać wielkie korporacje technologiczne. Mimo działań marketingowych i filantropii miliarderów będą się one jawić jako antydemokratyczne, napędzane żądzą bogactwa i pogłębiające nierówność dochodów. Nadchodzi Nowy Ład Technologiczny.
Kto wesprze ten ruch?
Pokolenie milenialsów przechodzi na lewą stronę. Wśród jego młodszych reprezentantów widać powrót idei socjalizmu. Oni stale muszą się mierzyć z wyzwaniami gospodarki, którą odziedziczyli, i zaczynają postrzegać neoliberalizm jako porażkę. A to właśnie w erze neoliberalnej doszło do zacieśnienia więzi między firmami z sektora technologii a rządami w USA i w Wielkiej Brytanii. Neoliberalizm miał znaczący wpływ na rozwój tych firm.
Co ciekawe, taka sytuacja wytwarza presję na zachodnie firmy technologiczne, której ich chińskie odpowiedniki raczej nie doświadczają. Markom takim jak Facebook, Airbnb, Google, Uber czy Amazon bardzo zależy na popularności wśród klientów. Równocześnie jednak starają się sprawiać wrażenie, że są przychylne wobec rządów. W Chinach związki sektora technologii z rządem (i inwigilacją) są dużo ściślejsze i jawne. Chińskie firmy technologiczne przenoszą to podejście także na nowe rynki.
Adres filmu na Youtube: https://www.youtube.com/watch?v=m8QkIiU97UU
Źródło: The Business of Fashion / YouTube
Unia Europejska uważa, że prawne i etyczne regulacje w odniesieniu do sztucznej inteligencji mogłyby jej dać przewagę konkurencyjną nad krajami, gdzie zastosowanie takich regulacji jest ograniczone. Czy taka polityka może być skuteczna? Inni pójdą w ślady Unii?
Rzeczywiście, widać wzmożoną aktywność na rzecz zaszczepienia etyki w innowacjach technologicznych. To inicjatywa rządów, ale firmy twierdzą, że też im na tym zależy. Na przykład Salesforce zatrudnia już dyrektora ds. etyki, Apple zaś mówi o prywatności jako jednym z praw człowieka. Światowe Forum Ekonomiczne i Amnesty International przyglądają się etycznym konsekwencjom funkcjonowania SI i innych nowych technologii. Natomiast Tim Berners-Lee, twórca internetu, opublikował manifest na rzecz internetu mniej wykluczającego. Napisał, że sieć stała się hiperkapitalistyczną maszyną.
Do niedawna w USA powszechna była niewiara w innowacyjne możliwości państwa. Zamiast NASA mieliśmy Elona Muska, a w miejsce systemu opieki zdrowotnej pojawiał się Jeff Bezos z nowymi pomysłami na ubezpieczenie i wsparciem dla ofiar huraganu w Portoryko
Rządy przez lata zbyt wolno reagowały na pojawianie się nowych technologii, jak SI czy nowe platformy internetowe, i ten brak zrozumienia miał fatalne konsekwencje. Dowodzi tego choćby afera Cambridge Analytica. Unia chce działać inteligentnie i z wyprzedzeniem. Większe regulacje mogą przysparzać zysków z podatków od innowacji technologicznych. Na ile się to uda? To już inna sprawa.
Mamy choćby przykład RODO.
RODO wzbudziło duże kontrowersje i jego sukces jest dyskusyjny. Mamy też dyskusję o tym, czy platformy w rodzaju Facebooka czy YouTube’a powinny być traktowane jak korporacje medialne, czy jednak jak coś nowego. Próba uregulowania SI może się okazać równie mglista i kłopotliwa. Jak w ogóle się do tego zabrać?
Tak czy owak, lepsze zrozumienie przez rządy konsekwencji wdrażania SI będzie czymś dobrym.
W „Silicon States” pisze pani, że sukces największych firm technologicznych bierze się z naszego uzależnienia od urządzeń cyfrowych, czyli ostatecznie – z naszej apatii. Masowe porzucenie mediów społecznościowych jest raczej niemożliwe, bo lubimy wygodę, którą dają nowe technologie. Jeśli jednak społeczeństwo jest w apatii, to skąd oczekiwać odnowy? Ze strony państw? Czy rządy powinny bardziej wtrącać się w działanie rynku?
W minionych latach było wśród milenialsów dużo politycznej apatii, ale wydarzenia takie jak brexit czy wybory prezydenckie w USA zadziałały mobilizująco. Gdy to pokolenie osiąga zawodową i ekonomiczną dojrzałość, dostrzega wyzwania, z którymi musi się mierzyć. Zaczyna więc działać, walczyć o wpływ, ubiegać się o urzędy.
Kult przedsiębiorczości i liderów technologicznych zaczyna słabnąć. Milenialsi i pokolenie Z, z którego pochodzi coraz więcej wyborców, pytają: czy to na pewno świat, który chcemy odziedziczyć? Widać też, że coraz więcej z nich opuszcza branżę technologiczną, by wykorzystywać swoje doświadczenia tam, gdzie jest jakiś cel i etyczne zasady działania.
Budzą się z letargu?
W ubiegłych latach zaangażowanie obywatelskie tego pokolenia było małe. Dlatego jednym z głównych celów Fundacji Obamy stało się promowanie wśród młodych ludzi udziału w życiu publicznym.
Do niedawna powszechna była też niewiara w innowacyjne możliwości państwa. Zamiast NASA mieliśmy Elona Muska, a w miejsce systemu opieki zdrowotnej pojawiał się Jeff Bezos z nowymi pomysłami na ubezpieczenie i wsparciem dla ofiar huraganu w Portoryko. Ludzie tacy jak oni zawładnęli masową wyobraźnią, dając nadzieję na stworzenie nowego świata, choć w istocie korzystali z państwowych pieniędzy. Trochę niepokojące było również to, że cała ta historia o wielkim sukcesie była przypisywana białym mężczyznom.
Nie zawsze tak było. W przeszłości państwa inwestowały w niektóre z najważniejszych technologii, jak internet czy rozpoznawanie głosu. Jednak wraz z gigantyczną ekspansją Doliny Krzemowej i wzrostem jej bogactwa prywatne firmy technologiczne zaczęły dominować nad państwem w dziedzinie innowacji. Myślenie w kategoriach zysku i zastosowań komercyjnych zdobyło przewagę.
Można temu jakoś przeciwdziałać?
Istnieją inicjatywy, które z tym walczą. Za kadencji Obamy stworzono fundusz venture capital, który miał wprowadzić rząd do gry przy nabywaniu nowych technologii. Powstają firmy, takie jak założona przez Megan Smith Shift7, które chcą tworzyć innowacje, które nikogo nie wykluczają.
Miejmy nadzieję, że to zapowiedź większych inwestycji rządowych w innowacje. Dla mnie jasne jest, że rząd potrzebuje też lepszych „miękkich” inicjatyw wizerunkowych i kampanii podkreślających jego rolę w społeczeństwie jako innowatora. Do niedawna dominowali w tym technologiczni giganci.
Rządy powinny więc głośno krzyczeć o wszystkich świetnych rzeczach, które robią. I o swojej roli w społeczeństwie. Bo nowe pokolenia muszą uwierzyć w państwo i angażować się w demokrację.
*Lucie Greene jest dyrektorem Innovation Group, think tanku zajmującego się przyszłością i innowacyjnością, którego prace, przewidujące nadchodzące trendy w wielu dziedzinach życia, są obszernie cytowane w pismach takich jak „The New York Times”, „Bloomberg Business Week”, „The Guardian”, „USA Today” czy „The Times”. Greene często pojawia się w BBC, Fox News i Bloomberg TV jako ekspertka od przyszłości. W 2018 roku Greene wydała książkę „Silicon States. The Power and Politics of Big Tech and What It Means for Our Future”.
Read the English version of this text HERE