Historie porażek są z reguły ciekawsze od historii sukcesów i często niosą też ze sobą więcej wartościowych lekcji – mówi Adam Haertle, ekspert od bezpieczeństwa informacji, w rozmowie z Michałem Roleckim

Michał Rolecki: Od lat zbiera pan przypadki porażek, wpadek i katastrof. Jak zainteresował się pan tym, co się nie udaje?

Adam Haertle*: Lubię opowiadać ciekawe historie, a historie porażek są z reguły ciekawsze od historii sukcesów i często niosą też ze sobą więcej wartościowych lekcji. Firmy nadal niechętnie dzielą się opowieściami o swoich wpadkach, więc staram się wyławiać te historie i dostarczać je słuchaczom – tak długo, jak będą przychodzić, ja będę opowiadał.

Internet miał szerzyć wiedzę, wspomóc kontakty międzyludzkie, dać szansę przedsiębiorcom, przyczynić się do budowy społeczeństwa obywatelskiego. Tymczasem mamy rosnących w siłę populistów, bańki internetowe, antyszczepionkowców, fake newsy i propagandowe boty. Ale przede wszystkim – dominację Amazona, Google’a i Apple’a, którym płacimy swoimi danymi. To nie jest przypadkiem piękna katastrofa, ten internet?

Internet świetnie wzmacnia dawne problemy i tworzy nowe, ale także wiele innych problemów rozwiązuje i wyrównuje szanse na poziomie globalnym. Wierzę, że przy wszystkich negatywnych konsekwencjach sieci skutki pozytywne są znacząco większe. Sam z nich korzystam, opierając swój biznes o informacje i usługi dostępne online, więc nie mogę narzekać.

Skoro internet nie do końca się udał, co może pójść nie tak z algorytmami uczenia maszynowego i sztuczną inteligencją? Stracimy prywatność i uznamy, że to codzienność, skoro chętnie oddajemy korporacjom zdjęcia twarzy? A może przewiduje pan coś bardziej katastroficznego?

Algorytmy też mają swoich autorów i zestawy danych, na których się uczą. Dzisiejszy stan rzeczy pokazuje, że człowiek, nawet niechcący, przekazuje algorytmom swoje ograniczenia. Wiele algorytmów rozpoznawania twarzy działa przyzwoicie na populacji rasy białej, ale już z rasą czarną skuteczność ma niższą o kilkadziesiąt procent. Podobnie zapewne rozwiązania tworzone w Azji nie zawsze będą działały skutecznie w Europie. Uczenie maszynowe i sztuczna inteligencja nie są magią – są stworzone przez człowieka i najwyraźniej trudno będzie się im oderwać od naszych ludzkich ograniczeń.

5G i internet rzeczy to też potencjał na porażkę w stylu internetu? A może wizje korporacji (i futurologów) spalą na panewce? Google nie będzie budować cyfrowej dzielnicy w Toronto, autonomiczne auta ciągle nie podbijają dróg. To było do przewidzenia?

Autonomiczne samochody to świetny przykład tego, jak wielkie oczekiwania okazują się bardziej życzeniami niż planami ich realizacji. Nie spodziewam się, by pojazdy o pełnej autonomii pojawiły się na ulicach naszych miast w ciągu najbliższych 10 czy 15 lat.

Uczenie maszynowe i sztuczna inteligencja nie są magią – są stworzone przez człowieka i najwyraźniej trudno będzie się im oderwać od naszych ludzkich ograniczeń

80 procent skuteczności przy podejmowaniu decyzji przed przejściem dla pieszych jest najwyraźniej dużo łatwiej osiągnąć niż 100 procent – a wymagamy 100 procent (przynajmniej tak radzą producentom działy prawne). Każdy, kto borykał się z automatyczną kasą w supermarkecie, która nie potrafiła rozpoznać odłożonego towaru albo skarżyła się na ciężar nieistniejącej reklamówki, może zastanowić się nad tym, jak mamy zrobić autonomiczne samochody, skoro nie potrafimy zrobić bezawaryjnej autonomicznej kasy sklepowej.

Autonomiczna broń i cyberwojny – wojny w XXI wieku będą prowadzone bez wypowiadania, przez drony i internet? To trochę brzmi jak przepis na porażkę – wszystko na takiej wojnie można zhakować. A może to szansa i skończy się jak w „Pokoju na Ziemi” Lema – ciągle toczyć się będzie wojna, ale z daleka od nas?

Spodziewam się, że raczej będziemy mieli konflikty (lub już je mamy), które trudno nazwać wojną, a jeszcze trudniej wskazać napastnika. W internecie można przeprowadzać ataki, ukrywając swoją tożsamość lub podszywając się pod cudzą. Jak traktować taką napaść? Czy to już wojna? I z kim? To trudne pytania.

Ma pan swoją ulubioną katastrofę?

Trudno wskazać jedno wydarzenie, które tak mógłbym nazwać. Z punktu widzenia technicznej złożoności zapewne będzie to Stuxnet, czyli atak na irańskie systemy wirówek używanych w pracach nad technologiami jądrowymi. Z punktu widzenia skali na razie jest to NotPetya – atak, który wyłączył setki firm na całym świecie, generując straty idące w miliardy dolarów. Z kolei wzorowo obsłużony incydent to atak na Norsk Hydro, które od początku bardzo jasno komunikowało, co się stało i co robi, by problemy rozwiązać.

Jest pan też wykładowcą akademickim. O czym uczy pan studentów na zajęciach?

Staram się im przekazać wiedzę o tym, jak wyglądają realia pracy w obszarze zarządzania bezpieczeństwem – jak przebiegają prawdziwe ataki i jakie są zarówno ich przyczyny, jak i skutki, oraz z jakimi ograniczeniami będą musieli sobie radzić w przyszłości. Sam swoje studia wspominam jako niekończący się ciąg nudnej teorii, więc staram się odwrócić ten trend.

---

*Adam Haertle – bezpieczeństwem zawodowo zajmuje się od kilkunastu lat, najpierw w firmie Deloitte, a następnie w UPC, gdzie przez 12 lat odpowiadał za kwestie związane z ochroną informacji w kraju oraz regionie. Od siedmiu lat prowadzi jeden z najpopularniejszych polskojęzycznych serwisów internetowych poświęconych bezpieczeństwu informacji – ZaufanaTrzeciaStrona.pl. Organizator jednej z największych konferencji branżowych What The H@ck (https://wthconf.pl).
Od 2004 występuje na wszystkich dużych konferencjach poświęconych bezpieczeństwu w Polsce. Wykładowca studiów podyplomowych na SGH. Prostym, przystępnym językiem i na prawdziwych przykładach opisuje realne zagrożenia czyhające na firmy i użytkowników.

We wrześniu będzie gościem konferencji Infoshare 2020 (patrz ramka).

• Adam Haertle
• autonomiczne samochody
• Infoshare
• NotPetya
• prywatność
• stronniczość algorytmów
• Stuxnet