Czy algorytm może się nauczyć informowania o zamachach? Facebook zamierza uczyć się z policyjnych ćwiczeń
Piętnastego marca tego roku uzbrojony w broń automatyczną zamachowiec wszedł do meczetu w Nowozelandzkim Christchurch i zaczął strzelać do wiernych. Umieszczone na jego ubraniu kamery przez siedemnaście minut na żywo przekazywały transmisję ze zbrodni. Nowa Zelandia pogrążyła się w żałobie po śmierci pięćdziesięciu jeden osób, a na Facebooka spadła krytyka za brak natychmiastowej reakcji.
Trzeba przyznać, że Facebook nie kontroluje filmów sam – zatrudnia do tego firmy zewnętrzne. Te z kolei zatrudniają dziesiątki tysięcy osób, które muszą mierzyć się z codziennym oglądaniem setek wstrząsających nagrań. Jest na nich wszystko, czego człowiek nie chciałby oglądać, od samobójczych prób, przez torturowanie zwierząt, po zabójstwa. W większości przypadków takie materiały udaje się wychwycić przed publikacją. W przypadku Nowej Zelandii jednak system zawiódł.
Reakcja zajęła wtedy Facebookowi aż dwa tygodnie. Dopiero 21 marca firma przyznała, że pilniejszą uwagę zwraca tylko na nagrania zawierające próby samobójcze. Jeszcze później, 29 marca, w dzienniku „New Zealand Herald” szefowa operacyjna (CEO) Facebooka Sheryl Sandberg opublikowała list, jednak poza wyrazami współczucia nie zawierał konkretów. Wspomniał jedynie, że firma “bada możliwości” ograniczania transmisji na żywo.
Automat zablokuje nagrania strzelaniny
W ubiegłym tygodniu, po pół roku Facebook ogłosił, że w szybszej reakcji na ataki zamachowców z bronią automatyczną ma pomóc współpraca z brytyjską policją. Powstanie algorytm, który będzie takie nagrania blokować automatycznie. Żeby jednak algorytm mógł je rozpoznać, trzeba go tego najpierw nauczyć.
Ponieważ jednostki policji biorą udział w ćwiczeniach, symulujących różne sytuacje kryzysowe, w tym ataki z broni maszynowej, londyńska policja będzie udostępniać nagrania z takich ćwiczeń Facebookowi. Chodzi głównie o obrazy z perspektywy strzelca, co pozwoli identyfikować filmy nagrywane przez zamachowców. Neil Basu, szef jednostek specjalnych brytyjskiej policji wyraził nadzieję, że technologia zapobiegnie gloryfikowaniu takich czynów i rozpowszechnianiu szkodliwych ideologii, które je napędzają.
Bez wątpienia nauczenie algorytmu jak wygląda zabijanie z broni maszynowej z perspektywy strzelca potrwa. Nawet gdy komputer się tego nauczy, nadal nie będzie jak zabójcy natychmiast powstrzymać, można będzie jedynie przyspieszyć reakcję policji. Ruch Facebooka jest więc głównie posunięciem wizerunkowym. Tego samego dnia bowiem, gdy ogłoszono współpracę z brytyjską policją w celu rozpoznawania strzelanin przed Komisją Handlu amerykańskiego Senatu, przedstawiciele Facebooka, Google’a i Twittera tłumaczyli się w sprawie materiałów zawierających przemoc i propagujących terroryzm.
Facebook nadal promuje Al Kaidę
Z 9 milionów filmów usuniętych z YouTube tylko w drugim kwartale roku, aż 87 proc. zostało oznaczonych do usunięcia przez algorytmy. Google wzmogło wysiłki po tym, jak w strzelaninie w szkole na Florydzie w lutym 2018 roku zginęło 17 uczniów. Firma podjęła wtedy współpracę z organami ścigania. Bezpośrednim impulsem było zapewne to, że zabójca wrzucił wcześniej na YouTube’a film, na którym mówił „Zostanę zawodowym szkolnym strzelcem”.
Na swojej stronie Facebook zaś przypomina , że algorytm wyłapujący treści o charakterze terrorystycznym wprowadził już dwa lata temu. Od tego czasu usunął 26 milionów wpisów grup terrorystycznych, z których 99 proc. usunięto jeszcze przed zgłoszeniem przez użytkowników.
Twitter z kolei twierdzi, że za publikację treści o charakterze terrorystycznym zawiesił 1,5 miliona kont użytkowników w ciągu trzech lat, z czego 90 proc. z własnej inicjatywy – co jednak oznacza, że w co dziesiątym przypadku interweniowały instytucje publiczne.
Być może internetowi giganci są już po prostu zbyt wielcy, by kontrolować treści, jakie się przez ich media przewijają. Cztery miesiące temu dziennikarze Associated Press odkryli, że Facebook nadal automatycznie generuje treści, w tym filmy wideo, promujące Al Kaidę i Państwo Islamskie. Tydzień temu dziennikarze sprawdzili, że dzieje się to nadal. Podczas przesłuchania internetowych gigantów w Kongresie tej kwestii jednak nie poruszono.