Czy rozpoznawanie twarzy można oszukać? W niektórych przypadkach zbyt łatwo – pokazują badacze z firmy Kneron, zajmującej się sztuczną inteligencją
Algorytmy rozpoznające twarze stają się coraz powszechniejsze. W Chinach kamer rozpoznających twarze są już miliony. A o tym, że ich wizerunki są rejestrowane i analizowane przez algorytmy, coraz częściej dowiadują się też Amerykanie i Brytyjczycy. W San Francisco zakazano tej technologii w ogóle. W Wielkiej Brytanii media pisały w tym roku o „epidemii”.
Nie tak niezawodne, jak by się wydawało
Trzeba przyznać, że to technologia, która budzi kontrowersje. Nie bez powodu na dowodach tożsamości znajdują się zdjęcia, trudno bowiem o bardziej osobistą informację niż rysy twarzy. Tymczasem (przynajmniej w teorii) każdy może naszą twarz zarejestrować i poddać analizie algorytmów, więc potencjalnie technologia narusza naszą prywatność. To wzbudza protesty.
Zwolennicy rozpoznawania twarzy twierdzą z kolei, że to zwiększa bezpieczeństwo. Systemy automatycznego rozpoznawania twarzy stosują czasem służby (policja czy straż graniczna), a przy lotniskowych odprawach niektóre linie lotnicze (Lufthansa, British Airways, Delta czy American Airlines). Ale czy rzeczywiście algorytmy są aż tak niezawodne?
Postanowili to sprawdzić badacze z firmy Kneron. W większości przypadków, by oszukać system rozpoznawania twarzy, potrzebna była dość realistyczna maska wykonana na zamówienie. Trudno wyobrazić sobie w takiej chodzenie na co dzień, ale można przypuszczać, że zamawia taką przestępca. Może się z łatwością za kogoś podać i (na przykład) wypłacić zań pieniądze z banku. Za pomocą realistycznej maski badacze oszukali systemy płatności Alipay i WeChat (niezwykle popularne w Chinach).
Wystarczy zdjęcie z ekranu telefonu
Co gorsza, maski nie będzie potrzebował na przykład terrorysta, który zechce się pod kogoś podszyć, by dostać się na pokład samolotu. By oszukać system rozpoznawania twarzy na lotnisku Schiphol w Amsterdamie, badaczom wystarczyło pokazanie do obiektywu kamery rozpoznającej twarze zdjęcia widniejącego na ekranie telefonu. W podobny sposób udało się przekonać systemy rozpoznawania twarzy na chińskiej kolei (dokonano tak też zapłaty za przejazd).
Za pomocą realistycznej maski badacze oszukali systemy płatności Alipay i WeChat (niezwykle popularne w Chinach)
Badacze nie potrafili złamać systemów rozpoznawania twarzy w iPhone’ach ani telefonach Huawei. Te korzystają z bardziej zaawansowanych algorytmów opartych o tzw. stuctured light imaging.
Ani lotnisko, ani obie firmy nie odpowiedziały na pytanie „Fortune” o bezpieczeństwo ich systemów rozpoznawania twarzy.
Badacze Knerona przeprowadzili eksperymenty, by doskonalić własny system rozpoznawania twarzy. Twierdzą, że w większości przypadków oszukanych przez nich systemów istnieją rozwiązania, by je poprawić. Firmy, które tego nie robią, idą na skróty i poświęcają bezpieczeństwo. Eksperyment ma miejsce, gdy toczy się dyskusja o rozpoznawaniu twarzy, ale trzeba przypomnieć, że od lat wiadomo, że skuteczność algorytmów rozpoznających obrazy nie jest stuprocentowa.
Dwa lata temu w szeroko przytaczanym eksperymencie badacze z MIT pokazali, jak algorytmy opracowane przez Google zamiast żółwia rozpoznają karabin. By zaś uznały nas za Millę Jovovich, wystarczy założyć odpowiednie pstrokate okulary. Możliwość oszukania algorytmów od pewnego czasu zaś inspiruje projektantów mody i biżuterii.