Ministerstwo Spraw Wewnętrznych Wielkiej Brytanii przestało korzystać z algorytmu komputerowego, który w dużej mierze był podstawą do przyznawania wiz imigrantom. Okazał się dyskryminujący
Decyzja zapadła po tym, jak dwie organizacje non-profit poskarżyły się do brytyjskiego Sądu Najwyższego.
Jedną z nich jest Joint Council for the Welfare of Immigrants (JCWI), która od ponad pół wieku kwestionuje niesprawiedliwe prawa i praktyki, prowadzące do dyskryminacji. Drugą jest Foxglove Legal, grupa popierająca sprawiedliwość technologiczną. Gdy tylko resort poinformował o wstrzymaniu stosowania algorytmów w systemie udzielania wiz, JCWI zasygnalizował na swojej stronie wypisane dużymi literami zwycięstwo:
„Wygraliśmy! (…) Od piątku 7 sierpnia minister spraw wewnętrznych Priti Patel zawiesza algorytm „strumieniowania wiz” „w oczekiwaniu na przeprojektowanie procesu”, który uwzględni „kwestie związane z nieświadomymi uprzedzeniami i wskazywaniem narodowości” w automatycznych wnioskach wizowych” – napisała organizacja.
Agencja zajmująca się wydawaniem wiz, podlegająca resortowi spraw wewnętrznych, wykorzystywała zautomatyzowany system podejmowania decyzji do określenia, czy osoby ubiegające się o wizę reprezentują wysokie, średnie lub niskie ryzyko dla Wielkiej Brytanii. Eksperci i obrońcy praw imigrantów wykazali, że algorytmy mają głęboko zakorzenione uprzedzenia: mogą działać dyskryminacyjnie ze względu na narodowość imigranta i historię pobytu na Wyspach.
Przeciwnicy automatyzacji wykazali, że algorytm wizowy wyciąga dyskryminujące wnioski na temat niektórych osób ubiegających się o wizę
Narzędzie analizowało wszystkie wnioski o wizy: pracownicze, edukacyjne i turystyczne i klasyfikowało je nadając im kolor czerwony, żółty lub zielony w zależności od poziomu oszacowanego ryzyka.
Przeciwnicy automatyzacji wykazali, że algorytm wizowy wyciąga dyskryminujące wnioski na temat niektórych osób ubiegających się o wizę. System wspierał decyzje odnośnie imigrantów z „białych” krajów, a pozostałych kierował na dłuższy i bardziej uciążliwy proces zmierzający do przyznania (bądź nie) wizy.
System oceny ryzyka był używany w Wielkiej Brytanii od 2015 roku. O tym, że Ministerstwo Spraw Wewnętrznych wykorzystuje algorytm jako pierwszy pisał The Financial Times w ubiegłym roku. Narzędzie już w 2017 roku zwróciło uwagę głównego, niezależnego inspektora ds. granic i imigracji. W raporcie David Bolt ostrzegł, że „istnieje ryzyko, że narzędzie strumieniowe stanie się de facto narzędziem decyzyjnym”.
Wzmożona cyfryzacja procesów wizowych na Wyspach jest częścią szerszego dążenia do efektywnego zarządzania zwiększoną biurokracją spowodowaną Brexitem. Departament stara się zarejestrować około 3,6 miliona obywateli Unii Europejskiej obecnie mieszkających w Wielkiej Brytanii, nadając im status osiedleńca. W przyszłości będzie musiał wydawać wizy europejskim migrantom, którzy wcześniej mogli przyjeżdżać i wyjeżdżać na podstawie zasad swobodnego przemieszczania się. W tym celu Brytyjczycy zawarli umowę outsourcingową o wartości 91 milionów funtów (445 milionów złotych) z francuską firmą Sopra Steria, aby zwiększyć liczbę funkcji przetwarzania wiz online. Niestety od chwili uruchomienia pod koniec ub. roku platforma napotykała na trudności.
W swoim liście do JCWI i Foxglove, ogłaszając zaprzestanie korzystania z algorytmu wizowego, Ministerstwo Spraw Wewnętrznych stwierdziło, że nie akceptuje postawionych mu zarzutów, ale przeprojektuje system i „zamierza dokładnie rozważyć roszczenia, w tym kwestie związane z jego „nieświadomymi” uprzedzeniami. Skarżący uważają, że to za mało. Potrzebne będą przepisy, które uregulują korzystanie z SI w usługach publicznych i wyjaśnią jej działanie.
„Szczególnie w przypadku usług rządowych potrzebujemy więcej dyskusji na temat działania tych algorytmów. Myślę, że jedną rzeczą, która jest bardzo jasna w tej sprawie, jest to, że absolutnie nie może to być czarna skrzynka” – stwierdziła Martha Dark, dyrektor i współzałożycielka Foxglove, w rozmowie z gazetą Motherboard.