Algorytmy mają wspierać austriackie urzędy pracy w profilowaniu bezrobotnych. Pomysłodawcy podkreślają bezstronność i precyzję systemu. Krytycy ostrzegają, że przyniesie on więcej szkody niż pożytku
W popularnym przed kilkunastoma laty angielskim serialu satyrycznym „Mała Brytania” antypatyczna urzędniczka kwitowała sprawy wszystkich petentów pełnym znużenia: Komputer mówi „Nie”. Skojarzenia z serialem powracają przy okazji dyskusji nad systemami mającymi częściowo lub w całości automatyzować podejmowanie decyzji. Czy pomogą załatwiać sprawy interesantów, czy jeszcze bardziej odczłowieczą relacje międzyludzkie?
Jednym z takich rozwiązań jest austriacki system AMS, który ma pomagać urzędnikom sprawniej doradzać zawodowo. Algorytm, wykorzystując model statystyczny, będzie przyporządkowywał bezrobotnych do trzech grup:
• A: osób mających duże szanse na znalezienie pracy w krótkim okresie
• C: osób mających małe szanse znalezienia pracy w długim okresie
• B: osób mających średnie szanse znalezienia pracy, niepasujące do grupy A ani C
Pomoc ma trafiać tylko do bezrobotnych przyporządkowanych do kategorii B.
Wydajny i nieuprzedzony
Austriaccy decydenci uzasadniali stworzenie systemu potrzebą większej obiektywności w ocenie możliwości bezrobotnych, dążeniem do szybkiego przywrócenia na rynek pracy osób z potencjałem oraz zwiększeniem wydajności pośredniaków. Podkreślano, że automatyzacja pomoże urzędnikom sprawniej załatwiać sprawy w sytuacji, gdy rosnącej liczbie bezrobotnych nie towarzyszy wzrost pieniędzy na urzędy pracy.
System, który ma być wdrożony w tym roku, wywołał w Austrii gorącą dyskusję. Zarzuty krytyków dotyczyły m.in. nieprzejrzystości systemu i braku możliwości zmiany decyzji, wykorzystywania danych wrażliwych, a także dyskryminacji i wzmacniania nierówności.
Debata sprawiła, że władze zmieniły sposób prezentacji systemu, kładąc nacisk na jego funkcję pomocniczą wobec pracowników urzędów pracy i nieostateczność decyzji podejmowanych przez maszynę.
Algorytm prawdę ci powie
Sprawie przyjrzało się bliżej grono austriackich badaczy specjalizujących się w społecznym oddziaływaniu technologii. Opublikowany przez nich niedawno artykuł stawia pod znakiem zapytania zarówno efektywność, jak i sens wdrażania systemu w jego obecnej formie.
Naukowcy twierdzą, że algorytm AMS wcale nie jest tak precyzyjny, jak początkowo utrzymywali jego pomysłodawcy. Najlepiej świadczą o tym zresztą deklaracje urzędników, którzy nagle podkreślają nieautonomiczność systemu.
Adres filmu na Youtube: https://www.youtube.com/watch?v=AJQ3TM-p2QI
Źródło: Don Blackmore/ YouTube
Według badaczy profilowanie jest sprzeczne z kluczowymi celami systemu, czyli usprawnieniem działania pracy urzędników i zwiększeniem obiektywności podejmowanych decyzji.
Obarczenie urzędników ciężarem decyzji przy jednoczesnym zobowiązaniu ich do większej efektywności i uwzględniania wskazówek systemu może prowadzić do sytuacji, w których siłą rzeczy będą oni mechanicznie akceptować wyniki profilowania. Jest to tym gorsze, że mechanizm działania algorytmu nie jest przejrzysty. W efekcie klienci urzędów pracy mogą mieć coraz więcej wątpliwości wobec otrzymywanych klasyfikacji, zaś urzędnicy rezygnować z większego zaangażowania.
Zdaniem badaczy będzie to nie tylko niekorzystnie wpływać na poziom zaufania między interesantami a urzędnikami, ale też zniekształcać faktyczny obraz rzeczywistości. Jak bowiem przekonują, urzędnicy decydujący o szansach bezrobotnych na rynku pracy posługują się na co dzień szeregiem kryteriów podobnych do tych używanych przez maszyny, ale zarazem zdają sobie sprawę, że określony zbiór cech (np. płeć, pochodzenie i wiek) mogą tworzyć całość, która ma zupełnie inne znacznie niż prosta suma poszczególnych składników. Na przykład szans na zdobycie pracy w przypadku 51-letniej imigrantki nie sposób opisać przez zsumowanie wartości przypisanych kategoriom kobieta, migracja, wiek 50 plus.
Po prostu tak wyszło
Naukowcy przekonują, że dane, na których pracuje algorytm, nie są obiektywnym obrazem rzeczywistości, lecz raczej odwzorowują przyjęte z góry założenia. System stworzony na potrzeby AMS koncentruje się bowiem przede wszystkim na kompetencjach jednostek (lub ich braku), a marginalizuje kwestie związane z rynkiem pracy. Jeśli więc algorytm AMS coś odzwierciedla, to przede wszystkim logikę myślenia o bezrobociu przez decydentów, a nie świat taki, jaki jest naprawdę, przestrzegają badacze.
W „Małej Brytanii” to, czy negatywne odpowiedzi faktycznie generował komputer, czy też sama jego obecność służyła urzędniczce za pretekst do odmowy, nie było najważniejsze. Kluczowe znaczenie miało to, że technologia wzmacniała opresyjność biurokracji: obywatel musiał się już mierzyć nie tylko z bezdusznością urzędników, ale jeszcze z systemem, który swoimi wyrokami legitymizował ich omnipotencję.
W przypadku austriackiego systemu niewłaściwe decyzje podejmowane we współpracy człowieka z maszyną też nie muszą wynikać z niczyjej złej woli. Mogą być po prostu wynikiem sytuacji.
Profilowanie bezrobotnych w Polsce
W kwietniu 2019 r. polski rząd całkowicie zrezygnował z przepisów umożliwiających profilowanie pomocy dla bezrobotnych. To efekt wyroku Trybunału Konstytucyjnego z 6 czerwca 2018 r., w którym orzeczono, że sposób ustalania profilu takiej pomocy powinien być określony w ustawie. Tymczasem ustawa o promocji zatrudnienia nie odnosiła się szczegółowo do tej kwestii – skupiało się na niej osobne rozporządzenie.
Zgodnie z nim osoby zarejestrowane jako bezrobotne miały być dzielone na trzy grupy różniące się stopniem „gotowości do podjęcia pracy” i „oddaleniem od rynku pracy”. Zakwalifikowanie do jednej z nich miało określać działania urzędu pracy wobec konkretnej osoby. Wzbudziło to zastrzeżenia ze strony różnych organizacji społecznych.
Ostatecznie zamiast profilowania rząd zdecydował się doprecyzować przepisy dotyczące przygotowania i realizacji Indywidualnych Planów Działania (IPD), w ramach których pomoc udzielana przez urzędy pracy jest dostosowywana do indywidualnych potrzeb i możliwości osób bezrobotnych lub poszukujących pracy, z uwzględnieniem ich wykształcenia, doświadczenia zawodowego oraz możliwości podjęcia pracy lub działalności gospodarczej. IPD będą aktualizowane zgodnie ze zmieniającą się sytuacją danej osoby.