Ze sztuczną inteligencją jest jak z pojazdem lub zwierzęciem domowym, uważa komisja prawna europarlamentu. Ten, kto sprawuje nad nimi kontrolę, jest też za nie odpowiedzialny
Unijna propozycja rozporządzenia dotyczącego odpowiedzialności za systemy SI ujrzała niedawno światło dzienne. Opublikowany przez komisję prawną Parlamentu Europejskiego (JURI) „Projekt sprawozdania z zaleceniami dla Komisji w sprawie systemu odpowiedzialności cywilnej za sztuczną inteligencję” rekomenduje konkretne rozwiązania regulujące SI na Starym Kontynencie.
Jest ryzyko, jest odpowiedzialność
Nieprzejrzystość i autonomiczność systemów sztucznej inteligencji stanowi dużą przeszkodę przy wskazywaniu osób odpowiedzialnych za wynikające z nich konkretne szkody – twierdzą autorzy dokumentu. Podkreślają jednak, że wszelkie systemy SI są zawsze rezultatem działalności człowieka, dlatego w tym przypadku odpowiedzialność powinny ponosić podmioty wdrażające. O kogo dokładnie chodzi?
O osoby decydujące o użyciu systemu SI, mające kontrolę nad zagrożeniem wynikającym z jego zastosowania oraz korzystające z systemu – wyjaśniają unijni prawodawcy. Swoje stanowisko uzasadniają porównaniem do kontroli nad pojazdem czy zwierzęciem domowym sprawowanej przez ich właścicieli.
Ponoszona odpowiedzialności będzie zależała od rodzaju systemu SI. Zdaniem autorów rekomendacji systemy obarczone wysokim ryzykiem (takie, których autonomiczne działanie może zagrozić ludziom w sposób losowy i trudny do przewidzenia) wymagają od wdrażających je osób bezwzględnej odpowiedzialności na zasadzie ryzyka, czyli bez konieczności dowiedzenia winy.
Do tej grupy systemów projekt zalicza obecnie bezzałogowe statki powietrzne, pojazdy o wysokim stopniu automatyzacji, autonomiczne systemy kontroli ruchu, a także roboty autonomiczne oraz autonomiczne urządzenia myjące miejsca publiczne. Autorzy dokumentu podkreślają jednak, że lista ta nie jest zamknięta i powinna być regularnie aktualizowana.
Ubezpieczenie od SI
Co istotne, podmioty wdrażające systemy SI o dużym stopniu ryzyka będą zobligowane do ubezpieczania się od odpowiedzialności. Pomysłodawcy projektu podkreślają przy tym, że europejski mechanizm odszkodowawczy finansowany ze środków publicznych nie jest odpowiednim sposobem naprawiania luk w systemach ubezpieczeniowych. Wypracowanie odpowiednich produktów ma być więc wyłącznie zadaniem rynku.
Jaką wysokość odszkodowań przewiduje projekt? W przypadku śmierci lub uszczerbku na zdrowiu sięgnie ono maksymalnie 10 milionów euro. Z kolei najwyższa rekompensata za poniesione straty materialne z jednego zdarzenia nie może przekroczyć 2 milionów euro.
Jeśli chodzi o podmioty wdrażające systemy SI spoza grupy wysokiego ryzyka, to zostaną one objęte odpowiedzialnością na zasadzie winy. Mimo to i w tym wypadku poszkodowani będą mieli prawo domniemywać winę podmiotu wdrażającego. Firmy nie będą jednak ponosić odpowiedzialności, jeśli zdołają dowieść, że szkody nie powstały z ich winy, np. w wyniku urchomienia systemu SI bez ich zgody. Z odpowiedzialności za szkody wywołane przez SI w żadnym wypadku nie będzie natomiast zwalniać twierdzenie o autonomii danego systemu.
Prawo w służbie innowacji
Stworzenie stabilnych ram prawnych dotyczących sztucznej inteligencji w UE ma nie tylko zagwarantować poszkodowanym prawo do roszczenia o odszkodowanie, ale również zapewnić sukces rozwijanym w Europie technologiom. Ich bezpieczeństwo wpłynie bowiem na zaufanie społeczeństwa wobec tworzących je firm i pociągnie za sobą szerszą adaptację narzędzi opartych na SI.
Twórcy rekomendacji zwracają zarazem uwagę, że ochrona użytkowników SI nie powinna ograniczać możliwości działania firmom rozwijającym w Europie nowe technologie, szczególnie małym i średnim przedsiębiorstwom oraz start-upom. Dlatego uważają, że nie ma sensu nowelizować sprawdzonych systemów odpowiedzialności, lecz trzeba je jedynie dostosować poprzez odpowiednie uzupełnienia.
Podstawą powszechnych ram prawnych dotyczących odpowiedzialności za systemy SI mają być więc proponowane rozporządzenie oraz obowiązująca dyrektywa ws. odpowiedzialności za produkty wadliwe.
Im większa stabilność prawna dotycząca nowych technologii, tym większe są szanse, że UE utrzyma cyfrową suwerenność i stworzy jednolity rynek cyfrowy – twierdzą autorzy rekomendacji. Od tego zaś zależy przyszłość Europy na gobalnym rynku innowacji i jej przewaga konkurencyjna. Trzymajmy więc kciuki za dobre prawo.
Komentarz ekspertki
Poszkodowani ze wzmocnieniem
Agnieszka Sagan-Jeżowska – radca prawny, specjalistka ochrony danych osobowych w kancelarii prawnej Eversheds Sutherland Wierzbowski
Projekt rozporządzenia ws. odpowiedzialności za działanie systemów SI ma usunąć przeszkody w praktycznym dochodzeniu roszczeń z tytułu szkód spowodowanych sztuczną inteligencją w zakresie, w jakim poszkodowani nie są chronieni dyrektywą ws. odpowiedzialności za produkty wadliwe (PLD). Projekt przewiduje jednoznaczne i kategoryczne rozwiązanie – domniemanie winy podmiotu wdrażającego.
To rozwiązanie korzystne dla poszkodowanych, są oni bowiem zwolnieni z konieczności wykazania winy podmiotu wdrażającego i tym samym mogą skutecznie dochodzić odszkodowania. Z kolei obowiązek zapewnienia odpowiedniego ubezpieczenia przez podmioty wdrażające co do zasady zapewnia poszkodowanym skuteczne otrzymanie odszkodowania.
Jednocześnie rozwiązanie to znacząco wpływa na ryzyko odpowiedzialności podmiotów wdrażających, którymi często są małe i średnie przedsiębiorstwa i start-upy, oraz na podniesienie kosztów ich działalności. Szacując ryzyko, muszą uwzględnić kwoty, które są granicą ich odpowiedzialności związanej z systemami SI [do 2 lub 10 mln euro – red.].
Projekt rozporządzenia wprowadza dwie kategorie systemów sztucznej inteligencji: obarczone wysokim ryzykiem, których zamknięty katalog wraz z branżami ich zastosowania ma stanowić aktualizowany co 12 miesięcy załącznik do rozporządzenia, oraz pozostałe systemy SI.
Za systemy SI obarczone wysokim ryzykiem uznano m.in. bezzałogowe statki powietrzne w transporcie i roboty autonomiczne w branży świadczenia pomocy (projekt rozporządzenia nie precyzuje bardziej szczegółowo tak określonej branży, co może powodować różnice interpretacyjne w jej określaniu). Z wykazu wynika zatem, że system SI może być uznany za obarczony wysokim ryzykiem jedynie wówczas, gdy jest stosowany w określonej branży, np. dron nie będzie podlegał pod SI wysokiego ryzyka, jeżeli jest stosowany w branży innej niż transport.
Uwagę zwraca proponowany okres przedawnienia roszczeń wobec podmiotów wdrażających systemy SI obarczone wysokim ryzykiem, który dla szkody w postaci śmierci, uszczerbku na zdrowiu lub kalectwa wynosi 30 lat od daty powstania szkody, a w przypadku szkody materialnej – 10 lat od daty powstania szkody, lub 30 lat od przeprowadzenia operacji z wykorzystaniem systemu SI obarczonego wysokim ryzykiem, która następnie doprowadziła do zniszczenia własności poszkodowanego. W tym zakresie projekt rozporządzenia również jest nieprecyzyjny, bowiem przewiduje dwa okresy przedawnienia dla szkody materialnej, co oznacza, że jeżeli szkoda powstała, stosuje się 10-letni okres przedawnienia, a jeśli przeprowadzona operacja z wykorzystaniem systemu SI doprowadziła do zniszczenia własności poszkodowanego, stosuje się okres przedawnienia 30-letni. Przy czym zniszczenie własności poszkodowanego to nic innego jak szkoda materialna, a więc różnice w stosowaniu tych dwóch biegów przedawnienia są niejasne. Natomiast w zakresie odszkodowania za śmierć, uszczerbek na zdrowiu lub kalectwo stosuje się okres krótszy, co wydaje się oznaczać, że jeżeli następuje zbieg tych podstaw odszkodowania, to bieg terminów przedawnienia liczy się od tego, który rozpoczął się najwcześniej.
Można jednak założyć, że przepisy dotyczące terminów przedawnienia zostaną doprecyzowane na etapie prac nad rozporządzeniem.
Rozporządzenie obecnie nie przewiduje wyjątków od tak ustalonych terminów przedawnienia roszczeń. Brakuje jednak odniesienia do czasu, w którym poszkodowany dowiedział się o szkodzie i podmiocie za nią odpowiedzialnym, co może powodować dodatkową niepewność podmiotów wdrażających. Muszą one bowiem wziąć pod uwagę, że mogą zostać pociągnięte do odpowiedzialności odszkodowawczej 30 lat po zaistnieniu zdarzenia, mimo że poszkodowany mógł wystąpić z roszczeniem przez cały czas. Wydaje się, że tak długi okres przedawnienia roszczeń bez istotnego uzasadnienia powoduje zbyt wysoką niepewność odszkodowawczą dla podmiotów odpowiedzialnych na gruncie proponowanego rozporządzenia.