Dotychczas metodyka agile kojarzyła się głównie z efektywnym tworzeniem oprogramowania. Dziś podobne podejście może pomóc w budowie etycznej sztucznej inteligencji
W środowisku programistów metodyka zwinnego rozwoju oprogramowania (agile) znana jest niemal od 20 lat. W przeciwieństwie do tradycyjnego kaskadowego modelu, w którym fazy planowania, projektowania, testowania i wdrażania stanowią osobne etapy, agile zakłada większą elastyczność całego procesu.
Jest to możliwe dzięki krótkim cyklom pracy (tzw. iteracjom), w których osiągnięte efekty są regularnie poddawane weryfikacji z udziałem zamawiającego oprogramowanie. W ten sposób produkt końcowy może być znacznie bliższy oczekiwaniom klienta, który w międzyczasie ma szansę zapoznać się z jego działaniem i zasugerować konieczne zmiany.
Społeczeństwo wchodzi do gry
Badacze z Politechniki w Delft Evgeni Aizenberg i Jeroen van den Hoven uważają, że na podobnej zasadzie należy podejść do tworzenia etycznej sztucznej inteligencji. Ich zdaniem dotychczasowe próby stworzenia SI przyjaznej dla człowieka sprowadzały się albo do postrzegania problemów w kategoriach ściśle technicznych, albo do pobożnych życzeń, w których szlachetne ideały nie znajdowały przełożenia na konkretną praktykę. Te ograniczenia ma pokonać metoda Design for Values, czyli projektowanie zgodnie z wartościami. Chodzi o tworzenie SI z uwzględnieniem oczekiwań różnych interesariuszy, tak by móc całościowo ocenić realne oddziaływanie technologii.
Dotychczas w centrum rozwoju SI znajdowali się producent oprogramowania oraz klient, który je kupował. Teraz ma do nich dołączyć szerokie grono osób, na których życie wpływa technologia. Aby dany system działał etycznie, potrzebna jest współpraca wszystkich tych grup. Co więcej, podejście to zakłada, że istnieją sytuacje, w których prawa niektórych osób są ewidentnie zagrożone lub naruszone. W takiej sytuacji SI w ogóle nie powinna być wykorzystywana.
Kontekst to podstawa
Jak ma to działać w praktyce? Holenderscy badacze przekonują, że o moralnych i społecznych wartościach nie sposób myśleć w oderwaniu od kontekstu. Bez niego pozostają one dość abstrakcyjnymi pojęciami, które trudno przełożyć na konkretne zastosowania. Dlatego naukowcy proponują narzędzie nazwane przez nich specyfikacją wartości polegające na stopniowym przekładaniu wartości na normy i konkretne wymagania projektowe. Przykład?
Autorzy skupili się na wartościach zawartych w Karcie praw podstawowych UE. Naczelną wartością zawartą w tym dokumencie jest ludzka godność. Jak ją precyzyjnie uchwycić? Przyglądając się sytuacjom, które prowadzą do jej naruszenia, jak upokorzenie bądź instrumentalizacja człowieka. Przykładem upokarzającej sytuacji jest choćby naruszenie prywatności.
Projektowanie zgodnie z wartościami ma się stać tak samo naturalną częścią rozwoju technologii jak uwzględnienie potrzeb zamawiającego
W proponowanym przez Holendrów ujęciu prywatność przekłada się na szereg norm, np. świadomą zgodę użytkownika na przetwarzanie danych osobowych, poufność czy prawo do bycia zapomnianym. Te normy z kolei znajdują przełożenie na konkretne wymagania projektowe: tworzenie systemu w modelu opt-in (użytkownik musi czynnie wyrazić zgodę na przetwarzanie danych), zastosowanie odpowiedniego systemu szyfrowania czy gwarancja usunięcia danych ze wszystkich serwerów.
Naturalnie, że etyka
Taki mechanizm przekładu abstrakcyjnych wartości na konkretne normy i rozwiązania stanowi istotę metody Design for Values. Jak jednak podkreślają jej pomysłodawcy, aby mogła być ona skutecznie wykorzystywana, potrzebna jest współpraca z reprezentantami różnych środowisk, na których będzie miała wpływ dana technologia.
I tu właśnie pojawia się metodyka agile. Chodzi bowiem o to, by projektowanie zgodnie z wartościami stało się tak samo naturalną częścią rozwoju technologii jak uwzględnienie potrzeb zamawiającego. Rzecz nie w tym, by na koniec prac nad danym narzędziem odhaczyć listę wartości i norm, ale by oceniać zgodność technologii z nimi na poszczególnych etapach budowy narzędzia. To bardzo ważne, bo jak podkreślają autorzy, wartości niektórych interesariuszy mogą być ze sobą sprzeczne. Dlatego wypracowywanie satysfakcjonującego wszystkich rozwiązania to nie jednorazowy proces, ale powtarzający się cykl przypominający iteracje w modelu agile.
Czy takie zwinne projektowanie etycznych technologii ma w ogóle szansę zaistnieć? Wielu odpowie, że to idealizm, na który nie ma miejsca w naszym nastawionym na wydajność świecie. Dla innych jednak będzie to zapowiedź zmiany, która niebawem ma szansę stać się dominującym podejściem w branży. Miejmy nadzieję, że to ci ostatni mają rację.