- Komisja Europejska: to człowiek ma być w centrum rozwoju sztucznej inteligencji
- Europa mierzy w superkomputer konkurencyjny wobec amerykańskiego Summita i chmury danych dla innowatorów
- Specjalnością Unii Europejskiej będzie etyczna SI
Czy Unia Europejska ma jeszcze szansę w rywalizacji z USA i Chinami, globalnymi supermocarstwami w dziedzinie SI? Mariya Gabriel, komisarz ds. gospodarki cyfrowej i społeczeństwa, wierzy, że tak:
– Wraz z państwami członkowskimi zwiększymy inwestycje na wdrażanie sztucznej inteligencji we wszystkich sektorach gospodarki, będziemy też wspierać zaawansowane umiejętności. Wspólny plan działania gwarantuje, że Europa będzie czerpać korzyści ze sztucznej inteligencji pracującej na rzecz obywateli i przedsiębiorstw. Staniemy się konkurencyjni w skali globalnej.
Gabriel zaznacza, że Komisja Europejska chce wykorzystywania przez kraje członkowskie SI do rozwiązywania problemów świata. W kwietniu 2018 roku powstała unijna strategia rozwoju sztucznej inteligencji, która opiera się na trzech filarach: zwiększeniu inwestycji publicznych i prywatnych w SI, przygotowaniu się na zmiany społeczno-gospodarcze oraz wprowadzeniu nowych zasad etycznych i zmian prawa.
– Ale do sukcesu trzeba współpracy krajów. Plan koordynacji tej współpracy, zapowiedziany w kwietniowej strategii, właśnie powstał – dodaje komisarz.
Postęp? Więcej człowieczeństwa
O tym, jak koordynować współpracę unijnych państw, ich przedstawiciele dyskutowali z Komisją oraz Norwegią i Szwajcarią podczas posiedzeń organizowanych do listopada ubiegłego roku. Wnioski? Trzeba zwiększyć inwestycje, gromadzić więcej danych, wspierać talenty i sprawić, by ludzie mieli do sztucznej inteligencji zaufanie.
Za dziedziny ważne dla rozwoju SI uznano opiekę zdrowotną, transport i mobilność, bezpieczeństwo, ochronę środowiska, energię oraz produkcję i usługi finansowe.
By ludzie akceptowali i stosowali systemy oparte na sztucznej inteligencji, muszą im ufać, wiedzieć, że ich prywatność jest szanowana, a decyzje tych systemów nie są stronnicze
Przede wszystkim jednak europejska strategia ma być nastawiona na człowieka, ma stawiać go w centrum rozwoju sztucznej inteligencji (human-centric AI). Myślące maszyny mają nam pomóc w podejmowaniu największych światowych wyzwań, takich jak zmiana klimatu, bezpieczny transport i cyberbezpieczeństwo.
Takie podejście Komisji do SI wynika z przekonania, że postęp zawsze powinien wiązać się ze zwiększeniem inteligencji i zdolności człowieka. Ostatecznym celem sztucznej inteligencji winno być wzmacnianie, a nie redukowanie człowieczeństwa. Technologia, która wykorzystuje sztuczną inteligencję, ma być etyczna i bezpieczna.
Eksperci z niezależnej grupy powołanej przez Komisję pracują nad wytycznymi dla etyki SI.
– By ludzie akceptowali i stosowali systemy oparte na sztucznej inteligencji, muszą im ufać, wiedzieć, że ich prywatność jest szanowana, a decyzje tych systemów nie są stronnicze. Zachęcam wszystkich do dzielenia się z nami uwagami – mówi Andrus Ansip, wiceprzewodniczący Komisji ds. jednolitego rynku cyfrowego.
AI Watch: wiedza dla polityki
Pięć krajów członkowskich ma już strategie wraz z budżetami. To Francja, Finlandia, Niemcy, Szwecja oraz Wielka Brytania. Niektóre państwa włączają swoje strategie SI do szerszych programów cyfryzacji. W trakcie opracowywania planów rozwoju sztucznej inteligencji są Polska, Austria, Belgia, Czechy, Dania, Estonia, Łotwa, Portugalia, Słowenia, Słowacja i Hiszpania.
Europejski plan zakłada, że wszystkie państwa członkowskie powinny zatwierdzić swoje narodowe strategie do połowy 2019 roku. Wspólne Centrum Badawcze, wewnętrzny dział naukowy Komisji Europejskiej, przygotuje w tym czasie narzędzie do monitorowania postępów prac nad SI w Unii.
To tzw. AI Watch, nazwane „usługą wiedzy dla polityki”. AI Watch będzie monitorować i oceniać rozwój inteligentnych technologii, stan badań nad SI, ekosystemy danych, a nawet aplikacje.
Europa musi sypnąć groszem
W 2016 roku kraje Ameryki Północnej zainwestowały równowartość około 18,6 miliarda euro w rozwój sztucznej inteligencji. W tym czasie państwa azjatyckie wydały na to niemal 9,7 miliarda euro, a Europa zaledwie 3 miliardy euro.
Dlatego strategia Unii zakłada zwiększenie unijnych inwestycji publicznych i prywatnych. W ciągu najbliższych dwóch lat Komisja Europejska przeznaczy dodatkowe 2 miliardy euro na rozwój sztucznej inteligencji i systemów innowacji.
W marcu 2019 roku Komisja zdecydowała o powołaniu do życia działającej obecnie pilotażowo Europejskiej Rady Innowacji (EIC). Ma to nastąpić do roku 2021.
Rada będzie gwarantować wymierną pomoc dla europejskich przedsiębiorców, którzy chcą się stać światowymi liderami innowacji i SI. Łączna kwota 730 milionów euro za jej pośrednictwem zasiliła do tej pory 1276 projektów. Dodatkowo w ramach istniejącego projektu pilotażowego EIC wybranych zostanie 68 nowych start-upów oraz małych i średnich przedsiębiorstw, które otrzymają łącznie jeszcze 120 milionów euro finansowania.
Przyspieszenie – większe pieniądze
W bieżącym i przyszłym roku pieniądze z nowego rozdania pójdą na innowacyjne projekty badawcze oraz „akcelerator” finansowania, wspierający start-upy i MŚP w w rozwoju i zwiększaniu skali innowacji do etapu, na którym mogą one przyciągnąć inwestycje prywatne.
W ramach „akceleratora” przedsiębiorstwa będą mogły uzyskać dostęp do finansowania mieszanego (dotacje i kapitał własny) w wysokości do 15 milionów euro. Ta część pieniędzy zostanie uruchomiona już w czerwcu tego roku.
Projekt finansowania działalności Rady zostanie zrealizowany w ramach unijnego programu badań i innowacji „Horyzont Europa” (Horizon Europe) o wartości 100 miliardów euro, który obejmie lata 2021-2027 i zastąpi wcześniejszą edycję „Horyzont 2020”.
To rozwiązanie Komisja zaproponowała Radzie Europejskiej w czerwcu 2018 roku. Na działalność EIC w tym okresie przeznaczone zostanie 10 miliardów euro.
Warto zaznaczyć, że EIC jest częścią szerszego ekosystemu Unii dla innowacji. Inne inicjatywy to m.in. program paneuropejskich funduszy kapitału podwyższonego ryzyka (VentureEU), plan inwestycyjny dla Europy (EFSI) czy prace Europejskiego Instytutu Innowacji i Technologii. Komisja zadeklarowała, że w ciągu kilku miesięcy powoła kilkunastu liderów innowacji do komitetu doradczego EIC spośród specjalistów, działających w ramach tego ekosystemu – ich nabór trwa do 10 maja.
SI na żądanie w całej Europie
Wprowadzenie SI na rynek wymaga badań w rzeczywistych warunkach. Komisja Europejska od 2016 roku wspiera eksperymenty na rzecz inteligentnego rolnictwa, inteligentnych miast oraz autonomicznych pojazdów połączonych z siecią.
Ale to już nie wystarczy. Na bazie istniejących centrów naukowo-badawczych państw członkowskich Unia chce więc stworzyć ośrodki referencyjne, które byłyby dostępne dla wszystkich podmiotów w Europie. Zostałyby sfinansowane z programu „Cyfrowa Europa”.
Państwa członkowskie i Komisja wspólnie inwestowałyby w centra innowacji cyfrowych w całej Europie. Ułatwi to rozpowszechnianie umiejętności związanych z SI w krajach członkowskich.
Projekt AI4EU, kierowany przez Francję, ruszył z początkiem stycznia 2019 roku. W ciągu trzech lat pójdzie na niego 20 milionów euro, dzięki czemu wszyscy użytkownicy internetu w Unii zyskają dostęp do odpowiednich zasobów sztucznej inteligencji.
Adres filmu na Youtube: https://www.youtube.com/watch?v=OlH5BG9giWI
Źródło: Oak Ridge National Laboratory / YouTube
Powstanie też Obserwatorium Etyki AI4EU, monitorujące poszanowanie wartości unijnej strategii SI, oraz fundacja zapewniająca Obserwatorium funkcjonowanie. W najbliższych miesiącach każde państwo członkowskie UE ma wskazać centra innowacji cyfrowych w dziedzinie SI na swoim terytorium. Będą one współtworzyły platformę „SI na żądanie”.
Skąd wziąć fachowców
Prawie wszystkie państwa Europy borykają się z niedoborem specjalistów od technologii informacyjnych i komunikacyjnych. W Unii brakuje ponad 600 tysięcy ekspertów ds. cyfrowych. Tymczasem w 2017 roku w Dolinie Krzemowej pracowało aż 240 tysięcy Europejczyków.
Komisja Europejska zamierza zobowiązać państwa Unii do dzielenia się doświadczeniami związanymi z doskonaleniem zawodowym i zatrzymywaniem utalentowanych pracowników. Chce też wzmocnić legalną migrację fachowców, w tym na podstawie tzw. niebieskiej karty (to pozwolenie na pracę i pobyt na terenie krajów Unii) wysoko wykwalifikowanych obywateli spoza Wspólnoty.
Konieczna jest także zmiana podejścia do nauki, wsparcie interdyscyplinarności, np. poprzez łączenie stopni naukowych i badań w dziedzinie prawa i SI czy psychologii i SI. Unia będzie pomagała osobom z wyższym wykształceniem oraz tytułami naukowymi w badaniach i wdrażaniu innowacji, m.in. poprzez ściślejszą współpracę między centrami naukowymi.
Uwolnić dane z maszyn
Rozwój sztucznej inteligencji wymaga ogromnej ilości danych. Dostęp do nich jest kluczem do konkurencyjności. Dlatego Unia chce, by był łatwy, a prywatność obywateli – chroniona. Podstawą zaufania dla jednolitego rynku danych jest RODO (ogólne rozporządzenie o ochronie danych).
Wejście w życie w 2019 roku innego rozporządzenia – w sprawie ram swobodnego przepływu danych nieosobowych w Unii Europejskiej – pomoże uwolnić dane, szczególnie te generowane przez maszyny. Ułatwi to firmom prowadzenie działalności transgranicznej.
W Unii brakuje ponad 600 tysięcy ekspertów ds. cyfrowych. Tymczasem w 2017 roku w Dolinie Krzemowej pracowało aż 240 tysięcy Europejczyków
Powstaną też wspólne przestrzenie danych dla produkcji czy energii jako zasoby dostępne europejskim innowatorom. Kraje członkowskie mają wskazać otwarte zbiory danych o wysokiej wartości, które Komisja uzupełni swoimi danymi (np. z obserwacji Ziemi w ramach programu Copernicus).
Jeszcze jesienią br. Komisja chce uruchomić szereg sieci ośrodków doskonalenia w zakresie badań naukowych nad SI, ośrodków innowacji cyfrowych. Wspólnie z państwami członkowskimi rozpocznie dyskusje na szeroką skalę w celu opracowania i wdrożenia modelu wymiany danych i najlepszego wykorzystania wspólnych przestrzeni danych.
Miliard miliardów operacji
Wielkie zmiany nastąpią także w opiece zdrowotnej. W 2020 roku Komisja wesprze za pośrednictwem programu „Horyzont 2020” rozwój wspólnej bazy tzw. obrazów zdrowotnych, która początkowo dotyczyła tylko nowotworów.
Do przetwarzania dużej ilości danych wykorzystane zostanie Europejskie Wspólne Przedsięwzięcie w dziedzinie tzw. Obliczeń Wielkiej Skali (EuroHPC). Połączy ono zasoby europejskie, by mogła powstać sieć superkomputerów. Polska do tej inicjatywy przystąpiła już w połowie 2018 roku.
Program „Cyfrowa Europa” będzie wspierał stworzenie w ciągu trzech-czterech lat światowej klasy superkomputera i infrastruktury danych o eksaskalowej zdolności obliczeniowej (miliard miliardów, czyli trylion obliczeń na sekundę), zaś przed rokiem 2030 – jeszcze potężniejszych systemów obliczeniowych.
W ten sposób Unia chce sobie zapewnić konkurencyjność i niezależność od USA (najszybszy komputer świata obecnie wykorzystywany przez naukowców – Summit – znajduje się w Stanach Zjednoczonych).
Komisja wytycza drogę
W 2016 roku głośna była sprawa Taya, chatbota Microsoftu, który po zetknięciu się z treściami rasistowskimi zaczął je powielać. Unia chce zapobiec tego typu sytuacjom. Sztuczna inteligencja „made in Europe” ma być przewidywalna, stosowana odpowiedzialnie, wiarygodna i etyczna. A ludzie muszą rozumieć, w jaki sposób podejmuje decyzje.
Kluczowa będzie tu zasada tzw. etyki z założenia. Zgodnie z nią normy moralne będą zapisane w produktach i usługach SI już na początku projektowania każdej nowej technologii. Ambicją Europy jest upowszechnienie takiego podejścia na całym świecie.
Na zlecenie Komisji Europejskiej pracuje nad tym 52 niezależnych ekspertów z uczelni, biznesu i środowisk obywatelskich (High-Level Expert Group on Artificial Intelligence – AI HLEG).
W specjalnych wytycznych, które Komisja opublikowała 8 kwietnia br., określili, jak programiści i użytkownicy mają zagwarantować przestrzeganie przez SI podstawowych praw, przepisów i zasad etyki. Wytyczne są zakotwiczone w zasadach Karty praw podstawowych, zbiorze fundamentalnych praw człowieka i obowiązków obywatelskich uchwalonym i podpisanym na szczycie Rady Europejskiej w Nicei w 2000 roku.
Głos obywateli
Od momentu opublikowania w połowie grudnia ub. roku przygotowanego przez ekspertów projektu „Ramowych wytycznych w sprawie etyki” do 18 stycznia można było wpisywać komentarze w ramach konsultacji publicznych. Dyskusje nad nim odbywały się za pośrednictwem Europejskiego Aliansu AI – przeznaczonej do tego unijnej platformy. W połowie lutego powstał dokument z przeprowadzonych konsultacji. Zawiera przegląd informacji zwrotnych otrzymanych w sprawie projektu.
Konsultacje zgromadziły komentarze od ponad 500 autorów. Zainteresowani z zadowoleniem przyjęli praktyczny charakter wytycznych i to, że oferują konkretne wskazówki dla programistów, wdrożeniowców i użytkowników sztucznej inteligencji dotyczące tego, jak zapewnić wiarygodność technologii.
Wiele uwag wskazywało, że projekt wytycznych był zbyt pesymistyczny w podejściu do SI i potrzebne jest zróżnicowanie perspektyw. Ta i sporo innych uwag zostały uwzględnione przy formułowaniu obecnej wersji dokumentu.
Co ważne, wytyczne zawierają wskazówki, które mogą być stosowane przez programistów i użytkowników SI na zasadzie dobrowolności. Ponadto wytyczne nie tworzą żadnych praw ani nie nakładają żadnych obowiązków prawnych na osoby trzecie.
Przyszłe zagrożenia przedstawione w najnowszej publikacji to kwestie dotyczące systemów oceny obywatelskiej, ukrytej sztucznej inteligencji, technologii rozpoznawania twarzy i autonomicznych systemów broni. Konkretne sposoby rozwiązania tych problemów nie zostały omówione w sprawozdaniu. Zdaniem komentatorów temat przyszłych negatywnych skutków sztucznej inteligencji został potraktowany zbyt ogólnikowo.
7 zasad dla SI
AI HLEG zaproponowało w dokumencie fazę pilotażową w celu zebrania informacji zwrotnych na temat możliwości wdrożenia wytycznych na bazie tzw. listy kontrolnej jako trzeciego rozdziału dokumentu.
Wytyczne stwierdzają bowiem, że wiarygodna SI powinna działać zgodnie ze wszystkimi stosownymi przepisami ustawowymi i wykonawczymi, a także z szeregiem wymogów. Szczegółowe listy kontrolne mają zatem pomóc w weryfikacji stosowania każdego z ich. Są to:
- wiodąca i nadzorcza rola człowieka – systemy SI powinny wspierać rozwój sprawiedliwego społeczeństwa poprzez wzmacnianie wiodącej roli człowieka i praw podstawowych, a nie zmniejszać, ograniczać czy wypaczać ludzką autonomię;
- stabilność i bezpieczeństwo – algorytmy stosowane w ramach wiarygodnej sztucznej inteligencji muszą być bezpieczne, niezawodne i wystarczająco solidne, by poradzić sobie z błędami lub niespójnościami na wszystkich etapach cyklu życia systemu SI;
- ochrona prywatności i danych – obywatele powinni mieć pełną kontrolę nad własnymi danymi, zaś dane ich dotyczące nie będą wykorzystywane do szkodzenia im ani dyskryminowania;
- przejrzystość – należy zapewnić identyfikowalność systemów SI;
- różnorodność, niedyskryminacja i sprawiedliwość – systemy SI powinny uwzględniać cały zakres ludzkich zdolności, umiejętności i wymogów oraz zapewniać dostępność;
- dobrostan społeczny i środowiskowy – systemy sztucznej inteligencji powinny wzmacniać pozytywne zmiany społeczne, wspierać zrównoważony rozwój i odpowiedzialność ekologiczną;
- odpowiedzialność – należy wprowadzić mechanizmy zapewniające odpowiedzialność za systemy SI oraz ich wyniki.
Przetestować ekspertów
W związku z tym również 8 kwietnia Komisja zwróciła się do przedstawicieli sektora przemysłu, instytutów badawczych i organów publicznych o przetestowanie listy kontrolnej, stanowiącej uzupełnienie wytycznych. Będzie to kolejna duża praca nad doprowadzeniem do międzynarodowego konsensusu w sprawie SI ukierunkowanej na człowieka.
Informacje zwrotne zostaną zebrane do końca roku i na tej podstawie grupa ekspertów zaproponuje Komisji zmieniony wykaz ocen. Etap pilotażowy z udziałem jak najszerszego kręgu zainteresowanych rozpocznie się latem. Eksperci z AI HLEG mają pomagać przedstawić i wyjaśnić wytyczne zainteresowanym partnerom w każdym państwie członkowskim.
Na początku 2020 r. grupa ekspertów ds. sztucznej inteligencji dokona przeglądu list kontrolnych, a Komisja na tej podstawie zdecyduje o kolejnych działaniach.
– Teraz do Komisji Europejskiej należy przekształcenie zaleceń w konkretne inicjatywy wspierające sztuczną inteligencję w Europie oraz zapewnienie, że służy ona wspólnemu dobru i dobrobytowi społecznemu – powiedział Thiébaut Weber, sekretarz Europejskiej Konfederacji Związków Zawodowych, przedstawiciel związków w grupie ekspertów.
Mniejsi muszą szukać nisz
Unia nie dorówna USA ani Chinom w wyścigu do SI – mówi Robert Siudak
Tworząc „Coordinated plan for Artificial Intelligence” [Skoordynowany plan dla sztucznej inteligencji – red.], Unia Europejska stara się znaleźć swoje miejsce w międzynarodowym wyścigu w zakresie rozwoju i wdrażania sztucznej inteligencji.
Jeśli wziąć jednak pod uwagę pozycję oraz przewagi Stanów Zjednoczonych oraz Chin, nie wydaje się możliwe, by inne kraje lub regiony, w tym Unia, były w stanie konkurować z tymi potęgami w zakresie rozwoju szeroko rozumianej użytkowej sztucznej inteligencji.
Dwaj globalni liderzy mają dostęp do nieporównywalnie bogatszych zasobów danych cyfrowych. W przypadku USA podstawę tego dostępu stanowią dane zbierane i analizowane przez globalne korporacje (to one są ośrodkami napędzającymi rozwój SI w USA).
W przypadku Chin jest to zbiór przeplatających się danych publicznych oraz prywatnych (wynika to z zależności oraz powiązań administracji centralnej i firm technologicznych).
W związku z tym inni gracze, w tym Japonia, EU, Kanada, Korea Południowa czy Indie, powinni postawić na nisze, specjalizacje w zakresie rozwoju AI. W przypadku Europy taką specjalizacją może być etycznie zorientowana oraz „wyjaśnialna” SI (ang. explainable AI – XAI, czyli taka, której działanie jest zrozumiałe dla użytkownika).
Taka wizja pojawia się zarówno w dokumentach Komisji Europejskiej, jak i strategiach wybranych państw Unii, np. Francji. Tego typu rozwiązania w perspektywie średniookresowej, związanej z masowym zastosowaniem AI w społeczeństwie oraz ekonomii, mogą stanowić znaczącą przewagę rynkową w wypadku określonych domen aplikacji.
Jeśli chodzi o kraje Europy Środkowo-Wschodniej, w tym Polskę, to UE powinna podjąć aktywne działania nie tylko w zakresie podaży technologii i rozwiązań SI, ale także stymulowania wewnętrznego popytu. Największą barierą wzrostu rodzimego sektora SI w Polsce nie jest brak pieniędzy czy kadr. Jest nią ograniczony popyt na rozwiązania wykorzystujące najnowsze technologie cyfrowe. Szczególnie na krajowym rynku.
Robert Siudak – dyrektor ds. współpracy i realizacji projektów strategicznych Instytutu Kościuszki, analityk Instytutu w dziedzinie innowacji oraz inwestycji w sektorze cyberbezpieczeństwa. Redaktor naczelny „European Cybersecurity Market” oraz koordynator CYBERSEC Startup Days w ramach Europejskiego Forum Cyberbezpieczeństwa. Autor licznych publikacji naukowych, w tym dwóch monografii, doktorant w Zakładzie Bezpieczeństwa Narodowego Uniwersytetu Jagiellońskiego.