Czasem trzeba wrócić do piaskownicy i się pobawić. My też się bawimy piaskiem, tylko że takim trochę przetworzonym – krzemem. I robimy z niego takie rzeczy, które inżynierom w głowach się nie mieszczą. Z Wiesławem Bartkowskim, kierownikiem studiów Creative Coding na Uniwersytecie SWPS, rozmawia Monika Redzisz

W laboratorium Creative Coding w warszawskim kampusie Uniwersytetu SWPS panuje przyjemny chaos. Wygląda to jak połączenie artystycznej pracowni multimedialnej, warsztatu stolarskiego i sali wykładowej. Przy ścianach stoją, na stołach leżą, a z sufitu zwisają niezidentyfikowane obiekty, których przeznaczenia nie potrafię odgadnąć. Po laboratorium oprowadza mnie Wiesław Bartkowski*, kierownik studiów podyplomowych Creative Coding, projektant interakcji i badacz systemów złożonych.

Przepraszam, ale czym się pan właściwie zajmuje? Kodowaniem?

Nie w tradycyjnym tego słowa znaczeniu…

To może sztuką?

Nie, choć czasem to ze sztuką graniczy.

Designem?

Poniekąd, ale… Hm, trochę trudno to wytłumaczyć… To coś pomiędzy kilkoma dziedzinami i właściwie do żadnej ostatecznie nie pasuje. Ja bym powiedział tak: zajmujemy się tutaj robieniem rzeczy niepotrzebnych.

Interesuje mnie fizyczność programowania albo inaczej materia kodu. Koduję, ale próbuję eksplorować takie formy interfejsów, które są bardziej zbliżone do interakcji ze światem fizycznym niż z cyfrowym. Nadaję efektowi działania kodu fizyczną manifestację. Jeszcze inaczej: staram się łączyć bity i atomy, świat fizyczny z cyfrowym. Żeby coś, co jest fizyczne, jednocześnie mogło oddziaływać na to, co jest cyfrowe, i odwrotnie.

Nie rozumiem.

Proszę się zastanowić – w jaki sposób wchodzimy zwykle w kontakt ze światem cyfrowym? Dotykając ekranu, prawda? Nie mieści nam się w głowie, że mogą być inne manifestacje cyfrowości poza formą graficzną. Lubię porównanie interakcji ze światem cyfrowym przez interfejs graficzny do całowania się przez szybkę. Przecież mamy ciała, jesteśmy fizyczni i przystosowanie do namacalnej formy kontaktu ze światem. Taki jest nasz świat.

Wiesław Bartkowski i model pandemonium 
Model teoretyczny opisujący rozpoznawanie obiektów w procesie spostrzegania wzrokowego. Wykorzystuje do tego metaforę umysłu jako zbioru demonów. Demony „nawołują się” zgodnie z wewnętrzną hierarchią warstw. Kolejne warstwy to odpowiednio demony danych, cech, poznawcze i na końcu demon decyzyjny. Model jest niejako protoplastą dzisiejszych sztucznych sieci neuronowych uczenia głębokiego (ang. deep learning).
Model pandemonium pochodzi z pionierskich czasów badań nad sztuczną inteligencją w latach 50. Dziś uznany za klasyczne dzieło w badaniach nad SI. Przyczynił się m.in. do rozwoju widzenia maszynowego. Opublikowany w 1959 przez Olivera Gordona Selfridge’a, nazywanego „ojcem widzenia maszynowego”, w artykule „Pandemonium: A paradigm for learning. In Symposium on the mechanization of thought processes”. London: HM Stationary Office.
W tamtym czasie został całkowicie zignorowany przez środowisko zajmujące się badaniami nad SI, ponieważ zaproponowany przez Selfridge’a model radykalnie odbiegał od promowanego wtedy podejścia bazującego na logice i operacjach symbolicznych. Dziś, obserwując ogromy sukces deep learnig, możemy powiedzieć, że Selfridge wyprzedził swój czas.

Od dawna wiemy, że Kartezjusz mylił się, oddzielając umysł od ciała. Przy okazji polecam lekturę Antonia Damasio „Błąd Kartezjusza”. Umysł i ciało to jedność, to jeden system poznawczy – jeśli mielibyśmy inne ciało, inaczej byśmy też myśleli. Tymczasem najczęściej wchodzimy w interakcję ze światem cyfrowym niematerialnie. Mamy przed oczami tylko pewną projekcję świata w postaci pikseli. To nie jest nasz świat! To nieludzki świat.

Brzmi nieprzyjemnie…

No właśnie. Neurobiolodzy porównują naszą uwagę do mięśnia – można ją trenować, ale zawsze w końcu się zmęczy. Nie mamy niewyczerpanych zasobów uwagi. Ekrany mają to do siebie, że silnie przykuwają uwagę. Wymagają od nas dużo energii, ciągłej kontroli, bo to nie jest nasz naturalny świat, nie czujemy go. Inaczej niż w świecie fizycznym, w którym wiele rzeczy robimy automatycznie, bez udziału naszej uwagi, więc nie męczymy jej tak bardzo.

Kod jest tylko innym rodzajem materiału, taką samą materią jak dla rzeźbiarza drewno. Tak na to patrzymy i takim podejściem zarażamy studentów. My tutaj rzeźbimy w kodzie, brudzimy sobie ręce kodem

Dlatego to, co nas w laboratorium Creative Coding najbardziej interesuje, to eksploracja fizyczności. Badamy alternatywne, namacalne formy interakcji poza ekranem.

Wydaje się to bardzo pokrewne sztuce współczesnej, konceptualnej. Wasze projekty można nawet obejrzeć na wystawach.

Nie idziemy w stronę sztuki. Tu nie musi być konceptu ani nawet nie musi być estetycznie. My robimy po prostu eksperymenty. Z czystej ciekawości. Z pasji. Bez celu.

Jak tak można – bez celu? To jakoś oburzające, anarchistyczne, amoralne nawet – tak działać bez celu. Tak zachowują się dzieci albo szaleńcy.

Albo nierzadko artyści lub naukowcy. Tak, my tu na studiach pielęgnujemy w sobie dziecko. Czasem trzeba wrócić do piaskownicy i się pobawić. My też się bawimy piaskiem, tylko że takim trochę przetworzonym – krzemem. I robimy z niego takie rzeczy, które inżynierom w głowach się nie mieszczą, bo za bardzo skupieni są na optymalizowaniu, wydajności, niezawodności. Cieszy mnie, że gdy nas czasami odwiedzają, nie ukrywają podziwu dla naszych dzieł i sami chcą się pobawić jak my. My też mamy wiele podziwu dla ich dzieł. Warto gdzieś spotkać się w pół drogi.

Bo żeby zrobić coś naprawdę przełomowego, trzeba się odważyć na to, żeby robić coś niepotrzebnego. W wyniku przypadkowego błądzenia można odkryć coś zupełnie nowego, a nie tylko udoskonaloną wersję czegoś już istniejącego. Wiele naszych obiektów jest wynikiem błędu. Studenci nagle odkrywają, że coś działa inaczej i jest lepsze od tego, czego się spodziewali. Błądzenie jest ważne, a jeszcze ważniejsza – otwartość na błąd.

Przykład?

Klementyna Jankiewicz zrobiła na przykład projekt zatytułowany „Urban Echo”. Była ciekawa, jak za pomocą takich elektronicznych bytów, albo inaczej takiego elektronicznego graffiti, można zaingerować w przestrzeń publiczną. Ostatecznie graffiti zamieniło się w wyniku eksperymentów i błędów w rój elektronicznych obiektów – przezroczystych kul z wyeksponowanymi częściami elektronicznymi, które dekonstruują ludzki głos, a potem rekonstruują go w przestrzeni. Mówiąc do roju, wpływamy na jego zachowanie, „gramy” na nim, rój odpowiada nam dźwiękiem i światłem. Z Echem można było „pogadać” podczas nowojorskiego Maker Faire oraz warszawskiego finału Jutronautów. Zagrało też w Teatrze Powszechnym w spektaklu o sztucznej inteligencji wyreżyserowanym przez odważnie eksperymentującą z teatrem Monikę Popiel.

Projekt Klementyny Jankiewicz „Urban Echo”.
Źródło: Klem Jankiewicz / Vimeo

Trochę dziwne. Co z tego wynika?

Interakcje. Ludzie są ciekawi doświadczania interakcji z takimi obiektami. Jeszcze mocniej to widać w przypadku projektu Gosi Nierodzińskiej, która tworzy wyjątkową kolekcję, bo jest to kolekcja przytuleń! Zrobiła strój, który wyczuwa, w jaki sposób się z kimś przytulamy, i tworzy plakat – jakby obraz tego przytulenia. Gosia zwraca uwagę na unikalność momentu przytulenia. Każdy jest inny, przytula trochę inaczej, więc generuje inny obraz. Ludzie są zaciekawieni i zaczynają się przytulać. Gosia zhakowała technologię. Sprawiła, że efektem jest zbliżenie zamiast kojarzącego się z technologią oddalenia. Dalej hakuje, zbliżając ludzi w pracy „Spotkanie, ogrzanie”.

Kiedy obiekt jest materialny, odwołuje się do zmysłów, jesteśmy blisko emocji. Tworzymy w pewnym sensie aktora społecznego (pojęcie z teorii poznania ucieleśnionego), który moderuje zachowanie ludzi. Dobrze widać to na przykładzie pracy „Magnetio” autorstwa Magdy Kurowskiej i Kamili Koźmiańskiej. Tuba z kulkami na górze. Kulki są przyjemne, chce się ich dotknąć. Kiedy już dotkniemy, to nagle czujemy, że one na nas reagują, stają się ciepłe i zaczynają się do siebie kleić. To nie tylko relaksuje, ale tworzy także więź pomiędzy ludźmi, którzy zaczynają coś razem budować. Działa tu parę efektów psychologicznych, między innymi zachodzi efekt kameleona, który w skrócie polega na tym, że kiedy ludzie synchronizują swoje zachowania, to wzbudza poczucie bliskości między nimi i rodzi większe zaufanie. Często po interakcji z „Magnetio” słyszę: jestem nieśmiała/ły, a dzięki „Magnetio” nawiązałam w przerwie konferencji więcej kontaktów niż zazwyczaj.

Kto trafia na takie studia jak Creative Coding?

Bardzo różne osoby. Niektórzy kończyli studia artystyczne, inni są projektantami, architektami, dyrektorami kreatywnymi, copywriterami, ale tak naprawdę wykształcenie nie jest istotne, przyjęcie zależy od rozmowy z nami i portfolio. Ważne, co jest twoją pasją i co robiłeś, a nie jakie masz formalne wykształcenie. Podobnie jest z wykładowcami, nasze drogi są zawiłe, a dzięki temu styl uczenia zupełnie inny od powszechnie przyjętego.

Śmieję się, że nie przyjmujemy tylko zawodowych programistów. Ja od ponad 27 lat uczę programowania, najchętniej tych przekonanych, że się do tego nie nadają. Myślę, że znalazłem sposób, jak dotrzeć do tej grupy. Opowiadam o kodzie jak o rodzaju materiału, który można kształtować przez doświadczenie. Na pewno uczę inaczej, niż się to robi na informatyce. Uważam, że nie tędy droga, żeby rozumieć dokładnie, jak to działa. Na późniejszym etapie – być może, ale na początku najważniejsze jest to, żeby coś stworzyć.

Jestem z zasady antydyscyplinarny. Uważam, że należy starać się realizować coś, co jest naszym marzeniem, a dopiero po drodze odkrywać różne dyscypliny wiedzy, które są do tego niezbędne. Wtedy lepiej się uczymy, bo sięgamy po rzeczy, na których nam zależy. Najlepiej uczymy się w działaniu, przez doświadczenie. Najważniejsze, żeby mieć w sobie otwartość na eksperymentowanie i chęć poznawania nowych rzeczy.

Adres filmu na Youtube: https://youtu.be/8vunNWQorFQ

Praca „Magnetio” Magdaleny Kurowskiej i Kamili Koźmiańskiej.
Źródło: Magdalena Kurowska / YouTube

Ale jak z takimi projektami radzą sobie osoby, które nie umieją kodować? I po co im kod?

Jak wspominałem, kod jest tylko innym rodzajem materiału; taką samą materią jak dla rzeźbiarza drewno. Tak na to patrzymy i takim podejściem zarażamy studentów. My tutaj rzeźbimy w kodzie, brudzimy sobie ręce kodem. I jest w tym odrobina rebelii. Lubię powtarzać za Douglasem Rushkoffem „Program or Be Programmed” [programuj lub bądź programowany], bo to szansa, by uzyskać dostęp do panelu kontrolnego cywilizacji, zyskując głos w dyskusji na temat naszej przyszłości.

Inżynierowie dostarczają nam technologie, ale ktoś musi też zadbać o to, jak ta technologia będzie wkomponowana w ludzkie życie. To jest zadanie projektanta, który z jednej strony powinien rozumieć technologię, a z drugiej – świat wartości humanistycznych. Dlatego zależy mi na absolwentach ASP, wzornictwa przemysłowego, architektury, studiów humanistycznych, żeby otworzyli się na świat technologii i wnieśli do niego swoją perspektywę. Pomogą wtedy inżynierom tworzyć świat, w którym technologia nie będzie krzyczeć i nas degradować, tylko pomoże rozwijać nasze zdolności. I jak w projektach Gosi zwracać ludzi ku sobie, zamiast separować.

Szukacie wizjonerów…

Tak! Lubimy np. Hiroshi Ishii i jego Vision-Driven Design Research. Hiroshi m.in. jest twórcą idei radical atoms – atomów połączonych z bitami. Czyli: jeśli cokolwiek zadzieje się w przestrzeni cyfrowej, to zmienia to stan przestrzeni fizycznej. A jeżeli cokolwiek zrobimy w świecie fizycznym, to będzie mieć to odzwierciedlenie w świecie cyfrowym. Jego doktoranci próbują tworzyć prototypy badające wizję radykalnych atomów. Jeden z bardziej udanych to Transform. Można powiedzieć, że to stół, ale taki stół, który jest fizyczny i cyfrowy jednocześnie.

Stół Transform: zarazem fizyczny i cyfrowy
Źródło: Tangible Media Group / Vimeo

Robi niesamowite wrażenie. Czy została w nim użyta sztuczna inteligencja?

Akurat w tym prototypie nie, tu są gotowe scenariusze. Ale jest to ciekawa propozycja sposobu interakcji z SI poza ekranem. Uczenie maszynowe pozwoli na interpretację ruchów i gestów wokół stołu i w odpowiedzi transformują je na ruchy stołu. Cel stworzenia tego prototypu buł inny. Trudno sobie wyobrazić czym jest połączeni bitów i atomów dopóki tego się nie zobaczy i nie dotknie. A jeszcze trudniej wyobrazić sobie zastosowanie. Taki prototypu prowokuje, żebyśmy się zastanowili, jak taka technologia mogłaby być używana. Jak reagują na to ludzie? Czy jest w ogóle sens iść w tę stronę?

Czy wykorzystujecie SI w waszych projektach?

Eksplorujemy na styku, powiedziałbym. W ostatnich latach powstało bardzo dużo gotowych narzędzi SI, również takich stworzonych z myślą o artystach czy projektantach, które pozwalają nam eksperymentować ze sztuczną inteligencją, podobnie jak eksperymentujemy z programowaniem, czyli bez wchodzenia od razu zbyt głęboko w szczegóły techniczne i teoretyczne konstruowania sztucznych sieci neuronowych i metod ich uczenia. Staramy się raczej hakować coś, co już jest, i zmieniać tego przeznaczenie. Bo my nie uprawiamy nauki, tylko się nią inspirujemy. Co ciekawe, często następuje sprzężenie zwrotne. Takie artystyczne czy designerskie eksperymenty z technologią stają się jakby zalążkiem pewnej myśli, którą dalej eksplorują już naukowcy. Art & science jest bardzo ciekawym połączeniem.

Odnośnie do eksperymentów ze sztuczną inteligencją, to bardzo lubię ten, w którym zaproszono znanego japońskiego tancerza performatywnego Kaiji Moriyamę.

Adres filmu na Youtube: https://youtu.be/tLFe2AzCodk

Kaiji Moriyama: tancerz czy pianista?
Źródło: Yamaha Corporation / YouTube

To przykład, jak za pomocą SI możemy tworzyć nowe formy ekspresji, może nawet nowe formy sztuki. Sztuczna sieć neuronowa nauczyła się przetwarzać impulsy z mięśni Moriyamy na dźwięki pianoli Yamahy. Tancerz stał się pianistą. Po koncercie powiedział, że jako mały chłopiec marzył, żeby grać na fortepianie, i teraz wreszcie mógł poczuć, jak to jest. Poczuł się pianistą.

Widziałam. Piękne. Jak to działało?

Najpierw był proces treningu. Miał podłączone elektrody, które przez dłuższy czas zbierały impulsy z różnych grup mięśniowych. On tańczył, a sieć próbowała przekładać jego ruchy na dźwięki. On jednak słyszał, jakie dźwięki powstają z jakich ruchów, mógł więc to kontrolować. Bardzo ciekawy rodzaj uczenia maszynowego – wspierany przez człowieka. Często sieć uczy się wtedy dużo i znajduje bardziej „ludzkie” rozwiązania, niż gdy się uczy w oparciu o matematycznie opisaną funkcję nagrody.

Jest taki fajny przykład badań uczenia maszynowego przeprowadzonego przez OpenAI.com: noga, symulowana przez komputer, uczy się robić salto do tyłu. Komputer pokazuje na lewym ekranie jedną próbę salta, inną próbę – na prawym. Kiedy podpowiadał człowiek, oceniając, która propozycja wyszła lepiej, komputer nauczył się robić fikołka już po około 900 podpowiedziach. Kiedy musiał uczyć się sam, nie tylko zajęło mu to o wiele więcej czasu, ale fikołek wyszedł jakiś taki nieludzki, jakby w krzywym zwierciadle.

Co to znaczy, że eksplorujecie na styku?

To znaczy, że poruszamy się pomiędzy dziedzinami, albo inaczej mówiąc i cytując Joi Ito, działamy antydyscyplinarnie. Teraz sięgamy też po metody i inspiracje ze sztucznej inteligencji.

To ciekawa przestrzeń. Złożoność jest tu jeszcze większa, efekty bardziej nieprzewidywalne niż w algorytmach generatywnych. Ale nie znaczy to, że działamy w dziedzinie SI, bo to, co naukowcom spędza sen z oczu, dla nas jest ciekawym błędem. Nie potrzebujemy dużych zbiorów danych, wręcz przeciwnie, lubimy małe, choć wiemy, że takie w uczeniu maszynowym prowadzą do nieoczekiwanych efektów. Ale my specjalnie robimy błąd, żeby uzyskać efekt, który dla naukowców byłby bezużyteczny, a dla nas jest ciekawy.

Przestajemy rozumieć, dlaczego wybieramy konkretny film, i rozumieć, dlaczego jedziemy taką drogą, a nie inną. Patrzymy w telefon, żeby dowiedzieć się, jaka jest pogoda, zamiast wyjrzeć przez okno. Co dalej? Podłączamy sobie sensory i będziemy pytać system w chmurze, jak się czujemy, w rezultacie do reszty stracimy kontakt ze swoją cielesnością?

Jedna z absolwentek Creative Coding eksperymentuje z ganami – sieciami, które zostały wymyślone do generowania realistycznych obrazów, m.in. twarzy [generatywna sieć przeciwstawna; ang. generative adversarial network, GAN – przyp. red.]. Tam teoretycznie trzeba co najmniej 10 tysięcy obrazów, a ona się uparła, że chce uczyć sieć grafiki, którą sama narysuje i zobaczy, co się stanie. Na razie doszła do tysiąca…

Dlaczego w ogóle mówimy sztuczna inteligencja? Ten termin niesie w sobie negatywną energię, bo jest z gruntu antagonistyczny: sztuczna, czyli nieludzka, czyli obca. My i oni. A oni, obcy, to na pewno nic dobrego, i jeszcze to może być niebezpieczne. Ja wolę mówić nie sztuczna, tylko po prostu wzmocniona. Bo jeśli nauczymy się współpracować z maszyną, to możemy zrobić więcej z nią niż bez niej. Optowałbym za tym, żeby rozwijać sztuczna inteligencję tak, żeby wspomagała naszą. Niech ta nieludzka wspiera ludzką w tym, w czym słabi są ludzie. A więc inteligencja wzmocniona, ale nie taka, która nas zastępuje, rozwiązuje za nas problem, nie mówiąc, jak to zrobiła. Bo w takiej sytuacji niedługo przestaniemy rozumieć, jak ten świat funkcjonuje!

Ale to się już stało. Włączamy GPS i to on wybiera nam drogę, włączamy Netflixa i to on wybiera nam film.

No właśnie. Ale to dopiero początek, jeszcze możemy dokonać mądrych wyborów, by lepiej ukształtować przyszłość, tylko wszyscy powinni włączyć się do tej dyskusji, może na początek zainteresować się, jak to działa? Tymczasem przestajemy rozumieć, dlaczego wybieramy ten film, i rozumieć, dlaczego jedziemy taką drogą, a nie inną. Jak tak dalej pójdzie, to stracimy zdolność orientacji w przestrzeni, nie będziemy w stanie dwóch ulic przejść bez włączania GPS (niektórzy już tak mają). Patrzymy w telefon, żeby dowiedzieć się, jaka jest pogoda, zamiast wyjrzeć przez okno. Na chmury już nikt nie patrzy, bo i po co? Co dalej? Podłączamy sobie sensory i będziemy pytać system w chmurze, jak się czujemy, w rezultacie do reszty stracimy kontakt ze swoją cielesnością?

Inżynierowie dostarczają nam technologie, ale ktoś musi też zadbać o to, jak ta technologia będzie wkomponowana w ludzkie życie

To kwestia wygody i naszego lenistwa, którego zwalczyć się raczej nie da.
Ale może da się to mądrzej zaprojektować? Moim zdaniem to ogromna odpowiedzialność ciążąca na projektantach i naukowcach, żeby przekonywać i pomagać tworzyć taki system, który nas rozwinie, a nie zdegraduje. Można na przykład zaprojektować narzędzie, które będzie próbowało zastąpić lekarza – będzie mu podawało na tacy diagnozę. W takim świecie z czasem lekarz straci swoje umiejętności, wyczucie, bo przestanie trenować, będzie polegał na jakimś urządzeniu. Odda swoje zdolności do systemu. Ale można zaprojektować narzędzia, które będą działać jak okulary czy mikroskop, pozwolą lekarzowi zobaczyć coś, czego by inaczej nie zobaczył. Taki system pozwoli zrozumieć lepiej zależności i podjąć lepszą decyzję, ale nie oferuje gotowych rozwiązań. Rozwija lekarza. Podobną analogię można zastosować do każdego systemu uczącego się, nawet do wspomnianego GPS-a.

Tak było zawsze. Dawniej lekarze zapewne więcej potrafili odczytać po wyglądzie oczu i skóry; dzisiaj już tego nie umieją, bo i po co – zlecają dokładne badania. Za to są świetnie wyspecjalizowani, każdy w swojej dziedzinie.

Myślę, że specjalizacja poszła zbyt daleko i przez to możemy przeoczyć coś ważnego. Specjalistyczna chirurgia? Jak najbardziej. Ale czasem wystarczy prosta fizjoterapia. Brakuje ludzi, którzy łączą poszczególne specjalizacje w pewną całość. Każdy powinien być super w jakiejś dziedzinie wyspecjalizowany, ale mieć ogólne pojęcie i o innych. A nie mówić: „Jestem programistą i robię superalgorytm. A wy jesteście za głupi, żeby to zrozumieć, więc nawet nie będę wam tego tłumaczyć”. Na swoim rodzimym wydziale informatyki staram się pokazać, że taki sposób myślenia do niczego dobrego nie prowadzi. W innych miejscach przekonuję do walki ze stereotypowym podziałem humanista – umysł ścisły. Zainteresowanych, jak to robię, zapraszam na wystawę „Materia Kodu”.


Wiesław Bartkowski jest kuratorem wystawy „Materia Kodu”, którą od 6 do 14 lipca można będzie oglądać na Gdynia Design Days – największym letnim festiwalu designu w Polsce. 7 lipca o godzinie 11 poprowadzi tam warsztaty „Creative Coding – zaprzeczając dychotomii humaniści kontra umysły ścisłe”, a o godzinie 17 wygłosi wykład zatytułowany „Syntetyczna i ludzka inteligencja”.


*Wiesław Bartkowski kierownik studiów podyplomowych Creative Coding oferowanych w Warszawie przez School of Form. Należy do kadry School of Form i School of Ideas na Uniwersytecie SWPS. Twórca pionierskich na polskim rynku programów kształcenia łączących informatykę z naukami humanistycznymi i twórczym wykorzystaniem technologii. Uczy artystów i projektantów wykorzystywania tworzywa, jakim jest połączenie kodu z elektroniką i cyfrową fabrykacją.


Read the English version of this text HERE