Klątwa Orwella? Fascynująca rozmowa z dr. hab. Dariuszem Szostkiem, prof. UO

Prof. UO dr hab. Dariusz Szostek (fot. Sylwester Koral)   

Z dr. hab. Dariuszem Szostkiem, prof. UO z Katedry Prawa Prywatnego, kierownikiem Zespołu Badawczego Centrum Prawnych Problemów Techniki i Nowych Technologii z Wydziału Prawa i Administracji Uniwersytetu Opolskiego, członkiem zespołu EUIPO Komisji Europejskiej rozmawia Barbara Stankiewicz

– Nowe technologie to dla nas olbrzymia szansa rozwoju gospodarczego oraz dostępu do wiedzy i informacji, ale zawsze jest coś za coś. Jakie są niebezpieczeństwa, które niosą ze sobą nowe technologie?

– To prawda, jest i ciemna strona mocy. Często przywołuje się przykład noża – można nim kroić chleb, ale można go też użyć w niecnych celach… O wyzwaniach, jakie przed nami stoją w związku z rozwojem nowych technologii dyskutowaliśmy w listopadzie ubiegłego roku w Berlinie podczas Internet Gouvernance Forum, czyli Światowego Forum Zarządzania Internetem, konferencji zorganizowanej przez ONZ, dotyczącej stanu rozwoju świata cyfrowego.

– Zacznę od obalenia pewnego mitu. Bo nam się wydaje, że internet jest dobrem ogólnodostępnym, dla wszystkich. To nieprawda. Dostęp do internetu ma zaledwie połowa ludzi na świecie, z czego tylko 20–30 proc. ma dostęp stały. To jest ogromna dysproporcja: część ludzi ma nieograniczony dostęp do wiedzy i informacji, większość jednak jest tego kompletnie pozbawiona. W niektórych krajach azjatyckich kobiety nie mogą nawet korzystać z telefonów mobilnych… Brak dostępu do danych powoduje też duże dysproporcje w rozwoju technologicznym – państwa wysoko rozwinięte rozwijają się jeszcze bardziej i szybciej od państw biednych, takiego dostępu pozbawionych. Jeśli dodamy do tego możliwość przenoszenia działalności on-line – mam na myśli dystrybucję dóbr cyfrowych – to okaże się, że bogaci będą się jeszcze bardziej bogacili, natomiast kraje, w których siłą napędową jest tradycyjna praca (jak np. w Indiach, innych krajach azjatyckich i afrykańskich), a głównym atutem – niski koszt tej pracy, będą traciły na znaczeniu.

– Jedna z ciekawszych debat podczas berlińskiego forum dotyczyła AI, czyli artificial intelligence, sztucznej inteligencji. Co ciekawe, w tej dyskusji uczestniczył także ksiądz profesor z Watykanu. Nie ukrywam, że byłem jego obecnością zaskoczony… Okazuje się, że papież Franciszek przywiązuje bardzo dużą uwagę do faktu nierówności w dostępie i dystrybucji dóbr cyfrowych. Wspomniany ksiądz zauważył m.in., że dziś na zastosowaniu sztucznej inteligencji i wprowadzeniu automatyzmu pracy bogacą się gigantyczne korporacje, ale koszty stosowania tych nowoczesnych technologii ponoszą społeczeństwa. W pełni się z tym zgadzam, co więcej, właśnie to uważam za największe zagrożenie, jakie niosą ze sobą nowe technologie. Mamy do czynienia z sytuacją podobną do tej, jaką ludzkość przeżywała na początku XX w., kiedy to rozwój przemysłu i techniki spowodował ogromne zmiany, prowadzące do przemiany społeczeństwa rolniczego w społeczeństwo przemysłowe. Pamiętamy, jak to się zakończyło – wystarczy przywołać daty: 1905, 1914, 1917. Ta ostatnia data to wybuch rewolucji październikowej. Dziś obserwujemy początki podobnego procesu, który dotyczy klasy średniej, wykonującej do tej pory pracę intelektualną. Zmiany związane z wprowadzeniem na masową skalę sztucznej inteligencji oczywiście jeszcze potrwają, nikt nie wie, ile lat, to jest proces. Z badań wynika, że w ciągu najbliższych 20 lat ok. 30 proc. stanowisk pracy w Stanach Zjednoczonych zostanie zastąpionych przez sztuczną inteligencję. Oczywiście przy okazji powstaną nowe miejsca pracy, możliwe, że sztuczna inteligencja więcej tych miejsc stworzy niż zabierze… Tyle że będzie to praca zupełnie inna, potrzebni do niej będą wysokiej klasy specjaliści, najczęściej z bogatych państw, z dużych metropolii i dużych ośrodków naukowych. Z pewnością nie będzie to praca dla np. kierowców. Mówię o kierowcach nie bez powodu, bo po naszych drogach będą wtedy jeździć pojazdy autonomiczne, a więc niewymagające szofera. Trudno mi sobie wyobrazić, żeby człowiek całe życie pracujący jako kierowca zdołał się przekwalifikować na specjalistę AI. Ale to na razie nam nie grozi, bo jeśli chodzi o rynek sztucznej inteligencji, mamy dziś do czynienia z oligopolem – 90 proc. tego rynku jest w rękach Chin i USA. Europa się tu w ogóle nie liczy, o Polsce już nie wspomnę.

– Pozostańmy chwilę przy Chinach i wdrażanym tam Systemie Zaufania Społecznego…

– To właśnie przykład użycia przez państwo nowych technologii do inwigilacji swoich obywateli. Ten mechanizm brzmi bardzo niewinnie: Social Credit System (SCS), czyli System Zaufania Społecznego. Na wstępie Chińczycy zostali zdigitalizowani – od każdego obywatela pobrano odciski palców, zeskanowano twarz… I jak w grze komputerowej każdemu przydzielono określoną liczbę punktów – obywatel może część z nich stracić, może też zyskać kolejne, w zależności od swojego zachowania, które jest stale monitorowane. Kryteriów oceny jest wiele – od historii zakupowej po aktywność w mediach społecznościowych, siatkę znajomych, miejsca i osoby, które odwiedza (zarówno w sieci, jak i w realu)…Mówiąc w skrócie: zachowania zgodne z aktualną linią partii rządzącej są dobre, posiadanie odmiennego zdania w dowolnej kwestii lub zachowanie odbiegające od normy zaowocuje punktacją negatywną – wystarczy np. wypożyczyć nieodpowiednią książkę, nie mówiąc o pójściu na manifestację. Konsekwencje są bardzo poważne: nasze dziecko na przykład nie będzie mogło pójść na studia, bo jako rodzice nie możemy wykazać się odpowiednią liczbą punktów… Wzorowi obywatele mogą liczyć na miejsce w uprzywilejowanej kolejce w urzędzie państwowym, lepsze szkoły dla swoich dzieci, awans w pracy, wyższą zdolność kredytową… Punkty potrzebne do stania się takim uprzywilejowanym wzorem przyznawane mają być również za donosy na innych obywateli.

– Orwell to wszystko przewidział…

– Ja sobie ostatnio odświeżyłem Rok 1984, gorąco polecam zrobić to samo – bohater Orwella żyje w naszym świecie. Przypominam, że tę książkę opublikowano w roku 1949!

– Podczas wspomnianej konferencji, kiedy rozmawialiśmy o smart cities, prelegent z Tajwanu opowiadał o minusach inteligentnych miast – jednym z nich jest poczucie bycia nieustannie obserwowanym, co nie ma nic wspólnego z przeczuleniem, tam monitoring jest wszechobecny. Stąd mieszkańcy takich miast wychodzą na manifestacje z zakrytymi twarzami. Boją się, że są monitorowani i mogą ponieść konsekwencje takiego protestu. I pewnie się nie mylą.

 – Polityka sięga coraz chętniej po nowe technologie…

– Nowe technologie zawsze były wykorzystywane do politycznych celów, choćby radio i telewizja w latach 30. ubiegłego wieku… Tak było i jest, zmieniają się tylko narzędzia, bo dziś do celów politycznych używa się np. wiadomości dostępnych w internecie – przypomnę aferę Cambridge Analytica, firmy zajmującej się analizą danych i, jak się okazało, manipulującej tymi danymi. Dzięki informacjom, jakie udostępniamy w social-mediach cyberkorporacje wiedzą dokładnie, jakie mamy preferencje polityczne, komu kibicujemy, jakiej muzyki słuchamy, gdzie spędzamy wakacje… Cambridge Analytica wykorzystywała tę wiedzę do preparowania fake newsów przykrojonych do potrzeb konkretnego wyborcy. O Cambridge Analityca wiemy, bo ta afera była głośna, ale przecież podobnie działają inne tego typu firmy. Poprzez podobne mikrotargetowanie Brytyjczycy uwierzyli w kłamstwa na temat brexitu, np. że przyniesie kolosalne oszczędności, które będzie można przekazać na poprawę służby zdrowia, a Amerykanie w kłamstwa przedwyborcze na temat Hillary Clinton – że Trump ma na nią dowody, które pozwolą ją wsadzić za kratki. W Polsce obserwujemy podobny mechanizm: politycy podrzucają kompromitujące materiały płatnym trollom, żeby rozpowszechnić je w internecie…

– Korzysta Pan z social-mediów?

 – Mam konto na facebooku, ale zaglądam tam raz w miesiącu. Przyczyna jest prosta: ta aktywność pożera zbyt dużo czasu– silnik AI Facebooka jest skonstruowany tak, żeby przytrzymać naszą uwagę przez co najmniej dwie godziny. Ale ważniejszym powodem jest to, że ja za dużo wiem o tym medium społecznościowym, więc jestem świadom, co mogą zrobić z moimi danymi…

– Co na przykład?

– Na pewno udostępniają je innym podmiotom i nie chodzi tu tylko o dostosowane do nas reklamy konkretnych produktów. Dzięki specjalnemu algorytmowi facebook analizuje nasze zachowania, znajomości, preferencje polityczne – dla cyberkorporacji nie ma znaczenia, czy sprzedają pampersy czy usługi polityczne… Wystarczy sprawdzić, co facebook o mnie wie – jest taka opcja – żeby przekonać się, że wie o nas więcej, niż nam się wydawało, a nawet więcej niż my sami o sobie wiemy. Analizowane jest wszystko: nie tylko to, jakie strony odwiedzamy, ale i które przewijamy, a na których treściach dłużej zawieszamy wzrok… Nie jest też tajemnicą, że jeśli mamy facebook w aplikacji mobilnej, to analizowane są także rozmowy, które prowadzimy…

– Nieświadomie dostarczamy o sobie informacji…

– Świadomie. W dobie internetu ignorancja nie jest nieświadomością.

– A co ze świadomością prawną? I z prawem dotyczącym nowych technologii?

– Prawo dotyczy każdej dziedziny życia, a więc i nowych technologii. Oczywiście, prawo nigdy nie nadąża za zmianami społecznymi, ale tutaj mamy do czynienia ze zmianą paradygmatu: w świecie wirtualnym prawo państwowe ma coraz mniejsze znaczenie ze względu na to, że dobra są cyfrowe. Klasycznym przykładem takich dóbr jest kryptowaluta, działająca w cyberprzestrzeni. To, że prawo musi nadążać za zmianami, to nic nowego, różnica jest taka, że my za każdym razem, gdy pojawia się jakieś nowe zjawisko wynikające z zastosowania nowych technologii, musimy to prawo nie tyle dostosowywać, co przyporządkować tej zmianie. W Europie mamy dość dobre regulacje prawne w zakresie nowych technologii, klasycznym przykładem jest RODO, które w Europie wprowadziliśmy jako pierwsi i jak dotąd jedyni, ale już podobne regulacje wprowadza Kanada, niektóre kraje azjatyckie i Australia, przymierzają się też do tego Stany Zjednoczone.

– Co prawo mówi na temat sprzedaży artefaktu, wirtualnego przedmiotu z gier komputerowych? To są legalne transakcje?

– Własność wirtualna była tematem świetnej pracy Kamila Szmyda, którą miałem przyjemność recenzować, polecam wszystkim zainteresowanym tym zagadnieniem. Awatar to przykład dobra cyfrowego, które oczywiście zostało dostrzeżone przez prawo, bo już w 2014 r. w Europie wprowadzono trzeci rodzaj obrotu gospodarczego (dotąd dotyczył usług i rzeczy), mianowicie obrót treściami cyfrowymi. W grudniu ubiegłego roku została przyjęta nowa dyrektywa, dokładnie regulująca problem umów o treści cyfrowej, które są traktowane po prostu jak dobro podlegające obrotowi. Najdroższy artefakt, jaki widziałem, był wyceniony na pół miliona dolarów, to była chyba baza kosmiczna… Artefakty, podobnie jak inne dobra cyfrowe, podlegają też dziedziczeniu. Pytanie tylko, czy spadkobierca posiada dostęp do konta, hasła (świetną pracę na temat testamentów elektronicznych napisał prof. Mariusz Załucki), stąd może być problem z egzekucją takiego testamentu. Dotyczy to także kryptowalut, komornik często ma kłopot z pozyskaniem kodów dostępu, ale to już bardziej kwestia techniczna niż prawna.

– Czym Pan się zajmuje w zespole EUIPO (Urząd Unii Europejskiej ds. Własności Intelektualnej) Komisji Europejskiej?

– Zespół, w skład którego zostałem powołany, ma się zajmować technologią blockchain w zakresie ochrony własności intelektualnej. Mamy za zadanie wypracować koncepcję i system ochrony konsumentów przed oszustwami sprzedaży produktów podrobionych. Bo, zwłaszcza w Europie, często płacimy uczciwie za produkt, który nie jest oryginalny. Jest pomysł, żeby taki produkt był od razu wpisany w system blockchain, dzięki czemu już w sklepie będzie można go zeskanować i dowiedzieć się, czy to rzeczywiście oryginał. Naszemu zespołowi z Opola udało się trochę zmienić myślenie w Brukseli – żeby ta ochrona nie dotyczyła wyłącznie nabywców drogich gadżetów, ale żeby skierować myślenie bardziej w stronę ekologii, a więc żeby klient dostał rzetelną informację, czy np. skanowany produkt spożywczy pochodzi z Chin czy Maroka, czy jest modyfikowany genetycznie… Więcej – czy kupowane przez nas w Polsce ziemniaki pochodzą z pól podwarszawskich, czy z Podlasia.

– Jest Pan także kierownikiem Zespołu Badawczego Centrum Prawnych Problemów Techniki i Nowych Technologii na Wydziale Prawa i Administracji naszej uczelni. Czym się zajmuje ten zespół?

– W Centrum Prawnych Problemów Techniki i Nowych Technologii, które funkcjonuje na Wydziale Prawa Uniwersytetu Opolskiego, udało nam się skupić wielu świetnych specjalistów (zwykle takie centra są jedno- lub dwuosobowe), którzy uczestniczą w pracach Rady Programowej IGF 2020, czyli Forum Zarządzania Internetem, planowanego w tym roku w Katowicach. Przewidziano 200 paneli dyskusyjnych, gościem forum ma być sekretarz generalny ONZ… Nasz opolski ośrodek naukowy ma więc wpływ na to, co dzieje się nie tylko w Polsce, ale i na świecie. Jesteśmy też członkiem Wirtualnej Katedry Etyki i Prawa – to prowadzące wspólne projekty konsorcjum kilku uczelni, tj. Uniwersytetu Opolskiego, Uniwersytetu Śląskiego, Uniwersytetu Wrocławskiego, Politechniki Warszawskiej i Uniwersytetu Warszawskiego, Uniwersytetu Łódzkiego i Białostockiego PAN, NASK i innych.

– Jest Pan uzależniony od internetu?

– Mam nadzieję, że nie, bo staram się z niego korzystać w sposób bardzo świadomy. Ale dostrzegam ten problem. Kiedyś zrobiłem moim studentom tzw. challenge: przez 72 godziny mieli nie korzystać z social-mediów. Znakomita większość studentów nie była w stanie przez to przebrnąć. Pozostali, w większości, drugiej nocy odczuwali silny stres, niepokój, mieli poczucie, że tracą coś ważnego, w czymś istotnym nie uczestniczą. To bardzo poważna oznaka uzależnienia. Widziałem w Wilnie specjalną, bezpieczną ścieżkę dla smartfonowców, który poruszają się jak zombie, ze spuszczoną głową, bo nie są w stanie oderwać się od ekranu smartfona. Ale z drugiej strony – starsze pokolenie nie jest przecież w stanie żyć bez telewizji. Znam domy, gdzie telewizor brzęczy od rana do nocy…

– Są badania, z których wynika, że w Polsce rodzice średnio poświęcają dzieciom 1 godzinę 40 minut dziennie, jednocześnie pozwalając na to, żeby na facebooku i innych social-mediach spędzały 2 godziny 20 minut. Bo to jest łatwe – dać dziecku tablet i mieć spokój, no bo taka np. wspólna gra w planszówkę nas angażuje… To problem poważniejszy, bo my, Polacy, nie potrafimy już ani pracować, ani odpoczywać – pracę przynosimy często do domu, czego nie robią np. Niemcy, Holendrzy czy Duńczycy, przeznaczając popołudnia dla siebie i swoich dzieci. Pamiętam, jak do mojego starszego syna przyszli koledzy. Powiedziałem krótko: telefony na kredens. Nieco się awanturowali i oburzali, ale po godzinie skapitulowali, wyszli na podwórko, wyciągnęli rowery… Następnym razem sami położyli telefony na kredensie, a ich rodzice pytali mnie: jak ja to zrobiłem.

– Sam się łapię na tym, że np. w podróży sięgam po smartfon, przeglądam internet… Podobnie robią inni pasażerowie. Chociaż problem jest szerszy, bo dziś w Polsce jest taki rozłam w społeczeństwie, że często wolimy unikać rozmów. Poziom nienawiści, która wylewa się zewsząd, zwłaszcza z mediów, jest tak ogromny, że boimy się ze sobą rozmawiać. Pod tym względem jest dziś gorzej niż w erze sprzed internetu. Staram się to zmieniać, próbuję nawiązać rozmowę, siedząc w kolejce do lekarza czy podróżując – idealnie jest, jeśli widzę kogoś czytającego tradycyjną książkę, bo wiem, że to człowiek normalny, do kogo można zagadać…

– Kamerkę w laptopie ma Pan zaklejoną?

– Oczywiście, że tak.

– Myśli Pan, że naszej telefonicznej rozmowie ktoś się przysłuchuje?

– Myślę, że to nie jest wykluczone….

– Dziękuję za rozmowę.

Rozmawiała: Barbara Stankiewicz

Tekst został opublikowany w najnowszym numerze "Indeksu".

***

Dr hab. Dariusz Szostek, prof. UO – profesor Wydziału Prawa i Administracji UO, przewodniczący Rady Naukowej Wirtualnej Katedry Etyki i Prawa, kierownik Centrum Problemów Prawnych Techniki i Nowych Technologii WPiA UO, członek EU Blockhaton Forum EUIPO (European Union Property Office) Komisji Europejskiej, członek ELI (European Law Institute) w Wiedniu, stażysta Uniwersytetu w Wilnie, Uniwersytetu Śląskiego. Redaktor czasopisma naukowego „Prawo Mediów Elektronicznych”, autor wielu publikacji z zakresu prawa nowych technologii wydanych w Polsce i zagranicą (m.in. Nomos Germany) w tym bestsellerów wydawniczych (Blockchain and Law, IT i bezpieczeństwo danych w kancelarii prawnej, Komentarz do Prawa Konsumenckiego), wykładowca, uczestnik grantów międzynarodowych (m.in. Smart Human-Orented Platform for Connected Factories Horizon 2020). Laureat „Przeglądu Prawa Sądowego” za Komentarz do Prawa Konsumenckiego), laureat Nagrody IV Forum Mediów Elektronicznych.