Czy roboty powinny mieć swoje prawa? Trwa dyskusja wśród naukowców i w Parlamencie Europejskim

Sztuczna inteligencja jest coraz powszechniejszym narzędziem. Wkrótce po ulicach będą jeździć autonomiczne samochody, a Azjaci bez obaw przyjmą cyber-opiekunki. Roboty przestają być domeną fantastyki, a stają się rzeczywistością. Jak bardzo ta jest namacalna udowadnia konferencja „Prawo a roboty”, która odbyła się na wrocławskim wydziale Uniwersytetu SWPS. Uczelnia poprosiła naukowców, etyków i prawników, aby przeanalizowali zjawisko coraz inteligentnych maszyn oraz ich miejsca w społeczeństwie.

Czy sztuczna inteligencja może odpowiadać za własne błędy? Jakim systemem wartości kierowałyby się samoświadome maszyny? Czy wobec prawa roboty powinny być przedmiotami, czy osobami? Większość tych pytań dotyczy przyszłości, ale uczestnicy konferencji podkreślali, że ta zbliża się bardzo szybko.

Dyskusja na temat praw robotów musi zejść na temat Isaaca Asimova, wybitnego autora science-fiction, który znany jest także jako autor trzech praw, które miałyby regulować relacje między ludźmi a robotami.

1. Robot nie może skrzywdzić człowieka, ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy.
2. Robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z Pierwszym Prawem.
3. Robot musi chronić sam siebie, jeśli tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem

Czy te punkty wystarczą w sytuacji, w której maszyny faktycznie zaczynają się uczyć wchodzić w interakcję z ludźmi?

- Prawnicy traktują je raczej jako ciekawostkę, niekiedy jako punkt wyjścia do dalszych rozważań. Warto przy tym pamiętać, że „prawa Asimova” natychmiast stały się przedmiotem krytyki. Najoczywistszym zastosowaniem robotów stało się przecież zabijanie żołnierzy przeciwnika, zaś największymi budżetami na badania robotów dysponuje przecież wojsko – zauważa dr Michał Rudy z Uniwersytetu SWPS i przypomina parodię praw Asimova, którą stworzył Mark Langfort:

1. Robot nie może działać na szkodę Rządu, któremu służy, ale zlikwiduje wszystkich jego przeciwników;
2. Robot będzie przestrzegać rozkazów wydanych przez dowódców, z wyjątkiem przypadków, w których będzie to sprzeczne z trzecim prawem.
3. Robot będzie chronił własną egzystencję przy pomocy broni lekkiej, ponieważ robot jest „cholernie drogi”.

Rzeczywista dyskusja na temat prawa robotów poszła już znacznie dalej. Parlament Europejski pracuje nad zarysem odpowiedniej karty praw robotów. Osobowość prawna dla robotów nie wynika jednak z zapobiegawczej wrażliwości, ale jest podyktowana całkowicie racjonalnymi pobudkami.

- Jeśli wyślemy robota po zakupy, nie może on zawrzeć umowy kupna-sprzedaży. Jeden z pomysłów to nadanie im osobowości na podobieństwo spółek prawa handlowego i stworzenie funduszy czy polis ubezpieczeniowych, z których opłacane byłyby ewentualne szkody wyrządzone przez takie roboty – wyjaśnia dr Rudy.

Działałby wtedy jak np. spółka z.o.o. Dysponowałby kapitałem zakładowym, wpłaconym przez właściciela lub nawet uzupełnianym samodzielnie i odpowiadałby do wysokości kapitału. Łatwo wyobrazić sobie jak robot-taksówka przeznacza procent zarobków na podwyższenie kapitału. Za szkody powyżej kwoty kapitału odpowiadałby właściciel.

Innym pomysłem jest stworzenie odrębnej kategorii – osobowości elektronicznej.

- Robot stałby się podmiotem praw i obowiązków. Mógłby zatem być pozywany, samoczynnie odpowiadać w przypadku czynu zabronionego lub z umów przez niego zawieranych, a także samemu kierować pozwy. Podobnie jak w przypadku pojazdów, robot musiałby być ubezpieczony od następstw wypadków. To, razem z odpowiedzialnością właściciela, gwarantowałoby kompensację za ewentualne szkody. Innym rozwiązaniem jest przyznanie robotowi osobowości prawnej na kształt spółki prawa handlowego – opisuje Paweł Mazur, radca prawny z kancelarii Result.

Możemy być pewni, że kiedy na drogach zaczną dominować autonomiczne samochody gwałtownie spadnie liczba wykroczeń drogowych. To jasne: roboty nie mają zapędów ku byciu piratami drogowymi. Do tego nie piją alkoholu, nie zażywają narkotyków ani nawet nie bywają zmęczone. To jednak nie rozwiązuje każdej sytuacji na drodze, a algorytm nie zastąpi ludzkiego rozumu.

Doktor Rudy ilustruje problem na przykładzie trzech sytuacji. Wszystkie mają miejsce przy założeniu niemożliwości uniknięcia kolizji.

W pierwszym przypadku, samochód zmierza w kierunku uderzenia w grupę ludzi, jedynym ratunkiem jest odbicie na pobocze na którym przebywa pieszy. W tej sytuacji dochodzi do hipotetycznego wyważenia wartości życia lub zdrowia grupy ludzi i życia lub zdrowia pojedynczego człowieka.

W drugim przypadku, ten sam rozpędzony samochód (chociaż oczywiście nie przekraczający prędkości dozwolonej w danym terenie) zmierza w kierunku uderzenia w jedną osobę przechodzącą na „pasach”, zaś alternatywą dla uniknięcia tej katastrofy jest odbicie w bok i uderzenie w barierki okalające drogę. W tej sytuacji dochodzi do kolizji dóbr pomiędzy życiem i zdrowiem przechodnia a odpowiednio życiem i zdrowiem samego „pasażera” takiego samochodu.

W trzecim przypadku, samochód zmierza w kierunku uderzenia w grupę ludzi, natomiast jedyną alternatywą – podobnie jak w przypadku drugim - jest uderzenie w bok i barierki znajdujące się przy drodze.

- W kontekście powyższego można stwierdzić, że przedstawione sytuacje stanowią trudny do rozwiązania, a tak naprawdę ostatecznie nierozwiązywalny problem etyczno–moralny dla samego człowieka. Oprogramowanie nie zastąpi rozumu, moralności czy emocji, a sztywne przepisy nie zawsze odzwierciedlają dynamiczną rzeczywistość na drodze – podsumowuje dr Rudy.

Kto powinien ponieść odpowiedzialność? Co jeśli do błędu robota doszło np. z powodu braku aktualizacji jego danych lub użycia oprogramowania pirackiego? Wciąż trwają dyskusje w jaki sposób działania robota miałyby być interpretowane przez przepisy. Najwięcej wątpliwości wzbudza stopień odpowiedzialności człowieka za maszynę. Co na to prawnicy?

- W przypadku nawet najbardziej zaawansowanych pojazdów czynniki decyzyjne leżą po stronie człowieka. Ale w przypadku samoświadomego robota decyzje są związane z algorytmami, które ulegają ciągłym zmianom. W przypadku złożonych systemów, które służą np. do opieki nad chorymi lub seniorami, podstawową cechą jest ciągłe uczenie się. Trudno więc przypisać odpowiedzialność konkretnej osobie. Tak wygląda sytuacja od strony cywilistycznej. Do odpowiedzialności karnej robota pociągnąć nie można. Ponosi ją właściciel, o ile przypisze mu się winę, także pośrednią, oraz ustali związek między działaniem robota a szkodą – wyjaśnia Paweł Mazur.

Jednym z proponowanych rozwiązań jest zakwalifikowanie robotów do zwierząt towarzyszących właścicielowi. Właściciel odpowiada wtedy za spowodowane szkody, chyba, że wina nie leży po jego stronie lub ewidentnie leży po stronie poszkodowanego. Można to nazwać „ryzykiem posiadania zwierzęcia”.

- Ale kto będzie chciał pozwolić robotowi na samowolne poruszanie się, gdy będzie odpowiadał za prawie wszystkie szkody spowodowane przez robota? - zastanawia się Paweł Mazur.

Mówiąc o robotach, w wyobraźni ilustrujemy je częściej jako zagubionego Davida z „A.I.” Spielberga, czy przerażonego HAL-a 9000 z „Odysei Kosmicznej”, niż jako bezduszne ramię produkcyjne z fabryki. Nawet jeśli to kwestia wyłącznie hipotez, trudno nie zadać pytania o uczucia robotów.

- Nie możemy przewidzieć jak będą funkcjonować emocje robotów. Posługując się definicjami sprzed 50 lat traktujemy je jako bezduszne maszyny. Tworzone dzisiaj roboty mają jednak wchodzić w interakcje z człowiekiem i niewykluczone, że z czasem wytworzą jakąś formę „uczuć”. Czy zatem należy pójść krok dalej i przyznać im coś na wzór praw człowieka i obywatela? Pierwsze kroki są już podejmowane – mówi Paweł Mazur.

Parlament Europejski pracuje nad zarysem odpowiedniej karty praw. Kraje azjatyckie idą jeszcze dalej, rozważając wręcz prawa obywatelskie: równe traktowanie, prawo do pracy, prawa wyborcze, ale i obowiązki np. płacenia podatków. To pokazuje przy okazji różnice w podejściu do tego tematu. W kulturze zachodu z reguły byliśmy straszeni mechaniczną zagładą ludzkości, podczas gdy w Azji panowała tendencja odwrotna.

- Po wojnie, w okresie automatyzacji widziano w robotach raczej pomoc i wielką szansę na rozwój. Dzisiaj społeczeństwo jest lepiej nastawione do życia z robotami. Dowodem na to są prototypy robota-kochanki, która nie narzeka, że partner za dużo pracuje, zawsze jest uśmiechnięta, nie boli jej głowa i nie domaga się poświęcania jej czasu. Biorąc pod uwagę niski przyrost naturalny i to, że standardem staną się niedługo roboty do opieki, można powiedzieć, że są na to skazani aby oswajać się z życiem z robotami, które stanowiłyby niejako trzecią płeć – zauważa Paweł Mazur.

Warto zwrócić uwagę, że cechy ludzkie robotom nadajemy celowo, jako ich twórcy.

- Jeśli dojdzie do sytuacji zapowiadanej przez naukowców, pisarzy czy etyków, czyli wykształcenia się samoświadomości robotów, wtedy należałoby się zastanowić czego takie maszyny "same by chciały". Trzeba jednak pamiętać, że chociaż nadajemy robotom cechy ludzkie, nie mamy żadnej pewności, że w przyszłości myślące maszyny przyjmą nasz system wartości, wierzeń, moralności, etyki czy prawa stanowionego – podsumowuje dr Rudy.

Zdjęcia: Pixabay; zdjęcie otwierające pochodzi z filmu Blade Runner