Samochody autonomiczne będą wiedzieć kogo zabić

Samochody autonomiczne w ruchu drogowym potrzebują wrażliwej etycznie sztucznej inteligencji. Dlaczego inżynierowie Forda chcą wymagać od niej samosądów i rozjechał ich dylemat pędzącego wagonika?

Samochody autonomiczne mogą być bezpiecznie i to bardziej niż te, którymi kieruje człowiek. Sztuczną inteligencją nie miotają emocje i szybciej analizuje ona dane. Problem w tym, że świat pełen zdyscyplinowanych samochodów autonomicznych to wizja przyszłości.

Według Chrisa Gerdesa, profesora inżynierii mechanicznej na Uniwersytecie Stanforda i współpracownika Ford Motor, podobnej bajki nie potrzebujemy. Samochody autonomiczne będą wystarczająco bezpieczne, jeśli kierująca nimi sztuczna inteligencja będzie działała zgodnie z przepisami ruchu drogowego, ale priorytetyzowała unikanie kolizji.

W tych samych sytuacjach, w których wydaje się rozsądne złamanie prawa z etycznego punktu widzenia, uzasadnione jest również legalne naruszenie kodeksu drogowego.

Teoria piękna, ale jazda zgodna z przepisami nie wystarczy. Na drogach zdarzają się kolizje, których nie można uniknąć. Czasem ktoś zginąć musi i sztuczna inteligencja w samochodach autonomicznych powinna być przygotowana na słynny trolley problem. 

Dylemat pędzącego wagonika (trolley problem) przyśnił się filozofom, ale jest nie tylko abstrakcyjną zagadką etyczną. W oryginalnej wersji sprowadza się on do wyboru jak zachować się w następującej sytuacji:

Wagonik kolejki pędzi w dół po torach. Porusza się bez kontroli, a na jego torze do szyn przywiązanych jest pięcioro ludzi. Nie mamy szans ich uwolnić, ale w naszym zasięgu jest zwrotnica, której przestawienie skieruje wagonik na drugi tor. Tam także przywiązany jest człowiek, ale tylko jeden. Jak postąpić?

Wielu z nas odpowie, że należy przestawić zwrotnicę. Nie wiemy nic o ofiarach, więc uratowanie pięciu osób kosztem jednej, wydaje się słusznym posunięciem. Chodzi jednak o ludzkie życie i mierzenie go prostą arytmetyką ( lub pomagając sobie rachunekiem prawdopodobieństwa!) jest okrutną wyliczanką. Jeśli nic nie zrobimy, nie możemy ukrywać się za wyrokami ślepego losu. Mamy krew na rękach, ponieważ brak działania to obciążająca nas decyzja.

W etyce dylemat pędzącego wagonika jest paradoksem z którego nie wybrniemy w sposób sprawiedliwy. Cokolwiek zrobimy, ktoś zginie lub zostanie skrzywdzony i będziemy za za to odpowiedzialni.

Według inżynierów Forda w samochodach autonomicznych nie mamy dylematu pędzącego wagonika. Można zaprogramować je tak, aby działały sprawiedliwie. W tym celu kierująca nimi AI musi znać przepisy ruchu drogowego i w momencie kolizji dążyć do maksymalnego ograniczenia zaangażowania w zderzenie tych obiektów, które poruszają się przepisowo.

Być może brzmi sensownie, ale to stek bzdur o przerażających konsekwencjach. Według Gardesa sztuczna inteligencja musi dążyć do zderzenia z tym, kto nie przestrzegał przepisów. W drastycznej sytuacji powinna więc oszczędzić samochody i zderzyć z pieszym, który nie zastosował się do wskazań sygnalizacji świetlnej. W ten sposób samochód autonomiczny staje się maszyną z horroru, która wymierza sprawiedliwość.

Inżynier i jego zespół proponują nieetyczny samosąd, a nie rozwiązanie paradoksu etycznego. Według nich samochody autonomiczne mają zawsze rozjechać piątke nieszczęśliwców przywiązanych do torów. Wypadek dorogowy jest przecież świetnym momentem na szukanie winnych, a nie minimalizowanie zagrożeń. Poza tym fajer, który jechal zbyt szybko mógł kupić sobie autonomicznego SUVa i nic złego by się nie stało, prawda?

Źródła: Stanford Univesity