Ciekawostki

Dlaczego BMW nie wierzy w samokierujące się samochody?

z dnia 2018-08-15
Wojciech Kulik | Redaktor serwisu benchmark.pl
20 komentarzy Dyskutuj z nami

Czy człowiek może przerzucić moralną odpowiedzialność na auto i czy zechce sam na siebie wydać wyrok, pozwalając zadecydować samochodowi, czy ważniejsze jest jego życie, czy życie innej potencjalnej ofiary?

BMW lubi stawiać na innowacyjne rozwiązania, ale przyszłość w postaci samokierujących się samochodów niekoniecznie jest wizją, jaką chciałoby realizować. Z jakiego powodu?

Samokierujące się samochody? To przeciwieństwo komfortu

Ian Robertson, który jest kierownikiem ds. motoryzacyjnych w zarządzie Grupy BMW, przyznał ostatnio, że nie wierzy w samokierujące się samochody, a właściwie w to, że stanowią one przyszłość motoryzacji. Według niego nawet osiągnięcie przez nie najwyższego poziomu autonomiczności nie zagwarantuje podróżującym odpowiedniego komfortu (nawet jeśli podczas jazdy będzie można się zdrzemnąć czy oddać lekturze).

W swojej argumentacji Robertson poruszył pewną istotna kwestię, o której wielokrotnie już mówiono. Chodzi mianowicie o przekazanie maszynie zadania polegającego na szybkim podejmowaniu decyzji. Z jednej strony ma to zapewniać wysoki poziom bezpieczeństwa, z drugiej jednak problemy zaczynają się, gdy sytuacja jest kolokwialnie mówiąc nieciekawa.

BMW auto środek

Czyje życie jest ważniejsze?

W krytycznych sytuacjach autonomiczne samochody będą musiały bowiem podejmować decyzje o tym, kto powinien zostać uratowany, a kto zginąć. Jeśli nie ma możliwości, by ocalić wszystkich, to przeżyć powinien kierowca i jego pasażerowie czy grupa pieszych na pasach? Szef Mercedesa twierdzi, że auto powinno wybrać opcję numer jeden (bo szansa na przeżycie jest większa), ale przedstawiciel BMW jest innego zdania.

Robertson twierdzi, że nie można dać systemowi prawa do decydowania o tym, czyje życie jest ważniejsze. – „Co system ma zrobić w takiej sytuacji? Uzyskać dostęp do pamiętnika potencjalnych ofiar, by przekonać się, czy nie są czasem śmiertelnie chore? Nie sądzę, by kiedykolwiek taka sytuacja była dozwolona”. I bez wątpienia ma rację. Firma Google też „zabroniła” swoim samochodom podejmowania takich wyborów. Ale to nie zmienia faktu, że problem pozostaje.

Ten artykuł pochodzi ze strony benchmark.pl

„Moralność” samochodu, który kieruje się sam 

Eksperci firm i rządów próbują opracowywać zestawy reguł moralnych, jakimi powinny kierować się samochody (ale według niektórych osób to droga donikąd). Warto w tym miejscu przypomnieć o tzw. dylemacie wagonika. To etyczny eksperyment myślowy, którego podstawową wersję odnajdujemy na Wikipedii:

„Wagonik kolejki wyrwał się spod kontroli i pędzi w dół po torach. Na jego drodze znajduje się pięciu ludzi przywiązanych do torów przez szalonego filozofa. Ale możesz przestawić zwrotnicę i w ten sposób skierować wagonik na drugi tor, do którego przywiązany jest jeden człowiek. Co powinieneś zrobić?”

moral machine
A co w takiej sytuacji powinno zrobić samokierujące się auto? To jeden ze scenariuszów maszyny moralnej MIT.

Już w takiej sytuacji odpowiedź jest niełatwa, a w prawdziwym świecie mogą jeszcze występować modyfikacje, w których część potencjalnych ofiar to dzieci, kobiety w ciąży i rodzice z wózkami, przestępcy czy starcy. Człowiek, który prowadzi samochód, musi podjąć taką decyzję w ułamku sekundy. Jest odpowiedzialny za rezultat i trudno go winić za dany wybór, ale czy można przerzucić tę odpowiedzialność na komputer?

BMW szuka rozwiązań

Według przedstawicieli BMW – nie można. Dlatego też wyrokują, że autonomiczne samochody nigdy nie staną się standardem, a przynajmniej nie w zgodzie z takimi wizjami, jakie serwują nam ich zwolennicy. 

„Najzwyczajniej niemożliwy do osiągnięcia jest dzisiaj scenariusz z »wyłączonym myśleniem« podczas jazdy. Uważam, że organy nadzoru w końcu wkroczą i ustalą granice dotyczące tego, jak daleko możemy się posunąć. Być może autonomia będzie dozwolona tylko na autostradach. A może części miast będą odcięte od ruchu pieszego” – dodał Robertson.

Faktem jest, że inżynierowie BMW również pracują nad systemami autonomicznymi i półautonomicznymi. Prawdopodobnie jednak firma nie będzie się spieszyć z wdrażaniem tych pierwszych.

Źródło: BMW Blog, Wikipedia, inf. własna. Foto: BMW (1,2), screen: MIT (3)

marketplace

Komentarze

20
Zaloguj się, żeby skomentować
avatar
Dodaj
Komentowanie dostępne jest tylko dla zarejestrowanych użytkowników serwisu.
  • avatar
    "Eksperci firm i rządów próbują opracowywać zestawy reguł moralnych, jakimi powinny kierować się samochody"
    Co za k...a bzdury, takie same bzdury jak o człowieku podejmującym decyzje kogo przejechać a kogo nie (tym bardziej w ułamku sekundy). Nie ma i nigdy nie było udokumentowanych i potwierdzonych tego typu przypadków. To, że ktoś po fakcie twierdzi: "odbiłem w lewo aby wjechać w samochód a nie w ludzi na przystanku" to kolejne kłamstwo, ludzie po prostu zawsze w przypadku podjęcia dobrej (z punktu widzenia skutków) decyzji szukają sposobu na przypisanie sobie zasług. Ciekawe jest także to, kiedy skutki są złe to szukają zawsze jakichś przyczyn zewnętrznych niezależnych od nich aby ograniczyć swoją winę: słońce/światło mnie oślepiło, hamulec mi nie zadziałał itp.

    Powinni się skupić na tym aby system był jak najbardziej niezawodny a nie na kwestiach moralnych - takich sytuacji nie ma, to tylko po prostu kolejne urojenie ludzi z nadmiarem czasu.

    cyt: "Na jego drodze znajduje się pięciu ludzi przywiązanych do torów przez szalonego filozofa" - nazywanie morderczego psychopaty "szalonym filozofem" pokazuje jak pokręcone umysły mają ludzie rozważające takie scenariusze. Moim zdaniem powinni zostać poddani poważnym badaniom psychologicznym pod kątem zagrożenia jakie stwarzają dla społeczeństwa.
    Zaloguj się
  • avatar
    W pytaniu o wagonik na torach wystepuje pewnego rodzaju paradoks.

    W momencie gdy pociagniesz za dzwignie aby przekierowac wagonik na tor z 1 osoba... popelniasz morderstwo.

    Poniewaz po twojej swiadomej ingerencji ginie czlowiek. Wiec jego smierc jest bezposrednim wynikiem twojego dzialania z premedytacja.

    Wiec teoretycznie idziesz siedziec za morderstwo 1go stopnia.
    Ale mozesz miec moralne szczescie w sercu ze dzieki tobie na planecie jest o 4 osoby wiecej.

    Jezeli samochod podejmie taka decyzje - efekt jest taki sam. Ale nie ma odpowiedzialnej "osoby" nie zamknol w wiezieniu przeciez algorytmu. I tutaj pojawia sie pytanie - ile warte jest ludzkie zycie, bowiem bliscy takiej osoby powinni otrzymac sowite odszkodowanie.

    Jezeli takowa kwota zostanie ustalona to w krajach gdzie obowiazuje prawo precedensu - morderca bedzie mogl wyplacic rodzinie ofiary odszkodowanie w wysokosci adekwatnej do ceny ludzkiego zycia.

    i prosze jakie sie to ciekawe zrobilo :)
  • avatar
    "A może części miast będą odcięte od ruchu pieszego" - to nigdy nie będzie możliwe, bo zawsze znajdzie się Janusz myślący "Ja nie przejdę? A dlaczego, zawszem przechodził i było dobrze!", a zdaje mi się najlepszym przykładem jest wypadek podczas testów Ubera. Osoba, powodująca wypadek, przechodziła raz, że praktycznie niewidoczna dla innych uczestników ruchu, dwa, w miejscu do tego nieprzystosowanym - czyli nie powinno jej tam być. A była. Także całe to odwracanie kota ogonem i wałkowanie potencjalnej moralności wyborów "czyje życie jest ważniejsze" to mym skromnym zdaniem dym w oczy i próba jeśli nie zablokowania, to spowolnienia rozwoju tego typu technologii.