Poboczem idzie troje dzieci. A na ciebie pędzi rodzinny SUV. Co wybierze "inteligentny" samochód?

Samochody bez kierowców będą musiały podejmować decyzje. Najtrudniejsze decyzje - kogo zabić na drodze. To po prostu nieuniknione.

Automatyczne samochody jeżdżące bez kierowcy to nie przyszłość. To teraźniejszość. Te robione przez Google'a przejechały już niemal 3 miliony kilometrów. Tesla twierdzi, że mogłaby wprowadzić swoje modele na drogi już tego lata. Volvo zapowiada, że w 2017 roku ich autonomiczne pojazdy pojawią się na w Szwecji.

Jednym z najmocniejszych argumentów za wprowadzeniem samochodów, które prowadzą się same, jest bezpieczeństwo. Google twierdzi, że ich pojazdy w ciągu ostatnich 6 lat miały tylko 11 wypadków, a wszystkie zostały spowodowane przez innych uczestników ruchu. Można w to uwierzyć - pojazdy automatyczne jeżdżą z nakazaną prędkością, nie udowodniają innym kierowcom, że są debilami, nie bywają senne ani nie piją wódki.

To bezpieczeństwo będzie jeszcze większe, jeśli uda się opracować wspólny standard komunikacji, dzięki któremu wszystkie maszyny na drodze będą się porozumiewały informując się o awariach, problemach i zagrożeniach.

Ale takie automatyczne bezpieczeństwo ma swoją cenę. Wyobraź sobie, że w pełni zrelaksowany wracasz swoim automatycznym samochodem do domu. Przepisowe 85 na godzinę, jednopasmowa droga. Po poboczu idzie troje dzieci. Nagle z naprzeciwka na twój pas zjeżdża ciężarówka - może pękła jej opona?

Nadchodzi czas na decyzję. Nie, nie twoją. Twojego samochodu. Co ma zrobić? Czy jechać na czołowe, w którym niemal na pewno zginiesz? Uciekać na pobocze i zabić dzieci ratując ciebie?

Kogo lepiej zabić?

Jeśli sądzisz, że to wydumana sytuacja to... OK. Wymyśliłem ją. Ale jest wystarczająco prawdopodobna, by trzeba ją było brać pod uwagę przy programowaniu maszyny. Pewnie wiele osób pomyśli, że trzeba uratować dzieci - ważniejsze jest życie trzech osób niż jednej.

No to skomplikujmy sytuację. Poboczem idzie troje dzieci. A na ciebie pędzi rodzinny SUV. W środku może być sam kierowca albo 5-osobowa rodzina z niemowlęciem. To gdzie jedziemy? To już nie decyzja o twoim życiu, a wybór między zabiciem ciebie i, potencjalnie, całej rodziny albo ?tylko? trójki dzieci. Łatwo zdecydować?

W przypadku, gdy w takiej sytuacji staje kierowca, człowiek, dokonuje jakiegoś wyboru. Może jest bohaterem i poświęci siebie? Może zadziała instynkt samozachowawczy i zabije mnóstwo ludzi, ale sam ocaleje? A może jego decyzja jest tak naprawdę przypadkiem, bo w ciągu ułamków sekund ludzki mózg nie zdoła zebrać i przeanalizować danych oraz podjąć odpowiednich działań?

 

7.07.2008 ZIELONA GORA , TRASA S3 , WYPADEK , SAMOCHOD OSOBOWY WPADL W POSLIZG , UDERZYL W BARIERKE A NASTEPNIE W NADJEZDZAJACY Z NAPRZECIWKA AUTOBUS REJSOWY PKS Fot. Wojciech Królak / AG

Źle jest wiedzieć zbyt dużo

Automatyczne samochody nie mają tego komfortu. Tempo zbierania i analizy danych jest tak wysokie, że w chwili zaistnienia zagrożenia zdążą nie tylko zobaczyć, że jedzie na nie SUV, ale też zidentyfikują jego markę i model. Hej, to przecież Volvo! Bardzo bezpieczny samochód! Pewnie rodzina przeżyje, a więc wybieramy zderzenie z samochodem ratując dzieci na poboczu.

Ale ale! Co na to właściciele Volvo? Czy zgodzą się, aby w programie innych samochodów zrobić z nich tarcze, w które celują pojazdy w razie kolizji? A może tym Volvo jedzie nie urocza rodzina, a wielokrotnie karany morderca, który właśnie ukradł samochód i ucieka przed policją?

Według jednego scenariusza autonomiczne samochody powinny mieć zaprogramowane z góry decyzje, jakie trzeba podjąć w takich sytuacjach. A więc zgromadzić możliwie dużo danych, przetworzyć je i wybrać... no właśnie, co? Zmniejszenie za wszelką cenę liczny ofiar? To w prostej linii prowadzi do decyzji o zabiciu osoby, którą wiozą. Jeśli będą miały wybór między rozjechaniem na dwójki przebiegających pieszych a skierowaniem samych siebie z jednym pasażerem na betonową ścianę, to sprawa jest (matematycznie) prosta. Tylko kto chciałby wsiadać do samochodu, który ma zaprogramowane zabicie go w trudnej sytuacji?

Inny scenariusz mówi, że samochody nie powinny decydować na podstawie zbyt szczegółowych informacji. Wiedza o marce pojazdu, ocena liczby osób tylko komplikują decyzje. Ludzcy kierowcy nie mogą przeanalizować takich danych, więc są potem oceniania mniej surowo. Ale pojawia się pytanie - czy samochody mają nie zbierać tych danych (mogą być przydatne w normalnych drogowych sytuacjach) czy może raczej nie wolno im z nich skorzystać w razie zagrożenia. Jeśli to drugie, to nietrudno wyobrazić sobie procesy wytaczane producentom, których samochody nie wykorzystały danych i zabiły tę a nie inną osobę.

Jest też trzecia droga. Najbardziej ?ludzka?. Losowanie. Samochód może ?rzucać kostką? i część decyzji podejmować losowo - dzieci czy ciężarówka? To byłoby najbardziej zbliżone do ludzkiej reakcji. Ale przecież staramy się właśnie wyeliminować najbardziej zawodny czynnik decyzyjny, człowieka. W tej sytuacji osłabianie sprawności samochodu losowaniem wydaje się głupotą. Tym bardziej, że maszyny nie potrafią losować. To, co daje pozornie losową liczbę nazywa się generatorem liczb pseudolosowych. No właśnie - ?pseudo?. W rzeczywistości to kolejny algorytm, który oblicza coś biorąc pod uwagę zmienne czynniki. Prawdziwie losowe generatory nie nadają się do zastosowania w samochodach.

Kto będzie decydował o śmierci?

Stajemy więc przed bardzo poważnymi dylematami. Kto ma decydować o scenariuszu zachowania pojazdu w razie wypadku? Czy każda firma ma opracować własny algorytm? Kto go skontroluje? Czy któryś producent nie zdecyduje potajemnie, że - ze względu na wizerunek firmy - ich samochody mają zawsze celować w pojazdy innych marek?

A może powinna powstać rządowa lub międzynarodowa komisja, która określi takie parametry dla wszystkich samochodów automatycznych na świecie? Kierując się logiczną zasadą minimalizowania strat?

No dobrze, kolejny eksperyment myślowy. Krytyczna sytuacja, samochód musi uderzyć w motocyklistę - to nieuniknione. Ale motocyklistów jest dwóch - jeden w kasku, drugi bez niego. W którego wjechać? Oczywiście w tego w kasku, bo ma większe szanse przeżycia. Tym samym karzemy go za to, że włożył kask. W tej sytuacji, paradoksalnie, lepszą strategią może być jazda bez kasku.

Problem polega tu na tym, że decyzje o życiu i śmierci trzeba podjąć na długo zanim powstanie niebezpieczna sytuacja. To prawie jak "Raport mniejszości". Reakcje samochodu muszą być wcześniej zaprogramowane, etycy, dyrektorzy i programiści siedzący w klimatyzowanych biurowcach zdecydują zawczasu o tym, kto przeżyje a kto nie.

I nie, to nie jest wydumany problem. Autonomiczne samochody pojawią się na naszych drogach najpóźniej w ciągu pięciu lat. Dobrze byłoby wiedzieć, kto i wedle jakich wytycznych je zaprogramował.

 

źródła: 1, 2, 3, 4

Więcej o:
Komentarze (238)
Poboczem idzie troje dzieci. A na ciebie pędzi rodzinny SUV. Co wybierze "inteligentny" samochód?
Zaloguj się
  • arturx2

    Oceniono 436 razy 400

    Fajny artykuł (abstrahując od źródła). Wg mnie rozwiązanie jest proste - samochód autonomiczny to robot, a jako robot ma chronić swojego pana. Każde inne rozwiązanie tak z punktu widzenia praw robotyki jak i statystyki będzie gorsze.

  • pasikonik_pospolityy

    Oceniono 258 razy 220

    Jeżeli już miałbym się powierzyć takiemu samochodowi, to tylko wtedy, gdy absolutnie bez względu na sytuację i możliwą ilość ofiar zawsze wybierze wariant, w którym to ja mam największą szansę na przeżycie.

    Jak ktoś chce się poświęcić, to niech jeździ zwykłym. Ewentualnie można wprowadzić specjalną opcję dostępną na wyraźne życzenie - "zabij mnie, żeby uratować kogoś innego". Ale to na pewno nie może być ustawienie domyślne.

  • panzer-division

    Oceniono 159 razy 137

    Samochód MUSI chronić życie właściciela kosztem pechowych ofiar w przeciwnym wypadku nikt nie kupi auta.

  • irreality.net

    Oceniono 128 razy 128

    Uchylę Wam rąbka tajemnic przyszłości. Otóż samochody na kilka sekund przed zderzeniem wymienią się informacjami na temat swoich polis ubezpieczeniowych i leasingowych (bo wszystkie auta będą wyłącznie w subskrypcji), nastąpi szybka negocjacja warunków wzajemnych odszkodowań i należnych świadczeń i decyzja które auto i w jaki sposób ma zostać rozbite. Osoba z wyższym ubezpieczeniem na wypadek śmierci ma przeżyć aby nie narazić na zbytnie koszty... wraki zostaną zabookowane do recyclingu a na miejsce zostaną wysłane odpowiednie służby do posprzątania drogi. Dla tego co przeżyje już będą czekały w skrzynce propozycje subskrypcji nowego auta na preferencyjnych warunkach. Google Maps wyświetli zapowiedzi możliwych zatorów a na Facebooku przestawią się statusy znajomych ofiar wypadku ze świeczką [*]. Natomiast na snapchacie pojawią się automatyczne selfie "Głupia mina przed kraksą YOLO LOL".

    A tak na poważnie... jedną z receptur na bezpieczną automatyzację transportu jest separacja ruchu. W grę wchodzi prędkość (względem drogi i wzajemna) masa pojazdów oraz standard zabezpieczeń kruchych istot ludzkich w nich się znajdujących.

    Dokładnie w taki sam sposób jak autostrady poprawiły bezpieczeństwo poruszania się z dużymi prędkościami - eliminując z pasa drogowego pieszych, rowerzystów, ciągniki, zwierzęta i bawiące się na poboczu przedszkolaki. Skrzyżowania są bezkolizyjne a infrastruktura wokół drogi ma elementy energochłonne, pasy ucieczki dla ciężarówek, zatoczki, pasy awaryjne oraz elementy sygnalizacyjne itp. Pojazdy poruszają się z dużą prędkością względem drogi ale z małymi prędkościami względem siebie.

    I o ile wciąż na autostradzie można zginąć to bardzo trudno przy okazji wjechać w grupę przedszkolaków lub debila idącego na czołówkę.

    Czy więc wydzielenie pasów ruchu dla ruchu pojazdów ciężarowych które poruszając się we własnym gronie w najgorszym razie zderzą się z czymś o zbliżonej masie i gabarytach nie będzie następnym krokiem?

    A może idąc dalej tym tropem słuszne byłoby wydzielenie osobnych korytarzy dla pojazdów autonomicznych?

    Obstawiałbym, że po prostu wydarzy się to i to po trochu. Auta będą kontynuowały trend swojej ewolucji: bezpieczeństwo bierne -> bezpieczeństwo czynne -> ochrona pasażerów -> ochrona osób postronnych. Z kolei inżynierowie ruchu będą opracowywali lepsze koncepcje lepszej organizacji ruchu i infrastruktury drogowej podnoszącej bezpieczeństwo.

  • alex2222

    Oceniono 141 razy 101

    "A może powinna powstać rządowa lub międzynarodowa komisja"
    No,na to czekałem w tym artykule.
    Koniecznie musi powstać komisja i oczywiście podkomisje do spraw marek pojazdów,rodzaju opon,typu akumulatora i jasności żarówek w reflektorach bo mogą oślepić.Każda podkomisja musi mieć dyrektora i trzech zastępców oraz siedem departamentów z dwoma dyrektorami i dziewięcioma zastępcami.
    A potem się zobaczy...

  • Przemysław Nowak

    Oceniono 98 razy 92

    Inteligentne drogi będą miały takie specjalne zapadnie na poboczach...

  • pawelekok0

    Oceniono 46 razy 30

    Pytanie, dlaczego mam się zabić? I o tym ma zadecydować prowadzony samochód a nie ja? Co mnie obchodzi trójka nieznanych mi dzieci? Przecież dzieci są miliardy, a ja jestem dla siebie tylko jeden. A jeszcze jeśli jedzie ze mną jedna tylko, ale bliska mi osoba, np. żona, córka albo przyjaciel?

    Wydaje mi się, że tak naprawdę jedyna logiczna i sprawiedliwa opcja zaprogramowania takiego samochodu, to chronić przede wszystkim kierowcę. Inaczej to nie ma sensu. Pędzący na czołówkę jest sprawcą, przechodnie są pechowcami.

    Samochód może też wybrać opcję przełączenia samoczynnego na ręczne sterowanie, ale w takim przypadku kierowca też najczęściej zginie. Bo odruchem kierowcy jest omijanie żywej przeszkody. I robi to nawet, gdy wiezie w samochodzie całą rodzinę w tym niemowlę. To po prostu jest odruch. W takich sytuacjach nie ma czasu na szczegółową analizę i wydanie wyroku. Dla kierowcy. Samochód z autopilotem to potrafi.

  • wmc-33

    Oceniono 31 razy 29

    @wiesenblum
    Problem w tym, że wymiana parku maszynowego potrwa kilkadziesiąt lat. jest jeszcze inny związany z tym problem: widząc na drodze autonomiczny samochód możemy z łatwością wykorzystać jego defensywny styl jazdy. Na wymuszenie pierwszeństwa przy zmianie pasa, czy włączaniu się do ruchu taki samochód zawsze zareaguje unikiem lub hamowaniem, a nie agresją i klaksonem. W Polsce będzie to spory kłopot dla użytkowników takich samochodów.

Aby ocenić zaloguj się lub zarejestrujX