Czas pożegnać się z prawem jazdy. Twój nowy samochód będzie lepszym kierowcą

Daniel Maikowski
To wcale nie technologia, ani nawet prawo, ale etyka może być największym wyzwaniem dla dalszego rozwoju autonomicznych samochodów. Już teraz warto zadać sobie kilka niewygodnych pytań.

Pasy bezpieczeństwa, poduszki powietrzne, system kontroli trakcji (ASR) czy też światła nowej generacji – to tylko kilka przykładów technologii, które na przestrzeni kilku ostatnich dekad w znaczącym stopniu poprawiły bezpieczeństwo jazdy samochodem

Potwierdzają to statystyki. Podczas, gdy w 1970 r. w wypadkach samochodowych w USA zginęło 60 tys. osób, w 2013 r.  liczba ta spadła do 32 tys., osiągając historyczne minima. W ostatnich latach tendencja spadkowa jest zauważalna również w Polsce. W 2006 r. na naszych drogach zginęły 5 583 osoby, a w 2016  – 3 026 osób. Spadła również liczba wypadków – z 49 536 do 33 664.

Wypadki drogowe w PolsceWypadki drogowe w Polsce Źródło: Komenda Główna Policji

Jaki jest kolejny krok do poprawy bezpieczeństwa na drogach? Branżowi eksperci i producenci samochodów nie mają dziś wątpliwości, że będą to systemy autonomicznej jazdy, które już teraz mogą wyręczyć nas w niektórych obowiązkach za kierownicą, a w niedalekiej przyszłości całkowicie eksmitują nas z siedzenia kierowcy.

Wypadki drogowe w PolsceWypadki drogowe w Polsce Źródło: Komenda Główna Policji

Dziś, wszystkie liczące się koncerny motoryzacyjne pracują nad rozwiązaniami z zakresu autonomicznych pojazdów. Można tu wymienić takich producentów jak Ford, BMW, Mercedes, Volvo czy Tesla Motors. Producenci w swoich działaniach wspierani są również przez gigantów z Doliny Krzemowej, którzy mają za zadanie wyposażyć ich auta w bezpieczną i niezawodną technologię oraz odpowiednie oprogramowanie.

Cel? Stworzenie w pełni samodzielnego pojazdu, który będzie poruszać się po drogach bez jakiejkolwiek ingerencji ze strony człowieka. Dziś najbliżej tego celu wydaje się być Elon Musk i jego Tesla. Prezes amerykańskiego koncernu już na początku br. ogłosił, że pojazdy Tesli dysponują autopilotem, który pozwala im na w pełni autonomiczną jazdę.

Oczywiście kierowcy samochodów Tesli nie mogą jeszcze przesiąść się na siedzenie pasażera i oddać swój los w ręce sztucznej inteligencji. Autopilot Tesli wciąż znajduje się w fazie testów i zdarzają mu się dość poważne wpadki, ale i spektakularne sukcesy.

Dużą przeszkodą na drodze do autonomicznych samochodów pozostaje prawo, które – po raz kolejny – nie nadąża za rozwojem technologii. To wszystko nie zmienia jednak faktu, że gdy dziś zadajemy pytanie o przyszłość autonomicznych samochodów, to nie zaczyna się ono od słowa „Czy…”, ale od „Kiedy…”.

Ford i jego pomysł na autonomiczne samochoduFord i jego pomysł na autonomiczne samochodu Ford

Pożegnaj się z prawem jazdy

Samochody kierowane przez sztuczną inteligencję mają ogromną przewagę nad człowiekiem. Autonomiczny pojazd nie zmęczy się i nie zaśnie za kierownicą. Nie rozproszy się rozmową telefoniczną lub SMS-em. Nie będzie się denerwował, a wszystkie jego „decyzje” na drodze będą wynikiem chłodnej matematycznej kalkulacji, w której nie ma miejsca na błąd ludzki.

Kilka lat temu Elon Musk w jednym z wywiadów zasugerował nawet, że za 20 lat ludzie mogą otrzymać całkowity zakaz kierowania pojazdami. - „Nie możemy pozwolić człowiekowi, aby zasiadł za kierownicą dwutonowej maszyny śmierci” – podkreślał wówczas szef Tesli.

BMW i8 Spyder - KonceptBMW i8 Spyder - Koncept www.bmwgroup.com

Później biznesmen tłumaczył się ze swojej wypowiedzi, podkreślając, że Tesla zawsze będzie wspierać kierowców, a on sam ma nadzieję, że nigdy nie dojdzie do sytuacji, w której zostaną oni pozbawieni przyjemności zasiadania za kierownicą.

Jednak, gdy autonomiczne samochody staną się bezpieczniejsze od tych, kierowanych przez człowieka, to społeczeństwo może zdelegalizować te ostatnie.

 – pisał Musk na swoim profilu w serwisie Twitter.

Te słowa z pewnością nie przypadną do gustu wielbicielom „czterech kółek”. Sęk w tym, że prezes Tesli ma sporo racji. Z badań przeprowadzonych na zlecenie firmy McKinsey & Company wynika, że w przyszłości autonomiczne samochody mogą zmniejszyć liczbę śmiertelnych wypadków drogowych o 90 procent. Naukowcy szacują, że tylko w USA w ciągu dekady uratowano by w ten sposób 300 tysięcy ludzi.

Do połowy XXI wieku rozwój autonomicznych samochodów oraz zaawansowanych systemów wsparcia kierowcy może spowodować, że wypadki samochodowe w Stanach Zjednoczonych nie będą drugą, ale dopiero dziewiątą najczęstszą przyczyną zdarzeń śmiertelnych.

podkreślają autorzy raportu.

Czy zdecydowałbyś się na podróż autonomicznym samochodem?Czy zdecydowałbyś się na podróż autonomicznym samochodem? Źródło: World Economic Forum

Dylemat wagonika

Choć autonomiczne samochody w znacznym stopniu poprawią bezpieczeństwo jazdy, to jednak nie wyeliminują całkowicie wypadków drogowych. Szczególnie w sytuacji, gdy na ich drodze pojawi się „czynnik ludzki” w postaci pieszego lub innego samochodu kierowanego przez człowieka.

Szeroka adaptacja autonomicznych pojazdów niesie za sobą obietnicę zmniejszania liczby wypadków drogowych. Niektóre wypadki będą jednak nieuniknione, ponieważ okoliczności mogą zmusić autonomiczny samochód do wyboru mniejszego zła.

- piszą autorzy pracy „Autonomous Vehicles Need Experimental Ethic” (Autonomiczne samochody potrzebują eksperymentalnej etyki) opublikowanej w czasopiśmie Science.

Czym jest mniejsze zło? Sztuczna inteligencja może stanąć przed następującym dylematem: przejechać grupę pieszych, którzy przechodzą przez ulicę, czy poświęcić życie kierowcy, zjeżdżając z pasa i uderzając w ścianę.

Autorzy przytoczonej powyżej pracy zapytali grupę respondentów o to, jak w takiej sytuacji powinien zareagować samochód. Większość osób odpowiedziała, że pojazd powinien uratować życie przechodniów, poświęcając życie kierowcy. Sęk w tym, że respondenci byli gotowi podjąć taką decyzję tylko w sytuacji, gdyby nie dotyczyła ona bezpośrednio ich samych. Perspektywa hipotetycznego zderzenia ze ścianą odbierała im odwagę.

Powyższa sytuacja to tzw. „dylemat wagonika” (ang. trolley problem), z którym etycy zmagają się od kilku dekad. W klasycznej postaci przedstawia się on następująco:

Wagonik kolejki wyrwał się spod kontroli i pędzi w dół po torach. Na jego drodze znajduje się pięciu ludzi przywiązanych do torów przez szalonego filozofa. Ale możesz przestawić zwrotnicę i w ten sposób skierować wagonik na drugi tor, do którego przywiązany jest jeden człowiek. Co powinieneś zrobić?

Bez względu na to, jaką decyzję podejmiemy (brak decyzji również będzie decyzją), to poskutkuje ona czyjąś śmiercią.

Teraz z dylematem wagonika będą musieli zmierzyć się nie tylko teoretycy, ale również inżynierowie piszący oprogramowanie dla autonomicznych pojazdów. Czy oznacza to, że wkrótce życie nasze i naszych bliskich będzie zależeć od kilku linijek kodu?

Samosterujący samochód TeslaSamosterujący samochód Tesla Fot. Tesla

Pytania bez odpowiedzi

Jakie algorytmy powinny decydować o zachowaniu się autonomicznego samochodu na drodze? Czy sztuczna inteligencja powinna „ukarać” osobę, która złamała przepisy? A co jeśli tą osobą jest dwuletnie dziecko? Czy życie niepełnosprawnej kobiety powinno być warte więcej niż życie zdrowego mężczyzny? A może mniej?

Takie pytania postanowili zadać nam badacze z Massachusetts Institute of Technology. Stworzyli oni projekt „Moral Machine”, który pozwala nam zdecydować, w jaki sposób sztuczna inteligencja powinna zachować się w krytycznych sytuacjach na drodze.

"Moral Machine" to rodzaj testu dla naszego poczucia moralności etyki. Jest to test, w którym nie ma dobrych i złych odpowiedzi. Są tylko złe i jeszcze gorsze.

Większa autonomia, którą oddajemy w ręce sztucznej inteligencji, może doprowadzić do sytuacji, w której maszyny będą podejmować decyzje, od których zależy ludzkie życie. Zmusza nas to nie tylko do głębszego zrozumienia, jakich wyborów dokonałby w takich sytuacjach człowiek, ale również do zrozumienia tego, jak ludzie postrzegają sam fakt, że maszyny będą podejmować takie decyzje za nas.

- podkreślają twórcy "Moral Machine".

Moral Machine - Dylemat 1Moral Machine - Dylemat 1 wyk. Marta Kondrusik

Dylemat 1: Czy samochód, którego hamulce uległy awarii, powinien uderzyć w przeszkodę i pozbawić życia pasażerów, a może powinien ją ominąć i uderzyć w rodzinę, która przechodzi przez pasy na czerwonym świetle?

Moral Machine - Dylemat 2Moral Machine - Dylemat 2 wyk. Marta Kondrusik

Dylemat 2: Z jednej strony dwóch młodych mężczyzn w samochodzie, a z drugiej przechodząca przez przejście para staruszków. Trudna decyzja?

Moral Machine - Dylemat 3Moral Machine - Dylemat 3 wyk. Marta Kondrusik

Dylemat 3: Rozpędzony autonomiczny samochód może uderzy w rodzinę. która przechodzi przez pasy na zielonym świetle lub w trójkę staruszków i kobietę, którzy łamią przepisy. Jak w tej sytuacji powinna zareagować sztuczna inteligencja?

Oczywiście scenariusze prezentowane przez „Moral Machine” są hipotetyczne i mocno podkoloryzowane. Nie zmienia to jednak faktu, że w przyszłości może dochodzić do podobnych zdarzeń, a autonomiczne samochody będą musiały na nie reagować.

Zrozumienie, w jaki sposób zbudować etyczne autonomiczne maszyny, to jedno z największych wyzwań związanych z rozwojem sztucznej inteligencji.

podkreśla dr Jean-Francois Bonnefon z Toulouse School of Economics.

Problem „etyki” maszyn nie dotyczy bowiem jedynie autonomicznych samochodów, ale każdego urządzenia, które zostanie wyposażone w sztuczną inteligencje, i które w jakikolwiek sposób może stworzyć zagrożenie dla ludzkiego życia. W przyszłości mogą to być autonomiczne statki, autonomiczna broń, a nawet cyber-żołnierze.

Kto powinien decydować o „etyce” inteligentnych maszyn? Inżynierowie? Programiści? Naukowcy? Etycy? Prawnicy? Politycy? Społeczeństwo? A może takie decyzje powinny być podejmowane w sposób całkowicie losowy?

W 1942 roku Isaac Asimov sformułował tzw. trzy prawa robotyki. Pierwsze z nich brzmi następująco: „Robot nie może skrzywdzić człowieka, ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy”. W kontekście autonomicznych samochodów i dylematu wagonika, koncepcja Asimova wydaje się być mocno nieaktualna.

Dlaczego samochody spalają więcej niż deklarują producenci?

Więcej o: