Największe wyzwanie autonomicznych samochodów – poradzić sobie… z ludźmi

Śmiertelne potrącenie, jakie miało miejsce w niedzielę w Stanach Zjednoczonych, niczego nie zmieni – samochody autonomiczne to przyszłość motoryzacji.

„Autonomiczne auto zabiło człowieka” – napisał Tomek zaraz po tym, jak w sieci pojawiła się informacja o wypadku w Tempe w Arizonie. Volvo XC90 biorące udział w testach samochodów autonomicznych prowadzonych przez Ubera potrąciło tam kobietę przechodzącą przez jezdnię poza przejściem dla pieszych. O czym to świadczy? Dopóki nie wiemy dokładnie, co się stało – o niczym. Możemy tylko przyjąć do wiadomości fakt, że takie wydarzenie miało miejsce i współczuć rodzinie ofiary.

Z dalszych doniesień dowiadujemy się, że prawdopodobnie winna była piesza, która wtargnęła pod nadjeżdżający pojazd, ale do zakończenia śledztwa nic nie wiadomo na pewno.

Do wyjaśnienia sprawy Uber wstrzymał swoje testy na ulicach amerykańskich miast. Czy ten incydent sprawi, że samochody autonomiczne pojawią się na drogach później, niż zakładano? Ależ skąd. Za to ten wypadek to świetne pole do dyskusji i sporów na temat tego, czy samochody autonomiczne są faktycznie lepszymi kierowcami niż prawdziwi ludzie. I wcale nie mam zamiaru próbować rozstrzygać tego sporu, ale zwrócę uwagę na kilka detali.

Tyś jedna na milion.

Na miliony kilometrów, które pokonały już samochody autonomiczne, ten przypadek jest drugim, w którym zginął człowiek. Pierwszym był wypadek z 2016 roku, w którym Tesla w trybie Autopilota wjechała pod naczepę ciągnika siodłowego, który skręcając zajechał jej drogę. Dla porównania – w Stanach Zjednoczonych w wypadkach drogowych ginie tygodniowo ponad 100 osób, a w 90 proc. przyczyną wypadków są błędy ludzkie.

Czy to pozwala wysunąć wniosek, że kierowcy są bardziej niebezpieczni na drogach niż roboty? Nie do końca. Trzeba zwrócić uwagę, że kierowcy jeżdżą w każdym możliwym miejscu i w każdych możliwych warunkach drogowych – od spalonych słońcem ciasnych uliczek wielkiego miasta, po skute lodem kręte serpentyny gdzieś w górach. Natomiast samochody autonomiczne testuje się głównie w stanach, które słyną z dobrej pogody i dobrze rozwiniętej infrastruktury drogowej. To głównie w takich warunkach autonomiczne auta nawinęły te miliony kilometrów. Gdyby ludzie jeździli wyłącznie w takich warunkach, pewnie i wypadków byłoby mniej.

Robot musi umieć podejmować najlepsze decyzje.

Wracając do wypadku z udziałem Tesli z 2016 roku – gdyby kierowcę ciężarówki zastąpił robot, kto wie, czy zdecydowałby się on na wykonanie manewru skrętu – może widząc nadjeżdżające auto, wstrzymałby się i do kolizji wcale by nie doszło. To sugeruje, że ludzi trzeba jak najszybciej zastąpić robotami.

Ale tu pojawia jeszcze jedna kwestia, którą trzeba rozwiązać – jak nauczyć robota podejmowania etycznych decyzji. Czy ma chronić przede wszystkim życie pasażerów? A co z pieszymi? A gdy wypadek jest nieunikniony, to lepiej, żeby potrącił dziecko czy staruszkę? Chcesz spróbować stanąć przed takim wyborem? Wejdź na moralmachine.mit.edu i przeprowadź quiz. Na większość pytań po prostu nie ma prawidłowej odpowiedzi.

Tak jak w przypadku uberowego Volvo, do wypadków z udziałem aut autonomicznych zwykle dochodzi z winy innych użytkowników drogi. Departament Pojazdów Mechanicznych w Kalifornii na swojej stronie internetowej publikuje wszystkie przypadki kolizji z takimi autami odnotowane na terenie tego stanu. Od 2014 roku było ich w sumie 59. Większość na skrzyżowaniach i przy niewielkich prędkościach. Co ciekawe, w wielu z nich jest mowa o najechaniu na samochód autonomiczny przez inne auto. Tu dochodzimy do kolejnego punktu:

Wypadki z udziałem samochodów autonomicznych będą się zdarzać, bo one jeżdżą zbyt dobrze.

Wyobraź sobie sytuację, w której każdy kierowca idealnie trzyma się przepisów ruchu drogowego. Nie przejeżdża skrzyżowań na „ciemnożółtym”, zawsze zatrzymuje się przed znakiem stop i nigdy nie przekracza limitów prędkości. Nierealne? W świecie robotów to zupełnie oczywiste – one jeżdżą według programu, który każe im się trzymać przepisów i tak będą robić. Nie jeżdżą jak ludzie, więc ludzie w nie wjeżdżają.

Bo dopóki człowiek ma wolną wolę i może decydować sam, jak prowadzi auto, będzie mu się zdarzało łamać przepisy. Pewien odsetek tych decyzji skończy się kolizją. I nawet najlepszy program komputerowy i setki czujników, radarów i lidarów niczego w tej kwestii nie zmienią. Więc albo ktoś napisze samochodom autonomicznym program, by jeździły jak ludzie, albo zakaże ludziom wsiadać za kółko. Szczególnie że roboty nigdy nie są złe, zmęczone, sfrustrowane ani nie prowadzą „pod wpływem”.

Tu dochodzimy do wniosku, że w jeździe autonomicznej najbardziej przeszkadzają ludzie. Dopóki te nieprzewidywalne istoty biorą udział w ruchu na ulicach, dopóty trudno będzie samochodom autonomicznym zadomowić się wśród nas na poważnie. Chociaż mieszkańcy miasta Pittsburgh, w którym uniwersytety pracują nad samochodami autonomicznymi od prawie 30 lat i gdzie jeździ flota 40 autonomicznych aut Ubera, nic do nich nie mają. 59 proc. badanych stwierdziło, że czuje się bezpiecznie, podróżując po drogach, po których jeżdżą roboty, a 68 proc. mieszkańców cieszy się, że to w ich mieście prowadzi się takie testy. Z drugiej strony samochody autonomiczne wzbudzają agresję – i z tym też ktoś będzie musiał sobie poradzić.

Póki co jednak samochody autonomiczne to wciąż pieśń odległej przyszłości.

Dopóki nie ma przepisów pozwalających takim pojazdom na poruszanie się po drogach publicznych, możemy spać spokojnie. Do tego, by mogły zyskać popularność, samochody autonomiczne musiałyby znacznie potanieć. A biorąc pod uwagę to, jak skomplikowaną aparaturę muszą mieć, by móc oglądać drogi w każdy możliwy sposób, nie ma co liczyć, że szybko staną się dostępne dla każdego.

Tak teraz się zastanawiam, że ten cały mój wywód nie ma żadnego sensu. Przecież to, kto prowadzi, jak prowadzi i co się dzieje na drogach nie bardzo zależy od tego, co robimy. Na nagrobkach i tak większość ma napisane „Bóg tak chciał”.