Śmiertelne potrącenie Ubera – system widział pieszą, ale ją zlekceważył

Przyczyną śmiertelnego potrącenia pieszej  mógł być problem z oprogramowaniem. Uber wydał oświadczenie w tej sprawie.

18 marca autonomiczny samochód testowy Ubera potrącił kobietę przechodzącą przez ulicę z rowerem w nocy, poza przejściem dla pieszych. Piesza zmarła na skutek ran odniesionych podczas tej kolizji. W chwili wypadku samochód poruszał się w trybie autonomicznym, a udostępniony w sieci materiał wideo sugeruje, że kierowca testowy koncentrował się na czymś innym, niż obserwowanie drogi.

Śledczy zajmujący się sprawą przyjęli cztery możliwe przyczyny:

1. Usterka podzespołów (lidara, radaru, kamer) – została odrzucona, ponieważ przed zdarzeniem pojazd poruszał się prawidłowo. Gdyby któryś z podzespołów uległ uszkodzeniu już wcześniej pojawiłyby się problemy z autonomiczną jazdą.  O tym jak jest skonstruowany system jazdy autonomicznej Ubera pisaliśmy tutaj.
2. Słaba widoczność. Zdarzenie miało miejsce w nocy, co w pewnym stopniu ograniczało możliwości rejestrowania obrazu przez kamerę, ale w żaden sposób nie zakłócało pracy lidaru, czy radaru.
3. Usterka systemu rozpoznawania przeszkód – system nie rozpoznał pieszej prowadzącej rower. Piesi i rowery to częsty widok na drogach, a oprogramowanie samochodów autonomicznych jest przygotowywane również pod tym kątem. Trudno przypuszczać, by system nie był przygotowany na rozpoznanie takiego widoku.
4. Usterka oprogramowania analitycznego. Za reakcję pojazdu autonomicznego odpowiadają wyuczone algorytmy. Komputer wie, że ma ignorować pieszych idących wzdłuż ulicy, czy ludzi poruszających się po drodze na rowerach. Wie też, że trzeba ignorować nieistotne przeszkody, takie jak leżąca na drodze gazeta, czy niesiona wiatrem torba foliowa.

Według The Information w tym przypadku rolę odegrał właśnie ten ostatni punkt.

System dostrzegł przeszkodę, ale zignorował ją uznając za fałszywy alarm.

I to jest bardzo zła wiadomość. Samochody autonomiczne mają ponadludzkie zdolności. Lidar doskonale widzi co się dzieje wokół auta i tworzy sobie trójwymiarowy obraz otoczenia. Kamery krótkiego i dalekiego zasięgu rejestrują obraz sprzed auta i potrafią dostrzec drzewa, ludzi, znaki drogowe i kolory świateł na skrzyżowaniach. Radar wysyła fale radiowe by wyszukiwać ewentualne przeszkody, które mogą stanąć na drodze auta. Jednak wszystkie te elementy nie zdadzą się na nic, jeżeli zawiedzie mózg całego układu – komputer, który analizuje dane z wszystkich rejestratorów i podejmuje decyzje w czasie rzeczywistym. Jego umiejętności to kluczowy element w całej kwestii samochodów autonomicznych. Dopóki nie będziemy mieli pewności, że jest nieomylny, dopóty będzie nam trudno powierzyć swój los w ręce autonomicznego pojazdu.

Uber oczywiście ma tego świadomość, przerwał testy swojej floty w Stanach Zjednoczonych i w oświadczeniu wydanym wczoraj na okoliczność nowych informacji, deklaruje chęć poprawy. Zarzeka się, że współpracuje ze służbami prowadzącymi śledztwo. Wprowadził audyt wewnętrzny, który ma przeanalizować wszystkie procedury oprogramowania pod kątem bezpieczeństwa w ruchu drogowym. Zatrudnił też byłego prezesa Rady Bezpieczeństwa Ruchu Drogowego (NTSB) by korzystać z jego doświadczeń w tej dziedzinie.

Póki co flota Ubera stoi uziemiona i nie wiadomo kiedy autonomiczne samochody wrócą na ulice. Zapewne Uberowi nie będzie łatwo przekonać władze, że już poradził sobie z problemem i sytuacja się nie powtórzy. A gdy już wróci, jeszcze długo będzie na cenzurowanym.