Autopilot to Filipińczyk przed laptopem. Magia kończyła się na skrzyżowaniu
Wsiadasz do robotaksówki, a decyzję na skrzyżowaniu podejmuje ktoś tysiące kilometrów dalej. Magia Doliny Krzemowej zderzyła się z rzeczywistością, ujawniając, że bez ludzkiej niańki maszyny są wciąż bezradne
Wizja podróży autonomiczną taksówką brzmi jak spełnienie marzeń każdego mieszkańca zakorkowanej metropolii. Wsiadasz do auta bez kierowcy, wybierasz cel i zamiast słuchać narzekań na politykę czy pogodę, cieszysz się ciszą, nadrabiasz zaległości w pracy lub po prostu odpoczywasz.
To taka obietnica transportu, który jest nie tylko bezpieczniejszy dzięki eliminacji ludzkich błędów, ale też tańszy i bardziej przewidywalny. Idealny obraz pęka jednak w momencie, gdy algorytm napotyka na drodze coś, czego nie przewidzieli jego twórcy.
Wtedy okazuje się, że futurystyczna technologia wcale nie jest tak samodzielna, jak sugerują reklamy. Zamiast krzemowego mózgu, stery - choć pośrednio - przejmuje człowiek, i to często znajdujący się na zupełnie innym kontynencie.
Zdalne wsparcie z Filipin
Mit o pełnej samodzielności robotaksówek zderzył się z rzeczywistością podczas niedawnego przesłuchania w amerykańskim Kongresie. Przedstawiciele Waymo przyznali, że ich flota korzysta z pomocy tzw. Fleet Response Agents, czyli agentów reagowania floty. Część z tych pracowników stacjonuje w Stanach Zjednoczonych, ale wielu z nich operuje zdalnie z Filipin.
Rola tych zdalnych operatorów jest specyficzna. Waymo podkreśla, że nie sterują oni autami bezpośrednio za pomocą wirtualnej kierownicy czy pedału hamulca. Ich zadanie polega na dostarczaniu pojazdowi wskazówek w skrajnych sytuacjach, takich jak skomplikowane roboty drogowe, nietypowe zachowania policji czy niejasne sytuacje na skrzyżowaniach. Auto wysyła zapytanie, a człowiek podpowiada bezpieczną ścieżkę, którą system następnie wykonuje samodzielnie.
Obawy o bezpieczeństwo i lagi
Tłumaczenia firmy o skalowaniu operacyjnym i porównania do kontrolerów ruchu lotniczego nie uspokoiły jednak amerykańskich polityków. Amerykańscy senatorowie wyrazili obawy dotyczące bezpieczeństwa, wskazując na potencjalne opóźnienia w transmisji danych (czyli lagi, które męczą cię w grach) oraz ryzyko cyberataków. Pytano wprost, czy powierzanie decyzji dotyczących bezpieczeństwa na amerykańskich drogach osobom nieznającym lokalnych realiów i przepisów jest rozsądne.
Problem w tym, że ruch drogowy to nie lotnictwo, gdzie samoloty są oddalone od siebie o kilometry. W gęstym ruchu miejskim, pełnym pieszych i rowerzystów, sekundy potrzebne na połączenie z konsultantem na Filipinach mogą decydować o czyimś życiu. Waymo broni się, twierdząc, że system ma nadrzędne protokoły bezpieczeństwa i może zignorować błędną radę człowieka, ale debata nad definicją autonomii dopiero się rozkręca.
Przeczytaj więcej o autonomicznych pojazdach:
Autonomia to często fasada
Sprawa Waymo wpisuje się w szerszy trend w branży technologicznej, gdzie sztuczna inteligencja jest często wspierana tanią siłą roboczą z krajów rozwijających się. Podobnie działały systemy Amazon Just Walk Out, gdzie kamery monitorowali pracownicy w Indiach, czy roboty Tesli, które podczas pokazów wciąż wymagały ludzkiej asysty.
Okazuje się, że autonomia to często fasada, za którą kryje się outsourcing. Wątpliwości budzi również brak przejrzystości. Waymo nie ujawniło, ilu dokładnie agentów pracuje z zagranicy, ani czy są oni bezpośrednimi pracownikami, czy zewnętrznymi kontrahentami. Dziennikarskie śledztwa nie wykazały istnienia zarejestrowanego oddziału Waymo na Filipinach, co sugeruje korzystanie z usług pośredników BPO, co dodatkowo komplikuje kwestie odpowiedzialności prawnej.
Bawiąc się w adwokata diabła: od lat wiadomo, że wiele rozwiązań sprzedawanych jako zaawansowane AI to w rzeczywistości hybrydy, w których technologia odwala brudną robotę, a człowiek wkracza, gdy robi się trudno.
Magia Doliny Krzemowej często kończy się tam, gdzie zaczyna się arkusz kalkulacyjny księgowego szukającego oszczędności na etatach. Zamiast w pełni autonomicznej przyszłości, mamy na razie system, w którym komputer radzi sobie z nudną jazdą po prostej, a trudne manewry nadzoruje ktoś na drugim końcu świata. Ot, to weryfikacja marzeń o buncie maszyn, bo na razie maszyny są bezradne bez ludzkiej niańki. I to najlepiej takiej, która nie żąda zachodnich stawek godzinowych.
