Temat tygodnia: Taka katastrofa lotnicza nie może się powtórzyć - roboty muszą zacząć odbierać pracę ludziom

Maciej Gajewski: W naszych umysłach panuje obiegowa opinia, że maszyna, z racji swojej bezduszności i chłodnej kalkulacji jest bezpieczniejsza i efektywniejsza, nie jest w stanie popełnić „ludzkiego błędu”. To logiczne założenie, ale też i błędne, bo nie uwzględnia jednej, podstawowej rzeczy: maszyna to dzieło człowieka. A skoro my jesteśmy wadliwi, to nasze kreacje również.

Za każdym razem przy takich rozważaniach przypominam sobie pewną sagę science-fiction. Kultową Odyseję Kosmiczną autorstwa Arthura C. Clarke’a, wizjonera, któremu zawdzięczamy chociażby satelitę telekomunikacyjnego. W pierwszym tomie jednym z głównych bohaterów jest komputer HAL-9000, będący czymś w rodzaju Cortany czy Siri. Komputer ten zarządza statkiem kosmicznym Discovery, którego misją jest dostarczenie pierwszych ludzi na orbitę Saturna. Astronauci nie wiedzą jednak, że komputer otrzymał tajne rozkazy od kontroli lotów, dotyczące pewnego Ważnego Odkrycia (i tak zepsułem częściowo lekturę, nie chcę wchodzić w szczegóły, by nie psuć bardziej). Sęk w tym, że to powodowało sprzeczne dyrektywy w oprogramowaniu komputera. HAL-9000 był zobowiązany do przekazywania wszystkich informacji załodze mogących wpływać na stan i bezpieczeństwo misji, co stało w konflikcie z programem zakazującym zdradzania pewnych informacji. Komputer więc znalazł logiczne wyjście z sytuacji: pozbycie się załogi, a więc przyczyn konfliktu logicznego. Jego działania nie były złowrogie, wynikały wyłącznie z błędnego zaprogramowania go przez człowieka.

Przykład ten nie jest oderwany od rzeczywistości. Nietrudno sobie wyobrazić autopilota kierującego samochodem, autobusem czy pociągiem, który nagle na skutek jakiejś usterki w oprogramowaniu zaczyna wariować. Co chwila nasze systemy operacyjne i aplikacje otrzymują aktualizacje i łatki, usuwające niedopatrzenia programistów. Czy to oznacza, że maszyny tego typu są pozbawione sensu?

Oczywiście, że nie. Maszyny mają wiele zalet, z szybkością podejmowania decyzji i niedrogim kosztem utrzymania (maszyna nie pójdzie na urlop, nie zajdzie w ciążę, nie potrzebuje przerw socjalnych, itd.) na czele. Komputery rozwiążą nam wiele problemów i, kto wie, może również pozytywnie wpłyną na nasze bezpieczeństwo. Dlatego też najprawdopodobniej prędzej czy później zastąpią ludzi na wielu różnych stanowiskach pracy, rozwiązując wiele problemów. Zapewne również i autopiloty wyprą prawdziwych lotników, jednak to nie będzie początek końca wypadków lotniczych. Jesteśmy zbyt kiepscy by stworzyć idealny algorytm a konieczność nadzoru maszyn przy ich pracy nie zniknie jeszcze przez długie lata.

Dawid Kosiński: Po katastrofie Airbusa w Alpach media zaczęły ujawniać różne informacje na temat Andreasa Guntera Lubitza. W ten sposób dowiedzieliśmy się między innymi, że niemiecki pilot, który umyślnie doprowadził do katastrofy, miał problemy w pracy oraz prawdopodobnie cierpiał na depresję. Sam jednak twierdzę, że wszystkie te informację są zupełnie nieistotne, ponieważ pilot miał jedną, o wiele większą wadę. A mianowicie, po prostu był człowiekiem.

Zgadzam się z ostatnim zdaniem wypowiedzi Maćka. Konieczność kontrolowania maszyn będzie istniała zawsze, właśnie z powodu możliwych awarii czy ataków cybernetycznych. Jednak mimo to uważam, że w wielu przypadkach maszyny powinny zastępować ludzi. Sam czułbym się pewniej, gdybym wiedział, że za moje bezpieczeństwo odpowiada przede wszystkim algorytm, a nie człowiek. Zdecydowanie bardziej ufam logicznie zimnym, zupełnie odmiennym od ludzi maszynom. One nigdy nie mają złego humoru, nigdy nie mają gorszego dnia, a ich czas reakcji jest znacznie krótszy niż w przypadku człowieka. Z tych powodów mam nadzieję, że maszyny zastąpią nie tylko pilotów, ale też kierowców.

Autonomiczne samochody podłączone do sieci sprawiłyby, że drogi byłyby znacznie bezpieczniejsze. Jakby tego było mało, dzięki nim raz na zawsze zniknąłby problem korków. Auto komunikujące się ze sobą dobierałyby trasę tak, żeby do celu o czasie dojeżdżali absolutnie wszyscy. Samochody “widząc”, że dana droga jest zakorkowana, wybierałyby alternatywne trasy. Dodatkowo nikt nie musiałby robić prawa jazdy, mandaty i fotoradary stałyby się demonami przeszłości, a powrót z zakrapianej imprezy byłby nie tylko łatwy i tani, ale też bezpieczny.

Jednak pójdźmy dalej. Gdzie jeszcze maszyny powinny zastąpić ludzi? We wszystkich prostych zawodach takich jak kasjer lub sprzątacz. Dlaczego ludzie mają wykonywać te niewdzięczne zajęcia? Przecież mogliby pracować mniej, a wolny czas przeznaczać na samorozwój. Czy taki stan rzeczy jest możliwy? Teoretycznie tak. W praktyce dziwny mariaż kapitalizmu i socjalizmu, w którym żyjemy, wymusza na przedsiębiorcach przede wszystkim maksymalizację zysku. Nie potrafię sobie wyobrazić, że wszyscy pracodawcy po zastąpieniu znacznej liczby ludzi maszynami, byliby tworzeniem nowych miejsc pracy przeznaczonych dla ludzi.

Dlatego można podejrzewać, że pojawienie się maszyn na wielu stanowiskach spowodowałby znaczny wzrost bezrobocia. Oczywiście pojawiłyby się też nowe zawody, związane z konserwacją i naprawianiem wspomnianych urządzeń, ale trudno jest mi uwierzyć, że dzięki nim pracę znalazłyby wszystkie zwolnione wcześniej osoby. Wiele osób zostałoby bez środków do życia. Dlatego przez ewentualnym wprowadzeniem maszyn do różnych gałęzi życia trzeba dokładnie przemyśleć obecny system gospodarczy i dostosować go do rzeczywistości, w której ludzie pracują mniej i mają więcej wolnego czasu. Jednak jako że każdej władzy bardziej pasuje sytuacja, w której obywatele nie mają za dużo czasu na samodzielne myślenie, do takich zmian prędko nie dojdzie. Zdecydowaną większość prac i tak będą wykonywać ludzie a maszyny będą im tylko pomagać.

Przemysław Pająk: Dużo się dzieje w kwestii autonomiczności pojazdów, sporo do myślenia daje także połączenie VR z AR (wirtualna z poszerzoną rzeczywistością), a także ważne są głosy wielkich przedstawicieli świata technologii, jak chociażby Elona Muska, który oficjalnie wypowiada się przeciwko sztucznej inteligencji.

Ja należę do wielkich entuzjastów zarówno automatyki przemysłowej, jak i rozwoju komputerowego mózgu. Gdyby takowy już dziś był na podorędziu ludzkości, to do tragedii w Alpach by przecież nie doszło - sztuczna inteligencja nie pozwoliłaby bowiem człowiekowi na tragiczną autodestrukcję.

Myślę zresztą, że nieunikniona jest sytuacja, i to zapewne za naszego życia, w której prowadzenie pojazdów przez człowieka stanie się… nielegalne. Wprawdzie dla fanów motoryzacji będzie to najsmutniejszy dzień w życiu, ale ta decyzja uchroni życie wielu przedstawicieli rasy ludzkiej.

Nie boję się tego, że nagle maszyny przejmą kontrolę nad człowiekiem, bo zapominamy o jednym - to wciąż człowiek programuje maszyny i może wykluczyć sytuację, w której maszyna samowolnie decyduje się na woltę.

Nie zapominajmy także o jednym - człowiek to nie tylko mózg, lecz także dusza. Tej drugiej nigdy nie będą mieć maszyny, nie będą mieć emocji. A właśnie emocje to to, co zgubiło drugiego pilota Airbusa Germanwings.

Piotr Barycki: Owszem, Musk z jednej strony przestrzega przed sztuczną inteligencją, ale z drugiej strony - tak jak pisze Przemek - zwraca uwagę na to, że z powodów bezpieczeństwa w pewnym momencie samodzielne prowadzenie pojazdów może być po prostu zabronione. I bardzo dobrze.

Z dość prostego powodu. Owszem, program komputerowy będzie jeszcze przez długi czas w dużym (albo pewnym) stopniu dziełem człowieka i mogą się w nim pojawić błędy. Ale, co najważniejsze, tych błędów taki program będzie w stanie popełnić o wiele mniej niż przeciętny człowiek pod czas jazdy. Nawet najlepszy kierowca nie przeanalizuje tylu informacji w ułamku sekundy, nie wie, co dzieje się na drodze za kilka kilometrów i nie będzie w stanie obliczyć, o ile dokładnie zwolnić, o ile stopni skręcić kierownicę, żeby np. nie tyle uniknąć wypadku, a zminimalizować jego skutki. Kiepski kierowca spanikuje, dobry - będzie próbował ratować siebie. Taki odruch.

Musk zresztą opisał to w bardzo wymowny sposób, mówiąc w prost, że nie może być tak, że człowiek (ten zwykły i strasznie niedoskonały), może prowadzić dwutonową "maszynę śmierci". Człowiek, który może się zwyczajnie zagapić albo zasłabnąć, pędzi pociskiem rozpędzonym często do 200 i więcej kilometrów na godzinę. Czy to ma sens?

Maszyny i systemy odruchów nie mają. Nie mają słabości, nie rozpraszają się, nie zagapiają, nie mają gorszego dnia. Mają za to błędy - błędy, które da się w pewnym momencie w 99,9% wyeliminować, W tym 0,01% przypadków mogą zginąć ludzie. Ale ilu śmierci teraz dałoby się uniknąć? Brawura? Czysta złośliwość? Głupota? Czy maszyny znają takie pojęcia? Oczywiście, że nie.

Gdzie jeszcze mogłyby znaleźć się maszyny zamiast ludzi? Dokładnie tak, jak pisze Dawid - wszędzie tam, gdzie od oceny sytuacji zależy bezpieczeństwo lub życie, a także tam, gdzie praca jest na tyle prosta i powtarzalna, że nie ma sensu, aby siedział tam człowiek.

Zabrzmi to może trochę dziwnie, ale tak właśnie jest - człowiek jest zbyt skomplikowanym i niedoskonałym produktem, żeby powierzać mu bez wahania życie innych. A na to właśnie godzimy się wsiadając do samolotu, autobusu czy samochodu. Pilot będzie miał słabszy dzień, kierowca dzień wcześniej za mocno zabaluje, a ktoś włączający się do ruchu nie ustąpi nam pierwszeństwa, bo zagapi się na ekran telefonu. I koniec.

Jednocześnie nie widzę powodów, żeby takiego AI w jakikolwiek sposób się bać, przynajmniej za naszego życia. Znów w tej kwestii wypowiadał się Musk - ten sam, który przez AI ostrzega.

Jego zdaniem (pod czym mogę się podpisać), sztuczna inteligencja w samochodach (a w domyśle i w innych tego typu maszynach) jest zbyt "skupiona", żeby móc się jej bać. Ma prowadzić auto z punktu A do B, omijając przeszkody. Ma wystartować i wylądować samolotem, prowadząc go przez całą drogę. Ma przewieźć pasażerów. Nie ma tak naprawdę myśleć - ma analizować informacje i wyciągać z nich wnioski istotne dla maszyny, którą obsługuje. Nic więcej.

I oby ten moment, kiedy wsiadamy do auta, wklepujemy adres i nie musimy się obawiać, kto zajedzie nam drogę, kto wskoczy pod koła, kto stanie na 3 miejscach parkingowych, a kto zignoruje czerwone światło, jak najszybciej nadejdzie.

Łatwiej jest myśleć o potencjalnych błędach oprogramowania, niż o absolutnie nieprzewidywalnych ludziach, którzy nawet nie zdają sobie sprawy jak odpowiedzialne decyzje muszę podejmować w każdej sekundzie.

Piotr Grabiec: Zanim zaczniemy analizować czy pilota w samolocie powinien zastąpić algorytm (nie musi to być przecież humanoidalny robot) powinniśmy zejść na ziemię i spojrzeć na samochody, o czym zresztą już wspominaliście. Czekam niezmiernie na pierwsze wiarygodne badania i szacunki, które określiłyby, jak zmieniłaby się liczba wypadków na drogach po zastąpieniu człowieka komputerem w roli kierowcy. Trzeba też pamiętać, że kierowcą autobusu kieruje instynkt samozachowawczy i z zasady zależy mu tak jak i pasażerom, by do wypadku nie doszło. Maszyna jest bezosobowa, a zaprogramować każdej jednej losowej sytuacji na drodze się po prostu nie da.

Pomijając kwestię samej niezawodności, która w rozważaniach nad autonomicznymi autami jest kluczowa - kogo obciążyć winą za wypadek, właściciela auta czy programistę? - jestem zdania, że w prawdziwym inteligentnym mieście przyszłości nie ma miejsca na klasyczne auta. System komunikacji pojazdów między sobą naprawdę mógłby ograniczyć liczbę kolizji i "odkorkować" miasto.

Pytanie tylko, czy to jest w ogóle osiągalne. Cykl życia aut jest znacznie dłuższy niż dajmy na to smartfonów. Jak wprowadzić takie rozwiązania na terenie całego miasta, skoro infrastruktura pochłonęłaby kosmiczne pieniądze, a w dodatku ludzkość musiałaby zutylizować swoje auta?

Nie można tutaj myśleć zero-jedynkowo i powinniśmy raczej oczekiwać, że człowiek i maszyna będą żyć w symbiozie - taki samochód z kierowcą i autopilotem. Jeśli nie zbudujemy miasta od podstaw, to zanim drogi opanują roboty a mieszkańców sprowadzimy do roli pasażerów będą musiałby powstać pojazdy przejściowe.

Dopiero potem można będzie zamykać ruch dla klasycznych aut, dzielnica po dzielnicy. Obawiam się tylko galopującej technologii. Półautonomiczny samochód jutra za dekadę będzie się nadawał do muzeum techniki - bo nie widzę szans na to, by wymieniać auta jak komórki co dwa lata w abonamencie.

Z drugiej strony jeszcze nie tak dawno ludzkość nie wyobrażała sobie zastąpienia dorożek pojazdami mechanicznymi, a miłośnicy jazdy konnej też z pewnością oponowali przed wyrzuceniem ich z ulic miast. Tak jak dzisiaj konie mamy na stadninach, tak może kiedyś kierowcy klasycznych aut zostaną wyrzuceni z miast?

Gdy o tym myślę, to twarde stąpanie po ziemi nie powinno mieć w tych rozważaniach zastosowania. Ze względu na skalę chyba prościej będzie wprowadzić algorytmy zamiast pilota w samolocie.

Spójrzmy w końcu jeszcze wyżej - w statkach kosmicznych to komputery dzisiaj grają pierwsze skrzypce, a od pilota ważniejszy jest wyliczający trajektorię lotu matematyk czy tam fizyk.

Co do samego zastępowania ludzi maszynami to zgadzam się, że roboty i algorytmy powinny wyręczać człowieka przy wszystkich czynnościach, które można nazwać "przykrym obowiązkiem".

Komputery powinny też zapewniać automatyzację tam, gdzie to możliwe, nawet kosztem zlikwidowania zawodów i miejsc pracy. Ze względu na wykonywany zawód z zaciekawieniem i niepokojem spoglądam na komputery, które... piszą newsy.

Rozwój jest potrzebny, a ludzkość od komputerów uzależniła się już dawno i nie ma drogi powrotu. Byle byśmy tylko nie popadli w pułapkę i nie próbowali zoptymalizować cywilizacji w stu procentach. Zaraz okaże się bowiem, że to ten nieefektywny i niedoskonały człowiek jest źródłem wszystkich problemów...

Mateusz Nowak: Moi przedmówcy praktycznie wyczerpali temat. Z ich wypowiedzi wyłania się wizja przyszłości, w której ludzie nie będą wykonywać nudnej pracy, gdyż zrobią to maszyny. Ludzie nie będą też trudnić się odpowiedzialną pracą, gdyż są do tego zbyt ułomni i powinni zostać zastąpieni przez (niemal) nieomylne maszyny. Ludzie nie będą mogli prowadzić własnych samochodów, gdyż jest to niebezpieczne i to zapewne będzie z biegiem czasu nielegalne.

Zastanawiam się zatem co ponad 7 miliardów ludzi, którzy żyją na całym świecie będzie robiło, bo obraz przyszłości, który przed chwilą został nakreślony zdaje się być przerażający. Ludzie bez pracy, bez praw, które mają teraz...

Zastanawiam się też, czego jeszcze można zakazać w imię bezpieczeństwa? Jazdy na rowerze? Skakania ze spadochronem? Górskich wędrówek?

Nie wiem czy za mojego życia zarysowana powyżej wizja przyszłości zacznie się spełniać, ale jestem przekonany, że przed pokoleniami, które będą ją wdrażać będzie stało nie lada wyzwanie - pogodzić świat robotów i inteligentnych maszyn ze światem miliardów ludzi.

*Część grafik pochodzi z Shutterstock.