Afera Cambridge Analytica, podsłuchujące użytkowników inteligentne asystentki, inwigilacja stosowana przez służby specjalne Stanów Zjednoczonych. O żadnej z tych rzeczy nie wiedzielibyśmy, gdyby nie sygnaliści. To oni są kluczykiem, który jest w stanie otworzyć czarną skrzynkę Big Techów.
Choć ich produkty otaczają nas zewsząd i trudno znaleźć kogokolwiek, kto na co dzień nie korzystałby z żadnej z usług Facebooka, Google’a, Apple’a czy Amazonu, to o tym, jak działają, wciąż wiemy zatrważająco mało. Giganci technologiczni pilnie strzegą swoich tajemnic. Ich algorytmy decydujące o tym, co widzimy, dokąd skieruje nas wyszukiwarka, co odpowie na nasze pytanie pomocna asystentka głosowa, są tak skomplikowane, że trudno przeniknąć nawet przedstawicielom organizacji, które działanie Big Techów próbują monitorować.
- To są na tyle skomplikowane procesy, że niełatwo je wyjaśnić. Jakby tego było mało firmy chętnie korzystają z zasłon dymnych, choćby w postaci ochrony tajemnicy przedsiębiorstwa, żeby się nie dzielić z nami informacjami o tym, jaka stoi logika za użyciem konkretnych algorytmów - tłumaczy Dorota Głowacka, prawniczka z Fundacji Panoptykon.
Timnit Gebru
fot. Wikipedia/TechCrunch
Była wpływową analityczką w Google. Cyfrowy gigant zatrudniał ją, aby oceniała od strony etycznej projekty firmy. Zgodnie z tym zadaniem Gebru krytykowała kontrowersyjne pomysły i plany firmy. Najpierw głośno było o niej, gdy w 2019 roku wraz z informatyczką Joy Buolamwini opublikowała artykuł mówiący o oprogramowaniu do identyfikacji twarzy. Udowodniły w nim, że aplikacje wiodących firm nie radzą sobie z rozpoznawaniem rysów kobiet i osób niemających białego koloru skóry. Innym razem Gebru badała oprogramowanie oparte na sztucznej inteligencji generujące komunikaty w różnych językach. Stwierdziła, że system jest podatny na rasizm i seksizm, kiedy działa na podstawie treści z sieci. Ale Gebru angażowała się także w walkę o prawa kobiet i Afroamerykanów, czyli grup stanowiących mniejszość wśród pracowników spółki. Wspierała też walkę o prawa pracownicze.
Jej działalność wyraźnie nie podobała się władzom firmy. W końcu analityczka w grudniu 2020 przestała pracować dla globalnego giganta. Google twierdzi, że odeszła na własne życzenie. Ona sama twierdziła, że było inaczej. W specjalnym oświadczeniu przekonywała, że została zwolniona po tym, jak odmówiła usunięcia swojego nazwiska z artykułu badawczego zalecającego ostrożność w przypadku systemów sztucznej inteligencji przetwarzających tekst, w tym technologii używanej przez Google w swojej wyszukiwarce. Sprawa miała również inny wymiar pokazujący konflikt między szefami koncernu a pracownikami. Google chciało bowiem zarabiać na sztucznej inteligencji, nawet jeśli niektóre jej projekty budziły etyczne wątpliwości, a pracownicy bronili się przed tym, aby takie etyczne granice przekraczać.
Zniknięcie Gebru z Google wywołało falę oburzenia wśród pracowników firmy. List w jej obronie podpisało ponad 2,5 tys. z nich, ale na władzach koncernu nie zrobiło to większego wrażenia. Jedyną reakcję był e-mail do pracowników dyrektora generalnego Sundara Pichai, w którym nie przyznał, że Gebru została zwolniona, ale obiecał zbadać okoliczności, które do doprowadziły do jej odejścia. To nie przekonało jednak pracowników, którzy chcąc walczyć o swoje prawa i większy wpływ na politykę firmy, miesiąc później założyli pierwszy związek zawodowy - Alphabet Workers Union. Początkowo zrzeszał on 200 osób, a dziś zbliża się do tysiąca członków.
Zdaniem Głowackiej brak transparentności to jedna z kluczowych cech technologicznego sektora. Organizacje próbujące patrzeć BigTechom na ręce mają przez to diabelsko ciężkie zadanie. Bo choć mogą stawiać hipotezy w oparciu o to, co obserwują na platformach, to bez dobrej woli firmy mają ograniczone możliwości zweryfikowania tych twierdzeń. Dlatego informacje pozyskiwane przez sygnalistów są tak cenne.
W kwietniu więcej światła na działanie Facebooka rzuciła Sophie Zhang. 2,5 roku temu została zatrudniona do pracy w zespole trudniącym się walką z nieautentycznym zaangażowaniami (fake engagement), czyli z płynącymi z fałszywych lub skradzionych kont aktywnościami. Takimi jak polubienia wystawiane przez boty czy komentarze wysyłane przez sieci skradzionych kont.
Przełom w jej pracy nastąpił w 2018 roku, gdy trafiła na post Juana Orlando Hernándeza, prezydenta Hondurasu. W ciągu zaledwie miesiąca opublikowana przez niego wiadomość została polubiona przez 59 100 kont. I choć 78 proc. z nich nie pochodziło od prawdziwych użytkowników, to o dziwo nie łamało też regulaminu platformy. Na korzyść Hernandeza działała bowiem ogromna luka w regulacjach Facebooka – firma pilnowała co prawda, by każdy użytkownik serwisu miał tylko jedno konto i podawał na nim prawdziwe dane, ale zupełnie nie nadzorowała zakładania stron firm, osób publicznych i organizacji.
To niedopatrzenie wykorzystano w Hondurasie na masową skalę, administrator konta prezydenta zakłada strony sklepów łudząco przypominające zwykłe profile – z imieniem i nazwiskiem w nazwie i zdjęciem profilowym z wakacji. Dopiero po wejściu w profil komentujących można było się przekonać, że gorąco popierająca prezydenta piękna długowłosa Maria to według Facebooka... kawiarnia.
Christopher Wylie
fot. lev radin/Schutterstock
O wyglądającym jak postać z cyberpunka Christopherze Wylie’u cały świat usłyszał w marcu 2018 roku. To wtedy niespełna 30-letni programista z różowymi włosami przyczynił się do ujawnienia afery Cambridge Analytica.
Wszystko jednak zaczęło się kilka lat wcześniej, gdy zaczął pracować dla firmy SCL Group, gdzie zajmował się problemem radykalizacji w cyberprzestrzeni. Były to czasy, kiedy w siłę rosło Państwo Islamskie i wykorzystywało internet do pozyskiwania nowych członków. Wylie badał, jak wygląda proces zaostrzania się poglądów nieżonatych mężczyzn we wspólnotach muzułmańskich. Badał by go dusić w zarodku. Zmieniać sposób myślenia zanim staną się na tyle niebezpieczni, że trzeba będzie użyć wobec nich fizycznej broni.
W pewnym momencie spostrzegł jednak, że jego firma (już jako Cambridge Analytica) zamiast przeciwdziałać radykalizacji tych samych narzędzi używa do zupełnie odwrotnych celów, czyli podkręcenia poglądów młodych mężczyzn w USA. Wylie widząc, że jego szefowie wykorzystują informacje o nieświadomych użytkownikach Facebooka do manipulowania wyborcami zebrał dowody i przekazał je dziennikarzom brytyjskiego dziennika The Guardian.
Ten krok wywołał polityczną burzę, bo okazało się, że jego były już pracodawca Cambridge Analytica wykorzystywał Facebooka w walce politycznej na zlecenie. Firma została wynajęta do kampanii wyborczej Donalda Trumpa. Miała również nielegalnie wyprowadzić z Facebooka dane o 87 mln obywateli USA i wykorzystać je do budowania profili psychologicznych, co wykorzystała potem w podgrzewaniu odpowiednich nastrojów i stymulowaniu stadnych zachowań tak, aby pasowało to zleceniodawcom. Oznaczało to, że każdy kto dysponuje odpowiednimi środkami może za pomocą danych z Facebooka i firm takich jak Cambridge Analytica wpływać na wyniki wyborów, a to poważne zagrożenie dla demokracji.
Gdy Zhang zgłosiła problem swoim szefom i odbiła się od ściany. Choć Facebook przyznawał, że prezydent Hernandez korzysta z luki w przepisach, argumentował, że firma nie ma dość ludzi i środków, by się nią zająć. Sytuacja w odległym i mało medialnym Hondurasie jest bowiem za nisko na liście priorytetów ogromnej firmy.
Zhang pukała do kolejnych drzwi w firmie – do przełożonych i ich przełożonych – bezskutecznie. Pod koniec marca 2019 zdecydowała się działać inaczej – wysłała wiadomość bezpośrednio do zespołu zajmującego się zapewnieniem integralności wyborów - napisała w nim, że prezydent Hondurasu jest „jedynym prezydentem, który bezpośrednio, aktywnie i konsekwentnie nadużywa Facebooka, żeby zyskać fałszywe zaangażowanie". Podkreśliła, że firma wie o tym od miesięcy, ale nic z tym nie robi. Zespół podjął trop i potwierdził to, co odkryła Zhang. W końcu się udało. W 2019 r., po 11 miesiącach, Facebook usunął 181 kont i 1 488 stron zaangażowanych w fałszywe podbijanie statystyk prezydentowi. Zhang pogratulowano zaangażowania i podziękowano za wspaniałą robotę.
Miesiąc miodowy jednak trwał krótko.
Thomas Le Bonniec
Thomas Le Bonniec, screen YouTube Europe 1
Przez kilka miesięcy pracował dla Apple’a w irlandzkim Cork. Zatrudniony przez zewnętrzną firmę Global Tech Services zajmował się niezwykle odpowiedzialną kwestią – analizą nagrań głosowych użytkowników korzystających z asystenta Siri. Sprawdzał, czy Siri aktywuje się w odpowiednich momentach, czyli kiedy była wywołana określoną komendą głosową brzmiącą „Hej, Siri”. 25-latek zorientował się jednak, że urządzenia Apple’a nagrywają nie tylko wtedy, kiedy użytkownicy użyją stosownej komendy, ale właściwie zawsze. Poza tym nagrania głosu nie były analizowane tylko przez algorytm, ale także przez żywych ludzi takich jak on.
Le Bonniec nie mógł znieść również tego, że nagrywani są nie tylko nieświadomi niczego użytkownicy urządzeń Apple’a, ale również ich bliscy – słowem wszystko, co uchwyci mikrofon smartfonu czy zegarka. System nagrywał więc, a pracownicy mogli słuchać o czym w prywatnych rozmowach, czy kłótniach mówią podsłuchiwane osoby. A mówili o swoich adresach, finansach, chorobach, związkach, seksie, politycznych wyborach czy religii.
W lipcu 2019 roku napisał list otwarty zaadresowany do europejskich urzędów ochrony danych osobowych, w którym alarmował, że Apple naruszył prawa użytkowników do prywatności. „Ludzie rozmawiają z Siri codziennie, oszukiwani, że jest to przyjazna im sztuczna inteligencja. W rzeczywistości tak nie jest – Siri może zachowywać się jak szpieg” – alarmował.
Kiedy sprawa wyszła na jaw wybuchł skandal. Apple publicznie przeprosił przyznając, że nie dotrzymał własnych standardów. „Przekonaliśmy się, że nie postępujemy zgodnie z naszymi ideałami” – powiedział Tim Cook, dyrektor generalny firmy w oświadczeniu z sierpnia ubiegłego roku. Firma obiecała też dokonać poważnych zmian w programie asystentów głosowych, po czym przygotowała aktualizację programu umożliwiającą wyłączenie kontrowersyjnej funkcji.
Zhang znalazła podejrzane zaangażowane politycznie sieci kont między innymi w Polsce. Na szczęście nasz kraj znajduje się w Europie i jest dość duży, by przyciągnąć uwagę mediów - siatka fałszywych stron została rozwiązana niemal natychmiast. Mniej szczęścia miał Meksyk - ponad rok zajęło usunięcie ponad 5 tys. stron działających na korzyść polityków. Według danych The Guardian Facebook nigdy nie zajął się sieciami odkrytymi w Mongolii, Boliwii czy Iraku.
W 2019 roku zaakceptowano propozycję Zhang, by karać strony kreowane do tworzenia nieautentycznych zachowań. Nie zdecydowano się jednak, żeby iść krok dalej i zbanować konta osób zaangażowanych w ten proceder. Osoba, której skasowano setkę fałszywych stron, następnego dnia może założyć ich dwie setki. Zhang twierdzi, że to dlatego, że Facebook nie czuje się komfortowo z karaniem ludzi blisko połączonych z władzą, nawet jeśli łamią oni przepisy platformy.
- Załóżmy, że obrabowałeś skutecznie bank i karą za to jest skonfiskowanie twoich narzędzi i publiczna informacja w gazecie <<złapaliśmy tę osobę na rabowaniu banku, nie powinna była tego robić>>. To właśnie dzieje się na Facebooku, dlatego wielu prezydentów zdecydowało, że są w stanie podjąć takie ryzyko – mówi Zhang w wywiadzie dla The Guardian.
Zhang została zwolniona z pracy w połowie sierpnia 2020 roku za słabe wyniki pracy.
Edward Snowden
fot. Wikipedia
Po ataku na World Trade Center amerykańskie służby, korzystając z zasianego w sercach obywateli strachu, zwiększały swoje uprawnienia. Owszem, narastała świadomość, że nasza prywatność jest składana na ołtarzu walki z terroryzmem, jednak dopiero rewelacje ujawnione przez Snowdena pokazały skalę tej inwigilacji.
Karierę komputerową rozpoczął w 2006 roku w CIA, z którego odszedł rozczarowany metodami stosowanymi przez agencję. Gdy jednak w 2009 roku zatrudnił się w Dellu nadal ściśle współpracował z CIA i NSA. To właśnie ta praca sprawiła, że stawał się coraz bardziej sceptyczny wobec działań wywiadu. W końcu zaczął zbierać materiały, które miały ujawnić skalę inwigilacji stosowaną przez agencje rządowe. Gdy w 2013 roku rzucił pracę i zatrudnił się w firmie Booz Allen, jednym z podwykonawców NSA, zrobił to, by móc zebrać jeszcze więcej dokumentów obnażających skalę inwigilacji. Nie wiadomo, ile dokładnie danych wykradł, oficjalne szacunki mówią o około 1,7 mln plików.
Wśród ujawnionych przez niego informacji znalazły się między innymi te o programie PRISM, pozwalającym wywiadowi amerykańskiemu na gromadzenie danych na temat własnych obywateli na niespotykaną dotąd skalę. Jego przedstawiciele mieli właściwie nieograniczony dostęp między innymi do maili, wiadomości czy danych z serwisów społecznościowych obywateli. W ramach PRISM dokumenty o współpracy z NSA podpisały takie przedsiębiorstwa jak Microsoft, Google, Apple i Facebook. Opinią międzynarodową wstrząsnęły informacje o działaniach wymierzonych także w obywateli krajów sojuszniczych, a także w przedstawicieli sojuszniczych państw, między innymi Angelę Merkel. Krytycy Snowdena, tacy jak generał Martin Dempsy, zarzucają mu, że część ujawnionych materiałów nie dotyczyła inwigilacji obywateli, ale była tajemnicami wojskowymi. W 2013 roku Snowden uciekł ze Stanów. Dziś mieszka w Rosji, a w USA czeka na niego oskarżenie o złamanie Ustawy o Szpiegostwie i kradzież własności rządowej.
Mimo że często wydaje się, że sygnaliści tacy jak Zhang, walą głową w ścianę to ich działania realnie zmieniają naszą rzeczywistość. Orzecznictwo Trybunału Sprawiedliwości Unii Europejskiej dotyczące retencji danych telekomunikacyjnych zostało w dużej mierze ukształtowane jako rezultat rewelacji Snowdena. Dzięki nagłośnieniu afery Cambridge Analytica działalnością Facebooka bliżej zainteresował się amerykański Kongres, który wezwał na przesłuchania Marka Zuckerberga. I choć na pierwszym przesłuchaniu w 2018 roku, szef Facebooka musiał tłumaczyć senatorom, jak działa jego serwis i model zarabiania na reklamach, już dwa lata później, gdy przed Kongres wezwano wszystkich szefów GAFY, było widać, że politycy znacznie lepiej orientują się w temacie.
Tech-sygnalistom udało się uczynić nasze myślenie o Big Techach mocno krytycznym. To oni pomogli ściągnąć z naszych oczu różowe okulary technoentuzjastów i kazali patrzeć na brzydką prawdę kryjącą się za quizami „którą księżniczką Disneya jesteś”, pomocnymi głosami asystentek i 24-godzinną dostawą w Amazonie.
- Entuzjazm związany z funkcjonowaniem technologicznych gigantów nie jest taki wielki jak kiedyś. Ludzie dostrzegają różne negatywne aspekty ich działania, także to, że są często traktowani jak produkty, a nie jak klienci – zauważa Głowacka.
Podobną drogę wizerunkową przeszły Big Techy jako pracodawcy. Jeszcze kilka lat temu o pracy dla takiej marki jak Google czy Facebook mówiło się rozmarzonym tonem. Dziś bańka pękła. Amazon jako pracodawca kojarzy się głównie z ciężką pracą w magazynach i aferą moczową (firma 24 marca wyśmiała na Twitterze ludzi wierzących w to, że jej pracownicy korzystają z butelek, gdy nie mają czasu korzystać z toalety. Przepraszać za to musiała już 2 kwietnia, gdy Intercept ujawnił wewnętrzne dokumenty Amazonu świadczące o tym, że problem z publicznym oddawaniem moczu do butelek rzeczywiście istnieje). Facebooka odczarował wstrząsający dokument The Cleaner, który pokazywał pracę moderatorów platformy. Rysy pojawiły się nawet na wizerunku Google’a, który wikła się w kolejne konflikty z Googlersami i aktywnie zwalcza wszelkie próby zbytniej ich aktywności. Ta przemiana także nie byłaby możliwa, gdyby nie sygnaliści.
Chris Smalls
Screen YouTube Zero Books
W wyniku pandemii największy amerykański sklep internetowy został zalany falą zamówień. Jego magazyny musiały działać pełną parą, żeby jej sprostać. To co dla biznesu było żniwami, dla pracowników okazało się być harowaniem przy sianokosach. Kolejni zatrudnieni przez firmę Bezosa zaczęli alarmować, że nie wszędzie firma radzi sobie z pandemią tak dobrze, jak chciałby tego jej dział PR.
Twarzą protestów stał się Chris Smalls. Smalls był jednym z organizatorów majowego protestu w magazynie Staten Island w Nowym Yorku. Pracownicy biorący w nim udział domagali się, żeby firma lepiej chroniła ich przed pandemią. Mężczyzna został niemal natychmiast wyrzucony z pracy. Amazon argumentował, że przychodząc na protest mężczyzna złamał kwarantannę, narażając kolegów z pracy.
Jednak ze spotkania władz Amazonu w sprawie Smallsa wyciekły notatki. David Zapolsky, jeden z prawników firmy, planował pokazać mężczyznę jako przywódcę ruchu mającego na celu wprowadzenie związków zawodowych w Amazonie. Wybór tem uzasadniał, tłumacząc, że Smalls nie jest „ani mądry, ani elokwentny” i zrobienie z niego twarzy protestu, poprawi PR-ową pozycję Amazonu.
Smalls nie jest jedynym pracownikiem, który twierdzi, że został zwolniony ze względu na publiczne krytykowanie tego, jak firma Bezosa radzi sobie z pandemią. "Ofiarami nie są abstrakty, ale prawdziwi ludzie; oto imiona niektórych z nich: Courtney Bowden, Gerald Bryson, Maren Costa, Emily Cunningham, Bashir Mohammed i Chris Smalls." - pisał 4 maja Tim Bray, eks wiceprezes Amazon Web Services, który zrezygnował z pracy, ponieważ nie zgadzał się z tym, jak firma traktuje sygnalistów.
Działania Amazona dotarły także do polityków. W maju 2020 roku w liście do Amazona politycy, między innymi byli kandydaci na prezydenta Stanów Zjednoczonych Elizabeth Warren i Bernie Sanders, prosili o więcej informacji w sprawie zwolnień byłych pracowników. Pisali, że chcą zrozumieć „jak usunięcie z pracy pracownika, który zwraca uwagę na kwestie dotyczące zdrowia i bezpieczeństwa warunków pracy, nie kwalifikuje się jako działania odwetowe wobec sygnalistów”.
Smalls nadal działa, choć oczywiście spoza firmy. Pojawia się na protestach i przemawia na temat kondycji pracowniczych oraz tego, jak Amazon radzi sobie z pandemią.
To o czym mówią rozczarowani ludzie BigTechów pada na coraz bardziej żyzny grunt. Media są lepiej przygotowane na przyjęcie ich rewelacji. Jeszcze w 2012 roku, gdy Snowden chciał przekazać Glennowi Greenwaldowi z The Guardian zdobyte przez siebie informacje, musiał najpierw zrobić dla niego skrócony kurs z podstaw internetowego bezpieczeństwa. Piszący na co dzień o zagadnieniach związanych z bezpieczeństwem narodowym dziennikarz nie tylko nie miał swojego klucza publicznego, nie wiedział nawet, czym on jest. Dziś duża część redakcji ma przygotowane bezpieczne kanały komunikacji, a dziennikarze z własnej inicjatywy korzystają z programów szyfrujących. Bo, jeśli chcemy wiedzieć, co się dzieje w firmach, które kształtują naszą rzeczywistość, to musimy ułatwić sygnalistom działanie.
- One mają równie wielki, jeśli nie większy, wpływ na nasze prawa cyfrowe. A tutaj jest dużo trudniej, bo nie ma narzędzi, które zapewniają przejrzystość i rozliczalność tego, jak te firmy w istocie działają. Wciąż są tradycyjnie postrzegane jako prywatne podmioty, które mogą dowolnie narzucać swoje standardy, chociaż już dawno wyszły z tej swojej roli. Przecież ich działalność ma ogromny wpływ na sferę publiczną. Być może ta sytuacja zmieni się na lepsze, dzięki wprowadzeniu regulacji prawnych, nad którymi pracuje Unia Europejska - przekonuje Głowacka.
W dobie powszechnej cyfryzacji i przenoszenia się coraz większej części naszego życia – politycznego, społecznego i prywatnego - do internetu równie ważne co patrzenie na ręce władzy jest patrzenie na ręce Big Techom.
Zdjęcie główne Lightspring/Schutterstock.com
