Meta śledziła klawiatury pracowników. Potem sama zgubiła dane

Meta chciała nauczyć sztuczną inteligencję pracy na komputerze, obserwując pracę własnych ludzi. Ruchy myszy, kliknięcia, naciśnięcia klawiszy, treści na ekranach – wszystko miało pomóc w budowaniu lepszych agentów AI. Problem w tym, że firma, która chciała zbierać tak wrażliwe dane, sama nie upilnowała dostępu do nich wewnątrz organizacji. Program został wstrzymany, ale trudno o bardziej symboliczną wpadkę. 

O tym pomyśle pisaliśmy już w tekście: Meta zamienia pracowników w paliwo. Prześledzą każdy ruch myszki i klawisz. Chodziło o Model Capability Initiative, czyli wewnętrzny program Mety, w którym firma zaczęła zbierać szczegółowe dane z komputerów służbowych pracowników w USA.

Celem było nauczyć AI robić na komputerze to, co my robimy bez zastanowienia się. Dzisiejsze modele świetnie radzą sobie z tekstem czy kodem, ale gdy trzeba kliknąć właściwy przycisk, przejść przez kilka okienek albo ogarnąć firmowe narzędzie, zaczynają się schody. Dla człowieka to codzienność – kilka kliknięć, skrót klawiaturowy, szybkie przejście przez menu. Dla AI to wciąż coś, czego trzeba ją dopiero nauczyć.

Meta uznała więc, że najcenniejszym materiałem treningowym będzie codzienna praca własnych ludzi. Tyle że ta codzienna praca to komunikacja, dokumenty, oceny wyników, prompty, rozmowy, fragmenty kodu, kontekst projektów i dane, które mogą być wrażliwe nawet wtedy, gdy powstają na komputerze służbowym.

Okazało się, że Meta zostawiła potencjalnie wrażliwe informacje zbierane z laptopów pracowników dostępne wewnątrz firmy. W grę mogły wchodzić dane związane z ruchem myszy, kliknięciami, naciśnięciami klawiszy i treściami widocznymi na ekranach. Wewnętrzne powiadomienie miało mówić o danych pracowniczych obejmujących 45 tys. tabel Hive.

Mowa o pełnych promptach i transkrypcjach, prywatnych rozmowach oraz danych dotyczących ludzi i ich wyników pracy. To nie są jakieś suche statystyki typu kto ile razy kliknął. To raczej zapis dnia pracy: co ktoś pisał, z kim rozmawiał, jakie miał zadania i nad czym siedział.

Meta twierdzi, że nie ma obecnie informacji wskazujących na nieuprawnione wykorzystanie tych danych przez pracowników. Firma wstrzymała jednak program, aby dokładnie zbadać całą sprawę. CTO Andrew Bosworth miał przyznać wewnętrznie, że implementacja programu nie spełniła standardów wynikających z przeglądu prywatności, a problemem były błędnie skonfigurowane listy kontroli dostępu. Mówiąc prościej, dane zebrano, ale później nie zabezpieczono ich tak, jak należało.

Najbardziej kompromitujące dla Mety jest to, że bunt nie pojawił się dopiero po incydencie. Pracownicy już wcześniej krytykowali program, wskazywali na prywatność, bezpieczeństwo i brak zaufania. Wewnętrzny sprzeciw miał być na tyle mocny, że Meta zaczęła łagodzić część zasad jeszcze przed tą wpadką.

Na początku czerwca firma zapowiedziała możliwość czasowego pauzowania zbierania danych na 30 minut oraz ubiegania się o wyjątki. To było ustępstwo po skargach pracowników, którzy zwracali uwagę nie tylko na prywatność, ale też na praktyczne skutki działania narzędzia, m.in. zużycie baterii i transferu danych. Sam fakt, że program trzeba było ratować takimi poprawkami, pokazuje, jak słabo został przyjęty wewnątrz firmy.

Jeśli pracodawca mówi ludziom, że będzie rejestrował ich klawiaturę, mysz i ekran, bo potrzebuje tego do trenowania AI, to musi mieć naprawdę mocne argumenty, solidne zabezpieczenia i jasną komunikację. Meta nie mogła sobie pozwolić na potknięcie. A jednak do niego doszło.

Oczywiście można powiedzieć: to był sprzęt firmowy, więc firma ma prawo monitorować, co się na nim dzieje. Tyle że takie uproszczenie przestaje wystarczać, gdy monitoring nie dotyczy wyłącznie bezpieczeństwa lub zgodności z procedurami, lecz masowego zbierania zachowań do trenowania modeli AI.

Komputer służbowy nie jest oczywiście naszym prywatnym pamiętnikiem, ale też nie jest neutralnym terminalem bez człowieka po drugiej stronie. Na takim komputerze ludzie rozmawiają z zespołami, opisują problemy, przygotowują oceny, wpisują zapytania do modeli AI, pracują nad konfliktami, projektami i dokumentami, których wrażliwość nie wynika z tego, czy są osobiste, lecz z kontekstu. W pracy też istnieją dane, których nie powinien widzieć każdy wewnątrz firmy.

To robi się szczególnie istotne w momencie, gdy takie dane mają zasilać trening albo rozwój AI. Modelowi prywatność jest obojętna, ale ludziom już nie. Firma, która mówi o lepszych agentach, bardzo łatwo może zacząć patrzeć na pracowników jak na źródło sygnałów i danych. I właśnie wtedy coś zaczyna się psuć, bo pogoń za efektywnością zaczyna podgryzać zwykłe, ludzkie zaufanie.

Meta już wielokrotnie przekonywała użytkowników, regulatorów i opinię publiczną, że zbieranie danych jest kontrolowane, potrzebne i bezpieczne. A potem regularnie pojawiały się historie, które pokazywały, że granice tej kontroli są znacznie bardziej płynne.

Pisaliśmy o tym w tekście: Odkryli, że Facebook grzebał w twojej przeglądarce. I nie tylko on, gdzie chodziło o wykorzystywanie lokalnych połączeń w Androidzie do śledzenia aktywności użytkowników w przeglądarce i wiązania jej z kontami. Tam problemem byli użytkownicy. Teraz problemem są pracownicy. Mechanizm różni się technicznie, ale logika jest znajoma: jak najwięcej danych, jak najbliżej realnego zachowania człowieka.

Podobny motyw pojawił się przy okularach Ray-Ban Meta. W tekście: Patrzysz przez okulary, a ktoś inny patrzy z tobą. Lepiej nie kupuj okularów Mety opisywaliśmy, że dane z urządzenia noszonego na twarzy mogą być dużo bardziej intymne, niż sugeruje marketing. Tam też kluczowe było pytanie, kto naprawdę widzi to, co zbiera urządzenie?

Przeczytaj także:

W przypadku programu Model Capability Initiative (MCI) pytanie jest podobne: kto tak naprawdę miał dostęp do zapisu pracy ludzi, którzy przez cały dzień kodują, piszą, klikają, rozmawiają i rozwiązują problemy?

Meta właśnie dostała lekcję, którą powinna znać lepiej niż ktokolwiek inny: jeśli budujesz biznes i AI na danych ludzi, najpierw musisz udowodnić, że umiesz tych danych pilnować. Nie komunikatem prasowym, nie wewnętrzną prezentacją i nie obietnicą privacy safeguards, tylko praktyką. Bo gdy firma śledzi klawiatury pracowników, a potem sama gubi kontrolę nad dostępem do tych danych, to nie jest drobna wpadka bezpieczeństwa. To streszczenie całej filozofii big techu w jednym incydencie.

*Źródło grafiki wprowadzającej: Marcus Richardson, Pexels / Canva Pro / Meta