Patrzysz przez okulary, a ktoś inny patrzy z tobą. Lepiej nie kupuj okularów Mety
Meta ma kolejny problem. Okulary Ray-Ban Meta nagrywają więcej, niż myślisz - i oglądają to nie tylko algorytmy.
Ray-Ban Meta miały być pierwszym masowym gadżetem, który wprowadzi asystenta AI do naszego codziennego pola widzenia. Patrzysz na obiekt, pytasz okulary, a one odpowiadają. Okazuje się jednak, że to co widzą okulary widzą też ludzie - i to niekoniecznie ci, których Meta chętnie pokazałaby w swoich materiałach PR-owych.
Według śledztwa dziennikarskiego Svenska Dagbladet nagrania z okularów trafiają do zespołów pracujących dla podwykonawców w Afryce Wschodniej. To oni mają „trenować” i „poprawiać” działanie modeli AI. Problem w tym, że użytkownicy nie mają pojęcia, jak szeroki i intymny jest zakres danych, które mogą trafić na ekrany tych pracowników.
Czytaj też:
Relacje osób zatrudnionych przy projekcie są jednoznaczne: widzą wszystko
W kadrze pojawiają się mieszkania, dzieci, dokumenty, ekrany komputerów, rozmowy z bliskimi, a czasem sytuacje, których nikt nie chciałby pokazywać obcym ludziom. Jeden z pracowników miał powiedzieć wprost, że czuje się, jakby zaglądał ludziom przez ramię przez cały dzień - i że użytkownicy nie mają pojęcia, że ktoś patrzy.
Meta już wcześniej korzystała z taniej siły roboczej w Afryce do moderacji treści. Dotyczyło to Facebooka i Instagrama, gdzie moderatorzy musieli oglądać najbardziej drastyczne materiały publikowane przez użytkowników. Tym razem jednak mówimy o nagraniach z urządzenia noszonego na twarzy, które rejestruje świat z perspektywy pierwszej osoby. To zupełnie inny poziom wrażliwości.
A przecież okulary nagrywają rzeczywistość w sposób, który trudno porównać z jakimkolwiek innym urządzeniem. Telefon wymaga świadomego podniesienia i włączenia aparatu. Kamera domowa stoi w jednym miejscu. A okulary? One po prostu są. Rejestrują to, co widzisz - często w momentach, w których nawet nie myślisz o tym, że coś nagrywasz. Gdy idziesz za potrzebą fizjologiczną, cieszysz się intymnością z drugą osobą czy przyglądasz się uważnie numerowi na swojej karcie kredytowej.
To oznacza, że do chmury trafiają sceny z codziennego życia, które nigdy nie miały być materiałem szkoleniowym dla kogokolwiek. W dodatku w nagraniach pojawiają się osoby postronne, które nie wyraziły zgody na udział w żadnym „programie treningowym AI”. W Europie to potencjalnie poważny problem prawny, bo RODO nie przewiduje sytuacji, w której prywatne nagrania trafiają do ludzi na innym kontynencie bez wiedzy osób nagrywanych.
Meta twierdzi, że dane są anonimizowane, ale w przypadku nagrań z perspektywy użytkownika anonimizacja jest pojęciem mocno teoretycznym. Twarz dziecka, charakterystyczny układ mebli, głos partnera, widok z okna - to wszystko są dane osobowe, nawet jeśli usunie się metadane.
Oficjalna linia obrony Mety jest przewidywalna
Firma zapewnia, że tylko niewielka część nagrań trafia do ludzi, że użytkownicy wyrażają zgodę w regulaminie, a cały proces jest zgodny z prawem. W praktyce oznacza to tyle, że Meta uważa sprawę za zamkniętą, bo „przecież wszystko jest opisane w dokumentach liczących kilkadziesiąt stron”.
Nie ma powodu do paniki, ale jest powód do refleksji. Ray-Ban Meta to świetnie zaprojektowany gadżet, który faktycznie potrafi ułatwić życie. Jednak każdy, kto ich używa powinien mieć świadomość, że nagrania nie są przetwarzane wyłącznie przez bezduszne algorytmy. Za kulisami siedzą ludzie, którzy widzą dokładnie to, co widzisz ty.
