Facebook uznaje użytkownika za potencjalnego samobójcę i wysyła do niego policję. To musi budzić wątpliwości

Przez minione lata Facebook pracował ciężko na miano platformy, która nie tylko nie dba o dane użytkowników, ale szafuje nimi na prawo i lewo. Apogeum afer dotyczących prywatności miało miejsce w 2018 r., gdy z jednej strony wyszły na jaw grzechy przeszłości (z Cambridge Analytica na czele), jak i słabość zabezpieczeń platformy. Wycieki danych dotyczyły dziesiątków milionów kont, zatem skala była ogromna. Wrażenie rzecz jasna było mniejsze, gdy zestawiło się liczby z miesięczną liczbą aktywnych użytkowników. W III kwartale firma raportowała 2,27 mld użytkowników w miesiącu.

Ten kontekst jest bardzo ważny. Prywatność bowiem ma wiele aspektów. Właśnie w tym ujęciu zaczęto przyglądać się wdrożonym przez Facebooka mechanizmom zapobiegania samobójstwom.

Największy serwis społecznościowy co jakiś czas chwali się swoimi wdrożeniami dotyczącymi tego delikatnego problemu. We wrześniu przy okazji Światowego Dnia Zapobiegania Samobójstwom Facebook opisał, czym konkretnie przejawia się jego aktywność w tym zakresie.

W uproszczeniu można stwierdzić, że mechanizm oparty jest na dwóch filarach. Pierwszy to zgłoszenia użytkowników, którzy zauważyli posty mogące zwiastować chęć odebrania sobie życia przez ich znajomych. Osobie, która została w ten sposób zgłoszona wyświetli się przy logowaniu zachęta do rozmowy ze znajomymi czy kontaktu ze specjalistą.

Drugim filarem są algorytmy mające wykrywać posty potencjalnych samobójców. Ze względu na złożoność problemu nie działają one w każdym języku oferowanym przez Facebooka. Z uwagi na RODO nie mogą być też używane na terenie UE.

Przedstawiciele platformy zwracali uwagę na fakt, że identyfikacja tego typu treści przez algorytmy jest niezwykle trudna. Ma to związek m.in. z tym, że w języku dokonujemy hiperbolizacji. Deklaracja „zabiję się” użyta na Facebooku nie musi przecież oznaczać, że użytkownik zamierza odebrać sobie życia. Zwłaszcza jeżeli wypowiedź dotyczy błahostki.

Na pierwszy rzut oka działalność Facebooka na niwie walki z samobójstwami można uznać za pozytywną. O ile zapomnimy przy tym na chwilę o badaniach dowodzących, że korzystanie z mediów społecznościowych może powodować obniżenie samooceny i pogorszenie samopoczucia.

Patrząc przez pryzmat boju w dobrej sprawie pomijano dotąd bardzo ważny aspekt tej działalności Facebooka, czyli prywatność. Platforma zbiera zgłoszenia, a więc informacje o potencjalnych samobójstwach. Nie mamy tu do czynienia z big data, ale konkretnymi użytkownikami, których identyfikuje się jako zagrażających samym sobie. Po drugie, dane analizowane są przez moderatorów, którzy zyskują do nich dostęp. Trzeci problem to możliwość wycieku tego typu informacji, która jak pokazał miniony rok nie jest abstrakcyjnym zagrożeniem.

Amerykański Business Insider zauważa, że dane tego typu można uznać za informacje na temat zdrowia. To nie koniec. Mark Zuckerberg chwali się, że udało się dotrzeć do 3,5 tys. osób, które potrzebowały pomocy i podkreśla partnerstwo z organami ścigania. Mamy więc do czynienia z sytuacją, gdy platforma internetowa klasyfikuje użytkownika jako potencjalnego samobójcę i może wskazać go np. policji.

Pamiętajmy o jeszcze jednym aspekcie. Facebook zaczął zwracać uwagę na potencjalnych samobójców po tym, jak serwis oskarżono, o brak reakcji na tego typu treści. Problem jest niezwykle złożony, bo na zarzuty o naruszenia prywatności szefostwo firmy odpowie statystykami użytkowników, którzy dzięki jej mechanizmom mogli zostać uratowani. Na szali pojawi się wówczas ludzkie życie i dyskusja zostanie ucięta.

Dziennikarze BI zapytali Facebooka, jak długo przechowywane są dane o potencjalnych samobójcach. W odpowiedzi firma napisała, że w przypadku zgłoszeń, których nie da się zweryfikować czas przechowywania wynosi 30 dni. Nie wiadomo jednak, jak długo w bazach serwisu pozostaną informacje o poważnych incydentach.

Trudno nie dostrzegać niebezpieczeństwa skoro firma rości sobie prawo do informacji z kategorii najbardziej drażliwych, których ujawnienie mogłoby narazić użytkowników na różnego rodzaju straty i niebezpieczeństwa. Ten przykład pokazuje zresztą po raz kolejny, że działalność mediów społecznościowych musi zostać uregulowana. Od wielu tygodni powtarzam to na zakończenie niemal każdego tekstu na temat Facebooka.