Wysłał lekarzowi zdjęcie chorego syna, Google go zbanował i zgłosił na policję pornografię dziecięcą

Kiedy w lutym 2021 roku byliśmy w samym środku pandemii COVID-19, a szczepionki dopiero zaczynały być dostępne, teleporady były pierwszym źródłem informacji i pomocy lekarskiej. Ówcześnie bardzo wiele osób w celu identyfikacji jednostki chorobowej robiło zdjęcia ciała i wysyłało je lekarzowi.

Jak donosi The New York Times, ta rutynowa czynność doprowadziła pewnego amerykańskiego ojca do tłumaczenia się przed policją. Powodem postawienia mężczyzny w stan oskarżenia były znalezione w Google Photos zdjęcia przedstawiające - zdaniem algorytmu - dziecięcą pornografię.

Dowodem w sprawie były zdjęcia oznaczone przez sztuczną inteligencję Google jako zawierające dziecięcą pornografię. W rzeczywistości zdjęcia przedstawiały napuchnięte, zaczerwienione prącie kilkulatka, które ojciec wysłał lekarzowi do przeanalizowania.

Dwa dni po zapisaniu zdjęcia mężczyzna otrzymał powiadomienie, że jego konto zostało wyłączone z powodu "krzywdzących treści", które stanowią "poważne naruszenie zasad Google i mogą być niezgodne z prawem". Mark, który pracuje jako programista w firmie tworzącej oprogramowanie analizujące filmy, zorientował się, że przyczyną blokady jest nietrafione oznaczenie przez sztuczną inteligencję zdjęć na jego dysku jako "krzywdzące treści".

Zablokowanie konta Google w ramach, którego Mark utracił dostęp do m.in. Gmaila, Google Calendar, Google Drive, Google Authenticator i Google Fi to wierzchołek góry lodowej. Bowiem w myśl obowiązującego prawa Google jest zobligowane do zgłoszenia sprawy organom ścigania, wobec czego policja w San Francisco wszczęła w jego sprawie śledztwo.

Niemal identyczną sprawę przytoczył jeden z użytkowników serwisu Quora - "Cassio", który tak jak Mark na początku 2021 roku zrobił zdjęcia zainfekowanego krocza swojego syna w celu przesłania ich lekarzowi. Konto Cassio również zostało zablokowane bez możliwości odzyskania go lub pobrania danych.

Sprawa Marka finalnie doczekała się końca w grudniu 2021 roku, kiedy to w liście otrzymanym od policji w San Francisco potwierdzono, że w zgłoszonej sprawie nie stwierdzono znamion przestępstwa. Mężczyzna otrzymał powiadomienie drogą pocztową, gdyż policjanci nie byli w stanie skontaktować się z nim poprzez e-mail ani telefon - obie usługi były dostarczane Markowi przez Google.

Tylko w 2021 roku Google odnotował ponad 600 tysięcy zgłoszeń dotyczących materiałów przedstawiających wykorzystywanie dzieci, w rezultacie wyłączając konta ponad 270 000 użytkowników.

Pierwszym narzędziem przemysłu technologicznego, które zahamowało wymianę pornografii dziecięcej było PhotoDNA - baza danych znanych obrazów nadużyć, przekształcona w unikalne kody cyfrowe, zwane hashami. Można je było wykorzystać do szybkiego przeczesywania dużej liczby zdjęć w celu wykrycia dopasowania, nawet jeśli zdjęcie zostało zmienione w niewielkim stopniu.

Po tym, jak Microsoft udostępnił PhotoDNA w 2009 roku, Facebook, Twitter i inne firmy technologiczne wykorzystały go do wykorzenienia użytkowników rozpowszechniających nielegalne i szkodliwe zdjęcia. W 2014 roku PhotoDNA doprowadziło do skazania mężczyzny za posiadanie dziecięcej pornografii.

Większy przełom nastąpił prawie dekadę później, w 2018 roku, kiedy Google opracował narzędzie oparte na sztucznej inteligencji, które mogło rozpoznać nigdy wcześniej niewidziane obrazy wykorzystywania dzieci.

Oznaczało to znalezienie nie tylko znanych obrazów wykorzystywanych dzieci, ale obrazów nieznanych ofiar, które potencjalnie mogłyby zostać uratowane przez odpowiednie służby. Google udostępnił swoją technologię innym firmom, w tym Facebookowi.

Jak powiedział rzecznik Google w wypowiedzi dla The New York Times, skanowanie plików na koncie użytkownika odbywa się jedynie gdy "afirmatywne działanie" jest podejmowane przez użytkownika. Jako takie Google rozumie m.in. przesyłanie zdjęć do Google Drive.

Inną głośną sprawą, w której sztuczna inteligencja Google pomyliła się w osądzie, jest sprawa pewnego amerykańskiego artysty opisana przez Forbes. SI Google skanuje materiały na koncie użytkownika nie tylko pod kątem zdjęć zawierających dziecięcą pornografię, ale także ilustracji i obrazów.

Pod koniec 2020 roku sztuczna inteligencja oznaczyła obrazy znajdujące się w Google Drive pewnego artysty jako "cyfrowe dzieła sztuki lub kreskówki przedstawiające dzieci zaangażowane w zachowania o charakterze seksualnym lub zaangażowane w stosunki seksualne".

Zgodnie z wymogami prawnymi Google przekazał informacje o tym, co znalazł, a także o adresach IP użytych do uzyskania dostępu do obrazów, Krajowemu Centrum ds. Zaginionych i Wykorzystywanych Dzieci (NCMEC), które następnie przekazało ustalenia jednostce dochodzeniowej DHS ds. bezpieczeństwa wewnętrznego.

Śledczy wykorzystali adresy IP dostarczone przez Google do zidentyfikowania podejrzanego jako domniemanego właściciela rysunków i przeszukali jego konto Google, otrzymując informacje o wiadomościach e-mail do i od oskarżonego.

Zgodnie z wymogami prawnymi Google przekazał informacje o tym, co znalazł, a także o adresach IP użytych do uzyskania dostępu do obrazów, Krajowemu Centrum ds. Zaginionych i Wykorzystywanych Dzieci. Śledczy wykorzystali adresy IP dostarczone przez Google do zidentyfikowania podejrzanego jako domniemanego właściciela rysunków i przeszukali jego konto Google, otrzymując informacje o wiadomościach e-mail do i od oskarżonego.

Z informacji uzyskanych przez Forbes wynika, że podejrzany jest znanym od lat 90. artystą, który wygrał kilka konkursów w środkowo-zachodniej części Stanów Zjednoczonych. W wyniku analizy śledczych nie dopatrzono się znamion przestępstwa i nie postawiono artyście zarzutów.