ChatGPT sam sprawdzi, ile masz lat. Algorytm wyczuje, że kręcisz
ChatGPT zacznie automatycznie oceniać wiek użytkowników. OpenAI wdraża system, który ma wykrywać konta nieletnich i ograniczać im dostęp do treści dla dorosłych.
W ostatnich miesiącach OpenAI mierzyło się z ogromną falą krytyki po tym, jak interakcje z ChatemGPT zostały wskazane jako jedna z przyczyn odebrania sobie życia przez kilkoro nastolatków. Reputacji czatbota nie pomógł też skandal z generowaniem erotyki na kontach małoletnich użytkowników. Aby przeciwdziałać tego typu sytuacjom, OpenAI wdraża pierwszy w historii platformy mechanizm ochronny - system przewidywania wieku
ChatGPT zacznie zgadywać wiek użytkowników
System ma automatycznie identyfikować konta należące do osób poniżej 18. roku życia i nakładać na nie dodatkowe ograniczenia treści. Jak wyjaśnia OpenAI, nowy system nie opiera się wyłącznie na wieku zadeklarowanym podczas rejestracji. Model przewidywania wieku analizuje zestaw sygnałów behawioralnych i kontowych: czas istnienia konta, typowe pory aktywności, wzorce korzystania z usługi w dłuższym okresie, a także informacje podane przez samego użytkownika. Celem jest oszacowanie, czy dane konto z dużym prawdopodobieństwem należy do osoby niepełnoletniej. Funkcja stanowi element przygotowań do wprowadzenia funkcji przeznaczonych wyłącznie dla dorosłych.
Jeśli system nie ma wystarczającej pewności co do wieku, domyślnie stosowany jest "bezpieczniejszy" wariant doświadczenia użytkownika.
W przypadku kont, które algorytm zakwalifikuje jako należące do osób poniżej 18 lat, ChatGPT automatycznie włączy dodatkowe zabezpieczenia. Obejmują one m.in. blokowanie treści przedstawiających drastyczną przemoc, wyzwania internetowe mogące prowadzić do ryzykownych zachowań, role-play o charakterze seksualnym lub brutalnym, opisy samookaleczeń oraz materiały promujące skrajne standardy piękna czy niezdrowe diety.
OpenAI zaznacza, że lista ograniczeń powstała przy współpracy z ekspertami i w oparciu o badania z zakresu psychologii rozwojowej. Firma przyznaje jednocześnie, że jednym z głównych wyzwań pozostają próby obchodzenia zabezpieczeń przez użytkowników.
Szybka ścieżka dla pełnoletnich
Użytkownicy, którzy zostaną błędnie zakwalifikowani jako niepełnoletni, mają mieć "szybką i prostą" możliwość odzyskania pełnego dostępu. Weryfikacja wieku odbywa się za pomocą selfie przesyłanego do zewnętrznego dostawcy usług identyfikacyjnych Persona. Status zabezpieczeń można sprawdzić w ustawieniach konta, bez konieczności oczekiwania na interwencję obsługi.
Nowy system uzupełnia już istniejące narzędzia kontroli rodzicielskiej. Rodzice mogą m.in. ustawić godziny, w których ChatGPT nie będzie dostępny, ograniczyć korzystanie z pamięci rozmów czy trenowania modelu, a także otrzymywać powiadomienia w przypadku wykrycia sygnałów ostrego kryzysu psychicznego u nastolatka.
Czytaj też: Gdy chatbot zakłada maskę przyjaciela. Dlaczego dzieci nie powinny z nich korzystać?
W Unii Europejskiej wdrożenie systemu przewidywania wieku ma nastąpić w najbliższych tygodniach, z uwzględnieniem lokalnych wymogów prawnych, w tym regulacji dotyczących ochrony danych i prywatności nieletnich. Poza krajami UE system ma status "rollout" - jest powoli udostępniany wszystkim użytkownikom.
Choć OpenAI podkreśla, że bezpieczeństwo nastolatków pozostaje priorytetem, w komunikacie wyraźnie wybrzmiewa także drugi cel zmian. Skuteczniejsze odróżnianie dorosłych od nieletnich ma pozwolić firmie "traktować dorosłych jak dorosłych" i rozwijać funkcje przeznaczone wyłącznie dla pełnoletnich użytkowników - w granicach przyjętych zasad bezpieczeństwa.
Więcej nowości w ChatGPT:
