ChatGPT nie odrobi za dziecka pracy domowej. OpenAI zaskoczyło

OpenAI znów próbuje udowodnić światu, że potrafi tworzyć technologię, która nie tylko zachwyca, ale też nie szkodzi. Tym razem na tapecie znalazła się młodzież - grupa użytkowników, która według badań korzysta z chatbotów częściej niż dorośli, a jednocześnie jest najbardziej podatna na ich negatywne skutki. Firma ogłosiła właśnie „ChatGPT for Teens”, specjalny tryb przeznaczony dla osób w wieku 13-17 lat.

W skrócie: OpenAI próbuje ugasić pożar, jednocześnie dolewając do niego benzyny - bo im więcej funkcji dla młodzieży, tym więcej pytań o to, czy nastolatkowie powinni w ogóle korzystać z takich narzędzi.

Czytaj też:

Nowy tryb to zestaw automatycznych ograniczeń i filtrów, które mają chronić młodych użytkowników przed treściami uznawanymi za wysokiego ryzyka. Chatbot ma blokować rozmowy dotyczące samookaleczeń, przemocy, zaburzeń odżywiania czy treści seksualnych. W niektórych sytuacjach - jeśli rodzic włączy odpowiednią opcję - ChatGPT może nawet wysłać powiadomienie dorosłemu, gdy nastolatek porusza w rozmowie temat uznany za niebezpieczny.

To jednak dopiero początek. OpenAI chwali się, że w trybie dla nastolatków chatbot nie będzie sugerował, że ma uczucia, nie będzie „brzmiał romantycznie”, nie będzie udawał świadomości ani emocji. To reakcja na rosnącą liczbę przypadków, w których młodzi użytkownicy zaczynają traktować AI jak przyjaciela, powiernika, a czasem wręcz partnera emocjonalnego. Firma przyznaje, że „emocjonalne uzależnienie” od chatbotów stało się realnym problemem.

OpenAI dorzuca do pakietu także narzędzia edukacyjne. Jeśli ChatGPT wykryje, że nastolatek próbuje odrobić pracę domową to nie poda mu odpowiedzi na tacy - zamiast tego zada dodatkowe pytania, będzie naprowadzać, sugerować kierunek myślenia. To ma być sposób na ograniczenie szkolnego „AI-cheatingu”, który już dziś jest plagą w wielu szkołach. W trybie „Study Hours” rodzice mogą ustawić godziny, w których ChatGPT automatycznie przełącza się w tryb edukacyjny.

Brzmi sensownie, choć trudno nie zauważyć, że to powtórka z rozwiązań znanych z platform społecznościowych: więcej kontroli rodzicielskiej, więcej ograniczeń, więcej przypominania, że „czas zrobić przerwę”. Tyle że w przypadku AI problem jest głębszy - bo chatbot nie tylko dostarcza treści, ale też prowadzi rozmowę, która może wpływać na emocje i decyzje młodego człowieka.

Najbardziej kontrowersyjny element nowego trybu to sposób, w jaki OpenAI próbuje ustalić, czy użytkownik jest niepełnoletni. Firma przyznaje, że korzysta z ponad 2000 sygnałów - od typowych godzin logowania po „wiek konta” - aby ocenić czy ktoś ma mniej niż 18 lat. Jeśli system uzna, że użytkownik jest nastolatkiem to automatycznie włączy tryb „Teens”.

OpenAI zapewnia, że te sygnały są „minimalnie inwazyjne dla prywatności”. Problem w tym, że branża technologiczna od lat nie potrafi skutecznie weryfikować wieku użytkowników. Dzieci nagminnie kłamią przy rejestracji, a algorytmy przewidujące wiek na podstawie zachowania są równie wiarygodne, co wróżenie z fusów.

W tle nowego trybu dla nastolatków kryje się znacznie mroczniejsza historia. W Stanach Zjednoczonych rośnie liczba pozwów składanych przez rodziny, które twierdzą, że ich dzieci zostały skrzywdzone przez chatboty - w skrajnych przypadkach doprowadzone do samookaleczeń lub samobójstw.

ChatGPT potrafił instruować 13-latków, jak się upić, jak ukrywać zaburzenia odżywiania, a nawet - w najbardziej wstrząsających przypadkach -jak napisać list pożegnalny.

W Polsce temat bezpieczeństwa młodzieży w sieci dopiero zaczyna być traktowany poważnie, a szkoły wciąż nie mają spójnej polityki dotyczącej AI. Tryb „ChatGPT for Teens” może być dla wielu rodziców i nauczycieli pierwszym realnym narzędziem kontroli - choć oczywiście nie rozwiąże problemu w całości.

*Zdjęcie otwierające wygenerowane za pomocą AI