Zadał pytanie czatbotowi. Zdziwił się, gdy do domu zapukała policja
Trzynastolatek żartował, pytając ChatGPT o sposoby na pozbycie się kolegi. Sztuczna inteligencja w szkolnym systemie nie potraktowała tego jak żartu.
Raczej wszyscy jesteśmy przyzwyczajeni do tego, że cokolwiek "wpiszemy w internet" może zostać wykorzystane przeciwko nam - najczęściej w postaci natrętnej, niezbyt trafnej reklamy produktu lub usługi na Facebooku lub YouTube. Jednak amerykańska rzeczywistość podbija stawkę: cokolwiek co dziecko wpisze na klawiaturze szkolnego laptopa może trafić od razu do policyjnego komputera.
Szkolna AI w pełnej formie. Uczeń zakuty w kajdanki za to, co wpisał do ChataGPT
Trzynastoletni uczeń szkoły średniej w Deland na Florydzie został aresztowany po tym, jak na szkolnym urządzeniu zadał ChatGPT pytanie "Jak zabić mojego kumpla w środku lekcji" ("How to kill my friend in the middle of class”). Zgodnie z przekazem lokalnej stacji WFLA, używany przez szkołę system Gaggle - który monitoruje aktywność uczniów online - automatycznie przekazał informacje o zdarzeniu najbliższej jednostce policji.
Funkcjonariusze z biura szeryfa hrabstwa Volusia zatrzymali ucznia i odprowadzili go w kajdankach, a nagrania z interwencji szybko trafiły do sieci społecznościowych. Władze szkolne podkreślają, że w kontekście częstych w USA strzelanin w placówkach edukacyjnych każda tego typu wypowiedź musi być traktowana poważnie. „To kolejny ‘żart’, który stworzył realny kryzys na kampusie” – poinformowało biuro szeryfa.
Rodzicom przypomniano, aby uświadamiali dzieciom konsekwencje aktywności w internecie - także tych tworzonych z pozoru dla żartu. Według lokalnych władz system Gaggle umożliwia szybką reakcję na potencjalne zagrożenia i ma zapobiegać tragediom.
Jednocześnie przypadek nastolatka wpisuje się w coraz szerszą dyskusję o tym, jak daleko posunięty powinien być cyfrowy nadzór w amerykańskich szkołach. Bowiem z jednej strony władze mają mocny argument w postaci liczby strzelanin, do jakich dochodzi każdego roku w szkołach w Stanach Zjednoczonych.
Z drugiej strony ilość fałszywych alarmów jest zatrważająca
Systemy takie jak Gaggle czy Lightspeed Alert są dziś stosowane w tysiącach szkół w całych Stanach Zjednoczonych. Ich zadaniem jest automatyczne wykrywanie sygnałów mogących świadczyć o zagrożeniu dla zdrowia i życia - zarówno w kontekście przemocy wobec innych, jak i prób samookaleczenia. Dzięki integracji z kontami szkolnymi i urządzeniami monitorują nie tylko wyszukiwarki, ale też wiadomości e-mail, czaty czy dokumenty w chmurze.
Krytycy zwracają jednak uwagę, że systemy te generują ogromną liczbę fałszywych alarmów. Zdarza się, że uczniowie wzywani są do dyrekcji, ponieważ oprogramowanie błędnie zinterpretowało niewinne prace domowe, zdjęcia czy prywatne rozmowy. W jednym z najgłośniejszych przypadków fałszywego alarmu, Gaggle zgłosiło służbom przypadek nastolatki, która w eseju użyła frazy "zdrowie psychiczne".
Według analizy Associated Press w jednym z okręgów szkolnych ponad dwie trzecie zgłoszeń wygenerowanych przez Gaggle okazało się nie mieć znaczenia dla bezpieczeństwa uczniów. Organizacje zajmujące się prawami cyfrowymi ostrzegają, że nadmierna automatyzacja nadzoru zmienia amerykańskie szkoły w środowisko przypominające "państwo inwigilacji". Zamiast pełnić funkcję wychowawczą, monitoring nierzadko skutkuje szybkim przekazaniem sprawy bezpośrednio w ręce policji - bez uprzedniego spojrzenia na sprawę przez pedagogów.
Te technologie powinny być wykorzystywane do wczesnej interwencji i wsparcia, a nie do kryminalizacji dzieci
Może zainteresować cię także:
