Napisał książkę o prawdzie w erze AI. ChatGPT zmyślił mu cytaty
Pomimo wymownego tytułu "Przyszłość prawdy: jak sztuczna inteligencja zmienia rzeczywistość" jedna z bardziej wyczekiwanych książek tego roku okazała się być nafaszerowana cytatami i stwierdzeniami wymyślonymi przez AI.
Internet wciąż żyje zeszłotygodniowymi słowami Olgi Tokarczuk o jej korzystaniu z generatywnej sztucznej inteligencji. Choć zrozumiała jest frustracja faktem, że literacka noblistka używa narzędzia powszechnie znanego z plagiatowania, bycia wykorzystywanym do pracy niesamodzielnej oraz wymyślania faktów, to słowa Tokarczuk mają się nijak do wyczynu literackiego Stevena Rosenbauma.
Książka o "prawdzie w erze AI" jest pełna wymysłów chatbotów
Rosenbaum jest amerykańskim producentem medialnym oraz dyrektorem organizacji Sustainable Media Center. Kilka tygodni temu wydał on swoją czwartą książkę, zatytułowaną "The Future of Truth: How AI Reshapes Reality". "Przyszłość prawdy: jak sztuczna inteligencja zmienia rzeczywistość" - jak możemy przetłumaczyć tytuł - poświęcona jest wpływowi sztucznej inteligencji na prawdę, media, demokrację i funkcjonowanie współczesnego internetu. Publikację promowały liczne amerykańskie media jako ważny głos w dyskusji o konsekwencjach rozwoju generatywnej AI.
Jak ustalił "The New York Times", książka zawiera jednak szereg zmyślonych lub błędnie przypisanych cytatów. Dziennik przeanalizował fragmenty publikacji i skontaktował się z osobami, którym przypisano konkretne wypowiedzi. Kilka z nich potwierdziło, że nigdy nie powiedziały słów znajdujących się w książce Rosenbauma.
Jednym z najbardziej skandalicznych przykładów inwencji twórczej AI okazał się cytat przypisany dziennikarce technologicznej Karze Swisher. W książce można przeczytać, że "najbardziej zaawansowany model językowy AI jest jak lustro, które odbija naszą moralność - wygładzoną i elokwentną, ale ostatecznie pustą pod powierzchnią”. Cytat rozwija również myśl, według której modele językowe nie są ograniczane żadnym kodeksem etycznym, lecz wyłącznie danymi treningowymi i celami wyznaczonymi przez twórców.
Swisher zaprzeczyła jednak, by kiedykolwiek wypowiedziała takie słowa. - Nigdy czegoś takiego nie powiedziałam - stwierdziła w rozmowie z NYT. - Według ChataGPT brzmię tutaj, jakbym miała kij w tyłku - dodała ironicznie.
Podobne problemy odkryto również przy cytatach przypisywanych Lisie Feldman Barrett, psycholożce i autorce książki "How Emotions Are Made". Rosenbaum napisał, że Barrett miała stwierdzić: "Emocje nie są jedynie reakcją na prawdę - są sposobem, w jaki konstruujemy prawdę". Naukowczyni przekazała jednak, że taki fragment nigdy nie pojawił się w jej książce i zawiera stwierdzenia niezgodne z jej podejściem naukowym.
Część błędów miała bardziej skomplikowany charakter. Meredith Broussard z New York University wskazała, że przypisany jej cytat faktycznie istnieje, ale pochodzi z wywiadu radiowego, a nie z książki wskazanej przez Rosenbauma. Lee McIntyre z Boston University zauważył z kolei, że fragment przypisanej mu wypowiedzi odpowiada jego poglądom, jednak nie użył dokładnie takich słów.
Po pytaniach ze strony "The New York Times" Rosenbaum opublikował oświadczenie, w którym przyznał, że podczas pracy nad książką korzystał z ChatGPT oraz Claude’a. - Jak ujawniłem w podziękowaniach książki, używałem narzędzi AI, takich jak ChatGPT i Claude, podczas researchu, pisania oraz edycji - napisał autor. - Nie usprawiedliwia to tych błędów, za które biorę pełną odpowiedzialność.
Rosenbaum zapewnił również, że rozpoczął przegląd całej publikacji i współpracuje z wydawcą nad poprawioną wersją książki. - Pracuję obecnie z redaktorami nad dokładnym sprawdzeniem i szybkim poprawieniem wszystkich problematycznych fragmentów; przyszłe wydania zostaną skorygowane - przekazał autor.
Jednocześnie w oświadczeniu przekazanym redakcji dziennika, Rosenbaum stwierdził, że sytuacja wokół książki "stanowi ostrzeżenie przed zagrożeniami związanymi z badaniami i weryfikacją wspomaganymi przez sztuczną inteligencję" i "właśnie dlatego" napisał tę książkę. Nie wiem jak dla was, ale dla mnie ta sytuacja bardziej stanowi przykład współczesnej satyry - autorytet książki o tym, jak sztuczna inteligencja podważa prawdę, został podważony przez sztuczną inteligencję.
W tej sytuacji widzę także inspirację dla branży wydawniczej, która powinna zacząć rozważać reklamowanie nowych publikacji słowami "Książka napisana w 100 proc. przez człowieka".
Czytaj też:
