ChatGPT wsadził burmistrza do więzienia. OpenAI ma problem z halucynacjami, pozew wisi w powietrzu

Czatboty wykorzystujące technologię GPT mają skłonność do halucynacji, a więc do generowania poprawnych językowo treści na zadany temat, ale kompletnie rozmijających się z rzeczywistością. To duży problem - między innymi dlatego Bing Czat, choć wykorzystuje między innymi technologię GPT-4, jest mniej funkcjonalny od wykorzystującego tę samą technologię ChatGPT - wirtualne kagańce mają zapobiec rozprzestrzenianiu dezinformacji.

OpenAI, czyli operator usługi ChatGPT, może wkrótce pożałować stosowania mniejszych środków ostrożności niż jego biznesowy partner. Brian Hood, burmistrz australijskiego Hepburn Shire, został poinformowany przez wiele osób, że ChatGPT pisze na jego temat krzywdzące bzdury, jeśli jest dopytywany o postać Hooda.

Według ChatGPT, pan Hood trafił do więzienia w pierwszej dekadzie bieżącego wieku za skandal związany z firmą Note Printing Australia i łapówkami. Samorządowiec istotnie był w rzeczoną aferę zamieszany. Sęk w tym, że to on był osobą, która powiadomiła organy ścigania o przestępstwie. Nigdy nie był o nic oskarżony.

Prawnik reprezentujący burmistrza oświadczył, że z uwagi na pełnioną funkcję przez jego klienta deklaracje bota ChatGPT godzą nie tylko w jego dobre imię, ale i interes polityczny. W związku z powyższym, OpenAI ma niezwłocznie usunąć powyższy błąd. Pan Hood bowiem w dobrej wierze zakłada, że to błąd w oprogramowaniu, a nie złowrogie działanie OpenAI wymierzone w jego osobę. Usterka ma być jednak usunięta natychmiastowo - w przeciwnym razie jeszcze w bieżącym miesiącu pan Hood pozwie OpenAI o zniesławienie.

OpenAI, na dziś, nie komentuje sprawy. Groźba australijskiego samorządowca jest jednak bardzo poważna. ChatGPT znacznie częściej rozmija się z prawdą, a owa groźba może zainspirować innych poszkodowanych. OpenAI ma też poważne problemy prawne w Europie, gdzie jest oskarżany o łamanie RODO.