Polityk miał wygłosić ważne przemówienie. Odczytał instrukcję od chatbota
Jest cienka granica między korzystaniem z AI a bezrefleksyjnym kopiowaniem. Pewien polityk właśnie przebiegł przez nią sprintem.
Jesteśmy otoczeni przez tekst generowany przez AI, w mniejszym lub większym stopniu, ale jednak. Nie jest to skrajnie złe zjawisko jeżeli osoba używająca tego tekstu przynajmniej przeczyta i zredaguje treść przed jej wykorzystaniem. Ale jeżeli pierwsze czytanie odbędzie się w obecności publiczności, kamer, podczas posiedzenia Zgromadzenia Ustawodawczego lokalnego samorządu, a ty sam jesteś politykiem, to gwarantuje, że zakończy się to skandalem.
Kanadyjski polityk na oczach wszystkich odczytał instrukcję pozostawioną przez AI
Przekonał się o tym Bill Oliver, członek Zgromadzenia Ustawodawczego prowincji Nowy Brunszwik w Kanadzie, który podczas oficjalnego wystąpienia odczytał fragment brzmiący jak wstęp do odpowiedzi wygenerowanej przez chatbota AI.
Do zdarzenia doszło podczas przemówienia w legislaturze Nowego Brunszwiku. Bill Oliver, reprezentujący Postępowo-Konserwatywną Partię (Progressive Conservative Party), mówił o funkcjonowaniu instytucji rzeczników i oczekiwaniach obywateli wobec ich kompetencji. W pewnym momencie, zamiast płynnie kontynuować wypowiedź, przeczytał zdanie: "Oto bardziej naturalna, płynna wersja tego fragmentu, która brzmi raczej jak przemówienie legislacyjne niż seria krótkich tez".
Tego typu formułka przypomina standardową odpowiedź generowaną przez duże modele językowe, które przed przedstawieniem gotowego tekstu proponują jego bardziej naturalną lub formalną wersję. Wiele chatbotów AI wykorzystuje niemal identyczne zwroty podczas redagowania dokumentów, wiadomości czy przemówień.
Nagranie początkowo nie wzbudziło większego zainteresowania, jednak kilka tygodni później fragment wystąpienia zaczął krążyć w mediach społecznościowych, między innymi na Redditcie i Threads. Sprawę opisały następnie największe kanadyjskie media, w tym CBC News oraz Toronto Star.
O ile media musiały ograniczyć się do opisania nagrania, o tyle internauci nie pozostawili na Olivierze suchej nitki. W wątku w serwisie Reddit pojawiało się setki kąśliwych komentarzy wskazujących m.in. że uczniowie szkół średnich byliby oceniani surowiej za pozostawienie w pracy fragmentu wygenerowanego przez AI. Inni komentujący porównywali sytuację do przypadków prawników, którzy składali do sądów dokumenty zawierające niezweryfikowane treści lub nieistniejące orzeczenia wygenerowane przez modele językowe.
Jakkolwiek zabawna nie byłaby ta wpadka, jest ona przerażająca
Coraz większa dostępność narzędzi AI sprawia, że przygotowanie przemówienia zajmuje dziś kilka minut. Samo korzystanie z takich rozwiązań nie stanowi problemu, dopóki człowiek pozostaje autorem końcowej wersji tekstu. Kłopot pojawia się gdy sztuczna inteligencja przestaje być jedynie pomocnikiem i przejmuje rolę autora - nie tylko same przygotowanie i redakcję, ale także proces wnioskowania i refleksji.
Przemówienie polityka nie ma jedynie przekazywać informacji. Powinno również świadczyć o tym, że jego autor rozumie temat, nad którym się pochyla, i bierze odpowiedzialność za własne słowa. Bezmyślne odczytanie tekstu wygenerowanego przez AI, łącznie z fragmentem instrukcji pozostawionej przez model daje dokładnie odwrotny efekt, doprowadzając do erozji zaufania społecznego wobec polityka - a w dłuższej perspektywie także do rządu i systemu władzy.
A wystarczyło kilka minut, by przeczytać i poprawić treść. Albo lepiej! Po prostu usiąść i napisać przemówienie samemu.
Czytaj też:
Redaktorka Spider's Web specjalizująca się w tematykach sztucznej inteligencji, smartfonów i oprogramowania. Jako sześciolatka powiedziała w wywiadzie dla lokalnej telewizji, że chce zostać dziennikarką. Dzisiaj jest absolwentką dziennikarstwa i komunikacji społecznej na Akademii Humanistyczno-Ekonomicznej w Łodzi. Od dziecka pasjonuje się szeroko pojętymi grami i technologią, a w gimnazjum zapałała miłością do grafiki komputerowej i elektroniki użytkowej. Swoją pasję przekuła w działalność dziennikarską. Prywatnie miłośniczka psów, gotowania i literatury faktu.