OpenAI zrzuca polityczną bombę. ChatGPT narzędziem mrocznej propagandy
Główny badacz zespołu ds. wywiadu i śledztw w OpenAI, Ben Nimmo, ostrzegł podczas konferencji prasowej, że obserwują rosnącą gamę tajnych operacji wykorzystujących rosnącą gamę taktyk pochodzących z Chin.
Najbardziej intrygującą z odkrytych operacji była ta, którą OpenAI ochrzcił mianem Sneer Review. Chińscy operatorzy wykorzystywali ChatGPT do generowania krótkich komentarzy, które następnie publikowali na TikToku, X (dawnym Twitterze), Reddicie, Facebooku i innych platformach w języku angielskim, chińskim i urdu. Tematy były zaskakująco różnorodne - od krytyki decyzji administracji Trumpa o zlikwidowaniu amerykańskiej Agencji Rozwoju Międzynarodowego, przez posty zarówno wspierające, jak i krytykujące te działania, aż po negatywne komentarze na temat tajwańskiej gry wideo, w której gracze mają za zadanie pokonać Chińską Partię Komunistyczną.
W jednym z przykładów operacja generowała posty na X krytykujące taryfy celne Trumpa, takie jak Taryfy celne sprawiają, że importowane towary są nieprawdopodobnie drogie, a jednak rząd szafuje pomocą zagraniczną. Kto ma dalej to jeść?. Operatorzy nie tylko tworzyli treści, ale także komentarze odpowiadające na te posty, tworząc sztuczną dyskusję wokół wygenerowanych tematów.
Czytaj też:
Najbardziej absurdalnym elementem całej operacji było odkrycie, że chińscy propagandyści używali ChatGPT do pisania własnych ocen wydajności opisujących szczegółowo kroki podjęte w celu ustanowienia i prowadzenia operacji. To niemal komediowe ujęcie nowoczesnego szpiegostwa - agenci wywiadu korzystający z AI do automatyzacji... swojej własnej biurokracji.
Globalna skala problemu
Problem nie ogranicza się wyłącznie do Chin. W najnowszym raporcie OpenAI wspomina o zakłóceniu tajnych operacji wpływu prawdopodobnie pochodzących z Rosji i Iranu, operacji spamowej przypisywanej komercyjnej firmie marketingowej z Filipin, oszustwa rekrutacyjnego związanego z Kambodżą oraz zwodniczej kampanii zatrudnieniowej noszącej znamiona operacji powiązanych z Koreą Północną. To pokazuje, że wykorzystanie AI do działań propagandowych i dezinformacyjnych stało się globalnym problemem, a nie tylko chińską specjalnością.
Ben Nimmo podkreślił różnorodność taktyk i platform wykorzystywanych przez te operacje, jednak zauważył, że większość została zatrzymana we wczesnych stadiach i nie dotarła do szerokiej publiczności rzeczywistych użytkowników. Generalnie nie obserwowaliśmy, aby te operacje uzyskiwały większe zaangażowanie dzięki wykorzystaniu AI - stwierdził Nimmo. Dla tych operacji lepsze narzędzia niekoniecznie oznaczają lepsze wyniki.
Niedobre wieści w trudnych czasach
Te odkrycia pojawiają się w czasie narastających napięć między Stanami Zjednoczonymi a Chinami w kwestii technologii i bezpieczeństwa narodowego. Rząd USA wprowadził i rozszerzył szereg programów sankcji ekonomicznych i handlowych oraz kontroli eksportu, które są skierowane przeciwko chińskim podmiotom i obywatelom z powodów bezpieczeństwa narodowego. Obejmują one między innymi ograniczenia w dostępie Chin do zaawansowanych chipów komputerowych, rozwoju i utrzymywania superkomputerów oraz produkcji zaawansowanych półprzewodników.
W odpowiedzi Chiny wydały przepisy i prawa mające na celu przeciwdziałanie wpływowi zagranicznych sankcji na osoby chińskie, umożliwiając chińskim obywatelom, osobom prawnym i innym organizacjom dochodzenie roszczeń w wyniku zakazów lub ograniczeń normalnych działań gospodarczych, handlowych i powiązanych z osobami z innych krajów. Chiny wprowadziły również cła na niektóre amerykańskie towary i mogą nałożyć dodatkowe cła na produkty amerykańskie w przyszłości.
Ujawnienia OpenAI stanowią ważny punkt zwrotny w zrozumieniu, jak nowoczesne technologie AI mogą być wykorzystywane do celów geopolitycznych. Podczas gdy większość wykrytych operacji została zatrzymana we wczesnych stadiach i nie osiągnęła znaczącego zasięgu, sam fakt ich istnienia pokazuje rosnące zainteresowanie państw wykorzystaniem AI do działań wpływu i propagandy.
W miarę jak AI staje się coraz bardziej zaawansowane i dostępne możemy spodziewać się dalszych prób wykorzystania go do celów geopolitycznych. Kluczowe będzie zachowanie równowagi między otwartością i dostępnością technologii a bezpieczeństwem i ochroną przed nadużyciami. OpenAI swoim raportem pokazało, że branża technologiczna jest świadoma tych zagrożeń i aktywnie nad nimi pracuje - pozostaje mieć nadzieję, że te wysiłki będą nadążać za kreatywnością tych, którzy próbują wykorzystać AI do mniej szlachetnych celów.
