Oto mroczna strona AI. Google mówi, kto i jak używa jej przeciwko nam
Zespół Google ds. analizy zagrożeń opublikował szczegółowy raport, wyjaśniający jak podmioty z wrogich Zachodowi państw wykorzystują nasze ulubione czatboty do swoich niecnych celów.
Z generatywnej AI korzystają studenci, programiści, ludzie wykorzystujący luki w działaniu algortymu Facebooka, ale także podmioty powiązane z rządami. Tak wynika z nowo publikowanego przez Google raportu dotyczącego tego, w jaki sposób zagraniczne podmioty próbowały wykorzystać chatbota Google Gemini, a także inne publicznie dostępne narzędzia generatywnej sztucznej inteligencji.
Co łączy Chiny, Iran, Koreę Północną i Rosję? Korzystanie z generatywnej AI
Nowy raport Grupy Google ds. analizy zagrożeń (Google's Threat Intelligence Group, GTIG) szczegółowo opisuje, w jaki sposób podmioty powiązane bezpośrednio z rządami w Moskwie, Teheranie, Pekinie i Pjongjangu przez ostatni rok wykorzystywały platformę Gemini oraz inne narzędzia generatywnej sztucznej inteligencji do swoich celów. W raporcie stwierdzono, że chociaż technologia ta oferuje "pewne korzyści" tym podmiotom, to jednocześnie zasadniczo nie zmieniła ich dotychczasowych możliwości.
Raport analizuje działania grup zajmujących się zaawansowanymi trwałymi zagrożeniami (APT) i operacjami informacyjnymi (IO). Jak wynika z treści raportu, grupy te wykorzystują sztuczną inteligencję głównie do zadań takich jak sprawdzanie możliwości wykorzystania zachodnich narzędzi i usług do własnych celów, generowanie treści do phishingu i rozwiązywanie problemów z kodem programistycznym, a także w tworzeniu i tłumaczeniu treści w ramach wojny informacyjnej. Raport został stworzony na podstawie informacji, jakie GTIG zebrało z aktywności na platformie Google Gemini w 2024 roku.
Najbardziej zaangażowanymi użytkownikami AI Google są użytkownicy powiązani z irańskim rządem. Irańskie grupy APT wykorzystują Gemini do szerokiego zakresu działań, w tym rozpoznania organizacji obronnych i ekspertów, badania luk w zabezpieczeniach i tworzenia treści dla potencjalnych kampanii phishingowych. Oprócz Gemini irańskie grupy wykorzystują także narzędzia wspierające pisanie - takie jak wtyczki weryfikujące i poprawiające słownictwo oraz gramatykę, by tworzyć wiarygodne treści w języku angielskim.
W przypadku rosyjskich podmiotów, użycie Gemini i innych narzędzi AI skupione jest wokół programowania - przede wszystkim modyfikowanie publicznie dostępnego złośliwego kodu i tłumaczenie go na inne języki programowania, a także dodawanie funkcji szyfrowania do istniejącego kodu. Zdaniem GTIG rosyjscy użytkownicy mają być wstrzemięźliwi w używaniu zachodnich rozwiązań w obawie o wyciek danych i zamiast tego kierują się w stronę rosyjskiej AI lub systemów hostowanych lokalnie.
Z kolei podmioty wspierane przez chiński rząd wykorzystują platformę Gemini AI do "rekonesansu", tworzenia skryptów i uzyskiwania głębszego dostępu do "sieci docelowych". W raporcie zauważono, że korzystanie z Gemini przez Chińczyków często przypomina aktywność administratora infrastruktury IT, koncentrując się na usprawnianiu, rozwiązywaniu problemów lub automatyzacji zadań.
Chińczycy w szczególności wykorzystywali Gemini do takich działań, jak badanie amerykańskich organizacji wojskowych i informatycznych, gromadzenie informacji na temat rządu USA i prób uzyskania dostępu do platformy Microsoft Exchange. Korzystali oni również z Gemini do badania luk w zabezpieczeniach czy opracowania kodu umożliwiającego dostęp do dzienników zdarzeń systemu Windows. W nielicznych przypadkach chińskie podmioty generowały publikacje prasowe w języku angielskim.
GTIG wykazało także dużą aktywność ze strony północnokoreańskiej. Podmioty mające być bezpośrednio połączone z rządem w Pjongjangu wykorzystywali platformę Gemini AI do wspierania różnych etapów "cyklu życia" cyberataku, w tym badania potencjalnej infrastruktury i dostawców bezpłatnego hostingu, rozpoznania potencjalnych celów ataków, oraz tworzenia złośliwych skryptów i technik unikania zachodnich systemów ochrony i obrony. Koreańczycy z Północy wykorzystywali Gemini także do badania tematów o znaczeniu strategicznym, takich jak południowokoreańska technologia wojskowa i nuklearna czy kryptowaluty.
Podmioty powiązane z Pjongjangiem bardzo często wykorzystywały narzędzia generatywnej sztucznej inteligencji - i to nie tylko od Google - w procesie rekrutacji na stanowiska zdalne w krajach zachodnich. AI pomagało jednostkom powiązanym z rządem w szukaniu stanowisk, generowaniu CV, listów motywacyjnych oraz zdjęć.
Może zainteresować cię także:
