Google dał się nabrać na fałszywkę Wikipedii. Uśmiercił szychę
W efekcie miliony użytkowników mogły zobaczyć informację, że Sam Altman nie żyje.
Jedną z moich ulubionych funkcji wyszukiwarki Google jest możliwość wpisania imienia i nazwiska dowolnej znanej osoby i możliwość natychmiastowego otrzymania jej metryczki. Jednak nie ufam tej funkcji bezgranicznie i zawsze sięgam dalej do innych źródeł informacji - i najnowsza wpadka Google'a pokazuje dlaczego powinieneś wziąć ze mnie przykład.
Wystarczyło kilka kliknięć na Wikipedii, żeby Google uśmiercił szefa OpenAI
12 sierpnia użytkownicy wyszukiwarki Google zaczęli zauważać, że informacje wyświetlane po wyszukaniu Sama Altmana - szefa OpenAI - zawierają nieprawdziwą datę jego śmierci. Przy jego nazwisku pojawiła się informacja sugerująca, że zmarł tego samego dnia. W sieci szybko zaczęły pojawiać się pytania, czy doszło do śmierci jednego z najbardziej rozpoznawalnych osób branży technologicznej.
Problem polegał na tym, że Sam Altman żyje, a Google wyświetlił użytkownikom fałszywą informację. Jak podał sam Google, źródłem błędu była edycja strony Altmana w Wikipedii. Ktoś celowo zmienił znajdujące się tam informacje, dopisując, że szef OpenAI nie żyje.
Mechanizm, który doprowadził do rozpowszechnienia fałszywej informacji, jest stosunkowo prosty. Google wykorzystuje publicznie dostępne źródła do budowania informacji prezentowanych w tzw. panelach wiedzy. Wikipedia jest jednym z miejsc, z których wyszukiwarka może pobierać dane dotyczące osób, firm i innych obiektów. Jeżeli ktoś zmieni informacje znajdujące się na publicznej stronie, błędne dane mogą więc zostać przejęte przez automatyczne systemy.
W przypadku Sama Altmana doszło właśnie do takiej sytuacji. Historia zmian jego strony w Wikipedii pokazuje wyjątkowo dużą aktywność 12 sierpnia. Business Insider zwrócił uwagę, że tego dnia dokonano aż 22 edycji strony. Dla porównania, od początku sierpnia przed tym incydentem strona była zmieniana zaledwie pięć razy, a każda z tych zmian przypadała na inny dzień.
O godzinie 9:47 UTC ktoś zmienił treść strony tak, aby sugerowała, że Sam Altman został zamordowany i zmarł 12 sierpnia. Zmiana nie pozostała jednak długo widoczna. O 10:29 UTC została cofnięta. Kolejne próby manipulowania stroną obejmowały następne fałszywe informacje dotyczące śmierci Altmana, zmianę jego nazwiska na "Gayman" oraz inne nieprawdziwe informacje.
Wikimedia Foundation, organizacja odpowiedzialna za Wikipedię, przekazała Business Insiderowi, że wszystkie wspomniane zmiany zostały szybko wykryte i cofnięte. Według fundacji poszczególne wandalizujące edycje były usuwane w czasie od jednej do 43 minut. Wolontariusze wystosowali również ostrzeżenia dotyczące wandalizmu, a strona Sama Altmana została objęta tzw. półochroną.
Półochrona ogranicza możliwość edytowania strony. W przypadku profilu Altmana mogą go teraz zmieniać wyłącznie użytkownicy posiadający konto od co najmniej czterech dni i mający na koncie minimum 10 edycji. Wikimedia Foundation podkreśliła przy tym, że wolontariusze regularnie monitorują zmiany na Wikipedii, a większość przypadków wandalizmu jest usuwana w ciągu około 10 minut.
Kto stoi za aktem wandalizmu? Sam Altman ma wrogów
W ostatnich miesiącach Sam Altman mierzył się z krytyką zarówno wewnątrz OpenAI, jak i poza firmą. Byli pracownicy i członkowie zarządu kwestionowali jego wiarygodność oraz sposób zarządzania firmą, wskazując m.in. na sprzeczne komunikaty, pomijanie części informacji dotyczących bezpieczeństwa modeli oraz decyzje, w których tempo rozwoju i komercjalizacja miały mieć pierwszeństwo przed bezpieczeństwem. Podobne zastrzeżenia formułowali byli czołowi pracownicy OpenAI, w tym Ilya Sutskever, Dario Amodei i Jan Leike.
Napięcia nie ograniczały się do kwestii wewnętrznych. Krytyka branży AI narastała również w związku z wpływem sztucznej inteligencji na rynek pracy oraz współpracą firm technologicznych z amerykańskim wojskiem. W lipcu przed siedzibą OpenAI w San Francisco zorganizowano protest, podczas którego ustawiono worki na zwłoki i pokazano nazwiska dzieci zabitych podczas amerykańskiego bombardowania irańskiej szkoły.
Jeszcze poważniejszy charakter miał kwietniowy atak na Altmana i OpenAI. 20-letni Daniel Moreno-Gama z Teksasu rzucił koktajlem Mołotowa na posesję Altmana, a następnie pojechał pod siedzibę OpenAI w San Francisco, gdzie próbował sforsować wejście i deklarował zamiar podpalenia budynku oraz zabicia znajdujących się w środku osób. Przy mężczyźnie znaleziono manifest sprzeciwiający się sztucznej inteligencji i kierownictwu firm z tej branży. Sam Altman został w nim wskazany jako "Ofiara nr 1". Atak był jednym z przykładów eskalacji wrogości wobec osób kierujących firmami rozwijającymi AI. W odpowiedzi Altman przyznał, że krytyka branży wynika z autentycznych obaw dotyczących skutków rozwoju tej technologii, ale zaapelował o ograniczenie przemocy i temperatury debaty.
Redaktorka Spider's Web specjalizująca się w tematykach sztucznej inteligencji, smartfonów i oprogramowania. Jako sześciolatka powiedziała w wywiadzie dla lokalnej telewizji, że chce zostać dziennikarką. Dzisiaj jest absolwentką dziennikarstwa i komunikacji społecznej na Akademii Humanistyczno-Ekonomicznej w Łodzi. Od dziecka pasjonuje się szeroko pojętymi grami i technologią, a w gimnazjum zapałała miłością do grafiki komputerowej i elektroniki użytkowej. Swoją pasję przekuła w działalność dziennikarską. Prywatnie miłośniczka psów, gotowania i literatury faktu.