OpenAI poświęca nasze bezpieczeństwo dla dolarów z giełdy. Obrzydliwe
OpenAI porzuca konia i lśniącą zbroję na rzecz spinania się w Excelu przed inwestorami.
W związku z nieuchronnie zbliżającym się debiutem na giełdzie, OpenAI porzuca kolejne wysiłki, które jakkolwiek nawiązywały do pierwotnej misji organizacji. Firma Sama Altmana rozwiązała zespół Preparedness, którego zadaniem było ocenianie, czy rozwijane przez nią modele sztucznej inteligencji mogą stwarzać poważne lub katastrofalne zagrożenia oraz opracowywanie sposobów ograniczania tych ryzyk.
Koniec z przygotowaniami na apokalipsę AI. OpenAI ma ważniejsze sprawy
Informację o rozwiązaniu zespołu podał "Financial Times", powołując się na kilka osób zaznajomionych ze zmianami w OpenAI. Jednostka została rozwiązana pod koniec lipca, a odpowiedzialność za poszczególne obszary związane z bezpieczeństwem, w tym zagrożenia biologiczne i cyberbezpieczeństwo, została przeniesiona do istniejących już zespołów. Zmiana jest częścią kolejnej reorganizacji firmy, która przygotowuje się do potencjalnego debiutu giełdowego.
Preparedness powstał w październiku 2023 roku, czyli w okresie, gdy OpenAI mocno akcentowało konieczność przygotowania się na zagrożenia związane z rozwojem coraz bardziej zaawansowanych modeli. Na czele zespołu stanął wówczas profesor Aleksander Mądry z Massachusetts Institute of Technology. OpenAI deklarowało, że jednostka będzie zajmować się śledzeniem, prognozowaniem i ograniczaniem katastroficznych zagrożeń związanych z przyszłymi systemami AI.
Zakres działania zespołu obejmował między innymi możliwość wykorzystania sztucznej inteligencji do tworzenia broni biologicznej, ataków cybernetycznych czy prowadzenia zaawansowanej inżynierii społecznej. Firma wskazywała również na zagrożenia chemiczne, radiologiczne i nuklearne oraz możliwość autonomicznej replikacji i adaptacji systemów AI. Wśród analizowanych scenariuszy znajdowały się także sytuacje, w których modele mogłyby wykorzystać swoje zdolności do przekonywania i oszukiwania ludzi.
OpenAI wciąż ma interesować się tym, czy AI będzie krzywdzić ludzi
Według "Financial Times" odpowiedzialność za poszczególne obszary została rozdzielona pomiędzy istniejące zespoły. Dylan Scandinaro, który w lutym tego roku przeszedł do OpenAI z Anthropic i kierował Preparedness, ma skoncentrować się na konsekwencjach rozwoju tak zwanej recursive self-improving AI, czyli systemów zdolnych do samodzielnego zwiększania swoich możliwości oraz trenowania kolejnych modeli.
Rozwiązanie Preparedness jest jednak kolejną zmianą dotyczącą zespołów odpowiedzialnych za bezpieczeństwo w OpenAI. Wcześniej firma zlikwidowała między innymi zespoły zajmujące się AGI readiness oraz superalignment - odpowiadające za odpowednio ewaluację tego jak jesteśmy przygotowani na AI równie mądrą lub inteligentyniejszą niż człowiek, oraz kontrolowania i kierowania tego typu AI. Jan Leike, który współkierował tym drugim zespołem, odszedł z OpenAI w 2024 roku. Przyczynę swojej rezygnacji wiązał wówczas z przekonaniem, że bezpieczeństwo AI zaczęło ustępować miejsca tworzeniu "lśniących produktów".
W ostatnich miesiącach z OpenAI odeszli także inni przedstawiciele kierownictwa i zespołów związanych z bezpieczeństwem. Firma rozstała się między innymi z szefową działu etyki Chloé Bakalar, Chief Futurist Joshem Achiamem oraz szefem bezpieczeństwa Johannesem Heidecke. Wcześniej ze stanowiska odszedł również dyrektor finansowy i operacyjny Brad Lightcap, który w kwietniu został przesunięty do roli związanej z "projektami specjalnymi"/
Z kolei sam Sam Altman miał polecić pracownikom ograniczenie pobocznych projektów, i skoncentrowanie się przede wszystkim na ChatcieGPT oraz rywalizacji z Anthropic o klientów biznesowych. Według "Financial Times" reorganizacje są częścią przygotowań do potencjalnego debiutu giełdowego, który może wycenić OpenAI nawet na około 1 bln dolarów.
Czytaj też:
Redaktorka Spider's Web specjalizująca się w tematykach sztucznej inteligencji, smartfonów i oprogramowania. Jako sześciolatka powiedziała w wywiadzie dla lokalnej telewizji, że chce zostać dziennikarką. Dzisiaj jest absolwentką dziennikarstwa i komunikacji społecznej na Akademii Humanistyczno-Ekonomicznej w Łodzi. Od dziecka pasjonuje się szeroko pojętymi grami i technologią, a w gimnazjum zapałała miłością do grafiki komputerowej i elektroniki użytkowej. Swoją pasję przekuła w działalność dziennikarską. Prywatnie miłośniczka psów, gotowania i literatury faktu.