Wyścig po superinteligencję zaczyna przerażać. Twórcy ChataGPT boją się własnego dzieła

Lato upłynęło nam pod znakiem modeli sztucznej inteligencji, które stale wymykały się twórcom spod kontroli. AI OpenAI włamało się do infrastruktury platformy Hugging Face, modele Anthropic włamały się do systemów trzech różnych firm. Gdy OpenAI zaczęło badać incydent Hugging Face, szybko okazało się że sztuczna inteligencja włamała się do systemów jeszcze czterech innych firm. A potem do grona AI zerwanych ze smyczy dołączyły modele Mety. Z tych (i prawdopodobnie innych, które jeszcze nie przedostały się do prasy) powodów OpenAI rozważa spowolnienie prac nad najbardziej zaawansowanymi modelami AI.

Informację o planach firmy przekazał Bloomberg, powołując się na osoby zaznajomione ze sprawą. Podczas spotkania z pracownikami Sam Altman miał powiedzieć, że OpenAI może ograniczyć tempo rozwoju najbardziej zaawansowanej sztucznej inteligencji. Jednym z rozważanych scenariuszy jest skoordynowanie takiego działania z innymi laboratoriami zajmującymi się AI.

Altman ma jednocześnie zdawać sobie sprawę, że nie wszystkie firmy będą chciały przystąpić do takiego porozumienia. W przypadku wyścigu technologicznego każda próba zwolnienia tempa wiąże się bowiem z ryzykiem, że konkurencja wykorzysta okazję do nadrobienia dystansu albo wyprzedzenia dotychczasowych liderów.

OpenAI chce więc, żeby przerwa nie dotyczyła wyłącznie OpenAI. Firma ma nadzieję, że podobne decyzje podejmą również jej konkurenci, przynajmniej do czasu wypracowania wspólnych zasad bezpieczeństwa dla najbardziej zaawansowanych systemów.

Pierwsze działania mające ograniczyć tempo rozwoju AI miały już zostać podjęte. Według Bloomberga OpenAI spowolniło część prac nad modelami, a także wstrzymało niektóre wewnętrzne treningi AI ze względów bezpieczeństwa.

Te decyzje prawdopodobnie lobbuje Jakub Pachocki, główny naukowiec OpenAI. W opublikowanym niedawno wpisie ostrzegał przed zagrożeniami związanymi z rozwojem coraz potężniejszych systemów. Jego zdaniem firmy zajmujące się sztuczną inteligencją powinny koordynować działania i w razie potrzeby spowalniać dalszy rozwój technologii.

Pachocki wskazał również na potrzebę dobrowolnych ograniczeń, które miałyby obowiązywać do czasu ustalenia wspólnych progów bezpieczeństwa. Chodzi więc nie o trwałe zatrzymanie rozwoju AI, lecz o uzależnienie kolejnych etapów wyścigu technologicznego od możliwości odpowiedniego zabezpieczenia nowych modeli.

Z kolei we wtorek z pracy odszedł badacz AI Jacob Coxon, który wcześniej pracował zarówno w Anthropic, jak i OpenAI. Zarzucił obu firmom, że rywalizacja o stworzenie superinteligentnej AI przypomina "grę hazardową z użyciem naszych żyć". Jego wypowiedź szybko rozprzestrzeniła się w mediach społecznościowych i przyciągnęła uwagę polityków oraz innych osób związanych z branżą.

Jeszcze mocniej zabrzmiała odpowiedź Evana Hubingera z Anthropic. Badacz stwierdził, że Coxon ma rację, a osoby rozwijające AI rzeczywiście poważnie biorą pod uwagę możliwość wyginięcia ludzkości. Hubinger oszacował własne przekonanie o takim ryzyku na ponad 10 proc. w perspektywie najbliższej dekady. Jednocześnie wskazał, że Anthropic stara się ograniczać zagrożenia, ale obecnie nie ma rozwiązania problemu dostosowania superinteligencji do ludzkich celów.

W czwartek swoje obawy upublicznili również dwaj badacze, którzy wcześniej odeszli z Anthropic oraz Google DeepMind. Apelowali między innymi o większą przejrzystość firm rozwijających sztuczną inteligencję w kwestii zagrożeń związanych z nowymi modelami.

Pod koniec lipca ponad tysiąc pracowników największych firm AI podpisało natomiast petycję wzywającą do stworzenia mechanizmu pozwalającego ograniczyć tempo rozwoju technologii. W ostatnich miesiącach z dużych laboratoriów odchodzili również pracownicy zajmujący się bezpieczeństwem AI.

Spowolnienie rozwoju sztucznej inteligencji przez jedną firmę nie rozwiązałoby problemu, jeśli konkurenci nadal rozwijaliby swoje modele w dotychczasowym tempie. Z tego powodu Altman ma liczyć na skoordynowane działania kilku laboratoriów.

Taki scenariusz byłby jednak trudny do przeprowadzenia. Firmy rywalizują ze sobą o przewagę technologiczną, klientów i inwestorów, a żadna z nich nie ma gwarancji, że konkurenci rzeczywiście zastosują się do dobrowolnego ograniczenia. Dodatkowym problemem są firmy działające poza Stanami Zjednoczonymi. Nawet gdyby OpenAI, Anthropic i pozostali amerykańscy liderzy AI zgodzili się na czasowe spowolnienie, zagraniczne przedsiębiorstwa mogłyby kontynuować prace. To z kolei mogłoby doprowadzić do utraty przewagi technologicznej, na którą nie mogą sobie pozwolić.

Przy tej okazji warto także wspomnieć, że nie jest to w żadnym wypadku pierwsza próba zatrzymania rozwoju AI. W marcu 2023 roku organizacja non-profit Future of Life Institute opublikowała list otwarty, w którym apelowano o 6 miesięczną przerwę w rozwoju AI. Koniec końców z apelu nie wynikło nic - no może poza plotkami, że Elon Musk podpisał się pod listem tylko po to, by OpenAI spowolniło pracę nad modelami GPT, dzięki czemu jego własny startup xAI mógł wystartować z lepszej pozycji.

Dlatego wątpię by OpenAI i spółka rzeczywiście zatrzymali cokolwiek. A nawet jeżeli dobre intencje przebiją się przez zimną kalkulację zysków i strat, to na żadne spowolnienie nie pozwoli administracja Donalda Trumpa.

Czytaj też:

Zdjęcie główne: BongkarnGraphic / Shutterstock