"Musimy zaakceptować zło". Złowieszcze słowa szefa OpenAI o przyszłości sztucznej inteligencji
Sam Altman nie zamierza poprzeć daleko idących ograniczeń rozwoju sztucznej inteligencji. Szef OpenAI uważa, że świat powinien zaakceptować część negatywnych skutków rozwoju AI.
Dotychczasowy rozwój szeroko pojętej sztucznej inteligencji póki co osiąga zachwycające wyniki w kategoriach takich jak ogromne zużycia gruntów, energii i wody przez centra danych, niekończące kradzieże własności intelektualnej czy włamania do infrastruktur różnych firm. Jednak te i inne problemy nie przekonują Sama Altmana do poparcia daleko idących ograniczeń rozwoju AI. Szef OpenAI w najnowszym wywiadzie przyznał, że świat powinien zaakceptować część negatywnych konsekwencji związanych z technologią, ponieważ korzyści z jej wykorzystania mają być znacznie większe.
Szef OpenAI przekonuje, że nie da się rozwijać sztucznej inteligencji bez akceptacji zła
Altman w wywiadzie dla newslettera Decoded prowadzonego przez Politico wskazał na fundamentalną różnicę między podejściem OpenAI i Anthropic do regulacji sztucznej inteligencji. Jego zdaniem obie firmy nadal dzieli „dużo przestrzeni”, mimo że w ostatnich miesiącach ich stanowiska w niektórych kwestiach zaczęły się zbliżać.
"Uważamy, że świat powinien zaakceptować pewne złe rzeczy, które będą się działy, dla korzyści płynących z tej technologii i możliwości podejmowania decyzji przez ludzi" - powiedział Altman.
Szef OpenAI odniósł się w ten sposób przede wszystkim do kwestii regulowania najbardziej zaawansowanych modeli AI. Anthropic od dawna prezentuje bardziej ostrożne stanowisko i opowiada się za regulacjami nakładającymi dodatkowe wymagania na firmy rozwijające modele graniczne. OpenAI w ostatnich miesiącach również zaczęło popierać część bardziej restrykcyjnych rozwiązań, jednak Altman nadal deklaruje przywiązanie do lżejszego podejścia regulacyjnego.
Według Altmana nie można przyjąć założenia, że rozwój AI będzie dopuszczalny wyłącznie wtedy, gdy uda się wyeliminować wszystkie potencjalne negatywne skutki. Wśród wymienianych przez niego zagrożeń znalazły się m.in. poważne włamania, niewłaściwe wykorzystanie technologii oraz oszustwa.
"Nie zaakceptowałbym kompromisu polegającego na stwierdzeniu: dopilnujemy, żeby nie było poważnych włamań, niewłaściwego wykorzystania tej technologii, żadnych oszustw ani wszystkich innych złych rzeczy, które się wydarzą" - stwierdził Altman. Dodał, że jego zdaniem ludzie zrobią dzięki AI "o rzędy wielkości” więcej dobrego niż złego.
Altman zaznaczył przy tym, że jego stanowisko ma granice. Nie zaakceptowałby "naprawdę katastrofalnych zagrożeń", do których zaliczył m.in. potencjalną poważną utratę kontroli nad sztuczną inteligencją przez ludzi.
Stanowisko OpenAI różni się więc od podejścia Anthropic przede wszystkim w ocenie tego, jaki poziom ryzyka społeczeństwo powinno zaakceptować. Altman odrzucił również koncepcję, zgodnie z którą wystarczająco potężna i niebezpieczna technologia powinna pozostać pod kontrolą jednej firmy lub pojedynczego laboratorium, które decydowałoby o sposobie jej udostępniania.
"Uważam, że byłby to całkowicie nieakceptowalny kompromis" - powiedział, odnosząc się do takiego modelu zarządzania rozwojem AI.
Jednocześnie OpenAI nie pozostaje już przy wcześniejszym, zdecydowanie bardziej liberalnym podejściu do regulacji. Firma poparła nowe przepisy stanowe w USA przewidujące bardziej rygorystyczne wymagania dotyczące bezpieczeństwa AI. Lobbyści przedsiębiorstwa opowiedzieli się również za ponadpartyjną propozycją w Izbie Reprezentantów, która zakłada udział zewnętrznych podmiotów w ocenie bezpieczeństwa najbardziej zaawansowanych systemów.
Altman wcześniej zgodził się także z Dario Amodeiem, szefem Anthropic, że rozwój najbardziej zaawansowanych modeli AI powinien zostać spowolniony. Pomimo tego podobieństwa obaj przedstawiciele firm nadal różnią się w ocenie zakresu regulacji oraz sposobu udostępniania technologii.
Czytaj też:
Zdjęcie główne: World Economic Forum / Flickr
Redaktorka Spider's Web specjalizująca się w tematykach sztucznej inteligencji, smartfonów i oprogramowania. Jako sześciolatka powiedziała w wywiadzie dla lokalnej telewizji, że chce zostać dziennikarką. Dzisiaj jest absolwentką dziennikarstwa i komunikacji społecznej na Akademii Humanistyczno-Ekonomicznej w Łodzi. Od dziecka pasjonuje się szeroko pojętymi grami i technologią, a w gimnazjum zapałała miłością do grafiki komputerowej i elektroniki użytkowej. Swoją pasję przekuła w działalność dziennikarską. Prywatnie miłośniczka psów, gotowania i literatury faktu.