To nie chatboty są najgroźniejsze. Prawdziwy koszmar to DNA na zamówienie
Firmy od AI chcą, by zaostrzono kontrolę nad syntezą DNA. Stawką jest przede wszystkim bezpieczeństwo biologii syntetycznej.
Największe firmy od sztucznej inteligencji rzadko kiedy mówią jednym głosem, ale tym razem znalazły wspólny temat: biobezpieczeństwo. OpenAI, Anthropic, Google DeepMind, Microsoft AI oraz przedstawiciele branży syntezy DNA apelują o ostrzejsze przepisy dotyczące zamówień syntetycznego materiału genetycznego. Najgroźniejszy scenariusz nie polega na tym, że chatbot sam stworzy broń biologiczną. Problem zaczyna się wtedy, gdy coraz lepsze modele AI spotykają się z coraz tańszą biologią na zamówienie.
AI nie musi mieć laboratorium. Wystarczy, że obniży próg wejścia
Debata o zagrożeniach ze strony sztucznej inteligencji często skręca w stronę obrazków rodem z kina: autonomiczne roboty, superinteligencja, systemy wymykające się spod kontroli. Tymczasem jedno z bardziej przyziemnych, a przez to bardziej niepokojących ryzyk leży zupełnie gdzie indziej. Chodzi o sytuację, w której AI nie robi nic fizycznie, ale podpowiada, porządkuje, wyszukuje i skraca drogę do działań, które wcześniej wymagały specjalistycznej wiedzy.
W biologii syntetycznej taka różnica ma naprawdę ogromne znaczenie. Jeszcze niedawno zaprojektowanie, zamówienie i złożenie określonego materiału genetycznego wymagało doświadczenia, dostępu do fachowej literatury, znajomości laboratoriów i praktycznych ograniczeń. Dziś część tej wiedzy może być przetwarzana przez modele AI. Nie oznacza to oczywiście, że każdy użytkownik po krótkiej rozmowie z chatbotem staje się od razu biologiem molekularnym. Oznacza jednak, że wiedza, która była rozproszona i trudna do uporządkowania, może stać się łatwiejsza do uzyskania.
Największa luka kryje się w zamawianiu DNA
Syntetyczne DNA i RNA są dziś fundamentem nowoczesnej biologii. Dzięki nim rozwija się diagnostyka, badania nad lekami, szczepionki, inżynieria białek i biotechnologia przemysłowa. Zamawianie fragmentów materiału genetycznego nie jest samo w sobie podejrzane. Dla laboratoriów, firm i uczelni to codzienna infrastruktura nauki.
Największy problem polega na tym, że ta sama infrastruktura ma charakter podwójnego zastosowania. Może służyć do tworzenia leków i szczepionek, ale może też zostać nadużyta. Dlatego firmy zajmujące się syntezą DNA od lat stosują różne formy screeningu, czyli sprawdzania, czy zamawiana sekwencja nie przypomina materiału związanego z niebezpiecznymi organizmami, toksynami lub patogenami.
Tyle że takie kontrole nie są wszędzie obowiązkowe ani prowadzone w ten sam sposób. Najwięksi dostawcy często mają własne procedury bezpieczeństwa, sprawdzają klientów i analizują zamawiane sekwencje pod kątem potencjalnych zagrożeń. Problem w tym, że nie wszyscy robią to równie dokładnie. A ponieważ biologia syntetyczna działa globalnie, słabsze ogniwo w jednym kraju może osłabić bezpieczeństwo całego systemu.
Konkurenci z Doliny Krzemowej nagle mówią jednym głosem
Wśród sygnatariuszy listu otwartego do władz USA są osoby i organizacje, które na co dzień konkurują lub spierają się o kierunek rozwoju AI. OpenAI, Anthropic, Google DeepMind, Microsoft AI, Meta oraz firmy z branży syntezy genetycznej nie mają identycznych interesów. Tym bardziej znaczące jest to, że w tej sprawie występują razem.
Ich przekaz jest prosty: AI i biologia syntetyczna rozwijają się tak szybko, że dobrowolne zabezpieczenia mogą już nie wystarczać. Właśnie dlatego potrzebne są przepisy obejmujące wszystkich dostawców syntetycznego DNA i RNA. Nie chodzi przy tym wyłącznie o sprawdzanie zamawianych sekwencji, ale także o weryfikację klientów i prowadzenie dokumentacji zamówień.
Sam screening sekwencji nie rozwiązuje wszystkiego, bo niebezpieczny projekt może być maskowany, dzielony na fragmenty albo zamawiany w kilku miejscach. Weryfikacja klienta również nie jakimś świetnym rozwiązaniem, bo legalnie wyglądające podmioty mogą być wykorzystywane niezgodnie z przeznaczeniem. Dopiero połączenie kilku zabezpieczeń daje sensowną warstwę ochrony.
Chodzi więc o zbudowanie odpowiednika kontroli na styku świata cyfrowego i biologicznego. Model AI może wygenerować odpowiedź, ale dopiero zamówienie syntetycznego materiału genetycznego przenosi sprawę z ekranu do świata rzeczywistego.
Biologia syntetyczna jest zbyt cenna, by ją po prostu zablokować
Najgorszą reakcją byłaby teraz panika i wrzucenie całej syntezy DNA do worka z zagrożeniami. To technologia, bez której współczesna biotechnologia rozwijałaby się znacznie wolniej. Syntetyczne sekwencje są potrzebne w pracach nad lekami, szczepionkami, testami diagnostycznymi, enzymami, terapiami genowymi i badaniami podstawowymi.
Właśnie dlatego regulacja musi być przede wszystkim precyzyjna. Celem nie jest zatrzymanie nauki, ale ograniczenie możliwości nadużyć. Dobrze zaprojektowany screening powinien działać tak, aby legalne zamówienia przechodziły sprawnie, a podejrzane trafiały do dodatkowej kontroli. To trudne, bo system musi rozpoznawać ryzyko, nie ujawniając przy okazji wrażliwych baz danych ani tajemnic firm i laboratoriów.
Dostawcy DNA muszą sprawdzać zamówienia, ale klienci często nie chcą ujawniać więcej niż to konieczne, bo sekwencje mogą być częścią własności intelektualnej. Z drugiej strony baza zagrożeń też nie powinna być prosto dostępna dla osób, które chciałyby ją obejść.
Dotychczasowe zabezpieczenia mają dziury
Już wcześniej badacze pokazywali, że AI może projektować warianty niebezpiecznych białek w taki sposób, że klasyczne systemy bezpieczeństwa nie zawsze je rozpoznają. To nie oznacza, że takie cząsteczki od razu działają w świecie fizycznym. Oznacza jednak, że narzędzia ochronne muszą nadążać za narzędziami projektowania.
Dotychczasowe podejście polegało w dużej mierze na porównywaniu zamówień z bazami znanych zagrożeń. Jeśli sekwencja przypominała coś wyraźnie niebezpiecznego, system mógł ją oznaczyć. Problem zaczyna się wtedy, gdy AI pomaga tworzyć warianty, które nadal mogą mieć podobną funkcję, ale wyglądają wystarczająco inaczej, by prostsze systemy ich nie wychwyciły.
Przeczytaj także:
Jest to więc wyścig między projektowaniem a detekcją. Modele białkowe i generatywne narzędzia biologiczne mogą przyspieszać odkrycia medyczne, ale jednocześnie utrudniać pracę systemom, które patrzą tylko na znane wzorce. Zabezpieczenia muszą więc stawać się bardziej inteligentne, a nie tylko bardziej restrykcyjne.
I tu wracamy do głównego punktu: samo przykręcenie śruby chatbotom nie wystarczy. Kontrola musi obejmować także miejsca, w których cyfrowy projekt może zamienić się w fizyczny materiał.
*Źródło grafiki wprowadzającej: AI; Canva Pro
Dziennikarz działu Technologie. O smartfonach i nowych technologiach zaczął pisać jeszcze w 2012 r. na łamach portalu Telix. Później przez pewien czas pisał dla KomputerŚwiat i dla nieistniejącego już PCLabu. Epizod dziennikarski zaliczył także w lokalnej gazecie i w dziale blogowym SpeedTest. Copywriter techniczny, motoryzacyjny i technologiczny. Współzałożyciel agencji marketingowej BlueCopy, zajmującej się copywritingiem i poligrafią. Przez pewien czas właściciel firmy transportowej. Prywatnie fan starych polskich oper mydlanych (oglądanych obowiązkowo z konkubiną), dumny opiekun kotki brytyjskiej i pasjonat-amator druku 3D.