Twórcy najlepszego modelu AI właśnie ostro wcisnęli hamulec. Koniec zabawy
Anthropic ogranicza możliwości Claude Code. Sztuczna inteligencja nie pomoże już w kopiowaniu znanych gier, a nowe zabezpieczenia mogą utrudnić również inne zadania programistyczne.
W czerwcu internet obiegła informacja o pewnym internaucie, który z pomocą chatbota Claude próbował zrobić replikę niewydanego jeszcze GTA VI. Podobnych historii jest w sieci na pęczki - bot Anthropic pomógł w stworzeniu klonów Pac-Mana, Mario, Tetrisa czy odtworzeniu z pamięci gier, w które użytkownicy grali w dzieciństwie. Jednak właśnie przyszedł czas na pożegnanie się z tego typu projektami.
Anthropic nie chce, aby Claude Code pomagał kopiować cudze gry
Anthropic postanowił ograniczyć możliwości swojego narzędzia Claude Code. Firma dodała nowe zabezpieczenia, które mają powstrzymywać sztuczną inteligencję przed odtwarzaniem konkretnych, istniejących już gier. Zmiany dotyczą modelu Opus 5.5 i zostały potwierdzone przez pracownika przedsiębiorstwa. Powodem jest chęć uniknięcia wykorzystywania narzędzi firmy do naruszania praw własności intelektualnej.
O nowych ograniczeniach poinformował Addy Osmani z Anthropic. W odpowiedzi na dyskusję dotyczącą odmów wykonywania poleceń związanych z klonowaniem gier wyjaśnił, że firma dodała do instrukcji Claude Code dwa zdania. Ich zadaniem jest ograniczenie modelu i zablokowanie kopiowania konkretnych produkcji należących do innych twórców. Osmani podkreślił przy tym, że wykorzystywanie Claude do naruszania praw własności intelektualnej jest niezgodne z zasadami korzystania z usług Anthropic.
Zrzut ekranu udostępniony wcześniej przez jednego z użytkowników X pokazuje, jak mają wyglądać nowe wytyczne. Claude może pomagać w tworzeniu oryginalnych gier, produkcji należących do określonego gatunku oraz projektów opartych na pomysłach i zasobach dostarczonych przez użytkownika. Zabronione ma być natomiast odtwarzanie konkretnej, istniejącej już gry, nawet jeśli użytkownik zmieni jej nazwę lub będzie przekonywać model, że tworzy własny projekt.
Anthropic nie zamierza więc całkowicie rezygnować z pomagania programistom w tworzeniu gier. Granica przebiega między nowymi produkcjami a próbami kopiowania konkretnych tytułów. Osmani zaznaczył, że firma nadal pracuje nad dostosowaniem zabezpieczeń, aby znaleźć odpowiednią równowagę między ograniczeniami a możliwościami narzędzia.
Claude Code odmawia również pomocy przy inżynierii wstecznej
Problemy z nowymi zabezpieczeniami nie ograniczają się jednak do gier. Jak informuje Tom's Hardware, użytkownicy zaczęli zgłaszać również odmowy wykonywania zadań związanych z inżynierią wsteczną (reverse engineering). Wśród nich znalazły się polecenia, które nie dotyczyły kopiowania gier ani naruszania praw autorskich.
Redakcja portalu otrzymała potwierdzenie od swojego byłego pracownika Jarreda Waltona, który wykorzystywał Claude do sprawdzania oprogramowania własnego autorstwa. Według jego relacji zadania tego rodzaju były wcześniej wykonywane bez przeszkód. Sytuacja zmieniła się 31 października, kiedy model zaczął odmawiać realizacji poleceń. Waltonowi udało się kontynuować pracę po przełączeniu się na starszy model Opus 4.8.
Tom's Hardware otrzymał również zrzuty ekranu dokumentujące odmowę wykonania zadania związanego z inżynierią wsteczną produktu i jego aktywacją. Podobne przypadki zaczęły być zgłaszane przez kolejnych użytkowników. Jeden z internautów na Reddicie twierdził nawet, że jego konto zostało tymczasowo zawieszone po korzystaniu z Opus 5.5 do zadań związanych z reverse engineeringiem. Później dostęp do niego miał zostać przywrócony.
Nie wiadomo jednak, czy wszystkie te przypadki wynikają z jednej aktualizacji zabezpieczeń. Anthropic nie potwierdził bezpośrednio wprowadzenia osobnych ograniczeń dotyczących inżynierii wstecznej. Zbieżność czasowa zgłoszeń sugeruje jednak, że firma mogła równolegle zmodyfikować zasady dotyczące zadań związanych z cyberbezpieczeństwem.
Ograniczenia dotyczą przede wszystkim Claude Code i Opus 5.5
Z dotychczasowych zgłoszeń wynika, że blokady związane z odtwarzaniem gier dotyczą przede wszystkim połączenia Claude Code z modelem Opus 5.5. Nie ma obecnie podstaw, by zakładać, że identyczne ograniczenia obowiązują wszystkie modele Anthropic i każde narzędzie umożliwiające korzystanie z nich.
Tom's Hardware zwraca uwagę, że użytkownicy mogą nadal korzystać z modeli Opus za pośrednictwem innych środowisk programistycznych, takich jak Ollama. Nie jest jednak jasne, czy zmiana sposobu komunikacji z modelem wystarczy do ominięcia wszystkich nowych zabezpieczeń.
Czytaj też:
Zdjęcie główne: aileenchik / Shutterstock
Redaktorka Spider's Web specjalizująca się w tematykach sztucznej inteligencji, smartfonów i oprogramowania. Jako sześciolatka powiedziała w wywiadzie dla lokalnej telewizji, że chce zostać dziennikarką. Dzisiaj jest absolwentką dziennikarstwa i komunikacji społecznej na Akademii Humanistyczno-Ekonomicznej w Łodzi. Od dziecka pasjonuje się szeroko pojętymi grami i technologią, a w gimnazjum zapałała miłością do grafiki komputerowej i elektroniki użytkowej. Swoją pasję przekuła w działalność dziennikarską. Prywatnie miłośniczka psów, gotowania i literatury faktu.