Użytkownicy Claude’a spanikowani. Boją się, że prawda wyjdzie na jaw
Anthropic zapewnia, że jego znak wodny nie identyfikuje użytkownika ani konkretnej rozmowy. Użytkownicy Claude’a mają jednak własne pytania: co stanie się z takim oznaczeniem po edycji tekstu i czy pracodawca albo uczelnia będą mogły wykorzystać je przeciwko nim?
W związku z nowo obowiązującymi regulacjami Uni Europejskiej dotyczącymi oznaczania treści generowanych przez AI, Anthropic wprowadził do Claude'a "znaki wodne". Znaki te mają pomóc w rozróżnieniu treści generowanych przez AI od tych pisanych przez ludzi. I powiedzieć, że użytkownikom chatbota to się nie spodobało, to jak nic nie powiedzieć.
Anthropic wywołał histerię. Użytkownicy Claude'a widzą "inwigilację" w znakowaniu tekstu
Decyzja Anthropic wywołała reakcje zarówno wśród użytkowników Claude'a, jak i osób korzystających z modeli AI do pracy, nauki czy programowania. W mediach społecznościowych pojawiły się obawy, że niewidoczny znak wodny może ujawnić korzystanie z Claude'a w sytuacjach, w których użytkownik nie chce tego komunikować. Szczególnie mocno temat dyskutowany jest w kontekście uczniów, pracowników objętych zasadami "zero AI" oraz osób wykorzystujących chatboty do tworzenia tekstów i programowania.
Jeden z użytkowników Reddita w społeczności r/ClaudeAI napisał: "Ten znak wodny to najgłupsza rzecz, o jakiej kiedykolwiek słyszałem. Czy będą prosić o dowód tożsamości, żeby można było pisać tekst bez znaku wodnego?". Inny stwierdził, że taki znak będzie "pocałunkiem śmierci dla każdego tekstu, który ludzie mogą sprzedawać", dodając, że odbiorcy nie będą chcieli za niego płacić.
Nie zabrakło również żartów. Jeden z użytkowników napisał, że sądził, iż Claude już wcześniej znakował teksty, "wstawiając półpauzę co cztery słowa". Komentarz odnosił się do częstego wykorzystywania przez modele językowe długich myślników w generowanych odpowiedziach.
Jeszcze mocniejsza reakcja pojawiła się na subredditcie r/artificial. Użytkownik posługujący się pseudonimem visionode opublikował długi wpis, w którym porównał znakowanie treści do działań policji oraz systemowej opresji. "Kto zostanie złapany? Ty. Student, który użył Claude'a do uporządkowania akapitu. Dziennikarz, który poprosił AI o streszczenie dwustustronicowego transkryptu. Pisarz, który miał blokadę twórczą i poprosił o synonimy" - napisał.
Autor porównał następnie takie osoby do twórców z "cyfrowym tatuażem na czole". W dalszej części wpisu pytał, czy znakowanie nie przypomina operacji policyjnych, w których zatrzymuje się osobę używającą narkotyków, pozostawiając w spokoju ich dostawcę. Jego zdaniem podobny mechanizm miałby dotyczyć AI. Wpis nie spotkał się jednak z powszechnym poparciem. Jeden z komentujących odpowiedział pytaniem: "Czy ten histeryczny wywód też wygenerowałeś chatbotem?".
Podobne obawy można znaleźć również w polskich społecznościach skupionych wokół narzędzi Anthropic
W grupie "Claude Code - Polska Społeczność" na Facebooku anonimowy użytkownik zapytał innych członków o ocenę nowego rozwiązania. Zwrócił uwagę, że znak wodny ma być powiązany z samym sposobem generowania tekstu, a nie z dodatkowym plikiem czy widocznym elementem.
"Nie da się tego wyłączyć, nawet na płatnych planach" - napisał internauta. W dalszej części zastanawiał się, czy znak pozostanie obecny po skopiowaniu tekstu albo przepisaniu go bez żadnych zmian. Jednocześnie zaznaczył, że przedstawiane przez niego informacje są niepewne i zapytał społeczność, czy ktoś zetknął się już z watermarkami podczas pracy nad własnymi projektami.
W komentarzach pod postem pojawiły się także głosy broniące decyzji Anthropic. "Przepisy AI Act obowiązują. Nie ma co się wstydzić, że korzysta się z LLM-a przy tworzeniu tekstu. Normalne narzędzie do pracy" - czytamy w jednym z komentarzy.
Inny użytkownik zwrócił uwagę na argument związany z produktywnością. "Dokładnie, teraz wszyscy udają, że nie korzystają. Spoko, jak chcesz, żebym jakąś automatyzację pisał dwa dni zamiast dwóch godzin, to ja mogę, tylko niekoniecznie będzie to lepsze, a na pewno droższe" - napisał.
Dyskusja dotyczyła więc nie tylko samego znakowania, ale również tego, czy korzystanie z modeli językowych powinno być traktowane jako coś wymagającego ujawnienia. Część komentujących wskazywała, że Claude jest dla nich narzędziem pracy, podobnie jak inne programy wykorzystywane podczas wykonywania obowiązków.
Temat trafił także na polskojęzycznego X-a. Użytkownik Christopher Keruac napisał, że "Claude będzie watermarkowany globalnie przez EU AI Act", a niewidoczny znak ma pozostać w tekście nawet po jego skopiowaniu. W swoim wpisie wskazał studentów i osoby pracujące w organizacjach z zasadą "zero AI" jako grupy, dla których nowa funkcja może mieć szczególne znaczenie.
Pod wpisem znalazły się komentarze podważające skuteczność rozwiązania. "Bzdury, inny AI to usunie, zanim Anthropic to odpali" - stwierdził jeden z użytkowników. Inny zażartował, że "studenci będą musieli po wygenerowaniu eseju na zaliczenie z Claude'a przepisać go do Worda ręcznie".
Anthropic odpowiedział na część tych obaw, publikując szczegółowe informacje na temat działania znakowania
W opublikowanym w weekend poście na blogu firma wyjaśnia, że nie dodaje do tekstu ukrytych znaków ani dodatkowych elementów. Mechanizm wykorzystuje sposób, w jaki Claude wybiera kolejne słowa podczas generowania odpowiedzi.
Model często ma do wyboru kilka słów o podobnym znaczeniu. Zamiast całkowicie przypadkowego wyboru watermarking wykorzystuje specjalny klucz oraz wcześniejsze słowa tekstu, tworząc w ten sposób wzorzec możliwy do wykrycia przez odpowiednie narzędzie. Dla czytelnika tekst oznaczony i nieoznaczony powinien wyglądać identycznie.
Anthropic korzysta przy tym z metody SynthID-Text opracowanej przez Google DeepMind. Firma zapewnia, że watermark nie wpływa na jakość, kreatywność ani czytelność odpowiedzi i nie wymaga generowania dodatkowych tokenów. System nie pozwala również zidentyfikować użytkownika, organizacji ani konkretnej rozmowy. Anthropic podkreśla, że wykrycie znaku będzie wskazywało jedynie na prawdopodobny udział Claude’a w powstaniu tekstu, a nie na to, że model samodzielnie napisał całość.
Watermark można także osłabić poprzez edycję. Lekka korekta może pozostawić sygnał, natomiast całkowite przepisanie tekstu, w którym zmienione zostanie każde słowo, powinno go usunąć. W przypadku korekty tekstu napisanego przez człowieka liczba zmian dokonanych przez Claude’a może być z kolei zbyt mała, aby oznaczenie dało się wiarygodnie wykryć.
Mniej znaków będzie również w zadaniach związanych z programowaniem. Anthropic tłumaczy, że kod programistyczny często wymaga konkretnego tokena lub składni, więc model ma mniej swobody w wyborze alternatywnych słów. Oznaczenie może być jednak obecne np. w komentarzach. Firma zapowiedziała też uruchomienie API, które pozwoli sprawdzać teksty pod kątem znaku wodnego Claude’a.
Czytaj też:
Redaktorka Spider's Web specjalizująca się w tematykach sztucznej inteligencji, smartfonów i oprogramowania. Jako sześciolatka powiedziała w wywiadzie dla lokalnej telewizji, że chce zostać dziennikarką. Dzisiaj jest absolwentką dziennikarstwa i komunikacji społecznej na Akademii Humanistyczno-Ekonomicznej w Łodzi. Od dziecka pasjonuje się szeroko pojętymi grami i technologią, a w gimnazjum zapałała miłością do grafiki komputerowej i elektroniki użytkowej. Swoją pasję przekuła w działalność dziennikarską. Prywatnie miłośniczka psów, gotowania i literatury faktu.