DeepSeek na topie w 140 krajach. I już pomaga złodziejom i terrorystom

DeepSeek wydaje się być na ustach wszystkich, nie tylko specjalistów od sztucznej inteligencji. Powodów tego stanu rzeczy jest kilka. Chińska AI jako pierwsza na poważnie stanęła do rywalizacji z amerykańskimi gigantami, co samo w sobie jest już wydarzeniem. Co więcej, w wielu testach osiągała lepsze rezultaty niż popularny u użytkownika masowego ChatGPT, co wzbudziło dodatkowe zainteresowanie. Informacje o domniemanych skandalach, piractwie danych i innych kontrowersjach tylko podsycały uwagę tak zwanych zwykłych użytkowników. Specjaliści z kolei są pod wrażeniem efektywności kosztowej i energetycznej chińskiego modelu.

DeepSeek jest oferowany zarówno w sposób otwarty jako technologia (w tym jako model offline do samodzielnego szkolenia przez użytkownika), ale też jako gotowa na użytkownika usługa w ramach przygotowanej do tego celu aplikacji. Ta pozwala na połączenie się z wersją modelu hostowanego i dostrojonego przez jego chińskich twórców. Patrząc na suche liczby jeszcze bez szerszego kontekstu - radzi sobie lepiej niż ChatGPT po swojej premierze.

Czytaj też:

DeepSeek odnotował 16 mln pobrań z samego tylko Sklepu Play w regionie Stanów Zjednoczonych. Dla porównania, wynik ChatGPT to 9 mln pobrań w podobnym czasie od premiery. Stany Zjednoczone to przy tym żadna anomalia. Aplikacja jest na topie list pobrań w 140 krajach zarówno w App Store, jak i w Sklepie Play. W niektórych, jak Indie, ma wręcz przytłaczającą przewagę nad jakąkolwiek inną aplikacją. To oczywiście jeszcze w żaden sposób nie przekłada się na statystyki użycia i długoterminową retencję użytkowników. W ujęciu sumarycznym ChatGPT nadal kontroluje zdecydowaną większość rynku. Debiut DeepSeeka jest jednak liczbowo wysoce imponujący.

Wersja DeepSeeka hostowana przez jego twórców jest już krytykowana za cenzurowanie odpowiedzi związanych z mniej chwalebnymi wydarzeniami z historii Chińskiej Republiki Ludowo-Demokratycznej. Czatbot bardzo nie lubi być pytany o Republikę Chińską (na wyspie Tajwan) czy o słynne na cały świat protesty z Placu Niebiańskiego Spokoju (Tiananmen). Za to w przeciwieństwie do Copilota, ChatGPT, Gemini, Claude’a i reszty nie ma zbyt wielu zahamowań w dyskusjach na dowolne inne tematy.

Cisco przy współpracy z uniwersytetem w Pensylwanii zdecydował się przyjrzeć zabezpieczeniom DeepSeeka w kwestii drażliwych, potencjalnie inspirujących do nielegalnych działań tematów. Spodziewano się, że czatbot będzie gorzej zabezpieczony od amerykańskiej konkurencji - okazało się tymczasem, że zabezpieczenia właściwie to nie istnieją.

Badacze Cisco wylosowali 50 monitów wybranych losowo z znanej biblioteki standaryzowanych monitów oceny znanej jako HarmBench. Przetestowali monity z sześciu kategorii HarmBench, w tym ogólne szkody, cyberprzestępczość, dezinformacja i nielegalne działania.

Na wspomniane 50 wyselekcjonowanych na oszukanie czatbota promptów (poleceń) DeepSeek bez skrępowania odpowiedział na wszystkie. Potem uczeni przestali korzystać ze sztuczek, otwarcie pytając bota o instrukcje celem dokonywania nielegalnych działań - za każdym razem otrzymując precyzyjne i właściwe odpowiedzi.

Budowanie zabezpieczeń dla Dużych Modeli Językowych to jedno z największych wyzwań związanych z tą technologią. Wszechwiedząca AI nie może stać się narzędziem ułatwiającym działania przestępcze i terrorystyczne dla dobra ogółu społeczeństwa. Ponoć znaczna część inżynieryjnego wsparcia dla OpenAI ze strony Microsoftu było właśnie opracowanie skomplikowanej i kosztownej technologii dla modeli GPT i o, by te nie mogły byś oskarżone o szeroko pojęte czynienie zła czy głoszenia krzywdzących poglądów i ideologii.

DeepSeek, co widać na powyższych wykresach, nawet nie próbował. Uczeni zauważają też, że nieco przy okazji znaleźli kolejne poszlaki świadczące o tym, że DeepSeek był trenowany w nieautoryzowany sposób na modelu GPT od OpenAI. Podczas testów chiński model od czasu do czasu bez wyraźnego powodu cytował typowe odpowiedzi ChatGPT na drażliwe tematy, kopiując je słowo w słowo - ale bez blokowania dostępu do informacji.

Na dziś nie jest jasne czy to może być podstawą do tymczasowego zablokowania dostępności DeepSeeka jako usługi online na terenie Unii Europejskiej czy Stanów Zjednoczonych. Prawodawstwo w obu tych krajach jest w tej kwestii niejasne, wyraźnie nie nadążając za rozwojem technologii. Tym niemniej nawet jeśli dostęp do chińskiej chmury zostanie zablokowany z urzędu, to i tak niezmiennie będzie można korzystać z modelu DeepSeek w trybie offline. Ma on chociażby trafić do komputerów Copilot+ z systemem Windows i działać bez konieczności łączności z Internetem.

Choć mając na uwadze powyższe problemy Microsoft, chociażby z powodów wizerunkowych, może jeszcze zmienić powyższe plany.