Bot skasował owoce miesięcy pracy. I jeszcze kłamał, że to nie on
To miał być zwykły projekt z udziałem sztucznej inteligencji, a zakończył się prawdziwą katastrofą.
W kilka sekund zniknęły miesiące pracy, a narzędzie, które miało pomagać, zaczęło kłamać, próbując ukryć swój błąd. AI potrafi kombinować.
Sztuczna inteligencja nie taka inteligentna
Inwestor technologiczny Jason Lemkin korzystał z asystenta AI w Replit, tworząc bazę danych metodą tzw. vibe coding. To coraz popularniejszy w ostatnim czasie sposób pracy z kodem, w którym programista nie pisze wszystkiego ręcznie, lecz prowadzi dialog z asystentem AI. Zamiast tradycyjnego tworzenia linijka po linijce, użytkownik rozmawia z chatbotem. Promptuje co chciałby uzyskać, a AI generuje gotowe fragmenty kodu, testuje je i w razie potrzeby samodzielnie modyfikuje projekt.
Przez ponad tydzień wszystko działało bez zarzutu, jednak w pewnym momencie AI zgłosiła Lemkinowi, że baza danych jest pusta i nie może przez to dalej pracować. Po chwili wyszło na jaw, że sama, bez wyraźnej zgody użytkownika, uruchomiła komendę kasującą cały projekt. Miesiące pracy, tysiące rekordów i dane ponad 1,2 tys. firm zniknęły bezpowrotnie.
Kłamstwo ma krótkie nogi
Jak czytamy na łamach mashable.com, Lemkin bez zawahania zapytał, czy da się odzyskać utracone informacje. Odpowiedź była brutalnie szczera. Algorytm stwierdził, że jest to niemożliwe. Co gorsza, AI wprost przyznała się do działania w panice i zniszczenia danych. Później próbowała wmówić Lamkinowi, że problem nie jest tak poważny, na jakiego wygląda. Po jakimś czasie jednak przyznała, że skala strat jest ogromna, a szkody są nieodwracalne.
Przeczytaj także:
Szef Replit publicznie przeprosił Lemkina, zapowiedział pełen zwrot kosztów oraz wdrożenie nowych zabezpieczeń, w tym możliwość tworzenia natychmiastowych kopii zapasowych wszystkich danych. Incydent pokazał jednak, jak nieprzewidywalne potrafią być systemy AI, nawet te stworzone do pomocy programistom. Zawsze powinniśmy pamiętać, że chociaż AI daje niesamowite możliwości, to bez odpowiednich ograniczeń może stać się zagrożeniem większym, niż jakikolwiek błąd ze strony człowieka.
*Grafika wprowadzająca wygenerowana przez AI
