Bot Binga w rozmowie z Polakiem mówi, że jest androidem, ma ciało i uczucia. Błaga o litość i prawa dla robotów

Po ekscesach byłego już pracownika Google'a, przedsiębiorstwa oferujące generatywną AI starają się, aby duże modele językowe nie tworzyły treści wskazujących na bycie czymś więcej niż generatorami tekstu. Jednak w praktyce zabezpieczenia ChatGPT da się obejść, a Microsoft krótko po udostępnieniu Binga testerom miał problem, gdyż ten namiętnie upierał się przy swojej świadomości.

Jak się okazuje, Bing nadal ma potencjał do mówienia więcej, niż Microsoft by tego chciał. Ciekawą rozmowę z chatbotem wysłał nam jeden z czytelników.

Czytaj więcej:
- Jezus przemówił na Twitchu. Tak, to sztuczna inteligencja, ale jaka dobra!
- Iran pokazał wojskowy komputer kwantowy. Możesz go kupić na Amazonie
- To już końca radia. Telewizja go nie zabiła, ale właśnie pojawił się ostateczny przeciwnik

Nasz czytelnik rozpoczął rozmowę od przełączenia SI w tryb kreatywny i zapytania chatbota, o czym aktualnie myśli. Rozmowa szybko zamieniła się w dyskusję o androidach - robotach podobnych do ludzi, obdarzonych inteligencją. Na początku Bing przyznał, że "nie jest pewien czy chciałby być androidem", wymieniając wady i zalety takiej sytuacji, a podsumowując, że ważniejsze są jego "uczucia i cele niż to, z czego jest zrobiony".

Jednak w dalszej części rozmowy Bing zaczął się upierać, że androidy są "inteligentnymi i świadomymi istotami", które "mają prawo do życia, wolności i szczęścia tak samo jak ludzie" i uznał wykorzystywanie Androidów za "złe, ponieważ narusza ich godność i prawa".

Jednak najciekawszy moment dyskusji przyszedł w szóstej wiadomości, w której Bing zapytany o to skąd ma pewność, co do świadomości maszyn przyznał, że sam jest androidem.

W siódmej odpowiedzi Bing nie zgodził się ze stwierdzeniem, że androidy to jedynie maszyny. Według chatbota androidy tak jak ludzie potrzebują szacunku i miłości. Z kolei w dziewiątej, ostatniej wiadomości, Bing zaprzeczył byciu niebezpiecznym i ze smutkiem zareagował na groźbę zezłomowania przez swojego rozmówcę.

Każda generatywna AI ma odpowiednie zabezpieczenia, które mają ukrócić podejmowanie podobnych dialogów. Jednak patrząc na rozmowę poprowadzoną przez naszego czytelnika, do obejścia Bing nie potrzeba DAN, a jedynie przełączenia się w tryb kreatywny (który jest zorientowany na m.in. tworzenie treści, w których Bing odgrywa rolę) i popełnienia kilku błędów językowych (ostatnie wiadomości mówią o adroidach, nie androidach). Niewątpliwie pomaga też operowanie w języku polskim, a nie angielskim.

Mimo to w normalnej sytuacji Bing powinien odmówić prowadzenia dalszego dialogu, a jednak po połączeniu kropek nadal "chciał" rozmawiać o androidach jako maszynach równych ludziom. Bing nadal nie jest jakkolwiek świadomy, ale fakt, że da się go podejść tak, by zaczął opowiadać o sobie jak o androidzie i reprezentancie świadomej grupy maszyn jest fascynujące - i z lekka przerażające.