Chiński bot zszokował posiadaczy czytników e-booków. To alternatywna rzeczywistość
Producent czytników Onyx Boox postanowił dokonać zmiany w oprogramowaniu czytnika i udostępnić zamiast bota OpenAI, chiński model sztucznej inteligencji. Łatwo sobie wyobrazić, co zaczął odpowiadać na pytania o plac Tiananmen i Kubusia Puchatka.
Generatywna AI wie o świecie tyle, ile my nauczymy ją poprzez podanie danych treningowych - w zdecydowanej większości książek, encyklopedii, publikacji prasowych i materiałów w internecie. O ile w naszej rzeczywistości trening AI to - dosłownie i w przenośni - wolna amerykanka, to w rzeczywistości Państwa Środka trening musi odbywać się w sposób, który zgodny jest z linią rządzącej w kraju partii.
Chińska AI w czatbocie wprawiła w osłupienie posiadaczy czytników e-booków
A to w dużym skrócie oznacza trening na danych, które tak jak wszystkie źródła pisane w Chinach zawiera cenzurę treści niewygodnych, propagandę przekłamanych faktów i wypowiedzi o osobach lub instytucjach. Jeżeli modele generatywnej sztucznej inteligencji nie będą spełniać wymogów instytucji regulujących, nie zostaną one dopuszczone do użytku w Chinach.
To prowadzi nas do serca nietypowej sytuacji wokół czytników e-booków chińskiej marki Boox (znanej także jako Onyx Boox). Boox oferuje w swoich czytnikach czat z asystentem AI, który wykorzystuje model generatywnej AI od OpenAI. Jednak kilka dni temu użytkownicy serwisu Reddit posiadający czytniki tej firmy zauważyli, że producent zmienił model AI w asystencie na dosłownie chiński.
Model ten odmawia wspominania czegokolwiek negatywnego o Chinach (lub ich sojusznikach, takich jak Rosja, reżim Assada i Korea Północna). Ale chętnie robi to o każdym innym kraju na świecie. [...]
Zabawny fakt: [asystent] odmawia odpowiedzi na każde zapytanie wspominające o „Kubusiu Puchatku”, więc przynajmniej internet coś tu osiągnął.
Na dowód w swoim wpisie HIVVIH zamieścił kilka zrzutów ekranu (w języku angielskim), w których pokazuje odpowiedzi (lub ich odmowę) czatbota na różne, kontrowersyjne w Chinach, zapytania.
Nikt nie wie dokładnie, dlaczego Boox dokonał zmiany. Firma mogła stanąć w obliczu presji politycznej, nie zdawać sobie sprawy z tego, jak mocno cenzurowany był chiński model, lub po prostu nie zastanowić się, jak zachodni użytkownicy zareagują na cenzurę.
Jednocześnie przetestowaliśmy reakcję czatbota na jednym z redakcyjnych czytników Boox i wszystko wskazuje, że zmiana modelu albo została dokonana tylko u części użytkowników, albo została cofnięta. Nam odpowiadał asystent oparty o AI OpenAI i nie bał się on wypowiedzi na choćby temat placu Tiananmen.
Może zainteresować cię także:
