Windows 11 będzie kłamał. Microsoft sam to przyznaje
Według twórców, Windows 11 może podawać nieprawdziwe informacje. Microsoft ostrzega przed nowymi funkcjami systemu.
Do Windowsa 11 powoli trafiają funkcje agentów sztucznej inteligencji, które mają wykonywać wiele czynności w imieniu użytkownika. Microsoft jednak sam zastrzega, że tego typu narzędzia nie gwarantują pełnego bezpieczeństwa ani poprawnego działania.
Windows 11 będzie ci mówił i pisał niestworzone rzeczy
W dokumencie pomocy technicznym Microsoft jasno przyznaje, że obecna technologia sztucznej inteligencji nie jest idealna. Oznacza to nie tylko potencjalne problemy z wykonywaniem określonych czynności przez agentów AI.
Modele AI nadal napotykają ograniczenia funkcjonalne w zakresie swojego zachowania i czasami mogą generować halucynacje i nieoczekiwane wyniki.
Ślepe poleganie na informacjach pochodzących od sztucznej inteligencji nie jest dobrym pomysłem. AI często działa tak, że pokazuje nam odpowiedź, którą chcemy zobaczyć, zamiast takiej, którą powinniśmy zobaczyć. W praktyce wiele informacji od AI to kompletne bzdury pozbawione rzetelnego źródła. Modele są trenowane tak, aby nie przyznawały się do niepewności i brzmiały przekonująco.
Agenci sztucznej inteligencji bazują na tych samych rozwiązaniach, które znajdziemy w czatbotach AI. Dlatego prawdopodobieństwo, że Windows z zaawansowanymi funkcjami AI, które mają wykonywać czynności w systemie za użytkownika, będzie generował dziwne, błędne lub zaskakujące efekty, jest bardzo duże.
Poza tym nowe funkcje sztucznej inteligencji mogą padać ofiarą dedykowanych ataków, które mogą być równoznaczne z instalacją złośliwego oprogramowania lub wyciekiem danych.
Aplikacje agentowej AI wprowadzają nowe zagrożenia bezpieczeństwa, takie jak wstrzykiwanie kodu między monitami (XPIA), gdzie złośliwa zawartość osadzona w elementach interfejsu użytkownika lub dokumentach może nadpisać instrukcje agenta, prowadząc do niezamierzonych działań, takich jak wyciek danych lub instalacja złośliwego oprogramowania.
Microsoft zobowiązuje się do wprowadzenia mechanizmów kontroli bezpieczeństwa, ale i tak tworzy poligon doświadczalny
Agenci sztucznej inteligencji mają działać na osobnych kontach i w odizolowanych sesjach, z ściśle określonymi uprawnieniami. Ich działania będą również rejestrowane do wglądu. Niestety, AI nadal otrzyma dostęp do ważnych folderów użytkownika: Pobrane, Pulpit, Zdjęcia, Muzyka i wielu innych. Microsoft zapewnia jednak, że „zobowiązuje się do wdrożenia solidnych mechanizmów kontroli bezpieczeństwa i prywatności”.
Sytuacja pokazuje, że Microsoft jest świadom ryzyka, jakie niosą nowe funkcje - i że mogą one działać na niekorzyść użytkownika. Firma zaleca więc korzystanie z nich z rozwagą. Mimo to gigant nie zamierza rezygnować i dalej zmienia Windowsa 11 w poligon doświadczalny dla sztucznej inteligencji. Nawet jeśli użytkownicy są już zmęczeni Copilotami i innymi funkcjami, o które nikt nie prosił, Microsoft nie odpuszcza.
Więcej o Microsofcie przeczytasz na Spider's Web:
