Ale wtopa. Reklama Google'a potwierdza, że nie można ufać SI
Czy powinieneś ufać SI? Google właśnie potwierdził, że absolutnie nie powinieneś bezgranicznie. W przeciwnym razie możesz stracić najważniejsze wspomnienia. Oto prosty poradnik, jak podczas najważniejszej konferencji Google'a popełniono wtopę roku.
Google na majowej konferencji I/O chciał pokazać wszystkim, jak wspaniała jest jego sztuczna inteligencja Gemini. Było DJ-owanie, pokazy i prezentacje, wszystko po to, aby przekonać wszystkich, że SI przydaje się w każdej sytuacji i że możemy na niej polegać. Problem w tym, że nie możemy. A gdy jej posłuchamy, możemy wyjść gorzej, niż gdybyśmy po prostu skorzystali ze starej, ale wciąż świetnej Wyszukiwarki Google.
Nie słuchaj się Gemini. Bo źle na tym wyjdziesz
Podczas majowej konferencji I/O Google starał się wpasować w najnowsze trendy i przekonać wszystkich swoją nowoczesnością. Firma zatrudniła nawet DJ-a Marca Rebilleta, aby porwał tłumy przed ekranami. Chociaż wyszło to tak abstrakcyjnie, iż każdy myślał, że dział marketingu Google'a został zwolniony.
Nie wyszło z DJ-em? Google miał jeszcze sporo arsenału w zanadrzu, który miał przekonać ludzi do SI Gemini. Wyszło średnio, bo teraz już wiemy, że w jednej z pokazówek pojawił się błąd, który ujawnił jeden główny problem modeli typu Gemini czy ChatGPT: ich tendencję do dostarczania nieprawidłowych informacji z pełnym przekonaniem.
Jedna konkretna prezentacja dotyczyła funkcji wyszukiwania wideo, w której użytkownicy mogli zadawać pytania bezpośrednio nad klipem wideo i otrzymywać wyniki wyszukiwania. W przykładzie pokazano film przedstawiający zablokowaną dźwignię przesuwu filmu w analogowym aparacie fotograficznym. Użytkownik zapytał „dlaczego dźwignia się nie rusza do końca?”, a Gemini odpowiedział listą sugerowanych kroków, które powinien poczynić, aby ją odblokować.
Idealny pomysł na reklamę, ta jedna osoba z marketingu powinna dostać premię. Problem w tym, że, jak zauważył serwis The Verge, sugestie dostarczone przez Gemini były ewidentnie błędne.
Google w reklamie podkreślił szczególnie szkodliwą radę: „otwórz tylną klapkę i delikatnie wyjmij film”. Ta czynność jest w rzeczywistości najgorszą rzeczą, jaką można zrobić w takiej sytuacji, ponieważ otwarcie części aparatu fotograficznego z filmem gdziekolwiek poza ciemnią, eksponuje tenże film na światło, przez co można stracić wszystkie zrobione zdjęcia.
Ta reklama potwierdza, że nawet gdy mowa o najmądrzejszych i najbardziej zaawansowanych chatbotach, zawsze coś może pójść nie tak. Wyszukiwanie tego samego problemu w Wyszukiwarce Google wymaga od nas dodatkowych kilkudziesięciu sekund na wczytanie się odpowiedzi „mądrych ludzi z forum”. Ale ich odpowiedzi przynajmniej dadzą nam prawdopodobnie prawidłowe rozwiązanie.
Poznaj inne nowości z majowej konferencji Google'a:
Czy Google sprawdza swoje reklamy Google'em?
Żaden chatbot nie jest nieomylny – jak człowiek, książka czy Wikipedia. Nawet najinteligentniejszy robot może popełnić błąd, czy doznać tzw. halucynacji. Problem w tym, że nikt nie jest ekspertem we wszystkich dziedzinach.
Rozwiązanie problemu z filmu Google'a jest w 99 proc. poprawne, bo odpowiada na problem związany z tym, że dźwigienka nie rusza się do końca. Czy problem zostałby rozwiązany dzięki poradom Gemini? Oczywiście, problem z głowy, można odpalać CS-a. Gemini ruszył do przodu z klapkami na oczach – i nie patrzy na konsekwencje tego, co może się wydarzyć z zawartością filmu. Jeśli zależy ci tylko na tym, aby dźwignia nie była już zablokowana, to super, pal licho film i materiał, który zarejestrowałeś.
Teraz wychodzi na to, że Google przed każdą prezentacją powinien sprawdzać wszystkie wyniki chatbota w Wyszukiwarce Google'a, aby nie powtórzyć tego samego babola, który trafił do, nomen omen, niezłego filmu ukazującego to, w jaki sposób kiedyś będziemy szybko rozwiązywali problemy dnia codziennego.
