Google powiedział, dlaczego polecał klej do pizzy. Tym tłumaczeniem odstrzelił sobie stopę
Drama, która wytworzyła się w internecie po sugestii AI Google'a, żeby użyć kleju do pizzy, przybrała rozmiary na tyle duże, że koncern opublikował cały wpis aby wyjaśnić jak działa AI Overview. To tłumaczenie jednak to strzał w stopę obnażający fakt, że firma wiedziała, co może się stać gdy sztuczna inteligencja zacznie streszczać wyniki wyszukiwania Google.
W zeszłym tygodniu internet obiegła informacja, że AI Overviews Google przekazuje użytkownikom nie tylko błędne, ale całkowicie głupie - i wręcz kontrowersyjne, sugestie. AI Overviews to funkcja wyszukiwarki Google, która z pomocą generatywnej AI tworzy na początku wyników wyszukiwania skrót najważniejszych informacji z wyników wyszukiwania. Dostęp do AI Overviews mają jedynie użytkownicy ze Stanów Zjednoczonych, którzy funkcję uruchomili w Search Labs.
Mimo dostępu do wielu źródeł posiadające odpowiedzi na proste pytania, AI Overview "radziło" użytkownikom by użyli kleju na pizzy czy że jedzenie jednego małego kamienia dziennie jest zdrowe.
"Niektóre dziwne, niedokładne lub nieprzydatne podsumowania AI z pewnością się pojawiły". Google wyjaśnia wpadkę z pizzą z klejem i inne anomalie w nowej funkcji
Choć część z najbardziej viralowych "porad" i odpowiedzi okazała się być spreparowana przez śmieszków. A to ze względu na fakt, że Google nie był w stanie odtworzyć odpowiedzi, a sami twórcy przyznawali się do tworzenia fejka - po internecie krążą "szablony DIY AI Overview". Mimo to spora część z nich (takich jak informacja, że Batman to policjant) okazała się być tworami AI Google.
Koncern doraźnie radził sobie z kryzysem wizerunkowym, rozsyłając informacje do dziennikarzy, że w zdecydowanej większości przypadków wpadki dotyczyły "generalnie bardzo rzadkich zapytań" i "nie są reprezentatywne dla doświadczeń większości ludzi". Co było beznadziejnym tłumaczeniem, gdy AI Overview na pytanie o "afrykańskie państwo rozpoczynające się na literę K" mówi, że takiego nie ma i jako źródło podaje... witryny informujące o wpadkach Search Generative Experience.
30 maja Google zdecydował się oficjalnie zaadresować sytuację i to w dość ciekawy sposób. Koncern nie oddelegował do zadania szefa działu komunikacji, lecz użył do tego swojego bloga gdzie Liz Reid, wiceszefowa działu zajmującego się wyszukiwarką opublikowała wpis tłumaczący działanie AI Overview.
Jak wyjaśnia Reid, AI Overviews działają zupełnie inaczej niż chatboty i inne produkty LLM, bowiem nie generują one wyników na podstawie danych treningowych. W przypadku AI Overviews Google zastosowało niestandardowy model językowy - zintegrowany z podstawowymi systemami rankingu stron internetowych Google, który został zaprojektowany do wykonywania tradycyjnych zadań "wyszukiwania", takich jak identyfikacja odpowiednich dla zapytania wyników z zaindeksowanych przez Google stron. Jak napomina Reid, ponieważ "dokładność jest najważniejsza w wyszukiwaniu", AI Overviews są zbudowane tak, aby wyświetlać tylko informacje, które są poparte "najlepszymi" wynikami wyszukiwania.
Oznacza to, że AI Overviews generalnie nie "halucynują" ani nie zmyślają rzeczy w sposób, w jaki mogą to robić inne produkty używające dużych modeli językowych. Kiedy AI Overviews się mylą, zwykle dzieje się tak z innych powodów: błędnej interpretacji zapytań, błędnej interpretacji niuansów językowych w sieci lub braku dostępności wielu przydatnych informacji.
Według przekazu Reid, AI Overviews przed premierą przeszło "testy na szeroką skalę", jednak testy mają się nijak do "posiadania milionów osób korzystających z funkcji z wieloma nowymi wyszukiwaniami".
Google de facto zwalił winę na internet
Sytuacja nie uderzałaby tak bardzo gdyby nie fakt, że AI Overview pokazują się na górze strony. Każdy ekspert SEO, każdy projektant UI i UX, ale i przeciętny użytkownik powie, że pierwszy wynik wyszukiwania Google jest tym najważniejszym. Sam Google miał tego świadomość, a mimo to wrzucił funkcję na sam szczyt listy wyników. Oczywiście przy każdym skrócie najważniejszych informacji generowanym przez AI były magiczne karty wyjścia z więzienia "Dowiedz się więcej" i "To eksperyment", które jednak są bezwartościowe wobec deklaracji samego koncernu, który wiedział o słabych punktach AI Overview i mimo to po prostu wrzucił go do Search Labs jakby był jedynie Google doodlem inspirowanym Minecraftem.
Inna kwestia to fakt, że koncern w działaniu świadomie polega na treściach z witryn zaindeksowanych w Google, czyli po prostu na treściach, nad którymi nie ma kontroli. W przypadku wielu zapytań informacji dostarczają witryny, z których rzetelnością trudno się kłócić: strony słowników, encyklopedii, instytucji i organów rządowych, niekiedy witryn zarządzanych przez uczelnie i uniwersytety. Jednocześnie w jeszcze większej ilości przypadków wyszukiwarka internetowa skieruje internautę w kierunku blogów, for internetowych czy małych serwisów poświęconych danej tematyce. Bo na próżno szukać porad co do uprawy kwiatów na Wikipedii, a choć blog Ania Gotuje ma dobry przepis na żurek, to wpis nie odpowiada na pytanie "jak naprawić zbyt kwaśny żurek".
Pizza z klejem to wręcz symbol problemów korzystania z AI i wyszukiwarki Google
Jest to dynamika niezmienna od lat i jak nietrudno się domyślić, jest to też miecz obosieczny. Sama sytuacja z pizzą z klejem wynikła właśnie z faktu, że do tej odpowiedzi AI Overview "zaciągnął" wpis z Reddita, który był żartem. A serwis Reddit to mieszanka zarówno śmieszków, jak i ekspertów w bardzo niszowych dziedzinach. Mimo świadomości, że korzystając z serwisu można się bardzo ostro przejechać, treści z Reddita (ale i for dyskusyjnych ogólnie) są podbiijane przez algorytm tylko dlatego, że pochodzą z danego medium.
A to z kolei sprawia, że cała drama wokół AI Overview bardziej niż wokół "AI" jest wokół samej wyszukiwarki Google. Bowiem analiza tego, co się wydarzyło, jak do tego doszło i wyjaśnienia koncernu sprowadzają nas do istniejącego już od wiele lat problemu: dla wyszukiwarki nie jest wartością, sama informacja, ale ocena algorytmu, według którego dana strona jest dobrą odpowiedzią na samo zapytanie.
A to można osiągnąć dużą liczbą słów kluczowych, publikacją w witrynie z dużym autorytetem czy odpowiednim formatowaniem tekstu, które w połączeniu z innymi trikami znanymi ekspertom SEO mogą sprawić, że śmieszki pokroju "Australia nie istnieje", "Ziemia jest płaska", albo nieironiczne osoby zaprzeczające pewnym wydarzeniom historycznym staną się wyznacznikiem prawdy w internecie.
Więcej na temat wyszukiwarki Google:
