Chatbot poradził mu, czym opryskać pole. Następnego dnia się załamał
Miał być sposób na chwasty i szkodniki, skończyło się na zniszczonej plantacji. Pewien rolnik zastosował recepturę wygenerowaną przez chatbota, w efekcie czego zniszczył wszystkie tegoroczne plony.
Już nie raz i nie dwa przez moje feedy w mediach społecznościowych przemknęły relacje osób, które ślepo zaufały chatbotom i w różny sposób - od przelania, poprzez złe podłoże, aż po nadmierne nawożenie złym preparatem - zabiły swoje rośliny doniczkowe. Ale całkowitą nowością jest dla mnie historia chińskiego rolnika, który zastosował wygenerowaną przez AI recepturę na walkę z chwastami i szkodnikami, a następnego dnia mógł już tylko patrzeć na zniszczone uprawy.
Rolnik zaufał AI i stracił całą uprawę
O sprawie poinformował tajwański serwis CTWANT, powołując się na doniesienia chińskich mediów. Jak wynika z opisu, 67-letni Wu z Chuzhou w chińskiej prowincji Anhui od około roku korzystał z aplikacji AI przy prowadzeniu gospodarstwa. Pytał chatbota o różne kwestie związane z uprawami, między innymi o terminy prac polowych, nawożenie oraz stosowanie środków ochrony roślin.
Początkowo rolnik podchodził do odpowiedzi sztucznej inteligencji z rezerwą. Z czasem zaczął jednak nabierać do niej zaufania, ponieważ wcześniejsze porady miały być dla niego pomocne. W efekcie przestał traktować odpowiedzi AI wyłącznie jako sugestie i zaczął wykorzystywać je przy podejmowaniu decyzji dotyczących gospodarstwa.
10 lipca Wu zapytał chatbota o sposób zwalczania chwastów i szkodników na polu sezamu. AI przygotowała dla niego rozbudowaną recepturę określoną jako "kompletny plan zwalczania chwastów i szkodników na 100 mu sezamu" (mu to tradycyjna chińska jednostka powierzchni gruntu, odpowiada 1/15 ha = 666,67 metra kwadratowego). Wśród rekomendowanych preparatów znalazły się wysokowydajny flupyrimin oraz fomesafen, a także środki zawierające tiametoksam i emamektynę.
Wu nie skonsultował przygotowanej przez AI receptury z lokalnymi specjalistami zajmującymi się doradztwem rolniczym. Nie zweryfikował też zaleceń przed zastosowaniem oprysku. Zgodnie z instrukcjami wygenerowanymi przez chatbota zastosował przygotowaną mieszankę na swojej plantacji.
Skutki działań rolnika pojawiły się niemal natychymiast
Już następnego dnia mężczyzna zauważył, że nie tylko chwasty, ale również młode rośliny sezamu zaczęły masowo obumierać.
- Po opryskaniu następnego dnia sadzonki już nie dawały rady. Trawa i sadzonki umarły razem, a sadzonki umarły jeszcze szybciej - powiedział Wu podczas rozmowy wideo, cytowanej przez CTWANT.
Rolnik ponownie zwrócił się wtedy do AI, tym razem pytając, dlaczego jego rośliny zginęły. Chatbot wskazał, że jednym z powodów mógł być fomesafen, czyli herbicyd znajdujący się w przygotowanej wcześniej mieszance.
Później sprawą zajęli się specjaliści. Jak wynika z informacji cytowanych przez CTWANT, fomesafen jest stosowany przede wszystkim do zwalczania chwastów szerokolistnych w uprawach soi. Sezam również należy do roślin szerokolistnych, dlatego zastosowanie tego środka na jego plantacji mogło doprowadzić do poważnego uszkodzenia upraw.
Znaczenie miał również sposób aplikacji. Eksperci wskazali, że fomesafen powinien być stosowany w sposób ukierunkowany na określone obszary, a nie rozpylany na całym polu. Zastosowanie preparatu na całej powierzchni mogło więc doprowadzić do tzw. uszkodzenia herbicydowego, w wyniku którego zginęły również rośliny sezamu.
Skala strat okazała się ogromna. Wu stracił około 150 mu upraw, czyli mniej więcej 10 hektarów. Praktycznie cała znajdująca się tam uprawa sezamu została zniszczona.
Rolnik twierdzi, że gdyby chatbot wyraźnie ostrzegł go przed ryzykiem związanym z zastosowaniem konkretnego herbicydu, prawdopodobnie nie zdecydowałby się na oprysk. Na stronie rozmowy znajdowało się jednak ostrzeżenie, że treści generowane przez AI mogą zawierać błędy i należy je zweryfikować.
W sprawie wypowiedziała się również obsługa aplikacji, z której korzystał Wu. Jej przedstawicielka przekazała, że system nie posiada niezależnej bazy wiedzy dotyczącej rolnictwa. Odpowiedzi są generowane na podstawie informacji dostępnych w publicznych źródłach internetowych.
Obsługa miała zarejestrować zgłoszenie dotyczące przypadku Wu i przekazać je do dalszego sprawdzenia. Firma nie przedstawiła jednak w przytoczonych materiałach informacji o ewentualnym sposobie zrekompensowania rolnikowi poniesionych strat.
Czytaj też:
Redaktorka Spider's Web specjalizująca się w tematykach sztucznej inteligencji, smartfonów i oprogramowania. Jako sześciolatka powiedziała w wywiadzie dla lokalnej telewizji, że chce zostać dziennikarką. Dzisiaj jest absolwentką dziennikarstwa i komunikacji społecznej na Akademii Humanistyczno-Ekonomicznej w Łodzi. Od dziecka pasjonuje się szeroko pojętymi grami i technologią, a w gimnazjum zapałała miłością do grafiki komputerowej i elektroniki użytkowej. Swoją pasję przekuła w działalność dziennikarską. Prywatnie miłośniczka psów, gotowania i literatury faktu.