Chatboty przejęły pracę prawników. Sędzia anulował proces i ukarał adwokatów
Gdzie dwa chatboty się spierają, tam sędzia chowa twarz w dłoń i płacze.
Już nie raz i nie dwa do mediów trafiały informacje o sporach sądowych, w których adwokaci zlekceważyli powagę zawodu i oddali część swojej pracy chatbotom. Jednak po raz pierwszy w historii mamy do czynienia ze sprawą, gdzie przed obliczem sądu starły się dwie strony korzystające z narzędzi opartych na sztucznej inteligencji. Efekt okazał się na tyle kompromitujący, że sędzia nie tylko ukarał prawników, ale także odwołał proces i usunął wszystkich pełnomocników ze sprawy.
Nie jeden, a aż czterech prawników wykorzystało chatboty do pisania bzdur
Do zdarzenia doszło w styczniu tego roku wfederalnym sądzie w stanie Missisipi. Jak wyjaśnia prawnik Rob Freund, który dotarł do dokumentów sądowych sprawy, spór dotyczył rozliczeń finansowych pomiędzy prawnikiem Tomem Withersem a władzami miasta Aberdeen. Withers nie reprezentował sam siebie przed sądem, bowiem wynajął do tego celu dwie prawniczki. To właśnie one - a także duet prawników reprezentujący władze miasta Aberdeen, zostali pociągnięci do odpowiedzialności za złożenie dokumentów zawierających błędne informacje wygenerowane przez systemy AI. Bowiem w trakcie działań procesowych wyszło na jaw, że prawnicy obu stron przedkładali wymiarowi sprawiedliwości pisma procesowe naszpikowane błędami AI. Bowiem boty opierały swoją argumentacje na nieistniejących sprawach sądowych i nieistniejących - rzekomo precedensowych - wyrokach.
Sędzia Sharion Aycock z Sądu Okręgowego dla Północnego Dystryktu Missisipi nie kryła irytacji. W uzasadnieniu decyzji podkreśliła, że sąd już nie pierwszy raz został zmuszony do zajmowania się tzw. halucynacjami sztucznej inteligencji w dokumentach procesowych. Według niej sprawa stanowi "doskonały przykład ryzyka związanego z pełnieniem roli osoby, która jedynie zatwierdza decyzje bez zastanowienia".
Chatboty wymyśliły orzeczenia, prawnicy je zacytowali
Mechanizm błędu był podobny do wielu wcześniejszych przypadków nagłaśnianych w Stanach Zjednoczonych. Narzędzia AI wykorzystywane przez prawników wygenerowały nieistniejące precedensy i wyroki sądowe, które następnie zostały przywołane w oficjalnych pismach procesowych.
Różnica polegała jednak na skali problemu. Tym razem nie chodziło o jednego nieostrożnego pełnomocnika. Wszystkie cztery osoby reprezentujące strony postępowania przyznały się do korzystania z AI lub zaakceptowania dokumentów przygotowanych przez takie systemy bez odpowiedniej weryfikacji.
Po wyjściu sprawy na jaw i złożenia wyjaśnień, każdy z prawników przeprosił sąd oraz wyraził zakłopotanie sytuacją. Nie wystarczyło to jednak do uniknięcia konsekwencji.
Aycock zdecydowała o wstrzymaniu postępowania, anulowaniu rozprawy oraz wykluczeniu wszystkich czterech pełnomocników ze sprawy. Na całą czwórkę adwokatów nałożono kary finansowe wynoszące od 1000 do 3500 dolarów (ok. 3670 do 12840 zł), a dodatkowo dwóch prawników otrzymało także zakaz występowania przed tym sądem przez okres dwóch lat. W ocenie sędzi sankcje były konieczne ze względu na zaniedbania związane z kontrolą materiałów składanych do akt.
Szczególną uwagę zwrócono na działania Kathleen Wilson reprezentującą Withersa. Prawniczka przyznała, że korzystała z narzędzia AI o nazwie First Drafts do przygotowania całych pism procesowych. Zgodnie z treścią dokumentów procesowych Wilson tłumaczyła, że nie wiedziała, czym są halucynacje sztucznej inteligencji i nie była świadoma, że takie systemy mogą tworzyć fikcyjne orzeczenia. Sędzia Aycock uznała takie wyjaśnienia za niewiarygodne i niewystarczające.
Problemy nie skończyły się na jednej sprawie
Z dokumentów sądowych wynika, że Wilson miała nadal korzystać z AI w sposób prowadzący do podobnych błędów także po zwróceniu jej uwagi przez sąd. Inni sędziowie mieli odnajdywać nieistniejące orzeczenia w składanych przez nią pismach jeszcze kilka miesięcy później. W uzasadnieniu decyzji Aycock napisała, że budzi to poważne wątpliwości dotyczące odpowiedzialności zawodowej prawniczki. Choć późniejsze zdarzenia nie mogły wpłynąć na wysokość kary w tej konkretnej sprawie, sędzia zasugerowała, że wcześniejsze przeprosiny mogły nie być szczere.
Kolejna z surowiej ukaranych prawniczek, Kathryn Williams reprezentująca władze miasta Aberdeen, korzystała z innego systemu AI przeznaczonego do wyszukiwania informacji prawnych. Narzędzie zostało stworzone z myślą o analizie przepisów i orzecznictwa z jurysdykcji, w których zwykle działała jej kancelaria. Problem polegał na tym, że nie obejmowało prawa stanu Missisipi, mimo że właśnie tam toczył się spór.
O ile można zrozumieć wykorzystanie AI przez prawników do drobnych spraw pokroju sformułowania odpowiedzi na maila klienta, o tyle ciężko przechodzi mi przez myśl, że ktoś świadomie mógł oddać generatywnej AI pałeczkę w pisaniu całych stron pism procesowych. Zwłaszcza, że nie jest to ani pierwszy, ani drugi, ani nawet trzeci przypadek tego typu. Pozostaje mi mieć nadzieję, że o tego typu sytuacjach będę pisać jedynie w ramach ciekawostek zza Oceanu i nigdy nie staną się one rzeczywistością w Polsce.
Może zainteresować cię także:
Jako sześciolatka powiedziała w wywiadzie dla lokalnej telewizji, że chce zostać dziennikarką. Dzisiaj jest absolwentką dziennikarstwa i komunikacji społecznej na Akademii Humanistyczno-Ekonomicznej w Łodzi. Od dziecka pasjonuje się szeroko pojętymi grami i technologią, a w gimnazjum zapałała miłością do grafiki komputerowej i elektroniki użytkowej. Swoją pasję przekuła w działalność dziennikarską, przybliżając czytelnikom Spider's Web tematykę smartfonów, smartwatchy, oprogramowania i sztucznej inteligencji. Prywatnie miłośniczka psów, gotowania i literatury faktu.