Bot nazmyślał w pozwie, prawnicy beknęli. Tak się kończy bezmyślne korzystanie z AI
Troje prawników zostało skazanych na karę grzywny po tym, jak powołali się przed sądem na osiem nieistniejących spraw. To była radosna twórczość botów.
Generatywna AI już nie raz pokazała, że ma tendencję do zmyślania faktów, a mimo to darzymy ją zaufaniem na tyle dużym, by iść do ChatGPT zamiast dermatologa. Co jeszcze w jakiś sposób można wybaczyć - w końcu działamy na własny rachunek i to my poniesiemy konsekwencje własnych działań.
Jednak tego samego nie można powiedzieć o prawnikach, którzy wciąż z jakiegoś powodu myślą, że używanie generatywnej AI do pisania treści dokumentów może skończyć się dobrze.
Deskorolka miała spalić dom, a AI spaliła sprawę
Uczy nas tego sprawa z sądu okręgowego dla dystryktu Wyoming w Stanach Zjednoczonych. W lipcu 2023 r. pełnomocnicy z kancelarii Morgan & Morgan, reprezentujący rodzinę Wadsworthów, złożyli w jej imieniu pozew przeciwko sieci sklepów Walmart i firmie Jetson Electric Bikes. Wadsworthowie kupili w jednym ze sklepów Walmart elektryczną deskorolkę wyprodukowaną przez Jetson Electric Bikes. Deskorolka miała okazać się wadliwa i wywołać pożar, który zniszczył dom i cały dobytek rodziny. Poprzez pozew Wadsworthowie domagali się zadośćuczynienia za poniesione straty.
Jak w wielu tego typu sprawach, prawnicy Morgan & Morgan przygotowali stosowne dokumenty, w których wymienili inne podobne sprawy. Ich wyroki przemawiałyby za wydaniem pozytywnego orzeczenia również w przypadku Wadsworthów.
To znaczy, ChatGPT przygotował. I nie odnalazł, a wymyślił. 14 lutego sędzia okręgu Wyoming Kelly Rankin wydał nakaz podania przyczyny, dla której "nie powinni zostać ukarani za powołanie się na osiem nieistniejących spraw". Z dziewięciu spraw, które prawnicy Wadsworthowie przytoczyli jako przykłady precedensów, osiem nie istniało. Rankin w uzasadnieniu nakazu powołał się na wypowiedzi obrońców Walmart i Jetson Electric Bikes, którzy nie tylko nie odnaleźli spraw w archiwach sądowych, ale także - poprzez rozmowę z ChatGPT - udało im się wygenerować dokładnie takie same przykładowe sprawy.
Kara za niedopełnienie obowiązków
Jak poinformował minionej nocy serwis Bloomberg Law, prawnicy Morgan & Morgan PA zostali skazani na karę grzywny za przedstawienie nieistniejących dowodów i "niewywiązanie się z etycznych obowiązków zawodu".
Po tym, jak sąd zauważył, że cytaty nie były prawdziwe, kancelaria Morgan & Morgan przyznała, że zostały one „wymyślone” przez jego program AI. [Firma] przeprosiła, wycofała złożone dokumenty, wdrożyła nowe protokoły szkoleniowe dotyczące korzystania z AI i pokryła koszty sądowe.
Grzywnę nałożono na trzech prawników - dwoje z nich otrzymało 3 tys. dol. kary, trzeci jedynie 1 tys. dol. Sama kancelaria Morgan & Morgan nie otrzymała kary, ponieważ "podjęła już kroki w celu zapewnienia, że jej prawnicy w przyszłości będą niezależnie weryfikować wszelkie informacje generowane przez sztuczną inteligencję, zanim się na nich oprą".
Nie jest to pierwszy tego typu przypadek w Stanach Zjednoczonych. Już w maju 2023 roku do mediów trafiła informacja o prawniku, który w podobny sposób skorzystał z ChatGPT. Adwokat był przekonany, że ChatGPT nie kłamie i nie zmyśla, gdyż sam zapytał chatbota o deklarację, że "nie kłamie". Podobna sytuacja miała miejsce w zeszłym roku, gdy jeden z profesorów Stanforda został poproszony o opinię w sprawie dotyczącej wpływu generatywnej AI na wybory. Profesor miał wygenerować swoją opinię z użyciem ChatGPT.
Więcej na temat sztucznej inteligencji:
