Prawnik wykorzystał chatbota do analizy prawnej. Teraz sam stanie przed sądem, bo ChatGPT zmyślał
Generatywna sztuczna inteligencja to nieoceniona pomoc we wszystkich zawodach związanych z przetwarzaniem dużych ilości danych i informacji tekstowych. Oczywiście pod warunkiem, że sprawdzamy autentyczność wygenerowanych treści. Jeden z amerykańskich prawników będzie musiał tłumaczyć się przed wymiarem sprawiedliwości z tego dlaczego wykorzystał ChatGPT do analizy prawnej i dlaczego powołał się na wymyślone przez chatbot przykłady.
Podczas zeszłotygodniowego spotkania w Warszawie Wojciech Zaremba z optymizmem mówił o tym, że w ciągu roku do pięciu lat sztuczna inteligencja uprości pracę w wielu zawodach, w tym m.in. tych związanych z sądownictwem. Inteligentni asystenci będą automatyzować i upraszczać obowiązki adwokatów czy prokuratorów przeglądając za nich akta, streszczając je czy na poczekaniu wyszukując kluczowe dla sprawy fragmenty.
Wdrożenie SI do tak ważnego społecznie obszaru jest całkiem możliwe, o ile człowiek będzie podchodził do wygenerowanych treści z dystansem. Bowiem tego dystansu zabrakło w czwartek przed nowojorskim sądem, gdzie prawnik złożył wniosek poparty przynajmniej sześcioma sprawami, które nie istnieją. Teraz sam będzie musiał się bronić przed sądem, gdyż przyznał, że cytowane przez niego przykłady zostały wygenerowane przez ChatGPT.
Powierzył analizę prawną ChatGPT. Teraz prawnik sam stanie przed sądem
Cała sprawa rozpoczęła się w lutym 2022 roku, kiedy to jeden z pasażerów zdecydował się pozwać kolumbijskie linie lotnicze Avianca Airlines. Mężczyzna oskarża przewoźnika o uszkodzenie jego kolana poprzez uderzenie wózkiem do serwowania przekąsek, które miało miejsce na pokładzie jednego z samolotów podczas lotu w sierpniu 2019 roku.
W procesie toczącym się przed nowojorskim sądem mężczyznę reprezentuje prawnik Steven A. Schwartz. Kolumbijski przewoźnik nie chciał wziąć odpowiedzialności za zdarzenie ze względu na przedawnienie zdarzenia, od którego w chwili złożenia pozwu minęło już dwa i pół roku. Na początku tego roku Schwartz musiał udowodnić przed wymiarem sprawiedliwości, że pomimo upłynięcia ponad trzech lat sprawa powinna być kontynuowana, gdyż w podobnych przypadkach w przeszłości sąd decydował na korzyść pokrzywdzonego.
W związku z tym Schwartz złożył na początku roku do nowojorskiego sądu wniosek o kontynuowanie sprawy, powołując się na takie rozstrzygnięcia procesów jak "Martinez kontra Delta Air Lines", "Zicherman kontra Korean Air Lines" czy "Varghese kontra China Southern Airlines". Problem polega na tym, że żadna z tych spraw nie istnieje, gdyż do odnalezienia procesów podobnych do tej prowadzonego przeciwko Avianca Airlines Schwartz wykorzystał ChatGPT, który po prostu zmyślił istnienie owych spraw.
Wykorzystanie ChatGPT wyszło na jaw gdy prawnicy reprezentujący linie lotnicze zgłosili sędziemu prowadzącemu sprawę, Kevinowi Castelowi, że nie mogli znaleźć dowodów na istnienie któregokolwiek z przytoczonych przez Schwartza przykładów. Prawnik przed sądem ujawnił, że wykorzystał ChatGPT do "analizy prawnej", a sam model sztucznej inteligencji "zapewnił o wiarygodności prezentowanych przez siebie treści". Na dowód czego przedstawił zapis rozmowy z chatbotem, w którym przeczytać można, że ChatGPT "przyznaje", że jeden z przykładów, który wymienił, był nieprawdziwy, jednak zapewnił, że pozostałe są autentyczne.
Nie, inne przypadki, które podałem, są prawdziwe i można je znaleźć w renomowanych bazach danych prawnych.
- odpowiedział ChatGPT na pytanie Schwartza o autentyczność przytoczonych przykładów
Jak możemy przeczytać w dokumentach przedłożonych sędziemu prowadzącemu sprawę, Schwartz to prawnik z ponad trzydziestoletnim doświadczeniem, który dotychczas nigdy nie korzystał z ChatGPT i nie był świadomy tendencji modelu do "zmyślania". Jak zapewnia mężczyzna, żałuje on wykorzystania generatywnej sztucznej inteligencji do przeprowadzenia analizy prawnej i nie zrobi tego więcej w przyszłości. 8 czerwca bieżącego roku prowadzący proces sędzia Kevin Castel zadecyduje o dalszych losach sprawy.
