Prawnik z Vancouver staje przed sądem za korzystanie z ChatGPT, co doprowadziło do przedłożenia „fikcyjnego” orzecznictwa w sporze o opiekę nad dzieckiem.
Kanadyjska prawniczka spotyka się z krytyką po tym, jak w najnowszym artykule podkreślającym zagrożenia związane z niesprawdzoną technologią prawniczą jej chatbot AI do badań prawnych stworzył „fikcyjne” sprawy.
Przeczytaj także: Dlaczego Musk składa pozew przeciwko OpenAI i Samowi Altmanowi
Chong Ke, podobno używała prawniczka z Vancouver, wobec której toczy się obecnie dochodzenie w sprawie jej zachowania ChatGPT przygotowanie argumentacji prawnej w sprawie dotyczącej opieki nad dzieckiem rozpatrywanej przez Sąd Najwyższy Kolumbii Brytyjskiej.
Prawnik krytykowany za składanie fałszywych spraw tworzonych przez chatbota AI https://t.co/SH9JWn2A93
— podra (@podra) 29 lutego 2024 r.
Ke przedstawia orzecznictwo generowane przez Chatbota
Z dokumentów sądowych wynika, że Ke reprezentował ojca, który chciał wyjechać ze swoimi dziećmi za granicę, ale był uwikłany w spór separacyjny z matką dzieci.
Mówi się, że Ke poprosiła ChatGPT o podanie przykładów wcześniejszego orzecznictwa, które mogłoby mieć zastosowanie w sytuacji jej klienta. Przesłała dwa z trzech wyników, które OpenAI-rozbudowany chatbot wyprodukowany na potrzeby sądu.
Jednakże obrońca strony przeciwnej stwierdził niespójności i nie mógł znaleźć żadnych dowodów dotyczących przypadków, o których wspomniał Ke. Następnie Ke usunęła złożone przez siebie oświadczenia, obwiniając za błąd swoją niewiedzę co do dokładności treści tworzonych przez sztuczną inteligencję.
W e-mailu skierowanym do sądu Ke oświadczyła, że nie miała pojęcia, że te dwa przypadki mogą być błędne. Dodała, że po tym, jak jej koleżanka zwróciła uwagę na fakt, że nie można ich zlokalizować, przeprowadziła własne badania i również nie mogła wykryć problemów. Oświadczyła, że nie miała zamiaru wprowadzać w błąd obrońcy strony przeciwnej ani sądu i szczerze przeprosiła za popełniony błąd.
Korzystanie z chatbotów
Chatbots są szkoleni na ogromnych ilościach danych i pomimo swojej popularności są podatni na błędy zwane „halucynacjami”.
Zdaniem prawników reprezentujących matkę działania Ke były „naganne i zasługiwały na naganę”, ponieważ pochłonęły „znaczną ilość czasu i kosztów” w celu ustalenia, czy przytoczone przez nią przypadki były prawdziwe.
Jednakże ich wniosek o zasądzenie kosztów specjalnych został odrzucony przez sędziego składu przewodniczącego, który stwierdził, że taki „nadzwyczajny krok” wymagałby „stwierdzenia przez prawnika nagannego zachowania lub nadużycia procesu”.
Co więcej, niektórzy użytkownicy X (dawniej Twittera) wyrazili swoje niezadowolenie z używania chatbotów do spraw prawnych.
Kolejny prawnik na tyle głupi, aby używać ChatGPT i jego halucynacyjnych przypadków. (4. lub 5., który został złapany, według moich obliczeń.)https://t.co/WjaitrEATc
—Gary Marcus (@GaryMarcus) 29 lutego 2024 r.
Sędzia David odpowiada
Zdaniem sędziego Davida Masuhary powoływanie się na fałszywe sprawy w pismach sądowych i innych materiałach przekazywanych sądowi stanowi nadużycie proceduralne i jest równoznaczne ze złożeniem przed sądem fałszywego oświadczenia. Dodał, że pozostawienie tego bez kontroli może prowadzić do pomyłek sądowych.
Odkrył, że obrońca strony przeciwnej miał „dobre zasoby” i przygotował już „tomy” materiałów w sprawie. Powiedział, że nie ma w tym przypadku szans, aby obie fałszywe sprawy prześlizgnęły się przez światło dzienne.
Masuhara zapewnił, że Ke była „naiwna, jeśli chodzi o ryzyko związane z używaniem ChatGPT” i że jej działania wywołały „znaczący negatywny rozgłos”, ale zauważył również, że Ke starała się naprawić swoje błędy.
Stwierdził, że nie stwierdził, aby miała ona zamiar oszukać lub wprowadzić w błąd. Przyjął szczerość przeprosin pani Ke skierowanych do adwokata i sądu. Dodał, że jej żal był widoczny podczas jej wystąpień i ustnych oświadczeń w sądzie.
Incydent uwydatnia bardziej ogólne dyskusje na temat stosowania AI w dziedzinie prawa. Zwraca uwagę na trudności z zagwarantowaniem w sądzie niezawodności i poprawności treści generowanych przez sztuczną inteligencję.
- Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
- PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
- PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
- PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
- Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
- Źródło: https://metanews.com/vancouver-attorney-faces-scrutiny-after-ai-chatbot-generates-fake-case-law/
- :Jest
- :nie
- $W GÓRĘ
- 29
- 4
- 5
- 7
- 800
- a
- O nas
- za granicą
- nadużycie
- zaakceptowany
- Stosownie
- precyzja
- działania
- w dodatku
- Po
- przed
- AI
- Chatbot AI
- już
- również
- kwoty
- an
- i
- Inne
- Aplikuj
- SĄ
- argumenty
- sztuczny
- sztuczna inteligencja
- AS
- Uwaga
- adwokat
- Stephen Schwartz wygrywa
- BE
- bo
- zachowanie
- Obwinianie
- Brytyjski
- Kolumbia Brytyjska
- ale
- by
- CAN
- Kanadyjczyk
- walizka
- Etui
- złapany
- szansa
- chatbot
- nasze chatboty
- ChatGPT
- dziecko
- Dzieci
- okoliczności
- cytowane
- kolega
- COLUMBIA
- Prowadzenie
- zawartość
- Koszty:
- mógłby
- rada
- liczyć
- Boisko
- Dokumenty sądowe
- stworzony
- krytyka
- Obecnie
- Areszt
- Niebezpieczeństwa
- dane
- David
- odmówiono
- godny
- życzenia
- Mimo
- wykryć
- Ustalać
- ZROBIŁ
- trudności
- odkryty
- dyskusje
- Spierać się
- dokumenty
- na dół
- projekt
- rysuje
- niemy
- podczas
- wysiłek
- bądź
- dość
- Błędy
- dowód
- oczywisty
- przykłady
- wyrażone
- twarze
- okładzina
- fakt
- imitacja
- fałszywy
- pole
- Akta
- opiłki
- Znajdź
- znalezieniu
- natura
- Fix
- W razie zamówieenia projektu
- dawniej
- Gary
- Ogólne
- wygenerowane
- miał
- Have
- he
- wysłuchany
- jej
- tutaj
- Wysoki
- podświetlanie
- pasemka
- jego
- HTTPS
- pomysł
- zidentyfikowane
- if
- Niewiedza
- in
- incydent
- niespójności
- rata
- Inteligencja
- Zamiar
- śledztwo
- problemy
- IT
- JEGO
- jpg
- sędzia
- PRAWO
- znany
- Prawo
- proces sądowy
- prawnik
- Prawnicy
- prowadzić
- prowadzący
- Doprowadziło
- lewo
- Regulamin
- usytuowany
- zamknięty
- zrobiony
- Dokonywanie
- Marcus
- masywny
- materiały
- Maksymalna szerokość
- wzmiankowany
- może
- błąd
- błędy
- jeszcze
- większość
- mama
- MS
- Piżmo
- my
- ujemny
- Nie
- of
- on
- OpenAI
- or
- Inne
- na zewnątrz
- własny
- plato
- Analiza danych Platona
- PlatoDane
- popularność
- prezenty
- Wcześniejszy
- sonda
- wygląda tak
- Wytworzony
- zapewniać
- reklama
- Czytaj
- real
- niedawny
- żal
- reprezentowane
- reprezentowanie
- zażądać
- wymagać
- Badania naukowe
- Efekt
- ryzyko
- Powiedział
- Sam
- ona
- Z poważaniem
- kilka
- specjalny
- stwierdził,
- Zestawienie sprzedaży
- uległość
- Zgłoszenia
- składane
- przedkładający
- taki
- Najwyższy
- Sąd Najwyższy
- Technologia
- że
- Połączenia
- ich
- następnie
- Tam.
- Te
- one
- trzy
- Przez
- czas
- do
- wziął
- przeszkolony
- podróżować
- prawdziwy
- i twitterze
- drugiej
- dla
- posługiwać się
- używany
- Użytkownicy
- za pomocą
- Vancouver
- była
- były
- KIM
- w
- by
- X
- zefirnet