Seorang pengacara Vancouver menghadapi penyelidikan karena menggunakan ChatGPT di pengadilan, yang berujung pada pengajuan kasus hukum 'fiktif' dalam sengketa hak asuh anak.
Seorang pengacara Kanada menghadapi kritik setelah, dalam artikel terbarunya yang menyoroti bahaya teknologi hukum yang belum terbukti, chatbot AI miliknya untuk penelitian hukum menghasilkan kasus-kasus “fiktif”.
Baca juga: Mengapa Musk Mengajukan Gugatan Terhadap OpenAI dan Sam Altman
Chong Ke, seorang pengacara Vancouver yang saat ini sedang diselidiki atas perilakunya, dikatakan telah menggunakannya ChatGPT untuk menyusun argumen hukum untuk kasus hak asuh anak yang disidangkan oleh Mahkamah Agung British Columbia.
Pengacara dikecam karena menyerahkan kasus palsu yang dibuat oleh chatbot AI https://t.co/SH9JWn2A93
— podra (@podra) Februari 29, 2024
Ke menyajikan hukum kasus yang dihasilkan Chatbot
Berdasarkan dokumen pengadilan, Ke mewakili seorang ayah yang ingin bepergian ke luar negeri bersama anak-anaknya namun terjebak dalam perselisihan perpisahan dengan ibu dari anak-anak tersebut.
Ke dikatakan telah meminta ChatGPT untuk memberikan contoh kasus hukum sebelumnya yang mungkin berlaku untuk keadaan kliennya. Dia menyerahkan dua dari tiga hasil yang OpenAI-Chatbot yang dikembangkan diproduksi ke pengadilan.
Namun, pengacara pihak lawan mengidentifikasi adanya ketidakkonsistenan dan tidak dapat menemukan bukti mengenai kasus-kasus yang disebutkan oleh Ke. Ke kemudian menghapus kiriman yang dia buat, menyalahkan kesalahan tersebut karena ketidaktahuannya akan keakuratan konten yang dihasilkan oleh kecerdasan buatan.
Ke mengatakan melalui email ke pengadilan bahwa dia tidak tahu bahwa kedua kasus ini bisa saja salah. Dia menambahkan bahwa setelah rekannya menunjukkan fakta bahwa hal ini tidak dapat ditemukan, dia melakukan penelitian sendiri dan tidak dapat mendeteksi masalahnya juga. Dia menyatakan bahwa dia tidak punya niat untuk menyesatkan pengacara lawan atau pengadilan dan dengan tulus meminta maaf atas kesalahan yang dia buat.
Menggunakan Chatbots
Chatbots dilatih dengan data dalam jumlah besar, dan meskipun populer, data tersebut rentan terhadap kesalahan, yang dikenal sebagai “halusinasi”.
Tindakan Ke, menurut pengacara yang mewakili ibu tersebut, “tercela dan patut mendapat teguran” karena memerlukan “waktu dan biaya yang cukup besar” untuk menentukan apakah kasus yang ia kutip itu benar adanya.
Namun, permintaan mereka untuk memberikan biaya khusus ditolak oleh hakim ketua, yang menyatakan bahwa “langkah luar biasa” tersebut memerlukan “penemuan perilaku tercela atau penyalahgunaan proses” oleh pengacara.
Selain itu, beberapa pengguna X (sebelumnya Twitter) telah menyatakan ketidaksenangan mereka dengan penggunaan chatbots untuk kasus hukum.
Namun ada pengacara lain yang cukup bodoh untuk menggunakan ChatGPT dan kasus-kasus halusinasinya. (ke-4 atau ke-5 tertangkap, menurut hitungan saya.)https://t.co/WjaitrEATc
—Gary Marcus (@GaryMarcus) Februari 29, 2024
Hakim David menjawab
Menurut Hakim David Masuhara, mengutip kasus palsu dalam berkas pengadilan dan materi lain yang diserahkan ke pengadilan merupakan penyalahgunaan proses dan sama saja dengan membuat pernyataan palsu di pengadilan. Ia menambahkan, jika dibiarkan, hal ini bisa berujung pada ketidakadilan.
Dia menemukan bahwa pengacara lawan memiliki “sumber daya yang baik” dan telah menghasilkan “banyak” materi dalam kasus tersebut. Dia mengatakan tidak ada kemungkinan kedua kasus palsu itu lolos.
Masuhara menegaskan bahwa Ke “naif mengenai risiko penggunaan ChatGPT” dan bahwa tindakannya menghasilkan “publisitas negatif yang signifikan”, namun ia juga mengamati bahwa Ke berupaya memperbaiki kesalahannya.
Dia mengatakan bahwa dia tidak menemukan bahwa dia memiliki niat untuk menipu atau menyesatkan. Dia menerima ketulusan permintaan maaf Ms. Ke kepada penasihat hukum dan pengadilan. Dia menambahkan, penyesalannya terlihat jelas saat tampil dan menyampaikan secara lisan di pengadilan.
Insiden ini menyoroti diskusi yang lebih umum tentang penggunaan AI di bidang hukum. Hal ini menyoroti kesulitan dalam menjamin keandalan dan kebenaran konten yang dihasilkan AI di pengadilan.
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
- PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
- PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
- PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
- Sumber: https://metanews.com/vancouver-attorney-faces-scrutiny-after-ai-chatbot-generates-fake-case-law/
- :adalah
- :bukan
- $NAIK
- 29
- 4th
- 5th
- 7
- 800
- a
- Tentang Kami
- di luar negeri
- penyalahgunaan
- diterima
- Menurut
- ketepatan
- tindakan
- menambahkan
- Setelah
- terhadap
- AI
- AI chatbot
- sudah
- juga
- jumlah
- an
- dan
- Lain
- Mendaftar
- ADALAH
- argumen
- buatan
- kecerdasan buatan
- AS
- perhatian
- pengacara
- diberikan
- BE
- karena
- laku
- Menyalahkan
- Inggris
- British Columbia
- tapi
- by
- CAN
- Kanada
- kasus
- kasus
- tertangkap
- kesempatan
- ChatBot
- chatbots
- ChatGPT
- anak
- anak-anak
- keadaan
- dikutip
- rekan
- COLUMBIA
- Mengadakan
- Konten
- Biaya
- bisa
- nasihat
- menghitung
- Pengadilan
- Pengajuan Pengadilan
- dibuat
- kritik
- Sekarang
- Tahanan
- bahaya
- data
- David
- ditolak
- layak
- diinginkan
- Meskipun
- menemukan
- Menentukan
- MELAKUKAN
- kesulitan
- ditemukan
- diskusi
- Perselisihan
- dokumen
- turun
- draf
- menarik
- bodoh
- selama
- usaha
- antara
- cukup
- kesalahan
- bukti
- jelas
- contoh
- menyatakan
- wajah
- menghadapi
- fakta
- gadungan
- palsu
- bidang
- File
- pengajuan
- Menemukan
- temuan
- Kebakaran
- Memperbaiki
- Untuk
- dahulu
- Gary
- Umum
- dihasilkan
- memiliki
- Memiliki
- he
- mendengar
- dia
- di sini
- High
- menyoroti
- highlight
- -nya
- HTTPS
- ide
- diidentifikasi
- if
- Ketidaktahuan
- in
- insiden
- inkonsistensi
- cicilan
- Intelijen
- Niat
- investigasi
- masalah
- IT
- NYA
- jpg
- hakim
- Keadilan
- dikenal
- Hukum
- perkara hukum
- pengacara
- Pengacara
- memimpin
- terkemuka
- Dipimpin
- meninggalkan
- Informasi
- terletak
- terkunci
- terbuat
- Membuat
- Marcus
- besar-besaran
- bahan
- max-width
- tersebut
- mungkin
- kesalahan
- kesalahan
- lebih
- paling
- ibu
- MS
- Jebat
- my
- negatif
- tidak
- of
- on
- OpenAI
- or
- Lainnya
- di luar
- sendiri
- plato
- Kecerdasan Data Plato
- Data Plato
- kepopuleran
- hadiah
- Sebelumnya
- penyelidikan
- proses
- Diproduksi
- memberikan
- publisitas
- Baca
- nyata
- baru
- menyesali
- diwakili
- mewakili
- permintaan
- membutuhkan
- penelitian
- Hasil
- risiko
- Tersebut
- Universitas
- dia
- sungguh-sungguh
- beberapa
- khusus
- menyatakan
- Pernyataan
- pengajuan
- Submissions
- disampaikan
- mengirimkan
- seperti itu
- Tertinggi
- Mahkamah Agung
- Teknologi
- bahwa
- Grafik
- mereka
- kemudian
- Sana.
- Ini
- mereka
- tiga
- Melalui
- waktu
- untuk
- mengambil
- terlatih
- perjalanan
- benar
- dua
- bawah
- menggunakan
- bekas
- Pengguna
- menggunakan
- vancouver
- adalah
- adalah
- SIAPA
- dengan
- akan
- X
- zephyrnet.dll