Air Canada Mengembalikan Dana Pengguna Setelah AI Chatbotnya Memalsukan Kebijakan

Pengadilan di Kanada telah memutuskan bahwa konsumen yang mendapatkan informasi menyesatkan dari program AI dapat menerima kompensasi.

Pengadilan Resolusi Sipil British Columbia membuat keputusan tersebut setelah seorang penerbang asal Kanada menjanjikan potongan harga duka dari AI ChatBot memenangkan kasus melawan Air Canada.

Baca juga: OpenAI Mengklaim The New York Times “Meretas” ChatGPT Untuk Mengembangkan Kasus Hak Cipta 

Kesalahan chatbot AI

Pengadilan mendengar bahwa pada November 2022, Jake Moffat memesan penerbangan dengan Air Canada, berniat melakukan perjalanan dari Vancouver ke Toronto untuk menghadiri pemakaman neneknya.

Saat meneliti penerbangan, dia menghubungi chatbot AI di situs web maskapai tersebut, menanyakan apakah mungkin ada pertimbangan untuk tarif yang lebih murah secara signifikan dibandingkan tiket pesawat reguler.

Chatbot tersebut memberi tahu Moffat bahwa dia dapat membeli tiket normal dan kemudian meminta “pengembalian dana sebagian” menggunakan kebijakan kehilangan Air Canada dalam waktu tiga bulan, menurut pada resolusi perdata yang dikeluarkan oleh pengadilan pada bulan Februari. Dia mengikuti saran itu dan membeli tiket penuh.

Namun saat meminta pengembalian dana sebesar $880 dolar Kanada, Moffat diberitahu oleh staf di Air Canada bahwa chatbot telah memberinya informasi yang “menyesatkan” dan dia tidak memenuhi syarat untuk mendapatkan pengembalian dana.

Pria itu membawa masalah ini ke pengadilan, mencari ganti rugi. Moffat mengandalkan tangkapan layar percakapannya dengan chatbot tersebut, yang menurut resolusi tersebut, memuat hal-hal berikut sebagai bukti:

“Air Canada menawarkan potongan harga untuk berkabung jika Anda perlu melakukan perjalanan karena kematian yang akan segera terjadi atau kematian anggota keluarga dekat Anda,” kata chatbot tersebut.

“Jika Anda perlu segera melakukan perjalanan atau sudah melakukan perjalanan dan ingin menyerahkan tiket Anda untuk mendapatkan potongan harga kehilangan, silakan melakukannya dalam waktu 90 hari sejak tanggal tiket Anda diterbitkan dengan mengisi formulir Permohonan Pengembalian Dana Tiket kami.”

Dalam pembelaannya, maskapai penerbangan tersebut mengatakan bahwa meskipun chatbot AI menyesatkan pelanggan, Moffat “tidak mengikuti prosedur yang tepat untuk meminta tarif duka dan tidak dapat mengklaimnya secara surut.”

Maskapai ini bahkan mencoba untuk memisahkan diri dari AI, dengan mengatakan bahwa AI adalah badan hukum terpisah yang bertanggung jawab atas tindakannya sendiri. Air Canada mengatakan pihaknya “tidak bertanggung jawab atas informasi yang diberikan oleh salah satu agen, pelayan, atau perwakilannya, termasuk chatbot.”

'Bendera merah besar'

Air Canada menyediakan akomodasi tertentu, seperti pengurangan tarif, bagi penumpang yang bepergian karena kematian anggota keluarga dekat, menurut situs webnya.

Namun, sebagian kebijakan tersebut menyatakan bahwa kebijakan duka tidak berlaku untuk permintaan pengembalian uang yang dilakukan setelah perjalanan.

Meskipun maskapai penerbangan membela diri, anggota pengadilan Christopher C. Rivers mengatakan perusahaan bertanggung jawab untuk memastikan bahwa semua informasi di situsnya akurat dan dapat digunakan oleh klien. Keputusan tersebut memutuskan bahwa Air Canada mempunyai kewajiban untuk memperhatikan pengguna chatbotnya.

Moffat mendapatkan pengembalian dana sebagian sebesar $650 dolar Kanada [~$480], di samping ganti rugi, bunga, dan biaya pengadilan.

Ketika semakin banyak perusahaan yang mengadopsi AI dalam layanan pelanggan, tantangan hukum juga mulai meningkat, termasuk tuntutan hukum ChatGPT pencipta OpenAI untuk diduga menggunakan materi berhak cipta seperti buku untuk melatih chatbot AI percakapan populernya.

Jesse Brody, partner di firma konsultan hukum Manatt di New York, mengatakan kasus Moffat vs. Air Canada menunjukkan bahwa perusahaan dapat dimintai pertanggungjawaban atas ketidakakuratan yang dihasilkan oleh AI mereka, meskipun perangkat lunak tersebut disediakan oleh vendor pihak ketiga.

“Kasus ini menyoroti peningkatan akuntabilitas yang akan dihadapi perusahaan atas tindakan sistem AI mereka, terutama yang berhubungan dengan konsumen,” kata Brody, saat melaporkan oleh JD Supra.

“Fakta bahwa chatbot mampu sepenuhnya mengarang kebijakan pengembalian dana perusahaan harus menjadi tanda bahaya besar bagi perusahaan yang mengandalkan chatbot untuk memberikan informasi akurat tentang kebijakan perusahaan kepada pelanggan mereka,” tambahnya.

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
• PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
• PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
• PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
• Sumber: https://metanews.com/air-canada-forced-to-refund-customers-after-its-ai-chatbot-faked-a-policy/