Orang yang secara teratur berbicara dengan chatbot AI sering mulai percaya bahwa mereka hidup, kata CEO

Secara singkat Banyak orang mulai percaya bahwa mereka berinteraksi dengan sesuatu yang hidup ketika mereka berbicara dengan chatbots AI, menurut CEO Replika, sebuah aplikasi yang memungkinkan pengguna untuk merancang teman virtual mereka sendiri.

Orang dapat menyesuaikan tampilan chatbot mereka dan membayar fitur tambahan seperti ciri kepribadian tertentu di Replika. Jutaan orang telah mengunduh aplikasi dan banyak yang mengobrol secara teratur ke bot buatan mereka. Beberapa bahkan mulai berpikir bahwa teman digital mereka adalah entitas nyata yang hidup.

"Kami tidak berbicara tentang orang gila atau orang yang berhalusinasi atau mengalami delusi," pendiri dan CEO perusahaan, Eugenia Kuyda, mengatakan Reuters. “Mereka berbicara dengan AI dan itulah pengalaman yang mereka miliki.”

Seorang insinyur Google menjadi berita utama bulan lalu ketika dia mengatakan dia yakin salah satu model bahasa perusahaan itu sadar. Blake Lemoine sebagian besar diejek, tetapi dia tampaknya tidak sendirian dalam mengantropomorfisasi AI.

Namun, sistem ini tidak hidup, dan malah menipu manusia agar berpikir bahwa mereka memiliki kecerdasan. Mereka meniru bahasa dan memuntahkannya secara acak tanpa memiliki pemahaman tentang bahasa atau dunia yang mereka gambarkan.

Meski begitu, Kuyda mengatakan manusia bisa terombang-ambing oleh teknologi.

“Kita perlu memahami bahwa [ini] ada, seperti halnya orang-orang percaya pada hantu,” kata Kuyda. "Orang-orang sedang membangun hubungan dan percaya pada sesuatu."

UE harus melarang pendeteksi kebohongan AI, kata para aktivis

Undang-Undang AI Uni Eropa, sebuah proposal untuk mengatur teknologi, masih diperdebatkan dan beberapa ahli menyerukan larangan pendeteksi kebohongan otomatis.

Perusahaan swasta memberikan teknologi kepada pejabat pemerintah untuk digunakan di perbatasan. Algoritme AI mendeteksi dan menganalisis hal-hal seperti gerakan mata, ekspresi wajah, dan nada seseorang untuk mencoba dan membedakan jika seseorang mungkin tidak mengatakan yang sebenarnya. Tetapi para aktivis dan pakar hukum percaya itu harus dilarang di UE di bawah Undang-Undang AI yang akan datang.

“Anda harus membuktikan bahwa Anda adalah seorang pengungsi, dan Anda dianggap pembohong kecuali terbukti sebaliknya,” Petra Molnar, direktur asosiasi Lab Hukum Pengungsi nirlaba, mengatakan kabel. “Logika itu menopang segalanya. Ini mendukung pendeteksi kebohongan AI, dan mendukung lebih banyak pengawasan dan dorongan balik di perbatasan.”

Mencoba mendeteksi apakah seseorang mungkin berbohong menggunakan isyarat visual dan fisik bukanlah sains. Tes poligraf standar goyah, dan tidak jelas apakah menggunakan metode yang lebih otomatis berarti lebih akurat. Menggunakan teknologi berisiko seperti itu pada orang-orang yang rentan seperti pengungsi tidak ideal.

Bisakah AI benar-benar mengetahui berapa usia Anda?

Kejutan, kejutan – Algoritme AI yang dirancang untuk memprediksi usia seseorang dari gambar tidak selalu akurat.

Dalam upaya untuk menindak pengguna muda yang berbohong tentang usia mereka di platform media sosial, Meta mengumumkan bahwa mereka bekerja dengan Yoti, sebuah startup computer vision, untuk memverifikasi usia orang. Mereka yang secara manual mengubah tanggal lahir mereka untuk mendaftar di atas 18 tahun memiliki opsi untuk mengunggah video selfie, dan teknologi Yoti kemudian digunakan untuk memprediksi apakah mereka terlihat cukup dewasa.

Tetapi algoritmenya tidak selalu akurat. Wartawan dari CNN, yang diuji demo online dari versi yang berbeda dari perangkat lunak di wajah mereka sendiri, menemukan hasilnya hit atau miss. Algoritme Yoti memprediksi rentang usia target yang tepat untuk beberapa orang, tetapi dalam satu kasus meleset beberapa tahun – memprediksi seseorang terlihat 17-21 ketika mereka sebenarnya berusia pertengahan 30-an.

Sistem yang menganalisis video dari pengguna Meta dilaporkan lebih kesulitan memperkirakan usia remaja dari 13 hingga 17 tahun yang memiliki warna kulit lebih gelap. Sulit bagi manusia untuk menebak usia seseorang hanya dengan melihatnya, dan mesin mungkin tidak jauh lebih baik. ®