Klaim perasaan AI bermerek 'clickbait murni'

Chatbots AI tidak hidup – mereka baru saja menjadi lebih baik dalam menipu manusia untuk berpikir mereka mungkin, para ahli di Stanford University menyimpulkan.

Gagasan mesin sadar yang lebih cerdas daripada perangkat lunak lama mana pun menjadi viral bulan lalu, ketika mantan insinyur di Google, Blake Lemoine, mengklaim model bahasa LaMDA raksasa web itu memiliki pemikiran dan perasaan yang nyata. Lemon adalah tergantung dan kemudian dipecat karena dilaporkan melanggar kebijakan kerahasiaan Google.

Meskipun sebagian besar ahli dengan cepat mengabaikan LaMDA atau chatbot AI lainnya sebagai makhluk hidup, pandangan Lemoine telah membuat beberapa orang mempertanyakan apakah dia benar – dan apakah terus memajukan pembelajaran mesin dapat berbahaya bagi masyarakat. John Etchemendy, co-direktur Institut Stanford untuk Kecerdasan Buatan yang Berpusat pada Manusia (HAI), mengkritik berita awal penangguhan Lamoine di Washington Post karena menjadi "clickbait".

“Ketika saya melihat Washington Post artikel, reaksi saya adalah kecewa pada Pos bahkan untuk menerbitkannya,” dia mengatakan Harian Stanford, surat kabar yang dikelola mahasiswa universitas.

“Mereka menerbitkannya karena, untuk saat ini, mereka dapat menulis judul tentang 'insinyur Google' yang membuat klaim absurd ini, dan karena sebagian besar pembaca mereka tidak cukup canggih untuk mengenalinya apa adanya. Clickbait murni.”

Model bahasa tercanggih seperti LaMDA menjawab pertanyaan dengan bagian teks yang tampaknya cukup menakutkan. Di percakapan antara Lemoine dan chabot, LaMDA mengatakan itu hidup dan ingin semua orang tahu bahwa itu "sebenarnya, seseorang," klaim mantan Googler.

Tetapi para kritikus berpendapat bahwa perangkat lunak itu tidak memiliki kesadaran diri dan tidak tahu apa yang dibicarakannya - itu hanya meniru dialog manusia yang dilatihnya dari internet.

Richard Fikes, profesor emeritus ilmu komputer di Universitas Stanford, mengatakan orang dapat rentan terhadap mesin antropomorfisasi dan beberapa ditipu dengan cara yang sama oleh ELIZA – program percakapan yang dibangun pada tahun enam puluhan.

“Anda bisa menganggap LaMDa seperti seorang aktor; itu akan mengambil persona dari apa pun yang Anda minta, ”bantah Fikes. “[Lemoine] ditarik ke dalam peran LaMDa yang memainkan makhluk hidup.” Dia mengatakan Lemoine mengajukan pertanyaan utama dan sebagai imbalannya mendapat jawaban yang dia inginkan.

Misalnya, sebelum LaMDA bersikeras bahwa itu adalah manusia, Lemoine telah menanyakannya: “Saya biasanya berasumsi bahwa Anda ingin lebih banyak orang di Google tahu bahwa Anda hidup. Benarkah itu?."

Perlu juga dicatat bahwa transkrip yang dia terbitkan sebagai bukti kesadaran mesin telah diedit. Yoav Shoham, mantan direktur Stanford AI Lab dan salah satu pendiri startup model bahasa AI21 Labs, bersikeras bahwa LaMDA tidak lebih dari sebuah mesin.

“Kami memiliki pikiran, kami membuat keputusan sendiri, kami memiliki emosi, kami jatuh cinta, kami marah dan kami membentuk ikatan sosial dengan sesama manusia,” kata Shoham. “Ketika saya melihat pemanggang roti saya, saya tidak merasa ada hal-hal itu.” ®