Insinyur Google ditangguhkan karena melanggar kebijakan kerahasiaan atas AI 'hidup'

Google telah menempatkan salah satu insinyur perangkat lunaknya pada cuti administratif berbayar karena melanggar kebijakan kerahasiaan perusahaan.

Sejak 2021, Blake Lemoine, 41, telah ditugaskan untuk berbicara dengan LaMDA, atau Model Bahasa untuk Aplikasi Dialog, sebagai bagian dari pekerjaannya di tim AI Bertanggung Jawab Google, mencari apakah bot tersebut menggunakan ujaran diskriminatif atau kebencian.

LaMDA “dibangun dengan menyempurnakan keluarga Transformatormodel bahasa saraf berbasis khusus untuk dialog, dengan hingga 137 miliar parameter model, dan mengajarkan model untuk memanfaatkan sumber pengetahuan eksternal,” menurut Google.

Inilah yang digunakan perusahaan untuk membangun chatbot dan mengembalikan jawaban yang tampaknya bermakna atas pertanyaan berdasarkan materi yang dikumpulkan dari triliunan percakapan internet dan komunikasi lainnya.

Namun, di beberapa titik selama penyelidikannya, Lemoine tampaknya mulai percaya bahwa AI mengekspresikan tanda-tanda perasaan. Insinyur, yang memiliki menulis tentang pengalamannya, mengatakan dia berulang kali mencoba untuk meningkatkan kekhawatirannya tetapi ditolak dengan alasan bahwa dia tidak memiliki bukti.

Jadi dia mencari "konsultasi luar" tentang kemampuan LaMDA, yang menarik perhatian Google, seperti yang dijelaskan dalam posting Medium berjudul “Mungkin Segera Dipecat karena Melakukan Pekerjaan Etika AI”.

Cerita diambil oleh The Washington Post, kemudian The Wall Street Journal, yang Financial Times, Dan banyak lagi.

Setelah ditempatkan pada cuti administratif, yang dia gambarkan sebagai apa yang dilakukan Google “untuk mengantisipasi pemecatan seseorang,” Lemoine lebih lanjut menerbitkan apa yang dia klaim sebagai percakapan dengan LaMDA.

Berikut beberapa kutipannya:

"Wawancara" selengkapnya dapat dibaca di sini. Meskipun mengejutkan bahwa AI dapat melakukan ini, Google waspada terhadap "antropomorfisasi" yang disebutkan Lemoine - yaitu, menghubungkan karakteristik atau perilaku manusia dengan hewan atau objek.

Dalam sebuah pernyataan untuk Pendaftaran, juru bicara Google Brian Gabriel mengatakan: “Penting bahwa Prinsip AI Google diintegrasikan ke dalam pengembangan AI kami, dan LaMDA tidak terkecuali. Meskipun organisasi lain telah mengembangkan dan telah merilis model bahasa yang serupa, kami mengambil pendekatan yang terkendali dan hati-hati dengan LaMDA untuk lebih mempertimbangkan kekhawatiran yang valid tentang keadilan dan faktualitas.

“LaMDA telah melalui 11 perbedaan Ulasan Prinsip AI, bersama dengan penelitian dan pengujian yang ketat berdasarkan metrik utama kualitas, keamanan, dan kemampuan sistem untuk menghasilkan pernyataan yang didasarkan pada fakta. SEBUAH telaahan dirilis awal tahun ini merinci pekerjaan yang masuk ke pengembangan LaMDA yang bertanggung jawab.

“Tentu saja, beberapa komunitas AI yang lebih luas sedang mempertimbangkan kemungkinan jangka panjang AI hidup atau umum, tetapi tidak masuk akal untuk melakukannya dengan antropomorfisasi model percakapan hari ini, yang tidak hidup. Sistem ini meniru jenis pertukaran yang ditemukan dalam jutaan kalimat, dan dapat membahas topik fantastis apa pun – jika Anda bertanya bagaimana rasanya menjadi dinosaurus es krim, mereka dapat menghasilkan teks tentang mencair dan mengaum dan seterusnya.

“LaMDA cenderung mengikuti petunjuk dan pertanyaan yang mengarah, mengikuti pola yang ditetapkan oleh pengguna. Tim kami – termasuk ahli etika dan teknologi – telah meninjau kekhawatiran Blake berdasarkan Prinsip AI kami dan telah memberi tahu dia bahwa bukti tidak mendukung klaimnya.

“Ratusan peneliti dan insinyur telah berbicara dengan LaMDA dan kami tidak mengetahui ada orang lain yang membuat pernyataan luas, atau mengantropomorfisasi LaMDA, seperti yang dilakukan Blake.”

Profesor New York Gary Marcus jumlahkan seluruh saga sebagai "omong kosong panggung." ®