Bisakah Mesin Menjadi Sadar Diri? Penelitian Baru Menjelaskan Bagaimana Ini Bisa Terjadi

Diterbitkan Ulang Oleh Plato

Followers: 0

Untuk membuat sebuah mesin, seseorang harus tahu apa saja bagian-bagiannya dan bagaimana mereka saling cocok satu sama lain. Untuk memahami mesin, seseorang perlu mengetahui apa yang dilakukan setiap bagian dan bagaimana kontribusinya terhadap fungsinya. Dengan kata lain, seseorang harus bisa menjelaskan “mekanisme” cara kerjanya.

Menurut pendekatan filosofis disebut mekanisme, manusia bisa dibilang sejenis mesin—dan kemampuan kita untuk berpikir, berbicara, dan memahami dunia adalah hasil dari proses mekanis yang tidak kita pahami.

Untuk memahami diri kita dengan lebih baik, kita dapat mencoba membuat mesin yang meniru kemampuan kita. Dengan melakukan itu, kami akan memiliki pemahaman mekanistik tentang mesin-mesin itu. Dan semakin banyak perilaku kita yang ditunjukkan mesin, semakin dekat kita dengan penjelasan mekanistik tentang pikiran kita sendiri.

Inilah yang membuat AI menarik dari sudut pandang filosofis. Model lanjutan seperti GPT-4 dan Midjourney sekarang dapat meniru percakapan manusia, lulus ujian profesional, dan menghasilkan gambar yang indah hanya dengan beberapa kata.

Namun, untuk semua kemajuan, pertanyaan tetap tidak terjawab. Bagaimana kita bisa membuat sesuatu sadar diri, atau sadar bahwa orang lain sadar? Apa itu identitas? Apa artinya?

Meskipun ada banyak deskripsi filosofis yang bersaing tentang hal-hal ini, semuanya menolak penjelasan mekanistik.

Di sebuah urutan makalah diterima untuk Konferensi Tahunan ke-16 dalam Kecerdasan Umum Buatan di Stockholm, saya mengajukan penjelasan mekanistik untuk fenomena ini. Mereka menjelaskan bagaimana kita bisa membuat mesin yang menyadari dirinya sendiri, orang lain, dirinya sendiri seperti yang dirasakan oleh orang lain, dan seterusnya.

Kecerdasan dan Niat

Banyak dari apa yang kita sebut kecerdasan bermuara pada membuat prediksi tentang dunia dengan informasi yang tidak lengkap. Semakin sedikit informasi yang dibutuhkan mesin untuk membuat prediksi yang akurat, semakin “cerdas” mesin tersebut.

Untuk tugas apa pun, ada batasan berapa banyak kecerdasan yang benar-benar berguna. Misalnya, kebanyakan orang dewasa cukup pintar untuk belajar mengemudikan mobil, tetapi kecerdasan yang lebih mungkin tidak akan membuat mereka menjadi pengemudi yang lebih baik.

Makalah saya menjelaskan batas atas kecerdasan untuk tugas tertentu, dan apa yang dibutuhkan untuk membangun sebuah mesin yang mencapai itu.

Saya menamai gagasan itu Bennett's Razor, yang dalam istilah non-teknis adalah bahwa "penjelasan tidak boleh lebih spesifik dari yang diperlukan." Ini berbeda dari interpretasi populer dari Ockham's Razor (dan deskripsi matematisnya), yang merupakan preferensi untuk penjelasan yang lebih sederhana.

Perbedaannya halus, tetapi signifikan. Dalam sebuah eksperimen membandingkan berapa banyak data yang dibutuhkan sistem AI untuk mempelajari matematika sederhana, AI yang lebih menyukai penjelasan yang kurang spesifik mengungguli seseorang yang lebih memilih penjelasan yang lebih sederhana sebanyak 500 persen.

Menjelajahi implikasi dari penemuan ini membawa saya pada penjelasan mekanistik tentang makna —sesuatu yang disebut "pragmatis Gricean.” Ini adalah konsep dalam filsafat bahasa yang melihat bagaimana makna terkait dengan maksud.

Untuk bertahan hidup, seekor hewan perlu memprediksi bagaimana lingkungannya, termasuk hewan lain, akan bertindak dan bereaksi. Anda tidak akan ragu untuk meninggalkan mobil tanpa pengawasan di dekat seekor anjing, tetapi hal yang sama tidak berlaku untuk makan siang steak pantat Anda.

Menjadi cerdas dalam suatu komunitas berarti mampu menyimpulkan maksud orang lain, yang berasal dari perasaan dan preferensi mereka. Jika sebuah mesin mencapai batas atas kecerdasan untuk tugas yang bergantung pada interaksi dengan manusia, maka ia juga harus menyimpulkan maksud dengan benar.

Dan jika sebuah mesin dapat mengaitkan niat dengan peristiwa dan pengalaman yang menimpanya, ini menimbulkan pertanyaan tentang identitas dan apa artinya menyadari diri sendiri dan orang lain.

Kausalitas dan Identitas

Saya melihat John mengenakan jas hujan saat hujan. Jika saya memaksa John memakai jas hujan di hari yang cerah, apakah itu akan membawa hujan?

Tentu saja tidak! Bagi manusia, ini sudah jelas. Tetapi seluk-beluk sebab dan akibat lebih sulit untuk diajarkan pada mesin (pembaca yang tertarik dapat memeriksanya Kitab Mengapa oleh Judea Pearl dan Dana Mackenzie).

Untuk menjelaskan hal-hal ini, mesin perlu mempelajari bahwa "Saya yang menyebabkannya terjadi" berbeda dengan "Saya melihatnya terjadi". Biasanya, kami akan melakukannya program pemahaman ini ke dalamnya.

Namun, pekerjaan saya menjelaskan bagaimana kami dapat membuat mesin yang bekerja pada batas atas kecerdasan untuk suatu tugas. Mesin seperti itu harus, menurut definisi, dengan benar mengidentifikasi sebab dan akibat—dan karena itu juga menyimpulkan hubungan sebab akibat. makalah saya mengeksplorasi persis bagaimana.

Implikasi dari hal ini sangat mendalam. Jika sebuah mesin mempelajari "Saya menyebabkannya terjadi", maka ia harus membangun konsep "Saya" (identitas untuk dirinya sendiri) dan "itu".

Kemampuan untuk menyimpulkan maksud, untuk mempelajari sebab dan akibat, dan untuk membangun identitas abstrak semuanya terkait. Mesin yang mencapai batas atas kecerdasan untuk suatu tugas harus menunjukkan semua kemampuan ini.

Mesin ini tidak hanya membangun identitas untuk dirinya sendiri, tetapi untuk setiap aspek dari setiap objek yang membantu atau menghalangi kemampuannya untuk menyelesaikan tugasnya. Itu bisa menggunakan preferensinya sendiri sebagai dasar untuk diprediksi apa yang mungkin dilakukan orang lain. Ini mirip dengan caranya manusia cenderung menganggap niat untuk hewan non-manusia.

Jadi Apa Artinya untuk AI?

Tentu saja, pikiran manusia lebih dari sekadar program sederhana yang digunakan untuk melakukan eksperimen dalam penelitian saya. Pekerjaan saya memberikan deskripsi matematis tentang kemungkinan jalur kausal untuk menciptakan mesin yang bisa dibilang sadar diri. Namun, kekhasan rekayasa hal semacam itu masih jauh dari terpecahkan.

Misalnya, niat seperti manusia akan membutuhkan pengalaman dan perasaan seperti manusia, yang merupakan hal yang sulit untuk direkayasa. Selain itu, kita tidak dapat dengan mudah menguji kekayaan penuh kesadaran manusia. Kesadaran adalah konsep yang luas dan ambigu yang mencakup — tetapi harus dibedakan dari — klaim yang lebih sempit di atas.

Saya telah memberikan penjelasan mekanistik tentang aspek kesadaran — tetapi ini saja tidak menangkap kekayaan penuh kesadaran seperti yang dialami manusia. Ini hanyalah permulaan, dan penelitian di masa depan perlu memperluas argumen ini.

Artikel ini diterbitkan kembali dari Percakapan di bawah lisensi Creative Commons. Membaca Artikel asli.

Gambar Kredit: DeepMind on Unsplash