Jaringan syaraf tiruan belajar lebih baik ketika mereka menghabiskan waktu tidak belajar sama sekali

“Otak sangat sibuk saat kita tidur, mengulangi apa yang telah kita pelajari di siang hari,” kata Maxim Bazhenov, PhD, profesor kedokteran dan peneliti tidur di Fakultas Kedokteran Universitas California San Diego. “Tidur membantu mengatur ulang ingatan dan menyajikannya dengan cara yang paling efisien.”

Dalam karya yang diterbitkan sebelumnya, Bazhenov dan rekannya telah melaporkan bagaimana tidur membangun memori rasional, kemampuan mengingat hubungan sewenang-wenang atau tidak langsung antara objek, orang, atau peristiwa, dan melindungi ingatan lama dari lupa.

Jaringan saraf tiruan memanfaatkan arsitektur otak manusia untuk meningkatkan berbagai teknologi dan sistem, mulai dari ilmu dasar dan kedokteran hingga keuangan dan media sosial. Dalam beberapa hal, mereka telah mencapai kinerja manusia super, seperti kecepatan komputasi, namun mereka gagal dalam satu aspek utama: Ketika jaringan saraf tiruan belajar secara berurutan, informasi baru menimpa informasi sebelumnya, sebuah fenomena yang disebut bencana lupa.

“Sebaliknya, otak manusia belajar terus menerus dan menggabungkan data baru ke dalam pengetahuan yang ada,” kata Bazhenov, “dan biasanya otak manusia belajar paling baik ketika pelatihan baru diselingi dengan periode tidur untuk konsolidasi memori.”

Menulis di edisi 18 November 2022 Biologi Komputasi PLOS, penulis senior Bazhenov dan rekannya mendiskusikan bagaimana model biologis dapat membantu mengurangi ancaman bencana lupa dalam jaringan saraf tiruan, sehingga meningkatkan kegunaannya di berbagai spektrum kepentingan penelitian.

Para ilmuwan menggunakan jaringan saraf spiking yang secara artifisial meniru sistem saraf alami: Alih-alih informasi dikomunikasikan secara terus-menerus, informasi tersebut ditransmisikan sebagai peristiwa terpisah (lonjakan) pada titik waktu tertentu.

Mereka menemukan bahwa ketika jaringan spiking dilatih untuk melakukan tugas baru, namun dengan periode off-line sesekali yang menyerupai tidur, bencana lupa dapat dikurangi. Seperti otak manusia, kata penulis penelitian, “tidur” untuk jaringan memungkinkan mereka memutar ulang kenangan lama tanpa secara eksplisit menggunakan data pelatihan lama.

Kenangan direpresentasikan di otak manusia melalui pola bobot sinaptik – kekuatan atau amplitudo koneksi antara dua neuron.

“Ketika kita mempelajari informasi baru,” kata Bazhenov, “neuron bekerja dalam urutan tertentu dan ini meningkatkan sinapsis di antara mereka. Selama tidur, pola lonjakan yang dipelajari selama keadaan terjaga terulang secara spontan. Ini disebut reaktivasi atau pemutaran ulang.

Plastisitas sinaptik, kapasitas untuk diubah atau dibentuk, masih ada selama tidur dan selanjutnya dapat meningkatkan pola berat sinaptik yang mewakili memori, membantu mencegah lupa atau memungkinkan transfer pengetahuan dari tugas lama ke tugas baru.

Ketika Bazhenov dan rekannya menerapkan pendekatan ini pada jaringan saraf tiruan, mereka menemukan bahwa pendekatan ini membantu jaringan menghindari bencana lupa.

“Artinya jaringan ini bisa belajar terus menerus, seperti halnya manusia atau hewan. Memahami bagaimana otak manusia memproses informasi selama tidur dapat membantu meningkatkan daya ingat pada subjek manusia. Meningkatkan ritme tidur dapat meningkatkan daya ingat.

“Dalam proyek lain, kami menggunakan model komputer untuk mengembangkan strategi optimal untuk menerapkan stimulasi selama tidur, seperti nada pendengaran, yang meningkatkan ritme tidur dan meningkatkan pembelajaran. Ini mungkin sangat penting ketika ingatan tidak optimal, seperti ketika ingatan menurun karena penuaan atau dalam beberapa kondisi seperti penyakit Alzheimer.

Rekan penulisnya meliputi: Ryan Golden dan Jean Erik Delanois, keduanya di UC San Diego; dan Pavel Sanda, Institut Ilmu Komputer dari Akademi Ilmu Pengetahuan Ceko.