Memprediksi sistem yang kompleks seperti cuaca terkenal sulit. Tapi setidaknya persamaan yang mengatur cuaca tidak berubah dari satu hari ke hari berikutnya. Sebaliknya, sistem kompleks tertentu dapat mengalami transisi "titik kritis", tiba-tiba mengubah perilaku mereka secara dramatis dan mungkin tidak dapat diubah, dengan sedikit peringatan dan berpotensi menimbulkan konsekuensi bencana.
Pada rentang waktu yang cukup lama, sebagian besar sistem dunia nyata seperti ini. Pertimbangkan Arus Teluk di Atlantik Utara, yang mengangkut air hangat khatulistiwa ke utara sebagai bagian dari sabuk konveyor samudera yang membantu mengatur iklim Bumi. Persamaan yang menggambarkan arus yang bersirkulasi ini perlahan berubah karena masuknya air tawar dari lapisan es yang mencair. Sejauh ini sirkulasi telah melambat secara bertahap, tetapi beberapa dekade dari sekarang mungkin tiba-tiba terhenti.
“Misalkan semuanya baik-baik saja sekarang,” kata Ying-Cheng Lai, seorang fisikawan di Arizona State University. "Bagaimana Anda mengatakan bahwa itu tidak akan baik-baik saja di masa depan?"
Dalam serangkaian makalah baru-baru ini, para peneliti telah menunjukkan bahwa algoritme pembelajaran mesin dapat memprediksi transisi titik kritis dalam contoh pola dasar sistem "nonstasioner", serta fitur perilaku mereka setelah tip. Teknik baru yang sangat kuat suatu hari nanti dapat menemukan aplikasi dalam ilmu iklim, ekologi, epidemiologi dan banyak bidang lainnya.
Lonjakan minat pada masalah dimulai empat tahun lalu dengan hasil terobosan dari grup Edward Otto, seorang peneliti kekacauan terkemuka di University of Maryland. Tim Ott menemukan bahwa jenis algoritma pembelajaran mesin yang disebut jaringan saraf berulang dapat memprediksi evolusi sistem kacau stasioner (yang tidak memiliki titik kritis) jauh ke masa depan. Jaringan hanya mengandalkan catatan perilaku sistem yang kacau di masa lalu — tidak memiliki informasi tentang persamaan yang mendasarinya.
Pendekatan pembelajaran jaringan berbeda dari jaringan saraf dalam, yang memasukkan data melalui tumpukan tinggi lapisan neuron buatan untuk tugas-tugas seperti pengenalan suara dan pemrosesan bahasa alami. Semua jaringan saraf belajar dengan menyesuaikan kekuatan koneksi antara neuron mereka sebagai respons terhadap data pelatihan. Ott dan rekan-rekannya menggunakan metode pelatihan yang lebih murah secara komputasi yang disebut komputasi reservoir, yang menyesuaikan hanya beberapa koneksi dalam satu lapisan neuron buatan. Terlepas dari kesederhanaannya, komputasi reservoir tampaknya cocok untuk tugas memprediksi evolusi yang kacau.
Mengesankan seperti hasil tahun 2018, para peneliti menduga bahwa pendekatan berbasis data pembelajaran mesin tidak akan dapat memprediksi transisi titik kritis dalam sistem nonstasioner atau menyimpulkan bagaimana sistem ini akan berperilaku sesudahnya. Jaringan saraf melatih data masa lalu tentang sistem yang berkembang, tetapi "apa yang terjadi di masa depan berkembang dengan aturan yang berbeda," kata Ott. Ini seperti mencoba memprediksi hasil pertandingan bisbol hanya untuk mengetahui bahwa itu berubah menjadi pertandingan kriket.
Namun, dalam dua tahun terakhir, kelompok Ott dan beberapa lainnya telah menunjukkan bahwa komputasi reservoir bekerja dengan baik secara tak terduga untuk sistem ini juga.
In sebuah kertas 2021, Lai dan kolaborator memberikan akses algoritma komputasi reservoir mereka ke nilai parameter yang melayang perlahan yang pada akhirnya akan mengirim sistem model ke titik kritis — tetapi mereka tidak memberikan informasi lain tentang persamaan yang mengatur sistem. Situasi ini berkaitan dengan sejumlah skenario dunia nyata: Kita tahu bagaimana konsentrasi karbon dioksida di atmosfer meningkat, misalnya, tetapi kita tidak tahu semua cara variabel ini akan mempengaruhi iklim. Tim menemukan bahwa jaringan saraf yang dilatih pada data masa lalu dapat memprediksi nilai di mana sistem pada akhirnya akan menjadi tidak stabil. Grup Ott diterbitkan hasil terkait tahun lalu.
Di sebuah kertas baru, diposting online pada bulan Juli dan sekarang menjalani peer review, Ott dan mahasiswa pascasarjananya Dhruvit Patel menjelajahi kekuatan prediktif jaringan saraf yang hanya melihat perilaku sistem dan tidak tahu apa-apa tentang parameter mendasar yang bertanggung jawab untuk mendorong transisi titik kritis. Mereka memberi makan data jaringan saraf mereka yang direkam dalam sistem simulasi sementara parameter tersembunyi melayang, tanpa sepengetahuan jaringan. Hebatnya, dalam banyak kasus algoritme dapat memprediksi permulaan tipping dan memberikan distribusi probabilitas dari kemungkinan perilaku post-tipping-point.
Anehnya, jaringan bekerja paling baik ketika dilatih pada data yang bising. Kebisingan ada di mana-mana dalam sistem dunia nyata, tetapi biasanya menghalangi prediksi. Ini membantu, tampaknya dengan memaparkan algoritme ke jangkauan yang lebih luas dari kemungkinan perilaku sistem. Untuk memanfaatkan hasil yang berlawanan dengan intuisi ini, Patel dan Ott mengubah prosedur komputasi reservoir mereka untuk memungkinkan jaringan saraf mengenali noise serta perilaku rata-rata sistem. "Itu akan menjadi penting untuk pendekatan apa pun yang mencoba memperkirakan" perilaku sistem nonstasioner, kata Michael Graham, seorang fluid dynamicist di University of Wisconsin, Madison.
Patel dan Ott juga menganggap kelas titik kritis yang menandai perubahan perilaku yang sangat mencolok.
Misalkan keadaan suatu sistem diplot sebagai titik yang bergerak dalam ruang abstrak dari semua kemungkinan keadaannya. Sistem yang menjalani siklus reguler akan melacak orbit yang berulang di ruang angkasa, sementara evolusi yang kacau akan terlihat seperti kekacauan yang kusut. Titik kritis dapat menyebabkan orbit lepas kendali tetapi tetap berada di bagian plot yang sama, atau mungkin menyebabkan gerakan yang awalnya kacau menyebar ke wilayah yang lebih besar. Dalam kasus ini, jaringan saraf dapat menemukan petunjuk tentang nasib sistem yang dikodekan dalam eksplorasi masa lalunya terhadap wilayah yang relevan dari ruang keadaan.
Lebih menantang adalah transisi di mana sistem tiba-tiba dikeluarkan dari satu wilayah dan evolusi selanjutnya terungkap di wilayah yang jauh. “Tidak hanya dinamika yang berubah, tetapi sekarang Anda mengembara ke wilayah yang belum pernah Anda lihat sebelumnya,” jelas Patel. Transisi seperti itu biasanya "histeris", artinya tidak mudah dibalik — bahkan jika, katakanlah, parameter yang meningkat perlahan yang menyebabkan transisi didorong ke bawah lagi. Histeresis semacam ini biasa terjadi: Bunuh satu terlalu banyak predator puncak dalam suatu ekosistem, misalnya, dan dinamika yang berubah dapat menyebabkan populasi mangsa tiba-tiba meledak; tambahkan predator kembali lagi dan populasi mangsa tetap tinggi.
Ketika dilatih pada data dari sistem yang menunjukkan transisi histeris, algoritma komputasi reservoir Patel dan Ott mampu memprediksi titik kritis yang akan segera terjadi, tetapi waktunya salah dan gagal memprediksi perilaku sistem selanjutnya. Para peneliti kemudian mencoba pendekatan hibrida yang menggabungkan pembelajaran mesin dan pemodelan sistem berbasis pengetahuan konvensional. Mereka menemukan bahwa algoritma hybrid melebihi jumlah bagian-bagiannya: Ini bisa memprediksi sifat statistik dari perilaku masa depan bahkan ketika model berbasis pengetahuan memiliki nilai parameter yang salah dan karena itu gagal dengan sendirinya.
Segera Hoe Lim, seorang peneliti pembelajaran mesin di Institut Nordik untuk Fisika Teoritis di Stockholm yang telah mempelajari perilaku jangka pendek sistem nonstasioner, berharap karya terbaru ini akan "berfungsi sebagai katalis untuk studi lebih lanjut," termasuk perbandingan antara kinerja komputasi reservoir dan itu dari belajar mendalam algoritma. Jika komputasi reservoir dapat bertahan terhadap metode yang lebih intensif sumber daya, itu akan menjadi pertanda baik bagi prospek mempelajari titik kritis dalam sistem besar dan kompleks seperti ekosistem dan iklim bumi.
“Ada banyak hal yang harus dilakukan di bidang ini,” kata Ott. "Ini benar-benar terbuka lebar."
