Chip Analog Terinspirasi Otak IBM Bertujuan Membuat AI Lebih Berkelanjutan

Diterbitkan Ulang Oleh Plato

Followers: 0

ChatGPT, DALL-E, Difusi Stabil, dan AI generatif lainnya telah menggemparkan dunia. Mereka menciptakan puisi dan gambar yang luar biasa. Mereka merembes ke setiap sudut dunia, mulai dari pemasaran hingga penulisan laporan hukum dan penemuan obat-obatan. Mereka tampak seperti anak poster kisah sukses perpaduan pikiran manusia-mesin.

Namun di balik terpal, segala sesuatunya terlihat kurang bagus. Sistem ini merupakan sumber energi yang sangat besar, sehingga membutuhkan pusat data yang mengeluarkan ribuan ton emisi karbon—yang semakin menekankan iklim yang sudah bergejolak—dan menyedot miliaran dolar. Ketika jaringan saraf menjadi lebih canggih dan lebih banyak digunakan, konsumsi energi kemungkinan akan semakin meroket.

Banyak tinta yang tumpah pada AI generatif jejak karbon. Permintaan energi di negara ini bisa menjadi penyebab penurunannya, sehingga menghambat pembangunan seiring dengan pertumbuhannya. Dengan menggunakan perangkat keras yang ada saat ini, AI generatif “diperkirakan akan segera terhenti jika terus bergantung pada perangkat keras komputasi standar,” tersebut Dr Hechen Wang di Intel Labs.

Sudah saatnya kita membangun AI yang berkelanjutan.

Minggu ini, sebuah pelajaran dari IBM mengambil langkah praktis ke arah itu. Mereka menciptakan chip analog 14 nanometer yang dikemas dengan 35 juta unit memori. Berbeda dengan chip yang ada saat ini, komputasi dilakukan secara langsung di dalam unit-unit tersebut, sehingga menghilangkan kebutuhan untuk bolak-balik mengirim data—yang pada akhirnya menghemat energi.

Pengalihan data dapat meningkatkan konsumsi energi 3 hingga 10,000 kali lipat melebihi kebutuhan komputasi sebenarnya, kata Wang.

Chip ini sangat efisien ketika ditantang dengan dua tugas pengenalan suara. Yang pertama, Google Speech Commands, berukuran kecil namun praktis. Di sini, kecepatan adalah kuncinya. Yang lainnya, Librispeech, adalah sistem raksasa yang membantu mentranskripsikan ucapan menjadi teks, sehingga membebani kemampuan chip untuk memproses data dalam jumlah besar.

Ketika dibandingkan dengan komputer konvensional, chip tersebut memiliki kinerja yang sama akuratnya namun menyelesaikan pekerjaan lebih cepat dan dengan energi yang jauh lebih sedikit, menggunakan kurang dari sepersepuluh dari apa yang biasanya diperlukan untuk beberapa tugas.

“Sepengetahuan kami, ini adalah demonstrasi pertama tingkat akurasi yang relevan secara komersial pada model yang relevan secara komersial…dengan efisiensi dan paralelisme besar-besaran” untuk chip analog, kata tim tersebut.

Byte Cerdas

Ini bukanlah chip analog pertama. Namun, hal ini mendorong gagasan komputasi neuromorfik ke dalam ranah kepraktisan—sebuah chip yang suatu hari nanti dapat memberi daya pada ponsel, rumah pintar, dan perangkat lain dengan efisiensi yang mendekati otak.

Um, apa? Mari kita mundur.

Komputer saat ini dibangun di atas Arsitektur Von Neumann. Anggap saja sebagai rumah dengan banyak ruangan. Pertama, unit pemrosesan pusat (CPU), menganalisis data. Yang lain menyimpan memori.

Untuk setiap penghitungan, komputer perlu memindahkan data bolak-balik antara dua ruangan tersebut, dan hal ini memerlukan waktu dan energi serta menurunkan efisiensi.

Sebaliknya, otak menggabungkan komputasi dan memori ke dalam sebuah apartemen studio. Persimpangannya yang seperti jamur, disebut sinapsis, membentuk jaringan saraf dan menyimpan ingatan di lokasi yang sama. Sinapsis sangat fleksibel, menyesuaikan seberapa kuat koneksinya dengan neuron lain berdasarkan memori yang disimpan dan pembelajaran baru—sebuah properti yang disebut “bobot”. Otak kita dengan cepat beradaptasi terhadap lingkungan yang selalu berubah dengan menyesuaikan bobot sinaptik ini.

IBM telah menjadi yang terdepan dalam perancangan chip analog meniru itu komputasi otak. Sebuah terobosan datang pada 2016, ketika mereka memperkenalkan sebuah chip berdasarkan bahan menarik yang biasanya ditemukan dalam CD yang dapat ditulis ulang. Materi tersebut mengubah keadaan fisiknya dan berubah bentuk dari sup kental menjadi struktur seperti kristal ketika disetrum dengan listrik—mirip dengan angka 0 dan 1 digital.

Inilah kuncinya: chip tersebut juga bisa eksis dalam keadaan hybrid. Dengan kata lain, mirip dengan sinapsis biologis, sinapsis buatan dapat menyandikan segudang bobot berbeda—bukan hanya biner—memungkinkannya mengakumulasi banyak kalkulasi tanpa harus memindahkan sedikit pun data.

Jekyll dan Hyde

Studi baru ini dibangun berdasarkan penelitian sebelumnya dengan juga menggunakan bahan perubahan fasa. Komponen dasarnya adalah “ubin memori”. Masing-masing penuh dengan ribuan bahan pengubah fasa dalam struktur kisi. Ubin mudah berkomunikasi satu sama lain.

Setiap ubin dikendalikan oleh pengontrol lokal yang dapat diprogram, sehingga tim dapat mengubah komponen—mirip dengan neuron—dengan presisi. Chip ini selanjutnya menyimpan ratusan perintah secara berurutan, menciptakan semacam kotak hitam yang memungkinkan mereka menggali kembali dan menganalisis kinerjanya.

Secara keseluruhan, chip tersebut berisi 35 juta struktur memori perubahan fase. Koneksinya mencapai 45 juta sinapsis—jauh berbeda dari otak manusia, namun sangat mengesankan pada chip 14 nanometer.

Chip Analog Terinspirasi Otak IBM Bertujuan Membuat AI Lebih Berkelanjutan Kecerdasan Data PlatoBlockchain. Pencarian Vertikal. Ai. — *Chip AI analog 14nm berada di tangan peneliti. Kredit Gambar: Ryan Lavine untuk IBM*

Angka-angka yang membingungkan ini menimbulkan masalah dalam menginisialisasi chip AI: terlalu banyak parameter yang harus dicari. Tim mengatasi masalah tersebut dengan menggunakan taman kanak-kanak AI, memprogram bobot sinaptik terlebih dahulu sebelum penghitungan dimulai. (Ini seperti membumbui wajan besi baru sebelum dimasak dengannya.)

Mereka “menyesuaikan teknik pelatihan jaringan dengan mempertimbangkan manfaat dan keterbatasan perangkat keras,” dan kemudian menetapkan bobot untuk hasil yang paling optimal, jelas Wang, yang tidak terlibat dalam penelitian ini.

Itu berhasil. Dalam satu pengujian awal, chip tersebut dengan mudah melakukan 12.4 triliun operasi per detik untuk setiap watt daya. Konsumsi energinya “puluhan atau bahkan ratusan kali lebih tinggi dibandingkan CPU dan GPU paling kuat,” kata Wang.

Chip tersebut menerapkan proses komputasi inti yang mendasari jaringan saraf dalam hanya dengan beberapa komponen perangkat keras klasik di ubin memori. Sebaliknya, komputer tradisional memerlukan ratusan atau ribuan transistor (unit dasar yang melakukan perhitungan).

Bicara Kota

Tim selanjutnya menantang chip tersebut untuk dua tugas pengenalan suara. Masing-masing menekankan aspek chip yang berbeda.

Tes pertama adalah kecepatan ketika ditantang dengan database yang relatif kecil. Menggunakan Perintah Ucapan Google database, tugas tersebut memerlukan chip AI untuk menemukan 12 kata kunci dalam kumpulan sekitar 65,000 klip yang berisi ribuan orang yang mengucapkan 30 kata pendek (“kecil” itu relatif di dunia pembelajaran mendalam). Saat menggunakan tolok ukur yang diterima—MLPerf— chip bekerja tujuh kali lebih cepat dibandingkan pada pekerjaan sebelumnya.

Chip tersebut juga bersinar ketika ditantang dengan database yang besar, Pidato pustaka. Korpusnya berisi lebih dari 1,000 jam pidato bahasa Inggris yang biasa digunakan untuk melatih AI untuk mengurai ucapan dan transkripsi ucapan-ke-teks otomatis.

Secara keseluruhan, tim menggunakan lima chip untuk mengkodekan lebih dari 45 juta bobot menggunakan data dari 140 juta perangkat perubahan fase. Ketika dibandingkan dengan perangkat keras konvensional, chip ini kira-kira 14 kali lebih hemat energi—memproses hampir 550 sampel setiap detik per watt konsumsi energi—dengan tingkat kesalahan sedikit di atas 9 persen.

Meski mengesankan, chip analog masih dalam tahap awal. Mereka menunjukkan “janji besar dalam memerangi masalah keberlanjutan yang terkait dengan AI,” kata Wang, namun jalan ke depan memerlukan penyelesaian beberapa rintangan lagi.

Salah satu faktornya adalah penyempurnaan desain teknologi memori itu sendiri dan komponen di sekitarnya—yaitu, cara tata letak chip. Chip baru IBM belum memuat semua elemen yang dibutuhkan. Langkah penting berikutnya adalah mengintegrasikan semuanya ke dalam satu chip sambil mempertahankan kemanjurannya.

Di sisi perangkat lunak, kita juga memerlukan algoritme yang secara khusus disesuaikan dengan chip analog, dan perangkat lunak yang siap menerjemahkan kode ke dalam bahasa yang dapat dipahami mesin. Seiring dengan semakin layaknya chip ini secara komersial, pengembangan aplikasi khusus akan menjaga impian masa depan chip analog tetap hidup.

“Dibutuhkan waktu puluhan tahun untuk membentuk ekosistem komputasi di mana CPU dan GPU dapat beroperasi dengan sukses,” kata Wang. “Dan mungkin diperlukan waktu bertahun-tahun untuk menciptakan lingkungan yang sama untuk AI analog.”

Gambar Kredit: Ryan Lavine untuk IBM