Protokol Gensyn Tanpa Kepercayaan Melatih Jaringan Neural pada Skala Besar dengan Besaran Orde Lebih Rendah…

Protokol Gensyn Tanpa Kepercayaan Melatih Jaringan Neural di Hyperscale dengan Urutan Besaran Biaya yang Lebih Rendah

Link: Situs web Gensyn, Litepaper, Portofolio CoinFund, Artikel TechCrunch Link

Ringkasan Tesis Investasi

• Leverage Sekuler untuk ML Tumbuh Kompleksitas dan Nilai: Kompleksitas komputasi sistem AI canggih berlipat ganda setiap 3 bulan, sementara nilai model ini terus meningkat dengan cepat, sementara sifat kotak hitam sebelumnya dari algoritme ini sekarang semakin dapat disesuaikan dengan yang lebih besar. iluminator yang dapat dimengerti manusia.
• Desain Sistem Koordinasi dan Verifikasi Baru: Gensyn sedang membangun sistem verifikasi (testnet v1 akan digunakan akhir tahun ini) yang secara efisien memecahkan masalah ketergantungan status dalam pelatihan jaringan saraf pada skala apa pun. Sistem menggabungkan pos pemeriksaan pelatihan model dengan pemeriksaan probabilistik yang berakhir secara on-chain. Itu melakukan semua ini tanpa kepercayaan dan skala overhead secara linier dengan ukuran model (menjaga biaya verifikasi konstan).
• Fokus Tematik pada Desentralisasi AI: Sebagian besar contoh aplikasi pembelajaran mesin yang terkenal (mobil self-driving Tesla, Google DeepMind) diproduksi oleh kumpulan perusahaan yang sama, itu karena industri pembelajaran mendalam saat ini terlihat seperti permainan monopoli antara perusahaan Teknologi Besar, seperti serta negara-negara seperti Cina dan Amerika Serikat. Kekuatan ini menghasilkan kekuatan sentralisasi besar yang bertentangan dengan web3 dan bahkan asal-usul sejarah web1.

CoinFund dengan bangga mendukung penggalangan dana Gensyn Protocol baru-baru ini dan visi tim untuk memungkinkan pelatihan jaringan saraf tanpa kepercayaan dengan skala besar dan biaya rendah melalui sistem verifikasi baru mereka. Memanfaatkan pemeriksaan probabilistik yang mengakhiri on-chain sambil mengetuk sumber komputasi yang kurang dimanfaatkan dan kurang dimanfaatkan mulai dari GPU game yang saat ini kurang dimanfaatkan hingga kumpulan penambangan ETH1 canggih yang akan terlepas dari jaringan Ethereum karena jaringan tersebut bertransisi ke Proof of Stake, protokol Gensyn tidak memerlukan pengawas administratif atau penegakan hukum, melainkan memfasilitasi distribusi tugas dan pembayaran secara terprogram melalui kontrak cerdas. Lebih baik lagi, sifat protokol yang terdesentralisasi berarti pada akhirnya akan diatur oleh komunitas mayoritas dan tidak dapat 'dimatikan' tanpa persetujuan komunitas; ini membuatnya tahan sensor, tidak seperti rekan-rekan web2-nya. Pada akhirnya, kami percaya Gensyn sedang bermain untuk menjadi lapisan dasar untuk komputasi ML asli-web3, karena peserta pihak ketiga pada akhirnya membangun pengalaman pengguna yang kaya dan fungsionalitas spesifik di berbagai ceruk.

Bagian 1: Pengantar Pertumbuhan Sekuler Multi-dekade Deep Learning

Setiap wajah yang Anda lihat di video call dan semua audio yang Anda dengar dimanipulasi. Untuk meningkatkan kualitas panggilan, jaringan saraf secara selektif sesuaikan resolusi di Zoom dan menekan kebisingan latar belakang di Microsoft Teams. Kemajuan yang lebih baru bahkan melihat video resolusi lebih rendah 'bermimpi' menjadi resolusi yang lebih tinggi. Jaringan saraf adalah model yang digunakan dalam cabang pembelajaran mendalam dari kecerdasan buatan. Mereka secara longgar didasarkan pada struktur otak manusia dan memiliki banyak sekali aplikasi, mungkin pada akhirnya menciptakan kecerdasan buatan tingkat manusia. Model yang lebih besar umumnya menghasilkan hasil yang lebih baik, dan perangkat keras yang diperlukan untuk pengembangan canggih berlipat ganda setiap tiga bulan. Ledakan dalam perkembangan ini telah menjadikan pembelajaran mendalam sebagai bagian mendasar dari pengalaman manusia modern. Pada tahun 2020, jaringan saraf mengoperasikan radar di pesawat mata-mata AS, model bahasa sekarang menulis email penipuan yang lebih baik daripada manusia, dan algoritma mobil self-driving Mengungguli manusia di banyak lingkungan.

GPT-3 175B, model GPT-3 terbesar yang diusulkan oleh OpenAI di Brown et al. (2020) menggunakan sekelompok 1,000 GPU NVIDIA Tesla V100 untuk pelatihan — kira-kira setara dengan 355 tahun pelatihan pada satu perangkat. DALL-E dari Ramesh dkk. (2021), model Transformer lain dari OpenAI, memiliki 12 miliar parameter dan dilatih pada lebih dari 400 juta gambar dengan teks. OpenAI menanggung biaya pelatihan DALL-E tetapi secara kontroversial menolak untuk membuka sumber model, yang berarti bahwa mungkin salah satu model pembelajaran dalam multimodal yang paling penting tetap tidak dapat diakses oleh semua kecuali beberapa orang terpilih. Persyaratan sumber daya yang sangat besar untuk membangun ini model pondasi menciptakan hambatan yang signifikan untuk mengakses, dan, tanpa metode untuk mengumpulkan sumber daya sambil tetap menangkap nilai, kemungkinan akan menyebabkan stagnasi dalam kemajuan AI. Banyak yang percaya bahwa model umum ini adalah kunci untuk membuka Artificial General Intelligence (AGI), membuat metode pelatihan saat ini dalam silo buatan yang terisolasi tampak tidak masuk akal.

Solusi saat ini yang menyediakan akses ke pasokan komputasi bersifat oligopolistik dan mahal atau sederhana yg tak dpt dilaksanakan mengingat kompleksitas komputasi yang diperlukan untuk AI skala besar. Memenuhi permintaan yang menggelembung membutuhkan sistem yang memanfaatkan biaya secara efisien semua komputasi yang tersedia (berlawanan dengan penggunaan prosesor global ~40% saat ini). Yang memperparah masalah ini sekarang adalah fakta bahwa pasokan komputasi itu sendiri dilumpuhkan oleh asimtotik kemajuan dalam kinerja mikroprosesor — di samping supply chain dan geopolitik kekurangan chip.

Bagian 2: Mengapa Koordinasi Gensyn Dibutuhkan?

Tantangan mendasar dalam membangun jaringan ini adalah verifikasi pekerjaan ML yang telah selesai. Ini adalah masalah yang sangat kompleks yang berada di persimpangan teori kompleksitas, teori permainan, kriptografi, dan optimasi. Selain pengetahuan manusia dalam desain model, ada tiga masalah mendasar yang memperlambat kemajuan ML terapan, 1) akses ke daya komputasi; 2) akses ke data; dan 3) akses ke pengetahuan (pelabelan ground-truth). Gensyn memecahkan masalah pertama dengan menyediakan akses sesuai permintaan ke komputasi skala global dengan harga pasar yang wajar, sementara Gensyn Foundation akan berupaya mendorong solusi untuk dua dan tiga melalui penelitian, pendanaan, dan kolaborasi dengan protokol lain.

Secara khusus, akses ke prosesor superior memungkinkan model yang semakin besar/kompleks untuk dilatih. Dalam dekade terakhir, peningkatan kepadatan transistor dan kemajuan dalam kecepatan/paralelisasi akses memori telah secara dramatis mengurangi waktu pelatihan untuk model besar. Akses virtual ke perangkat keras ini, melalui raksasa cloud seperti AWS dan Alibaba, secara bersamaan telah memperluas adopsi. Oleh karena itu, ada kepentingan negara yang kuat untuk memperoleh sarana untuk menghasilkan prosesor mutakhir. Daratan China belum memiliki kemampuan ujung-ke-ujung untuk memproduksi semikonduktor canggih (yaitu, wafer silikon), komponen penting dalam prosesor. Mereka perlu mengimpor ini, terutama dari TSMC (Taiwan Semiconductor Manufacturing Company). Vendor chip juga berusaha menghalangi pelanggan lain untuk mengakses produsen chip dengan membeli pasokan. Di tingkat negara bagian, AS telah memblokir secara agresif setiap langkah oleh perusahaan Cina untuk memperoleh teknologi ini. Lebih jauh ke atas tumpukan teknologi, beberapa perusahaan telah melangkah lebih jauh dengan membuat perangkat keras khusus pembelajaran mendalam mereka sendiri, seperti kluster TPU Google. Ini mengungguli GPU standar dalam pembelajaran mendalam dan tidak tersedia untuk dijual, hanya untuk disewakan.

Sangat meningkatkan skala komputasi yang dapat diakses, sekaligus mengurangi biaya unitnya, membuka pintu ke paradigma yang sama sekali baru untuk pembelajaran mendalam bagi komunitas penelitian dan industri. Peningkatan dalam skala dan biaya memungkinkan protokol untuk membangun satu set model dasar yang sudah terbukti, terlatih, juga dikenal sebagai Model Pondasi–dengan cara yang mirip dengan kebun binatang model dari kerangka kerja populer. Hal ini memungkinkan peneliti dan insinyur untuk secara terbuka meneliti dan melatih model unggul melalui kumpulan data terbuka yang besar, dengan cara yang mirip dengan Eleuther proyek. Model-model ini akan memecahkan beberapa masalah mendasar umat manusia tanpa kepemilikan atau sensor terpusat. Kriptografi, khususnya Enkripsi Fungsional, akan memungkinkan protokol untuk dimanfaatkan atas data pribadi sesuai permintaan. Model fondasi yang besar kemudian dapat disesuaikan oleh siapa saja yang menggunakan kumpulan data berpemilik, mempertahankan nilai/privasi dalam data tersebut tetapi tetap berbagi pengetahuan kolektif dalam desain dan penelitian model.

Bagian 3: Gensyn Drives Web3-Native Data Centralization

Internet mungkin telah lahir dari Pemerintah AS pada 1960-an, tetapi pada 1990-an itu adalah jaringan kreativitas, individualisme, dan peluang yang anarkis. Jauh sebelum Google menimbun TPU, proyek seperti SETI@home berusaha menemukan kehidupan asing dengan mengumpulkan daya komputasi terdesentralisasi. Pada tahun 2000, SETI@home memiliki tingkat pemrosesan sebesar 17 teraflop, yang lebih dari dua kali lipat kinerja superkomputer terbaik saat itu, IBM ASCI White. Periode waktu ini umumnya disebut 'web1', sesaat sebelum hegemoni platform besar seperti Google atau Amazon (web2), tetapi komputasi terdesentralisasi tersendat dalam penskalaan untuk memenuhi kebutuhan awal internet, karena beberapa masalah pada saat itu.

Namun, pemusatan infrastruktur web saat ini ke dalam platform web2 besar menimbulkan masalah tersendiri, seperti biaya (margin kotor AWS diperkirakan 61%, mewakili kompresi margin untuk sebagian besar peneliti sub-skala dan bisnis berbasis data. Pada saat yang sama, instans komputasi terpusat juga mengorbankan kontrol — AWS mematikan infrastruktur platform media sosial sayap kanan populer Parler dengan pemberitahuan satu hari setelah Kerusuhan Capitol 6 Januari 2021. Banyak yang setuju dengan keputusan ini, tetapi preseden berbahaya ketika AWS tuan rumah 42% dari 10,000 situs teratas di internet. Namun, melatih model pembelajaran mendalam di seluruh perangkat keras yang terdesentralisasi sulit dilakukan karena masalah verifikasi, yang dibantu oleh Protokol Gensyn.

Membangun pasar sebagai protokol Web3 menghilangkan biaya overhead terpusat pada penskalaan, dan mengurangi hambatan masuk bagi peserta pasokan baru, memungkinkan jaringan untuk secara potensial mencakup setiap perangkat komputasi di dunia. Menghubungkan semua perangkat melalui satu jaringan terdesentralisasi memberikan tingkat skalabilitas yang saat ini tidak mungkin dicapai melalui penyedia yang ada, memberikan akses sesuai permintaan yang belum pernah terjadi sebelumnya ke keseluruhan pasokan komputasi dunia. Untuk pengguna akhir, ini benar-benar menghilangkan dilema biaya vs. skala dan menyediakan komputasi pelatihan ML yang transparan dan berbiaya rendah untuk skalabilitas yang berpotensi tak terbatas (hingga batas perangkat keras fisik di seluruh dunia) dan untuk harga satuan yang akan ditentukan oleh dinamika pasar. Ini menghindari parit biasa yang dinikmati penyedia besar, menurunkan harga secara signifikan, dan memfasilitasi persaingan global yang sesungguhnya di tingkat sumber daya, dan bahkan mempertimbangkan kasus di mana penyedia layanan cloud yang ada juga melihat protokol Gensyn sebagai jalur distribusi yang melengkapi pihak pertama yang lebih terpusat. penawaran yang dibundel.

Kesimpulan:

Dengan AI yang hampir sama populernya dengan kata kunci seperti cryptocurrency dan blockchain, tesis kami untuk berinvestasi di Gensyn seperti yang dipratinjau di sini harus lulus ujian karena mudah dipahami dan didukung bukti, sementara ambisius dalam menipiskan peluang yang ditetapkan untuk kemampuan protokol untuk menambah nilai jaringan sumber daya yang awalnya ditargetkan tetapi dapat digeneralisasikan yang asli ke web3. Dengan protokol Gensyn, kami percaya bahwa kami melihat awal dari jaringan koordinasi yang sangat skalabel dan hemat biaya yang membuka jalan bagi wawasan yang lebih berharga yang meletakkan dasar bagi berbagai aplikasi di masa depan.

Tentang CoinFund

CoinFund adalah beragam, perusahaan investasi terkemuka yang berfokus pada blockchain yang didirikan pada tahun 2015, berbasis di AS Secara kolektif, kami memiliki rekam jejak dan pengalaman yang luas dalam cryptocurrency, ekuitas tradisional, kredit, ekuitas swasta, dan investasi ventura. Strategi CoinFund menjangkau pasar likuid dan ventura dan mendapat manfaat dari pendekatan multidisiplin kami yang menyinkronkan bakat kriptonatif teknis dengan pengalaman keuangan tradisional. Dengan pendekatan “pendiri pertama”, CoinFund bermitra erat dengan perusahaan portofolionya untuk mendorong inovasi di seluruh ruang aset digital.

Penolakan tanggung jawab

Konten yang disediakan di situs ini hanya untuk tujuan informasi dan diskusi dan tidak boleh diandalkan sehubungan dengan keputusan investasi tertentu atau ditafsirkan sebagai tawaran, rekomendasi, atau ajakan mengenai investasi apa pun. Penulis tidak mendukung perusahaan, proyek, atau token apa pun yang dibahas dalam artikel ini. Semua informasi disajikan di sini “sebagaimana adanya”, tanpa jaminan dalam bentuk apa pun, baik tersurat maupun tersirat, dan pernyataan berwawasan ke depan mungkin salah. CoinFund Management LLC dan afiliasinya mungkin memiliki posisi long atau short dalam token atau proyek yang dibahas dalam artikel ini.

---

Protokol Gensyn Tanpa Kepercayaan Melatih Jaringan Neural pada Skala Besar dengan Besaran Orde Lebih Rendah… awalnya diterbitkan di Blog CoinFund on Medium, di mana orang-orang melanjutkan pembicaraan dengan menyoroti dan merespons cerita ini.

• Coinsmart. Pertukaran Bitcoin dan Crypto Terbaik Eropa.
• Platoblockchain. Intelijen Metaverse Web3. Pengetahuan Diperkuat. AKSES GRATIS.
• CryptoHawk. Radar Altcoin. Uji Coba Gratis.
• Source: https://blog.coinfund.io/the-gensyn-protocol-trustlessly-trains-neural-networks-at-hyperscale-with-lower-order-of-magnitude-227fe968fabf?source=rss—-f5f136d48fc3—4