Gensyn 协议在超大规模下以较低数量级无信任地训练神经网络……

Gensyn 协议以较低的成本量级在超大规模上以不信任的方式训练神经网络

友情链接： Gensyn 网站, Litepaper, CoinFund投资组合, TechCrunch 文章 链接

投资论文摘要

• 对机器学习的长期杠杆作用不断增长的复杂性和价值： 最先进的 AI 系统的计算复杂性每 3 个月翻一番，而这些模型的价值继续快速增长，而这些算法以前的黑盒性质现在越来越能够适应更大的 人类可理解的照明器.
• 新颖的协调与验证系统设计：Gensyn 正在构建一个验证系统（testnet v1 将在今年晚些时候部署），它可以有效地解决任何规模的神经网络训练中的状态依赖问题。 该系统将模型训练检查点与终止链上的概率检查相结合。 它无需信任地完成所有这些工作，并且开销与模型大小成线性关系（保持验证成本不变）。
• 专注于人工智能去中心化：大多数知名的机器学习应用示例（特斯拉自动驾驶汽车、谷歌 DeepMind）都是由同一组公司生产的，这是因为深度学习行业目前看起来像是大型科技公司之间的垄断游戏，因为以及中国和美国等国家。 这些力量正在导致巨大的中心化力量与 web3 甚至 web1 的历史起源背道而驰。

CoinFund 很自豪能够支持 Gensyn 协议最近的筹款活动 以及该团队的愿景，即通过其新颖的验证系统以超大规模和低成本实现无需信任的神经网络训练。 利用终止链上的概率检查 在挖掘的同时 未充分利用和未充分利用的计算资源，从目前未充分利用的游戏 GPU 到复杂的 ETH1 矿池，随着网络过渡到股权证明，Gensyn 协议不需要行政监督或执法，而是通过编程方式促进任务分配和支付智能合约。 更好的是，该协议的去中心化性质意味着它最终将由多数社区管理，未经社区同意不能“关闭”； 与 web2 的同类产品不同，这使其具有抗审查性。 最终，我们相信 Gensyn 正在成为 web3-native ML 计算的基础层，因为第三方参与者最终会在众多领域构建丰富的用户体验和特定功能。

第 1 部分：深度学习的数十年长期增长简介

您在视频通话中看到的每一张脸以及您听到的所有音频都是经过处理的。 为了提高通话质量，神经网络 选择 在缩放中调整分辨率和 抑制背景噪音 在 Microsoft 团队中。 最近的进展甚至可以看到分辨率较低的视频 '梦想' 成更高的分辨率。 神经网络是人工智能深度学习分支中使用的模型。 它们松散地基于 人类的大脑 并有无数的应用，也许最终会创造出人类水平的人工智能。 更大的模型通常会产生更好的结果，并且最先进的开发所需的硬件增加了一倍 每三个月. 这种发展的爆炸式增长使深度学习成为现代人类体验的基本组成部分。 2020年，神经网络 操作雷达 在美国间谍飞机上，语言模型现在写 更好的诈骗电子邮件 比人类和自动驾驶汽车算法 跑赢大市 人类在许多环境中。

GPT-3 175B，OpenAI 提出的最大的 GPT-3 模型 布朗等人。 （2020） 使用由 1,000 个 NVIDIA Tesla V100 GPU 组成的集群进行训练——大约相当于在单个设备上进行 355 年的训练。 DALL-E 从 拉梅什等人。 (2021)是 OpenAI 的另一个 Transformer 模型，具有 12 亿个参数，并在超过 400 亿张带字幕的图像上进行了训练。 OpenAI 承担了训练 DALL-E 的成本，但有争议地拒绝开源该模型，这意味着除了少数人之外，也许最重要的最先进的多模态深度学习模型之一仍然无法为所有人所用。 建造这些建筑的巨大资源需求 基础模型 创造巨大的访问障碍，并且如果没有一种方法来集中资源同时仍然获取价值，可能会导致人工智能发展停滞不前。 许多人认为，这些通用模型是解锁通用人工智能 (AGI) 的关键，这使得当前在孤立的人工孤岛中进行训练的方法显得荒谬。

当前提供计算供应的解决方案要么寡头垄断且昂贵，要么简单 行不通 考虑到大规模人工智能所需的计算复杂性。 满足不断膨胀的需求需要一个系统，该系统可以经济高效地利用 所有 可用计算（相对于当今约 40% 的全球处理器利用率）。 现在使这个问题更加复杂的是计算供应本身受到阻碍的事实 渐近的 微处理器性能的进步——同时 供应链 和 地缘政治 芯片短缺。

第 2 部分：为什么需要 Gensyn 的协调？

构建该网络的基本挑战是验证已完成的 ML 工作。 这是一个高度复杂的问题，位于复杂性理论、博弈论、密码学和优化的交叉点。 除了模型设计中的人类知识外，还有三个基本问题减缓了应用 ML 的进展，1）获取计算能力； 2) 访问数据； 3) 获取知识（真实标签）。 Gensyn 通过以公平的市场价格提供对全球可扩展计算的按需访问来解决第一个问题，而 Gensyn 基金会将寻求通过研究、资助和与其他协议的合作来鼓励解决第二个和第三个问题。

具体来说，使用高级处理器可以训练越来越大/复杂的模型。 在过去十年中，晶体管密度的提高和内存访问速度/并行化的进步极大地减少了大型模型的训练时间。 通过 AWS 和阿里巴巴等云巨头对这种硬件的虚拟访问同时扩大了采用率。 因此，国家对获得生产最先进处理器的手段有着浓厚的兴趣。 中国大陆尚不具备生产最先进的半导体（即硅晶片）的端到端能力，这是处理器的重要组成部分。 他们需要进口这些，特别是从台积电（台湾半导体制造公司）进口。 芯片供应商还试图阻止其他客户接触芯片制造商 通过购买供应. 在州一级，美国一直 积极阻止 中国公司收购这项技术的任何举动。 在技​​术栈的更上层，一些公司甚至创建了自己的深度学习专用硬件，比如谷歌的 TPU 集群。 这些在深度学习方面优于标准 GPU，并且不出售，只出租。

大幅增加可访问计算的规模，同时降低其单位成本，为研究和工业社区的深度学习打开了全新范式的大门。 规模和成本的改进允许协议建立一组已经证明的、预训练的基础模型——也称为 基础模型——以类似的方式 模型动物园 流行的框架。 这允许研究人员和工程师以类似于 埃留瑟（Eleuther） 项目。 这些模型将在没有集中所有权或审查的情况下解决人类的一些基本问题。 密码学，特别是功能加密，将允许根据需要在私有数据上使用该协议。 然后，任何人都可以使用专有数据集对庞大的基础模型进行微调，保持该数据的价值/隐私，但仍然在模型设计和研究中共享集体知识。

第 3 部分：Gensyn 推动 Web3 原生数据集中化

互联网可能诞生于 1960 年代的美国政府，但到了 1990 年代，它是一个充满创造力、个人主义和机会的无政府主义网络。 早在谷歌储备 TPU 之前，像 SETI@home 这样的项目就试图通过众包分散的计算能力来发现外星生命。 到 2000 年，SETI@home 的处理速度为 17 teraflops，这是当时最好的超级计算机 IBM ASCI White 的两倍多。 这段时间通常被称为“web1”，比谷歌或亚马逊 (web2) 等大型平台的霸权早了片刻，但由于当时的几个问题，去中心化计算无法满足互联网的初始需求。

然而，当前将 Web 基础设施集中到大型 web2 平台会产生其自身的问题，例如成本（AWS 的毛利率是 61%，代表大多数小规模研究人员和数据驱动型企业的利润压缩。 与此同时，集中式计算实例也牺牲了控制权——AWS 关闭了流行的右翼社交媒体平台 Parler 的基础设施， 一日通知 在 6 年 2021 月 XNUMX 日国会大厦暴动之后。 许多人同意这个决定，但当 AWS 主机 42% 互联网上排名前 10,000 的网站。 然而，由于 Gensyn 协议帮助解决的验证问题，跨去中心化硬件训练深度学习模型很困难。

将市场构建为 Web3 协议消除了扩展的集中管理费用，并降低了新供应参与者的进入壁垒，从而使网络有可能涵盖世界上的所有计算设备。 通过单个去中心化网络连接所有设备提供了目前任何现有提供商都无法实现的可扩展性，从而提供前所未有的对全球计算供应的按需访问。 对于最终用户而言，这完全消除了成本与规模的困境，并为潜在的无限可扩展性（最高可达全球物理硬件限制）和由市场动态确定的单价提供了透明且低成本的 ML 训练计算。 这避开了大型供应商通常享有的护城河，显着降低了价格，并促进了资源层面的真正全球竞争，甚至考虑到现有云服务供应商也将 Gensyn 协议视为补充更集中的第一方的分发途径的情况捆绑产品.

总结

随着人工智能几乎与加密货币和区块链一样流行，我们在此处预览的投资 Gensyn 的论文必须通过易于理解和有证据支持的测试，同时雄心勃勃地减少协议能力的机会集为 web3 原生的初始目标但可推广的资源网络增值。 通过 Gensyn 协议，我们相信我们正在看到一个超可扩展、具有成本效益的协调网络的开始，它为更有价值的见解铺平了道路，为未来的无数应用奠定了基础。

关于币基金

CoinFund 是一家多元化、领先的区块链投资公司，成立于 2015 年，总部位于美国。我们在加密货币、传统股权、信贷、私募股权和风险投资方面拥有丰富的业绩记录和经验。 CoinFund 战略跨越流动性和风险市场，并受益于我们将技术加密能力与传统金融经验同步的多学科方法。 CoinFund 采用“创始人至上”的方法，与其投资组合公司密切合作，推动数字资产领域的创新。

免责声明

本网站提供的内容仅供参考和讨论之用，不应作为特定投资决策的依据，也不应被解释为有关任何投资的要约、推荐或招揽。 作者不支持本文中讨论的任何公司、项目或代币。 所有信息均“按原样”在此处提供，不提供任何形式的明示或暗示保证，任何前瞻性陈述都可能被证明是错误的。 CoinFund Management LLC 及其附属公司可能持有本文讨论的代币或项目的多头或空头头寸。

---

Gensyn 协议在超大规模下以较低数量级无信任地训练神经网络…… 最初发表于 CoinFund博客 在媒体上，人们通过突出和回应这个故事继续谈话。

• 硬币聪明。 欧洲最好的比特币和加密货币交易所。
• 柏拉图区块链。 Web3 元宇宙智能。 知识放大。 自由登入。
• 加密鹰。 山寨币雷达。 免费试用。
• Source: https://blog.coinfund.io/the-gensyn-protocol-trustlessly-trains-neural-networks-at-hyperscale-with-lower-order-of-magnitude-227fe968fabf?source=rss—-f5f136d48fc3—4