周一，以太坊创始人 Vitalik Buterin 反思了自己对“技术乐观主义”，受到马克·安德森 (Marc Andreessen) 的启发，他在他的著作中对人工智能发表了自己的看法 技术乐观主义者宣言 在十月。 虽然 Buterin 同意 Andreessen 的积极前景，但 Buterin 也指出了人工智能如何开发以及该技术未来方向的重要性。
Buterin 承认人工智能的存在风险，包括导致人类灭绝。
“这是一个极端的说法：尽管气候变化、人为流行病或核战争等最坏情况可能造成多大的伤害，但仍有许多文明岛屿完好无损，可以收拾残局，”他说。
Buterin 表示：“但是，如果超级智能人工智能决定与我们为敌，它很可能会无一生还，并永远终结人类。” “即使是火星也可能不安全。”
Buterin 指出 2022 年 AI Impacts 表示，5% 至 10% 的参与者认为，人类将因人工智能或人类无法控制人工智能而面临灭绝。 他表示，以安全为中心的开源运动是引领人工智能开发的理想选择，而不是封闭的专有公司和风险投资基金。
“如果我们想要一个既超级智能又“人性化”的未来——人类不仅仅是宠物，而且实际上在世界上保留着有意义的代理权——那么感觉这样的事情是最自然的选择，”他说。
Buterin 继续说道，我们需要的是人类积极主动地选择其方向和结果。 “‘利润最大化’的公式不会自动得出它们，”他说。
Buterin 表示，他热爱技术，因为它扩展了人类的潜力，并提到了从手动工具到智能手机的创新历史。
“我相信这些事情是非常好的，并且将人类的影响范围进一步扩大到行星和恒星也是非常好的，因为我相信人类是非常好的，”Buterin 说。
Buterin 表示，虽然他相信变革性技术将为人类带来更光明的未来，但他拒绝认为世界应该保持现状，只是减少贪婪和增加公共医疗保健。
“某些类型的技术比其他类型的技术更可靠地让世界变得更好，”Buterin 说。 “某些类型的技术如果得到开发，可以减轻其他类型技术的负面影响。”
Buterin 警告说，数字威权主义和监视技术的兴起，用于对付那些反抗或反对政府的人，这些人由一小群技术官僚控制。 他表示，大多数人宁愿看到高度先进的人工智能延迟十年，也不愿被单一群体垄断。
“我最担心的是，让 OpenAI 能够以 500 名员工为一亿多客户提供服务的同类管理技术，也将允许 500 人的政治精英，甚至 5 人的董事会，对企业保持铁腕统治。整个国家，”他说。
虽然 Buterin 表示他对有效加速（也称为“e/acc”）运动表示同情，但他对其对军事技术的热情有着复杂的感受。
“对现代军事技术作为正义力量的热情似乎需要相信，在现在和未来的大多数冲突中，占主导地位的技术力量将可靠地成为好人之一，”他引用了军事技术是好的观点。因为它是由美国建造和控制的，美国是好的。
“成为一名 e/acc 是否需要成为一名美国最高主义者，将一切都押在政府现在和未来的道德以及国家未来的成功上？” 他说。
Buterin 警告不要将“极端且不透明的权力”赋予一小群人，希望他们能够明智地使用它，而是更喜欢“d/acc”哲学——即防御、权力下放、民主和差异。 他说，这种心态可以适应有效的利他主义者、自由主义者、多元主义者、区块链倡导者以及太阳能和月球朋克。
“出于多种原因，有利于国防的世界是一个更好的世界，”布特林说。 “首先当然是安全的直接好处：更少的人死亡，更少的经济价值被破坏，更少的时间浪费在冲突上。
他总结道：“但人们较少意识到的是，一个有利于国防的世界会让更健康、更开放和更尊重自由的治理形式更容易蓬勃发展。”
虽然他强调了建设和加速的必要性，但 Buterin 表示，社会应该定期询问我们正在加速实现什么目标。 Buterin表示，21世纪可能是人类的“关键世纪”，可能决定人类数千年的命运。
“这些都是具有挑战性的问题，”Buterin 说。 “但我期待着观看并参与我们人类寻找答案的伟大集体努力。”
编辑 小泽赖恩.
