イーサリアム作成者ヴィタリック・ブテリン氏：AI が私たちを攻撃したら「火星ですら安全ではないかもしれない」 – 解読

月曜日、イーサリアムの作成者ヴィタリック・ブテリン氏は、「テクノオプティミズム」は、著書で AI について意見を述べたマーク・アンドリーセンにインスピレーションを得たものです。 テクノオプティミストマニフェスト XNUMX月中。 ブテリン氏はアンドリーセン氏の前向きな見通しに同意する一方、AIの開発方法とテクノロジーの将来の方向性の重要性についても言及した。

ブテリン氏は、人類の絶滅を引き起こすなど、人工知能の実存的リスクを認めた。

「これは極端な主張です。気候変動や人為的パンデミック、核戦争などの最悪のシナリオが引き起こす可能性のある害と同じくらい、破片を拾い上げるために無傷で残っているであろう文明の島はたくさんあります。」と彼は述べた。言った。

「しかし、超知能AIが私たちに敵対することを決めた場合、生存者を一人も残さず、人類を永久に終わらせる可能性があります」とブテリン氏は述べた。 「火星ですら安全ではないかもしれない。」

ブテリン氏は2022年を指摘した 調査 AI Impactsによると、参加者の5%から10%は、人類がAIによって、または人間がAIを制御できなかったことによって、それぞれ絶滅の危機に直面していると考えているという。 同氏は、AI開発を主導するためには、閉鎖的な独自企業やベンチャーキャピタルファンドではなく、セキュリティに重点を置いたオープンソース運動が理想的だと述べた。

「超知能と人間性の両方を備えた未来、つまり人間が単なるペットではなく、世界中で実際に意味のある主体性を維持できる未来を望むのであれば、これが最も自然な選択肢であるように感じます」と彼は言う。

必要なのは、その方向性と結果を選択する人間の積極的な意図である、とブテリン氏は続けた。 「『利益を最大化する』という公式は自動的には得られない」と彼は言う。

ブテリン氏は、手工具からスマートフォンに至るイノベーションの歴史を指摘し、テクノロジーは人間の可能性を広げるため、テクノロジーが大好きだと述べた。

「私はこれらのことは非常に善であると信じています。そして、人類の範囲をさらに惑星や恒星にまで拡大することは、非常に善であると信じています。なぜなら、人類は非常に善であると私は信じているからです」とブテリン氏は語った。

ブテリン氏は、革新的なテクノロジーが人類の明るい未来につながると信じているが、貪欲さを減らして公的医療を充実させれば、世界は今のままであるべきだという考えには否定的だと語った。

「特定の種類のテクノロジーは、他の種類のテクノロジーよりもはるかに確実に世界を改善するものがあります」とブテリン氏は述べた。 「特定の種類のテクノロジーが開発されれば、他の種類のテクノロジーの悪影響を軽減できる可能性があります。」

ブテリン氏は、デジタル権威主義の台頭と、テクノクラートの小さな陰謀団によって支配されている、政府に反抗したり異議を唱えたりする人々に対して使用される監視技術の台頭について警告した。 同氏は、大多数の人々は高度に進歩したAIが単一のグループによって独占されるよりもXNUMX年遅れることを望んでいると述べた。

「私の根本的な懸念は、OpenAI が 500 人の従業員で 500 億人以上の顧客にサービスを提供できるようにしているのと同じ種類の管理テクノロジーによって、5 人の政治エリート、さらには XNUMX 人からなる取締役会が、政策に対して鉄拳を維持することも可能になるのではないかということです」国全体です」と彼は言った。

ブテリン氏は、効果的加速（「e/acc」としても知られる）運動には同情的だが、軍事技術に対する熱意については複雑な感情を抱いていると述べた。

「現代の軍事技術を善のための力として熱狂させるには、現在も将来も、ほとんどの紛争において支配的な技術力が確実に善玉の一人になると信じる必要があるようだ」と同氏は述べ、軍事技術は善であるという考えを引用した。なぜなら、それはアメリカによって構築され、管理されており、アメリカは良いものだからです。

「e/accであるためには、政府の現在と将来の道徳と国の将来の成功にすべてを賭けるアメリカのマキシマリストである必要があるのでしょうか？」 彼は言った。

ブテリン氏は、少数の人々がそれを賢明に利用することを期待して「極端で不透明な権力」を与えることに対して警告し、代わりに「d/acc」、つまり防衛、地方分権、民主主義、差別化の哲学を好むと警告した。 この考え方は、効果的な利他主義者、自由主義者、多元主義者、ブロックチェーン擁護者、そして太陽と月のパンクに適応できると彼は言いました。

「防衛に有利な世界は、多くの理由からより良い世界だ」とブテリン氏は語った。 「第一に、もちろん安全による直接的な利点です。死亡者数が減り、破壊される経済価値が減り、紛争に費やされる時間が減ります。

「しかし、あまり評価されていないのは、国防に有利な世界では、より健全で、よりオープンで、より自由を尊重する統治形態が繁栄しやすくなっているということだ」と同氏は結論付けた。

ブテリン氏は、構築と加速の必要性を強調する一方で、社会は私たちが何に向かって加速しているのかを定期的に問うべきだと述べた。 ブテリン氏は、21世紀は数千年にわたる人類の運命を決定する可能性がある人類にとって「極めて重要な世紀」になる可能性があると示唆した。

「これらは難しい問題です」とブテリン氏は言う。 「しかし、私たちの種が答えを見つけようとする壮大な集団的取り組みを見守り、参加することを楽しみにしています。」

による編集 ライアン・オザワ.

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• 情報源： https://decrypt.co/207692/ai-turns-mars-not-safe-ethereum-creator-vitalik-buterin