ポルトガルのリスボンで開催された年次 Web サミットでも、人工知能が再び熱い話題となりました。 イベントの閉会日、内部告発者で活動家のチェルシー・マニング氏は、人工知能の発展と人間とテクノロジーの衝突について懸念を表明した。
「私たちはテクノロジーに囲まれたこの時代に生きています」とマニング氏は言う。 「私は、私たち人間とテクノロジーとの間の衝突、そしてテクノロジーが私たちの相互作用の仕方を形作っている様子、そして制度がその一部となっている様子を何度も見てきました。」
マニングさんは、ホームレスになったり、軍隊に入隊したり、2010年に軍事文書をウィキリークスに漏洩した罪で刑務所に入ったりするなど、自分の人生はデジタル領域に触れることで形作られてきたと語る。
「私はそれを、テクノロジーの統合や見方の原動力にし、より大きくより良い未来を築きたいと考えています」とマニング氏は語った。
マニング氏は、AI技術の急速な発展の背後にある動機、その技術が最終的に誰に利益をもたらすのか、人工知能の推進が日常生活をコモディティ化しているのではないかと疑問を呈した。
「私たちは単に人間的な要素を忘れて、日常的に行うあらゆるやり取りを商品に変えてしまっているのでしょうか?」 マニング氏は語った。 「この商品は、アプリをスワイプするか、かわいい小さなハートのアイコンをクリックするという単純なことを私たちが行うことです。」
マニング氏は、人工知能と大規模言語モデルを当時のバズワードと呼び、例としてウィキペディア、教科書、ビデオ、画像を挙げ、これらのモデルがトレーニングに使用される大量のデータを指摘しました。
マニング氏は、サーバー上のファイルとは異なり、このデータはモデルの分銅と天秤に埋め込まれており、簡単に削除することはできず、これは欧州連合の一般データ保護規則とは対照的であると指摘しました(GDPR)およびプライバシー権。個人はデータ削除を要求できます。
「人々にはある程度のプライバシーが必要であり、コミュニケーションは抽出され商品化されるべきリソースであってはいけないという事実を考慮したツールを開発するのが、技術者としての私たちの責務だと思います。」マニング氏は語った。 「人間関係が数値化される世界には住みたくない。」
大規模な言語モデルでは、個人情報や個人情報が一度組み込まれると、それはモデルの永続的な部分となり、削除することが不可能になるとマニング氏は警告しました。
2021 年、マニングはスイスに本拠を置く企業 Nym Technologies にセキュリティ コンサルタントおよびプライバシー擁護者として入社しました。 Nym Technologies がプライバシーに重点を置いたプロジェクトを開始 ニム、分散型アイデンティティ プラットフォーム、2020年に コスモス ブロックチェイン。
「私の焦点は、より広範かつ一般的に、暗号化や私たちが持つ技術的手段を通じて、ある程度のプライバシーを確保し、それを直感的に使用できるようにすることの重要性にあると思います」とマニング氏は述べた。 「難しいものであってはなりませんし、使いにくいものであってはなりません。」
マニング氏はまた、AIが生成するディープフェイクの台頭と増加についても強調した。
「過去XNUMXか月間で私の注意を引いたのは、人々が公の場での談話や議論の中でディープフェイクを使用しているという事実ではなく、ディープフェイクが作成可能であるという事実と、ディープフェイクが存在し、疑問を投げかけるために使用されているという事実です。実際に検証された情報に基づいています」とマニング氏は語った。 「この傾向により、人々はますます自分自身の現実に疑問を抱くようになっていると思います。」
ディープフェイクがより高度になるにつれ、政策立案者らは今後のディープフェイクに影響を与える可能性を懸念している 選挙 または燃料 嫌い オンライン。 マニング氏が提案した解決策の XNUMX つは、情報を検証するために暗号化を使用することでした。
マニングが以前に語った 解読する ビットコインは、暗号化、情報の保護、分散型暗号ベースのネットワークの構築に対する彼女の情熱に訴えかけたものでした。
「自分の現実を自分で選ぶことができる、自分の好きなものを選ぶことができる、と言えることが魅力的であることはわかっています」とマニング氏は語った。 「しかし現実には、現実の物理的物質世界は、いつかはそれに直面することになるでしょう。 特に気候に関しては、単に無視することはできないと思います。」
による編集 ライアン・オザワ.
暗号ニュースを常に把握し、受信トレイで毎日更新を入手してください。