AI 画像ジェネレーターがより高度になるにつれて、ディープフェイクを発見することはこれまで以上に困難になっています。 法執行機関と世界のリーダーは、AI が生成する危険性について警鐘を鳴らし続けています。 ディープフェイク ソーシャルメディアでも紛争地帯でも。
「私たちは、目に見えるものをもはや信じられない時代に突入しています」とSecta Labsの共同創設者兼最高経営責任者（CEO）のマルコ・ジャック氏は語った。 解読する インタビューで。 「現時点では、ディープフェイクはまだそれほど優れていないため、より簡単です。時にはそれが明らかであることがわかります。」
Jak 氏によると、偽造画像を一目で見分けることができなくなるまで、おそらく XNUMX 年以内にはそう遠くないとのことです。 そして彼が知っておくべきことは、Jak は AI 画像生成会社の CEO であるということです。
ジャックが共同設立 セクタラボ 2022年に。 オースティンを拠点とする生成 AI スタートアップ企業は、AI によって生成された高品質の画像の作成に重点を置いています。 ユーザーは自分の写真をアップロードし、AI が生成した顔写真やアバターに変換できます。
Jak 氏の説明によれば、Secta Labs はユーザーをデータから生成された AI モデルの所有者と見なしていますが、同社はこれらのモデルから画像を作成するのを支援する管理者にすぎません。
より高度な AI モデルが悪用される可能性があるため、世界の指導者らは早急な対応を求めています。 アクション AI 規制の影響を受け、企業は高度なツールを一般に公開しない決定を下すことになりました。
先週新作を発表した後、 ボイスボックス AIで生成された音声プラットフォームであるMetaは、AIを一般に公開しないと述べた。
「私たちは、AI コミュニティに対してオープンであり、AI の最先端を前進させるために私たちの研究を共有することが重要であると信じています」と Meta の広報担当者は語った。 解読する メールで。 「オープンさと責任の間で適切なバランスをとることも必要です。」
今月初め、米国連邦捜査局は、 警告 ソーシャルメディアから取得した写真やビデオを使用して偽のコンテンツを作成する AI ディープフェイク恐喝詐欺や犯罪者の事例。
ジャック氏は、ディープフェイクとの戦いにおける答えは、ディープフェイクを見分けることができるかどうかではなく、ディープフェイクを暴露できるかどうかにあるかもしれないと述べた。
「AI は、（ディープフェイクを）見分けることができる最初の方法です」と Jak 氏は言います。 「ビデオのように画像を挿入できる人工知能を構築している人々がいます。そうすれば、それが AI によって生成されたかどうかを AI が知ることができます。」
生成 AI と、映画やテレビでの AI 生成画像の使用の可能性は、エンターテインメント業界で熱い話題です。 SAG-AFTRA メンバーは契約交渉に入る前に、重大な懸案である人工知能のストライキを承認する投票を行った。
ジャック氏は、技術がさらに進歩するにつれ、AIの軍拡競争が繰り広げられ、悪者がそれらを検出するように設計された技術に対抗するためにより高度なディープフェイクを作成することが課題であると付け加えた。
ジャック氏は、ブロックチェーンが現実世界の問題の解決策として過度に使用されてきた（誇張されすぎていると言う人もいるかもしれない）ことを認め、この技術と暗号化がディープフェイク問題を解決する可能性があると述べた。
しかしジャック氏は、ディープフェイクに関する多くの問題はテクノロジーで解決できるが、よりローテクな解決策、つまり群衆の知恵が鍵になるかもしれないと述べた。
「私が見た Twitter の取り組みの XNUMX つは、コミュニティ ノートです。これは、誰かのツイートに文脈を与えるためにメモを追加できるコミュニティ ノートです」とジャック氏は語った。 「ディープフェイクと同じように、ツイートも誤った情報になる可能性があります」と彼は言う。 Jak 氏は、ソーシャル メディア企業にとって、コミュニティを活用して、配布されたコンテンツが本物かどうかを検証する方法を考えることは利益になるだろうと付け加えました。
同氏は、「ブロックチェーンは特定の問題に対処できるが、暗号化は画像の出所を認証するのに役立つ可能性がある」と述べた。 「ディープフェイクがどれほど洗練されているかに関係なく、画像コンテンツではなくソース検証を扱うため、これは実用的な解決策となる可能性があります。」
暗号ニュースを常に把握し、受信トレイで毎日更新を入手してください。
