中国、1月にディープフェイク対策法を導入へ PlatoBlockchain Data Intelligence。垂直検索。あい。

中国はXNUMX月にディープフェイクに取り組む法律を導入する

タイムスタンプ：24年2022月5日45:XNUMX AM

今週ソーシャル メディアを使用していた場合は、妖精の存在、アニメのキャラクター、アバター、魔法の存在など、AI によって生成された友人の画像の写真に出くわしたことでしょう。

これは、ユーザーがアップロードした写真に基づいてデジタル ポートレートを合成する AI、Lensa によるものです。 アプリの肖像画は事実上インターネットを席巻し、Lensa は Apple のアプリ ストアで最もダウンロードされたアプリになりました。

Lensa は、画像をデジタルでレンダリングするすべての AI アプリケーションと同様に、女性の画像をあからさまにセクシュアライズしたように見えるため、称賛と論争の両方を呼び起こしてきました。 他のユーザーは、このアプリによって肌が薄くなったり、体が薄くなったりしたと指摘しました。

また、お読みください。 生命を破壊するディープ フェイク画像を作成する AI 技術

自分だけの「魔法のアバター」を手に入れる方法

ラウンドを行う画像は、Lensa の魔法のアバター機能の自慢の作品です。 それを感じるには、Lensa アプリを電話にダウンロードする必要があります。 年間サブスクリプションは約 35.99 ドルですが、最初にチェックアウトしたい場合は、XNUMX 週間の試用版で制限はありますが、そのサービスも利用できます.

ただし、人気のある魔法のアバターを生成するには、アプリが言うところの「途方もない計算能力」を達成するため、追加料金が必要です。

無料トライアルでは、$50 で 3.99 アバター、$200 で 7.99 アバターを入手できます。 最良の結果を得るために、アプリはユーザーに少なくとも 20 枚のクローズアップ画像をアップロードすることを推奨しています。

理想的には、これらの画像は、異なる背景、顔の表情、および角度の配列を持つ人の顔のクローズ アップである必要があります。 アプリケーションは、ユーザーは 13 歳以上である必要があると主張しています。 Lensa はまったく新しいアプリケーションではありません。

Prisma の製品であるこのアプリケーションは、2016 年に、ユーザーがセルフィーを有名アーティストのスタイルの写真に変更できる機能のおかげで、最初に普及しました。

レンサはどのように機能しますか?

同社によると、ユーザーが写真または「顔データ」を提供する「TrueDepth API テクノロジー」と呼ばれるものを利用しており、AI はそのアルゴリズムでトレーニングされ、パフォーマンスが向上し、より良い結果が表示されます。 トレーニングは、AI がデータを処理し、モデルを検証およびテストするときです。

アプリを使用するために、さまざまな表情や角度で 20 枚の自撮り写真をキュレートし、100 枚のアバター オプションを選択できます。

この作業には約 20 分かかります。 完了すると、AI は、ファンタジー、妖精の王女、フォーカス、ポップ、スタイリッシュ、アニメ、ライト、カワイイ、虹色、宇宙などの 10 のカテゴリに分類されるアバターを返します。

「概して、このアプリはセルフィーに基づいて芸術的な画像を作成するのに適切な仕事をしたように感じました. ほとんどのポートレートで自分自身を認識できませんでしたが、どこから来たのかはわかりました。」 ゾーイ・ソティル CNN の書き込み。

「私の白い肌や丸い鼻など、特定の特徴を他の特徴よりも多く認識して繰り返すように見えました。 それらのいくつかは、よりリアルなスタイルで、遠くから見れば実際に私の写真だと思うほど近くにありました. 他のものはかなり様式化され芸術的だったので、私にとって特別なものではありませんでした.

ソティルは、AI によって体が軽くなったことにも気づきました。

私に関しては、それが自動的に私を明るくすることも感じました.私と私のギャラリーで試した画像は、肌の色が少し濃い友人が、私たちのやや明るいバージョンを返しました.明らかに誇張であり、明るくなる傾向を明らかにしました黒い肌の色調。

女性をセクシャライズする

それを使用した他の人は、多かれ少なかれ同様の懸念を持っていました.

女性は、AI が自分のイメージを性的に表現するのが早いと言っています。 しかし、以前の記事では、 説明 これは、AI トレーニングで使用されるデータ セットで見つかった膨大な数の性的な画像によって可能になりました。

言い換えれば、これは、AI がこれらの画像を生成する方法に精通していて、簡単にポルノになることを意味します。 ユーザーが望む場合、ちょっとしたトリックで、無意識のうちにこれらの画像からポルノを作成するように促すこともできます。

他のストーリーでは、AI を騙して、AI を作成する方法に関する情報を提供する方法について説明しました。 爆弾 例えば。 不思議なことに、性的対象化の問題は、マジック アバター機能にアップロードされた男性の画像には現れませんでした。 MIT Technology Review の場合、Melissa Heikkilä 書いた,

「私のアバターは風刺的にポルノ化され、男性の同僚は宇宙飛行士、探検家、発明家になりました。」

一方、Sottile は、AI が「最も方向感覚を失わせる画像の XNUMX つ」で、「自分の顔が裸の体に乗っているバージョンのように」見えることに気付きました。

「何枚かの写真では、私が裸のように見えましたが、ブランケットを戦略的に配置したり、露骨な内容を隠すために画像を切り取ったりしていました」と彼女は言いました。

「そして、私が完全に服を着ていた場合でさえ、画像の多くは、私が提出した写真と一致しない、蒸し暑い表情、大きな胸の谷間、露出度の高い服を特徴としていました.

他の人は、Lensa のような AI 技術によってポルノスターになるのではないかと懸念を表明しました。

ボディーシェイピング

完全体の女性の場合、経験は多少異なり、場合によってはさらに悪い. AIはそれらをより薄く、よりセクシーにしました。

Lmfao の場合、身体醜形障害を患っている場合は、AI が生成した写真に Lensa アプリを使用しないでください。 これは警告です」とユーザー 書いた.

別のユーザーは、このアプリのおかげで彼女がアジア人に見えたと言いました。

別のユーザーは、AI を使用したときに 8 ドルを支払って体の異形症を体験したと Twitter で訴えました。

身体醜形障害は、人が自分の外見の欠陥を心配することに多くの時間を費やす精神的健康状態です. これらの欠陥は、多くの場合、他の人には気付かれません。

別のユーザーは、AI が自動的に彼女の完全な体型の画像の重みを大幅に減らしていると不満を漏らしました。

「Lensa AI について私が持っている不満の 5 つは、画像によっては痩せてしまうことです。 太った人間として、それらのイメージは本当に気になりました。 マライア・サクセス (@Shlatz) は 2022 年 XNUMX 月 XNUMX 日に書き込みました。

心理的時限爆弾

また、心理学者は、AI が完全な体型の女性を誘発する可能性があるという彼女の発言に同意しています。

臨床心理士、Dr. トニ・ピコスオーストラリアを拠点とするメンタルヘルス専門家で、身体醜形障害の研究と治療を専門とする .

「理想的な外見と認識されている外見との間に大きな相違がある場合、体の不満、苦痛、および潜在的に不健康または危険な手段で自分の外見を修正または変更したいという欲求を助長する可能性があります」とピコスは言います.

彼女は、画像が「そばかすや線」などの「複雑な詳細」を消し去り、肌の悩みを高める可能性があることに懸念を表明した. これはまた、脆弱な人を心理的に誘発する可能性があると彼女は言います.

「外部のイメージが彼らの不安を彼らに反映しているのを見ると、『ほら、これは私が間違っている！ そして、それを見ることができるのは私だけではありません!」とピコスは言います。

AI がユーザーの実際の外見を描写しない独自の機能を導入するという事実のおかげで、このアプリは新しい不安を生み出す可能性がある、と彼は言います。

彼女は、AI の「魔法のアバター」が「特に興味深いのは、より客観的に見えるからです。あたかも何か外部の全知の存在が、あなたがどのように見えるかのこのイメージを生成したかのように見えるからです。」

これは、身体醜形障害を持つ人々にとって実際に「有用」であり、「個人の自分自身に対する否定的な見方と、他の人が彼らをどのように見ているか」との間の「ミスマッチ」に光を当てるのに役立つと彼女は感じています.

しかし彼女は、AI は自分の顔の完璧で「強化された完璧なバージョン」を描写しようとしているため、客観的ではないと述べました。

たとえば、身体醜形障害 (BDD) を経験している人は、「自分の画像を見ると自信が少し高まり、このバージョンの自分自身を世界と共有したいと思うかもしれません」と彼女は言いますが、オフのときは現実に大きな打撃を受けるでしょう.スクリーン、フィルターなし、鏡の中、または自分で撮った写真。

自分自身を守る

Prisma Labs の CEO である Andrey Usoltsev は、彼の会社は現在、Lensa に関する問い合わせで「圧倒されている」と述べており、Pikoos が説明するようなユーザーの反応ではありませんが、性的な画像のクエリに対応する FAQ ページへのリンクを提供しました。

「これがアプリに反映されているのを見ると、非常に直面し、彼らが自分自身をどのように見ているかについて一種の「確認」を提供することになり、「障害に深く根ざす」ようになります.

安定拡散

Lensa は、テキストの説明から新しい画像を作成できる深層学習合成を使用する Stable Diffusion も使用しており、Windows または Linux PC、Mac、またはレンタルしたコンピューター ハードウェアのクラウドで実行できます。

Stable Diffusion のニューラル ネットワークは、画像内のピクセルの位置間の一般的な統計的関連付けと、単語を関連付けるために習得された集中学習の助けを借りています。

別の記事で取り上げました ストーリー 人々の画像を犯罪者のように見せたり描写したり、盗みなどのあまりお世辞にもならない行為に関与しているように見せたりすることで、このテクノロジーがどのように生命を破壊する結果をもたらす可能性があるか。

たとえば、オープンソースの Stable Diffusion に「教室にいるトム ハンクス」などのプロンプトを表示すると、教室にいるトム ハンクスの新しいイメージが表示されます。 トム ハンクの場合、Stable Diffusion のトレーニングに使用されるデータ セットに彼の何百枚もの写真が既に含まれているため、公園を散歩することになります。

アーティストもローディールを取得

アートの面では、一部のアーティストは不満を抱いています。

彼らは、AI が彼らの生活を脅かす可能性があることを懸念しています。 これは、デジタル アーティストを含むアーティストも、デジタル ポートレートを AI ほど速く作成できないためです。

Lensa の親会社である Prisma は、同社の技術がデジタル アーティストの仕事を奪っていることについて、懸念を払拭しようとしてきた。

「人間と AI はどちらも芸術的スタイルについてほぼ同様の方法で学習しますが、根本的な違いがいくつかあります。AI は大量のデータセットから迅速に分析して学習することができますが、芸術に対する同じレベルの注意と評価はありません。人間として」 書いた 同社は 6 月 XNUMX 日に Twitter で

「出力は、特定のアートワークの正確なレプリカとして説明することはできません」と書かれています。

セルフイメージを変える

トロント大学の生命倫理学者である Kerry Bowman は、AI は倫理的な問題の中でもとりわけ、人の自己イメージに悪影響を及ぼす可能性があると述べています。

「ある意味ではとても楽しいかもしれませんが、これらの理想化されたイメージは、非常に残酷で非常に狭い社会的期待によって動かされています」とボウマンは月曜日に言いました.

ボウマン氏によると、これらの AI プログラムはインターネットなどのデータ セット ソースを利用してさまざまなアート スタイルを検索し、肖像画を作成しています。 欠点は、AI がそれを行う場合、アーティストが自分の作品の使用に対して金銭的な報酬を受け取ったり、クレジットされたりすることはめったにないことです。

「新しい AI で起こっていることは、著作権法の観点から、法律がこれに追いついていないということです。 それは非常に困難で非常に曖昧であり、倫理は法律よりもさらに遅れている.

個人データに関する懸念

Bowman 氏はまた、人々の個人データがどのように保管されているかについても懸念を表明しました。

「大規模なデータベースに自分の顔が本当に必要ですか? 人々はこれについて自分で決める必要がありますが、それは無害ではなく、これには何もありません.ただ楽しいだけではありません.

Lensa によると、写真はサーバーとアプリに 24 時間以上保存されません。 ディープ ラーニングと機械学習アルゴリズムを使用して、AI が収集し、削除されたデータに基づいて、将来的により良い結果を提供します。 ボウマン氏によると、この種のデータは警察によって違法に使用される可能性があるため、顔認識の潜在的な使用に関する安全上の懸念が生じる.

タイムスタンプ：

より多くの メタニュース