中国将于一月出台法律打击 Deepfakes Plato区块链数据智能。 垂直搜索。 人工智能。

中国将于 XNUMX 月出台法律打击 Deepfakes

时间戳：24年2022月5日凌晨45:XNUMX

如果你这周上过社交媒体，你可能会看到 AI 生成的你朋友的照片，这些照片是你朋友的仙女、动漫角色、化身和魔法生物。

这在一定程度上要归功于 Lensa，这是一种基于用户上传的照片合成数字肖像的人工智能。 该应用程序的人像功能几乎占领了互联网，Lensa 成为苹果应用程序商店中下载次数最多的应用程序。

Lensa 与所有以数字方式渲染图像的 AI 应用程序一样，因其看似公然的女性图像性感化而引起了钦佩和争议。 其他用户指出，该应用程序使他们的皮肤变白或身体变瘦。

也可以参考： 创造破坏生命的深度假图像的人工智能技术

如何获得自己的“魔法头像”

巡回演出的图像是 Lensa 的神奇头像功能的骄傲创造。 要感受它，必须在手机上下载 Lensa 应用程序。 年度订阅费用约为 35.99 美元，但如果有人想先查看，它的服务也可以免费试用一周，但有限制。

然而，生成流行的魔法化身需要额外的费用，因为该应用程序声称需要“巨大的计算能力”才能实现。

在免费试用中，50 个头像只需 3.99 美元，200 个头像只需 7.99 美元。 为了获得最佳效果，该应用鼓励用户上传至少 20 张特写图像。

理想情况下，这些图像应该是具有一系列不同背景、面部表情和角度的人脸特写。 该应用程序坚持要求用户年满 13 岁。 Lensa 并不是一个全新的应用程序。

作为 Prisma 的产品，该应用程序于 2016 年首次流行，这要归功于一项功能，该功能允许用户将他们的自拍变成具有著名艺术家风格的照片。

Lensa 是如何工作的？

据该公司称，它利用了所谓的“TrueDepth API 技术”，用户可以在其中提供照片或“面部数据”，然后人工智能会根据其算法进行训练，以更好地执行并向您展示更好的结果。 训练是人工智能处理数据、验证和测试模型的时候。

为了使用该应用程序，您可以制作 20 张具有各种表情和角度的自拍照，并选择 100 个头像选项。

完成这项工作大约需要 20 分钟。 完成后，AI 将返回属于 10 个类别的化身，例如幻想、童话公主、焦点、流行、时尚、动漫、光、卡哇伊、彩虹和宇宙。

“总的来说，我觉得这款应用在根据我的自拍制作艺术图像方面做得不错。 在大多数肖像中我都认不出自己，但我能看出它们来自哪里，” 佐伊·索蒂尔 美国有线电视新闻网写道。

“它似乎比其他人更能识别和重复某些特征，比如我苍白的皮肤或圆鼻子。 有些画风比较写实，离得够近，远远看去会以为是我的照片。 其他人明显更具风格和艺术性，所以他们对我来说不那么具体。”

Sottile 注意到人工智能也让她变轻了。

至于我，我也感觉到它自动让我变轻了，我在我的画廊中试过的我和一个皮肤较黑的朋友的形象返回了一个稍微更浅的我们版本，显然是夸大其词，并暴露出一种变亮的倾向黑色肤色。

性化女性

使用它的其他人或多或少也有类似的担忧。

女性表示，AI 可以快速将她们的形象性感化。 但在之前的文章中，我们 解释 在 AI 训练中使用的数据集中发现的大量性感图像使这成为可能。

换句话说，这意味着 AI 对如何生成这些图像非常熟悉，而且很容易就变成色情内容。 通过一些技巧，如果用户愿意，它也可以被提示在不知不觉中从这些图像中产生色情内容。

在其他故事中，我们已经介绍了人工智能如何被愚弄以提供有关如何制作 炸弹 例如。 奇怪的是，性别化问题并没有出现在上传到 Magic Avatar 功能的男性图片中。 麻省理工科技评论，Melissa Heikkilä 写,

“我的化身被卡通化了，而我的男同事则必须是宇航员、探险家和发明家。”

另一方面，Sottile 注意到人工智能“在一张最令人迷惑的图像中”让她看起来“就像我的脸出现在裸体上一样”。

“在几张照片中，我看起来像是赤身裸体，但有策略地盖了一条毯子，或者图像只是被剪掉以隐藏任何明显的东西，”她说。

“许多照片，即使是我穿着整齐的照片，也有性感的面部表情、显着的乳沟和暴露的衣服，这与我提交的照片不符，”Zoe Sottile 补充道。

其他人表示担心他们会被像 Lensa 这样的人工智能技术变成色情明星。

身体羞愧

对于身材丰满的女性来说，这种体验有些不同，在某些情况下甚至更糟。 人工智能让她们更瘦更性感。

“对于 Lmfao，如果你患有身体畸形症，请不要将 Lensa 应用程序用于 AI 生成的图片。 这是你的警告，”一位用户 写.

另一个人说这个应用程序让她看起来像亚洲人。

另一位用户在推特上抱怨说，他在使用 AI 时花了 8 美元来体验身体畸形。

身体畸形是一种心理健康状况，一个人会花很多时间担心自己外表上的缺陷。 这些缺陷通常不会被其他人注意到。

另一位抱怨说，人工智能会自动减轻她原本完整的身材图像的重量。

“我对 Lensa AI 的一个抱怨是它会让你在某些图像中显得很瘦。 作为一个胖子，那些画面真的让我很困扰。 如果你是一个对变瘦没有兴趣的胖子，那么小心不要被触发，”Mariah Successful (@Shlatz) 在 5 年 2022 月 XNUMX 日写道。

心理定时炸弹

心理学家同意她的说法，即人工智能可以触发身材丰满的女性。

临床心理学家，博士。 托尼皮库斯，一位研究并专门治疗身体畸形障碍的澳大利亚心理健康从业者认为，该应用程序弊大于利，只不过是一种改变自我认知的“照片过滤工具”。

Pikoos 说：“当理想外貌与感知外貌之间存在较大差异时，它会加剧对身体的不满、痛苦，并希望通过可能不健康或不安全的方式来修复或改变一个人的外貌”，例如饮食失调或不必要的整容手术。

她表示担心图像会抹去“雀斑和皱纹”等“复杂细节”，这可能会加剧人们对皮肤的担忧。 她说，这也可能在心理上触发一个脆弱的人。

“看到一个外部形象反映出他们的不安全感，只会强化这样的想法，‘看，这对我来说是错误的！ 而且我不是唯一能看到它的人！'”Pikoos 说。

他说，由于 AI 引入了自己的功能，无法描绘用户的真实生活外观，因此该应用程序可能会产生新的焦虑。

她说，AI 的“魔法化身”“特别有趣，因为它看起来更客观——就好像某个外在的、全知的存在生成了你的形象。”

她觉得这对患有身体变形障碍的人实际上“有用”，并有助于阐明“个人对自己的负面看法与他人对他们的看法”之间的“不匹配”。

然而，她指出，人工智能并不客观，因为它试图描绘一个完美无瑕、更“增强和完美的版本”的人脸。

例如，患有躯体变形障碍 (BDD) 的人“在看到自己的形象时可能会经历短暂的自信提升，并希望与世界分享这个版本的自己，”她说，但一旦离开，就会受到现实的沉重打击未经过滤的屏幕，在镜子里或他们给自己拍的照片。”

捍卫自己的

Prisma Labs 首席执行官安德烈·乌索尔采夫 (Andrey Usoltsev) 表示，他的公司目前对 Lensa 的咨询“不堪重负”，并提供了一个指向常见问题解答页面的链接，该页面可以解决对色情图像的查询，尽管不是 Pikoos 描述的那种用户反应。

“在应用程序中看到这一点会非常令人反感，并为他们看待自己的方式提供一种‘确认’”，导致他们变得“更加根深蒂固”。

稳定扩散

Lensa 还使用 Stable Diffusion，它使用深度学习合成，可以根据文本描述创建新图像，并且可以在 Windows 或 Linux PC、Mac 或租用的计算机硬件上的云中运行。

Stable Diffusion 的神经网络在强化学习的帮助下掌握了关联单词和图像中像素位置之间的一般统计关联。

我们覆盖在另一个 故事 该技术如何通过渲染和描绘看起来像是罪犯或参与盗窃等不讨人喜欢的行为的人的图像而产生破坏生命的后果。

例如，可以给开源的 Stable Diffusion 一个提示，比如“汤姆·汉克斯在教室里”，它会给他/她一个汤姆·汉克斯在教室里的新形象。 在 Tom Hank 的案例中，这是在公园里散步，因为他的数百张照片已经在用于训练 Stable Diffusion 的数据集中。

艺术家也得到不公平待遇

在艺术方面，一些艺术家并不高兴。

他们担心人工智能会威胁到他们的生计。 这是因为艺术家，包括数字艺术家，也无法像 AI 那样快速地制作数字肖像。

Lensa 的母公司 Prisma 试图消除人们对其技术消除数字艺术家工作的担忧。

“虽然人类和 AI 以半相似的方式学习艺术风格，但存在一些根本差异：AI 能够快速分析和学习大量数据，但对艺术的关注和欣赏程度不同作为人，” 写 该公司于 6 月 XNUMX 日在 Twitter 上发布。

它说“输出不能描述为任何特定艺术品的精确复制品。”

改变自我形象

多伦多大学的生物伦理学家 Kerry Bowman 表示，人工智能有可能对一个人的自我形象以及其他伦理问题产生负面影响。

“在某些方面，这可能很有趣，但这些理想化的图像是由社会期望驱动的，这些期望可能非常残酷和非常狭隘，”鲍曼周一表示。

鲍曼说，这些人工智能程序利用互联网等数据集资源来寻找不同的艺术风格来创作这些肖像。 缺点是，当人工智能这样做时，艺术家很少会因为使用他们的作品而获得经济报酬或获得荣誉。

“新兴人工智能所发生的事情是，在版权法方面，法律未能真正跟上这一点。 这非常困难且非常模糊，道德甚至更落后于法律，因为我认为这从根本上来说是不公平的，”鲍曼说。

个人数据问题

鲍曼还对人们的个人数据是如何存储的表示担忧。

“你真的想让你的脸出现在大型数据库中吗？ 人们需要自己决定这件事，但这不是良性的，这不是什么都没有，这不仅仅是有趣，”他说。

Lensa 表示照片在服务器和应用程序中的保存时间不超过 24 小时。 通过深度学习和机器学习算法，AI 可以收集并在未来提供更好的结果，同样基于已删除的数据。 鲍曼说，这将导致对潜在使用面部识别的安全担忧，因为警方可能非法使用此类数据。

时间戳记：

更多来自 元新闻