摄像机拍摄人们的裸体,引发有关人工智能和隐私的争论

摄像机拍摄人们的裸体,引发有关人工智能和隐私的争论

德国艺术家 Mathias Vef 和设计师 Benedikt Groß 创造了一款名为 Nuca 的新型“深伪相机”,它利用人工智能在几秒钟内完全脱掉穿着衣服的人的照片。 

Nuca 提出了有关隐私的问题,但其创建者辩称他们这样做是为了更大的利益。他们说相机是一个艺术项目,旨在引发关于如何 生成式人工智能 可以用来侵蚀现实,当然还有隐私本身。

也可以参考: 如何识别社交媒体上的人工智能 Deepfakes 

我们如何运作?

努卡不需要同意就可以脱掉你的衣服。 Vef 表示,一旦相机捕捉到你穿着衣服的图像,只需 10 秒即可处理照片并生成你的裸体版本。

据《Fast Company》报道,Vef 表示:“挑战之一是减少生成图像的时间。”

“我们主要使用公开可用的工具,但以非常有效的方式将它们组合起来并将其放入工作设备中是以前从未做过的事情。”

摄像机拍摄人们的裸体,引发人工智能和隐私争论
努卡相机。图片来源:Nuca

目前的 Nuca 是一款由 3D 设计和打印部件制成的紧凑型相机原型。该设备重 430 克,配备 37 毫米广角镜头和符合人体工学的握把。

“深伪相机”配备了一部可以拍摄图像并充当取景器的智能手机。该项目的网站称,它会实时显示输入的图片和其他数据,例如人的姿势。

当您按下触发按钮时,相机会捕获拍摄对象的图像并将其发送到 稳定扩散 引擎对其进行处理,例如面部特征和身体形状。

AI 模型会根据 45 个标识符分析照片,例如性别、年龄、种族、头发,甚至眼镜。然后,人工智能利用这些数据,将真人的脸部添加到人工智能生成的完全裸体的身体上。

Nuca相机产生反应

目前,Nuca 仍只是一个工作原型,这意味着它尚未可供公众使用。然而,艺术实验 马蒂亚斯·韦夫贝尼迪克特·格罗斯 已经引起了争论。

“Nuca 已经引发了不同的反应,从担心人工智能对身体崇拜和美丽狂热的偏见,到对其庆祝人类自然美和形态的热情,” 网站上写着.

“这个项目引发了关于人工智能潜力的重要讨论,强调同意、算法公平性以及人工智能生成图像的社会影响。”

该项目援引一些用户的话称,世界必须正视它正面临“一种新型色情内容,其中人类只是一种记忆,被复制和重新混合后立即生成用户可以用文字描述的任何性图像”。

德国创作者希望他们厚颜无耻的推销能够让人们开始思考和谈论使用人工智能复制深度伪造裸体的危险。

“我们都认为辩论才刚刚开始,因为可能性似乎无穷无尽。我们才刚刚开始这段旅程。”Vef 说道 快速公司。

“对我们来说,保持批判性和探索性非常重要,因为我们需要知道将会发生什么,以便能够讨论可能性及其影响。我们的相机就是实现这一目标的一种方式。”

据报道,Vef 和 Groß 将在一次展会上展示 Nuca 原型相机 展览 今年晚些时候将在德国首都柏林举行。

生成式人工智能已被不良行为者用来生成针对名人的非同性色情材料,例如 泰勒·斯威夫特和艾玛·沃特森,甚至未成年 小学生。人工智能还被用来创建深度伪造品 实施欺诈。

时间戳记:

更多来自 元新闻