随着人工智能图像生成器变得更加先进，发现深度赝品变得比以往更具挑战性。 执法部门和全球领导人继续对人工智能产生的危险发出警报 deepfakes 在社交媒体和冲突地区。
Secta Labs 联合创始人兼首席执行官 Marko Jak 表示：“我们正在进入一个无法再相信自己所看到的时代。” 解码 在一次采访中。 “现在，这更容易了，因为深度赝品还没有那么好，有时你可以看到它很明显。”
根据 Jak 的说法，距离我们不再能够一眼辨别出伪造图像的时间点已经不远了（也许一年之内）。 他应该知道：Jak 是一家人工智能图像生成器公司的首席执行官。
杰克联合创始人 Secta实验室 2022 年； 这家位于奥斯汀的生成人工智能初创公司专注于创建高质量的人工智能生成图像。 用户可以上传自己的照片，并将其转换为人工智能生成的头像和头像。
正如 Jak 所解释的那样，Secta Labs 将用户视为从其数据生成的人工智能模型的所有者，而该公司只是帮助从这些模型创建图像的保管人。
更先进的人工智能模型可能被滥用，世界领导人呼吁立即采取行动 行动 人工智能监管并导致公司决定不向公众发布其先进工具。
上周宣布新产品后 语音信箱 人工智能生成的语音平台Meta表示不会向公众发布人工智能。
Meta 发言人表示：“虽然我们认为与人工智能社区保持开放并分享我们的研究成果以推动人工智能技术的发展非常重要。” 解码 在一封电子邮件中。 “还必须在开放与责任之间取得适当的平衡。”
本月初，美国联邦调查局 警告 AI Deepfake 勒索诈骗和犯罪分子利用社交媒体上的照片和视频创建虚假内容。
杰克说，打击深度造假的答案可能不是能够发现深度造假，而是能够揭露深度造假。
“人工智能是发现[深度造假]的第一种方法，”杰克说。 “有人构建了人工智能，你可以将图像放入视频中，人工智能可以告诉你它是否是由人工智能生成的。”
生成式人工智能以及人工智能生成图像在电影和电视中的潜在用途是娱乐行业的热门话题。 SAG-AFTRA 成员们在进入合同谈判之前投票授权罢工，这是一个重大问题，人工智能。
Jak 补充说，挑战在于，随着技术变得更加先进，人工智能军备竞赛正在展开，不良行为者会制造出更先进的深度伪造品来对抗旨在检测它们的技术。
Jak 承认区块链作为现实世界问题的解决方案已被过度使用（有些人可能会说过度炒作），并表示该技术和密码学可能会解决深度造假问题。
不过，虽然技术可以解决深度造假的许多问题，但杰克表示，技术含量较低的解决方案，即大众的智慧，可能是关键。
“我看到 Twitter 做了一件事，我认为这是一个好主意，那就是社区注释，人们可以在其中添加一些注释，为某人的推文提供背景信息，”Jak 说。 “推文可能是错误信息，就像深度造假一样，”他说。 杰克补充说，社交媒体公司想办法利用其社区来验证传播的内容是否真实，这将有利于社交媒体公司。
“区块链可以解决特定问题，但密码学可以帮助验证图像的来源，”他说。 “这可能是一个实用的解决方案，因为它处理的是源验证而不是图像内容，无论深度伪造有多复杂。”
