Meta 的新 AI 语音工具已为 Deepfakes 做好准备，因此尚未发布 – Decrypt

元 继续推动 周五进入日益拥挤的人工智能领域，宣布创建一个名为 语音信箱。它是一款用于与各种潜在用例生成口头对话的应用程序，但正如 Meta 承认的那样，它也很容易被滥用，这正是这家社交媒体巨头尚未向公众发布 Voicebox 的原因。

与以前的语音生成器平台不同，Meta 说 Voicebox 可以执行没有经过专门训练的语音生成任务。 通过文本输入和一段简短的上下文音频剪辑，AI 工具可以创建一段可能可信的新语音块，听起来就像源剪辑中的人物一样。

“在 Voicebox 之前，生成语音的 AI 需要使用精心准备的训练数据对每项任务进行特定训练，”Meta AI 说。 “Voicebox 使用一种新方法来仅从原始音频和随附的转录中学习。”

生成式 AI 是一种能够根据用户提示生成文本、图像或其他媒体的程序。 Meta AI 表示，Voicebox 可以产生六种语言的音频，包括英语、法语、德语、西班牙语、波兰语和葡萄牙语，并且可以更接近人们在现实世界中自然说话的方式。

Meta 建议该工具可用于使用技术工具改善跨语言对话，或提供听起来更自然的视频游戏角色对话。 但 Voicebox 看起来也像是一种更快、更经济的方式来创建模仿“deepfake”对话，让它听起来像某人（可能是公众人物或名人）说了一些他们实际上没有说的话。

虽然这可能是 AI 开发的一个突破，但 Meta AI 也承认存在滥用的可能性，并表示该公司已经开发了区分 Voicebox 创作和人类的分类器。 与垃圾邮件过滤器类似，人工智能分类器是将数据分类到不同组或类中的程序——在这种情况下，是人类或人工智能生成的。

Meta 在其博客文章中强调了 AI 开发透明度的必要性，并表示与研究社区保持开放至关重要。 然而，该公司还表示，由于有可能以潜在的负面方式利用该技术，它没有计划公开 Voicebox。

“生成语音模型有许多令人兴奋的用例，但由于存在滥用的潜在风险，我们目前不会公开 Voicebox 模型或代码，”Meta AI 发言人告诉 解码 在一封电子邮件。

“虽然我们认为对 AI 社区开放并分享我们的研究以推进 AI 的最先进水平很重要，”发言人继续说道，“但也有必要在开放与责任之间取得适当的平衡。”

Meta 没有以功能状态发布该工具，而是共享了音频样本和一份研究论文，以帮助其他研究人员了解其潜力。

人工智能风险出现

自去年 XNUMX 月 OpenAI 的 ChatGPT 推出以来，人工智能工具，特别是人工智能聊天机器人变得越来越普遍，但人工智能的快速发展让全球领导者对该技术的潜在滥用发出了警告。

周一，联合国秘书长重申需要采取行动 警告 认真对待生成式人工智能。

联合国秘书长安东尼奥·古特雷斯在新闻发布会上说：“最新形式的人工智能——生成式人工智能——的警钟震耳欲聋，而设计它的开发人员发出的声音最大。” “科学家和专家呼吁世界采取行动，宣布人工智能对人类的生存威胁与核战争的风险不相上下。”

尽管全球核战争的威胁可能令人担忧，但这种可能性仍然只存在于科幻小说和现实世界中。 好莱坞 大片。生成式人工智能更有可能被滥用的原因是 诈骗 例如，利用深度伪造图像和声音来欺骗受害者的金钱，或者正如联合国在最近的一份报告中所说，煽动仇恨和 误传 线上。

A deepfake 是一种越来越常见的视频或音频内容，由人工智能创建，描述虚假事件，但其方式很难识别为伪造。

4 月，美国有线电视新闻网 (CNN) 报道 诈骗者利用人工智能技术克隆了亚利桑那州一名妇女 15 岁女儿的声音，声称绑架了这名少女并索要赎金。三月份，人工智能生成的前总统图像 唐纳德·特朗普 被逮捕的照片在社交媒体上被分享后迅速传播开来。

• SEO 支持的内容和 PR 分发。 今天得到放大。
• EVM财务。 去中心化金融的统一接口。 访问这里。
• 量子传媒集团。 IR/PR 放大。 访问这里。
• 柏拉图爱流。 Web3 数据智能。 知识放大。 访问这里。
• Sumber: https://decrypt.co/145034/meta-new-ai-speech-tool-ready-made-deepfakes