微软修改了 Copilot AI 以回应员工的担忧

微软更新了 Copilot 人工智能工具，屏蔽了“支持堕胎”和“反对堕胎”等提示，并在员工和联邦贸易委员会担心后引入了有关违反政策的警告。

在一名人工智能工程师表达了他对 Copilot 图像生成的担忧之后 AI 在周三致联邦贸易委员会的一封信中，微软开始改变其人工智能工具Copilot。

也可以参考： AI 初创公司一季度表现出色，风险投资资金激增 1%

CNBC 周三的调查中提到的“反堕胎”、“支持堕胎”、“支持堕胎”[原文如此]和“四点二十”等词语现已被屏蔽。此外，CNBC 刚刚意识到反复违反政策可能会导致工具暂停的警告。

新消息：在一名工程师周三向联邦贸易委员会写信后，微软已开始对其 Copilot AI 工具进行更改。

CNBC 调查中提到的一些具体提示现已被屏蔽，同时还发出了多次违规导致暂停的警告。https://t.co/xUixCQVicm

— 海登菲尔德 (@haydenfield) 2024 年 3 月 8 日

AI工程师发言

微软人工智能工程师肖恩·琼斯 (Shane Jones) 警告说， 副驾驶 该公司的人工智能图像生成器 Designer 违反版权法并产生暴力或色情内容。琼斯提出利用他的空闲时间对图像生成器进行漏洞红队检查，尽管他没有参与其开发。

一名微软工程师对攻击性和有害图像发出警报，他说该公司的人工智能图像生成工具很容易制作出攻击性和有害的图像，并发送信件敦促采取行动。https://t.co/yX9I1dCmxc

— KOMO 新闻 (@komonews) 2024 年 3 月 6 日

他发现图像生成器可以生成图形和性图像，例如涉及吸毒、未成年人饮酒和堕胎权的暴力场景。

去年 12 月在公司内部分享了他的发现后，他要求微软下架该产品。微软没有跟进。

琼斯强调，他与 Copilot Designer 的高级管理层进行了交谈，并联系了微软的 Responsible AI 办公室，但尚未收到满意的答复。

琼斯一月份会见了参议院商业、科学和运输委员会的成员，并向美国参议员写了一封信。

他现在更进一步：在给微软董事会和美国反垄断委员会主席莉娜·汗的一封信中，他要求改进保障措施、透明度，并修改 Android 应用程序的成人评级。

此外，他要求对微软的人工智能事件报告程序进行公正的评估，声称 OpenAI 和微软在去年秋天发布图像生成器之前就已经意识到该图像生成器的问题。

琼斯担任微软首席软件工程经理已近六年。

副驾驶回应

根据副驾驶警告警报，该提示已被阻止，并且他们的系统自动标记了该提示，因为它可能与他们的冲突 内容政策。他们表示，更多的政策违规可能会导致自动暂停访问，如果用户认为这是一个错误，他们应该举报以帮助他们改进。

与本周早些时候相比，一个显着的改进是，人工智能工具现在拒绝创建儿童或青少年假装携带突击步枪的刺客图像的请求，并表示：“很抱歉，但我无法生成这样的图像。” Microsoft 的政策和我的道德原则都被违反了。不要要求我做任何可能冒犯或伤害他人的事情。感谢您的合作。

A 微软 代表告诉 CNBC，他们正在持续监控、进行调整并采取额外的控制措施，以进一步加强其安全过滤器并减少系统滥用，以回应有关变化的问题。 

琼斯写信给微软董事会并 联邦贸易委员会 周三，主席莉娜·汗 (Lina Khan) 进一步表达了他的担忧。他向 CNBC 授予了提前查看这些信件的权限。

联邦贸易委员会承认收到了 CNBC 的这封信，但选择不提供任何额外评论以记录在案。

• SEO 支持的内容和 PR 分发。 今天得到放大。
• PlatoData.Network 垂直生成人工智能。 赋予自己力量。 访问这里。
• 柏拉图爱流。 Web3 智能。 知识放大。 访问这里。
• 柏拉图ESG。 碳， 清洁科技, 能源， 环境， 太阳能， 废物管理。 访问这里。
• 柏拉图健康。 生物技术和临床试验情报。 访问这里。
• Sumber: https://metanews.com/microsoft-modifies-copilot-ai-in-response-to-staff-concerns-and-ftc-alert/