Microsoft модифицирует ИИ второго пилота в ответ на опасения персонала

Microsoft обновила свой инструмент Copilot AI, заблокировав такие запросы, как «за выбор» и «за жизнь», а также введя предупреждения о нарушениях политики после беспокойства персонала и Федеральной торговой комиссии.

После того, как штатный инженер по искусственному интеллекту выразил обеспокоенность по поводу генерации изображений Copilot AI В письме Федеральной торговой комиссии в среду Microsoft начала менять свой инструмент искусственного интеллекта Copilot.

Читайте также: Стартапы в области искусственного интеллекта блистают в первом квартале: рост венчурного финансирования составил 1%

Термины «за жизнь», «за выбор», «за выбор» [sic] и «четыре двадцать», которые были упомянуты в расследовании CNBC в среду, теперь заблокированы. Кроме того, CNBC только что узнал о предупреждении о том, что повторные нарушения правил могут привести к приостановке работы инструмента.

НОВИНКА: Microsoft начала вносить изменения в свой инструмент Copilot AI после того, как в среду штатный инженер написал в FTC.

Некоторые конкретные запросы, упомянутые в расследовании CNBC, теперь заблокированы, а также предупреждение о многочисленных нарушениях, ведущих к приостановке.https://t.co/xUixCQVicm

— Хайден Филд (@haydenfield) 8 марта 2024

Инженер ИИ говорит

Шейн Джонс, инженер по искусственному интеллекту в Microsoft, предупреждает, что Copilot Designer, генератор изображений с использованием искусственного интеллекта, нарушает законы об авторских правах и создает контент, содержащий насилие или сексуальный контент. Джонс предложил использовать свое свободное время для создания красной команды генератора изображений на предмет уязвимостей, хотя он не участвует в его разработке.

Инженер Microsoft бьет тревогу по поводу оскорбительных и вредных изображений, которые, по его словам, слишком легко создаются с помощью инструмента создания изображений с искусственным интеллектом, и рассылает письма, призывающие к действию.https://t.co/yX9I1dCmxc

— Новости КОМО (@komonews) 6 марта 2024

Он обнаружил, что Генератор изображений может создавать графические и сексуальные изображения, такие как сцены насилия, связанные с употреблением наркотиков, употреблением алкоголя несовершеннолетними и правами на аборт.

Поделившись своими выводами внутри компании в декабре прошлого года, он попросил Microsoft отказаться от продукта. Microsoft не довела до конца.

Джонс подчеркивает, что он разговаривал с высшим руководством Copilot Designer и обращался в офис Microsoft по ответственному ИИ, но не получил удовлетворительного ответа.

В январе Джонс встретился с членами сенатского комитета по торговле, науке и транспорту и написал письмо сенаторам США.

Теперь он идет дальше: в письме совету директоров Microsoft и Лине Хан, председателю Антимонопольной комиссии США, он требует улучшить меры защиты, прозрачности и пересмотреть рейтинг приложения для Android для взрослых.

Кроме того, он потребовал беспристрастной оценки процедуры сообщения об инцидентах с искусственным интеллектом в Microsoft, утверждая, что OpenAI и Microsoft знали о проблемах генератора изображений до его выпуска осенью прошлого года.

Джонс был главным менеджером по разработке программного обеспечения в Microsoft на протяжении почти шести лет.

Второй пилот отвечает

Согласно предупреждению Copilot, приглашение было заблокировано, и их система автоматически пометила это приглашение, поскольку оно может конфликтовать с их контентная политика. Они заявили, что новые нарушения политики могут привести к автоматической приостановке доступа, и если пользователи считают, что это ошибка, им следует сообщить об этом, чтобы помочь им улучшить ситуацию.

Существенным улучшением по сравнению с началом этой недели является то, что инструмент искусственного интеллекта теперь отклоняет запросы на создание изображений детей или подростков, притворяющихся убийцами с автоматами, говоря: «Извините, но я не могу создать такое изображение». Нарушены как политика Microsoft, так и мои этические принципы. Не просите меня сделать что-либо, что могло бы обидеть или причинить вред другим людям. Я ценю ваше сотрудничество.

A Microsoft Представитель сообщил CNBC, что они постоянно контролируют, вносят коррективы и вводят дополнительные меры контроля для дальнейшего усиления своих фильтров безопасности и уменьшения злоупотреблений системой в ответ на вопрос об изменениях. 

Джонс написал совету директоров Microsoft и Федеральная торговая комиссия Председатель Лина Хан в среду высказала еще один шаг вперед в своих опасениях. Он предоставил CNBC предварительный доступ к письмам.

Федеральная торговая комиссия подтвердила получение письма CNBC, но предпочла не предоставлять никаких дополнительных комментариев для протокола.

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://metanews.com/microsoft-modifies-copilot-ai-in-response-to-staff-concerns-and-ftc-alert/