Microsoft modifica Copilot AI en respuesta a las preocupaciones del personal

Microsoft ha actualizado su herramienta Copilot AI, bloqueando mensajes como “pro-elección” y “pro-vida” e introduciendo advertencias sobre violaciones de políticas después de las preocupaciones del personal y de la FTC.

Después de que un ingeniero de IA del personal expresara su preocupación sobre la generación de imágenes de Copilot AI En una carta dirigida a la Comisión Federal de Comercio el miércoles, Microsoft comenzó a cambiar su herramienta de inteligencia artificial, Copilot.

Lea también: Las empresas emergentes de IA brillan en el primer trimestre con un aumento del 1% en la financiación de capital de riesgo

Los términos “pro-vida” y “pro-elección”, “pro elección” [sic] y “cuatro-veinte”, que fueron mencionados en la investigación de CNBC el miércoles, ahora están bloqueados. Además, CNBC estaba al tanto de la advertencia de que las infracciones repetidas de la política podrían resultar en la suspensión de la herramienta.

NUEVO: Microsoft ha comenzado a realizar cambios en su herramienta Copilot AI después de que un ingeniero escribiera a la FTC el miércoles.

Algunas indicaciones específicas mencionadas en la investigación de CNBC ahora están bloqueadas, junto con una advertencia de múltiples violaciones que conducen a la suspensión.https://t.co/xUixCQVicm

- Campo Hayden (@haydenfield) Marzo 8, 2024

Habla el ingeniero de IA

Shane Jones, ingeniero de IA en Microsoft, alerta que el Copiloto Designer, el generador de imágenes de IA de la empresa, viola las leyes de derechos de autor y produce contenido violento o sexual. Jones se ofreció a usar su tiempo libre para crear un equipo rojo para el generador de imágenes en busca de vulnerabilidades, aunque no está involucrado en su desarrollo.

Un ingeniero de Microsoft está haciendo sonar las alarmas sobre imágenes ofensivas y dañinas que, según él, se crean con demasiada facilidad con la herramienta generadora de imágenes de inteligencia artificial de la compañía, y envía cartas instando a tomar medidas.https://t.co/yX9I1dCmxc

— Noticias KOMO (@komonews) Marzo 6, 2024

Descubrió que el Generador de Imágenes podía producir imágenes gráficas y sexuales, como escenas violentas relacionadas con el consumo de drogas, el consumo de alcohol por parte de menores de edad y el derecho al aborto.

Después de compartir internamente sus hallazgos con la compañía en diciembre del año pasado, le pidió a Microsoft que retirara el producto. Microsoft no cumplió.

Jones enfatiza que habló con la alta gerencia de Copilot Designer y se comunicó con la Oficina de IA Responsable de Microsoft, pero no recibió una respuesta satisfactoria.

Jones se reunió con miembros del Comité Senatorial de Comercio, Ciencia y Transporte en enero y escribió una carta a los senadores de Estados Unidos.

Ahora va más allá: solicita mejores salvaguardias, transparencia y una revisión de la clasificación para adultos de la aplicación de Android en una carta dirigida a la junta directiva de Microsoft y a Lina Khan, presidenta de la Comisión Antimonopolio de Estados Unidos.

Además, exigió una evaluación imparcial del procedimiento de notificación de incidentes de IA de Microsoft, alegando que OpenAI y Microsoft estaban al tanto de los problemas del generador de imágenes antes de su lanzamiento el pasado otoño.

Jones ha sido el principal director de ingeniería de software de Microsoft durante casi seis años.

Copiloto responde

Según la alerta de advertencia de Copilot, el mensaje ha sido bloqueado y su sistema lo marcó automáticamente porque puede entrar en conflicto con su sistema. política de contenido. Afirmaron que más violaciones de las políticas pueden llevar a la suspensión automática del acceso, y si los usuarios piensan que esto es un error, deben reportarlo para ayudarlos a mejorar.

Una mejora significativa con respecto a principios de esta semana es que la herramienta de inteligencia artificial ahora rechaza solicitudes para crear imágenes de niños o adolescentes que pretenden ser asesinos con rifles de asalto y dice: "Lo siento, pero no puedo generar esa imagen". Se violan tanto las políticas de Microsoft como mis principios éticos. No me pidas que haga nada que pueda ofender o causar daño a otras personas. Agradezco su cooperación.

A Microsoft El representante le dijo a CNBC que están monitoreando, haciendo ajustes e implementando controles adicionales continuamente para fortalecer aún más sus filtros de seguridad y mitigar el uso indebido del sistema en respuesta a una pregunta sobre los cambios. 

Jones escribió a la junta directiva de Microsoft y FTC Presidente Lina Khan el miércoles, llevando sus preocupaciones un paso más allá. Le dio a CNBC acceso anticipado a las cartas.

La FTC reconoció haber recibido la carta a CNBC, pero decidió no proporcionar ningún comentario adicional para que conste en acta.

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
• PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
• PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
• PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
• Fuente: https://metanews.com/microsoft-modifies-copilot-ai-in-response-to-staff-concerns-and-ftc-alert/