La Comisión Europea apunta a la desinformación generada por la IA antes de las elecciones

En una medida proactiva para salvaguardar la integridad de las próximas elecciones europeas, la Comisión Europea ha ordenado a gigantes tecnológicos como TikTok, X (anteriormente Twitter) y Facebook que intensifiquen sus esfuerzos para detectar contenido generado por IA. Esta iniciativa es parte de una estrategia más amplia para combatir la desinformación y proteger los procesos democráticos de las amenazas potenciales que plantean la IA generativa y los deepfakes.

Medidas de mitigación y consulta pública

La Comisión ha presentado un proyecto de directrices de seguridad electoral en virtud de la Ley de Servicios Digitales (DSA), que subraya la importancia de un etiquetado claro y persistente del contenido generado por IA que podría parecerse significativamente o tergiversar personas, objetos, lugares, entidades o eventos reales. Estas directrices también enfatizan la necesidad de que las plataformas proporcionen a los usuarios herramientas para etiquetar el contenido generado por IA, mejorando la transparencia y la responsabilidad en los espacios digitales.

Está en marcha un período de consulta pública que permitirá a las partes interesadas contribuir con sus comentarios sobre este borrador de directrices hasta el 7 de marzo. La atención se centra en implementar medidas de mitigación “razonables, proporcionadas y efectivas” para prevenir la creación y difusión de información errónea generada por la IA. Las recomendaciones clave incluyen marcar el contenido generado por IA con marcas de agua para un fácil reconocimiento y garantizar que las plataformas adapten sus sistemas de moderación de contenido para detectar y administrar dicho contenido de manera eficiente.

Énfasis en la transparencia y el empoderamiento de los usuarios

Las directrices propuestas abogan por la transparencia e instan a las plataformas a revelar las fuentes de información utilizadas para generar contenido de IA. Este enfoque tiene como objetivo capacitar a los usuarios para distinguir entre contenido auténtico y engañoso. Además, se alienta a los gigantes tecnológicos a integrar salvaguardias para evitar la generación de contenido falso que podría influir en el comportamiento de los usuarios, particularmente en el contexto electoral.

Marco legislativo de la UE y respuesta de la industria

Estas directrices se inspiran en la Ley de IA de la UE recientemente aprobada y el Pacto de IA no vinculante, destacando el compromiso de la UE de regular el uso de herramientas de IA generativa, incluidas aquellas como ChatGPT de OpenAI. Meta, la empresa matriz de Facebook e Instagram, respondió anunciando su intención de etiquetar las publicaciones generadas por IA, alineándose con el impulso de la UE para una mayor transparencia y protección de los usuarios contra las noticias falsas.

El papel de la Ley de Servicios Digitales

La DSA desempeña un papel fundamental en esta iniciativa, aplicándose a una amplia gama de negocios digitales e imponiendo obligaciones adicionales a las plataformas en línea de muy gran tamaño (VLOP) para mitigar los riesgos sistémicos en áreas como los procesos democráticos. Las disposiciones de la DSA tienen como objetivo garantizar que la información proporcionada mediante IA generativa se base en fuentes confiables, particularmente en el contexto electoral, y que las plataformas tomen medidas proactivas para limitar los efectos de las “alucinaciones” generadas por IA.

Conclusión

Mientras la Comisión Europea se prepara para las elecciones de junio, estas directrices representan un paso significativo para garantizar que el ecosistema en línea siga siendo un espacio para una participación democrática justa e informada. Al abordar los desafíos que plantean los contenidos generados por IA, la UE pretende fortalecer sus procesos electorales contra la desinformación, manteniendo la integridad y seguridad de sus instituciones democráticas.

Fuente de la imagen: Shutterstock