La Ley de IA de la UE: ¿Cuáles son las implicaciones para la banca y las tecnologías financieras?

La votación final del Parlamento Europeo de ayer sobre la Ley de IA, que entrará en vigor en mayo, presagia la legislación sobre IA más completa del mundo. Al igual que el RGPD, tendrá implicaciones globales más allá de la UE.

La Ley de IA proporciona un marco integral para garantizar el desarrollo de una IA confiable y el uso responsable de las herramientas de IA, en particular la transparencia, los prejuicios, las violaciones de la privacidad, los riesgos de seguridad y la posibilidad de difundir información errónea.
como supervisión humana en el desarrollo de tecnologías de IA. 

En esas directrices se utilizan siete principios éticos no vinculantes para la IA, destinados a ayudar a garantizar que la IA sea confiable y éticamente sólida. Los principios incluyen

– agencia humana y supervisión;

– robustez técnica y seguridad;

– privacidad y gobernanza de datos;

– transparencia;

– diversidad, no discriminación y equidad;

– bienestar y responsabilidad social y ambiental.

Con un enfoque escalonado basado en el riesgo, los sistemas de inteligencia artificial de alto riesgo en sectores como la banca y la atención médica enfrentarán obligaciones legales estrictas y sanciones considerables por incumplimiento. La Ley clasifica la IA en cuatro niveles de riesgo, desde mínimo hasta inaceptable, cada uno
con obligaciones cada vez mayores.

La Ley de IA de la UE prohíbe el desarrollo, implementación y uso de ciertos sistemas de IA, incluidos:

– Sistemas de puntuación social

- Ingeniería social

– Identificación biométrica remota en tiempo real en espacios públicos

– Elaboración de perfiles y predicción de comportamiento basados ​​en IA

– Scraping y aumento de imágenes faciales para ampliar las bases de datos.

– Las técnicas de manipulación basadas en IA socavan la autonomía y la libre elección 

No todos los sistemas de IA plantean riesgos significativos, especialmente si no influyen materialmente en la toma de decisiones ni dañan sustancialmente los intereses legales protegidos. Sistemas de IA con mínimo impacto en la toma de decisiones o riesgo para intereses legales, como los que realizan
tareas limitadas o mejorar las actividades humanas, se consideran de bajo riesgo. Se hace hincapié en la documentación y el registro de estos sistemas para lograr transparencia. Algunos de los sistemas de IA de alto riesgo incluyen varios sectores, incluidos la banca y los seguros (así como el sector médico).
dispositivos, recursos humanos, educación y más).

Los requisitos obligatorios para los sistemas de IA de alto riesgo tienen como objetivo garantizar la confiabilidad y mitigar los riesgos, considerando su propósito y contexto de uso. Es importante que los servicios financieros y las empresas de tecnología financiera, especialmente aquellas que manejan datos de clientes, mantengan la
A continuación se tienen en cuenta estos requisitos para sistemas de IA de alto riesgo:

– Gestión de riesgos continua e iterativa para la IA de alto riesgo, centrándose en la salud, la seguridad y los derechos, lo que requiere actualizaciones, documentación y participación de las partes interesadas.

– Realizar una evaluación de impacto sobre los derechos fundamentales

– gobernanza rigurosa para evitar la discriminación y garantizar el cumplimiento de las leyes de protección de datos

– Los conjuntos de datos de capacitación y prueba deben ser representativos, precisos y libres de sesgos para evitar impactos adversos en la salud, la seguridad y los derechos fundamentales.

– Garantizar la supervisión humana y la transparencia

– Garantizar la detección y corrección de sesgos

– documentación comprensible para trazabilidad, verificación de cumplimiento, monitoreo operativo y supervisión posterior a la comercialización, incluidas características del sistema, algoritmos, procesos de datos y gestión de riesgos en documentos técnicos claros y actualizados, además
Registro automático de eventos durante toda la vida útil de la IA.

– Los sistemas de IA de alto riesgo deben funcionar de manera consistente durante todo su ciclo de vida y alcanzar un nivel adecuado de precisión, solidez y ciberseguridad.

Las empresas deben priorizar el desarrollo de una IA responsable para cumplir con las regulaciones recientes y evitar fuertes sanciones por incumplimiento. Estos son algunos de los pasos que la empresa debe seguir para garantizar el cumplimiento:

1. Establecer la gobernanza de la IA Desde el principio, garantizando la participación y la aceptación de todas las partes interesadas.
2. Educar y capacitar su equipo en los principios éticos de la IA. La gestión de los riesgos de la IA requerirá nuevas habilidades, que van desde el análisis de datos hasta la seguridad/privacidad, el derecho y mucho más.
3. Realizar una auditoría de IA de la organización (y no solo de ingeniería), sino también legal, recursos humanos, etc., para obtener una imagen completa de dónde se utiliza la IA en la organización.
4. Verificar el cumplimiento continuo
5. Asegúrese de que sus proveedores de SaaS utilicen la IA de forma responsable
6. Garantizar la transparencia, la comprensión y la explicabilidad de los modelos. que se utilizan en su negocio

Si bien es un paso muy necesario en la dirección correcta, el problema está en los detalles, y la Ley de IA tendrá un impacto sustancial en el futuro de las organizaciones, tanto las tradicionales como las centradas en la IA. Mientras navegamos por una era en la que el impacto de la IA es cada vez más
profundo, alinearse con los estándares éticos y los requisitos regulatorios no es solo una cuestión de cumplimiento legal sino un imperativo estratégico. Al centrarse en la IA responsable, las empresas no sólo se protegen contra multas importantes, sino que también se posicionan
como entidades confiables y con visión de futuro en el panorama digital en rápida evolución. El camino hacia la IA responsable es un camino desafiante pero indispensable que promete redefinir el futuro de la tecnología, la gobernanza y el bienestar social.

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
• PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
• PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
• PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
• Fuente: https://www.finextra.com/blogposting/25899/the-eu-ai-act—what-are-the-implications-for-banking-and-fintech?utm_medium=rssfinextra&utm_source=finextrablogs