El NIST de EE. UU. inicia un consorcio de seguridad de la IA para promover un desarrollo de IA confiable

El Instituto Nacional de Estándares y Tecnología de los Estados Unidos (NIST), dependiente del Departamento de Comercio, ha toma un paso significativo hacia el fomento de un entorno seguro y confiable para la Inteligencia Artificial (IA) mediante la creación del Consorcio del Instituto de Seguridad de Inteligencia Artificial (“Consorcio”). La formación del Consorcio fue anunciada en un aviso publicado el 2 de noviembre de 2023 por el NIST, lo que marca un esfuerzo de colaboración para establecer una nueva ciencia de medición para identificar técnicas y métricas escalables y probadas. Estas métricas tienen como objetivo promover el desarrollo y la utilización responsable de la IA, especialmente en lo que respecta a los sistemas de IA avanzados, como los modelos básicos más capaces.

Objetivo del Consorcio y Colaboración

El objetivo principal del Consorcio es sortear los grandes riesgos que plantean las tecnologías de IA y proteger al público al mismo tiempo que se fomentan avances tecnológicos innovadores en IA. NIST busca aprovechar los intereses y capacidades de la comunidad en general, con el objetivo de identificar medidas y metodologías probadas, escalables e interoperables para el uso responsable y el desarrollo de IA confiable.

La participación en investigación y desarrollo colaborativos (I+D), proyectos compartidos y la evaluación de sistemas de prueba y prototipos se encuentran entre las actividades clave descritas para el Consorcio. El esfuerzo colectivo es una respuesta a la Orden Ejecutiva titulada “El desarrollo y uso seguro y confiable de la inteligencia artificial”, de fecha 30 de octubre de 2023, que subrayó un amplio conjunto de prioridades relevantes para la seguridad y la confianza de la IA.

Convocatoria de Participación y Cooperación

Para lograr estos objetivos, NIST ha abierto las puertas para que las organizaciones interesadas compartan su experiencia técnica, productos, datos y/o modelos a través del Marco de gestión de riesgos de IA (AI RMF). La invitación a presentar cartas de interés es parte de la iniciativa del NIST para colaborar con organizaciones sin fines de lucro, universidades, agencias gubernamentales y empresas de tecnología. Se espera que las actividades de colaboración dentro del Consorcio comiencen no antes del 4 de diciembre de 2023, una vez que se reciba una cantidad suficiente de cartas de interés completadas y firmadas. La participación está abierta a todas las organizaciones que puedan contribuir a las actividades del Consorcio, y los participantes seleccionados deben celebrar un Acuerdo Cooperativo de Investigación y Desarrollo del Consorcio (CRADA) con el NIST.

Abordar los desafíos de seguridad de la IA

El establecimiento del Consorcio se considera un paso positivo para ponerse al día con otras naciones desarrolladas en el establecimiento de regulaciones que rijan el desarrollo de la IA, particularmente en los ámbitos de la privacidad, la seguridad y las consecuencias no deseadas de los usuarios y ciudadanos. La medida refleja un hito bajo la administración del presidente Joe Biden hacia la adopción de políticas específicas para gestionar la IA en los Estados Unidos.

El Consorcio desempeñará un papel decisivo en el desarrollo de nuevas directrices, herramientas, métodos y mejores prácticas para facilitar la evolución de los estándares de la industria para desarrollar o implementar IA de manera segura y confiable. Está preparado para desempeñar un papel fundamental en un momento crucial, no solo para los tecnólogos de IA sino también para la sociedad, a la hora de garantizar que la IA se alinee con las normas y valores sociales y al mismo tiempo promueva la innovación.

Fuente de la imagen: Shutterstock

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
• PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
• PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
• PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
• Fuente: https://Blockchain.News/news/us-nist-initiates-ai-safety-consortium-to-promote-trustworthy-ai-development