La Oficina de Política Científica y Tecnológica (OSTP) lanzó recientemente un “Plan para una declaración de derechos de la IA”. El objetivo de la Declaración de Derechos de AI es proporcionar un conjunto de políticas y regulaciones para proteger contra las consecuencias potencialmente dañinas de la inteligencia artificial. Las expectativas establecidas en el plan invitan a una plétora de oportunidades de investigación dentro de la comunidad informática. Ex miembro del consejo de la CCC, Suresh venkatasubramanian, estuvo muy involucrado en el trabajo preliminar inicial de esta iniciativa. Puede leer más sobre el proyecto en el artículo publicado en el blog de política de investigación informática a continuación.
Escrito originalmente por Brian Mosley y publicado en el Blog de políticas de investigación informática
La Administración Biden, actuando a través de la Oficina de Política Científica y Tecnológica (OSTP), lanzado ayer un conjunto de principios destinados a crear un “Plan para una declaración de derechos de la IA”. El objetivo del plan es, “ayudar a guiar el diseño, desarrollo y despliegue de inteligencia artificial (IA) y otros sistemas automatizados para que protejan los derechos del público estadounidense”.
De izquierda a derecha: Dra. Alondra Nelson, asistente adjunta del presidente y directora adjunta de Ciencia y Sociedad de la OSTP; la presidenta de la Comisión de Igualdad de Oportunidades en el Empleo de EE. UU., Charlotte Burrows; el secretario de Salud y Servicios Humanos, Xavier Becerra; el director de la Oficina de Protección Financiera del Consumidor, Rohit Chopra; y el secretario de Educación Miguel Cardona.
Dentro de la propuesta, OSTP “identificó cinco principios que deberían guiar el diseño, uso e implementación de sistemas automatizados para proteger al público estadounidense en la era de la inteligencia artificial”. Esos principios, también llamados “protecciones de sentido común”, son: Sistemas Seguros y Efectivos; protecciones de discriminación algorítmica; Privacidad de datos; Aviso y Explicación; y alternativas humanas, consideración y respaldo. Como señaló Rohit Chopra, director de la Oficina de Protección Financiera del Consumidor, en el evento de lanzamiento, “hace quince años pensamos que estos sistemas eliminarían el sesgo; ahora sabemos que el sesgo está integrado”.
El libro blanco incluye un compañero técnico sobre cómo llevar este plan de “principios a la práctica”, y una marco de aplicación. OSTP dice que estas protecciones deberían ser válidas para todos en Estados Unidos y que este plan “ofrece una visión de una sociedad donde las protecciones están integradas desde el principio, donde las comunidades marginadas tienen voz en el proceso de desarrollo y los diseñadores trabajan arduamente para garantizar los beneficios. de la tecnología llegue a todas las personas.”
La propuesta de OSTP no contiene políticas de cumplimiento sobre las empresas de tecnología y no recomienda ninguna legislación de seguimiento. Pero el libro blanco destaca los compromisos de las agencias federales existentes con la elaboración de normas y las acciones de esas agencias para estudiar los impactos específicos de estas tecnologías.
Esta propuesta culmina un esfuerzo de un año realizado por OSTP para recopilar comentarios y opiniones del público en general, las empresas de tecnología y la comunidad de investigación. De hecho, el Computing Community Consortium de CRA presentó una respuesta formal a la Solicitud de Información de OSTP en la actualización del Plan Estratégico Nacional de Investigación y Desarrollo de Inteligencia Artificial.
Dadas las preocupaciones expresadas sobre la privacidad de los datos y la protección del consumidor por congresistas en los últimos años, el problema del sesgo algorítmico y cómo mitigarlo o evitarlo no desaparecerá aquí en el Washington oficial. La comunidad informática está bien posicionada para participar en estos esfuerzos y debates, contribuyendo con su experiencia técnica. De hecho, Alondra Nelson, directora adjunta de Ciencia y Sociedad de la OSTP, dijo en la sesión informativa que “todos nosotros tenemos un papel que desempeñar”.
