O Escritório de Política Científica e Tecnológica (OSTP) lançou recentemente um “Plano para uma Declaração de Direitos da IA.” O objetivo da AI Bill of Rights é fornecer um conjunto de políticas e regulamentos para proteger contra consequências potencialmente prejudiciais da inteligência artificial. As expectativas definidas no projeto convidam a uma infinidade de oportunidades de pesquisa dentro da comunidade de ciência da computação. Ex-membro do Conselho do CCC, Suresh Venkatasubramanian, esteve muito envolvido no trabalho inicial desta iniciativa. Você pode ler mais sobre o projeto no artigo publicado no Computing Research Policy Blog abaixo.
Originalmente escrito por Brian Mosley e publicado no Blog de Políticas de Pesquisa em Computação
A Administração Biden, atuando por meio do Escritório de Política Científica e Tecnológica (OSTP), divulgado ontem um conjunto de princípios destinados a criar um “Plano para uma Declaração de Direitos da IA.” O objetivo do projeto é, “ajudar a orientar o design, desenvolvimento e implantação de inteligência artificial (IA) e outros sistemas automatizados para que protejam os direitos do público americano”.
Da esquerda para a direita: Dra. Alondra Nelson, Vice-Assistente do Presidente e Vice-diretora da OSTP para Ciência e Sociedade; Presidente da Comissão de Oportunidades Iguais de Emprego dos EUA, Charlotte Burrows; Secretário de Saúde e Serviços Humanos Xavier Becerra; Diretor do Departamento de Proteção Financeira ao Consumidor, Rohit Chopra; e Secretário de Educação Miguel Cardona.
Dentro da proposta, a OSTP, “identificou cinco princípios que devem orientar o projeto, uso e implantação de sistemas automatizados para proteger o público americano na era da inteligência artificial”. Esses princípios, também chamados de “proteções de bom senso”, são: Sistemas Seguros e Eficazes; Proteções Algorítmicas Contra Discriminação; Dados privados; Aviso e Explicação; e Alternativas Humanas, Consideração e Fallback. Como Rohit Chopra, Diretor do Consumer Financial Protection Bureau, apontou no evento de lançamento, “há quinze anos, achávamos que esses sistemas seriam viesados; agora sabemos que o preconceito está embutido.”
O white paper inclui uma companheiro técnico sobre como mover este plano de “princípios para a prática”, e uma framework de aplicação. A OSTP diz que essas proteções devem ser concedidas a todos na América e que este projeto “oferece uma visão para uma sociedade onde as proteções são incorporadas desde o início, onde as comunidades marginalizadas têm voz no processo de desenvolvimento e os designers trabalham duro para garantir os benefícios da tecnologia cheguem a todas as pessoas.”
A proposta da OSTP não contém políticas de fiscalização em empresas de tecnologia e não recomenda nenhuma legislação de acompanhamento. Mas o white paper destaca os compromissos das agências federais existentes com a criação de regras e as ações dessas agências para estudar os impactos específicos dessas tecnologias.
Esta proposta encerra um esforço de um ano da OSTP para coletar feedback e opiniões do público em geral, empresas de tecnologia e comunidade de pesquisa. De fato, o Computing Community Consortium do CRA apresentou um resposta formal ao pedido de informação da OSTP sobre a atualização do Plano Estratégico Nacional de Pesquisa e Desenvolvimento em Inteligência Artificial.
Dadas as preocupações expressas sobre privacidade de dados e proteção ao consumidor por membros do Congresso nos últimos anos, a questão do viés algorítmico e como mitigá-lo ou evitá-lo não desaparecerá aqui em Washington oficial. A comunidade de computação está bem posicionada para participar desses esforços e debates, contribuindo com sua expertise técnica. De fato, Alondra Nelson, vice-diretora de Ciência e Sociedade da OSTP, disse no briefing que “todos nós temos um papel a desempenhar”.
