TÓQUIO, 21 de fevereiro de 2022 – (JCN Newswire) – A Fujitsu anunciou hoje o desenvolvimento de um kit de ferramentas de recursos que oferece orientação aos desenvolvedores para avaliar o impacto ético e os riscos dos sistemas de IA com base nas diretrizes internacionais de ética de IA. A Fujitsu oferecerá estes recursos gratuitamente a partir de 21 de fevereiro de 2022 para promover a implementação segura de sistemas de IA na sociedade.
O kit de ferramentas consiste em uma variedade de estudos de caso e materiais de referência, incluindo um método recém-desenvolvido para esclarecer os requisitos éticos nas diretrizes de ética da IA escritas em linguagem natural, bem como para aplicar os requisitos éticos aos sistemas reais de IA. Os recursos em japonês podem ser baixados aqui, com disponibilidade em inglês para acompanhar em breve.
Com esta orientação, a Fujitsu visa evitar mal-entendidos e potenciais riscos causados por diferenças na interpretação das descrições nas orientações, oferecendo aos programadores e operadores de sistemas de IA novas ferramentas para identificar e prevenir minuciosamente possíveis problemas éticos no início do processo de desenvolvimento de acordo com as melhores práticas internacionais .
O Dr. Christoph Lutge da Universidade Técnica de Munique, uma das principais autoridades na pesquisa de IA responsável e ética empresarial, comenta: "Na Europa, há um debate crescente sobre os regulamentos de IA, e uma das questões-chave é como fechar o descompasso entre princípios e práticas, ou "o quê" e "como". Acredito que os resultados desta pesquisa são muito significativos na medida em que nos permitem praticar com base em princípios. Também gostaria de expressar meu profundo apreço pela decisão de abrir os resultados da pesquisa e estimular a discussão em todo o mundo."
No futuro, a Fujitsu trabalhará ativamente em parceria com agências governamentais, empresas privadas e pesquisadores líderes para refinar e promover ainda mais sua metodologia recém-desenvolvida e pretende lançar uma versão expandida do kit de ferramentas de recursos no ano fiscal de 2022.
BACKGROUND
Em abril de 2021, a Comissão Europeia emitiu um rascunho para uma estrutura regulatória exigindo uma resposta ética abrangente para desenvolvedores, usuários e partes interessadas de sistemas de IA em resposta às crescentes preocupações em torno do viés algorítmico e da tomada de decisões discriminatórias em aplicativos de IA e aprendizado de máquina.
Para se comprometer totalmente com o uso responsável da tecnologia e ganhar a confiança da sociedade nos sistemas de IA e nas empresas e organizações envolvidas neste espaço, a Fujitsu formulou o seu próprio Compromisso de IA em 2019, bem como um novo Gabinete de Ética e Governação de IA para desenvolver e fazer cumprir políticas robustas para a ética da IA, promovam a governança ética da IA organizacional para garantir sua eficácia. Agora, a Fujitsu passará do princípio à prática implementando constantemente as melhores práticas no mundo real para garantir a realização de tecnologias de IA e aprendizado de máquina éticas, seguras e transparentes.
Atualmente, é prática comum no desenvolvimento de sistemas de IA identificar possíveis riscos éticos em sistemas de IA com base em diretrizes de ética de IA emitidas por autoridades governamentais e empresas. Essas diretrizes são escritas em linguagem natural, no entanto, contribuindo para possíveis diferenças de interpretação e mal-entendidos entre designers e desenvolvedores que podem levar a medidas inadequadas ou insuficientes. Sob esse método, também é difícil julgar se o conteúdo das diretrizes foi revisado de forma completa e adequada.
Muitos desafios permanecem, no entanto, e uma possível má interpretação das diretrizes na fase de projeto de novas tecnologias pode levar a medidas insuficientes ou inadequadas para combater o risco.
Novo método de avaliação e recursos para ajudar a esclarecer as diretrizes e o risco ético
Ao preparar este novo kit de ferramentas e orientação para desenvolvedores, a Fujitsu realizou análises de incidentes anteriores relacionados à IA coletados no Banco de Dados de Incidentes de IA do consórcio internacional Partnership on AI (1). Esse processo levou à conclusão de que as questões éticas relacionadas aos sistemas de IA podem ser contextualizadas com a troca de informações ("interações") entre elementos discretos dentro de um sistema de IA e entre um sistema de IA e seus usuários e outras partes interessadas.
Com base nestas constatações, a Fujitsu desenvolveu com sucesso um método de avaliação para identificar sistematicamente questões éticas relevantes relacionadas com sistemas de IA, permitindo a criação de modelos de ética de IA (2) capazes de clarificar a interpretação das diretrizes de ética de IA.
A Fujitsu aplicou o seu novo método de avaliação a 15 casos representativos do Incidente de IA
Banco de dados (164 casos globais registrados em 21 de fevereiro de 2022, exemplos incluídos casos de áreas como o setor financeiro e de recursos humanos). Aplicando o novo método, todas as questões éticas que ocorreram em casos de uso do mundo real foram identificadas com sucesso como riscos antecipadamente durante os testes de verificação, cujos resultados foram publicados.
A Fujitsu oferecerá o seguinte kit de ferramentas de recursos composto por uma variedade de recursos e orientações para os desenvolvedores consultarem em seu próprio trabalho:
Site de download (em japonês, inglês disponível em data futura)
1. Whitepaper: Uma visão geral da metodologia
2. Manual de procedimento de avaliação de impacto ético de IA: diagrama do sistema de IA, procedimento de preparação do modelo ético de IA e explicação do método de correspondência do problema
3. Modelo ético de IA: Um modelo ético de IA baseado em diretrizes éticas de IA publicadas pela Comissão Europeia (criada pela Fujitsu)
4. Estudos de caso de análise de ética em IA: resultados da análise dos principais problemas de ética em IA do Banco de Dados de Incidentes de IA da Parceria em IA (em 21 de fevereiro, havia seis casos, que foram adicionados sequencialmente.)
Caso de uso: risco no uso de IA para avaliação de indivíduos para empréstimos bancários, recrutamento
A Figura 1 mostra um exemplo de processo de avaliação de um indivíduo típico em cenários de casos de uso, como recrutamento de pessoal ou aprovação de empréstimos bancários. A tabela de correspondência no modelo de ética da IA identificou a "validade do processo de avaliação" (se a avaliação é conduzida de forma responsável com referência aos resultados de saída do sistema de IA) como um item de verificação para a interação (relacionamento) entre o usuário do O sistema de IA e a pessoa-alvo a ser avaliada, enquanto “dependência excessiva dos resultados da IA”, “interpretação seletiva e avaliação dos resultados de saída” e “ignorância dos resultados de saída” são listados como possíveis riscos.
Neste exemplo, os desenvolvedores de sistemas de IA podem identificar o risco de uma "dependência excessiva dos usuários nas saídas de um sistema de IA que podem conter viés e levar a decisões injustas" como um possível risco em um sistema de IA e ajustar adequadamente o sistema para evitar esse risco .
(1) Parceria em IA:
Uma organização sem fins lucrativos criada em 2016 que aborda os desafios éticos da IA, para um futuro em que a IA e os humanos trabalhem juntos.
(2) Modelos de ética de IA:
Os modelos de ética de IA incluem uma tabela de correspondência de "itens de verificação" e "interações", uma ferramenta para avaliação passo a passo dos requisitos éticos para sistemas de IA. Os modelos éticos de IA são criados manualmente com base em uma diretriz específica, mas, uma vez gerados, um modelo pode ser usado genericamente para avaliar vários sistemas de IA. Usando esse método, desenvolvedores e operadores de sistemas de IA podem recuperar automaticamente todos os itens de verificação relevantes de um modelo de ética de IA criado anteriormente para uma avaliação sistemática e abrangente de possíveis riscos relacionados com base no tipo de interações dentro de um sistema de IA.
Sobre a Fujitsu
A Fujitsu é a empresa japonesa líder em tecnologia da informação e comunicação (TIC), oferecendo uma gama completa de produtos, soluções e serviços de tecnologia. Aproximadamente 126,000 funcionários da Fujitsu dão suporte a clientes em mais de 100 países. Usamos nossa experiência e o poder das TIC para moldar o futuro da sociedade com nossos clientes. Fujitsu Limited (TSE: 6702) relatou receitas consolidadas de 3.6 trilhões de ienes (US $ 34 bilhões) para o ano fiscal encerrado em 31 de março de 2021. Para obter mais informações, consulte www.fujitsu.com.
Copyright 2022 JCN Newswire. Todos os direitos reservados. www.jcnnewswire.com A Fujitsu anunciou hoje o desenvolvimento de um kit de ferramentas de recursos que oferece orientação aos desenvolvedores para avaliar o impacto ético e os riscos dos sistemas de IA com base nas diretrizes internacionais de ética em IA.
- 000
- 100
- 2016
- 2019
- 2021
- 2022
- Sobre
- endereço
- AI
- algorítmico
- Todos os Produtos
- Permitindo
- análise
- anunciou
- aplicações
- Aplicando
- Abril
- autoridade
- disponibilidade
- disponível
- Bank
- MELHOR
- melhores práticas
- bilhão
- negócio
- casos
- causado
- desafios
- carregar
- comentários
- de referência
- compromisso
- comum
- Comunicação
- Empresas
- Empresa
- conteúdo
- direitos autorais
- países
- Clientes
- banco de dados
- debate
- desenvolvimento
- Design
- desenvolver
- desenvolvido
- desenvolvedores
- Desenvolvimento
- Cedo
- Inglês
- estabelecido
- ética
- Europa
- Europa
- Comissão Europeia
- exemplo
- exchange
- vasta experiência
- financeiro
- seguir
- seguinte
- para a frente
- Quadro
- Gratuito
- cheio
- futuro
- lacuna
- Geral
- Global
- governo
- Governo
- Crescente
- orientações
- ajudar
- SUA PARTICIPAÇÃO FAZ A DIFERENÇA
- Como funciona o dobrador de carta de canal
- Como Negociar
- HTTPS
- Recursos Humanos
- Humanos
- identificar
- Impacto
- incluído
- Incluindo
- Individual
- INFORMAÇÕES
- interação
- Internacionais
- envolvido
- questões
- IT
- manutenção
- Chave
- língua
- conduzir
- principal
- aprendizagem
- levou
- Limitado
- Listado
- Empréstimos
- logotipo
- aprendizado de máquina
- principal
- manual
- Março
- materiais
- modelo
- modelos
- mover
- Perto
- sem fins lucrativos,
- oferecer
- oferecendo treinamento para distância
- aberto
- organização
- organizações
- Outros
- parceiro
- Google Cloud
- Pessoas
- Pessoal
- fase
- políticas
- possível
- poder
- presente
- impedindo
- privado
- Problema
- processo
- Produtos
- a promover
- alcance
- mundo real
- recrutamento
- registrado
- regulamentos
- reguladores
- relacionamento
- Requisitos
- pesquisa
- recurso
- Recursos
- resposta
- responsável
- Resultados
- Risco
- seguro
- setor
- seguro
- Serviços
- periodo
- SIX
- Sociedade
- Soluções
- Espaço
- caso
- entraram com sucesso
- ajuda
- .
- sistemas
- Target
- Dados Técnicos:
- Tecnologias
- Tecnologia
- hoje
- juntos
- ferramentas
- transparente
- Confiança
- universidade
- us
- usuários
- Verificação
- se
- Whitepaper
- dentro
- Atividades:
- mundo
- no mundo todo
- ano
- Yen