Apresentando AWS AI Service Cards: um novo recurso para aumentar a transparência e promover a IA responsável

A inteligência artificial (IA) e o aprendizado de máquina (ML) são algumas das tecnologias mais transformadoras que encontraremos em nossa geração – para lidar com problemas comerciais e sociais, melhorar as experiências do cliente e estimular a inovação. Junto com o uso generalizado e a escala crescente da IA, vem o reconhecimento de que todos devemos construir com responsabilidade. Na AWS, acreditamos que a IA responsável engloba várias dimensões principais, incluindo:

• Justiça e preconceito– Como um sistema afeta diferentes subpopulações de usuários (por exemplo, por gênero, etnia)
• Explicação– Mecanismos para entender e avaliar as saídas de um sistema de IA
• Privacidade e segurança– Dados protegidos contra roubo e exposição
• Robustez– Mecanismos para garantir que um sistema de IA opere de forma confiável
• Governance– Processos para definir, implementar e aplicar práticas responsáveis ​​de IA dentro de uma organização
• Transparência– Comunicar informações sobre um sistema de IA para que as partes interessadas possam fazer escolhas informadas sobre o uso do sistema

Nosso compromisso de desenvolver IA e ML de maneira responsável é parte integrante de como construímos nossos serviços, interagimos com os clientes e impulsionamos a inovação. Também estamos comprometidos em fornecer aos clientes ferramentas e recursos para desenvolver e usar IA/ML com responsabilidade, desde capacitar os criadores de ML com um ambiente de desenvolvimento totalmente gerenciado até ajudar os clientes a incorporar serviços de IA em casos de uso de negócios comuns.

Oferecer mais transparência aos clientes

Nossos clientes querem saber que a tecnologia que estão usando foi desenvolvida de forma responsável. Eles querem recursos e orientação para implementar essa tecnologia com responsabilidade em sua própria organização. E o mais importante, eles querem garantir que a tecnologia que implementam seja para o benefício de todos, especialmente de seus usuários finais. Na AWS, queremos ajudá-los a dar vida a essa visão.

Para entregar a transparência que os clientes estão pedindo, temos o prazer de lançar Cartões de serviço de IA da AWS, um novo recurso para ajudar os clientes a entender melhor nossos serviços de IA da AWS. Cartões de serviço de IA são uma forma de documentação de IA responsável que fornece aos clientes um único local para encontrar informações sobre os casos de uso e limitações pretendidos, escolhas responsáveis ​​de design de IA e práticas recomendadas de implantação e otimização de desempenho para nossos serviços de IA. Eles fazem parte de um processo de desenvolvimento abrangente que adotamos para desenvolver nossos serviços de maneira responsável, abordando imparcialidade e preconceito, explicabilidade, robustez, governança, transparência, privacidade e segurança. No AWS re:Invent 2022, disponibilizamos os três primeiros AI Service Cards: Amazon Rekognition – correspondência facial, Amazon Textract – Analisar ID e Amazon Transcribe – Lote (inglês-EUA).

Componentes dos cartões de serviço AI

Cada AI Service Card contém quatro seções que cobrem:

• Conceitos básicos para ajudar os clientes a entender melhor o serviço ou os recursos do serviço
• Casos de uso pretendidos e limitações
• Considerações de design de IA responsável
• Orientação sobre implantação e otimização de desempenho

O conteúdo dos AI Service Cards atende a um amplo público de clientes, tecnólogos, pesquisadores e outras partes interessadas que buscam entender melhor as principais considerações no design e uso responsável de um serviço de IA.

Nossos clientes usam IA em um conjunto cada vez mais diversificado de aplicativos. o seção de casos de uso pretendido e limitações fornece informações sobre usos comuns para um serviço e ajuda os clientes a avaliar se um serviço é adequado para sua aplicação. Por exemplo, no Amazon Transcribe – Batch (English-US) Card, descrevemos o caso de uso do serviço de transcrição de vocabulário de uso geral falado em inglês dos EUA a partir de um arquivo de áudio. Se uma empresa deseja uma solução que transcreva automaticamente um evento de domínio específico, como uma conferência internacional de neurociência, ela pode adicionar vocabulários personalizados e modelos de linguagem para incluir vocabulário científico para aumentar a precisão da transcrição.

No seção de design de cada cartão de serviço de IA, explicamos as principais considerações de design de IA responsável em áreas importantes, como nossa metodologia baseada em testes, imparcialidade e viés, explicabilidade e expectativas de desempenho. Fornecemos exemplos de resultados de desempenho em um conjunto de dados de avaliação representativo de um caso de uso comum. Este exemplo é apenas um ponto de partida, pois incentivamos os clientes a testarem seus próprios conjuntos de dados para entender melhor como o serviço funcionará em seu próprio conteúdo e casos de uso para oferecer a melhor experiência para seus clientes finais. E esta não é uma avaliação única. Para criar de maneira responsável, recomendamos uma abordagem iterativa em que os clientes testam e avaliam periodicamente seus aplicativos quanto à precisão ou possível viés.

No seção de práticas recomendadas para implantação e otimização de desempenho, apresentamos as principais alavancas que os clientes devem considerar para otimizar o desempenho de seus aplicativos para implantação no mundo real. É importante explicar como os clientes podem otimizar o desempenho de um sistema de IA que atua como um componente de seu aplicativo ou fluxo de trabalho geral para obter o máximo benefício. Por exemplo, no Amazon Rekognition Face Matching Card, que aborda a adição de recursos de reconhecimento facial a aplicativos de verificação de identidade, compartilhamos as etapas que os clientes podem seguir para aumentar a qualidade das previsões de correspondência facial incorporadas ao fluxo de trabalho.

Fornecendo recursos e capacidades de IA responsáveis

Oferecer aos nossos clientes os recursos e as ferramentas de que precisam para transformar a IA responsável da teoria à prática é uma prioridade contínua para a AWS. No início deste ano, lançamos nosso Guia de uso responsável do aprendizado de máquina que fornece considerações e recomendações para o uso responsável de ML em todas as fases do ciclo de vida de ML. AI Service Cards complementam nossos guias de desenvolvedor e postagens de blog existentes, que fornecem aos construtores descrições de recursos de serviço e instruções detalhadas para usar nossas APIs de serviço. E com Esclarecimento do Amazon SageMaker e Monitor de modelo do Amazon SageMaker, oferecemos recursos para ajudar a detectar viés em conjuntos de dados e modelos e monitorar e revisar melhor as previsões de modelos por meio de automação e supervisão humana.

Ao mesmo tempo, continuamos a promover a IA responsável em outras dimensões importantes, como a governança. Hoje, na re:Invent, lançamos um novo conjunto de ferramentas específicas para ajudar os clientes a melhorar a governança de seus projetos de ML com Amazon SageMaker Role Manager, Amazon SageMaker Model Cards e Amazon SageMaker Model Dashboard. Saiba mais no Blog de notícias da AWS e site do Network Development Group sobre como essas ferramentas ajudam a simplificar os processos de governança de ML.

A educação é outro recurso importante que ajuda a promover a IA responsável. Na AWS, estamos comprometidos em formar a próxima geração de desenvolvedores e cientistas de dados em IA com o AI and ML Scholarship Program e Universidade de Machine Learning da AWS (MLU). Esta semana, no re:Invent, lançamos um novo curso público de MLU sobre considerações de justiça e mitigação de viés em todo o ciclo de vida do ML. Ministrado pelos mesmos cientistas de dados da Amazon que treinam funcionários da AWS em ML, este curso gratuito apresenta 9 horas de palestras e exercícios práticos e é fácil de aprender. iniciar.

AI Service Cards: um novo recurso e um compromisso contínuo

Estamos entusiasmados em trazer um novo recurso de transparência para nossos clientes e para a comunidade em geral e fornecer informações adicionais sobre os usos pretendidos, limitações, design e otimização de nossos serviços de IA, informados por nossa abordagem rigorosa para criar serviços de IA da AWS de maneira responsável . Nossa esperança é que os AI Service Cards atuem como um recurso de transparência útil e um passo importante no cenário em evolução da IA ​​responsável. Os AI Service Cards continuarão a evoluir e expandir à medida que nos envolvemos com nossos clientes e a comunidade em geral para coletar feedback e iterar continuamente em nossa abordagem.

Entre em contato com nosso grupo de especialistas em IA responsáveis para iniciar uma conversa.

---

Sobre os autores

Vasi Philomin atualmente é vice-presidente da equipe de AI da AWS para serviços nas áreas de linguagem e tecnologias de fala, como Amazon Lex, Amazon Polly, Amazon Translate, Amazon Transcribe/Transcribe Medical, Amazon Comprehend, Amazon Kendra, Amazon Code Whisperer, Amazon Monitron, Amazon Procure equipamentos e lentes de contato/ID de voz para Amazon Connect, bem como laboratório de soluções de aprendizado de máquina e IA responsável.

Peter Hallinan lidera iniciativas na ciência e na prática de IA responsável na AWS AI, ao lado de uma equipe de especialistas responsáveis ​​em IA. Ele tem profundo conhecimento em IA (PhD, Harvard) e empreendedorismo (Blindsight, vendido para a Amazon). Suas atividades voluntárias incluíram servir como professor consultor na Escola de Medicina da Universidade de Stanford e como presidente da Câmara Americana de Comércio em Madagascar. Sempre que possível, ele está nas montanhas com seus filhos: esqui, escalada, caminhada e rafting