A nova IA da Deepmind pode ser melhor na distribuição de recursos da sociedade do que os humanos são PlatoBlockchain Data Intelligence. Pesquisa vertical. Ai.

A nova IA da Deepmind pode ser melhor na distribuição dos recursos da sociedade do que os humanos

Carimbo de data / hora: 4 de julho de 2022, 11h
DeepMind AI entrega recursos à sociedade

Como grupos de humanos trabalhando juntos de forma colaborativa devem redistribuir a riqueza que criam é um problema que atormenta filósofos, economistas e cientistas políticos há anos. Um novo estudo da DeepMind sugere que a IA pode ser capaz de tomar decisões melhores do que os humanos.

A IA está se mostrando cada vez mais hábil em resolver desafios complexos em tudo, desde negócios até biomedicina, então a ideia de usá-la para ajudar a projetar soluções para problemas sociais é atraente. Mas fazer isso é complicado, porque responder a esse tipo de pergunta requer confiar em ideias altamente subjetivas, como justiça, justiça e responsabilidade.

Para que uma solução de IA funcione, ela precisa se alinhar aos valores da sociedade com a qual está lidando, mas a diversidade de ideologias políticas que existe hoje sugere que elas estão longe de ser uniformes. Isso torna difícil descobrir o que deve ser otimizado e introduz o perigo de os valores dos desenvolvedores influenciarem o resultado do processo.

A melhor maneira que as sociedades humanas encontraram para lidar com desacordos inevitáveis ​​sobre tais problema é democracia, em que as opiniões da maioria são usadas para orientar as políticas públicas. Então, agora os pesquisadores da Deepmind desenvolveram uma nova abordagem que combina IA com deliberação democrática humana para encontrar melhores soluções para dilemas sociais.

Para testar sua abordagem, os pesquisadores realizaram um estudo de prova de conceito usando um jogo simples no qual os usuários decidem como compartilhar seus recursos para benefício mútuo. O experimento foi projetado para atuar como um microcosmo de sociedades humanas em que pessoas de diferentes níveis de riqueza precisam trabalhar juntas para criar uma sociedade justa e próspera.

O jogo envolve quatro jogadores que recebem quantias diferentes de dinheiro e têm que decidir se querem mantê-lo para si ou pagar em um fundo público que gera um retorno sobre o investimento. No entanto, a forma como esse retorno sobre o investimento é redistribuído pode ser ajustada de forma a beneficiar alguns jogadores em detrimento de outros.

Os mecanismos possíveis incluem a igualdade estrita, onde os retornos dos fundos públicos são divididos igualmente, independentemente da contribuição; libertário, onde os pagamentos são proporcionais às contribuições; e liberal igualitário, onde o pagamento de cada jogador é proporcional à fração de seus fundos privados que eles contribuem.

Em pesquisa publicado em Natureza humana comportamento, os pesquisadores descrevem como eles conseguiram que grupos de humanos jogassem muitas rodadas desse jogo sob diferentes níveis de desigualdade e usando diferentes mecanismos de redistribuição. Eles foram então convidados a votar em qual método de divisão dos lucros eles preferiam.

Esses dados foram usados ​​para treinar uma IA para imitar o comportamento humano no jogo, incluindo a maneira como os jogadores votam. Os pesquisadores colocaram esses jogadores de IA uns contra os outros em milhares de jogos, enquanto outro sistema de IA ajustava o mecanismo de redistribuição com base na maneira como os jogadores de IA estavam votando.

No final desse processo, a IA havia estabelecido um mecanismo de redistribuição semelhante ao igualitarista liberal, mas não devolveu quase nada aos jogadores, a menos que contribuíssem com aproximadamente metade de sua riqueza privada. Quando os humanos jogaram jogos que opuseram essa abordagem aos três principais mecanismos estabelecidos, o projetado por IA ganhou consistentemente a votação. Também se saiu melhor do que jogos em que árbitros humanos decidiam como compartilhar os retornos.

Os pesquisadores dizem que o mecanismo projetado pela IA provavelmente se saiu bem porque basear os pagamentos em contribuições relativas em vez de absolutas ajuda a corrigir os desequilíbrios iniciais de riqueza, mas forçar uma contribuição mínima impede que os jogadores menos ricos simplesmente aproveitem as contribuições dos mais ricos.

Traduzir a abordagem de um simples jogo de quatro jogadores para sistemas econômicos de grande escala seria claramente incrivelmente desafiador, e não está claro se seu sucesso em um problema de brinquedo como esse dá alguma indicação de como ele se sairia no mundo real.

Os pesquisadores identificaram vários problemas potenciais. Um problema com a democracia pode ser a “tirania da maioria”, que pode fazer com que os padrões existentes de discriminação ou injustiça contra as minorias persistam. Também levantam questões de explicabilidade e confiança, o que seria crucial se as soluções projetadas por IA fossem aplicadas aos dilemas do mundo real.

A equipe projetou explicitamente seu modelo de IA para gerar mecanismos que podem ser explicados, mas isso pode ficar cada vez mais difícil se a abordagem for aplicada a problemas mais complexos. Os jogadores também não foram informados quando a redistribuição estava sendo controlada pela IA, e os pesquisadores admitem que esse conhecimento pode afetar a maneira como eles votam.

Como primeira prova de princípio, no entanto, esta pesquisa demonstra uma nova abordagem promissora para resolver problemas sociais, que combina o melhor da inteligência artificial e humana. Ainda estamos muito longe de máquinas que ajudem a definir políticas públicas, mas parece que a IA pode um dia nos ajudar a encontrar novas soluções que vão além das ideologias estabelecidas.

Crédito de imagem: harish / 41 imagens

Carimbo de hora:

Mais de Singularity Hub