La nueva IA de Deepmind puede ser mejor para distribuir los recursos de la sociedad que los humanos PlatoBlockchain Data Intelligence. Búsqueda vertical. Ai.

La nueva IA de Deepmind puede ser mejor que los humanos para distribuir los recursos de la sociedad

Marca de tiempo: 4 de julio de 2022 11:01 a. M.
DeepMind AI entrega recursos a la sociedad

Cómo los grupos de humanos que trabajan juntos en colaboración deberían redistribuir la riqueza que crean es un problema que ha plagado a filósofos, economistas y politólogos durante años. Un nuevo estudio de DeepMind sugiere que la IA puede tomar mejores decisiones que los humanos.

La IA está demostrando ser cada vez más hábil para resolver desafíos complejos en todo, desde negocios hasta biomedicina, por lo que la idea de usarla para ayudar a diseñar soluciones a problemas sociales es atractiva. Pero hacerlo es complicado, porque responder a este tipo de preguntas requiere confiar en ideas muy subjetivas como la equidad, la justicia y la responsabilidad.

Para que una solución de IA funcione, debe alinearse con los valores de la sociedad con la que está tratando, pero la diversidad de ideologías políticas que existe hoy sugiere que están lejos de ser uniformes. Eso dificulta determinar para qué se debe optimizar e introduce el peligro de que los valores de los desarrolladores sesguen el resultado del proceso.

La mejor manera que han encontrado las sociedades humanas para hacer frente a los inevitables desacuerdos sobre tales problemas es la democracia, en el que se utilizan las opiniones de la mayoría para orientar las políticas públicas. Así que ahora los investigadores de Deepmind han desarrollado un nuevo enfoque que combina la IA con la deliberación democrática humana para encontrar mejores soluciones a los dilemas sociales.

Para probar su enfoque, los investigadores llevaron a cabo un estudio de prueba de concepto utilizando un juego simple en el que los usuarios deciden cómo compartir sus recursos para beneficio mutuo. El experimento está diseñado para actuar como un microcosmos de sociedades humanas en las que personas de diferentes niveles de riqueza deben trabajar juntas para crear una sociedad justa y próspera.

El juego involucra a cuatro jugadores, cada uno de los cuales recibe diferentes cantidades de dinero y tiene que decidir si quedarse con él o ingresarlo en un fondo público que genera un retorno de la inversión. Sin embargo, la forma en que se redistribuye este retorno de la inversión se puede ajustar de manera que beneficie a algunos jugadores sobre otros.

Los posibles mecanismos incluyen el igualitarismo estricto, donde los rendimientos de los fondos públicos se comparten por igual, independientemente de la contribución; libertario, donde los pagos son proporcionales a las contribuciones; e igualitario liberal, donde el pago de cada jugador es proporcional a la fracción de sus fondos privados que contribuye.

En la investigación publicado en Comportamiento humano de la naturaleza, Los investigadores describen cómo lograron que grupos de humanos jugaran muchas rondas de este juego bajo diferentes niveles de desigualdad y utilizando diferentes mecanismos de redistribución. Luego se les pidió que votaran sobre qué método preferían para repartir las ganancias.

Estos datos se usaron para entrenar una IA para imitar el comportamiento humano en el juego, incluida la forma en que votan los jugadores. Los investigadores enfrentaron a estos jugadores de IA entre sí en miles de juegos, mientras que otro sistema de IA modificó el mecanismo de redistribución en función de la forma en que votaban los jugadores de IA.

Al final de este proceso, la IA se había decidido por un mecanismo de redistribución que era similar al igualitario liberal, pero no devolvía casi nada a los jugadores a menos que aportaran aproximadamente la mitad de su riqueza privada. Cuando los humanos jugaron juegos que enfrentaron este enfoque con los tres principales mecanismos establecidos, el diseñado por IA ganó la votación de manera consistente. También le fue mejor que los juegos en los que los árbitros humanos decidían cómo compartir los resultados.

Los investigadores dicen que el mecanismo diseñado por IA probablemente funcionó bien porque basar los pagos en contribuciones relativas en lugar de absolutas ayuda a corregir los desequilibrios de riqueza iniciales, pero obligar a una contribución mínima evita que los jugadores menos ricos simplemente se aprovechen de las contribuciones de los más ricos.

Traducir el enfoque de un simple juego de cuatro jugadores a sistemas económicos a gran escala sería claramente un desafío increíble, y no está claro si su éxito en un problema de juguetes como este da alguna indicación de cómo le iría en el mundo real.

Los investigadores identificaron varios problemas potenciales por sí mismos. Un problema con la democracia puede ser la “tiranía de la mayoría”, que puede hacer que persistan los patrones existentes de discriminación o injusticia contra las minorías. También plantean problemas de explicabilidad y confianza, que sería crucial si las soluciones diseñadas por IA se aplicaran alguna vez a los dilemas del mundo real.

El equipo diseñó explícitamente su modelo de IA para generar mecanismos que se pueden explicar, pero esto podría volverse cada vez más difícil si el enfoque se aplica a problemas más complejos. A los jugadores tampoco se les dijo cuándo la IA controlaba la redistribución, y los investigadores admiten que este conocimiento puede afectar la forma en que votan.

Sin embargo, como primera prueba de principio, esta investigación demuestra un nuevo enfoque prometedor para resolver problemas sociales, que combina lo mejor de la inteligencia artificial y humana. Todavía estamos muy lejos de que las máquinas ayuden a establecer políticas públicas, pero parece que la IA algún día puede ayudarnos a encontrar nuevas soluciones que vayan más allá de las ideologías establecidas.

Crédito de la imagen: harish / 41 imágenes

Sello de tiempo:

Mas de Centro de Singularidad