La nouvelle IA de Deepmind pourrait être meilleure dans la distribution des ressources de la société que les humains ne le sont PlatoBlockchain Data Intelligence. Recherche verticale. Aï.

La nouvelle IA de Deepmind pourrait mieux distribuer les ressources de la société que les humains

Horodatage: 4 juillet 2022 11:01
DeepMind AI met la main sur la société des ressources

Comment des groupes d'humains travaillant ensemble en collaboration devraient redistribuer la richesse qu'ils créent est un problème qui tourmente les philosophes, les économistes et les politologues depuis des années. Une nouvelle étude de DeepMind suggère que l'IA pourrait être en mesure de prendre de meilleures décisions que les humains.

L'IA s'avère de plus en plus apte à résoudre des défis complexes dans tous les domaines, des affaires à la biomédecine, de sorte que l'idée de l'utiliser pour aider à concevoir des solutions aux problèmes sociaux est attrayante. Mais cela est délicat, car répondre à ce genre de questions nécessite de s'appuyer sur des idées hautement subjectives telles que l'équité, la justice et la responsabilité.

Pour qu'une solution d'IA fonctionne, elle doit s'aligner sur les valeurs de la société avec laquelle elle traite, mais la diversité des idéologies politiques qui existe aujourd'hui suggère qu'elles sont loin d'être uniformes. Cela rend difficile de déterminer ce pour quoi optimiser et introduit le danger que les valeurs des développeurs biaisent le résultat du processus.

La meilleure façon que les sociétés humaines ont trouvée pour faire face aux désaccords inévitables sur de telles les problèmes c'est la démocratie, dans lequel les opinions de la majorité sont utilisées pour guider la politique publique. Alors maintenant, les chercheurs de Deepmind ont développé une nouvelle approche qui combine l'IA avec la délibération démocratique humaine pour trouver de meilleures solutions aux dilemmes sociaux.

Pour tester leur approche, les chercheurs ont mené une étude de preuve de concept à l'aide d'un jeu simple dans lequel les utilisateurs décident comment partager leurs ressources pour un bénéfice mutuel. L'expérience est conçue pour agir comme un microcosme de sociétés humaines dans lequel des personnes de différents niveaux de richesse doivent travailler ensemble pour créer une société juste et prospère.

Le jeu implique quatre joueurs qui reçoivent chacun des sommes d'argent différentes et doivent décider de le garder pour eux ou de le verser dans un fonds public qui génère un retour sur investissement. Cependant, la manière dont ce retour sur investissement est redistribué peut être ajustée de manière à profiter à certains acteurs plutôt qu'à d'autres.

Les mécanismes possibles incluent le strict égalitarisme, où les retours sur les fonds publics sont partagés équitablement indépendamment de la contribution ; libertaire, où les versements sont proportionnels aux cotisations ; et égalitaire libéral, où le paiement de chaque joueur est proportionnel à la fraction de ses fonds privés qu'il contribue.

Dans la recherche publié dans Comportement humain de nature, les chercheurs décrivent comment ils ont amené des groupes d'humains à jouer de nombreuses parties de ce jeu sous différents niveaux d'inégalité et en utilisant différents mécanismes de redistribution. Ils ont ensuite été invités à voter sur la méthode de répartition des bénéfices qu'ils préféraient.

Ces données ont été utilisées pour entraîner une IA à imiter le comportement humain dans le jeu, y compris la façon dont les joueurs votent. Les chercheurs ont opposé ces joueurs IA les uns contre les autres dans des milliers de jeux tandis qu'un autre système d'IA a peaufiné le mécanisme de redistribution en fonction de la façon dont les joueurs IA votaient.

Au terme de ce processus, l'IA s'était mise d'accord sur un mécanisme de redistribution qui s'apparentait à l'égalitarisme libéral, mais ne retournait presque rien aux joueurs à moins qu'ils n'apportent environ la moitié de leur richesse privée. Lorsque les humains jouaient à des jeux qui opposaient cette approche aux trois principaux mécanismes établis, celui conçu par l'IA remportait systématiquement le vote. Cela s'est également mieux comporté que les jeux dans lesquels des arbitres humains ont décidé comment partager les retours.

Les chercheurs affirment que le mécanisme conçu par l'IA a probablement bien fonctionné, car baser les paiements sur des contributions relatives plutôt qu'absolues aide à corriger les déséquilibres de richesse initiaux, mais imposer une contribution minimale empêche les joueurs moins riches de simplement profiter des contributions des plus riches.

Traduire l'approche d'un simple jeu à quatre joueurs en systèmes économiques à grande échelle serait clairement un défi incroyable, et on ne sait pas si son succès sur un problème de jouet comme celui-ci donne une indication de la façon dont il se comporterait dans le monde réel.

Les chercheurs ont eux-mêmes identifié plusieurs problèmes potentiels. L'un des problèmes de la démocratie peut être la « tyrannie de la majorité », qui peut entraîner la persistance des schémas existants de discrimination ou d'injustice à l'encontre des minorités. Ils soulèvent également des problèmes de explicabilité et la confiance, ce qui serait crucial si les solutions conçues par l'IA devaient un jour être appliquées aux dilemmes du monde réel.

L'équipe a explicitement conçu son modèle d'IA pour produire des mécanismes qui peuvent être expliqués, mais cela pourrait devenir de plus en plus difficile si l'approche est appliquée à des problèmes plus complexes. Les joueurs n'ont pas non plus été informés du moment où la redistribution était contrôlée par l'IA, et les chercheurs admettent que cette connaissance peut avoir un impact sur leur façon de voter.

Comme première preuve de principe, cependant, cette recherche démontre une nouvelle approche prometteuse pour résoudre les problèmes sociaux, qui combine le meilleur de l'intelligence artificielle et humaine. Nous sommes encore loin des machines aidant à définir les politiques publiques, mais il semble que l'IA puisse un jour nous aider à trouver de nouvelles solutions qui vont au-delà des idéologies établies.

Crédit image: harish / 41 images

Horodatage:

Plus de Singularity Hub