De nieuwe AI van Deepmind is mogelijk beter in het verdelen van de middelen van de samenleving dan mensen PlatoBlockchain-gegevensintelligentie zijn. Verticaal zoeken. Ai.

De nieuwe AI van Deepmind is mogelijk beter in het verdelen van de hulpbronnen van de samenleving dan mensen

Tijdstempel: 4 juli 2022 11:01 uur
DeepMind AI geeft de samenleving de middelen

Hoe groepen mensen die samenwerken, de rijkdom die ze creëren, moeten herverdelen, is een probleem dat filosofen, economen en politicologen al jaren plaagt. Een nieuwe studie van DeepMind suggereert dat AI mogelijk betere beslissingen kan nemen dan mensen.

AI blijkt steeds bedrevener in het oplossen van complexe uitdagingen in alles, van het bedrijfsleven tot de biogeneeskunde, dus het idee om het te gebruiken om oplossingen voor maatschappelijke problemen te ontwerpen, is aantrekkelijk. Maar om dit te doen is lastig, omdat het beantwoorden van dit soort vragen vereist dat je vertrouwt op zeer subjectieve ideeën zoals eerlijkheid, rechtvaardigheid en verantwoordelijkheid.

Om een ​​AI-oplossing te laten werken, moet deze aansluiten bij de waarden van de samenleving waarmee ze te maken heeft, maar de diversiteit aan politieke ideologieën die tegenwoordig bestaat, suggereert dat deze verre van uniform zijn. Dat maakt het moeilijk om uit te zoeken waarvoor geoptimaliseerd moet worden en introduceert het gevaar dat de waarden van de ontwikkelaars de uitkomst van het proces beïnvloeden.

De beste manier waarop menselijke samenlevingen hebben gevonden om te gaan met onvermijdelijke meningsverschillen over dergelijke problemen is democratie, waarin de mening van de meerderheid wordt gebruikt om het openbare beleid te sturen. Dus nu hebben onderzoekers van Deepmind een nieuwe aanpak ontwikkeld die AI combineert met menselijk democratisch overleg om betere oplossingen te bedenken voor sociale dilemma's.

Om hun aanpak te testen, voerden de onderzoekers een proof-of-concept-onderzoek uit met behulp van een eenvoudig spel waarin gebruikers beslissen hoe ze hun bronnen delen voor wederzijds voordeel. Het experiment is ontworpen om te fungeren als een microkosmos van menselijke samenlevingen waarin mensen van verschillende niveaus van rijkdom moeten samenwerken om een ​​eerlijke en welvarende samenleving te creëren.

Bij het spel zijn vier spelers betrokken die elk verschillende hoeveelheden geld ontvangen en moeten beslissen of ze het voor zichzelf houden of het in een publiek fonds storten dat een rendement op de investering genereert. De manier waarop dit rendement op de investering wordt herverdeeld, kan echter worden aangepast op manieren die sommige spelers ten goede komen ten opzichte van andere.

Mogelijke mechanismen zijn onder meer strikt egalitair, waarbij het rendement op publieke middelen gelijk wordt verdeeld, ongeacht de bijdrage; libertair, waar de uitbetalingen in verhouding staan ​​tot de bijdragen; en liberaal egalitair, waarbij de uitbetaling van elke speler in verhouding staat tot het deel van hun privégeld dat ze bijdragen.

In onderzoek gepubliceerd Natuur Menselijk gedrag, de onderzoekers beschrijven hoe ze groepen mensen ertoe hebben gebracht om veel rondes van dit spel te spelen onder verschillende niveaus van ongelijkheid en met behulp van verschillende herverdelingsmechanismen. Vervolgens werd hen gevraagd te stemmen over de manier waarop zij de winsten zouden verdelen.

Deze gegevens werden gebruikt om een ​​AI te trainen om menselijk gedrag in het spel te imiteren, inclusief de manier waarop spelers stemmen. De onderzoekers zetten deze AI-spelers tegen elkaar op in duizenden games, terwijl een ander AI-systeem het herverdelingsmechanisme aanpaste op basis van de manier waarop de AI-spelers stemden.

Aan het einde van dit proces had de AI gekozen voor een herverdelingsmechanisme dat vergelijkbaar was met liberaal egalitair, maar bijna niets teruggaf aan de spelers, tenzij ze ongeveer de helft van hun privévermogen bijdroegen. Toen mensen games speelden die deze benadering afzetten tegen de drie belangrijkste gevestigde mechanismen, won de AI-ontworpen consequent de stemming. Het deed het ook beter dan games waarin menselijke scheidsrechters beslisten hoe ze de opbrengsten moesten delen.

De onderzoekers zeggen dat het AI-ontworpen mechanisme waarschijnlijk goed deed, omdat het baseren van uitbetalingen op relatieve in plaats van absolute bijdragen helpt om initiële vermogensonevenwichtigheden te herstellen, maar het afdwingen van een minimale bijdrage voorkomt dat minder rijke spelers gewoon meeliften op de bijdragen van rijkere.

Het vertalen van de aanpak van een eenvoudig spel voor vier spelers naar grootschalige economische systemen zou duidelijk een ongelooflijke uitdaging zijn, en of het succes ervan bij een speelgoedprobleem als dit enige indicatie geeft van hoe het in de echte wereld zou gaan, is onduidelijk.

De onderzoekers identificeerden zelf een aantal mogelijke problemen. Een probleem met democratie kan de 'tirannie van de meerderheid' zijn, waardoor bestaande patronen van discriminatie of oneerlijkheid jegens minderheden kunnen voortduren. Ze stellen ook problemen op uitlegbaarheid en vertrouwen, wat cruciaal zou zijn als AI-ontworpen oplossingen ooit zouden worden toegepast op echte dilemma's.

Het team heeft hun AI-model expliciet ontworpen om mechanismen uit te voeren die kunnen worden verklaard, maar dit kan steeds moeilijker worden als de aanpak wordt toegepast op complexere problemen. Spelers werden ook niet verteld wanneer herdistributie werd gecontroleerd door AI, en de onderzoekers geven toe dat deze kennis van invloed kan zijn op de manier waarop ze stemmen.

Als eerste bewijs van principe toont dit onderzoek echter een veelbelovende nieuwe benadering aan voor het oplossen van sociale problemen, die het beste van zowel kunstmatige als menselijke intelligentie combineert. We zijn nog ver verwijderd van machines die het overheidsbeleid helpen bepalen, maar het lijkt erop dat AI ons ooit kan helpen nieuwe oplossingen te vinden die verder gaan dan gevestigde ideologieën.

Krediet van het beeld: harish / 41 beelden

Tijdstempel:

Meer van Hub voor singulariteit