Deepminds nya AI kan vara bättre på att distribuera samhällets resurser än människor är PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

Deepminds nya AI kan vara bättre på att distribuera samhällets resurser än vad människor är

Tidsstämpel: 4 juli 2022 11:01
DeepMind AI ger resurser samhället

Hur grupper av människor som arbetar tillsammans bör omfördela den rikedom de skapar är ett problem som har plågat filosofer, ekonomer och statsvetare i flera år. En ny studie från DeepMind tyder på att AI kanske kan fatta bättre beslut än människor.

AI har visat sig allt skickligare på att lösa komplexa utmaningar inom allt från företag till biomedicin, så idén att använda den för att hjälpa till att utforma lösningar på sociala problem är attraktiv. Men att göra det är knepigt, eftersom att svara på den här typen av frågor kräver att man förlitar sig på mycket subjektiva idéer som rättvisa, rättvisa och ansvar.

För att en AI-lösning ska fungera måste den överensstämma med värderingarna i samhället den har att göra med, men mångfalden av politiska ideologier som finns idag tyder på att dessa är långt ifrån enhetliga. Det gör det svårt att komma fram till vad som bör optimeras för och introducerar risken för att utvecklarnas värderingar påverkar resultatet av processen.

Det bästa sättet mänskliga samhällen har hittat för att hantera oundvikliga meningsskiljaktigheter om sådana problem är demokrati, där majoritetens åsikter används för att vägleda allmän ordning. Så nu har forskare på Deepmind utvecklat ett nytt tillvägagångssätt som kombinerar AI med mänskliga demokratiska överväganden för att komma på bättre lösningar på sociala dilemman.

För att testa sitt tillvägagångssätt genomförde forskarna en proof-of-concept-studie med ett enkelt spel där användare bestämmer hur de ska dela sina resurser till ömsesidig nytta. Experimentet är utformat för att fungera som ett mikrokosmos av mänskliga samhällen där människor med olika rikedomsnivåer behöver arbeta tillsammans för att skapa ett rättvist och välmående samhälle.

Spelet involverar fyra spelare som var och en får olika summor pengar och måste bestämma om de ska behålla dem för sig själva eller betala in dem till en offentlig fond som ger avkastning på investeringen. Hur denna avkastning på investeringen omfördelas kan dock justeras på sätt som gynnar vissa spelare framför andra.

Möjliga mekanismer inkluderar strikt jämlikhet, där avkastningen på offentliga medel delas lika oavsett bidrag; libertarian, där utbetalningar står i proportion till bidrag; och liberal jämlikhet, där varje spelares utbetalning står i proportion till bråkdelen av deras privata medel som de bidrar med.

I forskning som publicerades i Natur Mänskligt beteende, forskarna beskriver hur de fick grupper av människor att spela många omgångar av detta spel under olika nivåer av ojämlikhet och med hjälp av olika omfördelningsmekanismer. De ombads sedan att rösta om vilken metod för att dela upp vinsten de föredrog.

Dessa data användes för att träna en AI att imitera mänskligt beteende i spelet, inklusive hur spelarna röstar. Forskarna ställde dessa AI-spelare mot varandra i tusentals spel medan ett annat AI-system justerade omfördelningsmekanismen baserat på hur AI-spelarna röstade.

I slutet av denna process hade AI bestämt sig för en omfördelningsmekanism som liknade liberal egalitär, men gav nästan ingenting till spelarna om de inte bidrog med ungefär hälften av sin privata förmögenhet. När människor spelade spel som ställde detta tillvägagångssätt mot de tre huvudsakliga etablerade mekanismerna, vann den AI-designade konsekvent omröstningen. Det gick också bättre än spel där mänskliga domare bestämde hur de skulle dela avkastningen.

Forskarna säger att den AI-designade mekanismen förmodligen klarade sig bra eftersom att basera utbetalningar på relativa snarare än absoluta bidrag hjälper till att åtgärda initiala obalanser i förmögenhet, men att tvinga fram ett minimibidrag förhindrar mindre rika spelare från att helt enkelt åka snålskjuts på bidrag från de rikaste.

Att översätta tillvägagångssättet från ett enkelt spel för fyra spelare till storskaliga ekonomiska system skulle helt klart vara otroligt utmanande, och om dess framgång på ett leksaksproblem som detta ger någon indikation på hur det skulle klara sig i den verkliga världen är oklart.

Forskarna identifierade flera potentiella problem själva. Ett problem med demokrati kan vara "majoritetens tyranni", vilket kan få existerande mönster av diskriminering eller orättvisa mot minoriteter att bestå. De tar också upp frågor om förklarbarhet och förtroende, vilket skulle vara avgörande om AI-designade lösningar någonsin skulle kunna tillämpas på verkliga dilemman.

Teamet designade uttryckligen sin AI-modell för att producera mekanismer som kan förklaras, men detta kan bli allt svårare om metoden tillämpas på mer komplexa problem. Spelarna fick heller inte veta när omfördelningen kontrollerades av AI, och forskarna medger att denna kunskap kan påverka hur de röstar.

Som ett första principbevis visar dock denna forskning ett lovande nytt tillvägagångssätt för att lösa sociala problem, som kombinerar det bästa av både artificiell och mänsklig intelligens. Vi är fortfarande långt ifrån maskiner som hjälper till att sätta offentlig policy, men det verkar som att AI en dag kan hjälpa oss att hitta nya lösningar som går utöver etablerade ideologier.

Image Credit: harishs / ​​41 bilder

Tidsstämpel:

Mer från Singularity Hub