Deepminds nye AI kan være bedre til å distribuere samfunnets ressurser enn mennesker er PlatoBlockchain-dataintelligens. Vertikalt søk. Ai.

Deepminds nye AI kan være bedre til å distribuere samfunnets ressurser enn mennesker er

Tidsstempel: 4. juli 2022 11:01
DeepMind AI gir ressurssamfunnet

Hvordan grupper av mennesker som samarbeider skal omfordele rikdommen de skaper, er et problem som har plaget filosofer, økonomer og statsvitere i årevis. En ny studie fra DeepMind antyder at AI kan være i stand til å ta bedre beslutninger enn mennesker.

AI viser seg stadig dyktigere til å løse komplekse utfordringer i alt fra virksomhet til biomedisin, så ideen om å bruke den til å hjelpe til med å designe løsninger på sosiale problemer er attraktiv. Men å gjøre det er vanskelig, fordi å svare på denne typen spørsmål krever å stole på svært subjektive ideer som rettferdighet, rettferdighet og ansvar.

For at en AI-løsning skal fungere, må den samsvare med verdiene i samfunnet den har å gjøre med, men mangfoldet av politiske ideologier som eksisterer i dag antyder at disse er langt fra ensartede. Det gjør det vanskelig å finne ut hva som bør optimaliseres for og introduserer faren for at utviklernes verdier kan påvirke resultatet av prosessen.

Den beste måten menneskelige samfunn har funnet for å håndtere uunngåelige uenigheter om slike problemer er demokrati, der flertallets synspunkter brukes til å lede offentlig politikk. Så nå har forskere ved Deepmind utviklet en ny tilnærming som kombinerer AI med menneskelig demokratisk overveielse for å komme opp med bedre løsninger på sosiale dilemmaer.

For å teste tilnærmingen deres utførte forskerne en proof-of-concept-studie ved å bruke et enkelt spill der brukere bestemmer hvordan de skal dele ressursene sine til gjensidig nytte. Eksperimentet er designet for å fungere som et mikrokosmos av menneskelige samfunn der mennesker med ulike nivåer av rikdom trenger å jobbe sammen for å skape et rettferdig og velstående samfunn.

Spillet involverer fire spillere som hver mottar forskjellige beløp og må bestemme om de skal beholde dem for seg selv eller betale dem inn i et offentlig fond som gir avkastning på investeringen. Måten denne avkastningen på investeringen omfordeles på kan imidlertid justeres på måter som gagner noen aktører fremfor andre.

Mulige mekanismer inkluderer streng egalitær, hvor avkastningen på offentlige midler deles likt uavhengig av bidrag; libertarian, der utbetalinger står i forhold til bidrag; og liberal egalitær, der hver spillers utbetaling står i forhold til brøkdelen av deres private midler som de bidrar med.

I forskning publisert i Natur menneskelig adferd, forskerne beskriver hvordan de fikk grupper av mennesker til å spille mange runder av dette spillet under ulike nivåer av ulikhet og ved hjelp av ulike omfordelingsmekanismer. De ble deretter bedt om å stemme over hvilken metode for å dele opp overskuddet de foretrakk.

Disse dataene ble brukt til å trene en AI til å imitere menneskelig atferd i spillet, inkludert måten spillerne stemmer på. Forskerne stilte disse AI-spillerne mot hverandre i tusenvis av spill, mens et annet AI-system tilpasset omfordelingsmekanismen basert på måten AI-spillerne stemte på.

På slutten av denne prosessen hadde AI bestemt seg for en omfordelingsmekanisme som lignet på liberal egalitær, men returnerte nesten ingenting til spillerne med mindre de bidro med omtrent halvparten av sin private formue. Når mennesker spilte spill som satte denne tilnærmingen opp mot de tre viktigste etablerte mekanismene, vant den AI-designede konsekvent avstemningen. Det klarte seg også bedre enn spill der menneskelige dommere bestemte hvordan de skulle dele avkastningen.

Forskerne sier at den AI-designede mekanismen sannsynligvis klarte seg bra fordi å basere utbetalinger på relative i stedet for absolutte bidrag bidrar til å rette opp opprinnelige formuesubalanser, men å tvinge frem et minimumsbidrag forhindrer mindre velstående spillere fra å bare kjøre fri på bidragene fra de rikere.

Å oversette tilnærmingen fra et enkelt fire-spillers spill til store økonomiske systemer ville helt klart vært utrolig utfordrende, og om suksessen på et leketøysproblem som dette gir noen indikasjon på hvordan det ville klare seg i den virkelige verden er uklart.

Forskerne identifiserte flere potensielle problemer selv. Et problem med demokrati kan være «majoritetens tyranni», som kan føre til at eksisterende mønstre for diskriminering eller urettferdighet mot minoriteter vedvarer. De tar også opp spørsmål om forklarbarhet og tillit, noe som ville være avgjørende hvis AI-designede løsninger noen gang skulle brukes på dilemmaer i den virkelige verden.

Teamet designet eksplisitt sin AI-modell for å produsere mekanismer som kan forklares, men dette kan bli stadig vanskeligere hvis tilnærmingen brukes på mer komplekse problemer. Spillerne ble heller ikke fortalt når omfordeling ble kontrollert av AI, og forskerne innrømmer at denne kunnskapen kan påvirke måten de stemmer på.

Som et første prinsippbevis viser imidlertid denne forskningen en lovende ny tilnærming til å løse sosiale problemer, som kombinerer det beste fra både kunstig og menneskelig intelligens. Vi er fortsatt et stykke unna maskiner som hjelper til med å sette offentlig politikk, men det ser ut til at AI en dag kan hjelpe oss med å finne nye løsninger som går utover etablerte ideologier.

Bilde Credit: harishs / ​​41 bilder

Tidstempel:

Mer fra Singularity Hub