Deepminds nye AI kan være bedre til at distribuere samfundets ressourcer end mennesker er PlatoBlockchain Data Intelligence. Lodret søgning. Ai.

Deepminds nye AI kan være bedre til at distribuere samfundets ressourcer end mennesker er

Tidsstempel: 4. juli 2022 kl. 11
DeepMind AI giver ressourcesamfundet

Hvordan grupper af mennesker, der arbejder sammen, bør omfordele den rigdom, de skaber, er et problem, der har plaget filosoffer, økonomer og politologer i årevis. En ny undersøgelse fra DeepMind tyder på, at AI muligvis kan træffe bedre beslutninger end mennesker.

AI viser sig i stigende grad at være dygtig til at løse komplekse udfordringer i alt fra forretning til biomedicin, så ideen om at bruge den til at hjælpe med at designe løsninger på sociale problemer er attraktiv. Men at gøre det er vanskeligt, fordi besvarelse af denne slags spørgsmål kræver, at man stoler på meget subjektive ideer som retfærdighed, retfærdighed og ansvar.

For at en kunstig intelligens-løsning skal fungere, skal den tilpasses værdierne i det samfund, den beskæftiger sig med, men den mangfoldighed af politiske ideologier, der eksisterer i dag, tyder på, at disse langt fra er ensartede. Det gør det svært at finde ud af, hvad der skal optimeres til, og introducerer faren for, at udviklernes værdier kan påvirke resultatet af processen.

Den bedste måde, menneskelige samfund har fundet til at håndtere uundgåelige uenigheder om sådanne problemer er demokrati, hvor flertallets synspunkter bruges til at lede den offentlige orden. Så nu har forskere hos Deepmind udviklet en ny tilgang, der kombinerer AI med menneskelig demokratisk overvejelse for at komme med bedre løsninger på sociale dilemmaer.

For at teste deres tilgang udførte forskerne en proof-of-concept-undersøgelse ved hjælp af et simpelt spil, hvor brugerne beslutter, hvordan de deler deres ressourcer til gensidig fordel. Eksperimentet er designet til at fungere som et mikrokosmos af menneskelige samfund, hvor mennesker med forskellige niveauer af rigdom skal arbejde sammen for at skabe et retfærdigt og velstående samfund.

Spillet involverer fire spillere, som hver modtager forskellige beløb og skal beslutte, om de vil beholde dem for sig selv eller indbetale dem til en offentlig fond, der genererer et afkast af investeringen. Den måde, hvorpå dette investeringsafkast omfordeles, kan justeres på måder, der gavner nogle spillere frem for andre.

Mulige mekanismer omfatter streng ligestilling, hvor afkastet af offentlige midler deles ligeligt uanset bidrag; libertarian, hvor udbetalinger står i forhold til bidrag; og liberal egalitær, hvor hver spillers udbetaling er i forhold til den brøkdel af deres private midler, som de bidrager med.

I forskning offentliggjort i Natur menneskelig adfærd, forskerne beskriver, hvordan de fik grupper af mennesker til at spille mange runder af dette spil under forskellige niveauer af ulighed og ved hjælp af forskellige omfordelingsmekanismer. De blev derefter bedt om at stemme om, hvilken metode de foretrak at fordele overskuddet på.

Disse data blev brugt til at træne en AI til at efterligne menneskelig adfærd i spillet, inklusive den måde, spillerne stemmer på. Forskerne stillede disse AI-spillere op mod hinanden i tusindvis af spil, mens et andet AI-system justerede omfordelingsmekanismen baseret på den måde, AI-spillerne stemte på.

I slutningen af ​​denne proces havde AI sat sig fast på en omfordelingsmekanisme, der lignede liberal egalitær, men returnerede næsten intet til spillerne, medmindre de bidrog med omtrent halvdelen af ​​deres private formue. Når mennesker spillede spil, der stillede denne tilgang op imod de tre vigtigste etablerede mekanismer, vandt den AI-designede konsekvent afstemningen. Det klarede sig også bedre end spil, hvor menneskelige dommere besluttede, hvordan de skulle dele afkast.

Forskerne siger, at den AI-designede mekanisme formentlig klarede sig godt, fordi at basere udbetalinger på relative snarere end absolutte bidrag hjælper med at rette op på de oprindelige formueubalancer, men at fremtvinge et minimumsbidrag forhindrer mindre velhavende spillere i blot at køre frit på bidragene fra de rigere.

At oversætte tilgangen fra et simpelt spil med fire spillere til store økonomiske systemer ville helt klart være utroligt udfordrende, og om dets succes på et legetøjsproblem som dette giver nogen indikation af, hvordan det ville klare sig i den virkelige verden, er uklart.

Forskerne identificerede selv flere potentielle problemer. Et problem med demokrati kan være "flertallets tyranni", som kan få eksisterende mønstre for diskrimination eller uretfærdighed mod minoriteter til at fortsætte. De rejser også spørgsmål om forklarlighed og tillid, hvilket ville være afgørende, hvis AI-designede løsninger nogensinde skulle anvendes på dilemmaer i den virkelige verden.

Holdet designede eksplicit deres AI-model til at producere mekanismer, der kan forklares, men dette kan blive stadig sværere, hvis tilgangen anvendes på mere komplekse problemer. Spillere fik heller ikke at vide, hvornår omfordeling blev kontrolleret af AI, og forskerne indrømmer, at denne viden kan påvirke den måde, de stemmer på.

Som et første principbevis demonstrerer denne forskning en lovende ny tilgang til løsning af sociale problemer, som kombinerer det bedste fra både kunstig og menneskelig intelligens. Vi er stadig langt fra maskiner, der hjælper med at sætte offentlig politik, men det ser ud til, at kunstig intelligens en dag kan hjælpe os med at finde nye løsninger, der går ud over etablerede ideologier.

Billede Credit: harishs / ​​41 billeder

Tidsstempel:

Mere fra Singularitet Hub