Die neue KI von Deepmind kann die Ressourcen der Gesellschaft besser verteilen als Menschen

Wie Gruppen von Menschen, die kollaborativ zusammenarbeiten, den von ihnen geschaffenen Reichtum umverteilen sollen, ist ein Problem, das Philosophen, Ökonomen und Politikwissenschaftler seit Jahren beschäftigt. Eine neue Studie von DeepMind legt nahe, dass KI möglicherweise bessere Entscheidungen treffen kann als Menschen.

KI erweist sich als immer geschickter bei der Lösung komplexer Herausforderungen in allen Bereichen, von der Wirtschaft bis zur Biomedizin, daher ist die Idee, sie bei der Entwicklung von Lösungen für soziale Probleme zu unterstützen, verlockend. Aber das ist schwierig, denn um solche Fragen zu beantworten, muss man sich auf höchst subjektive Ideen wie Fairness, Gerechtigkeit und Verantwortung verlassen.

Damit eine KI-Lösung funktioniert, muss sie mit den Werten der Gesellschaft übereinstimmen, mit der sie es zu tun hat, aber die Vielfalt der heute existierenden politischen Ideologien legt nahe, dass diese alles andere als einheitlich sind. Das macht es schwierig, herauszufinden, wofür optimiert werden sollte, und birgt die Gefahr, dass die Werte der Entwickler das Ergebnis des Prozesses beeinflussen.

Der beste Weg, den menschliche Gesellschaften gefunden haben, um mit unvermeidlichen Meinungsverschiedenheiten darüber umzugehen Probleme ist die Demokratie, in dem die Ansichten der Mehrheit als Richtschnur für die öffentliche Ordnung herangezogen werden. Deshalb haben Forscher von Deepmind jetzt einen neuen Ansatz entwickelt, der KI mit menschlicher demokratischer Überlegung kombiniert, um bessere Lösungen für soziale Dilemmata zu finden.

Um ihren Ansatz zu testen, führten die Forscher eine Proof-of-Concept-Studie mit einem einfachen Spiel durch, bei dem Benutzer entscheiden, wie sie ihre Ressourcen zum gegenseitigen Nutzen teilen. Das Experiment soll als Mikrokosmos menschlicher Gesellschaften fungieren, in denen Menschen mit unterschiedlichem Wohlstand zusammenarbeiten müssen, um eine gerechte und wohlhabende Gesellschaft zu schaffen.

Das Spiel umfasst vier Spieler, die jeweils unterschiedliche Geldbeträge erhalten und entscheiden müssen, ob sie es für sich behalten oder in einen öffentlichen Fonds einzahlen, der eine Rendite auf die Investition erzielt. Die Art und Weise, wie diese Kapitalrendite umverteilt wird, kann jedoch so angepasst werden, dass einige Spieler gegenüber anderen profitieren.

Zu den möglichen Mechanismen gehören strenge Gleichmacherei, bei der die Erträge aus öffentlichen Mitteln unabhängig vom Beitrag zu gleichen Teilen geteilt werden; libertär, wo die Auszahlungen proportional zu den Beiträgen sind; und liberal egalitär, wo die Auszahlung jedes Spielers proportional zu dem Bruchteil seiner privaten Mittel ist, die er beisteuert.

In der Forschung veröffentlicht Natur Menschliches Verhalten, Die Forscher beschreiben, wie sie Gruppen von Menschen dazu gebracht haben, viele Runden dieses Spiels unter verschiedenen Ebenen der Ungleichheit und unter Verwendung verschiedener Umverteilungsmechanismen zu spielen. Sie wurden dann gebeten, darüber abzustimmen, welche Art der Gewinnaufteilung sie bevorzugen.

Diese Daten wurden verwendet, um eine KI zu trainieren, menschliches Verhalten im Spiel nachzuahmen, einschließlich der Art und Weise, wie Spieler abstimmen. Die Forscher ließen diese KI-Spieler in Tausenden von Spielen gegeneinander antreten, während ein anderes KI-System den Umverteilungsmechanismus basierend auf der Art und Weise, wie die KI-Spieler abstimmten, optimierte.

Am Ende dieses Prozesses hatte sich die KI für einen Umverteilungsmechanismus entschieden, der dem liberalen egalitären ähnelte, aber den Spielern fast nichts zurückgab, es sei denn, sie brachten ungefähr die Hälfte ihres Privatvermögens ein. Als Menschen Spiele spielten, die diesen Ansatz gegen die drei wichtigsten etablierten Mechanismen ausspielten, gewann der von der KI entworfene durchweg die Abstimmung. Es schnitt auch besser ab als Spiele, bei denen menschliche Schiedsrichter entschieden, wie die Gewinne aufgeteilt werden.

Die Forscher sagen, dass der von der KI entworfene Mechanismus wahrscheinlich gut abgeschnitten hat, weil die Grundlage für Auszahlungen auf relativen und nicht auf absoluten Beiträgen dazu beiträgt, anfängliche Vermögensungleichgewichte auszugleichen, aber die Erzwingung eines Mindestbeitrags verhindert, dass weniger wohlhabende Spieler einfach auf den Beiträgen von Wohlhabenderen herumreiten.

Die Übertragung des Ansatzes von einem einfachen Vier-Spieler-Spiel auf groß angelegte Wirtschaftssysteme wäre eindeutig eine unglaubliche Herausforderung, und ob sein Erfolg bei einem Spielzeugproblem wie diesem einen Hinweis darauf gibt, wie es in der realen Welt abschneiden würde, ist unklar.

Die Forscher identifizierten selbst mehrere potenzielle Probleme. Ein Problem der Demokratie kann die „Tyrannei der Mehrheit“ sein, die dazu führen kann, dass bestehende Muster der Diskriminierung oder Ungerechtigkeit gegenüber Minderheiten bestehen bleiben. Sie werfen auch Fragen auf Erklärbarkeit und Vertrauen, was entscheidend wäre, wenn KI-entwickelte Lösungen jemals auf reale Dilemmata angewendet werden sollten.

Das Team hat sein KI-Modell explizit so konzipiert, dass erklärbare Mechanismen ausgegeben werden, aber dies könnte zunehmend schwieriger werden, wenn der Ansatz auf komplexere Probleme angewendet wird. Den Spielern wurde auch nicht gesagt, wann die Umverteilung von der KI kontrolliert wurde, und die Forscher geben zu, dass dieses Wissen die Art und Weise beeinflussen kann, wie sie abstimmen.

Als erster Beweis für das Prinzip zeigt diese Forschung jedoch einen vielversprechenden neuen Ansatz zur Lösung sozialer Probleme, der das Beste aus künstlicher und menschlicher Intelligenz kombiniert. Wir sind noch weit davon entfernt, dass Maschinen bei der Festlegung der öffentlichen Ordnung helfen, aber es scheint, dass KI uns eines Tages dabei helfen könnte, neue Lösungen zu finden, die über etablierte Ideologien hinausgehen.

Bild-Kredit: Harisch / 41 Bilder

• Coinsmart. Europas beste Bitcoin- und Krypto-Börse.
• Platoblockkette. Web3-Metaverse-Intelligenz. Wissen verstärkt. DEN FREIEN ZUGANG.
• CryptoHawk. Altcoin-Radar. Kostenlose Testphase.
• Quelle: https://singularityhub.com/2022/07/04/deepminds-new-ai-may-be-better-at-distributing-societys-resources-than-humans-are/