Новый искусственный интеллект Deepmind может лучше распределять ресурсы общества, чем люди

Как группы людей, работающих вместе, должны перераспределять созданное ими богатство — проблема, которая годами мучила философов, экономистов и политологов. Новое исследование DeepMind предполагает, что ИИ может принимать более эффективные решения, чем люди.

ИИ становится все более искусным в решении сложных задач во всем, от бизнеса до биомедицины, поэтому идея его использования для помощи в разработке решений социальных проблем является привлекательной. Но сделать это сложно, потому что для ответа на такого рода вопросы необходимо полагаться на очень субъективные идеи, такие как честность, справедливость и ответственность.

Чтобы ИИ-решение работало, оно должно соответствовать ценностям общества, с которым оно имеет дело, но разнообразие существующих сегодня политических идеологий предполагает, что они далеко не единообразны. Это затрудняет определение того, для чего следует оптимизировать, и создает опасность того, что ценности разработчиков исказят результат процесса.

Лучший способ, найденный человеческими обществами, справляться с неизбежными разногласиями по поводу таких проблемы это демократия, в котором взгляды большинства используются для определения государственной политики. Итак, теперь исследователи из Deepmind разработали новый подход, сочетающий искусственный интеллект с человеческим демократическим мышлением, чтобы найти лучшие решения социальных дилемм.

Чтобы проверить свой подход, исследователи провели экспериментальное исследование, используя простую игру, в которой пользователи решают, как делиться своими ресурсами для взаимной выгоды. Эксперимент задуман как микрокосм человеческих обществ, в котором люди с разным уровнем достатка должны работать вместе, чтобы создать справедливое и процветающее общество.

В игре участвуют четыре игрока, каждый из которых получает разные суммы денег и должен решить, оставить ли их себе или внести в общественный фонд, который обеспечивает возврат инвестиций. Однако то, как перераспределяется этот доход от инвестиций, может быть скорректировано таким образом, чтобы одни игроки приносили пользу другим.

Возможные механизмы включают строгую эгалитарность, при которой доходы от государственных средств распределяются поровну независимо от вклада; либертарианская, где выплаты пропорциональны взносам; и либеральный эгалитарный, когда выплаты каждого игрока пропорциональны доле их личных средств, которые они вносят.

В исследовании опубликованной в Природа человека, исследователи описывают, как они заставили группы людей играть много раундов в эту игру при разных уровнях неравенства и с использованием разных механизмов перераспределения. Затем их попросили проголосовать за то, какой метод распределения прибыли они предпочитают.

Эти данные использовались для обучения ИИ имитации человеческого поведения в игре, включая то, как игроки голосуют. Исследователи сталкивали этих ИИ-игроков друг с другом в тысячах игр, в то время как другая система ИИ настраивала механизм перераспределения в зависимости от того, как игроки ИИ голосовали.

В конце этого процесса ИИ остановился на механизме перераспределения, который был похож на либерально-эгалитарный, но почти ничего не возвращал игрокам, если только они не вносили примерно половину своего личного состояния. Когда люди играли в игры, в которых этот подход противопоставлялся трем основным установленным механизмам, разработанный ИИ метод неизменно выигрывал голоса. Это также было лучше, чем игры, в которых судьи-люди решали, как разделить прибыль.

Исследователи говорят, что механизм, разработанный ИИ, вероятно, хорошо зарекомендовал себя, потому что основанные на относительных, а не абсолютных взносах выплаты помогают исправить первоначальный дисбаланс богатства, но принудительное установление минимального взноса не позволяет менее богатым игрокам просто бесплатно пользоваться вкладами более богатых.

Очевидно, что перевод подхода из простой игры с четырьмя игроками в крупномасштабные экономические системы будет невероятно сложным, и неясно, дает ли его успех в такой игрушечной задаче какое-либо представление о том, как он будет работать в реальном мире.

Исследователи сами выявили несколько потенциальных проблем. Одной из проблем с демократией может быть «тирания большинства», которая может привести к сохранению существующих моделей дискриминации или несправедливости по отношению к меньшинствам. Они также поднимают вопросы объяснимость и доверие, которое имело бы решающее значение, если бы решения, разработанные ИИ, когда-либо применялись для решения дилемм реального мира.

Команда явно разработала свою модель ИИ для вывода механизмов, которые можно объяснить, но это может стать еще более сложным, если подход применяется к более сложным проблемам. Игрокам также не сообщили, когда перераспределение контролируется ИИ, и исследователи признают, что это знание может повлиять на то, как они голосуют.

Однако в качестве первого доказательства принципа это исследование демонстрирует многообещающий новый подход к решению социальных проблем, который сочетает в себе лучшее из искусственного и человеческого интеллекта. Мы все еще далеки от машин, помогающих устанавливать государственную политику, но похоже, что ИИ однажды может помочь нам найти новые решения, выходящие за рамки устоявшихся идеологий.

Изображение Фото: хариши / 41 фотография

• Коинсмарт. Лучшая в Европе биржа биткойнов и криптовалют.
• Платоблокчейн. Интеллект метавселенной Web3. Расширение знаний. БЕСПЛАТНЫЙ ДОСТУП.
• КриптоХок. Альткоин Радар. Бесплатная пробная версия.
• Источник: https://singularityhub.com/2022/07/04/deepminds-new-ai-may-be-better-at-distributing-societys-resources-than-humans-are/