Могут ли машины обладать самосознанием? Новое исследование объясняет, как это могло произойти

Переиздано Платоном

Читают: 0

Чтобы построить машину, нужно знать, из каких частей она состоит и как они соединяются друг с другом. Чтобы понять машину, нужно знать, что делает каждая ее часть и как она влияет на ее функцию. Другими словами, нужно уметь объяснить «механику» того, как это работает.

В соответствии с философский подход называется механизмом, люди, возможно, являются своего рода машиной, и наша способность думать, говорить и понимать мир является результатом механического процесса, который мы не понимаем.

Чтобы лучше понять себя, мы можем попытаться построить машины, которые имитируют наши способности. При этом у нас будет механистическое понимание этих машин. И чем больше нашего поведения демонстрирует машина, тем ближе мы можем быть к механистическому объяснению нашего собственного разума.

Именно это делает ИИ интересным с философской точки зрения. Усовершенствованные модели, такие как GPT-4 и Midjourney теперь может имитировать человеческую беседу, сдавать профессиональные экзамены и создавать красивые картинки, используя всего несколько слов.

Тем не менее, несмотря на весь прогресс, вопросы остаются без ответа. Как мы можем сделать что-то самоосознающим или осознающим, что осознают другие? Что такое личность? Что это значит?

Хотя существует множество конкурирующих философских описаний этих вещей, все они сопротивляются механистическому объяснению.

В последовательность документов принято для 16-я ежегодная конференция по общему искусственному интеллекту в Стокгольме я предлагаю механистическое объяснение этих явлений. Они объясняют, как мы можем построить машину, которая осознает себя, других, себя так, как ее воспринимают другие, и так далее.

Интеллект и намерение

Многое из того, что мы называем интеллектом, сводится к предсказанию мира на основе неполной информации. Чем меньше информации нужно машине, чтобы делать точные прогнозы, тем она «умнее».

Для любой поставленной задачи существует предел полезности интеллекта. Например, большинство взрослых достаточно умны, чтобы научиться водить машину, но больший интеллект, вероятно, не сделает их лучшими водителями.

Мои документы описывают верхний предел интеллекта для данной задачи и что требуется для создания машины, которая ее выполняет.

Я назвал эту идею «Бритвой Беннета», что в нетехнических терминах означает, что «объяснения должны быть не более конкретными, чем это необходимо». Это отличается от популярной интерпретации Бритвы Оккама (и их математические описания), который предпочитает более простые объяснения.

Разница тонкая, но существенная. В эксперимент Сравнивая, сколько данных требуется системам ИИ для изучения простой математики, ИИ, который предпочитал менее конкретные объяснения, превзошел ИИ, предпочитающий более простые объяснения, на целых 500 процентов.

Изучение следствий этого открытия привело меня к механистическому объяснению значения — чему-то, что называется «Прагматика Грайса». Это концепция философии языка, которая рассматривает, как значение связано с намерением.

Чтобы выжить, животному необходимо предсказать, как его окружающая среда, включая других животных, будет действовать и реагировать. Вы без колебаний оставите машину без присмотра рядом с собакой, но этого нельзя сказать о обеде с ромштексом.

Быть разумным в сообществе означает быть способным делать выводы о намерениях других, которые проистекают из их чувств и предпочтений. Если бы машина достигла верхнего предела интеллекта для задачи, которая зависит от взаимодействия с человеком, она также должна была бы правильно определить намерение.

И если машина может приписать намерение происходящим с ней событиям и переживаниям, это поднимает вопрос об идентичности и о том, что значит осознавать себя и других.

Причинность и тождество

Я вижу Джона в плаще, когда идет дождь. Если я заставлю Джона надеть плащ в солнечный день, вызовет ли это дождь?

Конечно, нет! Для человека это очевидно. Но тонкости причинно-следственных связей обучить машину сложнее (заинтересованные читатели могут проверить Книга почему Джудея Перл и Дана Маккензи).

Чтобы рассуждать об этих вещах, машина должна усвоить, что «я заставил это произойти» отличается от «я видел, как это произошло». Как правило, мы бы программа это понимание в него.

Тем не менее, моя работа объясняет, как мы можем построить машину, которая работает на верхнем пределе интеллекта для выполнения задачи. Такая машина по определению должна правильно идентифицировать причину и следствие — и, следовательно, также выводить причинно-следственные связи. Мои документы выяснить, как именно.

Последствия этого глубоки. Если машина узнает, что «это произошло из-за меня», она должна сконструировать понятия «я» (идентичность самой себе) и «это».

Способности делать выводы о намерениях, изучать причину и следствие и создавать абстрактные тождества связаны между собой. Машина, которая достигает верхнего предела интеллекта для выполнения задачи, должна демонстрировать все эти способности.

Эта машина создает идентичность не только для себя, но и для каждого аспекта каждого объекта, который помогает или мешает ее способности выполнить задачу. Затем он может использовать собственные настройки как исходный уровень для прогнозирования что могут сделать другие. Это похоже на то, как люди склонны приписывать намерение в отношении нечеловеческих животных.

Так что же это значит для ИИ?

Конечно, человеческий разум — это гораздо больше, чем простая программа, используемая для проведения экспериментов в моих исследованиях. Моя работа представляет собой математическое описание возможного причинно-следственного пути к созданию машины, которая, возможно, обладает самосознанием. Однако специфика разработки такой штуки далека от решения.

Например, человеческое намерение потребует человеческих переживаний и чувств, что сложно спроектировать. Кроме того, мы не можем легко проверить все богатство человеческого сознания. Сознание — это широкое и неоднозначное понятие, которое охватывает — но его следует отличать — от более узких утверждений, указанных выше.

Я дал механистическое объяснение аспекты сознания, но само по себе это не отражает всего богатства сознания, как его ощущают люди. Это только начало, и дальнейшие исследования должны будут расширить эти аргументы.

Эта статья переиздана из Беседа под лицензией Creative Commons. Прочтите оригинал статьи.

Изображение Фото: DeepMind on Unsplash