Чи можуть машини бути самосвідомими? Нове дослідження пояснює, як це могло статися

Чи можуть машини бути самосвідомими? Нове дослідження пояснює, як це могло статися

Мітка часу: 5 травня 2023 10:00

Щоб побудувати машину, потрібно знати, з яких частин складається та як вони поєднуються. Щоб зрозуміти машину, потрібно знати, що робить кожна частина і як вона сприяє її функціонуванню. Іншими словами, потрібно вміти пояснити «механіку» того, як це працює.

У відповідності з філософський підхід називається механізмом, люди, мабуть, є типом машини, і наша здатність мислити, говорити та розуміти світ є результатом механічного процесу, який ми не розуміємо.

Щоб краще зрозуміти себе, ми можемо спробувати створити машини, які імітують наші здібності. Роблячи це, ми матимемо механістичне розуміння цих машин. І чим більше нашої поведінки демонструє машина, тим ближче ми можемо бути до механістичного пояснення нашого власного розуму.

Саме це робить ШІ цікавим з філософської точки зору. Просунуті моделі, такі як GPT-4 і Midjourney тепер може імітувати людську розмову, складати професійні іспити та створювати красиві зображення лише за допомогою кількох слів.

Проте, попри весь прогрес, питання залишаються без відповідей. Як ми можемо зробити щось самосвідомим або усвідомленим, щоб інші усвідомлювали? Що таке ідентичність? Що таке значення?

Хоча існує багато конкуруючих філософських описів цих речей, усі вони чинили опір механістичному поясненню.

В послідовність паперів прийнятий для 16-та щорічна конференція зі штучного загального інтелекту у Стокгольмі я пропоную механістичне пояснення цих явищ. Вони пояснюють, як ми можемо побудувати машину, яка усвідомлює себе, інших, себе, як сприймають інші, і так далі.

Розум і намір

Багато з того, що ми називаємо інтелектом, зводиться до прогнозування світу з неповною інформацією. Чим менше інформації потрібно машині для точного прогнозування, тим вона «розумніша».

Для будь-якого конкретного завдання існує обмеження того, наскільки інтелект насправді корисний. Наприклад, більшість дорослих достатньо розумні, щоб навчитися керувати автомобілем, але більший розум, ймовірно, не зробить їх кращими водіями.

Мої документи описують верхня межа інтелекту для певного завдання та що потрібно для створення машини, яка її виконує.

Я назвав цю ідею «Бритва Беннетта», яка в нетехнічних термінах полягає в тому, що «пояснення не повинні бути більш конкретними, ніж це необхідно». Це відрізняється від популярної інтерпретації Бритви Оккама (і їх математичні описи), що надає перевагу простішим поясненням.

Різниця незначна, але суттєва. В ан експеримент Порівнюючи, скільки даних потрібно системам штучного інтелекту для вивчення простої математики, ШІ, який віддає перевагу менш конкретним поясненням, перевершує той, хто віддає перевагу простішим поясненням, на цілих 500 відсотків.

Дослідження наслідків цього відкриття привело мене до механістичного пояснення значення — чогось під назвою «Грайсівська прагматика.” Це концепція у філософії мови, яка розглядає, як значення пов’язане з наміром.

Щоб вижити, тварина повинна передбачити, як її середовище, включаючи інших тварин, буде діяти та реагувати. Ви б не вагаючись залишили машину без нагляду біля собаки, але цього не можна сказати про ваш обід з ромштекса.

Бути розумним у суспільстві означає вміти робити висновок про наміри інших, які випливають з їхніх почуттів і вподобань. Якби машина мала досягти верхньої межі інтелекту для завдання, яке залежить від взаємодії з людиною, вона також мала б правильно визначити намір.

І якщо машина може приписувати намір подіям і переживанням, що відбуваються з нею, виникає питання про ідентичність і про те, що означає усвідомлювати себе та інших.

Причинність і тотожність

Я бачу Джона в плащі під час дощу. Якщо я змушу Джона одягнути плащ у сонячний день, чи принесе це дощ?

Звичайно, ні! Для людини це очевидно. Але тонкощам причинно-наслідкових зв’язків важче навчити машину (зацікавлені читачі можуть перевірити Книга Чому Джудея Перл і Дана Маккензі).

Щоб міркувати про ці речі, машина має навчитися, що «я спричинив це» відрізняється від «я бачив, як це сталося». Як правило, ми б програма це розуміння в нього.

Проте моя робота пояснює, як ми можемо побудувати машину, яка працює на верхній межі інтелекту для завдання. Така машина повинна, за визначенням, правильно визначати причину та наслідок — і, отже, також виводити причинно-наслідкові зв’язки. Мої папери дослідити, як саме.

Наслідки цього є глибокими. Якщо машина дізнається: «Я спричинив це», тоді вона повинна створити концепції «Я» (ідентичності для себе) і «це».

Здатності визначати намір, вивчати причинно-наслідкові зв’язки та створювати абстрактні ідентичності – все це пов’язано. Машина, яка досягає верхньої межі інтелекту для завдання, повинна демонструвати всі ці здібності.

Ця машина не просто створює ідентичність для себе, але для кожного аспекту кожного об’єкта, який допомагає або перешкоджає її здатності виконати завдання. Тоді може використовувати власні уподобання як базова лінія для прогнозування що інші можуть робити. Це схоже на те, як люди схильні приписувати намір щодо нелюдських тварин.

Отже, що це означає для ШІ?

Звичайно, людський розум — це набагато більше, ніж проста програма, використовувана для проведення експериментів у моїх дослідженнях. Моя робота містить математичний опис можливого причинно-наслідкового шляху до створення машини, яка, можливо, є самосвідомою. Однак специфіка розробки такої речі ще далека від вирішення.

Наприклад, людський намір вимагав би людського досвіду та почуттів, що важко спроектувати. Крім того, ми не можемо легко перевірити повне багатство людської свідомості. Свідомість є широкою та неоднозначною концепцією, яка охоплює, але її слід відрізняти від більш вузьких тверджень, наведених вище.

Я надав механістичне пояснення аспекти свідомості, але лише це не охоплює всього багатства свідомості, як це відчувають люди. Це лише початок, і майбутні дослідження повинні будуть розширити ці аргументи.Бесіда

Ця стаття перевидана з Бесіда за ліцензією Creative Commons. Читати оригінал статті.

Зображення Фото: Deepmind on Unsplash 

Часова мітка:

Більше від Хаб сингулярності