Колишній дослідник OpenAI: існує 50% шансів, що ШІ закінчиться «катастрофою»

Колишній ключовий дослідник OpenAI вважає, що існує пристойна ймовірність того, що штучний інтелект візьме контроль над людством і знищить його.

«Я думаю, що ймовірність захоплення штучним інтелектом становить приблизно 10-20%, [при цьому] багато [або] більшість людей мертві», — Пол Крістіано, який керував командою з узгодження мовної моделі в OpenAI, сказав на Безбанківський подкаст. «Я сприймаю це досить серйозно».

Крістіано, який зараз очолює Центр дослідження вирівнювання, некомерційна організація, спрямована на узгодження ШІ та систем машинного навчання з «людськими інтересами», сказав, що його особливо хвилює те, що відбувається, коли ШІ досягає логічних і творчих можливостей людини. «Загалом, можливо, ми говоримо про ймовірність катастрофи 50/50 незабаром після того, як у нас з’являться системи на людському рівні», — сказав він.

Крістіано в хорошій компанії. Останнім часом десятки вчених по всьому світу підписав онлайн-листа закликаючи OpenAI та інші компанії, які намагаються створювати швидші та розумніші штучні інтелекти, натиснути кнопку паузи під час розробки. Великі перуки від Білла Ґейтса до Ілона Маска висловлювали занепокоєння тим, що без контролю ШІ становить очевидну екзистенційну небезпеку для людей.

Не будь злим

Чому ШІ став злом? По суті, з тієї ж причини, що й людина: навчання та життєвий досвід.

Як немовля, ШІ навчений отримуючи гори даних, не знаючи, що з ними робити. Він навчається, намагаючись досягти певних цілей за допомогою випадкових дій і орієнтуючись на «правильні» результати, як це визначено навчанням.

Поки що, занурюючись у дані, накопичені в Інтернеті, машинне навчання дозволило штучному інтелекту зробити величезні кроки у створенні добре структурованих узгоджених відповідей на людські запити. У той же час базова комп’ютерна обробка, яка забезпечує машинне навчання, стає швидшою, кращою та більш спеціалізованою. Деякі вчені вважають, що протягом десяти років ця потужність обробки в поєднанні зі штучним інтелектом дозволить цим машинам стати розумними, як люди, і мати самосвідомість.

Ось тоді все стає волохатим. І саме тому багато дослідників стверджують, що нам потрібно з’ясувати, як встановити огорожі зараз, а не пізніше. Поки поведінка ШІ відстежується, це можна контролювати.

Але якщо монета впаде на інший бік, навіть співзасновник OpenAI каже, що все може стати дуже, дуже погано.

Foomsday?

Ця тема обговорюється роками. Одна з найвідоміших дебатів на цю тему відбулася 11 років тому між дослідниками ШІ Еліезер Юдковський і економіст Робін Гансон. Обидва обговорили можливість досягнення “піна” — що, очевидно, означає «Швидкий початок надзвичайної майстерності» — момент, коли ШІ стає експоненціально розумнішим за людей і здатним самовдосконалюватися. (Похідний термін «foom» є спірний.)

«Еліезер і його помічники вірять, що штучний інтелект неминуче вийде з ладу без попередження, тобто одного разу ви створите AGI [штучний загальний інтелект], а через кілька годин чи днів ця штука рекурсивно самовдосконалиться до божественного інтелекту, а потім з’їсть світ. . Це реально?» Перрі Мецгер, комп’ютерний вчений, активний у спільноті ШІ, нещодавно твітнув.

Метцгер стверджував, що навіть коли комп’ютерні системи досягають рівня людського інтелекту, все ще є достатньо часу, щоб запобігти будь-яким поганим наслідкам. «Чи логічно можливий «foom»? Може бути. Я не переконаний", - сказав він. «Чи можливий це реальний світ? Я майже впевнений, що ні. Чи буде довгостроковий глибоко надлюдський штучний інтелект? Так, але не «фум»»

Інша видатна постать, Янн Ле Кун, також підвищив голос, заявивши, що це «абсолютно неможливо, щоб людство відчуло захоплення ШІ». Будемо сподіватися, що так.

• Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
• PlatoAiStream. Web3 Data Intelligence. Розширення знань. Доступ тут.
• Карбування майбутнього з Адріенн Ешлі. Доступ тут.
• джерело: https://decrypt.co/138310/openai-researcher-chance-ai-catastrophe