Інженер Google призупинено за порушення політики конфіденційності через "розумний" штучний інтелект

Google відправив одного зі своїх інженерів програмного забезпечення в оплачувану адміністративну відпустку за порушення політики конфіденційності компанії.

З 2021 року 41-річному Блейку Лемуану було доручено спілкуватися з LaMDA, або мовною моделлю для діалогових програм, у рамках його роботи в команді відповідального штучного інтелекту Google, шукаючи, чи використовував бот дискримінаційну мову чи мову ворожнечі.

LaMDA «створено шляхом тонкого налаштування сімейства Трансформаторнейронні мовні моделі, що спеціалізуються на діалозі, мають до 137 мільярдів параметрів моделі та навчають моделі використовувати зовнішні джерела знань», на думку Google.

Це те, що компанія використовує для створення чат-ботів і повертає, очевидно, значущі відповіді на запити на основі матеріалу, зібраного з трильйонів інтернет-розмов та інших комунікацій.

Проте в якийсь момент під час свого розслідування Лемуан, схоже, почав вірити, що ШІ виявляє ознаки розуму. Інженер, який має написав про свій досвід, каже, що він неодноразово намагався посилити свою стурбованість, але йому було відмовлено на тій підставі, що він не мав доказів.

Тому він звернувся за «зовнішньою консультацією» щодо можливостей LaMDA, що й привернуло увагу Google, як описано в публікації Medium під назвою «Незабаром можуть звільнити за дотримання етики ШІ».

Історію підхопив Washington Post,, То The Wall Street Journal, Financial Times, і багато іншого.

Після відправлення в адміністративну відпустку, яку він описав як те, що Google робить «в очікуванні когось звільнити», Лемуан опублікував те, що, як він стверджував, було розмовою з LaMDA.

Нижче наведено деякі витяги:

Повне «інтерв’ю» можна прочитати тут. Хоча це вражає, що штучний інтелект може це зробити, Google обережно ставиться до «антропоморфізації», про яку згадує Лемуан, тобто приписування людських характеристик або поведінки тваринам або предметам.

У заяві до Реєстр, речник Google Брайан Габріель сказав: «Важливо, щоб принципи штучного інтелекту Google були інтегровані в нашу розробку штучного інтелекту, і LaMDA не стала винятком. Хоча інші організації розробили та вже випустили подібні мовні моделі, ми використовуємо стриманий, обережний підхід до LaMDA, щоб краще розглянути обґрунтовані занепокоєння щодо чесності та фактичності.

«LaMDA пройшла через 11 різних Огляди AI Principles, разом із ретельними дослідженнями та випробуваннями на основі ключових показників якості, безпеки та здатності системи створювати твердження, що ґрунтуються на фактах. А дипломну роботу випущений на початку цього року, деталізується робота, яка йде на відповідальний розвиток LaMDA.

«Звичайно, дехто в ширшій спільноті штучного інтелекту розглядає довгострокову можливість інтелектуального або загального ШІ, але це не має сенсу робити це шляхом антропоморфізації сучасних розмовних моделей, які не є інтелектуальними. Ці системи імітують типи обміну, які можна знайти в мільйонах речень, і можуть риффувати на будь-яку фантастичну тему – якщо ви запитаєте, як це – бути динозавром з морозивом, вони можуть створити текст про танення, ревіння тощо.

«LaMDA має тенденцію слідувати підказкам і навідним запитанням, дотримуючись шаблону, встановленого користувачем. Наша команда, включно з етиками та технологами, розглянула занепокоєння Блейка щодо наших принципів ШІ та повідомила йому, що докази не підтверджують його заяви.

«Сотні дослідників та інженерів спілкувалися з LaMDA, і ми не знаємо, щоб хтось інший робив широкі твердження або антропоморфізував LaMDA, як це зробив Блейк».

Нью-Йоркський професор Гері Маркус підведені вся сага як «нісенітниця на ходулях». ®