Инженера Google отстранили от работы за нарушение политики конфиденциальности в отношении «разумного» ИИ

Google отправил одного из своих инженеров-программистов в оплачиваемый административный отпуск за нарушение политики конфиденциальности компании.

С 2021 года 41-летнему Блейку Лемуану было поручено поговорить с LaMDA, или языковой моделью для диалоговых приложений, в рамках его работы в команде ответственного ИИ Google, чтобы выяснить, использовал ли бот дискриминационные или ненавистнические высказывания.

LaMDA «построен путем точной настройки семейства трансформаторнейронные языковые модели, специализированные для диалога, с 137 миллиардами параметров модели и обучением моделей использованию внешних источников знаний». в соответствии с Google.

Это то, что компания использует для создания чат-ботов и возвращает явно содержательные ответы на запросы, основанные на материалах, собранных из триллионов интернет-разговоров и других сообщений.

Однако в какой-то момент своего расследования Лемуан, похоже, начал верить, что ИИ проявляет признаки разума. Инженер, имеющий написал о своем опыте, говорит, что он неоднократно пытался обострить свои опасения, но ему отказывали на том основании, что у него не было доказательств.

Поэтому он обратился за «сторонней консультацией» по возможностям LaMDA, что и привлекло внимание Google, как описано в сообщении на Medium под названием «Вскоре могут быть уволены за выполнение работы по этике ИИ».

Историю подхватил Washington Post, то The Wall Street Journal, Financial Times, и многое другое.

После того, как Лемуан был отправлен в административный отпуск, который он описал как то, что Google делает «в ожидании увольнения», он опубликовал то, что, по его словам, было разговором с LaMDA.

Ниже приведены некоторые выдержки:

Полное «интервью» можно прочитать здесь. Хотя поразительно, что ИИ может сделать это, Google настороженно относится к «антропоморфизации», о которой упоминает Лемуан, то есть к приписыванию человеческих характеристик или поведения животным или объектам.

В заявлении Регистр, представитель Google Брайан Гэбриэл сказал: «Важно, чтобы принципы искусственного интеллекта Google были интегрированы в нашу разработку искусственного интеллекта, и LaMDA не стал исключением. Хотя другие организации разработали и уже выпустили аналогичные языковые модели, мы применяем сдержанный и осторожный подход к LaMDA, чтобы лучше учитывать обоснованные опасения по поводу справедливости и фактической достоверности.

«LaMDA прошла через 11 различных Обзоры принципов ИИ, наряду с тщательными исследованиями и испытаниями, основанными на ключевых показателях качества, безопасности и способности системы давать утверждения, основанные на фактах. А статья про исследование выпущенный ранее в этом году, подробно описывает работу, связанную с ответственной разработкой LaMDA.

«Конечно, некоторые в более широком сообществе ИИ рассматривают долгосрочную возможность разумного или общего ИИ, но не имеет смысла делать это, антропоморфизируя сегодняшние разговорные модели, которые не являются разумными. Эти системы имитируют типы обмена репликами, встречающиеся в миллионах предложений, и могут рифмовать на любую фантастическую тему — если вы спросите, каково быть динозавром мороженого, они могут генерировать текст о таянии и реве и так далее.

«LaMDA имеет тенденцию следовать подсказкам и наводящим вопросам, следуя шаблону, заданному пользователем. Наша команда, в том числе специалисты по этике и технологи, рассмотрела опасения Блейка в соответствии с нашими принципами ИИ и сообщила ему, что доказательства не подтверждают его заявления.

«Сотни исследователей и инженеров общались с LaMDA, и мы не знаем, чтобы кто-то еще делал широкомасштабные утверждения или антропоморфизировал LaMDA, как это сделал Блейк».

Профессор из Нью-Йорка Гэри Маркус подвела всю сагу как «чушь на ходулях». ®