Если Джо Байден захочет, чтобы умный и простой чат-бот с искусственным интеллектом отвечал за него на вопросы, его предвыборная команда не сможет использовать Клода, конкурента ChatGPT от Anthropic, объявила сегодня компания.
«Мы не разрешаем кандидатам использовать Клода для создания чат-ботов, которые могут выдавать себя за них, и мы не позволяем никому использовать Клода для целевых политических кампаний», — заявила компания. объявило. Нарушения этой политики будут преследоваться предупреждениями и, в конечном итоге, блокировкой доступа к услугам Anthropic.
Публичное заявление Anthropic о своей политике «злоупотреблений на выборах» связано с тем, что потенциал ИИ массово генерировать ложную и вводящую в заблуждение информацию, изображения и видео становится все более очевидным. вызывая тревогу по всему миру.
Мета-реализованные правила rограничение использования инструментов искусственного интеллекта в политике прошлой осенью, и OpenAI придерживается аналогичной политики.
Anthropic заявила, что ее политическая защита делится на три основные категории: разработка и обеспечение соблюдения политик, связанных с вопросами выборов, оценка и тестирование моделей на предмет потенциальных злоупотреблений и направление пользователям точной информации о голосовании.
антропный политика допустимого использования— с чем якобы соглашаются все пользователи перед доступом к Claude — запрещает использование инструментов искусственного интеллекта для политических кампаний и лоббирования. Компания заявила, что нарушители будут получать предупреждения и приостанавливать обслуживание, а также будет введен процесс проверки людьми.
Компания также проводит строгую «красную команду» своих систем: агрессивные, скоординированные попытки известных партнеров «взломать джейлбрейк» или иным образом использовать Клода в гнусных целях.
«Мы проверяем, как наша система реагирует на запросы, которые нарушают нашу политику допустимого использования, [например] на запросы, запрашивающие информацию о тактике подавления избирателей», — объясняет Антропик. Кроме того, компания заявила, что разработала набор тестов для обеспечения «политического паритета» — сравнительного представительства кандидатов и тем.
В США антропный в партнерстве с TurboVote помочь избирателям достоверной информацией вместо использования генеративного инструмента искусственного интеллекта.
«Если пользователь из США запрашивает информацию о голосовании, всплывающее окно предложит пользователю возможность перенаправления на TurboVote, ресурс беспартийной организации Democracy Works», — объяснили в Anthropic. следующие несколько недель» — с планами добавить аналогичные меры в других странах в следующем.
As Decrypt уже ранее сообщал, OpenAI, компания ChatGPT, предпринимает аналогичные шаги, перенаправляя пользователей на беспартийный веб-сайт CanIVote.org.
Усилия Anthropic совпадают с более широким движением в технологической отрасли по решению проблем, которые ИИ создает для демократических процессов. Например, Федеральная комиссия по связи США недавно объявила вне закона использование созданных ИИ данных. дипфейковые голоса в звонках роботов, решение, которое подчеркивает безотлагательность регулирования применения ИИ в политической сфере.
Как и Facebook, Microsoft имеет объявленные инициативы для борьбы с вводящей в заблуждение политической рекламой, создаваемой искусственным интеллектом, представив «Учетные данные контента как услугу» и запустив Центр предвыборной коммуникации.
Что касается кандидатов, создающих свои версии ИИ, OpenAI уже пришлось решать конкретный вариант использования. Компания подвесной аккаунт разработчика после того, как он узнал, что они создали бота, имитирующего кандидата в президенты Дина Филлипса. Этот шаг произошел после того, как некоммерческая организация Public Citizen подала петицию о злоупотреблении ИИ в политических кампаниях, в которой она просила регулятор запретить генеративный ИИ в политических кампаниях.
Anthropic отказалась от дальнейших комментариев, а OpenAI не ответила на запрос Decrypt.
Будьте в курсе крипто-новостей, получайте ежедневные обновления на свой почтовый ящик.