Якщо Джо Байден хоче, щоб розумний чат-бот зі штучним інтелектом відповідав замість нього на запитання, його передвиборча команда не зможе використовувати Клода, конкурента ChatGPT від Anthropic, оголосила сьогодні компанія.
«Ми не дозволяємо кандидатам використовувати Клода для створення чат-ботів, які можуть видавати себе за них, і ми не дозволяємо нікому використовувати Клода для цілеспрямованих політичних кампаній», — заявила компанія. оголошений. Порушення цієї політики буде зустрінуто попередженнями та, зрештою, призупиненням доступу до послуг Anthropic.
Публічне оприлюднення Anthropic своєї політики «зловживання виборами» з’явилося на тлі того, що штучний інтелект може масово генерувати неправдиву та оманливу інформацію, зображення та відео. тривога в усьому світі.
Мета реалізовані правила rобмеження використання своїх інструментів ШІ в політиці минулої осені, і OpenAI має подібну політику.
Anthropic каже, що його політичний захист поділяється на три основні категорії: розробка та впровадження політики, пов’язаної з виборчими питаннями, оцінка та тестування моделей проти потенційних зловживань, а також направлення користувачів до точної інформації про голосування.
Антропні політика прийнятного використання— з якою всі користувачі нібито погоджуються, перш ніж отримати доступ до Claude — забороняє використовувати його інструменти ШІ для політичних кампаній і лобістських зусиль. Компанія повідомила, що порушникам буде видано попередження та призупинено обслуговування, а також запроваджено процес перевірки людьми.
Компанія також проводить ретельний «red-teaming» своїх систем: агресивні, скоординовані спроби відомих партнерів «втекти з в’язниці» або іншим чином використати Клода в мерзенних цілях.
«Ми тестуємо, як наша система реагує на підказки, які порушують нашу політику прийнятного використання, [наприклад] підказки, які запитують інформацію про тактику придушення виборців», — пояснює Anthropic. Крім того, компанія заявила, що розробила набір тестів для забезпечення «політичного паритету» — порівняльного представлення кандидатів і тем.
У США Антропік співпрацює з TurboVote щоб допомогти виборцям отримати достовірну інформацію замість використання генеративного інструменту ШІ.
«Якщо користувач із США запитує інформацію про голосування, у спливаючому вікні користувачеві буде запропоновано перенаправити його на TurboVote, ресурс позапартійної організації Democracy Works», — пояснив Anthropic, рішення, яке буде розгорнуто «над наступні кілька тижнів» — з планами додати подібні заходи в інших країнах.
As Розшифрувати Раніше повідомлялося, OpenAI, компанія, що стоїть за ChatGPT, вживає подібних заходів, перенаправляючи користувачів на позапартійний веб-сайт CanIVote.org.
Зусилля Anthropic узгоджуються з ширшим рухом у технологічній індустрії, спрямованим на вирішення проблем, які ШІ створює для демократичних процесів. Наприклад, Федеральна комісія зі зв’язку США нещодавно заборонила використання створеного ШІ глибокі підроблені голоси в автоматичних викликах, рішення, яке підкреслює терміновість регулювання застосування ШІ в політичній сфері.
Як і у Facebook, у Microsoft є оголошених ініціатив для боротьби з оманливою політичною рекламою, створеною штучним інтелектом, запровадивши «Облікові дані вмісту як послугу» та запустивши Центр зв’язку з виборами.
Що стосується кандидатів, які створюють свої версії штучного інтелекту, то OpenAI вже мав розглянути конкретний варіант використання. Компанія підвісний обліковий запис розробника після того, як дізнався, що вони створили бота, який імітує кандидата в президенти, члена палати представників Діна Філіпса. Цей крок був зроблений після того, як некомерційна організація Public Citizen подала петицію про зловживання штучним інтелектом у політичних кампаніях, яка просила регулятор заборонити генеративний штучний інтелект у політичних кампаніях.
Anthropic відмовився від подальших коментарів, а OpenAI не відповів на запит від Розшифрувати.
Будьте в курсі криптовалютних новин, отримуйте щоденні оновлення на свою поштову скриньку.
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://decrypt.co/217937/anthropic-claude-ai-chatbot-politics-elections-campaign-deepfake-rules