Se Joe Biden quiser um chatbot de IA inteligente e folclórico para responder perguntas para ele, sua equipe de campanha não poderá usar Claude, o concorrente ChatGPT da Anthropic, anunciou a empresa hoje.
“Não permitimos que candidatos usem Claude para construir chatbots que possam fingir ser eles, e não permitimos que ninguém use Claude para campanhas políticas direcionadas”, disse a empresa. anunciou. As violações desta política serão recebidas com advertências e, em última análise, suspensão do acesso aos serviços da Anthropic.
A articulação pública da Antrópico sobre sua política de “uso indevido eleitoral” ocorre no momento em que o potencial da IA para gerar em massa informações, imagens e vídeos falsos e enganosos é reduzido. disparando sinos de alarme em todo o mundo.
Regras metaimplementadas rrestringindo o uso de suas ferramentas de IA na política no outono passado, e a OpenAI tem políticas semelhantes.
A Antrópico disse que suas proteções políticas se enquadram em três categorias principais: desenvolvimento e aplicação de políticas relacionadas a questões eleitorais, avaliação e teste de modelos contra possíveis usos indevidos e direcionamento dos usuários para informações eleitorais precisas.
antrópicos Política de Utilização Aceitável– com o qual todos os usuários concordam ostensivamente antes de acessar Claude – proíbe a utilização de suas ferramentas de IA para campanhas políticas e esforços de lobby. A empresa disse que haverá advertências e suspensões de serviço para os infratores, com um processo de revisão humana em vigor.
A empresa também conduz um rigoroso “red-teaming” de seus sistemas: tentativas agressivas e coordenadas de parceiros conhecidos de fazer “jailbreak” ou de outra forma usar Claude para fins nefastos.
“Testamos como nosso sistema responde a solicitações que violam nossa política de uso aceitável, [por exemplo] solicitações que solicitam informações sobre táticas de supressão de eleitores”, explica a Anthropic. Além disso, a empresa disse que desenvolveu um conjunto de testes para garantir “paridade política” – representação comparativa entre candidatos e tópicos.
Nos Estados Unidos, Antrópico parceria com TurboVote para ajudar os eleitores com informações confiáveis, em vez de usar sua ferramenta generativa de IA.
“Se um usuário baseado nos EUA solicitar informações de votação, um pop-up oferecerá ao usuário a opção de ser redirecionado para o TurboVote, um recurso da organização apartidária Democracy Works”, explicou Anthropic, uma solução que será implantada “durante o próximas semanas” – com planos de adicionar medidas semelhantes em outros países nas próximas semanas.
As Descifrar relatado anteriormente, OpenAI, a empresa por trás do ChatGPT, está tomando medidas semelhantes, redirecionando os usuários para o site apartidário CanIVote.org.
Os esforços da Antrópico alinham-se com um movimento mais amplo dentro da indústria tecnológica para enfrentar os desafios que a IA coloca aos processos democráticos. Por exemplo, a Comissão Federal de Comunicações dos EUA proibiu recentemente o uso de tecnologias geradas por IA vozes falsas em chamadas automáticas, uma decisão que sublinha a urgência de regulamentar a aplicação da IA na esfera política.
Assim como o Facebook, a Microsoft iniciativas anunciadas para combater anúncios políticos enganosos gerados por IA, introduzindo “Credenciais de Conteúdo como Serviço” e lançando um Centro de Comunicações Eleitorais.
Quanto aos candidatos que criam versões de IA de si mesmos, a OpenAI já teve que lidar com o caso de uso específico. A empresa suspenso a conta de um desenvolvedor depois de descobrir que eles criaram um bot que imita o candidato à presidência, o deputado Dean Phillips. A mudança aconteceu depois que uma petição abordando o uso indevido de IA em campanhas políticas foi apresentada pela organização sem fins lucrativos Public Citizen, pedindo ao regulador que proibisse a IA generativa em campanhas políticas.
A Anthropic recusou mais comentários e a OpenAI não respondeu a uma consulta de Descifrar.
Fique por dentro das notícias sobre criptomoedas, receba atualizações diárias em sua caixa de entrada.
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
- PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
- PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
- PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
- Fonte: https://decrypt.co/217937/anthropic-claude-ai-chatbot-politics-elections-campaign-deepfake-rules