Joe Biden이 자신의 질문에 답해 줄 똑똑하고 친근한 AI 챗봇을 원한다면 그의 캠페인 팀은 Anthropic의 ChatGPT 경쟁자인 Claude를 사용할 수 없을 것이라고 회사가 오늘 발표했습니다.
"우리는 후보자가 Claude를 사용하여 자신인 것처럼 가장할 수 있는 챗봇을 구축하는 것을 허용하지 않으며, 누구든지 타겟 정치 캠페인에 Claude를 사용하는 것을 허용하지 않습니다." 발표. 이 정책을 위반할 경우 경고를 받게 되며 궁극적으로 Anthropic 서비스에 대한 액세스가 정지됩니다.
Anthropic이 "선거 오용" 정책을 공개적으로 밝힌 것은 AI가 허위 및 오해의 소지가 있는 정보, 이미지 및 비디오를 대량 생성할 가능성이 있기 때문입니다. 전 세계적으로 경보 벨을 울림.
메타 구현 규칙 r정치에서 AI 도구의 사용을 제한합니다. 지난 가을, OpenAI도 비슷한 정책을 가지고 있습니다.
Anthropic은 자사의 정치적 보호가 선거 문제와 관련된 정책 개발 및 시행, 잠재적인 오용에 대비한 모델 평가 및 테스트, 사용자에게 정확한 투표 정보 안내 등 세 가지 주요 범주로 분류된다고 말했습니다.
인류학 수용 가능한 사용 정책— 모든 사용자가 Claude에 액세스하기 전에 표면적으로 동의하는 — 정치 캠페인 및 로비 활동을 위한 AI 도구의 활용을 금지합니다. 회사는 위반자에 대한 경고 및 서비스 중단이 있을 것이며 사람의 검토 프로세스가 시행될 것이라고 말했습니다.
회사는 또한 시스템에 대해 엄격한 "레드팀 구성"을 수행합니다. 즉, 알려진 파트너가 "탈옥"하거나 사악한 목적으로 Claude를 사용하려는 공격적이고 조직적인 시도를 수행합니다.
Anthropic은 “우리 시스템이 우리의 허용 가능한 사용 정책을 위반하는 프롬프트(예: 유권자 진압 전술에 대한 정보를 요청하는 프롬프트)에 어떻게 반응하는지 테스트합니다.”라고 설명합니다. 또한 회사는 후보자와 주제 전반에 걸쳐 비교 표현인 '정치적 동등성'을 보장하기 위한 일련의 테스트를 개발했다고 밝혔습니다.
미국에서는 인류학 TurboVote와 제휴 생성적 AI 도구를 사용하는 대신 신뢰할 수 있는 정보로 유권자에게 도움을 줍니다.
"미국 기반 사용자가 투표 정보를 요청하면 팝업이 사용자에게 초당파 조직인 Democracy Works의 리소스인 TurboVote로 리디렉션할 수 있는 옵션을 제공합니다."라고 Anthropic은 설명했습니다. 앞으로 몇 주 동안”—다음에는 다른 국가에서도 유사한 조치를 추가할 계획입니다.
As 해독 이전에보고, ChatGPT 뒤에 있는 회사인 OpenAI는 유사한 조치를 취하고 사용자를 초당파 웹사이트 CanIVote.org로 리디렉션하고 있습니다.
Anthropic의 노력은 AI가 민주적 프로세스에 제기하는 문제를 해결하기 위한 기술 산업 내의 광범위한 움직임과 일치합니다. 예를 들어, 미국 연방통신위원회(Federal Communications Commission)는 최근 AI로 생성된 데이터의 사용을 불법화했습니다. 자동녹음전화의 딥페이크 목소리이는 정치 분야에서 AI 적용을 규제하는 것이 시급함을 강조하는 결정입니다.
페이스북과 마찬가지로 마이크로소프트도 발표된 이니셔티브 오해의 소지가 있는 AI 생성 정치 광고에 맞서기 위해 "서비스로서의 콘텐츠 자격 증명"을 도입하고 선거 커뮤니케이션 허브를 시작합니다.
자신의 AI 버전을 만드는 후보자의 경우 OpenAI는 이미 특정 사용 사례를 다루어야 했습니다. 그 회사 정지 대선 후보인 딘 필립스(Dean Phillips) 하원의원을 모방한 봇을 만들었다는 사실을 알게 된 한 개발자의 계정. 이러한 움직임은 비영리단체 퍼블릭 시티즌(Public Citizen)이 정치 캠페인에서 AI 오용을 다루는 청원서를 제출하고 규제 당국에 정치 캠페인에서 생성 AI를 금지해 줄 것을 요청한 이후에 이루어졌습니다.
Anthropic은 추가 논평을 거부했으며 OpenAI는 문의에 응답하지 않았습니다. 해독.
암호화 뉴스를 최신 상태로 유지하고 받은 편지함에서 매일 업데이트를 받으십시오.