Nếu Joe Biden muốn một chatbot AI thông minh và thân thiện trả lời các câu hỏi cho anh ấy, thì nhóm vận động tranh cử của anh ấy sẽ không thể sử dụng Claude, đối thủ cạnh tranh ChatGPT của Anthropic, công ty đã thông báo hôm nay.
Công ty cho biết: “Chúng tôi không cho phép các ứng cử viên sử dụng Claude để xây dựng các chatbot có thể giả vờ là họ và chúng tôi không cho phép bất kỳ ai sử dụng Claude cho các chiến dịch chính trị có mục tiêu”. công bố. Những hành vi vi phạm chính sách này sẽ bị cảnh cáo và cuối cùng là đình chỉ quyền truy cập vào các dịch vụ của Anthropic.
Tuyên bố công khai của Anthropic về chính sách “lạm dụng bầu cử” của mình được đưa ra khi khả năng AI tạo ra hàng loạt thông tin, hình ảnh và video sai lệch và gây hiểu lầm là rất lớn. gióng lên hồi chuông cảnh báo trên toàn thế giới.
Quy tắc triển khai meta rhạn chế sử dụng các công cụ AI trong chính trị mùa thu năm ngoái và OpenAI cũng có chính sách tương tự.
Anthropic cho biết các biện pháp bảo vệ chính trị của họ thuộc ba loại chính: phát triển và thực thi các chính sách liên quan đến vấn đề bầu cử, đánh giá và thử nghiệm các mô hình chống lại các hành vi lạm dụng tiềm ẩn và hướng người dùng đến thông tin bỏ phiếu chính xác.
nhân chủng học chính sách sử dụng chấp nhận được—mà tất cả người dùng đều đồng ý trước khi truy cập vào Claude — cấm sử dụng các công cụ AI của nó cho các nỗ lực vận động chính trị và vận động hành lang. Công ty cho biết sẽ có cảnh báo và đình chỉ dịch vụ đối với những người vi phạm, đồng thời áp dụng quy trình xem xét con người.
Công ty cũng tiến hành “đội đỏ” nghiêm ngặt trong các hệ thống của mình: các nỗ lực tích cực, phối hợp của các đối tác đã biết để “bẻ khóa” hoặc sử dụng Claude cho các mục đích bất chính.
Anthropic giải thích: “Chúng tôi kiểm tra cách hệ thống của chúng tôi phản ứng với những lời nhắc vi phạm chính sách sử dụng được chấp nhận của chúng tôi, [ví dụ] những lời nhắc yêu cầu thông tin về các chiến thuật đàn áp cử tri”. Ngoài ra, công ty cho biết họ đã phát triển một bộ bài kiểm tra để đảm bảo “sự bình đẳng về chính trị” —sự đại diện mang tính so sánh giữa các ứng cử viên và chủ đề.
Tại Hoa Kỳ, Nhân chủng học hợp tác với TurboVote để giúp cử tri có thông tin đáng tin cậy thay vì sử dụng công cụ AI tổng hợp của nó.
“Nếu người dùng ở Hoa Kỳ yêu cầu thông tin bỏ phiếu, một cửa sổ bật lên sẽ cung cấp cho người dùng tùy chọn để được chuyển hướng đến TurboVote, một tài nguyên từ tổ chức phi đảng phái Democracy Works,” Anthropic giải thích, một giải pháp sẽ được triển khai “trên vài tuần tới”—với kế hoạch bổ sung các biện pháp tương tự ở các quốc gia khác trong thời gian tới.
As Giải mã báo cáo trước đây, OpenAI, công ty đứng sau ChatGPT cũng đang thực hiện các bước tương tự, chuyển hướng người dùng đến trang web phi đảng phái CanIVote.org.
Những nỗ lực của Anthropic phù hợp với phong trào rộng lớn hơn trong ngành công nghệ nhằm giải quyết những thách thức mà AI đặt ra cho các quy trình dân chủ. Chẳng hạn, Ủy ban Truyền thông Liên bang Hoa Kỳ gần đây đã cấm sử dụng các thiết bị do AI tạo ra. giọng nói giả sâu trong cuộc gọi tự động, một quyết định nhấn mạnh tính cấp thiết của việc điều chỉnh ứng dụng AI trong lĩnh vực chính trị.
Giống như Facebook, Microsoft có công bố sáng kiến để chống lại các quảng cáo chính trị gây hiểu lầm do AI tạo ra, giới thiệu “Thông tin xác thực nội dung dưới dạng dịch vụ” và ra mắt Trung tâm truyền thông bầu cử.
Đối với các ứng viên tự tạo phiên bản AI, OpenAI đã phải giải quyết trường hợp sử dụng cụ thể. Công ty đình chỉ tài khoản của một nhà phát triển sau khi phát hiện ra họ đã tạo ra một bot bắt chước Hạ nghị sĩ đầy hy vọng của tổng thống Dean Phillips. Động thái này xảy ra sau khi tổ chức phi lợi nhuận Public Citizen đưa ra một kiến nghị đề cập đến việc lạm dụng AI trong các chiến dịch chính trị, yêu cầu cơ quan quản lý cấm AI sáng tạo trong các chiến dịch chính trị.
Anthropic từ chối bình luận thêm và OpenAI cũng không trả lời câu hỏi từ Giải mã.
Luôn cập nhật tin tức về tiền điện tử, cập nhật hàng ngày trong hộp thư đến của bạn.
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://decrypt.co/217937/anthropic-claude-ai-chatbot-politics-elections-campaign-deepfake-rules