หาก Joe Biden ต้องการแชทบอท AI ที่ชาญฉลาดและใช้งานง่ายเพื่อตอบคำถามให้เขา ทีมรณรงค์ของเขาจะไม่สามารถใช้ Claude ซึ่งเป็นคู่แข่ง ChatGPT จาก Anthropic ได้ ตามที่บริษัทประกาศในวันนี้
“เราไม่อนุญาตให้ผู้สมัครใช้ Claude เพื่อสร้างแชทบอทที่สามารถแสร้งทำเป็นพวกเขา และเราไม่อนุญาตให้ใครก็ตามใช้ Claude สำหรับแคมเปญทางการเมืองแบบกำหนดเป้าหมาย” บริษัท ประกาศ. การละเมิดนโยบายนี้จะพบกับคำเตือนและระงับการเข้าถึงบริการของ Anthropic ในท้ายที่สุด
การแสดงออกต่อสาธารณะของ Anthropic เกี่ยวกับนโยบาย "การใช้การเลือกตั้งในทางที่ผิด" เกิดขึ้นเนื่องจากศักยภาพของ AI ในการสร้างข้อมูล รูปภาพ และวิดีโอที่เป็นเท็จและทำให้เข้าใจผิดเป็นจำนวนมาก ทำให้เกิดเสียงระฆังปลุกทั่วโลก.
Meta ใช้กฎ rการจำกัดการใช้เครื่องมือ AI ในการเมือง ฤดูใบไม้ร่วงที่แล้ว และ OpenAI ก็มีนโยบายที่คล้ายกัน
Anthropic กล่าวว่าการคุ้มครองทางการเมืองแบ่งออกเป็น 3 ประเภทหลักๆ ได้แก่ การพัฒนาและการบังคับใช้นโยบายที่เกี่ยวข้องกับประเด็นการเลือกตั้ง การประเมินและทดสอบแบบจำลองต่อการใช้ในทางที่ผิดที่อาจเกิดขึ้น และการนำทางผู้ใช้ไปยังข้อมูลการลงคะแนนที่ถูกต้อง
แอนโทรปิกส์ นโยบายการใช้งานที่ยอมรับได้ซึ่งผู้ใช้ทุกคนเห็นพ้องต้องกันก่อนที่จะเข้าถึง Claude ขัดขวางการใช้เครื่องมือ AI สำหรับการรณรงค์ทางการเมืองและการล็อบบี้ บริษัทกล่าวว่าจะมีการเตือนและการระงับการให้บริการสำหรับผู้ฝ่าฝืน โดยมีกระบวนการตรวจสอบโดยเจ้าหน้าที่
บริษัทยังดำเนินการ "ทีมสีแดง" อย่างเข้มงวดของระบบ: ความพยายามเชิงรุกและการประสานงานโดยพันธมิตรที่รู้จักในการ "เจลเบรค" หรือใช้ Claude เพื่อวัตถุประสงค์ที่ชั่วร้าย
“เราทดสอบว่าระบบของเราตอบสนองต่อการแจ้งเตือนที่ละเมิดนโยบายการใช้งานที่ยอมรับได้ของเราอย่างไร [ตัวอย่าง] แจ้งให้ขอข้อมูลเกี่ยวกับกลยุทธ์ในการปราบปรามผู้มีสิทธิเลือกตั้ง” Anthropic อธิบาย นอกจากนี้ บริษัทยังกล่าวอีกว่าได้พัฒนาชุดการทดสอบเพื่อให้แน่ใจว่า “ความเท่าเทียมกันทางการเมือง” – เป็นตัวแทนเปรียบเทียบระหว่างผู้สมัครและหัวข้อต่างๆ
ในสหรัฐอเมริกามานุษยวิทยา ร่วมมือกับ TurboVote เพื่อช่วยเหลือผู้ลงคะแนนด้วยข้อมูลที่เชื่อถือได้ แทนที่จะใช้เครื่องมือ AI ที่สร้างขึ้น
“หากผู้ใช้ในสหรัฐฯ ขอข้อมูลการลงคะแนนเสียง ป๊อปอัปจะเสนอตัวเลือกให้ผู้ใช้เปลี่ยนเส้นทางไปยัง TurboVote ซึ่งเป็นทรัพยากรจากองค์กรที่ไม่ฝักใฝ่ฝ่ายใด Democracy Works” Anthropic อธิบาย ซึ่งเป็นโซลูชันที่จะนำไปใช้งาน “เหนือ ไม่กี่สัปดาห์ข้างหน้า” โดยมีแผนจะเพิ่มมาตรการที่คล้ายกันในประเทศอื่นๆ ต่อไป
As ถอดรหัส รายงานก่อนหน้านี้, OpenAI ซึ่งเป็นบริษัทที่อยู่เบื้องหลัง ChatGPT กำลังดำเนินการตามขั้นตอนที่คล้ายกัน โดยเปลี่ยนเส้นทางผู้ใช้ไปยังเว็บไซต์ CanIVote.org ที่ไม่ฝักใฝ่ฝ่ายใด
ความพยายามของ Anthropic สอดคล้องกับการเคลื่อนไหวในวงกว้างภายในอุตสาหกรรมเทคโนโลยีเพื่อจัดการกับความท้าทายที่ AI ก่อให้เกิดต่อกระบวนการประชาธิปไตย ตัวอย่างเช่น คณะกรรมการกลางกำกับดูแลกิจการสื่อสารแห่งสหรัฐอเมริกา (US Federal Communications Commission) เพิ่งห้ามการใช้ AI ที่สร้างไว้ เสียงปลอมใน robocallsซึ่งเป็นการตัดสินใจที่เน้นย้ำถึงความเร่งด่วนในการควบคุมการประยุกต์ใช้ AI ในแวดวงการเมือง
เช่นเดียวกับ Facebook Microsoft ก็มี ประกาศความคิดริเริ่ม เพื่อต่อสู้กับโฆษณาทางการเมืองที่สร้างโดย AI ที่ทำให้เข้าใจผิด การแนะนำ "ข้อมูลรับรองเนื้อหาเป็นบริการ" และเปิดตัวศูนย์กลางการสื่อสารการเลือกตั้ง
สำหรับผู้สมัครที่สร้างเวอร์ชัน AI ของตัวเอง OpenAI จำเป็นต้องจัดการกับกรณีการใช้งานเฉพาะอยู่แล้ว บริษัท ที่ถูกระงับ บัญชีของนักพัฒนาซอฟต์แวร์หลังจากพบว่าพวกเขาสร้างบอทเลียนแบบตัวแทนผู้หวังชิงตำแหน่งประธานาธิบดี ดีน ฟิลลิปส์ ความเคลื่อนไหวดังกล่าวเกิดขึ้นหลังจากการยื่นคำร้องเกี่ยวกับการใช้ AI ในทางที่ผิดในการรณรงค์ทางการเมืองโดยองค์กรไม่แสวงหาผลกำไร Public Citizen โดยขอให้หน่วยงานกำกับดูแลสั่งห้ามการสร้าง AI ในการรณรงค์ทางการเมือง
Anthropic ปฏิเสธความคิดเห็นเพิ่มเติม และ OpenAI ไม่ตอบสนองต่อการสอบถามจาก ถอดรหัส.
ติดตามข่าวสาร crypto รับการอัปเดตทุกวันในกล่องจดหมายของคุณ
- เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
- PlatoData.Network Vertical Generative Ai เพิ่มพลังให้กับตัวเอง เข้าถึงได้ที่นี่.
- เพลโตไอสตรีม. Web3 อัจฉริยะ ขยายความรู้ เข้าถึงได้ที่นี่.
- เพลโตESG. คาร์บอน, คลีนเทค, พลังงาน, สิ่งแวดล้อม แสงอาทิตย์, การจัดการของเสีย. เข้าถึงได้ที่นี่.
- เพลโตสุขภาพ เทคโนโลยีชีวภาพและข่าวกรองการทดลองทางคลินิก เข้าถึงได้ที่นี่.
- ที่มา: https://decrypt.co/217937/anthropic-claude-ai-chatbot-politics-elections-campaign-deepfake-rules