Anthropic สร้างแชทบอท AI ที่เป็นประชาธิปไตยโดยอนุญาตให้ผู้ใช้เลือกหลักการได้

ในการสำรวจความสามารถของ AI อย่างก้าวล้ำ Anthropic ซึ่งเป็นบริษัทปัญญาประดิษฐ์ (AI) ได้ปรับแต่งโมเดลภาษาขนาดใหญ่ (LLM) เพื่อสะท้อนถึงคุณค่าที่ผู้ใช้กำหนด การศึกษาพิเศษนี้เกี่ยวข้องกับการรวบรวมข้อมูลจากผู้เข้าร่วม 1,000 คนเพื่อปรับแต่งคำตอบของ LLM ตามการตัดสินโดยรวมของพวกเขา

แตกต่างจาก LLM ทั่วไปที่มีราวกั้นที่กำหนดไว้ล่วงหน้าเพื่อจำกัดเอาต์พุตบางอย่าง แนวทางของ Anthropic เปิดรับหน่วยงานผู้ใช้ โมเดลอย่าง Claude จาก Anthropic และ ChatGPT จาก OpenAI มักจะปฏิบัติตามการตอบสนองด้านความปลอดภัยที่กำหนดไว้ล่วงหน้า โดยเฉพาะอย่างยิ่งเกี่ยวกับหัวข้อที่ละเอียดอ่อน อย่างไรก็ตาม นักวิจารณ์โต้แย้งว่าการแทรกแซงดังกล่าวอาจกระทบต่อความเป็นอิสระของผู้ใช้ เนื่องจากคำจำกัดความของการยอมรับจะแตกต่างกันไปและขึ้นอยู่กับแต่ละวัฒนธรรมและช่วงเวลา

วิธีแก้ปัญหาที่เป็นไปได้สำหรับความท้าทายที่ซับซ้อนนี้คือการเสริมศักยภาพให้ผู้ใช้สามารถกำหนดการจัดวางค่าของโมเดล AI ได้ Anthropic เริ่มดำเนินการทดลอง "Collective Constitutional AI" โดยร่วมมือกับ Polis และ Collective Intelligence Project ผู้ใช้ 1,000 รายจากภูมิหลังที่หลากหลายมีส่วนร่วม โดยตั้งคำถามผ่านการสำรวจความคิดเห็นเพื่อรวบรวมข้อมูลเชิงลึกอันมีค่า

การทดลองเกี่ยวข้องกับการให้สิทธิ์แก่ผู้ใช้ในการพิจารณาความเหมาะสมโดยไม่เปิดเผยผลลัพธ์ที่ไม่พึงประสงค์ กระบวนการนี้เกี่ยวข้องกับการดึงคุณค่าของผู้ใช้ออกมาและรวมเข้ากับแบบจำลองที่ได้รับการฝึกอบรมล่วงหน้า Anthropic ใช้เทคนิคที่เรียกว่า "Constitutional AI" โดยที่แบบจำลองดังกล่าวมีชุดกฎเกณฑ์ที่ต้องปฏิบัติตาม คล้ายกับรัฐธรรมนูญที่ชี้แนะแนวทางการปกครองในประเทศต่างๆ

ในการทดลอง Collective Constitutional AI นั้น Anthropic มีเป้าหมายที่จะรวมความคิดเห็นจากกลุ่มผู้ใช้เข้ากับรัฐธรรมนูญของแบบจำลอง ตามโพสต์บนบล็อกของ Anthropic ผลลัพธ์ที่ได้ชี้ให้เห็นถึงความสำเร็จทางวิทยาศาสตร์ โดยให้ความกระจ่างเกี่ยวกับความท้าทายที่เกี่ยวข้องกับการอนุญาตให้ผู้ใช้ร่วมกันกำหนดคุณค่าของผลิตภัณฑ์ LLM

อุปสรรคสำคัญที่ทีมงานต้องเผชิญคือการพัฒนากระบวนการเปรียบเทียบใหม่ เมื่อพิจารณาถึงลักษณะการบุกเบิกของการทดลอง และการพึ่งพาวิธี Constitutional AI ของ Anthropic ยังไม่มีการทดสอบที่ชัดเจนสำหรับการเปรียบเทียบแบบจำลองพื้นฐานกับแบบจำลองที่ได้รับการปรับแต่งอย่างละเอียดโดยใช้ค่าที่มาจากฝูงชน

ในท้ายที่สุด ดูเหมือนว่าโมเดลที่รวมข้อมูลที่ได้จากความคิดเห็นของผู้ใช้โพลมีการปรับปรุง "เล็กน้อย" เหนือโมเดลพื้นฐานในการบรรเทาเอาต์พุตที่มีอคติ Anthropic แสดงออกถึงความตื่นเต้นไม่เพียงแต่เกี่ยวกับโมเดลผลลัพธ์เท่านั้น แต่ที่สำคัญกว่านั้นคือเกี่ยวกับกระบวนการที่ก้าวล้ำด้วยตัวมันเอง การทดลองนี้แสดงถึงหนึ่งในกรณีเริ่มต้นที่สาธารณชนโดยรวมตั้งใจมีอิทธิพลต่อพฤติกรรมของแบบจำลองภาษาขนาดใหญ่ ความหวังก็คือชุมชนทั่วโลกจะสร้างเทคนิคดังกล่าวเพื่อพัฒนาแบบจำลองที่สอดคล้องกับความต้องการทางวัฒนธรรมและบริบทเฉพาะของพวกเขา