ระบบ AI ควรทำงานอย่างไร และใครควรเป็นผู้ตัดสินใจ

ในการปฏิบัติตามพันธกิจของเรา เรามุ่งมั่นที่จะทำให้มั่นใจว่าการเข้าถึง ผลประโยชน์จาก และอิทธิพลเหนือ AI และ AGI นั้นแพร่หลาย เราเชื่อว่ามีอย่างน้อยสามองค์ประกอบที่จำเป็นเพื่อให้บรรลุเป้าหมายเหล่านี้ในบริบทของพฤติกรรมของระบบ AI^{[^ขอบเขต]}

1. ปรับปรุงพฤติกรรมเริ่มต้น. เราต้องการให้ผู้ใช้จำนวนมากที่สุดเท่าที่เป็นไปได้พบว่าระบบ AI ของเรามีประโยชน์สำหรับพวกเขา "นอกกรอบ" และรู้สึกว่าเทคโนโลยีของเราเข้าใจและเคารพในคุณค่าของพวกเขา

ด้วยเหตุนี้ เรากำลังลงทุนในการวิจัยและวิศวกรรมเพื่อลดทั้งความลำเอียงและอคติเล็กน้อยในวิธีที่ ChatGPT ตอบสนองต่ออินพุตต่างๆ ในบางกรณี ปัจจุบัน ChatGPT ปฏิเสธเอาต์พุตที่ไม่ควร และในบางกรณี ก็ไม่ปฏิเสธเมื่อควร เราเชื่อว่าการปรับปรุงทั้งสองด้านเป็นไปได้

นอกจากนี้ เรายังมีช่องว่างสำหรับการปรับปรุงในมิติอื่นๆ ของพฤติกรรมของระบบ เช่น ระบบ "สร้างสิ่งต่างๆ" คำติชมจากผู้ใช้มีค่ามากสำหรับการปรับปรุงเหล่านี้

2. กำหนดค่า AI ของคุณภายในขอบเขตกว้างๆ. เราเชื่อว่า AI ควรเป็นเครื่องมือที่มีประโยชน์สำหรับแต่ละบุคคล และด้วยเหตุนี้ผู้ใช้แต่ละคนจึงสามารถปรับแต่งได้จนถึงขีดจำกัดที่กำหนดโดยสังคม ดังนั้นเราจึงพัฒนาการอัปเกรดเป็น ChatGPT เพื่อให้ผู้ใช้สามารถปรับแต่งลักษณะการทำงานได้อย่างง่ายดาย

นี่หมายถึงการอนุญาตเอาต์พุตของระบบที่คนอื่น (รวมถึงเราด้วย) อาจไม่เห็นด้วยอย่างยิ่ง การสร้างสมดุลที่เหมาะสมที่นี่จะเป็นเรื่องท้าทาย การปรับแต่งจนถึงขีดสุดอาจเสี่ยงต่อการเปิดใช้ การใช้งานที่เป็นอันตราย ของเทคโนโลยีและ AIs ไซโคแฟนติกของเราที่ขยายความเชื่อที่มีอยู่ของผู้คนอย่างไร้สติ

ดังนั้นจะมีขอบเขตบางอย่างเกี่ยวกับพฤติกรรมของระบบเสมอ ความท้าทายคือการกำหนดขอบเขตเหล่านั้น หากเราพยายามตัดสินใจทั้งหมดเหล่านี้ด้วยตัวเราเอง หรือหากเราพยายามพัฒนาระบบ AI ขนาดใหญ่เพียงระบบเดียว เราจะล้มเหลวในความมุ่งมั่นที่เราให้ไว้ในกฎบัตรของเราที่จะ “หลีกเลี่ยงการรวมศูนย์ของอำนาจที่ไม่เหมาะสม”

3. การป้อนข้อมูลสาธารณะเกี่ยวกับค่าเริ่มต้นและขอบเขตที่กำหนด. วิธีหนึ่งที่จะหลีกเลี่ยงการรวมศูนย์อำนาจมากเกินไปคือการให้ผู้ที่ใช้หรือได้รับผลกระทบจากระบบเช่น ChatGPT สามารถมีอิทธิพลต่อกฎของระบบเหล่านั้นได้

เราเชื่อว่าการตัดสินใจหลายๆ อย่างเกี่ยวกับค่าเริ่มต้นและขอบเขตจำกัดของเราควรทำร่วมกัน และในขณะที่การนำไปใช้จริงเป็นสิ่งที่ท้าทาย เราตั้งเป้าที่จะรวมมุมมองต่างๆ ให้มากที่สุดเท่าที่จะเป็นไปได้ จากจุดเริ่มต้น เราได้ขอข้อมูลจากภายนอกเกี่ยวกับเทคโนโลยีของเราในรูปแบบของ ทีมสีแดง. เรายังเพิ่งเริ่มต้น เรียกร้องความคิดเห็นของประชาชน เกี่ยวกับ AI ในการศึกษา (บริบทที่สำคัญอย่างยิ่งประการหนึ่งในการใช้เทคโนโลยีของเรา)

เรากำลังอยู่ในช่วงเริ่มต้นของความพยายามนำร่องในการขอความคิดเห็นจากสาธารณะในหัวข้อต่างๆ เช่น พฤติกรรมของระบบ กลไกการเปิดเผยข้อมูล (เช่น ลายน้ำ) และนโยบายการปรับใช้ในวงกว้างมากขึ้น เรากำลังสำรวจความร่วมมือกับองค์กรภายนอกเพื่อดำเนินการตรวจสอบโดยบุคคลที่สามเกี่ยวกับความปลอดภัยและความพยายามด้านนโยบายของเรา

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• เพลโตบล็อคเชน Web3 Metaverse ข่าวกรอง ขยายความรู้. เข้าถึงได้ที่นี่.
• ที่มา: https://openai.com/blog/how-should-ai-systems-behave