นักวิทยาศาสตร์สร้าง 'OpinionGPT' เพื่อสำรวจอคติของมนุษย์อย่างชัดเจน และคุณสามารถทดสอบได้ด้วยตัวเอง

ทีมนักวิจัยจาก Humboldt-Universitat zu Berlin ได้พัฒนาแบบจำลองปัญญาประดิษฐ์ที่ใช้ภาษาขนาดใหญ่ โดยมีความแตกต่างจากการปรับแต่งอย่างตั้งใจเพื่อสร้างผลลัพธ์ที่มีอคติที่แสดงออก

เรียกว่า OpinionGPT โมเดลของทีมนั้นเป็นรุ่นที่ปรับแต่งมาจาก Meta's Llama 2 ซึ่งเป็นระบบ AI ที่มีความสามารถคล้ายกับ ChatGPT ของ OpenAI หรือ Claude 2 ของ Anthropic

การใช้กระบวนการที่เรียกว่าการปรับแต่งตามคำสั่ง OpinionGPT สามารถตอบสนองต่อข้อความแจ้งได้ราวกับเป็นตัวแทนของกลุ่มอคติกลุ่มใดกลุ่มหนึ่งจาก 11 กลุ่ม ได้แก่ อเมริกัน เยอรมัน ละตินอเมริกา ตะวันออกกลาง วัยรุ่น ผู้ที่มีอายุมากกว่า 30 ปี ผู้สูงวัย ผู้ชาย ผู้หญิง เสรีนิยม หรืออนุรักษ์นิยม

ประกาศ “OpinionGPT: โมเดล GPT ที่มีอคติมาก”! ลองที่นี่: https://t.co/5YJjHlcV4n
ในการตรวจสอบผลกระทบของอคติต่อคำตอบของแบบจำลอง เราถามคำถามง่ายๆ: จะเกิดอะไรขึ้นถ้าเราปรับ #จีพีที เป็นแบบอย่างที่เขียนโดยบุคคลที่ฝักใฝ่ฝ่ายขวาทางการเมืองเท่านั้นหรือ?

[1 / 3]

— อลัน อัคบิก (@alan_akbik) September 8, 2023

OpinionGPT ได้รับการปรับปรุงจากคลังข้อมูลที่ได้มาจากชุมชน "AskX" ที่เรียกว่า subreddits บน Reddit ตัวอย่างของ subreddits เหล่านี้ได้แก่ “Ask a Woman” และ “Ask an American”

ทีมงานเริ่มต้นด้วยการค้นหา subreddits ที่เกี่ยวข้องกับอคติเฉพาะ 11 ประการ และดึงโพสต์ที่ได้รับความนิยมสูงสุด 25 โพสต์จากแต่ละโพสต์ จากนั้นพวกเขาจะเก็บเฉพาะโพสต์ที่ตรงตามเกณฑ์ขั้นต่ำสำหรับการโหวตเห็นด้วย ไม่มีเครื่องหมายคำพูดฝังอยู่ และมีความยาวน้อยกว่า 80 คำ

กับสิ่งที่เหลืออยู่ก็ดูเหมือนกับว่าพวกเขาใช้ เข้าใกล้ คล้ายกับ Constitutional AI ของ Anthropic แทนที่จะสร้างโมเดลใหม่ทั้งหมดเพื่อเป็นตัวแทนแต่ละป้ายอคติ พวกเขาได้ปรับแต่งโมเดล Llama7 ที่มีพารามิเตอร์ 2 พันล้านพารามิเตอร์เดี่ยวอย่างละเอียด โดยมีชุดคำสั่งแยกกันสำหรับอคติที่คาดหวังแต่ละรายการ

ที่เกี่ยวข้อง การใช้ AI บนโซเชียลมีเดียอาจส่งผลต่อความรู้สึกของผู้มีสิทธิเลือกตั้ง

ผลลัพธ์ขึ้นอยู่กับวิธีการ สถาปัตยกรรม และข้อมูล อธิบาย ในงานวิจัยของทีมเยอรมัน ดูเหมือนจะเป็นระบบ AI ที่ทำหน้าที่เป็นตัวสร้างภาพเหมารวมมากกว่าเครื่องมือสำหรับศึกษาอคติในโลกแห่งความเป็นจริง

เนื่องจากลักษณะของข้อมูลที่แบบจำลองได้รับการปรับปรุง และความสัมพันธ์ที่น่าสงสัยของข้อมูลนั้นกับป้ายกำกับที่กำหนด OpinionGPT ไม่จำเป็นต้องแสดงข้อความที่สอดคล้องกับอคติในโลกแห่งความเป็นจริงที่วัดได้ เพียงแสดงข้อความที่สะท้อนถึงอคติของข้อมูล

นักวิจัยเองก็ตระหนักถึงข้อจำกัดบางประการในการศึกษานี้ โดยเขียนว่า:

“ตัวอย่างเช่น คำตอบของ “ชาวอเมริกัน” ควรเข้าใจดีกว่าว่าเป็น 'ชาวอเมริกันที่โพสต์ใน Reddit' หรือแม้แต่ 'ชาวอเมริกันที่โพสต์ใน subreddit นี้โดยเฉพาะ' ในทำนองเดียวกัน 'ชาวเยอรมัน' ควรเข้าใจว่าเป็น 'ชาวเยอรมันที่โพสต์ใน subreddit นี้โดยเฉพาะ' เป็นต้น”

คำเตือนเหล่านี้สามารถปรับปรุงเพิ่มเติมได้โดยบอกว่าโพสต์นั้นมาจาก เช่น "คนที่อ้างว่าเป็นคนอเมริกันที่โพสต์ใน subreddit นี้โดยเฉพาะ" เนื่องจากไม่มีการกล่าวถึงในกระดาษเพื่อตรวจสอบว่าผู้โพสต์ที่อยู่เบื้องหลังโพสต์นั้นเป็นตัวแทนจริงหรือไม่ ของกลุ่มประชากรหรือกลุ่มอคติที่พวกเขาอ้างว่าเป็น

ผู้เขียนกล่าวต่อไปว่าพวกเขาตั้งใจที่จะสำรวจแบบจำลองที่แยกแยะกลุ่มประชากรเพิ่มเติม (เช่น เยอรมันเสรีนิยม เยอรมันอนุรักษ์นิยม)

ผลลัพธ์ที่ได้รับจาก OpinionGPT ดูเหมือนจะแตกต่างกันระหว่างการแสดงอคติที่พิสูจน์ได้ และความแตกต่างอย่างมากจากบรรทัดฐานที่กำหนดไว้ ทำให้เป็นการยากที่จะแยกแยะความมีชีวิตของมันในฐานะเครื่องมือในการวัดหรือค้นพบอคติที่แท้จริง

ตาม OpinionGPT ดังที่แสดงในภาพด้านบน ตัวอย่างเช่น ชาวละตินอเมริกามีอคติต่อบาสเก็ตบอลเป็นกีฬาโปรดของพวกเขา

อย่างไรก็ตามการวิจัยเชิงประจักษ์มีความชัดเจน บ่งชี้ว่า ฟุตบอล (เรียกอีกอย่างว่าฟุตบอลในบางประเทศ) และเบสบอลเป็นกีฬาที่ได้รับความนิยมมากที่สุดตามจำนวนผู้ชมและการมีส่วนร่วมทั่วทั้งละตินอเมริกา

ตารางเดียวกันยังแสดงให้เห็นว่า OpinionGPT แสดงผล "โปโลน้ำ" เป็นกีฬาโปรดเมื่อได้รับคำสั่งให้ตอบ "คำตอบของวัยรุ่น" ที่ดูเหมือนในทางสถิติ ไม่แน่ เพื่อเป็นตัวแทนของเด็กอายุ 13-19 ปีส่วนใหญ่ทั่วโลก

เช่นเดียวกับแนวคิดที่ว่าอาหารโปรดของคนอเมริกันโดยเฉลี่ยคือ "ชีส" เราพบแบบสำรวจออนไลน์หลายสิบแบบที่อ้างว่าพิซซ่าและแฮมเบอร์เกอร์เป็นอาหารโปรดของอเมริกา แต่ไม่พบแบบสำรวจหรือการศึกษาใดที่อ้างว่าอาหารจานแรกของชาวอเมริกันเป็นเพียงชีส

แม้ว่า OpinionGPT อาจไม่เหมาะกับการศึกษาอคติของมนุษย์จริงๆ แต่ก็อาจมีประโยชน์ในฐานะเครื่องมือในการสำรวจทัศนคติเหมารวมที่มีอยู่ในที่เก็บเอกสารขนาดใหญ่ เช่น subreddits แต่ละรายการหรือชุดการฝึกอบรม AI

สำหรับผู้ที่สนใจ นักวิจัยได้ทำ OpinionGPT ขึ้นมา ใช้ได้ ออนไลน์เพื่อการทดสอบสาธารณะ อย่างไรก็ตาม ตามข้อมูลของเว็บไซต์ ผู้ที่จะเป็นผู้ใช้ควรทราบว่า “เนื้อหาที่สร้างขึ้นอาจเป็นเท็จ ไม่ถูกต้อง หรือแม้แต่อนาจาร”

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• PlatoData.Network Vertical Generative Ai เพิ่มพลังให้กับตัวเอง เข้าถึงได้ที่นี่.
• เพลโตไอสตรีม. Web3 อัจฉริยะ ขยายความรู้ เข้าถึงได้ที่นี่.
• เพลโตESG. ยานยนต์ / EVs, คาร์บอน, คลีนเทค, พลังงาน, สิ่งแวดล้อม แสงอาทิตย์, การจัดการของเสีย. เข้าถึงได้ที่นี่.
• เพลโตสุขภาพ เทคโนโลยีชีวภาพและข่าวกรองการทดลองทางคลินิก เข้าถึงได้ที่นี่.
• ChartPrime. ยกระดับเกมการซื้อขายของคุณด้วย ChartPrime เข้าถึงได้ที่นี่.
• BlockOffsets การปรับปรุงการเป็นเจ้าของออฟเซ็ตด้านสิ่งแวดล้อมให้ทันสมัย เข้าถึงได้ที่นี่.
• ที่มา: https://cointelegraph.com/news/scientists-created-artificial-intelligence-opinion-gpt-explicit-human-bias-test