ทีม AI อย่างมีจริยธรรมกล่าวว่าค่าหัวอคติสามารถเปิดเผยข้อบกพร่องของอัลกอริทึมได้รวดเร็วยิ่งขึ้น

อคติในระบบ AI ได้รับการพิสูจน์แล้วว่าเป็นอุปสรรคสำคัญในการพยายามที่จะบูรณาการเทคโนโลยีเข้ากับสังคมของเราในวงกว้างมากขึ้น ความคิดริเริ่มใหม่ที่จะให้รางวัลแก่นักวิจัยในการหาอคติใน ระบบ AI สามารถช่วยแก้ปัญหาได้

ความพยายามนี้จำลองมาจากค่าหัวบั๊กที่บริษัทซอฟต์แวร์จ่ายให้กับผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ที่แจ้งเตือนพวกเขาข้อบกพร่องด้านความปลอดภัยที่อาจเกิดขึ้นในผลิตภัณฑ์ของตน แนวคิดนี้ไม่ใช่เรื่องใหม่ “ค่าหัวอคติ” คือ เสนอครั้งแรก โดย Aฉันนักวิจัยและผู้ประกอบการ JB Rubinovitz ย้อนกลับไปในปี 2018 และองค์กรต่างๆ ได้เผชิญกับความท้าทายดังกล่าวแล้ว

แต่ความพยายามครั้งใหม่นี้พยายามที่จะสร้างฟอรัมอย่างต่อเนื่องสำหรับการแข่งขันชิงรางวัลอคติที่ไม่ขึ้นกับองค์กรใดองค์กรหนึ่ง ประกอบด้วยอาสาสมัครจากบริษัทต่างๆ รวมถึง Twitter ซึ่งเรียกว่า "Bias Buccaneers" วางแผนที่จะจัดการแข่งขันปกติหรือ "การกบฏ" และเมื่อต้นเดือนนี้ได้เปิดตัวความท้าทายครั้งแรกดังกล่าว

"ค่าหัวข้อผิดพลาดเป็นแนวทางปฏิบัติมาตรฐานในการรักษาความปลอดภัยทางไซเบอร์ที่ยังไม่พบฐานรากในชุมชนอคติอัลกอริธึม” องค์กรไนเซอร์ พูดบนเว็บไซต์ของพวกเขา. “ในขณะที่เหตุการณ์ที่เกิดขึ้นครั้งเดียวในครั้งแรกแสดงให้เห็นถึงความกระตือรือร้นในการได้รับเงินรางวัล Bias Buccaneers เป็นองค์กรไม่แสวงผลกำไรแห่งแรกที่มีจุดประสงค์เพื่อสร้างการกบฏอย่างต่อเนื่อง ร่วมมือกับบริษัทเทคโนโลยี และปูทางสำหรับการประเมินระบบ AI ที่โปร่งใสและทำซ้ำได้”

การแข่งขันครั้งแรกนี้มีจุดมุ่งหมายเพื่อจัดการกับอคติในอัลกอริธึมการตรวจจับภาพ แต่แทนที่จะให้ผู้คนกำหนดเป้าหมายระบบ AI ที่เฉพาะเจาะจง การแข่งขัน จะ chกล่าวหานักวิจัยให้สร้างเครื่องมือที่สามารถตรวจจับชุดข้อมูลที่มีอคติได้ แนวคิดคือการสร้างโมเดลแมชชีนเลิร์นนิงที่สามารถติดป้ายกำกับแต่ละภาพในชุดข้อมูลได้อย่างแม่นยำด้วยโทนสีผิว การรับรู้เพศ และกลุ่มอายุ การแข่งขันสิ้นสุดในวันที่ 30 พฤศจิกายน และมีรางวัลที่หนึ่ง 6,000 ดอลลาร์ รางวัลที่สอง 4,000 ดอลลาร์ และรางวัลที่สาม 2,000 ดอลลาร์

ความท้าทายเกิดขึ้นจากข้อเท็จจริงที่ว่าบ่อยครั้งที่มาของอคติของอัลกอริธึมนั้นไม่ใช่อัลกอริธึมมากนัก แต่เป็นลักษณะของข้อมูลที่ได้รับการฝึกฝน เครื่องมืออัตโนมัติที่สามารถประเมินความสมดุลของคอลเลกชันได้อย่างรวดเร็ว of รูปภาพสัมพันธ์กับคุณลักษณะที่มักเป็นแหล่งที่มาของการเลือกปฏิบัติ สามารถช่วยนักวิจัย AI หลีกเลี่ยงแหล่งข้อมูลที่มีอคติอย่างชัดเจน

แต่ผู้จัดงานกล่าวว่านี่เป็นเพียงก้าวแรกในการสร้างชุดเครื่องมือสำหรับประเมินอคติในชุดข้อมูล อัลกอริธึม และแอปพลิเคชัน และสร้างมาตรฐานสำหรับวิธีการจัดการl ด้วยอคติของอัลกอริทึม ความยุติธรรม และการอธิบายได้

มันเป็น ไม่ใช่ความพยายามเพียงอย่างเดียว. หนึ่งในผู้นำยุคใหม่ ความคิดริเริ่ม คือ Rumman Chowdhury ของ Twitter ซึ่งช่วยจัดการแข่งขัน AI bias bounty ครั้งแรกเมื่อปีที่แล้ว โดยกำหนดเป้าหมายอัลกอริทึมที่แพลตฟอร์มใช้สำหรับครอบตัดรูปภาพ ผู้ใช้บ่น ชอบคนผิวขาวและหน้าผู้ชายมากกว่าคนดำและผู้หญิง

การแข่งขันทำให้แฮ็กเกอร์เข้าถึงโมเดลของบริษัทและท้าทายให้พวกเขาค้นหาข้อบกพร่องในโมเดล ผู้เข้าแข่งขัน พบปัญหามากมาย, รวมโดยชอบใบหน้าที่สวยงามแบบโปรเฟสเซอร์ ความเกลียดชังต่อ คนที่มีผมสีขาว (เครื่องหมายแห่งอายุ) และ การตั้งค่าสำหรับมส์ ด้วยอักษรภาษาอังกฤษมากกว่าอักษรอารบิก

เมื่อเร็วๆ นี้มหาวิทยาลัยสแตนฟอร์ดได้สรุปการแข่งขันที่ท้าทายให้ทีมสร้างเครื่องมือที่ออกแบบมาเพื่อช่วยให้ผู้คนตรวจสอบระบบ AI แบบโอเพนซอร์สที่ใช้เชิงพาณิชย์หรือแบบโอเพนซอร์สสำหรับการเลือกปฏิบัติ และกฎหมายของสหภาพยุโรปในปัจจุบันและที่กำลังจะมีขึ้นอาจทำให้บริษัทจำเป็นต้องตรวจสอบข้อมูลและอัลกอริธึมเป็นประจำ

แต่รับ ค่าหัวข้อผิดพลาดของ AI และการตรวจสอบอัลกอริทึม กระแสหลักและการทำให้พวกเขามีประสิทธิภาพจะพูดง่ายกว่าทำ บริษัทที่สร้างธุรกิจด้วยอัลกอริธึมย่อมต้องต่อต้านความพยายามใดๆ ที่จะทำให้เสียชื่อเสียงอย่างหลีกเลี่ยงไม่ได้

การสร้างบทเรียนจากระบบการตรวจสอบ ในด้านอื่นๆ เช่น กฎระเบียบด้านการเงินและสิ่งแวดล้อมและสุขภาพ นักวิจัย ที่เพิ่งสรุป ส่วนผสมที่สำคัญบางประการสำหรับความรับผิดชอบอย่างมีประสิทธิภาพ ที่สำคัญที่สุดอย่างหนึ่ง เกณฑ์ พวกเขาระบุว่าเป็นการมีส่วนร่วมที่มีความหมายของบุคคลที่สามที่เป็นอิสระ

นักวิจัยชี้ให้เห็นว่าการตรวจสอบ AI โดยสมัครใจในปัจจุบันมักเกี่ยวข้องกับผลประโยชน์ทับซ้อน เช่น องค์กรเป้าหมายที่จ่ายเงินสำหรับการตรวจสอบ ช่วยวางกรอบขอบเขตของการตรวจสอบ หรือมีโอกาสทบทวนสิ่งที่ค้นพบก่อนที่จะเผยแพร่ ความกังวลนี้สะท้อนให้เห็นในรายงานล่าสุดจาก อัลกอริธึม Justice League, หวือch สังเกต outsized บทบาทขององค์กรเป้าหมายในโครงการหาบั๊กความปลอดภัยทางไซเบอร์ในปัจจุบัน

การหาวิธีให้ทุนและสนับสนุนผู้ตรวจสอบ AI ที่เป็นอิสระอย่างแท้จริงและนักล่าแมลงจะเป็นความท้าทายที่สำคัญ โดยเฉพาะอย่างยิ่งเมื่อพวกเขาต้องต่อสู้กับบริษัทที่มีทรัพยากรมากที่สุดในโลก โชคดีที่ดูเหมือนว่าจะมีความรู้สึกเพิ่มขึ้นในอุตสาหกรรมนี้ที่การแก้ปัญหานี้จะมีความสำคัญต่อการรักษาความไว้วางใจของผู้ใช้ในบริการของตน

เครดิตภาพ: จาค็อบ โรเซน / Unsplash