หน่วยงานเฝ้าระวังความเป็นส่วนตัวเรียกร้องให้บริษัทเลิกใช้ซอฟต์แวร์ AI วิเคราะห์อารมณ์

บริษัทต่างๆ ควรคิดให้รอบคอบก่อนที่จะปรับใช้ระบบวิเคราะห์อารมณ์ที่ขับเคลื่อนด้วย AI ซึ่งมีแนวโน้มที่จะเกิดอคติเชิงระบบและเรื่องไร้สาระอื่นๆ สำนักงานคณะกรรมาธิการข้อมูลของสหราชอาณาจักร (ICO) เตือนในสัปดาห์นี้

องค์กรต้องเผชิญกับการสอบสวนหากพวกเขากดดันและใช้เทคโนโลยีย่อยที่ทำให้ผู้คนตกอยู่ในความเสี่ยง

อัลกอริธึมแมชชีนเลิร์นนิงที่อ้างว่าทำนายอารมณ์และปฏิกิริยาของบุคคลนั้นใช้คอมพิวเตอร์วิทัศน์ในการติดตามการจ้องมอง การเคลื่อนไหวของใบหน้า และการประมวลผลเสียงเพื่อวัดการผันแปรและความรู้สึกโดยรวม อย่างที่ใครๆ ก็คิดกัน ไม่จำเป็นต้องแม่นยำหรือยุติธรรมเสมอไป และอาจมีปัญหาด้านความเป็นส่วนตัวในการจัดการข้อมูลสำหรับการฝึกอบรมและการอนุมาน

อันที่จริง รองผู้บัญชาการ ICO Stephen Bonner กล่าวว่าเทคโนโลยีนี้ไม่สามารถป้องกันความผิดพลาดได้ ซึ่งนำไปสู่อคติที่เป็นระบบ ความไม่ถูกต้อง หรือการเลือกปฏิบัติต่อกลุ่มสังคมบางกลุ่ม “การพัฒนาในตลาด AI ไบโอเมตริกและอารมณ์นั้นยังไม่บรรลุนิติภาวะ พวกเขาอาจยังไม่ทำงานหรือตลอดไป” เขา กล่าวว่า ในงบ 

“ในขณะที่มีโอกาสในปัจจุบัน ความเสี่ยงก็มากขึ้น ที่ ICO เรากังวลว่าการวิเคราะห์ข้อมูลที่ไม่ถูกต้องอาจส่งผลให้เกิดการสันนิษฐานและการตัดสินเกี่ยวกับบุคคลที่ไม่ถูกต้องและนำไปสู่การเลือกปฏิบัติ” ถ้อยแถลงของเขากล่าวต่อ

Bonner ตั้งข้อสังเกตว่าซอฟต์แวร์วิเคราะห์อารมณ์มักจะจับคู่กับระบบไบโอเมตริกซ์ การรวบรวมและจัดเก็บข้อมูลส่วนบุคคลในวงกว้างกว่าภาพใบหน้า ผู้ให้บริการซอฟต์แวร์มักไม่โปร่งใสเกี่ยวกับวิธีการประมวลผลหรือบันทึกข้อมูลส่วนบุคคลนี้ 

“การใช้งานไบโอเมตริกซ์ที่ยั่งยืนเพียงอย่างเดียวจะเป็นสิ่งที่ทำงานได้อย่างสมบูรณ์ ตรวจสอบได้ และสนับสนุนโดยวิทยาศาสตร์” เขากล่าว “ตามที่เป็นอยู่ เรายังไม่เห็นเทคโนโลยี AI อารมณ์ใดพัฒนาในลักษณะที่เป็นไปตามข้อกำหนดในการปกป้องข้อมูล และมีคำถามทั่วไปเพิ่มเติมเกี่ยวกับสัดส่วน ความเป็นธรรม และความโปร่งใสในด้านนี้”

ซึ่งดูเป็นการพูดที่สุภาพ: คุณควรใช้โมเดล AI ที่อ่านอารมณ์เท่านั้นซึ่งทำงานได้ตามที่ ICO คาดไว้ และโมเดลเหล่านั้นไม่มีอยู่จริง ดังนั้นคุณควรหยุดสิ่งที่คุณกำลังทำอยู่

หน่วยงานตรวจสอบความเป็นส่วนตัวของข้อมูลของสหราชอาณาจักรคาดว่าจะเผยแพร่รายงานที่มีรายละเอียดว่าบริษัทต่างๆ ควรจัดการข้อมูลไบโอเมตริก รวมถึงการจดจำใบหน้า การระบุลายนิ้วมือ และการจดจำเสียงโดยบริษัทต่างๆ ในปีหน้าในช่วงฤดูใบไม้ผลิ

“ICO จะดำเนินการตรวจสอบตลาดต่อไป ระบุผู้มีส่วนได้ส่วนเสียที่ต้องการสร้างหรือปรับใช้เทคโนโลยีเหล่านี้ และอธิบายความสำคัญของความเป็นส่วนตัวของข้อมูลที่เพิ่มขึ้นและการปฏิบัติตามข้อกำหนด ในขณะเดียวกันก็ส่งเสริมความไว้วางใจและความมั่นใจในการทำงานของระบบเหล่านี้” บอนเนอร์กล่าวเสริม

ผู้เชี่ยวชาญได้ส่งเสียงเตือนเกี่ยวกับการวิเคราะห์อารมณ์และความรู้สึกมานานหลายปี ความรู้สึกเป็นเรื่องส่วนตัวและเป็นการยากที่จะตีความอย่างถูกต้อง มนุษย์มักจะไม่สามารถทำเช่นนี้ได้อย่างมีประสิทธิภาพสำหรับตนเองหรือผู้อื่น นับประสาเครื่องจักรเพียงอย่างเดียว ®