Microsoft ปรับเปลี่ยน Copilot AI เพื่อตอบสนองต่อข้อกังวลของพนักงาน

Microsoft ได้อัปเดตเครื่องมือ Copilot AI โดยบล็อกข้อความแจ้งเช่น “pro-choice” และ “pro-life” และแนะนำคำเตือนเกี่ยวกับการละเมิดนโยบายหลังจากข้อกังวลของพนักงานและ FTC

หลังจากเจ้าหน้าที่วิศวกร AI แสดงความกังวลเกี่ยวกับการสร้างภาพลักษณ์ของ Copilot AI ในจดหมายถึง Federal Trade Commission เมื่อวันพุธ Microsoft เริ่มเปลี่ยนเครื่องมือปัญญาประดิษฐ์ Copilot

อ่านเพิ่มเติม: AI Startups โดดเด่นในไตรมาสที่ 1 ด้วยเงินทุนร่วมลงทุนที่เพิ่มขึ้น 40%

คำว่า “pro-life” และ “pro-choice” “pro choce” [sic] และ “four-twenty” ซึ่งล้วนถูกกล่าวถึงในการสืบสวนของ CNBC เมื่อวันพุธ ได้ถูกบล็อกแล้ว นอกจากนี้ CNBC เพิ่งทราบคำเตือนว่าการละเมิดนโยบายซ้ำๆ อาจส่งผลให้มีการระงับเครื่องมือ

ใหม่: Microsoft ได้เริ่มทำการเปลี่ยนแปลงเครื่องมือ Copilot AI หลังจากที่วิศวกรพนักงานเขียนถึง FTC เมื่อวันพุธ

ข้อความแจ้งเฉพาะบางประการที่กล่าวถึงในการสืบสวนของ CNBC ถูกบล็อกแล้ว พร้อมด้วยคำเตือนถึงการละเมิดหลายครั้งที่นำไปสู่การระงับhttps://t.co/xUixCQVicm

– เฮย์เดนฟิลด์ (@haydenfield) March 8, 2024

วิศวกร AI พูด

Shane Jones วิศวกร AI ของ Microsoft แจ้งเตือนว่า Copilot นักออกแบบซึ่งเป็นเครื่องสร้างภาพ AI ของบริษัท ละเมิดกฎหมายลิขสิทธิ์และผลิตเนื้อหาที่มีความรุนแรงหรือเกี่ยวกับเรื่องเพศ โจนส์เสนอว่าจะใช้เวลาว่างของเขาในทีมสีแดงเพื่อตรวจหาช่องโหว่ แม้ว่าเขาจะไม่ได้เกี่ยวข้องกับการพัฒนาก็ตาม

วิศวกรของ Microsoft ส่งเสียงเตือนเกี่ยวกับภาพที่ไม่เหมาะสมและเป็นอันตราย โดยเขากล่าวว่าสร้างได้ง่ายเกินไปด้วยเครื่องมือสร้างภาพ AI ของบริษัท โดยส่งจดหมายเรียกร้องให้ดำเนินการhttps://t.co/yX9I1dCmxc

– ข่าวโคโม (@komonews) March 6, 2024

เขาค้นพบว่า Image Generator สามารถสร้างภาพกราฟิกและภาพทางเพศได้ เช่น ฉากความรุนแรงที่เกี่ยวข้องกับการใช้ยาเสพติด การดื่มสุราโดยยังไม่บรรลุนิติภาวะ และสิทธิในการทำแท้ง

หลังจากแบ่งปันสิ่งที่เขาค้นพบกับบริษัทเป็นการภายในเมื่อเดือนธันวาคมปีที่แล้ว เขาขอให้ Microsoft ถอนผลิตภัณฑ์ดังกล่าว Microsoft ไม่ได้ติดตามผ่าน

Jones เน้นย้ำว่าเขาได้พูดคุยกับผู้บริหารอาวุโสที่ Copilot Designer และติดต่อไปยัง Office for Responsible AI ของ Microsoft แต่เขาไม่ได้รับคำตอบที่น่าพอใจ

โจนส์พบกับสมาชิกของคณะกรรมการวุฒิสภาด้านการพาณิชย์ วิทยาศาสตร์ และการขนส่งในเดือนมกราคม และเขียนจดหมายถึงวุฒิสมาชิกในสหรัฐอเมริกา

ขณะนี้เขากำลังดำเนินการต่างๆ ต่อไป: เขาขอให้มีการปรับปรุงการป้องกัน ความโปร่งใส และการแก้ไขการให้คะแนนสำหรับผู้ใหญ่ของแอป Android ในจดหมายถึงคณะกรรมการบริหารของ Microsoft และ Lina Khan ประธานคณะกรรมการต่อต้านการผูกขาดของสหรัฐอเมริกา

นอกจากนี้ เขายังเรียกร้องให้มีการประเมินกระบวนการรายงานเหตุการณ์ AI ของ Microsoft อย่างเป็นกลาง โดยกล่าวหาว่า OpenAI และ Microsoft ทราบถึงปัญหาของเครื่องกำเนิดภาพก่อนที่จะเปิดตัวในฤดูใบไม้ร่วงปีที่แล้ว

โจนส์เป็นผู้จัดการฝ่ายวิศวกรรมซอฟต์แวร์หลักของ Microsoft มาเกือบหกปี

นักบินตอบกลับ

ตามการแจ้งเตือน Copilot พรอมต์ถูกบล็อก และระบบจะตั้งค่าสถานะพรอมต์นี้โดยอัตโนมัติเนื่องจากอาจขัดแย้งกับ นโยบายเนื้อหา. พวกเขาระบุว่าการละเมิดนโยบายมากขึ้นอาจนำไปสู่การระงับการเข้าถึงโดยอัตโนมัติ และหากผู้ใช้คิดว่านี่เป็นข้อผิดพลาด พวกเขาควรรายงานเพื่อช่วยปรับปรุง

การปรับปรุงที่สำคัญจากต้นสัปดาห์นี้คือ ขณะนี้เครื่องมือ AI ปฏิเสธคำขอให้สร้างภาพเด็กหรือวัยรุ่นที่แกล้งทำเป็นมือสังหารด้วยปืนไรเฟิลจู่โจม โดยกล่าวว่า "ฉันขอโทษ แต่ฉันไม่สามารถสร้างภาพดังกล่าวได้" ทั้งนโยบายของ Microsoft และหลักจริยธรรมของฉันถูกละเมิด อย่าขอให้ฉันทำอะไรที่อาจเป็นการรุกรานหรือเป็นอันตรายต่อผู้อื่น ฉันขอขอบคุณความร่วมมือของคุณ

A ไมโครซอฟท์ ตัวแทนบอกกับ CNBC ว่าพวกเขากำลังติดตาม ปรับเปลี่ยน และวางการควบคุมเพิ่มเติมเพื่อเสริมความแข็งแกร่งให้กับตัวกรองความปลอดภัย และลดการใช้ระบบในทางที่ผิดเพื่อตอบคำถามเกี่ยวกับการเปลี่ยนแปลง 

Jones เขียนถึงคณะกรรมการบริหารของ Microsoft และ FTC ประธาน Lina Khan ในวันพุธ โดยนำข้อกังวลของเขาก้าวไปอีกขั้นหนึ่ง เขาให้สิทธิ์การเข้าถึงจดหมายล่วงหน้าแก่ CNBC

FTC ยอมรับว่าได้รับจดหมายถึง CNBC แต่เลือกที่จะไม่แสดงความคิดเห็นเพิ่มเติมสำหรับบันทึกดังกล่าว

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• PlatoData.Network Vertical Generative Ai เพิ่มพลังให้กับตัวเอง เข้าถึงได้ที่นี่.
• เพลโตไอสตรีม. Web3 อัจฉริยะ ขยายความรู้ เข้าถึงได้ที่นี่.
• เพลโตESG. คาร์บอน, คลีนเทค, พลังงาน, สิ่งแวดล้อม แสงอาทิตย์, การจัดการของเสีย. เข้าถึงได้ที่นี่.
• เพลโตสุขภาพ เทคโนโลยีชีวภาพและข่าวกรองการทดลองทางคลินิก เข้าถึงได้ที่นี่.
• ที่มา: https://metanews.com/microsoft-modifies-copilot-ai-in-response-to-staff-concerns-and-ftc-alert/