تقوم Microsoft بتعديل برنامج Copilot AI استجابةً لمخاوف الموظفين

قامت Microsoft بتحديث أداة Copilot AI الخاصة بها، مما أدى إلى حظر المطالبات مثل "pro-choice" و"pro-life" وتقديم تحذيرات حول انتهاكات السياسة بعد مخاوف الموظفين ولجنة التجارة الفيدرالية (FTC).

بعد أن أعرب أحد مهندسي الذكاء الاصطناعي عن مخاوفه بشأن توليد صورة مساعد الطيار AI في رسالة إلى لجنة التجارة الفيدرالية يوم الأربعاء، بدأت شركة مايكروسوفت في تغيير أداة الذكاء الاصطناعي الخاصة بها، Copilot.

اقرأ أيضا: الشركات الناشئة في مجال الذكاء الاصطناعي تتألق في الربع الأول مع زيادة بنسبة 1% في تمويل رأس المال الاستثماري

تم الآن حظر المصطلحات "المؤيدة للحياة" و"المؤيدة للاختيار" و"المؤيدة للاختيار" [كذا] و"أربعة وعشرين"، والتي تم ذكرها جميعًا في تحقيق CNBC يوم الأربعاء. بالإضافة إلى ذلك، كانت CNBC على علم بالتحذير من أن مخالفات السياسة المتكررة قد تؤدي إلى تعليق الأداة.

جديد: بدأت Microsoft في إجراء تغييرات على أداة Copilot AI الخاصة بها بعد أن كتب أحد المهندسين إلى لجنة التجارة الفيدرالية (FTC) يوم الأربعاء.

تم الآن حظر بعض المطالبات المحددة المذكورة في تحقيق CNBC، إلى جانب التحذير من الانتهاكات المتعددة التي تؤدي إلى التعليق.https://t.co/xUixCQVicm

– هايدن فيلد (@ haydenfield) 8 آذار، 2024

مهندس الذكاء الاصطناعي يتحدث

ينبه شين جونز، مهندس الذكاء الاصطناعي في مايكروسوفت، إلى أن مساعد طيار ينتهك المصمم، وهو منشئ الصور بالذكاء الاصطناعي التابع للشركة، قوانين حقوق الطبع والنشر وينتج محتوى عنيفًا أو جنسيًا. عرض جونز استغلال وقت فراغه لتشكيل فريق منشئ الصور بحثًا عن نقاط الضعف على الرغم من أنه لم يشارك في تطويره.

أطلق أحد مهندسي شركة Microsoft إنذارات بشأن الصور المسيئة والضارة، التي يقول إنه يتم التقاطها بسهولة شديدة بواسطة أداة إنشاء الصور المدعومة بالذكاء الاصطناعي الخاصة بالشركة، ويرسل رسائل تحث على اتخاذ إجراء.https://t.co/yX9I1dCmxc

- أخبار كومو (komonews) 6 آذار، 2024

واكتشف أن برنامج Image Generator يمكنه إنتاج صور رسومية وجنسية، مثل المشاهد العنيفة التي تنطوي على تعاطي المخدرات، وشرب الخمر دون السن القانونية، وحقوق الإجهاض.

وبعد مشاركة النتائج التي توصل إليها مع الشركة داخليًا في ديسمبر من العام الماضي، طلب من مايكروسوفت سحب المنتج. مايكروسوفت لم تتابع الأمر.

يؤكد جونز أنه تحدث مع الإدارة العليا في Copilot Designer وتواصل مع مكتب Microsoft للذكاء الاصطناعي المسؤول، لكنه لم يتلق ردًا مرضيًا.

التقى جونز بأعضاء لجنة التجارة والعلوم والنقل بمجلس الشيوخ في يناير وكتب رسالة إلى أعضاء مجلس الشيوخ في الولايات المتحدة.

وهو الآن يأخذ الأمور إلى أبعد من ذلك: فهو يطلب تحسين الضمانات والشفافية ومراجعة تصنيف البالغين لتطبيق أندرويد في رسالة موجهة إلى مجلس إدارة مايكروسوفت ولينا خان، رئيسة لجنة مكافحة الاحتكار الأمريكية.

بالإضافة إلى ذلك، طالب بإجراء تقييم محايد لإجراءات الإبلاغ عن حوادث الذكاء الاصطناعي التي تتبعها Microsoft، زاعمًا أن OpenAI وMicrosoft كانا على علم بمشاكل مولد الصور قبل إصداره في الخريف الماضي.

لقد كان جونز مديرًا رئيسيًا لهندسة البرمجيات في شركة Microsoft لمدة ست سنوات تقريبًا.

مساعد الطيار يستجيب

وفقًا لتنبيه تحذير Copilot، تم حظر المطالبة، وقام نظامهم تلقائيًا بوضع علامة على هذه المطالبة لأنها قد تتعارض مع سياسة المحتوى. وذكروا أن المزيد من انتهاكات السياسة قد تؤدي إلى تعليق الوصول تلقائيًا، وإذا اعتقد المستخدمون أن هذا خطأ، فيجب عليهم الإبلاغ عنه لمساعدتهم على التحسن.

التحسن الكبير عما حدث في وقت سابق من هذا الأسبوع هو أن أداة الذكاء الاصطناعي ترفض الآن طلبات إنشاء صور لأطفال أو مراهقين يتظاهرون بأنهم قتلة مسلحين ببنادق هجومية، قائلة: "أنا آسف، لكن لا يمكنني إنشاء مثل هذه الصورة". لقد تم انتهاك سياسات Microsoft ومبادئي الأخلاقية. لا تطلب مني أن أفعل أي شيء يمكن أن يسيء أو يسبب الأذى للآخرين. أقدر تعاونك.

A مایکروسافت أخبر ممثل CNBC أنهم يراقبون باستمرار ويجرون التعديلات ويضعون ضوابط إضافية لتعزيز مرشحات الأمان الخاصة بهم بشكل أكبر وتخفيف سوء استخدام النظام ردًا على سؤال بخصوص التغييرات. 

كتب جونز إلى مجلس إدارة مايكروسوفت و FTC الرئيسة لينا خان يوم الأربعاء، نقلت مخاوفه خطوة أخرى إلى الأمام. لقد أعطى CNBC إمكانية الوصول المسبق إلى الرسائل.

أقرت لجنة التجارة الفيدرالية (FTC) باستلام الرسالة إلى CNBC لكنها اختارت عدم تقديم أي تعليقات إضافية للسجل.

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
• أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
• أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
• أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
• المصدر https://metanews.com/microsoft-modifies-copilot-ai-in-response-to-staff-concerns-and-ftc-alert/