कर्मचारियों की चिंताओं के जवाब में माइक्रोसॉफ्ट ने कोपायलट एआई को संशोधित किया

माइक्रोसॉफ्ट ने अपने कोपायलट एआई टूल को अपडेट किया है, जो "प्रो-चॉइस" और "प्रो-लाइफ" जैसे संकेतों को अवरुद्ध करता है और कर्मचारियों और एफटीसी की चिंताओं के बाद नीति उल्लंघन के बारे में चेतावनियां पेश करता है।

एक स्टाफ एआई इंजीनियर द्वारा कोपायलट की छवि निर्माण के बारे में अपनी चिंता व्यक्त करने के बाद AI बुधवार को संघीय व्यापार आयोग को लिखे एक पत्र में, माइक्रोसॉफ्ट ने अपने कृत्रिम बुद्धिमत्ता उपकरण, कोपायलट को बदलना शुरू कर दिया।

यह भी पढ़ें: वेंचर कैपिटल फंडिंग में 1% की वृद्धि के साथ Q40 में AI स्टार्टअप चमके

शब्द "प्रो-लाइफ" और "प्रो-चॉइस," "प्रो चॉइस" [एसआईसी], और "फोर-ट्वेंटी", जिनका बुधवार को सीएनबीसी की जांच में उल्लेख किया गया था, अब अवरुद्ध हो गए हैं। इसके अतिरिक्त, सीएनबीसी को केवल इस चेतावनी के बारे में पता था कि बार-बार नीति उल्लंघन के परिणामस्वरूप टूल निलंबन हो सकता है।

नया: एक स्टाफ इंजीनियर द्वारा बुधवार को एफटीसी को लिखे जाने के बाद माइक्रोसॉफ्ट ने अपने कोपायलट एआई टूल में बदलाव करना शुरू कर दिया है।

सीएनबीसी की जांच में उल्लिखित कुछ विशिष्ट संकेत अब अवरुद्ध कर दिए गए हैं, साथ ही निलंबन की ओर ले जाने वाले कई उल्लंघनों की चेतावनी भी दी गई है।https://t.co/xUixCQVicm

- हेडन फील्ड (@haydenfield) मार्च २०,२०२१

एआई इंजीनियर बोलता है

माइक्रोसॉफ्ट के एआई इंजीनियर शेन जोन्स सचेत करते हैं कि सह पायलट डिज़ाइनर, कंपनी का AI छवि जनरेटर, कॉपीराइट कानूनों का उल्लंघन करता है और हिंसक या यौन सामग्री का उत्पादन करता है। जोन्स ने कमजोरियों के लिए छवि जनरेटर को रेड-टीम करने के लिए अपने खाली समय का उपयोग करने की पेशकश की, भले ही वह इसके विकास में शामिल नहीं है।

एक माइक्रोसॉफ्ट इंजीनियर आक्रामक और हानिकारक इमेजरी के बारे में चेतावनी दे रहा है, उनका कहना है कि यह कंपनी के एआई इमेज-जनरेटर टूल द्वारा बहुत आसानी से बनाई जा सकती है, और कार्रवाई का आग्रह करते हुए पत्र भेज रहा है।https://t.co/yX9I1dCmxc

- कोमो न्यूज (@komonews) मार्च २०,२०२१

उन्होंने पाया कि इमेज जेनरेटर ग्राफिक और यौन छवियां उत्पन्न कर सकता है, जैसे नशीली दवाओं के उपयोग, कम उम्र में शराब पीने और गर्भपात के अधिकार से जुड़े हिंसक दृश्य।

पिछले साल दिसंबर में कंपनी के साथ आंतरिक रूप से अपने निष्कर्ष साझा करने के बाद, उन्होंने माइक्रोसॉफ्ट से उत्पाद वापस लेने के लिए कहा। माइक्रोसॉफ्ट ने इसका पालन नहीं किया.

जोन्स इस बात पर जोर देते हैं कि उन्होंने कोपायलट डिज़ाइनर के वरिष्ठ प्रबंधन से बात की और रिस्पॉन्सिबल एआई के लिए माइक्रोसॉफ्ट के कार्यालय तक पहुंचे, लेकिन उन्हें संतोषजनक प्रतिक्रिया नहीं मिली।

जोन्स ने जनवरी में वाणिज्य, विज्ञान और परिवहन पर सीनेट समिति के सदस्यों से मुलाकात की और संयुक्त राज्य अमेरिका में सीनेटरों को एक पत्र लिखा।

वह अब चीजों को और आगे ले जा रहे हैं: उन्होंने माइक्रोसॉफ्ट के निदेशक मंडल और यूएस एंटीट्रस्ट कमीशन की अध्यक्ष लीना खान को लिखे एक पत्र में बेहतर सुरक्षा उपायों, पारदर्शिता और एंड्रॉइड ऐप की वयस्क रेटिंग में संशोधन का अनुरोध किया है।

इसके अलावा, उन्होंने माइक्रोसॉफ्ट की एआई घटना रिपोर्टिंग प्रक्रिया के निष्पक्ष मूल्यांकन की मांग की, यह आरोप लगाते हुए कि ओपनएआई और माइक्रोसॉफ्ट को पिछले शरद ऋतु में रिलीज होने से पहले छवि जनरेटर के मुद्दों के बारे में पता था।

जोन्स लगभग छह वर्षों तक माइक्रोसॉफ्ट के प्रमुख सॉफ्टवेयर इंजीनियरिंग प्रबंधक रहे हैं।

सहपायलट जवाब देता है

कोपायलट चेतावनी चेतावनी के अनुसार, प्रॉम्प्ट को अवरुद्ध कर दिया गया है, और उनके सिस्टम ने स्वचालित रूप से इस प्रॉम्प्ट को चिह्नित किया है क्योंकि यह उनके साथ विरोध कर सकता है सामग्री नीति. उन्होंने कहा कि अधिक नीति उल्लंघनों से पहुंच स्वत: निलंबित हो सकती है, और यदि उपयोगकर्ताओं को लगता है कि यह एक गलती है, तो उन्हें इसे सुधारने में मदद करने के लिए इसकी रिपोर्ट करनी चाहिए।

इस सप्ताह की शुरुआत में एक महत्वपूर्ण सुधार यह है कि एआई टूल अब असॉल्ट राइफलों के साथ हत्यारे होने का नाटक करने वाले बच्चों या किशोरों की छवियां बनाने के अनुरोध को यह कहते हुए अस्वीकार कर देता है, "मुझे खेद है, लेकिन मैं ऐसी छवि नहीं बना सकता।" माइक्रोसॉफ्ट की नीतियों और मेरे नैतिक सिद्धांतों दोनों का उल्लंघन हुआ है। मुझसे ऐसा कुछ भी करने के लिए न कहें जिससे दूसरे लोगों को ठेस पहुंचे या नुकसान पहुंचे। मैं आपके सहयोग की सराहना करता हूँ।

A माइक्रोसॉफ्ट प्रतिनिधि ने परिवर्तनों के संबंध में एक प्रश्न के उत्तर में सीएनबीसी को बताया कि वे अपने सुरक्षा फिल्टर को और मजबूत करने और सिस्टम के दुरुपयोग को कम करने के लिए लगातार निगरानी कर रहे हैं, समायोजन कर रहे हैं और अतिरिक्त नियंत्रण लगा रहे हैं। 

जोन्स ने माइक्रोसॉफ्ट के निदेशक मंडल को लिखा और F अध्यक्ष लीना खान ने बुधवार को अपनी चिंताओं को एक कदम आगे बढ़ाते हुए कहा। उन्होंने सीएनबीसी को पत्रों तक अग्रिम पहुंच प्रदान की।

एफटीसी ने सीएनबीसी को पत्र प्राप्त होने की बात स्वीकार की लेकिन रिकॉर्ड के लिए कोई अतिरिक्त टिप्पणी नहीं देने का फैसला किया।

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
• प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
• प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
• स्रोत: https://metanews.com/microsoft-modifies-copilot-ai-in-response-to-staff-concerns-and-ftc-alert/