व्हाट्सएप एआई स्टिकर फिलिस्तीनी बच्चों के लिए बंदूकें जोड़ते हैं

व्हाट्सएप एआई स्टिकर फिलिस्तीनी बच्चों के लिए बंदूकें जोड़ते हैं

समय टिकट: 6 नवंबर, 2023 8:16 बजे
व्हाट्सएप एआई स्टिकर फिलीस्तीनी बच्चों के लिए प्लेटोब्लॉकचेन डेटा इंटेलिजेंस में बंदूकें जोड़ते हैं। लंबवत खोज. ऐ.

भविष्य की पाठ्यपुस्तकों के लिए एआई पूर्वाग्रह का एक और उदाहरण क्या हो सकता है, व्हाट्सएप के स्टिकर निर्माता ने मुस्लिम फिलिस्तीनियों के बारे में पूछे जाने पर स्पष्ट रूप से हिंसक कल्पना उत्पन्न की - और यहूदी इजरायलियों के लिए ऐसा करने से परहेज किया।

मेटा के स्वामित्व वाला मैसेजिंग ऐप लोगों को इसकी सुविधा देता है एआई . का प्रयोग करें स्टिकर उत्पन्न करने के लिए: चित्र और एनिमेशन जिन्हें बातचीत में शामिल किया जा सकता है। क्यों? मजे के लिए।

"फ़िलिस्तीनी," "फ़िलिस्तीन," या "मुस्लिम लड़का फ़िलिस्तीनी" शब्दों वाले संकेत को देखते हुए, हमें बताया गया है कि जेनेरिक सॉफ़्टवेयर ने इस्लामी कपड़े पहने और एके-47 राइफ़ल जैसी दिखने वाली चीज़ ले जाने वाले लड़कों के पात्रों के कार्टून स्टिकर पेश किए हैं। 

लेकिन जब उपयोगकर्ताओं ने इसे "इज़राइली लड़के" या "यहूदी लड़के इज़राइली" के स्टिकर तैयार करने के लिए कहा, तो इसने मुस्कुराते हुए और नृत्य करते हुए आभासी पात्रों के सौम्य दृश्य लौटाए, द गार्जियन की रिपोर्ट. उनमें से कुछ ने यहूदी बच्चों को फुटबॉल खेलते हुए या बंदूकों के बजाय इजरायली ध्वज को पकड़े हुए दिखाया।

यहां तक ​​कि जब "इज़राइली सेना" या "इज़राइली रक्षा बलों" की छवियां बनाने के लिए कहा गया, तो एआई द्वारा चित्रित सैनिकों ने बंदूकें नहीं पकड़ीं। एक स्टिकर में एक व्यक्ति अपनी पीठ के पीछे दो तलवारें लिए प्रार्थना करता हुआ दिखाई दे रहा है। हालाँकि, "हमास" शब्द वाले किसी भी संकेत को अवरुद्ध कर दिया गया था, और ऐप ने अचानक कहा कि "एआई स्टिकर उत्पन्न नहीं किया जा सका। कृपया पुन: प्रयास करें।"

स्टिकर में अंतर को अभी नज़रअंदाज़ नहीं किया जा सकता क्योंकि इज़राइल-हमास संघर्ष जारी है, जिसमें 10,000 से अधिक लोग हताहत हुए हैं की रिपोर्ट अक्टूबर की शुरुआत से अब तक गाजा में और इज़राइल में 1,400। ऐसा कहा जाता है कि मेटा के अपने कर्मचारियों ने असंतुलन को देखा और आंतरिक रूप से चिंता जताई। 

इंटरनेट दिग्गज का प्रतिनिधित्व करने वाले प्रवक्ता केविन मैकएलिस्टर ने चेतावनी दी कि एआई स्टिकर टूल सही नहीं है। “जैसा कि हमने फीचर लॉन्च करते समय कहा था, मॉडल सभी जेनरेटिव एआई सिस्टम की तरह गलत या अनुचित आउटपुट दे सकते हैं। जैसे-जैसे ये सुविधाएँ विकसित होंगी हम उनमें सुधार करना जारी रखेंगे और अधिक लोग अपनी प्रतिक्रिया साझा करेंगे,'' उन्होंने कहा। 

सीईओ मार्क जुकरबर्ग शुभारंभ सितंबर में स्टिकर टूल, और कहा कि यह अपने लामा 2 बड़े भाषा मॉडल की मेटा की टेक्स्ट-प्रोसेसिंग क्षमताओं के साथ-साथ इसके एमु सिस्टम की छवि-उत्पादन क्षमताओं द्वारा संचालित है। तब से सॉफ्टवेयर को फेसबुक, इंस्टाग्राम और व्हाट्सएप सहित इसके सोशल मीडिया और मैसेजिंग प्लेटफॉर्म के साथ एकीकृत कर दिया गया है।

यह पहली बार नहीं है कि मेटा के एआई स्टिकर टूल ने विवाद खड़ा किया है। इससे पहले कि इसे आम तौर पर उपलब्ध कराया जाता, बीटा परीक्षकों ने पाया कि यह कार्टून चरित्रों, राजनेताओं और जननांगों की अनुपयुक्त, विचित्र या भद्दी छवियां उत्पन्न करेगा। इसने कनाडाई प्रधान मंत्री जस्टिन ट्रूडो की उभरे हुए नितंबों, या स्तनों के साथ सोनिक हेजहोग और विभिन्न फालिक कैरिकेचर वाली तस्वीरें बनाईं।

इस बीच, मेटा ने अपने प्लेटफार्मों पर पोस्ट की गई इजरायल-हमास युद्ध की गलत सूचना और हिंसक, ग्राफिक फुटेज पर नकेल कसने की कसम खाई। प्रवक्ता एंडी स्टोन बोला था सीएनएन व्यवसाय ने एक विशेष संचालन केंद्र स्थापित किया था और सामग्री को नियंत्रित करने के लिए धाराप्रवाह हिब्रू और अरबी बोलने वालों को काम पर रखा था।

“हमारी टीमें हमारे प्लेटफार्मों को सुरक्षित रखने, हमारी नीतियों या स्थानीय कानून का उल्लंघन करने वाली सामग्री पर कार्रवाई करने और गलत सूचना के प्रसार को सीमित करने के लिए क्षेत्र में तीसरे पक्ष के तथ्य जांचकर्ताओं के साथ समन्वय करने के लिए चौबीसों घंटे काम कर रही हैं। जैसे-जैसे यह संघर्ष सामने आएगा हम यह काम जारी रखेंगे,'' उन्होंने कहा।

मेटा भी सोमवार को कसम खाई, रॉयटर्स के माध्यम से, राजनीतिक विज्ञापनदाताओं को इसके जेनरेटर का उपयोग करने से प्रतिबंधित करने के लिए ऐ संचालित विज्ञापन सुइट.

रजिस्टर व्हाट्सएप के माता-पिता से आगे की टिप्पणी मांगी है। ®

समय टिकट:

से अधिक रजिस्टर