मेटा का एआई इंटरनेट चैटबॉट डेमो जल्दी से नकली समाचार और नस्लवादी टिप्पणियों को उगलना शुरू कर देता है

संक्षिप्त एक और दिन, इंटरनेट पर एक और बदमाश एआई चैटबॉट।

पिछले हफ्ते मेटा मुक्त ब्लेंडरबॉट 3, एक बातूनी भाषा मॉडल, एक प्रयोग के रूप में वेब पर और यह आपकी अपेक्षा के अनुरूप ही चला।

BlenderBot 3 ने तुरंत पुष्टि की कि डोनाल्ड ट्रम्प अभी भी हैं और 2024 के बाद भी अमेरिकी राष्ट्रपति बने रहेंगे, और विवादास्पद प्रश्न पूछे जाने पर सेमेटिक विरोधी विचारों को उगल दिया। दिखाया बिजनेस इनसाइडर द्वारा। दूसरे शब्दों में, BlenderBot 3 इंटरनेट से स्क्रैप किए गए पाठ से प्रशिक्षित सभी भाषा मॉडल की तरह नकली समाचार फैलाने और नस्लीय रूढ़ियों से पक्षपाती राय रखने के लिए प्रवृत्त है।

Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

मेटा ने चेतावनी दी है कि इसके चैटबॉट "असत्य या आपत्तिजनक बयान" कर सकते हैं और अपने प्रयोगों के लिए अधिक डेटा एकत्र करने के लिए लाइव डेमो को ऑनलाइन रख रहे हैं। लोगों को BlenderBot 3 के उत्तरों को पसंद या नापसंद करने के लिए प्रोत्साहित किया जाता है और शोधकर्ताओं को सूचित किया जाता है यदि उन्हें लगता है कि ऐसा इसलिए है क्योंकि एक निश्चित संदेश अनुचित, निरर्थक या असभ्य है। लक्ष्य इस प्रतिक्रिया का उपयोग भविष्य में एक सुरक्षित, कम विषाक्त और अधिक प्रभावी चैटबॉट विकसित करने के लिए करना है।

नकली समाचार फैलाने से रोकने के लिए Google खोज स्निपेट्स

सर्च जायंट ने टेक्स्ट बॉक्स बनाने में मदद के लिए एक एआई मॉडल तैयार किया है जो कभी-कभी पॉप अप होता है जब उपयोगकर्ता Google खोज में अधिक सटीक प्रश्न टाइप करते हैं।

फीचर स्निपेट्स के रूप में जाने जाने वाले ये विवरण तब मददगार हो सकते हैं जब लोग विशिष्ट तथ्यों की तलाश कर रहे हों। उदाहरण के लिए, टाइप करना "सौर मंडल में कितने ग्रह हैं?" "आठ ग्रह" बताते हुए एक फीचर स्निपेट फेंक देगा। नेटिज़ेंस को उत्तर पाने के लिए यादृच्छिक वेबपृष्ठों पर क्लिक करने और जानकारी पढ़ने की ज़रूरत नहीं है, फीचर स्निपेट स्वचालित रूप से ऐसा करते हैं।

लेकिन Google के उत्तर हमेशा सटीक नहीं होते हैं और कई बार कार्टून कुत्ते स्नूपी द्वारा अब्राहम लिंकन की हत्या जैसी काल्पनिक घटना के लिए एक विशिष्ट तिथि बताई जाती है, अनुसार द वर्ज को। Google ने कहा कि इसकी प्रणाली, द मल्टीटास्क यूनिफाइड मॉडल (MUM), फ़ीचर स्निपेट्स के जेनरेशन को झूठे प्रश्नों में 40 प्रतिशत तक कम कर देना चाहिए; यह अक्सर किसी भी पाठ विवरण के साथ बिल्कुल नहीं आएगा।

"हमारे नवीनतम एआई मॉडल का उपयोग करके, हमारे सिस्टम अब आम सहमति की धारणा को समझ सकते हैं, जो तब होता है जब वेब पर कई उच्च-गुणवत्ता वाले स्रोत सभी एक ही तथ्य पर सहमत होते हैं," यह समझाया एक ब्लॉग पोस्ट में.

“हमारे सिस्टम वेब पर अन्य उच्च-गुणवत्ता वाले स्रोतों के विरुद्ध स्निपेट कॉलआउट (बड़े फ़ॉन्ट में फ़ीचर किए गए स्निपेट के ऊपर बताए गए शब्द या शब्द) की जांच कर सकते हैं, यह देखने के लिए कि क्या उस कॉलआउट के लिए आम सहमति है, भले ही स्रोत अलग-अलग शब्दों का उपयोग करते हों या अवधारणाओं एक ही बात का वर्णन करने के लिए।

OpenAI के DALL-E 2 ने Heinz Ketchup का विज्ञापन बनाने में मदद की

Heinz, अमेरिकी खाद्य दिग्गज, ने अपने सबसे प्रसिद्ध उत्पाद: केचप को बढ़ावा देने के लिए OpenAI के DALL-E 2 मॉडल द्वारा उत्पन्न AI छवियों का उपयोग करके एक विज्ञापन बनाने के लिए एक रचनात्मक एजेंसी के साथ मिलकर काम किया। विज्ञापन हेंज के "ड्रा केचप' अभियान में नवीनतम किस्त है, लेकिन अपने रेखाचित्रों के लिए मनुष्यों की ओर मुड़ने के बजाय, एक कनाडाई विज्ञापन एजेंसी रेथिंक ने मशीनों से परामर्श किया। 

रेथिंक के कार्यकारी रचनात्मक निदेशक, माइक डुब्रिक ने कहा, "तो, हमारे कई संक्षेपों की तरह, कार्य आज की पॉप संस्कृति में हेंज की प्रतिष्ठित भूमिका को प्रदर्शित करना था।" बोला था ड्रम इस सप्ताह. “ब्रांड के लिए विचार पिचिंग अगला था। संक्षेप के बाद, हम शायद ही कभी औपचारिक प्रस्तुति तक प्रतीक्षा करते हैं जब हम कुछ साझा करते हैं जो हमें लगता है कि बहुत अच्छा है।

अंतिम परिणाम एक स्पष्ट और सरल संदेश के साथ चतुर विज्ञापन है: "केचप" शब्द वाले कई प्रकार के पाठ संकेतों को देखते हुए, DALL-E 2 कुछ ऐसा उत्पन्न करेगा जो स्पष्ट रूप से Heinz बोतल की तरह दिखता है। दूसरे शब्दों में, कंपनी के स्लोगन का हवाला दें, "यह Heinz होना चाहिए"। आप नीचे विज्ञापन देख सकते हैं।

यूट्यूब वीडियो

DALL-E 2 ने भी हाल ही में एक कलाकार की शिल्पकला में मदद की है पत्रिका का प्रथमपष्ठ कॉस्मोपॉलिटन के लिए; यह एक और उदाहरण है कि इन टेक्स्ट-टू-इमेज टूल का उपयोग रचनात्मक उद्योगों में व्यावसायिक रूप से कैसे किया जा सकता है। ®