मुझे निकाल दिया गया है, यह दावा करने वाले इंजीनियर का कहना है कि Google चैटबॉट संवेदनशील था

संक्षिप्त Google ने कथित तौर पर ब्लेक लेमोइन को निकाल दिया है, जिस इंजीनियर को वेब दिग्गज के LaMDA चैटबॉट पर जोर देने के बाद प्रशासनिक अवकाश पर रखा गया था, वह संवेदनशील था।

लेमोइन को मॉडल पर अपनी विवादास्पद, भौहें उठाने वाली राय रखने के लिए परेशानी नहीं हुई। इसके बजाय, उन्हें Google की गोपनीयता नीतियों का उल्लंघन करने के लिए दंडित किया गया था। वह कथित तौर पर LaMDA के संभावित कानूनी अधिकारों का आकलन करने के लिए एक वकील को आमंत्रित किया और Google के अनैतिक होने का दावा करते हुए एक हाउस प्रतिनिधि से बात की।

एक Google प्रवक्ता बोला था बिग टेक्नोलॉजी न्यूजलेटर ने अपने रोजगार को समाप्त करने का फैसला किया है क्योंकि लेमोइन ने "रोजगार और डेटा सुरक्षा नीतियों" का उल्लंघन करना जारी रखा है जो व्यापार रहस्यों को खतरे में डाल रहा है।

"यदि कोई कर्मचारी हमारे काम के बारे में चिंताओं को साझा करता है, जैसा कि ब्लेक ने किया था, तो हम उनकी व्यापक समीक्षा करते हैं। हमने ब्लेक के दावों को पाया कि LaMDA पूरी तरह से निराधार होने के लिए संवेदनशील है और कई महीनों तक उसके साथ यह स्पष्ट करने के लिए काम किया। ये चर्चाएं खुली संस्कृति का हिस्सा थीं जो हमें जिम्मेदारी से नवाचार करने में मदद करती हैं, ”प्रवक्ता ने कहा।

"इसलिए, यह खेदजनक है कि इस विषय पर लंबी व्यस्तता के बावजूद, ब्लेक ने अभी भी स्पष्ट रोजगार और डेटा सुरक्षा नीतियों का लगातार उल्लंघन करना चुना, जिसमें उत्पाद जानकारी की सुरक्षा की आवश्यकता शामिल है। हम भाषा मॉडल के अपने सावधानीपूर्वक विकास को जारी रखेंगे, और हम ब्लेक के अच्छे होने की कामना करते हैं।"

Google और शिक्षा और उद्योग के कई विशेषज्ञों ने इस बात पर संदेह जताया है कि क्या LaMDA या कोई मौजूदा AI चैटबॉट संवेदनशील है। भाषा मॉडल शब्दों के बीच गणितीय संबंध सीखते हैं, और बिना किसी वास्तविक समझ के मानव भाषा की नकल करने में अच्छे हैं। उनमें से कोई भी वास्तव में बुद्धिमान नहीं है, सचेत रहने की बात तो दूर।

डेवलपर्स ओपन-सोर्स एआई कोड क्यों नहीं चला सकते हैं

यदि डेवलपर्स के पास इसे चलाने के लिए आवश्यक संसाधन नहीं हैं, तो मशीन-लर्निंग मॉडल के लिए कोड जारी करने का क्या मतलब है?

एआई सॉफ्टवेयर को स्पिन करना और ओपन सोर्स होने पर भी अपने लिए प्रयास करना बेहद मुश्किल है। स्रोत के बिट्स और टुकड़े छोड़ दिए गए हैं, या मॉडल को प्रशिक्षित करने के लिए आवश्यक डेटासेट उपलब्ध नहीं हैं। कभी-कभी ये हिस्से सुलभ होते हैं, लेकिन डेवलपर्स के पास इतनी बड़ी प्रणालियों को चलाने के लिए कम्प्यूटेशनल शक्ति नहीं होती है।

मेटा ले लो ओपन प्रीट्रेन ट्रांसफॉर्मर, उदाहरण के लिए। भाषा मॉडल के सबसे बड़े संस्करण में 175 बिलियन पैरामीटर हैं। भले ही विज्ञापन दिग्गज ने अपना कोड जारी किया हो, लेकिन कई लोगों के पास प्रशिक्षण के लिए पर्याप्त चिप्स नहीं होंगे और स्क्रैच से मॉडल का उपयोग करने के लिए, मैट एसे, जो मोंगोडीबी में पार्टनर मार्केटिंग चलाते हैं, विख्यात एक व्यक्तिगत क्षमता में।

"कुंजी शोधकर्ताओं के लिए एक विशेष एआई मॉडल कैसे काम करता है की सफलताओं और विफलताओं को पुन: उत्पन्न करने में सक्षम होने के लिए पर्याप्त पहुंच प्रदान करना है ... कंपनियों और व्यक्तियों के रूप में, हमारा लक्ष्य सॉफ़्टवेयर तक पहुंच को खोलना चाहिए जिससे हमारे ग्राहकों को लाभ हो और तीसरा- पार्टी डेवलपर्स को क्लाउड पर ओपन सोर्स की दशकों पुरानी अवधारणा को फिर से निकालने की कोशिश करने के बजाय पहुंच और समझ को बढ़ावा देना है, "उन्होंने तर्क दिया।

OpenAI का Dall-E बीटा मोड में प्रवेश करता है

OpenAI का व्यावसायिक टेक्स्ट-टू-इमेज जनरेशन मॉडल DALL·E 2 को एक लाख से अधिक लोगों के लिए खोला जा रहा है जो इसकी प्रतीक्षा सूची में शामिल हुए हैं।

एक्सेस पहले उन लोगों तक ही सीमित था जो चुनिंदा कलाकार, शोधकर्ता और डेवलपर्स थे क्योंकि ओपनएआई पूर्ण व्यावसायिक रिलीज से पहले अपने सिस्टम का परीक्षण करना चाहता था। इंटरनेट मीम्स, कॉमिक बुक्स, या डिजिटल आर्ट बनाने के लिए लोग हर तरह के चित्र बनाने के लिए टूल का उपयोग कर रहे हैं। 

उपयोगकर्ताओं को उनके उपयोग के पहले महीने के दौरान 50 मुफ्त क्रेडिट प्राप्त होंगे, और उसके बाद हर महीने 15 मुफ्त क्रेडिट प्राप्त होंगे। प्रत्येक क्रेडिट का उपयोग एक मूल Dall-E शीघ्र पीढ़ी उत्पन्न करने के लिए किया जा सकता है, और उन्हें पिछले छह के बजाय आउटपुट के रूप में चार छवियां मिलेंगी। मौजूदा पाठ संकेतों को संपादित करने से तीन छवियां वापस आ जाएंगी। यदि वे अधिक उत्पन्न करना चाहते हैं, तो उन्हें अतिरिक्त 15 छवियों के लिए 115 क्रेडिट प्राप्त करने के लिए $460 का भुगतान करना होगा। 

वे मॉडल का उपयोग करके उत्पन्न किसी भी छवि का व्यावसायीकरण भी करेंगे, जिसका अर्थ है कि रचनाकारों के पास माल और इसी तरह की तस्वीरों को बेचने और प्रिंट करने का अधिकार है। "हम यह देखने के लिए उत्साहित हैं कि लोग DALL·E के साथ क्या बनाते हैं और इस बीटा अवधि के दौरान उपयोगकर्ताओं की प्रतिक्रिया की प्रतीक्षा करते हैं," अनुसंधान प्रयोगशाला कहा इस सप्ताह. 

चेहरे की पहचान वाले बच्चों की जासूसी

विवादास्पद वाणिज्यिक ऑनलाइन चेहरे की पहचान सेवा PimEyes का उपयोग बच्चों के "संभावित रूप से स्पष्ट" चित्रों की खोज के लिए किया जा सकता है।

PimEyes किसी को भी एक फोटो अपलोड करने की अनुमति देता है, यह संभावित मिलानों की खोज करता है, और छवियों और उनके संबंधित URL को लौटाता है। एक गोपनीयता-बचत उपकरण के रूप में विपणन किया गया, जहां उपयोगकर्ता देख सकते हैं कि इंटरनेट पर खुद की तस्वीरें कहां पोस्ट की गई हैं, सेवा ने कहा कि इससे बदला लेने वाले पोर्न जैसे मुद्दों से निपटने में मदद मिली है।

लेकिन एक स्याह पक्ष भी है। कोई भी व्यक्ति अपनी पसंद की तस्वीरों को खोजने के लिए वेबसाइट का उपयोग कर सकता है, यहां तक ​​कि बच्चे भी। एक जांच द इंटरसेप्ट द्वारा पाया गया कि युवाओं की तस्वीरें ढूंढना आसान था, और इनमें से कुछ छवियों को "संभावित रूप से स्पष्ट" के रूप में भी लेबल किया गया था। प्रयोग में बच्चों के नकली AI-जनित चित्रों का उपयोग किया गया था, और PimEyes ने अभी भी मैच लौटाए, जो बताता है कि इसका सॉफ़्टवेयर शायद बहुत सटीक नहीं है।

"तथ्य यह है कि PimEyes के पास बच्चों के लिए सुरक्षा उपाय नहीं हैं और जाहिर तौर पर यह सुनिश्चित नहीं है कि बच्चों के लिए सुरक्षा उपाय कैसे प्रदान किए जाएं, केवल इस तरह की चेहरे की पहचान सेवा के जोखिमों को रेखांकित करता है," इलेक्ट्रॉनिक में निगरानी निगरानी परियोजना के निदेशक जेरेमी स्कॉट गोपनीयता सूचना केंद्र, के हवाले से कहा गया था। "सार्वजनिक रूप से भाग लेना, चाहे ऑनलाइन हो या ऑफलाइन, इसका मतलब खुद को PimEyes जैसी गोपनीयता-आक्रामक सेवाओं के अधीन नहीं करना चाहिए।"

एआई-पावर्ड राइटिंग टूल इंडी लेखकों को और किताबें प्रकाशित करने में मदद करते हैं

सामग्री निर्माण अक्सर एक कठिन व्यवसाय होता है। दर्शकों को बनाए रखने और विकसित करने के लिए आपको बार-बार ताजा सामग्री के साथ आना होगा।

एक स्वतंत्र कथा लेखक, जो लीन लीड्स के नाम से अमेज़ॅन के किंडल प्लेटफॉर्म पर अपना काम प्रकाशित करता है, ने एक लेखन भागीदार के रूप में GPT-3-संचालित टेक्स्ट-जनरेटिंग टूल का उपयोग करने की शक्तियों और सीमाओं का वर्णन किया।

सुडोराइट नामक सॉफ़्टवेयर में वाक्यों को फीड करके, लीड्स जैसे लेखक स्वचालित रूप से उत्पन्न पाठ के अंश वापस प्राप्त कर सकते हैं; यह एक अधिक बुद्धिमान स्वत: पूर्ण की तरह कार्य करता है। लीड्स बोला था गद्य को गढ़ने के लिए इसका उपयोग करते समय द वर्ज उनकी उत्पादकता में 20 प्रतिशत से अधिक की वृद्धि हुई थी। वह सॉफ्टवेयर के आउटपुट को संपादित करती है और पैराग्राफ को अपनी किताबों में बदल देती है। पाठकों को अधिक रुचि रखने के लिए सुडोराइट तेज गति से किताबें लिखने में उनकी मदद कर रहा है। 

लेकिन लेखक एआई के इस्तेमाल से फटे हुए हैं। कुछ का मानना ​​है कि यह साहित्य की रचनात्मकता और जादू के खिलाफ जाता है, जबकि अन्य इसे कहानी कहने की क्षमता देखते हैं। क्या लेखकों को यह खुलासा करना चाहिए कि उनकी किताबें एल्गोरिदम की मदद से लिखी गई हैं? और इससे भी महत्वपूर्ण बात यह है कि क्या यह ऑटो-जेनरेटेड स्क्रिबलिंग कोई अच्छा है?

अभी, मशीनें काफी अच्छी नहीं हैं और कथा और कथानक को पटरी से उतरने से रोकने के लिए संपादन की आवश्यकता होती है। लीड्स का मानना ​​​​है कि सुडोराइट जैसे उपकरण एक दिन सामान्य कथा लिखने के लिए पर्याप्त होंगे। "मुझे लगता है कि यह वास्तविक खतरा है, कि आप ऐसा कर सकते हैं और फिर कुछ भी मूल नहीं है। सब कुछ बस कुछ और की एक प्रति है, ”उसने कहा। "समस्या यह है कि पाठकों को यही पसंद है।" ®