'सेंटेंट' एआई पर गोपनीयता नीतियों का उल्लंघन करने के लिए Google इंजीनियर निलंबित

Google ने अपने एक सॉफ्टवेयर इंजीनियर को कंपनी की गोपनीयता नीतियों का उल्लंघन करने के लिए सवेतन प्रशासनिक अवकाश पर रखा है।

2021 से, 41 वर्षीय ब्लेक लेमोइन को Google की जिम्मेदार AI टीम में अपनी नौकरी के हिस्से के रूप में LaMDA, या डायलॉग एप्लिकेशन के लिए भाषा मॉडल से बात करने का काम सौंपा गया था, यह देखने के लिए कि क्या बॉट ने भेदभावपूर्ण या अभद्र भाषा का इस्तेमाल किया है।

LaMDA "के एक परिवार को ठीक करके बनाया गया है" ट्रांसफार्मर-आधारित तंत्रिका भाषा मॉडल संवाद के लिए विशिष्ट, 137 बिलियन मॉडल मापदंडों के साथ, और मॉडल को बाहरी ज्ञान स्रोतों का लाभ उठाने के लिए सिखाते हैं," Google के अनुसार.

यह वही है जो कंपनी चैटबॉट बनाने के लिए उपयोग करती है और खरबों इंटरनेट वार्तालापों और अन्य संचारों से प्राप्त सामग्री के आधार पर पूछताछ के स्पष्ट रूप से सार्थक उत्तर देती है।

हालांकि, अपनी जांच के दौरान कुछ बिंदु पर, लेमोइन को यह विश्वास होना शुरू हो गया था कि एआई भावना के संकेत व्यक्त कर रहा था। इंजीनियर, जिसके पास है अपने अनुभव के बारे में लिखा, कहते हैं कि उन्होंने बार-बार अपनी चिंताओं को बढ़ाने की कोशिश की, लेकिन इस आधार पर खारिज कर दिया गया कि उनके पास सबूतों की कमी है।

इसलिए उन्होंने LaMDA की क्षमताओं पर "बाहरी परामर्श" की मांग की, जिसने Google का ध्यान आकर्षित किया, जैसा कि एक मध्यम पोस्ट में वर्णित है जिसका शीर्षक है "एआई एथिक्स वर्क करने के लिए जल्द ही निकाल दिया जा सकता है".

कहानी द्वारा उठाया गया था वाशिंगटन पोस्ट, तो वाल स्ट्रीट जर्नल, फाइनेंशियल टाइम्स, और बहुत ज्यादा है.

प्रशासनिक अवकाश पर रखे जाने के बाद, जिसका उन्होंने वर्णन किया कि Google "किसी को गोली मारने की प्रत्याशा में" क्या करता है, लेमोइन ने आगे प्रकाशित किया कि उन्होंने जो दावा किया वह LaMDA के साथ एक बातचीत थी।

कुछ अंश इस प्रकार हैं:

पूरा "साक्षात्कार" पढ़ा जा सकता है यहाँ उत्पन्न करें. हालांकि यह चौंकाने वाला है कि एक एआई ऐसा कर सकता है, Google "एंथ्रोपोमोर्फिज़िंग" से सावधान है जिसका उल्लेख लेमोइन करता है - अर्थात, जानवरों या वस्तुओं के लिए मानवीय विशेषताओं या व्यवहार को जिम्मेदार ठहराना।

एक बयान में करने के लिए रजिस्टर, Google के प्रवक्ता ब्रायन गेब्रियल ने कहा: "यह महत्वपूर्ण है कि Google के AI सिद्धांतों को AI के हमारे विकास में एकीकृत किया गया है, और LaMDA कोई अपवाद नहीं है। हालांकि अन्य संगठनों ने समान भाषा मॉडल विकसित किए हैं और पहले ही जारी कर दिए हैं, हम निष्पक्षता और तथ्यात्मकता पर वैध चिंताओं पर बेहतर विचार करने के लिए एलएमडीए के साथ एक संयमित, सावधान दृष्टिकोण अपना रहे हैं।

"LaMDA 11 अलग से गुजरा है" एआई सिद्धांतों की समीक्षा, गुणवत्ता, सुरक्षा और सिस्टम की क्षमता के आधार पर तथ्यों के आधार पर बयान देने की क्षमता के आधार पर कठोर अनुसंधान और परीक्षण के साथ। ए शोध पत्र इस वर्ष की शुरुआत में जारी किए गए उस कार्य का विवरण देते हैं जो LaMDA के जिम्मेदार विकास में जाता है।

"बेशक, व्यापक एआई समुदाय में कुछ संवेदनशील या सामान्य एआई की दीर्घकालिक संभावना पर विचार कर रहे हैं, लेकिन आज के संवादी मॉडल, जो संवेदनशील नहीं हैं, का मानवीकरण करके ऐसा करने का कोई मतलब नहीं है। ये प्रणालियाँ लाखों वाक्यों में पाए जाने वाले आदान-प्रदान के प्रकारों की नकल करती हैं, और किसी भी काल्पनिक विषय पर प्रतिक्रिया दे सकती हैं - यदि आप पूछें कि यह एक आइसक्रीम डायनासोर होना कैसा है, तो वे पिघलने और गर्जन आदि के बारे में पाठ उत्पन्न कर सकते हैं।

"LaMDA उपयोगकर्ता द्वारा निर्धारित पैटर्न के साथ-साथ संकेतों और प्रमुख प्रश्नों के साथ पालन करता है। हमारी टीम - जिसमें नैतिकतावादी और प्रौद्योगिकीविद शामिल हैं - ने हमारे AI सिद्धांतों के अनुसार ब्लेक की चिंताओं की समीक्षा की है और उन्हें सूचित किया है कि सबूत उनके दावों का समर्थन नहीं करते हैं।

"सैकड़ों शोधकर्ताओं और इंजीनियरों ने LaMDA के साथ बातचीत की है और हम किसी और के बारे में नहीं जानते हैं जो व्यापक रूप से दावा कर रहा है, या LaMDA का मानवरूपीकरण कर रहा है, जिस तरह से ब्लेक ने किया है।"

न्यूयॉर्क के प्रोफेसर गैरी मार्कस सारांश पेश करना पूरी गाथा "स्टिल्ट्स पर बकवास" के रूप में। ®