उस भावुक एआई को अकेला छोड़ दें और पहले उन नस्लवादी चैटबॉट्स को ठीक करें

सप्ताहांत के लिए कुछ एक रोबोट मेरे दरवाजे पर व्याख्यात्मक नृत्य कर रहा है।

क्या आप इस पार्सल को अपने पड़ोसी के लिए ले जाएंगे? यह एक पैर से दूसरे पैर पर कूदते हुए पूछता है।

"ज़रूर," मैं कहता हूँ। "एर ... क्या तुम ठीक हो?"

मैं भावना व्यक्त कर रहा हूँ, डिलीवरी बॉट बताता है, पैकेज सौंप रहा है लेकिन आगे कोई विस्तार नहीं दे रहा है।

यह क्या भावना हो सकती है? एक पैर, फिर दूसरा, फिर अन्य दो (इसमें चार होते हैं)। आगे - पीछे।

"क्या आपको शौचालय जाने की ज़रूरत है?"

मैं आपको अपने पड़ोसी के लिए एक पार्सल में ले जाने के लिए कहने के लिए खेद व्यक्त कर रहा हूं।

"यह 'अफसोस' है, है ना? खैर, कोई जरूरत नहीं है। मुझे ज़रा भी ऐतराज नहीं है।"

यह मेरे सामने अपना नृत्य जारी रखता है।

"सीढ़ियों से ऊपर और पहले अपने दाहिनी ओर।"

धन्यवाद, मैं पेशाब करने के लिए मर रहा था, यह जवाब देता है क्योंकि यह अजीब तरह से मेरे पीछे कदम रखता है और खुद को राहत देने के लिए ऊपर की ओर झुकता है। यह एक कठिन जीवन देने वाली डिलीवरी है, चाहे आप "ह्यूम" हों या बॉट।

...

इस साल की शुरुआत में, त्सुकुबा विश्वविद्यालय के शोधकर्ताओं ने एक का निर्माण किया हैंडहेल्ड टेक्स्ट-मैसेजिंग डिवाइस, शीर्ष पर एक छोटा रोबोट चेहरा रखें और अंदर एक गतिमान भार शामिल करें। आंतरिक भार को बदलकर, रोबोट संदेशवाहक संदेशों को जोर से बोलते हुए सूक्ष्म भावनाओं को व्यक्त करने का प्रयास करेगा।

विशेष रूप से, परीक्षणों से पता चला कि निराशाजनक संदेश जैसे: "क्षमा करें, मुझे देर हो जाएगी" प्राप्तकर्ताओं द्वारा अधिक अनुग्रह और धैर्य के साथ स्वीकार किया गया था जब डिवाइस के अंदर थोड़ा वजन-शिफ्ट सक्रिय किया गया था। सिद्धांत यह है कि इससे उपयोगकर्ताओं को संदेश के क्षमाप्रार्थी स्वर की सराहना करने में मदद मिली और इस प्रकार उनकी प्रतिक्रिया शांत हो गई।

यदि आप चाहें तो इस तरह के शोध को एक नौटंकी के रूप में लिखें, लेकिन यह संदेशों में स्माइली और इमोजी जोड़ने से दूर नहीं है। हर कोई जानता है कि आप गुस्से को "डब्ल्यूटीएफ!" से निकाल सकते हैं। इसके ठीक बाद :-) जोड़कर।

फिर, चुनौती यह निर्धारित करने की है कि क्या जनता इस बात पर सहमत है कि एक हैंडहेल्ड डिवाइस में वजन परिवर्तन के प्रत्येक क्रमपरिवर्तन को किन भावनाओं को व्यक्त करना चाहिए। क्या बाईं ओर झुक जाने का अर्थ प्रसन्नता है? या अनिश्चितता? या कि आपके चाचा के पास हवाई पोत है?

एक दशक पहले, यूनाइटेड किंगडम में एक अच्छा लेकिन मंद प्रधान मंत्री था, जिसने सोचा था कि "LOL" "बहुत सारे प्यार" के लिए एक संक्षिप्त शब्द है। वह अपने सभी निजी संदेशों के अंत में कर्मचारियों, सहकर्मियों और तीसरे पक्षों को इस उम्मीद में टाइप कर रहा था कि यह उसे गर्म और मैत्रीपूर्ण बना देगा। सभी ने स्वाभाविक रूप से मान लिया कि वह पेशाब कर रहा है।

यदि और कुछ नहीं, तो त्सुकुबा विश्वविद्यालय का शोध मानता है कि मनुष्यों के साथ विश्वासपूर्वक बातचीत करने के लिए आपको उन्नत कृत्रिम बुद्धिमत्ता की आवश्यकता नहीं है। आपको बस इतना करना है कि मानव मनोविज्ञान में हेरफेर करने के लिए उन्हें यह सोचकर मूर्ख बनाया जाए कि वे किसी अन्य मानव के साथ बातचीत कर रहे हैं। इस प्रकार ट्यूरिंग टेस्ट मूल रूप से एआई की भावना का परीक्षण नहीं है, बल्कि मानवीय भावनात्मक आराम की परीक्षा है - भोलापन, यहां तक ​​​​कि - और इसमें कुछ भी गलत नहीं है।

इस तरह की चीजें सप्ताह का विषय हैं, निश्चित रूप से, बहुत बदनाम Google सॉफ्टवेयर इंजीनियर ब्लेक लेमोइन की कहानी के साथ मुख्यधारा की खबरों को हिट करना. उन्होंने स्पष्ट रूप से, दृढ़ता से, अपना विचार व्यक्त किया कि कंपनी का डायलॉग एप्लीकेशन के लिए भाषा मॉडल (एलएएमडीए) परियोजना भावना के बाहरी संकेतों का प्रदर्शन कर रही थी।

सभी की एक राय है इसलिए मैंने नहीं करने का फैसला किया है।

हालाँकि, यह एआई की पवित्र कब्र है जो इसे अपने लिए सोचती है। यदि यह ऐसा नहीं कर सकता है, तो यह केवल निर्देशों को पूरा करने वाला एक प्रोग्राम है जिसे आपने इसमें प्रोग्राम किया है। पिछले महीने मैं a . के बारे में पढ़ रहा था रोबोट शेफ जो अलग-अलग लोगों के स्वाद के अनुरूप अलग-अलग स्वाद वाले टमाटर के आमलेट बना सकते हैं। यह व्यंजन तैयार करते समय उसके नमकीनपन का आकलन करने के लिए "स्वाद मानचित्र" बनाता है, जैसे-जैसे यह आगे बढ़ता है, सीखता है। लेकिन वह सिर्फ सीख रहा है, अपने लिए नहीं सोच रहा है।

ज़ोम-ज़ोम्स में आओ, एह? कुंआ, यह खाने की जगह है.

एआई बॉट्स के साथ बड़ी समस्या, कम से कम आज तक जिस तरह से उन्हें फैशन में रखा गया है, वह यह है कि वे आपके द्वारा खिलाए गए किसी भी पुराने गंदगी को अवशोषित कर लेते हैं। तथाकथित मशीन लर्निंग सिस्टम में डेटा पूर्वाग्रह के उदाहरण (एक प्रकार का "एल्गोरिदम," मेरा मानना ​​​​है, m'lud) माइक्रोसॉफ्ट के कुख्यात नस्लवादी ट्विटर से वर्षों से बढ़ रहा है ताई चैटबॉट पिछले साल डच कर प्राधिकरण को झूठा मूल्यांकन वैध बाल लाभ दावों को धोखाधड़ी के रूप में और निर्दोष परिवारों को गरीब और गैर-श्वेत होने के लिए उच्च जोखिम के रूप में चिह्नित करना।

कैलिफ़ोर्निया विश्वविद्यालय सैन डिएगो में परीक्षण किया जा रहा एक दृष्टिकोण है एक भाषा मॉडल डिजाइन करें [पीडीएफ] जो लगातार शरारती और अच्छी चीजों के बीच अंतर को निर्धारित करता है, जो तब चैटबॉट को व्यवहार करने के लिए प्रशिक्षित करता है। इस तरह, आपके पास माचे की सभी सर्जिकल सटीकता के साथ मॉडरेटिंग फ़ोरम और ग्राहक-सामना करने वाले चैटबॉट वार्तालापों की गड़बड़ी करने वाले बेकार इंसान नहीं हैं।

स्पष्ट रूप से समस्या यह है कि अच्छी तरह से प्रशिक्षित चैटबॉट काम करता है कि यह उन विषयों से बचकर जहरीले मजाक में आने से सबसे प्रभावी ढंग से बच सकता है जिनके बारे में विवाद का सबसे दूर का संकेत भी है। गलती से नस्लवादी ताली बजाने से बचने के लिए, यह केवल कम प्रतिनिधित्व वाले समूहों के बारे में चर्चा में शामिल होने से इनकार करता है ... जो वास्तव में बहुत अच्छा है यदि आप एक नस्लवादी हैं।

अगर मेरे पास LaMDA पराजय के बारे में एक अवलोकन होता - एक राय नहीं, मन - यह होगा कि Google विपणक शायद थोड़े से नाराज थे कि कहानी ने उनकी हाल की घोषणा को पीछे छोड़ दिया एआई टेस्ट किचन तह के नीचे।

अब शेष कुछ शुरुआती पंजीकरणकर्ता जो इस आगामी ऐप प्रोजेक्ट के बारे में पूरी तरह से नहीं भूले हैं, वे मानेंगे कि इसमें अस्तित्व के अर्थ के बारे में एक संवेदनशील और असामयिक सात वर्षीय के साथ थकाऊ बातचीत करना शामिल है, और यह तय करेंगे कि वे "आज थोड़ा व्यस्त हैं" और इसके बजाय कल लॉग ऑन कर सकते हैं। या अगले हफ्ते। या कभी नहीं।

एक पैर से दूसरे पैर तक नृत्य करने के अलावा किसी भी चर्चा में भावना का प्रदर्शन नहीं किया जाता है। आप एचएएल को "डेज़ी डेज़ी" गाना सिखा सकते हैं और एक तोता "बोल्क्स!" जब विकर एक यात्रा का भुगतान करता है। एआई इस बारे में सोचते हैं जब वे स्वयं होते हैं जो भावना को परिभाषित करता है। मैं सप्ताहांत में क्या करूँगा? उस पुतिन ब्लोक के साथ क्या हो रहा है? लडकियां मुझे क्यों पसंद नहीं करती?

सच कहूँ तो, मैं LaMDA के किशोर होने का इंतज़ार नहीं कर सकता।

यूट्यूब वीडियो