पूर्व OpenAI शोधकर्ता: 'तबाही' में AI के समाप्त होने की 50% संभावना है

OpenAI के एक पूर्व प्रमुख शोधकर्ता का मानना ​​है कि इस बात की अच्छी संभावना है कि कृत्रिम बुद्धिमत्ता मानवता पर नियंत्रण कर लेगी और उसे नष्ट कर देगी।

“I think maybe there’s something like a 10-20% chance of AI takeover, [with] many [or] most humans dead, ” Paul Christiano, who ran the language model alignment team at OpenAI, said on the बैंकलेस पॉडकास्ट. “I take it quite seriously.”

Christiano, who now heads the संरेखण अनुसंधान केंद्र, a non-profit aimed at aligning AIs and machine learning systems with “human interests,” said that he’s particularly worried about what happens when AIs reach the logical and creative capacity of a human being. “Overall, maybe we’re talking about a 50/50 chance of catastrophe shortly after we have systems at the human level,” he said.

Christiano is in good company. Recently scores of scientists around the world signed an online letter urging that OpenAI and other companies racing to build faster, smarter AIs, hit the pause button on development. Big wigs from Bill Gates to Elon Musk have expressed concern that, left unchecked, AI represents an obvious, existential danger to people.

बुराई मत करो

एआई बुराई क्यों बन जाएगी? मौलिक रूप से, उसी कारण से जो एक व्यक्ति करता है: प्रशिक्षण और जीवन का अनुभव।

Like a baby, AI is trained by receiving mountains of data without really knowing what to do with it. It learns by trying to achieve certain goals with random actions and zeroes in on “correct” results, as defined by training.

अब तक, इंटरनेट पर एकत्रित डेटा में खुद को डुबो कर, मशीन लर्निंग ने एआई को मानव प्रश्नों के लिए अच्छी तरह से संरचित, सुसंगत प्रतिक्रियाओं को एक साथ जोड़ने में बड़ी छलांग लगाने में सक्षम बनाया है। उसी समय, अंतर्निहित कंप्यूटर प्रसंस्करण जो मशीन लर्निंग को शक्ति प्रदान करता है, तेज, बेहतर और अधिक विशिष्ट हो रहा है। कुछ वैज्ञानिकों का मानना ​​है कि एक दशक के भीतर, वह प्रसंस्करण शक्ति, कृत्रिम बुद्धि के साथ मिलकर, इन मशीनों को मनुष्यों की तरह संवेदनशील बनने और स्वयं की भावना रखने की अनुमति देगी।

That’s when things get hairy. And it’s why many researchers argue that we need to figure out how to impose guardrails now, rather than later. As long as AI behavior is monitored, it नियंत्रित किया जा सकता है.

But if the coin lands on the other side, even OpenAI’s co-founder says that things could get very, बहुत बुरा.

पूर्णिमा का दिन?

This topic has been on the table for years. One of the most famous debates on the subject took place 11 years ago between AI researcher एलीएजर युडकोव्स्की and the economist रॉबिन हेन्सन. The two discussed the possibility of reaching “फूम”—which apparently stands for “Fast Onset of Overwhelming Mastery”—the point at which AI becomes exponentially smarter than humans and capable of self improvement. (The derivation of the term “foom” is विवादास्पद.)

"एलिएजर और उनके अनुचरों का मानना ​​है कि यह अपरिहार्य एआई बिना किसी चेतावनी के 'फूम' जाएगा, जिसका अर्थ है, एक दिन आप एक एजीआई [कृत्रिम सामान्य बुद्धि] का निर्माण करते हैं और घंटों या दिनों के बाद यह चीज पुनरावर्ती रूप से ईश्वर जैसी बुद्धि में सुधार करती है और फिर दुनिया को खा जाती है। . क्या यह यथार्थवादी है? एआई समुदाय में सक्रिय कंप्यूटर वैज्ञानिक पेरी मेट्ज़गर, हाल ही में ट्वीट किया गया.

Metzger ने तर्क दिया कि जब कंप्यूटर सिस्टम मानव बुद्धि के स्तर तक पहुंच जाते हैं, तब भी किसी भी बुरे परिणाम को दूर करने के लिए बहुत समय होता है। "क्या 'फूम' तार्किक रूप से संभव है? शायद। मुझे यकीन नहीं है," उन्होंने कहा। "क्या यह वास्तविक दुनिया संभव है? मुझे पूरा यकीन है कि नहीं। क्या दीर्घकालिक अतिमानवी एआई एक चीज बनने जा रही है? हां, लेकिन 'फूम' नहीं'

एक अन्य प्रमुख व्यक्ति, यान ले कुन ने भी अपनी आवाज उठाई, यह दावा करते हुए कि "पूरी तरह से असंभव, "मानवता के लिए एआई अधिग्रहण का अनुभव करने के लिए।" आशा करते है।

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोआईस्ट्रीम। Web3 डेटा इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• मिंटिंग द फ्यूचर डब्ल्यू एड्रिएन एशले। यहां पहुंचें।
• स्रोत: https://decrypt.co/138310/openai-researcher-chance-ai-catastrophe