ChatGPT ڈویلپر نے پیش گوئی کی ہے کہ "SuperIntelligent" AI اس دہائی میں آئے گا۔ بٹ پینس

• OpenAI نے ایک بلاگ پوسٹ کے ذریعے اعلان کیا کہ وہ ایک "Superalignment" ٹیم بنانے کے لیے تیار ہے، ایک ایسا گروپ جو سپر انٹیلی جنس کو کنٹرول کرنے کے طریقے تیار کرے گا۔
• سپر انٹیلی جنس اپنی علمی اور سوچنے کی مہارتیں تیار کر سکتی ہے، اس طرح یہ انسانیت کے لیے سب سے زیادہ اثر انگیز ٹیکنالوجی بننے کی صلاحیت رکھتی ہے، اور یہ دنیا کے بہت سے اہم مسائل کو حل کرنے میں مدد کر سکتی ہے۔
• OpenAI کے لیے، انسانوں کے پاس ممکنہ طور پر انتہائی ذہین AI کو اسٹیئرنگ یا کنٹرول کرنے کا کوئی حل نہیں ہے۔

"اگرچہ سپر انٹیلیجنس اب بہت دور نظر آتی ہے، ہمیں یقین ہے کہ یہ اس دہائی تک پہنچ سکتی ہے۔"

یہ بیان OpenAI کے، مقبول لینگویج ماڈل (LM) ChatGPT کے پیچھے ڈویلپر، جیسا کہ ٹیم نے ایک ٹیم بنانے کا اعلان کیا جس کا مقصد "سپر ذہانت" AI سسٹمز کو چلانے اور کنٹرول کرنے کے طریقے تیار کرنا ہے۔

مزید مضامین پڑھیں BitPinas پر AI کے بارے میں.

سپر انٹیلی جنس کیا ہے؟ 

ایک سپر انٹیلیجنٹ AI کو AI کا مستقبل سمجھا جاتا ہے، کیونکہ اس میں ایسی صلاحیتیں ہیں جو انسانی ذہانت کو پیچھے چھوڑ دیتی ہیں۔ 

بنیادی طور پر، سپر انٹیلی جنس اپنی علمی اور سوچنے کی مہارتیں تیار کر سکتی ہے، اس طرح اس میں انسانیت کے لیے سب سے زیادہ اثر انگیز ٹیکنالوجی بننے کی صلاحیت ہے، اور یہ دنیا کے بہت سے اہم مسائل کو حل کرنے میں مدد کر سکتی ہے۔

تاہم، OpenAI نے اعتراف کیا، "سپر انٹیلی جنس کی وسیع طاقت بھی بہت خطرناک ہو سکتی ہے اور یہ انسانیت کی بے اختیاری یا یہاں تک کہ انسانی معدومیت کا باعث بن سکتی ہے۔"

اور جو چیز زیادہ تشویشناک ہے وہ یہ ہے کہ ڈویلپر نے تسلیم کیا کہ انسانوں کے پاس ممکنہ طور پر سپر انٹیلیجنٹ AI کو چلانے یا اسے کنٹرول کرنے اور اسے بدمعاش ہونے سے روکنے کا کوئی حل نہیں ہے۔

"اے آئی کو سیدھ میں لانے کے لیے ہماری موجودہ تکنیک، جیسے انسانی تاثرات سے کمک سیکھنا، انسانوں کی AI کی نگرانی کی صلاحیت پر انحصار کرتی ہے۔ لیکن انسان ہم سے زیادہ ہوشیار AI سسٹمز کی قابل اعتماد طریقے سے نگرانی نہیں کر سکیں گے، اور اس لیے ہماری موجودہ صف بندی کی تکنیک سپر انٹیلی جنس تک نہیں پہنچ سکے گی۔" اوپن اے آئی نے زور دیا۔

(مزید پڑھ: چیٹ جی پی ٹی کے لیے حتمی ابتدائی رہنما: AI چیٹ بوٹ کو مؤثر طریقے سے استعمال کرنے کا طریقہ سیکھیں۔)

اوپن اے آئی کا حل

OpenAI کے لیے، کمیونٹی کو نئی سائنسی اور تکنیکی کامیابیوں کی ضرورت ہے۔

اس کے ساتھ، ڈویلپر نے اعلان کیا کہ وہ ایک "Superalignment" ٹیم تشکیل دے گا، ایک گروپ جس کا مقصد سپر انٹیلی جنس کو کنٹرول کرنے کے طریقے تیار کرنا ہے۔ اس ٹیم کی مشترکہ قیادت اوپن اے آئی کے شریک بانی اور چیف سائنسدان الیا سوٹسکیور اور اوپن اے آئی کی الائنمنٹ ٹیم لیڈ جان لییک کر رہے ہیں، اور انہوں نے اس کوشش کے لیے اوپن اے آئی نے اب تک حاصل کردہ کمپیوٹنگ پاور کا 20 فیصد مختص کیا ہے۔

"ہمارا مقصد تقریباً انسانی سطح کے خودکار سیدھ میں محقق بنانا ہے۔ اس کے بعد ہم اپنی کوششوں کو پیمانہ کرنے کے لیے بہت زیادہ کمپیوٹ استعمال کر سکتے ہیں، اور بار بار سپر انٹیلی جنس کو ترتیب دے سکتے ہیں۔ ڈویلپر نے وضاحت کی۔ 

مزید برآں، OpenAI نے انکشاف کیا کہ وہ پہلے خودکار الائنمنٹ محقق کو اس کے ذریعے سیدھ میں کرنے کا منصوبہ بنا رہا ہے:

• ایسے کاموں کے لیے تربیتی سگنل فراہم کرنے کے لیے جن کا اندازہ کرنا انسانوں کے لیے مشکل ہوتا ہے، دوسرے AI سسٹمز کا جائزہ لینے میں مدد کے لیے AI سسٹمز کا استعمال۔
• یہ سمجھنا کہ نگرانی کس طرح ان کاموں کو عام کرتی ہے جن کی وہ نگرانی نہیں کر سکتے،
• ان کے نظام کی سیدھ کی توثیق کرنے کے لیے مشکل رویوں یا اندرونی حالتوں کی کھوج کرنا۔
• غیر منسلک ماڈلز کو جان بوجھ کر تربیت دے کر پوری پائپ لائن کی جانچ کرنا اور اس بات کو یقینی بنانا کہ ان کی تکنیک سب سے خراب قسم کی صف بندی کی مماثلتوں کا پتہ لگا سکتی ہے۔

اسی سلسلے میں، OpenAI نے یہ بھی اعلان کیا کہ وہ مذکورہ کوششوں میں شامل ہونے کے لیے نمایاں نئے محققین اور انجینئرز کی تلاش کر رہا ہے، غالباً وہ لوگ جنہوں نے مشین لرننگ کا تجربہ کیا ہے۔

"سپر انٹیلی جنس الائنمنٹ بنیادی طور پر مشین لرننگ کا مسئلہ ہے، اور ہمارے خیال میں مشین لرننگ کے عظیم ماہرین — خواہ وہ پہلے سے صف بندی پر کام نہ کر رہے ہوں — اسے حل کرنے کے لیے اہم ہوں گے،" ChatGPT ڈویلپر نے نتیجہ اخذ کیا۔ 

(مزید پڑھ: 10 سب سے زیادہ معاوضہ دینے والی AI نوکریاں: ایک جامع گائیڈ)

چیٹ جی پی ٹی کے اخلاقی تحفظات

ہمارے حالیہ AI مضامین میں، ہم نے متعدد بار اس بات سے نمٹا ہے کہ ChatGPT اور دیگر جنریٹیو AI ٹولز کو حال ہی میں ردعمل کا سامنا کرنا پڑ رہا ہے کیونکہ وہ اخلاقی مسائل کو اٹھاتے ہیں۔ کچھ لوگوں کے لیے، یہ ٹولز غلط معلومات، ڈیٹا کی رازداری کی خلاف ورزیوں، اور یہاں تک کہ نفرت پھیلانے کے لیے بھی استعمال کیے جا سکتے ہیں۔ 

درحقیقت، ابھی پچھلے مہینے، OpenAI نے "Bing کے ساتھ تلاش" فیچر کو عارضی طور پر غیر فعال کر دیا تھا جب یہ رپورٹ موصول ہوئی تھی کہ یہ فیچر ایسی ویب سائٹس سے معلومات حاصل کرنے کے لیے استعمال کیا جا رہا ہے جن تک رسائی کے لیے ادائیگی کی ضرورت ہوتی ہے۔

ذرا تصور کریں، اگر یہ AI ٹولز پہلے ہی غلطیوں کا ارتکاب کر رہے ہیں، تو بے قابو سپر انٹیلی جنس مزید کتنا کام کر رہی ہے؟

یہ مضمون BitPinas پر شائع ہوا ہے: ChatGPT ڈویلپر نے پیش گوئی کی ہے کہ "SuperIntelligent" AI اس دہائی میں آئے گا۔

اعلان دستبرداری: BitPinas کے مضامین اور اس کا بیرونی مواد مالی مشورہ نہیں ہے۔ ٹیم فلپائن-کرپٹو اور اس سے آگے کے لیے معلومات فراہم کرنے کے لیے آزاد، غیر جانبدارانہ خبریں فراہم کرتی ہے۔

• SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
• پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
• پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
• پلیٹو ای ایس جی۔ آٹوموٹو / ای وی، کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
• بلاک آفسیٹس۔ ماحولیاتی آفسیٹ ملکیت کو جدید بنانا۔ یہاں تک رسائی حاصل کریں۔
• ماخذ: https://bitpinas.com/ai/superintelligent-ai-will-arrive/