نئی چپ AI کے امکانات کو بڑھاتی ہے۔

مصنوعی ذہانت کے الگورتھم اپنی موجودہ رفتار سے بڑھتے نہیں رہ سکتے۔ گہرے نیورل نیٹ ورکس جیسے الگورتھم - جو دماغ سے ڈھیلے طریقے سے متاثر ہوتے ہیں، مصنوعی نیورون کی متعدد پرتیں عددی اقدار کے ذریعے ایک دوسرے سے منسلک ہوتی ہیں جنہیں وزن کہا جاتا ہے - ہر سال بڑے ہوتے جاتے ہیں۔ لیکن ان دنوں، ہارڈ ویئر کی بہتری اب ان بڑے الگورتھم کو چلانے کے لیے درکار میموری اور پروسیسنگ کی بہت زیادہ صلاحیت کے ساتھ رفتار برقرار نہیں رکھتی ہے۔ جلد ہی، AI الگورتھم کا سائز دیوار سے ٹکرا سکتا ہے۔

اور یہاں تک کہ اگر ہم AI کے تقاضوں کو پورا کرنے کے لیے ہارڈ ویئر کو بڑھاتے رہ سکتے ہیں، تو ایک اور مسئلہ ہے: انہیں روایتی کمپیوٹرز پر چلانے سے بہت زیادہ توانائی ضائع ہوتی ہے۔ بڑے AI الگورتھم کو چلانے سے پیدا ہونے والا زیادہ کاربن کا اخراج پہلے ہی ماحول کے لیے نقصان دہ ہے، اور یہ صرف اور بھی بدتر ہوتا جائے گا کیونکہ الگورتھم مزید بڑے ہوتے جائیں گے۔

ایک حل، جسے نیورومورفک کمپیوٹنگ کہا جاتا ہے، توانائی کے موثر ڈیزائن بنانے کے لیے حیاتیاتی دماغوں سے تحریک لیتا ہے۔ بدقسمتی سے، اگرچہ یہ چپس توانائی کے تحفظ میں ڈیجیٹل کمپیوٹرز سے آگے نکل سکتی ہیں، لیکن ان کے پاس ایک بڑے گہرے نیورل نیٹ ورک کو چلانے کے لیے درکار کمپیوٹیشنل پاور کی کمی ہے۔ اس نے انہیں AI محققین کے لیے نظر انداز کرنا آسان بنا دیا ہے۔

یہ آخر کار اگست میں بدل گیا۔ ویئر وان, H.-S. فلپ وونگ, گیرٹ کاوینبرگس اور ان کے ساتھیوں ایک نئی نیورومورفک چپ کا انکشاف NeuRRAM کہلاتا ہے جس میں الگورتھم چلانے کے لیے اس کے ہارڈ ویئر میں 3 ملین میموری سیل اور ہزاروں نیوران شامل ہیں۔ یہ نسبتاً نئی قسم کی میموری استعمال کرتا ہے جسے مزاحمتی RAM، یا RRAM کہتے ہیں۔ پچھلے RRAM چپس کے برعکس، NeuRRAM کو مزید توانائی اور جگہ بچانے کے لیے ینالاگ انداز میں کام کرنے کے لیے پروگرام بنایا گیا ہے۔ جب کہ ڈیجیٹل میموری بائنری ہے — نیو آر آر اے ایم چپ میں 1 یا 0 — اینالاگ میموری سیلز کو ذخیرہ کرنے سے ہر ایک مکمل طور پر مسلسل رینج کے ساتھ متعدد اقدار کو محفوظ کر سکتا ہے۔ یہ چپ کو اتنی ہی مقدار میں چپ کی جگہ میں بڑے پیمانے پر AI الگورتھم سے مزید معلومات کو ذخیرہ کرنے کی اجازت دیتا ہے۔

نتیجے کے طور پر، نئی چپ تصویر اور تقریر کی شناخت جیسے پیچیدہ AI کاموں پر ڈیجیٹل کمپیوٹرز کے ساتھ ساتھ انجام دے سکتی ہے، اور مصنفین کا دعویٰ ہے کہ یہ 1,000 گنا زیادہ توانائی کی بچت ہے، جس سے چھوٹے چپس کے تیزی سے پیچیدہ الگورتھم چلانے کا امکان کھل جاتا ہے۔ چھوٹے آلات کے اندر جو پہلے AI کے لیے موزوں نہیں تھے جیسے سمارٹ گھڑیاں اور فون۔

محققین جو کام میں شامل نہیں ہیں نتائج سے بہت متاثر ہوئے ہیں۔ "یہ کاغذ بہت منفرد ہے،" کہا ژونگروئی وانگہانگ کانگ یونیورسٹی میں طویل عرصے سے RRAM کے محقق۔ "یہ مختلف سطحوں پر شراکت کرتا ہے — ڈیوائس کی سطح پر، سرکٹ فن تعمیر کی سطح پر، اور الگورتھم کی سطح پر۔"

نئی یادیں تخلیق کرنا

ڈیجیٹل کمپیوٹرز میں، AI الگورتھم چلانے کے دوران توانائی کی بڑی مقدار ضائع ہونے کی وجہ ایک سادہ اور ہر جگہ ڈیزائن کی خرابی ہوتی ہے جو کہ ہر ایک کمپیوٹیشن کو ناکارہ بنا دیتی ہے۔ عام طور پر، کمپیوٹر کی میموری — جس میں ڈیٹا اور عددی قدریں ہوتی ہیں جو کہ کمپیوٹنگ کے دوران اس میں کمی آتی ہے — کو پروسیسر سے دور مدر بورڈ پر رکھا جاتا ہے، جہاں کمپیوٹنگ ہوتی ہے۔

پروسیسر کے ذریعے حاصل ہونے والی معلومات کے لیے، "یہ اس طرح ہے جیسے آپ سفر میں آٹھ گھنٹے صرف کرتے ہیں، لیکن آپ دو گھنٹے کام کرتے ہیں،" وان نے کہا، جو اسٹینفورڈ یونیورسٹی کے کمپیوٹر سائنسدان ہیں جو حال ہی میں AI سٹارٹ اپ Aizip میں چلے گئے تھے۔

اس مسئلے کو نئے آل ان ون چپس کے ساتھ حل کرنا جو میموری اور کمپیوٹیشن کو ایک ہی جگہ پر رکھتا ہے۔ یہ اس کے بھی قریب ہے کہ ہمارے دماغ ممکنہ طور پر معلومات پر کیسے عمل کرتے ہیں، کیونکہ بہت سے نیورو سائنسدانوں کا خیال ہے کہ کمپیوٹنگ نیوران کی آبادی کے اندر ہوتی ہے، جب کہ یادیں اس وقت بنتی ہیں جب نیوران کے درمیان ہم آہنگی ان کے رابطوں کو مضبوط یا کمزور کرتی ہے۔ لیکن اس طرح کے آلات بنانا مشکل ثابت ہوا ہے، کیونکہ میموری کی موجودہ شکلیں پروسیسرز میں ٹیکنالوجی سے مطابقت نہیں رکھتی ہیں۔

کمپیوٹر سائنس دانوں نے دہائیوں پہلے ایسی نئی چپس بنانے کے لیے مواد تیار کیا تھا جو کمپیوٹنگ انجام دیتے ہیں جہاں میموری کو محفوظ کیا جاتا ہے - ایک ٹیکنالوجی جسے کمپیوٹ ان میموری کہا جاتا ہے۔ لیکن روایتی ڈیجیٹل کمپیوٹرز نے اتنی اچھی کارکردگی کا مظاہرہ کیا، ان خیالات کو کئی دہائیوں تک نظر انداز کیا گیا۔

اسٹینفورڈ کے پروفیسر وونگ نے کہا کہ "یہ کام، بالکل سائنسی کاموں کی طرح، ایک طرح سے بھول گیا تھا۔"

بے شک، اس طرح کا پہلا آلہ اس کی تاریخ کم از کم 1964 کی ہے، جب سٹینفورڈ کے الیکٹریکل انجینئرز نے دریافت کیا کہ وہ میٹل آکسائیڈز کہلانے والے مخصوص مواد میں ہیرا پھیری کر سکتے ہیں تاکہ بجلی کو آن اور آف کر سکیں۔ یہ اہم ہے کیونکہ مواد کی دو حالتوں کے درمیان سوئچ کرنے کی صلاحیت روایتی میموری اسٹوریج کے لیے ریڑھ کی ہڈی فراہم کرتی ہے۔ عام طور پر، ڈیجیٹل میموری میں، ہائی وولٹیج کی حالت 1، اور کم وولٹیج 0 کے مساوی ہوتی ہے۔

اسٹیٹس کو تبدیل کرنے کے لیے RRAM ڈیوائس حاصل کرنے کے لیے، آپ میٹل آکسائیڈ کے دو سروں تک جڑے ہوئے میٹل الیکٹروڈ پر وولٹیج لگاتے ہیں۔ عام طور پر، دھاتی آکسائیڈ انسولیٹر ہوتے ہیں، جس کا مطلب ہے کہ وہ بجلی نہیں چلاتے۔ لیکن کافی وولٹیج کے ساتھ، کرنٹ بنتا ہے، بالآخر مواد کے کمزور دھبوں کو دھکیلتا ہے اور دوسری طرف الیکٹروڈ کا راستہ بناتا ہے۔ ایک بار جب کرنٹ ٹوٹ جاتا ہے، تو یہ اس راستے پر آزادانہ طور پر بہہ سکتا ہے۔

وونگ اس عمل کو بجلی سے تشبیہ دیتا ہے: جب بادل کے اندر کافی چارج بن جاتا ہے، تو یہ تیزی سے کم مزاحمتی راستہ تلاش کرتا ہے اور بجلی گرتی ہے۔ لیکن بجلی کے برعکس، جس کا راستہ غائب ہو جاتا ہے، دھاتی آکسائیڈ سے گزرنے والا راستہ باقی رہتا ہے، یعنی یہ غیر معینہ مدت تک ترسیلی رہتا ہے۔ اور مواد پر ایک اور وولٹیج لگا کر ترسیلی راستے کو مٹانا ممکن ہے۔ لہذا محققین دو ریاستوں کے درمیان RRAM کو تبدیل کر سکتے ہیں اور ڈیجیٹل میموری کو ذخیرہ کرنے کے لیے استعمال کر سکتے ہیں۔

وسط صدی کے محققین نے توانائی سے بھرپور کمپیوٹنگ کی صلاحیت کو تسلیم نہیں کیا، اور نہ ہی انہیں ابھی تک اس کی ضرورت تھی ان چھوٹے الگورتھم کے ساتھ جن کے ساتھ وہ کام کر رہے تھے۔ 2000 کی دہائی کے اوائل تک، نئے دھاتی آکسائیڈز کی دریافت کے ساتھ، محققین کو امکانات کا ادراک کرنے میں لگا۔

وونگ، جو اس وقت IBM میں کام کر رہا تھا، یاد کرتا ہے کہ RRAM پر کام کرنے والے ایک ایوارڈ یافتہ ساتھی نے اعتراف کیا کہ وہ اس میں شامل فزکس کو پوری طرح سے نہیں سمجھتا تھا۔ "اگر وہ اسے نہیں سمجھتا ہے،" وونگ نے سوچنا یاد کیا، "شاید مجھے اسے سمجھنے کی کوشش نہیں کرنی چاہیے۔"

لیکن 2004 میں، سام سنگ الیکٹرانکس کے محققین نے اعلان کیا کہ ان کے پاس ہے۔ RRAM میموری کو کامیابی کے ساتھ مربوط کیا گیا۔ ایک روایتی کمپیوٹنگ چپ کے اوپر بنایا گیا ہے، جو تجویز کرتا ہے کہ ایک کمپیوٹ-ان-میموری چپ آخرکار ممکن ہو سکتی ہے۔ وونگ نے کم از کم کوشش کرنے کا عزم کیا۔

AI کے لیے کمپیوٹ ان میموری چپس

 ایک دہائی سے زیادہ عرصے تک، وونگ جیسے محققین نے RRAM ٹیکنالوجی کو اس مقام تک بنانے کے لیے کام کیا جہاں یہ اعلیٰ طاقت والے کمپیوٹنگ کے کاموں کو قابل اعتماد طریقے سے سنبھال سکے۔ 2015 کے آس پاس، کمپیوٹر سائنس دانوں نے بڑے AI الگورتھم کے لیے ان توانائی کی بچت کرنے والے آلات کی بے پناہ صلاحیت کو پہچاننا شروع کیا، جو شروع ہونے لگے تھے۔ اس سال، یونیورسٹی آف کیلیفورنیا، سانتا باربرا کے سائنسدان سے ظاہر ہوا کہ RRAM ڈیوائسز میموری کو ایک نئے طریقے سے ذخیرہ کرنے کے علاوہ اور بھی بہت کچھ کر سکتی ہیں۔ وہ بنیادی کمپیوٹنگ کے کاموں کو خود انجام دے سکتے ہیں - بشمول ایک عصبی نیٹ ورک کے مصنوعی نیوران کے اندر ہونے والے کمپیوٹیشنز کی اکثریت، جو سادہ میٹرکس ضرب کے کام ہیں۔

NeuRRAM چپ میں، سلکان نیوران ہارڈ ویئر میں بنائے جاتے ہیں، اور RRAM میموری کے خلیے وزن کو ذخیرہ کرتے ہیں - وہ اقدار جو نیوران کے درمیان رابطوں کی مضبوطی کی نمائندگی کرتی ہیں۔ اور چونکہ NeuRRAM میموری سیلز ینالاگ ہیں، اس لیے وہ وزن جو وہ ذخیرہ کرتے ہیں وہ مزاحمتی حالتوں کی مکمل رینج کی نمائندگی کرتے ہیں جو اس وقت ہوتی ہے جب آلہ کم مزاحمت کے درمیان اعلی مزاحمتی حالت میں سوئچ کرتا ہے۔ یہ ڈیجیٹل RRAM میموری سے کہیں زیادہ توانائی کی کارکردگی کو قابل بناتا ہے کیونکہ چپ متوازی طور پر متعدد میٹرکس کمپیوٹیشن چلا سکتی ہے — بجائے ایک کے بعد ایک لاک سٹیپ میں، جیسا کہ ڈیجیٹل پروسیسنگ ورژن میں۔

لیکن چونکہ ینالاگ پروسیسنگ ابھی بھی ڈیجیٹل پروسیسنگ سے کئی دہائیوں پیچھے ہے، اس لیے ابھی بھی بہت سے مسائل کو حل کرنا باقی ہے۔ ایک یہ کہ اینالاگ RRAM چپس کو غیر معمولی طور پر درست ہونا چاہیے کیونکہ فزیکل چپ پر موجود خامیاں تغیر اور شور کو متعارف کروا سکتی ہیں۔ (روایتی چپس کے لیے، صرف دو حالتوں کے ساتھ، یہ خامیاں تقریباً زیادہ اہمیت نہیں رکھتیں۔) یہ اینالاگ RRAM ڈیوائسز کے لیے AI الگورتھم کو چلانا خاصا مشکل بنا دیتا ہے، اس لیے کہ کسی تصویر کی درستگی، کہیے، پہچاننے میں نقصان ہو گا اگر RRAM ڈیوائس کی کوندکٹو حالت ہر بار بالکل ایک جیسی نہیں ہوتی ہے۔

"جب ہم روشنی کے راستے کو دیکھتے ہیں، ہر بار یہ مختلف ہوتا ہے،" وونگ نے کہا۔ "لہذا اس کے نتیجے میں، RRAM ایک خاص حد تک سٹاکسٹیٹی کا مظاہرہ کرتا ہے - ہر بار جب آپ ان کو پروگرام کرتے ہیں تو قدرے مختلف ہوتا ہے۔" وونگ اور ان کے ساتھیوں نے ثابت کیا کہ RRAM ڈیوائسز مسلسل AI وزن کو ذخیرہ کر سکتی ہیں اور پھر بھی ڈیجیٹل کمپیوٹرز کی طرح درست ہو سکتی ہیں اگر الگورتھم کو چپ پر آنے والے شور کے عادی ہونے کی تربیت دی جائے، یہ ایک پیش رفت ہے جس نے انہیں NeuRRAM چپ تیار کرنے کے قابل بنایا۔

ایک اور بڑا مسئلہ جو انہیں حل کرنا تھا اس میں متنوع نیورل نیٹ ورکس کو سپورٹ کرنے کے لیے درکار لچک شامل تھی۔ ماضی میں، چپ ڈیزائنرز کو چھوٹے RRAM آلات کو بڑے سلیکون نیوران کے ساتھ والے ایک علاقے میں لگانا پڑتا تھا۔ RRAM ڈیوائسز اور نیوران بغیر پروگرامیبلٹی کے سخت وائرڈ تھے، اس لیے گنتی صرف ایک ہی سمت میں کی جا سکتی تھی۔ دو طرفہ حساب کے ساتھ اعصابی نیٹ ورکس کو سپورٹ کرنے کے لیے، اضافی تاریں اور سرکٹس ضروری تھے، توانائی اور جگہ کی ضروریات کو بڑھاتے ہوئے۔

لہذا وونگ کی ٹیم نے ایک نیا چپ فن تعمیر ڈیزائن کیا جہاں RRAM میموری ڈیوائسز اور سلیکون نیوران کو آپس میں ملایا گیا تھا۔ ڈیزائن میں اس چھوٹی سی تبدیلی نے کل رقبہ کم کر دیا اور توانائی کی بچت کی۔

"میں نے سوچا کہ [انتظام] واقعی خوبصورت تھا،" کہا ملیکا پیوند، سوئس فیڈرل انسٹی ٹیوٹ آف ٹیکنالوجی زیورخ میں نیورومورفک محقق۔ "میں یقینی طور پر اسے ایک اہم کام سمجھتا ہوں۔"

کئی سالوں تک، وونگ کی ٹیم نے NeuRRAM چپ پر AI الگورتھم کو ڈیزائن، تیاری، جانچ، کیلیبریٹ کرنے اور چلانے کے لیے ساتھیوں کے ساتھ کام کیا۔ انہوں نے میموری کی دیگر ابھرتی ہوئی اقسام کے استعمال پر غور کیا جو کمپیوٹ-ان-میموری چپ میں بھی استعمال کی جا سکتی ہے، لیکن RRAM کو ینالاگ پروگرامنگ میں اس کے فوائد کی وجہ سے ایک برتری حاصل تھی، اور کیونکہ روایتی کمپیوٹنگ مواد کے ساتھ انضمام کرنا نسبتاً آسان تھا۔

ان کے حالیہ نتائج پہلی RRAM چپ کی نمائندگی کرتے ہیں جو اتنے بڑے اور پیچیدہ AI الگورتھم چلا سکتی ہے - ایک ایسا کارنامہ جو پہلے صرف نظریاتی نقالی میں ممکن ہوا تھا۔ "جب حقیقی سلکان کی بات آتی ہے، تو وہ صلاحیت غائب تھی،" کہا انوپ داس، ڈریکسل یونیورسٹی میں کمپیوٹر سائنس دان۔ "یہ کام پہلا مظاہرہ ہے۔"

"ڈیجیٹل AI سسٹمز لچکدار اور عین مطابق ہیں، لیکن شدت کے آرڈرز کم موثر ہیں،" کاوینبرگس نے کہا۔ اب، Cauwenberghs نے کہا، ان کی لچکدار، عین مطابق اور توانائی کی بچت کرنے والی اینالاگ RRAM چپ نے "پہلی بار خلا کو پر کیا ہے۔"

اسکیلنگ اپ

ٹیم کا ڈیزائن NeuRRAM چپ کو چھوٹا رکھتا ہے - صرف ایک انگلی کے ناخن کے سائز - جبکہ 3 ملین RRAM میموری ڈیوائسز کو نچوڑتا ہے جو اینالاگ پروسیسرز کے طور پر کام کر سکتے ہیں۔ اور جب کہ یہ کم از کم عصبی نیٹ ورک چلا سکتا ہے اور ساتھ ہی ڈیجیٹل کمپیوٹر بھی چلا سکتا ہے، چپ بھی (اور پہلی بار) الگورتھم چلا سکتی ہے جو مختلف سمتوں میں کمپیوٹیشن کرتی ہے۔ ان کی چپ RRAM سرنی کی قطاروں میں وولٹیج ڈال سکتی ہے اور کالموں سے آؤٹ پٹ پڑھ سکتی ہے جیسا کہ RRAM چپس کے لیے معیاری ہے، لیکن یہ کالموں سے قطاروں تک پیچھے کی طرف بھی کر سکتی ہے، اس لیے اسے کام کرنے والے اعصابی نیٹ ورکس میں استعمال کیا جا سکتا ہے۔ مختلف سمتوں میں بہنے والے ڈیٹا کے ساتھ۔

جیسا کہ خود RRAM ٹیکنالوجی کے ساتھ، یہ طویل عرصے سے ممکن ہے، لیکن کسی نے اسے کرنے کا نہیں سوچا۔ "ہم نے اس بارے میں پہلے کیوں نہیں سوچا؟" پیوند نے پوچھا۔ "پچھلے نظر میں، مجھے نہیں معلوم۔"

"یہ درحقیقت بہت سے دوسرے مواقع کھولتا ہے،" داس نے کہا۔ مثال کے طور پر، اس نے کثیر جہتی فزکس سمیلیشنز یا سیلف ڈرائیونگ کاروں کے لیے درکار بہت زیادہ الگورتھم چلانے کے لیے ایک سادہ سسٹم کی صلاحیت کا ذکر کیا۔

پھر بھی سائز ایک مسئلہ ہے۔ سب سے بڑے عصبی نیٹ ورکس میں اب اربوں وزن ہوتے ہیں، نئے چپس میں موجود لاکھوں نہیں۔ وونگ ایک دوسرے کے اوپر متعدد NeuRRAM چپس کو اسٹیک کرکے اسکیل کرنے کا ارادہ رکھتا ہے۔

مستقبل کے آلات میں توانائی کی لاگت کو کم رکھنا، یا انہیں مزید کم کرنا بھی اتنا ہی اہم ہوگا۔ وہاں جانے کا ایک راستہ ہے بذریعہ دماغ کی نقل حقیقی نیوران کے درمیان استعمال ہونے والے مواصلاتی سگنل کو اپنانے کے لیے اور بھی قریب سے: برقی سپائیک۔ یہ ایک سگنل ہے جو ایک نیوران سے دوسرے نیوران تک چلا جاتا ہے جب سیل کے اندر اور باہر کے درمیان وولٹیج میں فرق ایک اہم حد تک پہنچ جاتا ہے۔

"وہاں بڑے چیلنجز ہیں،" کہا ٹونی کینیونیونیورسٹی کالج لندن میں نینو ٹیکنالوجی کے محقق۔ "لیکن ہم اب بھی اس سمت میں آگے بڑھنا چاہتے ہیں، کیونکہ … امکانات یہ ہیں کہ اگر آپ بہت کم اسپائکس استعمال کر رہے ہیں تو آپ کے پاس توانائی کی کارکردگی زیادہ ہوگی۔" کینیون نے نوٹ کیا کہ الگورتھم کو چلانے کے لیے جو موجودہ NeuRRAM چپ پر بڑھتے ہیں ممکنہ طور پر بالکل مختلف فن تعمیر کی ضرورت ہوگی۔

ابھی کے لیے، نیو آر آر اے ایم چپ پر بڑے AI الگورتھم چلاتے ہوئے ٹیم نے جو توانائی کی کارکردگی کو پورا کیا اس نے نئی امید پیدا کی ہے کہ میموری ٹیکنالوجیز AI کے ساتھ کمپیوٹنگ کے مستقبل کی نمائندگی کر سکتی ہیں۔ ہو سکتا ہے کہ ایک دن ہم انسانی دماغ کے 86 بلین نیورونز اور کھربوں Synapses سے بھی میل کر سکیں گے جو ان کو طاقت ختم کیے بغیر جوڑ دیتے ہیں۔