IBM کی دماغ سے متاثر اینالاگ چپ کا مقصد AI کو مزید پائیدار بنانا ہے۔

IBM کی دماغ سے متاثر اینالاگ چپ کا مقصد AI کو مزید پائیدار بنانا ہے۔

چیٹ جی پی ٹی, سلیب, مستحکم بازی، اور دیگر پیدا کرنے والے AIs نے دنیا کو طوفان میں لے لیا ہے۔ وہ شاندار شاعری اور تصاویر تخلیق کرتے ہیں۔ وہ مارکیٹنگ سے لے کر قانونی بریف لکھنے اور منشیات کی دریافت تک ہماری دنیا کے ہر کونے میں جا رہے ہیں۔ ایسا لگتا ہے کہ وہ ایک مین مشین دماغ کی کامیابی کی کہانی کے پوسٹر چائلڈ کی طرح ہیں۔

لیکن ہڈ کے نیچے، چیزیں کم آڑو لگ رہی ہیں. یہ سسٹمز بڑے پیمانے پر توانائی کے ہوگ ہیں، جن کے لیے ایسے ڈیٹا سینٹرز کی ضرورت ہوتی ہے جو ہزاروں ٹن کاربن کے اخراج کو تھوک دیتے ہیں — جو پہلے سے ہی غیر مستحکم آب و ہوا پر زور دیتے ہیں — اور اربوں ڈالر کا نقصان کرتے ہیں۔ جیسے جیسے عصبی نیٹ ورک زیادہ نفیس اور زیادہ وسیع پیمانے پر استعمال ہوتے ہیں، توانائی کی کھپت میں مزید اضافہ ہونے کا امکان ہے۔

جنریٹیو اے آئی پر کافی سیاہی پھیل گئی ہے۔ کاربن اثرات. اس کی توانائی کی طلب اس کے زوال کا سبب بن سکتی ہے، جو ترقی کی راہ میں رکاوٹ بن سکتی ہے کیونکہ یہ مزید بڑھتی ہے۔ موجودہ ہارڈ ویئر کا استعمال کرتے ہوئے، جنریٹو اے آئی کے "اگر یہ معیاری کمپیوٹنگ ہارڈویئر پر انحصار کرتا ہے تو جلد ہی رک جائے گا"۔ نے کہا انٹیل لیبز میں ڈاکٹر ہیچن وانگ۔

اب وقت آگیا ہے کہ ہم پائیدار AI بنائیں۔

اس ہفتے، پڑھائی IBM سے اس سمت میں ایک عملی قدم اٹھایا۔ انہوں نے 14 ملین میموری یونٹس سے بھری 35 نینو میٹر اینالاگ چپ بنائی۔ موجودہ چپس کے برعکس، حساب کتاب براہ راست ان اکائیوں کے اندر ہوتا ہے، جس سے ڈیٹا کو آگے پیچھے کرنے کی ضرورت ختم ہو جاتی ہے- بدلے میں توانائی کی بچت ہوتی ہے۔

وانگ نے کہا کہ ڈیٹا شٹلنگ سے توانائی کی کھپت کو اصل حساب کے لیے درکار 3 سے 10,000 گنا زیادہ ہو سکتا ہے۔

جب تقریر کی شناخت کے دو کاموں کے ساتھ چیلنج کیا گیا تو چپ انتہائی موثر تھی۔ ایک، گوگل اسپیچ کمانڈز، چھوٹی لیکن عملی ہیں۔ یہاں، رفتار کلید ہے. دوسرا، Librispeech، ایک بہت بڑا نظام ہے جو تقریر کو متن میں نقل کرنے میں مدد کرتا ہے، چپ کی بڑی مقدار میں ڈیٹا پر کارروائی کرنے کی صلاحیت پر ٹیکس لگاتا ہے۔

جب روایتی کمپیوٹرز کے مقابلے میں کھڑا کیا جاتا ہے، تو چپ نے اتنی ہی درست کارکردگی کا مظاہرہ کیا لیکن کام کو تیزی سے اور بہت کم توانائی کے ساتھ مکمل کیا، جو کچھ کاموں کے لیے عام طور پر درکار ہوتا ہے اس کے دسویں حصے سے بھی کم استعمال کرتے ہوئے۔

ٹیم نے کہا، "یہ، ہمارے علم کے مطابق، تجارتی لحاظ سے متعلقہ ماڈل پر تجارتی لحاظ سے متعلقہ درستگی کی سطح کے پہلے مظاہرے ہیں… کارکردگی اور بڑے پیمانے پر ہم آہنگی کے ساتھ" ایک اینالاگ چپ کے لیے، ٹیم نے کہا۔

برینی بائٹس

یہ شاید ہی پہلی اینالاگ چپ ہو۔ تاہم، یہ نیورومورفک کمپیوٹنگ کے خیال کو عملییت کے دائرے میں دھکیلتا ہے — ایک ایسی چپ جو ایک دن آپ کے فون، سمارٹ ہوم، اور دیگر آلات کو دماغ کے قریب کارکردگی کے ساتھ طاقت دے سکتی ہے۔

ام، کیا؟ آئیے بیک اپ کریں۔

موجودہ کمپیوٹرز پر بنائے گئے ہیں۔ وان نیومان فن تعمیر. ایک سے زیادہ کمروں کے ساتھ ایک گھر کے طور پر اس کے بارے میں سوچو. ایک، سینٹرل پروسیسنگ یونٹ (CPU)، ڈیٹا کا تجزیہ کرتا ہے۔ ایک اور میموری ذخیرہ کرتا ہے۔

ہر حساب کے لیے، کمپیوٹر کو ان دو کمروں کے درمیان ڈیٹا کو آگے پیچھے کرنے کی ضرورت ہوتی ہے، اور اس میں وقت اور توانائی درکار ہوتی ہے اور کارکردگی کم ہوتی ہے۔

دماغ، اس کے برعکس، ایک اسٹوڈیو اپارٹمنٹ میں حساب اور میموری دونوں کو یکجا کرتا ہے۔ اس کے مشروم جیسے جنکشن، جسے Synapses کہتے ہیں، دونوں عصبی نیٹ ورک بناتے ہیں اور یادوں کو ایک ہی جگہ پر محفوظ کرتے ہیں۔ Synapses انتہائی لچکدار ہوتے ہیں، اس بات کو ایڈجسٹ کرتے ہیں کہ وہ ذخیرہ شدہ میموری اور نئی سیکھنے کی بنیاد پر دوسرے نیورانز کے ساتھ کتنی مضبوطی سے جڑتے ہیں — ایک خاصیت جسے "وزن" کہا جاتا ہے۔ ہمارے دماغ ان Synaptic وزنوں کو ایڈجسٹ کرکے ہمیشہ بدلتے ہوئے ماحول میں تیزی سے ڈھل جاتے ہیں۔

IBM ڈیزائننگ میں سب سے آگے رہا ہے۔ ینالاگ چپس کہ نقل دماغ کی گنتی. ایک کامیابی 2016 میں آیا، جب انہوں نے ایک دلچسپ مواد پر مبنی ایک چپ متعارف کرائی جو عام طور پر دوبارہ لکھنے کے قابل سی ڈیز میں پائی جاتی ہے۔ جب بجلی سے زپ کیا جاتا ہے تو مادہ اپنی جسمانی حالت اور شکل بدلتا ہے گوپی سوپ سے کرسٹل جیسے ڈھانچے میں بدل جاتا ہے جو کہ ڈیجیٹل 0 اور 1 کی طرح ہے۔

یہاں کلید ہے: چپ ایک ہائبرڈ حالت میں بھی موجود ہوسکتی ہے۔ دوسرے لفظوں میں، حیاتیاتی Synapse کی طرح، مصنوعی ایک متعدد وزنوں کو انکوڈ کر سکتا ہے — نہ صرف بائنری — جس سے یہ اعداد و شمار کا ایک حصہ منتقل کیے بغیر متعدد حسابات کو جمع کر سکتا ہے۔

جیکل اور ہائیڈ

فیز چینج مواد کا استعمال کرکے پچھلے کام پر بنایا گیا نیا مطالعہ۔ بنیادی اجزاء "میموری ٹائلز" ہیں۔ ہر ایک گرڈ ڈھانچے میں ہزاروں فیز چینج مواد سے بھرا ہوا ہے۔ ٹائلیں آسانی سے ایک دوسرے کے ساتھ بات چیت کرتی ہیں۔

ہر ٹائل کو ایک قابل پروگرام مقامی کنٹرولر کے ذریعے کنٹرول کیا جاتا ہے، جس سے ٹیم کو جزو کو - نیوران کے مشابہ - کو درستگی کے ساتھ موافقت کرنے کی اجازت ملتی ہے۔ یہ چپ مزید سیکڑوں کمانڈز کو ترتیب کے ساتھ اسٹور کرتی ہے، جس سے اس طرح کا ایک بلیک باکس بنتا ہے جو انہیں دوبارہ کھودنے اور اس کی کارکردگی کا تجزیہ کرنے دیتا ہے۔

مجموعی طور پر، چپ میں 35 ملین فیز چینج میموری ڈھانچے تھے۔ کنکشن کی مقدار 45 ملین Synapses تھی جو انسانی دماغ سے بہت دور ہے، لیکن 14 نینو میٹر چپ پر بہت متاثر کن ہے۔

IBM کی دماغ سے متاثر اینالاگ چپ کا مقصد AI کو مزید پائیدار پلیٹو بلاکچین ڈیٹا انٹیلی جنس بنانا ہے۔ عمودی تلاش۔ عی
ایک 14nm اینالاگ AI چپ ایک محقق کے ہاتھ میں آرام کر رہی ہے۔ تصویری کریڈٹ: IBM کے لیے ریان لاوائن

دماغ کو بے حس کرنے والے یہ نمبر AI چپ کو شروع کرنے میں ایک مسئلہ پیش کرتے ہیں: تلاش کرنے کے لیے بہت سارے پیرامیٹرز ہیں۔ ٹیم نے اس مسئلے سے نمٹا کہ AI کنڈرگارٹن کی مقدار کتنی ہے، کمپیوٹنگ شروع ہونے سے پہلے پری پروگرامنگ سائنپٹک وزن۔ (یہ کچھ ایسا ہی ہے جیسے کسی نئے کاسٹ آئرن پین کو پکانے سے پہلے اس میں پکانا۔)

انہوں نے "اپنے نیٹ ورک کی تربیت کی تکنیک کو ہارڈ ویئر کے فوائد اور حدود کو ذہن میں رکھتے ہوئے تیار کیا،" اور پھر بہترین نتائج کے لیے وزن مقرر کیا، وانگ نے وضاحت کی، جو اس مطالعے میں شامل نہیں تھے۔

یہ باہر کام کیا. ایک ابتدائی ٹیسٹ میں، چپ نے ہر واٹ پاور کے لیے فی سیکنڈ 12.4 ٹریلین آپریشنز کے ذریعے آسانی سے منتھنی کی۔ وانگ نے کہا کہ توانائی کی کھپت "سب سے زیادہ طاقتور CPUs اور GPUs کے مقابلے میں دسیوں یا سینکڑوں گنا زیادہ ہے۔"

چپ نے میموری ٹائلوں میں صرف چند کلاسیکی ہارڈویئر اجزاء کے ساتھ گہرے اعصابی نیٹ ورکس کے بنیادی کمپیوٹیشنل عمل کو کیل لگایا۔ اس کے برعکس، روایتی کمپیوٹرز کو سیکڑوں یا ہزاروں ٹرانزسٹروں کی ضرورت ہوتی ہے (ایک بنیادی اکائی جو کیلکولیشن کرتی ہے)۔

ٹاؤن آف ٹاؤن

اس کے بعد ٹیم نے چپ کو تقریر کی شناخت کے دو کاموں کے لیے چیلنج کیا۔ ہر ایک نے چپ کے مختلف پہلو پر زور دیا۔

پہلا ٹیسٹ رفتار تھا جب نسبتاً چھوٹے ڈیٹا بیس کے ساتھ چیلنج کیا گیا۔ کا استعمال کرتے ہوئے گوگل اسپیچ کمانڈز ڈیٹا بیس، ٹاسک کے لیے AI چپ کو 12 مختصر الفاظ بولنے والے ہزاروں لوگوں کے تقریباً 65,000 کلپس کے ایک سیٹ میں 30 کلیدی الفاظ تلاش کرنے کی ضرورت تھی ("چھوٹا" گہری سیکھنے کی کائنات میں رشتہ دار ہے)۔ قبول شدہ بینچ مارک استعمال کرتے وقت-ایم ایل پیرف- چپ نے سات گنا تیزی سے کارکردگی کا مظاہرہ کیا۔ پچھلے کام کے مقابلے میں.

جب ایک بڑے ڈیٹا بیس کے ساتھ چیلنج کیا گیا تو چپ بھی چمک اٹھی، لبریز اسپیچ. اس کارپس میں 1,000 گھنٹے سے زیادہ پڑھی جانے والی انگریزی تقریر ہوتی ہے جو عام طور پر اسپیچ کو پارس کرنے اور خودکار اسپیچ ٹو ٹیکسٹ ٹرانسکرپشن کے لیے AI کو تربیت دینے کے لیے استعمال ہوتی ہے۔

مجموعی طور پر، ٹیم نے 45 ملین فیز چینج ڈیوائسز کے ڈیٹا کا استعمال کرتے ہوئے بالآخر 140 ملین سے زیادہ وزن کو انکوڈ کرنے کے لیے پانچ چپس کا استعمال کیا۔ جب روایتی ہارڈ ویئر کے مقابلے میں کھڑا کیا گیا تو، چپ تقریباً 14 گنا زیادہ توانائی کی بچت تھی — توانائی کی کھپت کے فی واٹ فی سیکنڈ میں تقریباً 550 نمونوں پر کارروائی کر رہی تھی — جس میں غلطی کی شرح 9 فیصد سے کچھ زیادہ تھی۔

اگرچہ متاثر کن، ینالاگ چپس اب بھی اپنے بچپن میں ہیں۔ وانگ نے کہا کہ وہ "AI سے وابستہ پائیداری کے مسائل سے نمٹنے کے لیے بہت بڑا وعدہ ظاہر کرتے ہیں،" لیکن آگے بڑھنے کے لیے کچھ اور رکاوٹیں دور کرنے کی ضرورت ہے۔

ایک عنصر خود میموری ٹکنالوجی کے ڈیزائن اور اس کے آس پاس کے اجزاء کو ٹھیک کر رہا ہے - یعنی، چپ کیسے رکھی جاتی ہے۔ IBM کی نئی چپ میں ابھی تک تمام ضروری عناصر شامل نہیں ہیں۔ اس کی افادیت کو برقرار رکھتے ہوئے ایک اگلا اہم مرحلہ ہر چیز کو ایک چپ پر ضم کرنا ہے۔

سافٹ ویئر کی طرف، ہمیں الگورتھم کی بھی ضرورت ہوگی جو خاص طور پر اینالاگ چپس کے مطابق بنائے، اور سافٹ ویئر جو آسانی سے کوڈ کو زبان میں ترجمہ کرے جسے مشینیں سمجھ سکتی ہیں۔ چونکہ یہ چپس تیزی سے تجارتی طور پر قابل عمل ہوتی جارہی ہیں، وقف شدہ ایپلی کیشنز تیار کرنا اینالاگ چپ مستقبل کے خواب کو زندہ رکھے گا۔

وانگ نے کہا کہ "کمپیوٹیشنل ایکو سسٹم کو تشکیل دینے میں کئی دہائیاں لگیں جس میں CPUs اور GPUs کامیابی سے کام کرتے ہیں۔" "اور ینالاگ AI کے لیے اسی طرح کا ماحول قائم کرنے میں شاید برسوں لگیں گے۔"

تصویری کریڈٹ: IBM کے لیے ریان لاوائن

ٹائم اسٹیمپ:

سے زیادہ یکسانیت مرکز