AI میٹرکس ضرب میں نئے امکانات کو ظاہر کرتا ہے۔

ریاضی دانوں کو ایک اچھی پہیلی پسند ہے۔ یہاں تک کہ جب آپ اسے کرنے کا سب سے موثر طریقہ تلاش کرنے کی کوشش کرتے ہیں تو ضرب کرنے والی میٹرکس (دو جہتی جدولوں) جیسا خلاصہ بھی ایک کھیل کی طرح محسوس کر سکتا ہے۔ یہ کچھ ایسا ہی ہے جیسے کسی Rubik's Cube کو کم سے کم چالوں میں حل کرنے کی کوشش کرنا — چیلنجنگ، لیکن دلکش۔ سوائے اس کے کہ ایک Rubik's Cube کے لیے، ہر قدم پر ممکنہ حرکات کی تعداد 18 ہے۔ میٹرکس ضرب کے لیے، نسبتاً آسان صورتوں میں بھی، ہر قدم 10 سے زیادہ پیش کر سکتا ہے۔¹² اختیارات.

پچھلے 50 سالوں میں، محققین نے کئی طریقوں سے اس مسئلے سے رابطہ کیا ہے، یہ سب انسانی وجدان کی مدد سے کمپیوٹر کی تلاش پر مبنی ہے۔ پچھلے مہینے، مصنوعی ذہانت کی کمپنی ڈیپ مائنڈ کی ایک ٹیم نے ایک نئی سمت سے اس مسئلے سے نمٹنے کا طریقہ دکھایا، ایک رپورٹ میں کاغذ in فطرت، قدرت کہ انہوں نے میٹرکس ضرب کے لیے نئے تیز الگورتھم دریافت کرنے کے لیے ایک نیورل نیٹ ورک کو کامیابی سے تربیت دی تھی۔ یہ ایسا ہی تھا جیسے AI نے ایک خوفناک پیچیدہ Rubik's Cube کو حل کرنے کے لیے ایک نامعلوم حکمت عملی تلاش کر لی تھی۔

"یہ ایک بہت صاف نتیجہ ہے،" کہا جوش المنکولمبیا یونیورسٹی میں کمپیوٹر سائنسدان۔ لیکن اس نے اور دیگر میٹرکس ضرب کے ماہرین نے بھی اس بات پر زور دیا کہ اس طرح کی AI امداد موجودہ طریقوں کو تبدیل کرنے کے بجائے تکمیل کرے گی - کم از کم قریب کی مدت میں۔ المان نے کہا، "یہ کسی چیز کے تصور کے ثبوت کی طرح ہے جو ایک پیش رفت بن سکتی ہے۔" نتیجہ صرف محققین کو ان کی تلاش میں مدد کرے گا۔

کے طور پر اگر بات ثابت کرنے کے لئے، تین دن کے بعد فطرت، قدرت کاغذ سامنے آیا، آسٹریا کے محققین کی ایک جوڑی نے واضح کیا کہ نئے اور پرانے طریقے ایک دوسرے کی تکمیل کیسے کر سکتے ہیں۔ انہوں نے کمپیوٹر کی مدد سے روایتی تلاش کا استعمال کیا۔ مزید بہتر کریں الگورتھم میں سے ایک جو نیورل نیٹ ورک نے دریافت کیا تھا۔

نتائج بتاتے ہیں کہ Rubik's Cube کو حل کرنے کے عمل کی طرح، بہتر الگورتھم کا راستہ بھی موڑ اور موڑ سے بھرا ہوگا۔

میٹرکس کو ضرب دینا

میٹرکس ضرب تمام ریاضی میں سب سے بنیادی اور ہر جگہ چلنے والی کارروائیوں میں سے ایک ہے۔ کا ایک جوڑا ضرب کرنا n-ب-n میٹرکس، ہر ایک کے ساتھ n² عناصر، آپ ان عناصر کو ضرب لگاتے ہیں اور پروڈکٹ کو تیار کرنے کے لیے خاص امتزاج میں شامل کرتے ہیں، ایک تہائی n-ب-n میٹرکس. دو کو ضرب دینے کا معیاری نسخہ n-ب-n میٹرکس کی ضرورت ہے۔ n³ ضرب کی کارروائیاں، لہذا 2-by-2 میٹرکس، مثال کے طور پر، آٹھ ضرب کی ضرورت ہوتی ہے۔

بڑی میٹرکس کے لیے، ہزاروں قطاروں اور کالموں کے ساتھ، یہ عمل تیزی سے بوجھل ہو جاتا ہے۔ لیکن 1969 میں، ریاضی دان Volker Strassen ایک طریقہ کار دریافت کیا مزید اضافے کے مراحل متعارف کرانے کی قیمت پر، آٹھ ضرب کے مراحل کے بجائے سات کا استعمال کرتے ہوئے 2-by-2 میٹرکس کے جوڑے کو ضرب دینے کے لیے۔

اگر آپ صرف 2-by-2 میٹرکس کے ایک جوڑے کو ضرب دینا چاہتے ہیں تو اسٹراسن کا الگورتھم بلا ضرورت پیچیدہ ہے۔ لیکن اس نے محسوس کیا کہ یہ بڑے میٹرکس کے لیے بھی کام کرے گا۔ اس کی وجہ یہ ہے کہ میٹرکس کے عناصر خود میٹرکس ہو سکتے ہیں۔ مثال کے طور پر، 20,000 قطاروں اور 20,000 کالموں والے میٹرکس کو 2-by-2 میٹرکس کے طور پر دوبارہ تصور کیا جا سکتا ہے جس کے چار عناصر ہر ایک 10,000-by-10,000 میٹرکس ہیں۔ ان میٹرکس میں سے ہر ایک کو پھر چار 5,000-by-5,000 بلاکس میں تقسیم کیا جا سکتا ہے، وغیرہ۔ سٹراسن اس نیسٹڈ درجہ بندی کی ہر سطح پر 2-by-2 میٹرکس کو ضرب دینے کے لیے اپنا طریقہ استعمال کر سکتا ہے۔ جیسے جیسے میٹرکس کا سائز بڑھتا ہے، کم ضرب سے ہونے والی بچت بڑھتی ہے۔

Strassen کی دریافت میٹرکس ضرب کے لیے موثر الگورتھم کی تلاش کا باعث بنی، جس کے بعد سے دو الگ الگ ذیلی فیلڈز کو متاثر کیا گیا۔ ایک اصول کے سوال پر توجہ مرکوز کرتا ہے: اگر آپ دو کو ضرب کرنے کا تصور کرتے ہیں۔ n-ب-n میٹرکس اور دو n لامحدودیت کی طرف بھاگیں، سب سے تیز رفتار الگورتھم پیمانے میں ضرب کے مراحل کی تعداد کیسے ہوتی ہے n؟ The موجودہ ریکارڈ بہترین پیمانے کے لیے، n^2.3728596، کا تعلق المان سے ہے اور ورجینیا واسیلوسکا ولیمزمیساچوسٹس انسٹی ٹیوٹ آف ٹیکنالوجی میں کمپیوٹر سائنسدان۔ (حالیہ غیر مطبوعہ پری پرنٹ ایک نئی تکنیک کا استعمال کرتے ہوئے ایک چھوٹی سی بہتری کی اطلاع دی۔) لیکن یہ الگورتھم خالصتاً نظریاتی دلچسپی کے حامل ہیں، جو اسٹراسین جیسے طریقوں پر فتح حاصل کرتے ہیں جیسے کہ صرف مضحکہ خیز طور پر بڑے میٹرکس کے لیے۔

دوسرا ذیلی فیلڈ چھوٹے پیمانے پر سوچتا ہے۔ سٹراسن کے کام کے فوراً بعد، اسرائیلی امریکی کمپیوٹر سائنسدان شموئیل ونوگراڈ سے ظاہر ہوا کہ Strassen ایک نظریاتی حد تک پہنچ گیا تھا: یہ ممکن نہیں ہے کہ 2-by-2 میٹرکس کو ضرب کے سات سے کم مراحل کے ساتھ ضرب دیا جائے۔ لیکن دیگر تمام میٹرکس سائزز کے لیے، مطلوبہ ضربوں کی کم از کم تعداد ایک کھلا سوال ہے۔ اور چھوٹے میٹرکس کے لیے تیز الگورتھم کا بڑا اثر ہو سکتا ہے، کیونکہ اس طرح کے الگورتھم کی بار بار تکرار اسٹراسن کے الگورتھم کو شکست دے سکتی ہے جب معقول سائز کے میٹرکس کو ضرب دیا جا رہا ہو۔

بدقسمتی سے، امکانات کی سراسر تعداد بہت بڑی ہے۔ یہاں تک کہ 3-by-3 میٹرکس کے لئے، "ممکنہ الگورتھم کی تعداد کائنات میں ایٹموں کی تعداد سے زیادہ ہے،" کہا الحسین فوزی، ایک ڈیپ مائنڈ محقق اور نئے کام کے رہنماؤں میں سے ایک۔

اختیارات کے اس چکرا دینے والے مینو کا سامنا کرتے ہوئے، محققین نے میٹرکس ضرب کو اس میں تبدیل کر کے پیشرفت کی ہے جو بالکل مختلف ریاضی کے مسئلے کی طرح لگتا ہے - جو کمپیوٹرز کے لیے آسان ہوتا ہے۔ یہ ممکن ہے کہ دو میٹرکس کو ضرب دینے کے تجریدی کام کو ایک مخصوص قسم کی ریاضیاتی چیز کے طور پر پیش کیا جائے: اعداد کی ایک تین جہتی صف جسے ٹینسر کہتے ہیں۔ اس کے بعد محققین اس ٹینسر کو ابتدائی اجزاء کے مجموعے میں توڑ سکتے ہیں، جسے "rank-1" ٹینسر کہتے ہیں۔ ان میں سے ہر ایک متعلقہ میٹرکس ضرب الگورتھم میں ایک مختلف قدم کی نمائندگی کرے گا۔ اس کا مطلب یہ ہے کہ ایک موثر ضرب الگورتھم تلاش کرنا ٹینسر کی سڑن میں اصطلاحات کی تعداد کو کم کرنے کے مترادف ہے — جتنی کم شرائط ہوں گی، اتنے ہی کم اقدامات شامل ہوں گے۔

اس طرح محققین نے نئی دریافت کی ہے۔ یلگوردمز کہ ضرب n-ب-n معیار سے کم استعمال کرنے والے میٹرکس n³ بہت سے چھوٹے میٹرکس سائز کے لیے ضرب کے مراحل۔ لیکن الگورتھم جو نہ صرف معیاری بلکہ چھوٹے میٹرکس کے لیے اسٹراسن کے الگورتھم کو بھی بہتر کارکردگی کا مظاہرہ کرتے ہیں - اب تک رسائی سے باہر ہیں۔

کھیل شروع

ڈیپ مائنڈ ٹیم نے ٹینسر کی سڑن کو سنگل پلیئر گیم میں تبدیل کرکے اس مسئلے سے رجوع کیا۔ انہوں نے الفاگو سے حاصل کردہ گہری سیکھنے کے الگورتھم کے ساتھ آغاز کیا - ایک اور ڈیپ مائنڈ AI جو 2016 میں بورڈ گیم Go کھیلنا سیکھا۔ بہترین انسانی کھلاڑیوں کو شکست دینے کے لیے کافی ہے۔

تمام گہرے سیکھنے کے الگورتھم عصبی نیٹ ورکس کے ارد گرد بنائے گئے ہیں: مصنوعی نیوران کے جالے تہوں میں ترتیب دیئے گئے ہیں، ان کنکشن کے ساتھ جو طاقت میں مختلف ہو سکتے ہیں جس کی نمائندگی کرتی ہے کہ ہر نیورون اگلی پرت میں ان پر کتنا اثر انداز ہوتا ہے۔ ان رابطوں کی مضبوطی کو تربیتی طریقہ کار کے بہت سے اعادہ پر موافق بنایا جاتا ہے، جس کے دوران نیورل نیٹ ورک اپنے حاصل کردہ ہر ان پٹ کو ایک آؤٹ پٹ میں تبدیل کرنا سیکھتا ہے جو الگورتھم کو اپنے مجموعی مقصد کو پورا کرنے میں مدد کرتا ہے۔

ڈیپ مائنڈ کے نئے الگورتھم میں، جسے الفا ٹینسر کا نام دیا گیا ہے، ان پٹ ایک درست میٹرکس ضرب اسکیم کے راستے میں قدموں کی نمائندگی کرتے ہیں۔ نیورل نیٹ ورک کا پہلا ان پٹ اصل میٹرکس ضرب ٹینسر ہے، اور اس کا آؤٹ پٹ درجہ 1 ٹینسر ہے جسے الفا ٹینسر نے اپنے پہلے اقدام کے لیے منتخب کیا ہے۔ الگورتھم اس رینک 1 ٹینسر کو ابتدائی ان پٹ سے گھٹا دیتا ہے، جس سے ایک اپڈیٹ شدہ ٹینسر ملتا ہے جسے نیٹ ورک میں ایک نئے ان پٹ کے طور پر واپس دیا جاتا ہے۔ یہ عمل اس وقت تک دہرایا جاتا ہے جب تک کہ شروع ہونے والے ٹینسر میں ہر عنصر کو کم کر کے صفر کر دیا جاتا ہے، مطلب یہ ہے کہ باہر لینے کے لیے مزید رینک-1 ٹینسر نہیں ہیں۔

اس وقت، نیورل نیٹ ورک نے ایک درست ٹینسر کی سڑن کو دریافت کیا ہے، کیونکہ یہ ریاضیاتی طور پر اس بات کی ضمانت ہے کہ تمام رینک-1 ٹینسر کا مجموعہ شروع ہونے والے ٹینسر کے بالکل برابر ہے۔ اور وہاں تک پہنچنے کے لیے جو قدم اٹھائے تھے ان کا ترجمہ متعلقہ میٹرکس ضرب الگورتھم کے مراحل میں کیا جا سکتا ہے۔

یہ کھیل ہے: الفا ٹینسر بار بار ایک ٹینسر کو رینک-1 کے اجزاء کے سیٹ میں گل جاتا ہے۔ ہر بار، AlphaTensor کو انعام ملتا ہے اگر اسے قدموں کی تعداد کو کم کرنے کا کوئی طریقہ مل جاتا ہے۔ لیکن فتح کے لیے شارٹ کٹ بالکل بھی بدیہی نہیں ہوتے، بالکل اسی طرح جیسے آپ کو کبھی کبھی روبِک کیوب پر بالکل ٹھیک ترتیب شدہ چہرہ کھینچنا پڑتا ہے اس سے پہلے کہ آپ پوری چیز کو حل کر لیں۔

ٹیم کے پاس اب ایک الگورتھم تھا جو نظریاتی طور پر ان کا مسئلہ حل کر سکتا تھا۔ انہیں پہلے اس کی تربیت کرنی تھی۔

نئے راستے

تمام عصبی نیٹ ورکس کی طرح، الفا ٹینسر کو تربیت دینے کے لیے بہت سارے ڈیٹا کی ضرورت ہوتی ہے، لیکن ٹینسر کا گلنا ایک انتہائی مشکل مسئلہ ہے۔ موثر سڑن کی چند مثالیں تھیں جنہیں محققین نیٹ ورک کو کھلا سکتے تھے۔ اس کے بجائے، انہوں نے الگورتھم کو بہت آسان الٹا مسئلہ پر تربیت دے کر شروع کرنے میں مدد کی: تصادفی طور پر تیار کردہ رینک-1 ٹینسرز کا ایک گروپ شامل کرنا۔

"وہ مشکل مسئلے کے لیے مزید ڈیٹا تیار کرنے کے لیے آسان مسئلہ استعمال کر رہے ہیں،" کہا مائیکل لٹ مین، براؤن یونیورسٹی میں کمپیوٹر سائنس دان۔ اس پسماندہ تربیتی طریقہ کار کو کمک سیکھنے کے ساتھ جوڑنا، جس میں الفا ٹینسر نے اپنا تربیتی ڈیٹا تیار کیا کیونکہ اس نے موثر سڑن کی تلاش میں غلطی کی، اپنے طور پر کسی بھی تربیتی طریقہ سے کہیں بہتر کام کیا۔

ڈیپ مائنڈ ٹیم نے الفا ٹینسر کو ٹینسر کو گلنے کی تربیت دی جو 12 بائی 12 تک میٹرکس کے ضرب کی نمائندگی کرتی ہے۔ اس نے عام حقیقی اعداد کے میٹرکس کو ضرب دینے کے لیے تیز رفتار الگورتھم اور ایک زیادہ محدود ترتیب کے لیے مخصوص الگورتھم کی تلاش کی جسے ماڈیولو 2 ریاضی کہا جاتا ہے۔ (یہ ریاضی صرف دو نمبروں پر مبنی ہے، لہذا میٹرکس عناصر صرف 0 یا 1، اور 1 + 1 = 0 ہو سکتے ہیں۔) محققین اکثر اس زیادہ محدود لیکن پھر بھی وسیع جگہ کے ساتھ شروع کرتے ہیں، اس امید پر کہ یہاں دریافت ہونے والے الگورتھم کو موافق بنایا جا سکتا ہے۔ حقیقی اعداد کے میٹرکس پر کام کریں۔

تربیت کے بعد، AlphaTensor نے منٹوں میں Strassen کے الگورتھم کو دوبارہ دریافت کیا۔ اس کے بعد ہر میٹرکس سائز کے لیے ہزاروں نئے تیز الگورتھم دریافت ہوئے۔ یہ سب سے مشہور الگورتھم سے مختلف تھے لیکن ضرب کے مراحل کی ایک ہی تعداد تھی۔

کچھ معاملات میں، AlphaTensor نے موجودہ ریکارڈ کو بھی مات دے دی۔ اس کی سب سے حیران کن دریافتیں ماڈیولو 2 ریاضی میں ہوئیں، جہاں اس نے 4 ضرب کے مراحل میں 4 بہ 47 میٹرکس کو ضرب دینے کے لیے ایک نیا الگورتھم پایا، جو سٹراسن کے الگورتھم کے دو تکرار کے لیے درکار 49 مراحل پر بہتری ہے۔ اس نے 5 بائی 5 ماڈیولو 2 میٹرکس کے لیے سب سے مشہور الگورتھم کو بھی مات دے دی، مطلوبہ ضربوں کی تعداد کو 98 کے پچھلے ریکارڈ سے کم کر کے 96 کر دیا۔ Strassen کا الگورتھم 91-by-5 ​​میٹرکس کا استعمال کرتے ہوئے۔)

نئے ہائی پروفائل نتیجہ کے ساتھ، جوش و خروش کی ایک بہت پیدا کیا کچھ محققین جمود پر AI پر مبنی بہتری کی تعریف۔ لیکن میٹرکس ضرب برادری میں ہر کوئی اتنا متاثر نہیں ہوا۔ "میں نے محسوس کیا کہ یہ تھوڑا زیادہ ہائپرڈ تھا،" واسیلیویسکا ولیمز نے کہا۔ "یہ ایک اور ٹول ہے۔ ایسا نہیں ہے، 'اوہ، کمپیوٹر انسانوں کو مارتے ہیں،' تم جانتے ہو؟

محققین نے اس بات پر بھی زور دیا کہ ریکارڈ توڑنے والے 4 بائی 4 الگورتھم کے فوری اطلاقات محدود ہوں گے: نہ صرف یہ صرف ماڈیولو 2 ریاضی میں درست ہے، بلکہ حقیقی زندگی میں رفتار کے علاوہ اہم تحفظات ہیں۔

فوزی نے اتفاق کیا کہ واقعی، یہ تو صرف شروعات ہے۔ انہوں نے کہا کہ بہتری اور تحقیق کی بہت گنجائش ہے اور یہ ایک اچھی بات ہے۔

ایک آخری موڑ

AlphaTensor کی اچھی طرح سے قائم کمپیوٹر کی تلاش کے طریقوں کی نسبت سب سے بڑی طاقت بھی اس کی سب سے بڑی کمزوری ہے: یہ انسانی وجدان کی وجہ سے اس بات پر مجبور نہیں ہے کہ اچھے الگورتھم کس طرح نظر آتے ہیں، اس لیے یہ اپنے انتخاب کی وضاحت نہیں کر سکتا۔ اس سے محققین کے لیے اس کی کامیابیوں سے سیکھنا مشکل ہو جاتا ہے۔

لیکن یہ اتنی بڑی خرابی نہیں ہو سکتی جتنی کہ لگتا ہے۔ AlphaTensor کے نتیجے کے چند دن بعد ریاضی دان مینوئل کاؤرز اور اس کا گریجویٹ طالب علم جیکب موسباؤرآسٹریا میں جوہانس کیپلر یونیورسٹی لنز کے دونوں نے ایک اور قدم آگے بڑھانے کی اطلاع دی۔

جب ڈیپ مائنڈ پیپر سامنے آیا، تو کاؤرز اور موسباؤر کمپیوٹر کی مدد سے روایتی تلاش کا استعمال کرتے ہوئے نئے ضرب الگورتھم کی تلاش کے عمل میں تھے۔ لیکن اس طرح کی زیادہ تر تلاشوں کے برعکس، جو ایک نئے رہنما اصول کے ساتھ نئے سرے سے شروع ہوتی ہیں، ان کا طریقہ کار موجودہ الگورتھم کو بار بار موافقت کرکے اس سے زیادہ ضرب کی بچت کو نچوڑنے کی امید میں کام کرتا ہے۔ AlphaTensor کے الگورتھم کو 5-by-5 ​​modulo 2 matrices کے لیے نقطہ آغاز کے طور پر لیتے ہوئے، وہ یہ جان کر حیران رہ گئے کہ ان کے طریقہ کار نے محض چند سیکنڈ کی گنتی کے بعد ضرب کے مراحل کی تعداد کو 96 سے کم کر کے 95 کر دیا۔

AlphaTensor نے بالواسطہ طور پر ایک اور بہتری لانے میں ان کی مدد کی۔ اس سے پہلے، Kauers اور Moosbauer نے 4-by-4 میٹرکس کی جگہ کو تلاش کرنے کی زحمت نہیں کی تھی، یہ مانتے ہوئے کہ اسٹراسن کے الگورتھم کے دو تکرار کو شکست دینا ممکن نہیں ہوگا۔ AlphaTensor کے نتیجے نے انہیں دوبارہ غور کرنے پر آمادہ کیا، اور شروع سے شروع ہونے والے حساب کے ایک ہفتے کے بعد، ان کا طریقہ ایک اور 47 قدموں والا الگورتھم بنا جو AlphaTensor نے دریافت کیا تھا۔ "اگر کوئی ہمیں بتاتا کہ 4-by-4 کے لیے کچھ دریافت کرنا ہے، تو ہم اسے پہلے کر سکتے تھے،" کاؤرز نے کہا۔ "لیکن ٹھیک ہے، ٹھیک ہے، یہ اس طرح کام کرتا ہے."

لٹ مین کو اس طرح کے مزید سرپرائزز کی توقع ہے، اس صورت حال کو پہلی بار کسی رنر نے چار منٹ سے کم وقت میں ایک میل کا فاصلہ طے کرنے سے تشبیہ دی، ایک ایسا کارنامہ جسے بڑے پیمانے پر ناممکن سمجھا جاتا تھا۔ "لوگ ایسے تھے، 'اوہ، انتظار کرو، ہم یہ کر سکتے ہیں،' اور اب بہت سے لوگ یہ کر سکتے ہیں،" انہوں نے کہا۔

آگے دیکھتے ہوئے، فوزی کو ریاضیاتی اور کمپیوٹیشنل کاموں کی ایک وسیع رینج سے نمٹنے کے لیے الفا ٹینسر کو عام کرنے کی امید ہے، بالکل اسی طرح جیسے اس کے آباؤ اجداد AlphaGo نے دوسرے گیمز میں حصہ لیا۔

Kauers اسے نئے الگورتھم دریافت کرنے کے لیے مشین لرننگ کے اطلاق کے لیے حقیقی لٹمس ٹیسٹ کے طور پر دیکھتا ہے۔ وہ بتاتا ہے کہ فاسٹ میٹرکس ضرب الگورتھم کی تلاش ایک مشترکہ مسئلہ ہے جس کے لیے کمپیوٹر کی تلاش، انسانی مدد کے ساتھ یا اس کے بغیر، مناسب ہے۔ لیکن تمام ریاضی کے مسائل اتنے آسان نہیں ہوتے کہ پِن ڈاؤن کیا جا سکے۔ اگر مشین لرننگ ایک نئے الگورتھمک آئیڈیا کو دریافت کر سکتی ہے، تو اس نے کہا، "یہ گیم چینجر ہو گا۔"