NeurIPS 2023: مدعو مذاکرات سے اہم نکات

NeurIPS 2023: مدعو مذاکرات سے اہم نکات

NeurIPS 2023 بات چیت

Midjourney کے ساتھ تیار کیا گیا۔

نیو اورلینز کے متحرک شہر میں 2023 سے 10 دسمبر تک منعقد ہونے والی NeurIPS 16 کانفرنس میں جنریٹیو AI اور بڑے لینگویج ماڈلز (LLMs) پر خاص زور تھا۔ اس ڈومین میں حالیہ اہم پیشرفت کی روشنی میں، یہ کوئی تعجب کی بات نہیں تھی کہ یہ موضوعات بحث پر حاوی رہے۔

اس سال کی کانفرنس کے بنیادی موضوعات میں سے ایک زیادہ موثر AI سسٹمز کی تلاش تھی۔ محققین اور ڈویلپرز سرگرمی سے ایسے AI بنانے کے طریقے تلاش کر رہے ہیں جو نہ صرف موجودہ LLMs سے زیادہ تیزی سے سیکھتے ہیں بلکہ کم کمپیوٹنگ وسائل استعمال کرتے ہوئے استدلال کی بہتر صلاحیتوں کے مالک ہیں۔ یہ حصول مصنوعی جنرل انٹیلی جنس (AGI) کے حصول کی دوڑ میں بہت اہم ہے، ایک ایسا مقصد جو مستقبل قریب میں تیزی سے حاصل کیا جا سکتا ہے۔

NeurIPS 2023 میں مدعو مذاکرات ان متحرک اور تیزی سے ابھرتے ہوئے مفادات کا عکاس تھے۔ AI تحقیق کے مختلف شعبوں سے تعلق رکھنے والے پریزینٹرز نے اپنی تازہ ترین کامیابیوں کا اشتراک کیا، جس میں AI کی جدید ترین پیشرفت کی ایک ونڈو پیش کی گئی۔ اس آرٹیکل میں، ہم ان باتوں کا جائزہ لیتے ہیں، اہم نکات اور سیکھنے کو نکالتے اور ان پر تبادلہ خیال کرتے ہیں، جو AI اختراع کے موجودہ اور مستقبل کے مناظر کو سمجھنے کے لیے ضروری ہیں۔

NextGenAI: سکیلنگ کا فریب اور جنریٹو AI کا مستقبل 

In اس کی بات، Björn Ommer، میونخ کی Ludwig Maximilian University میں Computer Vision & Learning Group کے سربراہ، نے بتایا کہ کس طرح ان کی لیب نے اسٹیبل ڈفیوژن تیار کیا، اس عمل سے انھوں نے کچھ اسباق سیکھے، اور حالیہ پیش رفت، بشمول ہم کس طرح ڈفیوژن ماڈلز کو ملا سکتے ہیں۔ بہاؤ کی مماثلت، بازیافت میں اضافہ، اور LoRA کا تخمینہ، دوسروں کے درمیان۔

بازی ماڈلز

کلیدی راستے:

  • جنریٹو اے آئی کے دور میں، ہم وژن ماڈلز (یعنی آبجیکٹ ریکگنیشن) میں ادراک پر توجہ مرکوز کرتے ہوئے گمشدہ حصوں کی پیشین گوئی کرنے کی طرف بڑھے (مثلاً، ڈفیوژن ماڈلز کے ساتھ تصویر اور ویڈیو جنریشن)۔
  • 20 سالوں سے، کمپیوٹر وژن بینچ مارک ریسرچ پر مرکوز رہا، جس نے سب سے نمایاں مسائل پر توجہ مرکوز کرنے میں مدد کی۔ جنریٹو AI میں، ہمارے پاس بہتر بنانے کے لیے کوئی معیار نہیں ہے، جس نے ہر ایک کے لیے اپنی اپنی سمت جانے کا میدان کھول دیا۔
  • ڈفیوژن ماڈلز ایک مستحکم تربیتی طریقہ کار اور موثر نمونے کی تدوین کے ساتھ سکور پر مبنی ہونے کی وجہ سے پچھلے جنریٹو ماڈلز کے فوائد کو یکجا کرتے ہیں، لیکن یہ اپنی طویل مارکوف چین کی وجہ سے مہنگے ہیں۔
  • مضبوط امکانات والے ماڈلز کے ساتھ چیلنج یہ ہے کہ زیادہ تر بٹس ایسی تفصیلات میں چلے جاتے ہیں جو انسانی آنکھ سے مشکل سے محسوس ہوتی ہیں، جبکہ انکوڈنگ سیمنٹکس، جو سب سے زیادہ اہمیت رکھتی ہے، صرف چند بٹس لیتی ہے۔ اکیلے پیمانے سے یہ مسئلہ حل نہیں ہوگا کیونکہ کمپیوٹنگ وسائل کی مانگ GPU کی فراہمی سے 9x تیزی سے بڑھ رہی ہے۔
  • تجویز کردہ حل یہ ہے کہ ڈفیوژن ماڈلز اور ConvNets کی طاقتوں کو یکجا کیا جائے، خاص طور پر مقامی تفصیل کی نمائندگی کرنے کے لیے convolutions کی کارکردگی اور طویل فاصلے کے سیاق و سباق کے لیے ڈفیوژن ماڈلز کی اظہاریت۔
  • Björn Ommer چھوٹے اویکت پھیلاؤ کے ماڈلز سے ہائی ریزولوشن امیج سنتھیسز کو فعال کرنے کے لیے فلو میچنگ اپروچ استعمال کرنے کا مشورہ بھی دیتے ہیں۔
  • تصویری ترکیب کی کارکردگی کو بڑھانے کے لیے ایک اور طریقہ یہ ہے کہ تفصیلات کو بھرنے کے لیے بازیافت بڑھانے کا استعمال کرتے ہوئے منظر کی ساخت پر توجہ دی جائے۔
  • آخر میں، اس نے کنٹرول شدہ اسٹاکسٹک ویڈیو ترکیب کے لیے iPoke اپروچ متعارف کرایا۔

اگر یہ گہرائی والا مواد آپ کے لیے مفید ہے، ہماری AI میلنگ لسٹ کو سبسکرائب کریں۔ جب ہم نیا مواد جاری کرتے ہیں تو متنبہ کیا جائے۔ 

ذمہ دار AI کے بہت سے چہرے 

In اس کی پیشکش, لورا ارویو، گوگل ریسرچ کی ایک ریسرچ سائنٹسٹ، نے مشین لرننگ کے روایتی طریقوں میں ایک اہم حد کو اجاگر کیا: مثبت یا منفی مثالوں کے طور پر ڈیٹا کی بائنری زمرہ بندیوں پر ان کا انحصار۔ اس نے استدلال کیا کہ یہ حد سے زیادہ آسانیاں حقیقی دنیا کے منظرناموں اور مواد میں شامل پیچیدہ سبجیکٹیوٹی کو نظر انداز کرتی ہیں۔ مختلف استعمال کے معاملات کے ذریعے، ارویو نے یہ ظاہر کیا کہ کس طرح مواد میں ابہام اور انسانی نقطہ نظر میں فطری تغیر اکثر ناگزیر اختلاف کا باعث بنتا ہے۔ اس نے ان اختلافات کو محض شور کی بجائے بامعنی اشاروں کے طور پر سمجھنے کی اہمیت پر زور دیا۔

ذمہ دار AI

یہاں گفتگو کے اہم نکات ہیں:

  • انسانی مزدوروں کے درمیان اختلاف نتیجہ خیز ہو سکتا ہے۔ تمام جوابات کو درست یا غلط ماننے کے بجائے، لورا ارویو نے "اختلاف سے سچائی" متعارف کرائی، جو کہ ریٹر کے اختلاف کو استعمال کرتے ہوئے ڈیٹا کی وشوسنییتا کا اندازہ لگانے کے لیے تقسیمی سچائی کا ایک طریقہ ہے۔
  • ماہرین کے ساتھ بھی ڈیٹا کا معیار مشکل ہے کیونکہ ماہرین بھیڑ لیبرز کی طرح متفق نہیں ہیں۔ یہ اختلاف رائے کسی ایک ماہر کے جوابات سے کہیں زیادہ معلوماتی ہو سکتے ہیں۔
    • حفاظتی تشخیص کے کاموں میں، ماہرین 40% مثالوں پر متفق نہیں ہیں۔ ان اختلافات کو حل کرنے کی کوشش کرنے کے بجائے، ہمیں ایسی مزید مثالیں جمع کرنے اور ماڈلز اور تشخیصی میٹرکس کو بہتر بنانے کے لیے استعمال کرنے کی ضرورت ہے۔
  • لورا ارویو نے بھی اپنی پیش کش کی۔ تنوع کے ساتھ حفاظت ڈیٹا کی جانچ پڑتال کا طریقہ اس لحاظ سے کہ اس میں کیا ہے اور کس نے اس کی تشریح کی ہے۔
    • اس طریقہ نے ریٹرز کے مختلف ڈیموگرافک گروپس (مجموعی طور پر 2.5 ملین ریٹنگز) میں LLM حفاظتی فیصلوں میں تغیر کے ساتھ ایک بینچ مارک ڈیٹاسیٹ تیار کیا۔
    • 20% بات چیت کے لیے، یہ فیصلہ کرنا مشکل تھا کہ چیٹ بوٹ کا جواب محفوظ تھا یا غیر محفوظ، کیونکہ تقریباً مساوی تعداد میں جواب دہندگان نے انہیں محفوظ یا غیر محفوظ قرار دیا تھا۔
  • ریٹرز اور ڈیٹا کا تنوع ماڈلز کا جائزہ لینے میں اہم کردار ادا کرتا ہے۔ انسانی نقطہ نظر کی وسیع رینج اور مواد میں موجود ابہام کو تسلیم کرنے میں ناکامی حقیقی دنیا کی توقعات کے ساتھ مشین لرننگ کی کارکردگی کی صف بندی میں رکاوٹ بن سکتی ہے۔
  • AI کی حفاظت کی 80% کوششیں پہلے ہی کافی اچھی ہیں، لیکن بقیہ 20% کو ایج کیسز اور تنوع کی لامحدود جگہ میں موجود تمام قسموں کو حل کرنے کی کوششوں کو دوگنا کرنے کی ضرورت ہے۔

ہم آہنگی کے اعدادوشمار، خود ساختہ تجربہ، اور کیوں نوجوان انسان موجودہ AI سے زیادہ ہوشیار ہیں۔ 

In اس کی بات, لنڈا اسمتھ، انڈیانا یونیورسٹی بلومنگٹن کی ایک ممتاز پروفیسر، نے شیرخوار اور چھوٹے بچوں کے سیکھنے کے عمل میں ڈیٹا اسپارسٹی کے موضوع کو دریافت کیا۔ اس نے خاص طور پر آبجیکٹ کی شناخت اور نام سیکھنے پر توجہ مرکوز کی، اس بات کا جائزہ لیا کہ کس طرح شیر خوار بچوں کے خود ساختہ تجربات کے اعدادوشمار ڈیٹا اسپارسٹی کے چیلنج کا ممکنہ حل پیش کرتے ہیں۔

کلیدی راستے:

  • تین سال کی عمر تک، بچوں نے مختلف ڈومینز میں ون شاٹ لرنرز بننے کی صلاحیت پیدا کر لی ہے۔ اپنی چوتھی سالگرہ تک جاگنے کے 16,000 سے بھی کم اوقات میں، وہ 1,000 سے زیادہ آبجیکٹ کے زمرے سیکھنے، اپنی مادری زبان کے نحو پر عبور حاصل کرنے، اور اپنے ماحول کی ثقافتی اور سماجی باریکیوں کو جذب کرنے کا انتظام کرتے ہیں۔
  • ڈاکٹر لنڈا سمتھ اور ان کی ٹیم نے انسانی سیکھنے کے تین اصول دریافت کیے جو بچوں کو اس طرح کے کم ڈیٹا سے بہت کچھ حاصل کرنے کی اجازت دیتے ہیں:
    • سیکھنے والے ان پٹ کو کنٹرول کرتے ہیں، لمحہ بہ لمحہ وہ ان پٹ کی تشکیل اور تشکیل کر رہے ہوتے ہیں۔ مثال کے طور پر، اپنی زندگی کے پہلے چند مہینوں کے دوران، بچے سادہ کناروں والی چیزوں کو زیادہ دیکھتے ہیں۔
    • چونکہ بچے اپنے علم اور صلاحیتوں میں مسلسل ترقی کرتے ہیں، اس لیے وہ ایک انتہائی محدود نصاب کی پیروی کرتے ہیں۔ ان کے سامنے آنے والے ڈیٹا کو گہرے اہم طریقوں سے منظم کیا جاتا ہے۔ مثال کے طور پر، 4 ماہ سے کم عمر کے بچے چہروں کو دیکھنے میں زیادہ وقت گزارتے ہیں، تقریباً 15 منٹ فی گھنٹہ، جب کہ 12 ماہ سے زیادہ عمر کے بچے بنیادی طور پر ہاتھوں پر توجہ مرکوز کرتے ہیں، انہیں تقریباً 20 منٹ فی گھنٹہ تک دیکھتے ہیں۔
    • سیکھنے کی اقساط ایک دوسرے سے جڑے ہوئے تجربات پر مشتمل ہوتی ہیں۔ مقامی اور وقتی ارتباط ہم آہنگی پیدا کرتے ہیں، جس کے نتیجے میں ایک وقت کے واقعات سے دیرپا یادوں کی تشکیل میں سہولت ہوتی ہے۔ مثال کے طور پر، جب کھلونوں کی بے ترتیب ترتیب کے ساتھ پیش کیا جاتا ہے، تو بچے اکثر چند 'پسندیدہ' کھلونوں پر توجہ مرکوز کرتے ہیں۔ وہ ان کھلونوں کے ساتھ دہرائے جانے والے نمونوں کا استعمال کرتے ہوئے مشغول ہوتے ہیں، جس سے اشیاء کو تیزی سے سیکھنے میں مدد ملتی ہے۔
  • عارضی (کام کرنے والی) یادیں حسی ان پٹ سے زیادہ دیر تک برقرار رہتی ہیں۔ وہ خصوصیات جو سیکھنے کے عمل کو بڑھاتی ہیں ان میں کثیر الجہتی، انجمنیں، پیشین گوئی کے تعلقات، اور ماضی کی یادوں کو چالو کرنا شامل ہیں۔
  • تیز رفتار سیکھنے کے لیے، آپ کو ڈیٹا تیار کرنے والے میکانزم اور سیکھنے والے میکانزم کے درمیان اتحاد کی ضرورت ہے۔
بچے سیکھ رہے ہیں

خاکہ نگاری: بنیادی اوزار، سیکھنے میں اضافہ، اور انکولی مضبوطی 

جیلانی نیلسن، یو سی برکلے میں الیکٹریکل انجینئرنگ اور کمپیوٹر سائنسز کے پروفیسر، ڈیٹا 'خاکے' کا تصور متعارف کرایا - ایک ڈیٹا سیٹ کی میموری کمپریسڈ نمائندگی جو اب بھی مفید سوالات کے جوابات کو قابل بناتی ہے۔ اگرچہ بات کافی تکنیکی تھی، اس نے کچھ بنیادی خاکہ سازی کے ٹولز کا ایک بہترین جائزہ فراہم کیا، بشمول حالیہ پیشرفت۔

اہم نکات:

  • CountSketch، بنیادی اسکیچنگ ٹول، پہلی بار 2002 میں 'ہیوی ہٹرز' کے مسئلے کو حل کرنے کے لیے متعارف کرایا گیا تھا، جس میں آئٹمز کے دیے گئے سلسلے سے اکثر آنے والی اشیاء کی ایک چھوٹی فہرست کی اطلاع دی گئی تھی۔ CountSketch اس مقصد کے لیے استعمال ہونے والا پہلا سب لائنر الگورتھم تھا۔
  • ہیوی ہٹرز کی دو نان اسٹریمنگ ایپلی کیشنز میں شامل ہیں:
    • اندرونی نقطہ پر مبنی طریقہ (IPM) جو لکیری پروگرامنگ کے لیے غیر علامتی طور پر تیز ترین معلوم الگورتھم دیتا ہے۔
    • HyperAttention طریقہ جو LLMs میں استعمال ہونے والے طویل سیاق و سباق کی بڑھتی ہوئی پیچیدگی سے پیدا ہونے والے کمپیوٹیشنل چیلنج کو حل کرتا ہے۔
  • بہت سے حالیہ کام خاکے ڈیزائن کرنے پر مرکوز کیے گئے ہیں جو انکولی تعامل کے لیے مضبوط ہیں۔ بنیادی خیال انکولی ڈیٹا کے تجزیہ سے بصیرت کا استعمال کرنا ہے۔

اسکیلنگ پینل سے آگے 

یہ بڑے زبان کے ماڈلز پر عظیم پینل کارنیل ٹیک کے ایک ایسوسی ایٹ پروفیسر اور ہگنگ فیس کے ایک محقق، الیگزینڈر رش نے ماڈریٹ کیا تھا۔ دیگر شرکاء میں شامل تھے:

  • آکانکشا چودھری – گوگل ڈیپ مائنڈ میں ریسرچ سائنٹسٹ جس میں سسٹمز، ایل ایل ایم پری ٹریننگ، اور ملٹی موڈیلٹی میں تحقیقی دلچسپیاں ہیں۔ وہ PaLM، Gemini، اور Pathways تیار کرنے والی ٹیم کا حصہ تھی۔
  • انجیلا فین - میٹا جنریٹو AI میں ریسرچ سائنٹسٹ جو صف بندی، ڈیٹا سینٹرز، اور کثیر لسانی میں تحقیقی دلچسپیوں کے ساتھ۔ اس نے Llama-2 اور Meta AI اسسٹنٹ کی ترقی میں حصہ لیا۔
  • پرسی لیانگ – اسٹینفورڈ کے پروفیسر تخلیق کاروں، اوپن سورس، اور جنریٹیو ایجنٹس پر تحقیق کر رہے ہیں۔ وہ سٹینفورڈ میں سینٹر فار ریسرچ آن فاؤنڈیشن ماڈلز (CRFM) کے ڈائریکٹر اور Together AI کے بانی ہیں۔

بحث نے چار اہم موضوعات پر توجہ مرکوز کی: (1) فن تعمیر اور انجینئرنگ، (2) ڈیٹا اور سیدھ، (3) تشخیص اور شفافیت، اور (4) تخلیق کار اور شراکت دار۔

اس پینل سے کچھ ٹیک وے یہ ہیں:

  • موجودہ زبان کے ماڈلز کو تربیت دینا فطری طور پر مشکل نہیں ہے۔ Llama-2-7b جیسے ماڈل کی تربیت میں بنیادی چیلنج بنیادی ڈھانچے کی ضروریات اور متعدد GPUs، ڈیٹا سینٹرز وغیرہ کے درمیان ہم آہنگی کی ضرورت میں مضمر ہے۔ تاہم، اگر پیرامیٹرز کی تعداد اتنی کم ہے کہ ایک GPU پر تربیت کی اجازت دی جا سکے، یہاں تک کہ ایک انڈرگریجویٹ بھی اس کا انتظام کر سکتا ہے۔
  • اگرچہ آٹوریگریسو ماڈلز عام طور پر ٹیکسٹ جنریشن اور ڈفیوژن ماڈلز کے لیے امیجز اور ویڈیوز بنانے کے لیے استعمال ہوتے ہیں، لیکن ان طریقوں کو تبدیل کرنے کے تجربات کیے گئے ہیں۔ خاص طور پر، جیمنی پروجیکٹ میں، تصویر بنانے کے لیے ایک خودکار ماڈل استعمال کیا جاتا ہے۔ ٹیکسٹ جنریشن کے لیے ڈفیوژن ماڈلز کے استعمال کے بارے میں بھی تحقیق کی گئی ہے، لیکن یہ ابھی تک کافی موثر ثابت نہیں ہوئے ہیں۔
  • تربیتی ماڈلز کے لیے انگریزی زبان کے ڈیٹا کی محدود دستیابی کے پیش نظر، محققین متبادل طریقوں کی تلاش کر رہے ہیں۔ ایک امکان متن، ویڈیو، تصاویر اور آڈیو کے امتزاج پر ملٹی موڈل ماڈلز کو تربیت دینا ہے، اس امید کے ساتھ کہ ان متبادل طریقوں سے سیکھی گئی مہارتیں متن میں منتقل ہو سکتی ہیں۔ دوسرا آپشن مصنوعی ڈیٹا کا استعمال ہے۔ یہ نوٹ کرنا ضروری ہے کہ مصنوعی ڈیٹا اکثر حقیقی ڈیٹا میں گھل مل جاتا ہے، لیکن یہ انضمام بے ترتیب نہیں ہے۔ آن لائن شائع شدہ متن عام طور پر انسانی کیوریشن اور ترمیم سے گزرتا ہے، جو ماڈل ٹریننگ کے لیے اضافی قدر کا اضافہ کر سکتا ہے۔
  • اوپن فاؤنڈیشن ماڈلز کو اکثر جدت کے لیے فائدہ مند سمجھا جاتا ہے لیکن AI حفاظت کے لیے ممکنہ طور پر نقصان دہ سمجھا جاتا ہے، کیونکہ ان کا بدنیتی پر مبنی اداکاروں کے ذریعے استحصال کیا جا سکتا ہے۔ تاہم، ڈاکٹر پرسی لیانگ کا کہنا ہے کہ کھلے ماڈل بھی حفاظت میں مثبت کردار ادا کرتے ہیں۔ اس کا استدلال ہے کہ قابل رسائی ہونے سے، وہ مزید محققین کو AI حفاظتی تحقیق کرنے اور ممکنہ کمزوریوں کے لیے ماڈلز کا جائزہ لینے کے مواقع فراہم کرتے ہیں۔
  • آج، پانچ سال پہلے کے مقابلے میں تشریحی ڈومین میں ڈیٹا کی تشریح کرنا نمایاں طور پر زیادہ مہارت کا مطالبہ کرتا ہے۔ تاہم، اگر AI معاونین مستقبل میں توقع کے مطابق کارکردگی کا مظاہرہ کرتے ہیں، تو ہمیں صارفین سے زیادہ قیمتی فیڈ بیک ڈیٹا ملے گا، جس سے تشریح کرنے والوں کے وسیع ڈیٹا پر انحصار کم ہوگا۔

سسٹمز برائے فاؤنڈیشن ماڈلز، اور فاؤنڈیشن ماڈلز برائے سسٹمز 

In یہ بات, کرسٹوفر Ré، سٹینفورڈ یونیورسٹی میں کمپیوٹر سائنس کے شعبہ میں ایک ایسوسی ایٹ پروفیسر، دکھاتا ہے کہ فاؤنڈیشن ماڈلز نے ہمارے بنائے ہوئے نظاموں کو کیسے تبدیل کیا۔ وہ یہ بھی دریافت کرتا ہے کہ فاؤنڈیشن ماڈلز کو کس طرح مؤثر طریقے سے بنایا جائے، ڈیٹا بیس سسٹمز کی تحقیق سے بصیرت حاصل کی جائے، اور ٹرانسفارمر کے مقابلے فاؤنڈیشن ماڈلز کے لیے ممکنہ طور پر زیادہ موثر فن تعمیرات پر تبادلہ خیال کیا جائے۔

ڈیٹا کی صفائی کے لیے فاؤنڈیشن ماڈل

اس گفتگو کے اہم نکات یہ ہیں:

  • فاؤنڈیشن ماڈل '1000 کٹوتیوں سے موت' کے مسائل کو حل کرنے میں مؤثر ہیں، جہاں ہر انفرادی کام نسبتاً آسان ہو سکتا ہے، لیکن سراسر وسعت اور کاموں کی مختلف قسمیں ایک اہم چیلنج پیش کرتی ہیں۔ اس کی ایک اچھی مثال ڈیٹا کی صفائی کا مسئلہ ہے، جسے LLMs اب بہت زیادہ مؤثر طریقے سے حل کرنے میں مدد کر سکتے ہیں۔
  • جیسے جیسے ایکسلریٹر تیز تر ہوتے جاتے ہیں، یادداشت اکثر رکاوٹ بن کر ابھرتی ہے۔ یہ ایک ایسا مسئلہ ہے جسے ڈیٹا بیس کے محقق کئی دہائیوں سے حل کر رہے ہیں، اور ہم ان کی کچھ حکمت عملی اپنا سکتے ہیں۔ مثال کے طور پر، فلیش اٹینشن اپروچ بلاکنگ اور جارحانہ فیوژن کے ذریعے ان پٹ آؤٹ پٹ کے بہاؤ کو کم کرتا ہے: جب بھی ہم معلومات کے کسی ٹکڑے تک رسائی حاصل کرتے ہیں، ہم اس پر زیادہ سے زیادہ آپریشن کرتے ہیں۔
  • آرکیٹیکچرز کی ایک نئی کلاس ہے، جس کی جڑ سگنل پروسیسنگ میں ہے، جو ٹرانسفارمر ماڈل سے زیادہ کارآمد ہو سکتی ہے، خاص طور پر طویل ترتیب کو سنبھالنے میں۔ سگنل پروسیسنگ S4 جیسے جدید ماڈلز کی بنیاد رکھتے ہوئے استحکام اور کارکردگی پیش کرتی ہے۔

ڈیجیٹل ہیلتھ مداخلتوں میں آن لائن کمک سیکھنا 

In اس کی بات، سوسن مرفی، ہارورڈ یونیورسٹی میں شماریات اور کمپیوٹر سائنس کے پروفیسر، نے ڈیجیٹل ہیلتھ مداخلتوں میں استعمال کے لیے آن لائن RL الگورتھم تیار کرنے میں درپیش چند چیلنجوں کے پہلے حل کا اشتراک کیا۔

یہاں پریزنٹیشن سے چند نکات ہیں:

  • ڈاکٹر سوسن مرفی نے دو منصوبوں پر بات کی جن پر وہ کام کر رہی ہیں:
    • ہارٹ سٹیپ، جہاں سمارٹ فونز اور پہننے کے قابل ٹریکرز کے ڈیٹا کی بنیاد پر سرگرمیاں تجویز کی گئی ہیں۔
    • زبانی صحت کی کوچنگ کے لیے اورالیٹکس، جہاں مداخلتیں الیکٹرانک ٹوتھ برش سے موصول ہونے والے منگنی کے ڈیٹا پر مبنی تھیں۔
  • AI ایجنٹ کے لیے رویے کی پالیسی تیار کرنے میں، محققین کو یہ یقینی بنانا چاہیے کہ یہ خود مختار ہے اور اسے صحت کے وسیع تر نظام میں قابل عمل طور پر لاگو کیا جا سکتا ہے۔ اس میں اس بات کو یقینی بنانا ہے کہ کسی فرد کی مصروفیت کے لیے درکار وقت مناسب ہے، اور یہ کہ تجویز کردہ اعمال اخلاقی طور پر درست اور سائنسی طور پر قابل فہم ہیں۔
  • ڈیجیٹل ہیلتھ مداخلتوں کے لیے آر ایل ایجنٹ کو تیار کرنے میں بنیادی چیلنجوں میں شور کی بلند سطحوں سے نمٹنا شامل ہے، کیونکہ لوگ اپنی زندگی گزارتے ہیں اور ہو سکتا ہے ہمیشہ پیغامات کا جواب نہ دے سکیں، چاہے وہ چاہیں، اور ساتھ ہی ساتھ مضبوط، تاخیر سے ہونے والے منفی اثرات کا انتظام کریں۔ .

جیسا کہ آپ دیکھ سکتے ہیں، NeurIPS 2023 نے AI کے مستقبل کی ایک روشن جھلک فراہم کی ہے۔ مدعو کیے گئے مذاکروں نے روایتی نمونوں سے ہٹ کر زیادہ موثر، وسائل کے حوالے سے شعور رکھنے والے ماڈلز اور نئے فن تعمیرات کی تلاش کے رجحان کو اجاگر کیا۔

اس مضمون کا لطف اٹھائیں؟ مزید AI ریسرچ اپ ڈیٹس کے لیے سائن اپ کریں۔

جب ہم اس جیسے مزید خلاصہ مضامین جاری کریں گے تو ہم آپ کو بتائیں گے۔

#gform_wrapper_11[data-form-index=”0″].gform-theme,[data-parent-form=”11_0″]{–gform-theme-color-primary: #204ce5;–gform-theme-color-primary-rgb: 32, 76, 229;–gform-theme-color-primary-contrast: #fff;–gform-theme-color-primary-contrast-rgb: 255, 255, 255;–gform-theme-color-primary-darker: #001AB3;–gform-theme-color-primary-lighter: #527EFF;–gform-theme-color-secondary: #fff;–gform-theme-color-secondary-rgb: 255, 255, 255;–gform-theme-color-secondary-contrast: #112337;–gform-theme-color-secondary-contrast-rgb: 17, 35, 55;–gform-theme-color-secondary-darker: #F5F5F5;–gform-theme-color-secondary-lighter: #FFFFFF;–gform-theme-color-outside-control-light: rgba(17, 35, 55, 0.1);–gform-theme-color-outside-control-light-rgb: 17, 35, 55;–gform-theme-color-outside-control-light-darker: rgba(104, 110, 119, 0.35);–gform-theme-color-outside-control-light-lighter: #F5F5F5;–gform-theme-color-outside-control-dark: #585e6a;–gform-theme-color-outside-control-dark-rgb: 88, 94, 106;–gform-theme-color-outside-control-dark-darker: #112337;–gform-theme-color-outside-control-dark-lighter: rgba(17, 35, 55, 0.65);–gform-theme-color-inside-control: #fff;–gform-theme-color-inside-control-rgb: 255, 255, 255;–gform-theme-color-inside-control-contrast: #112337;–gform-theme-color-inside-control-contrast-rgb: 17, 35, 55;–gform-theme-color-inside-control-darker: #F5F5F5;–gform-theme-color-inside-control-lighter: #FFFFFF;–gform-theme-color-inside-control-primary: #204ce5;–gform-theme-color-inside-control-primary-rgb: 32, 76, 229;–gform-theme-color-inside-control-primary-contrast: #fff;–gform-theme-color-inside-control-primary-contrast-rgb: 255, 255, 255;–gform-theme-color-inside-control-primary-darker: #001AB3;–gform-theme-color-inside-control-primary-lighter: #527EFF;–gform-theme-color-inside-control-light: rgba(17, 35, 55, 0.1);–gform-theme-color-inside-control-light-rgb: 17, 35, 55;–gform-theme-color-inside-control-light-darker: rgba(104, 110, 119, 0.35);–gform-theme-color-inside-control-light-lighter: #F5F5F5;–gform-theme-color-inside-control-dark: #585e6a;–gform-theme-color-inside-control-dark-rgb: 88, 94, 106;–gform-theme-color-inside-control-dark-darker: #112337;–gform-theme-color-inside-control-dark-lighter: rgba(17, 35, 55, 0.65);–gform-theme-border-radius: 3px;–gform-theme-font-size-secondary: 14px;–gform-theme-font-size-tertiary: 13px;–gform-theme-icon-control-number: url(“data:image/svg+xml,%3Csvg width=’8′ height=’14’ viewBox=’0 0 8 14′ fill=’none’ xmlns=’http://www.w3.org/2000/svg’%3E%3Cpath fill-rule=’evenodd’ clip-rule=’evenodd’ d=’M4 0C4.26522 5.96046e-08 4.51957 0.105357 4.70711 0.292893L7.70711 3.29289C8.09763 3.68342 8.09763 4.31658 7.70711 4.70711C7.31658 5.09763 6.68342 5.09763 6.29289 4.70711L4 2.41421L1.70711 4.70711C1.31658 5.09763 0.683417 5.09763 0.292893 4.70711C-0.0976311 4.31658 -0.097631 3.68342 0.292893 3.29289L3.29289 0.292893C3.48043 0.105357 3.73478 0 4 0ZM0.292893 9.29289C0.683417 8.90237 1.31658 8.90237 1.70711 9.29289L4 11.5858L6.29289 9.29289C6.68342 8.90237 7.31658 8.90237 7.70711 9.29289C8.09763 9.68342 8.09763 10.3166 7.70711 10.7071L4.70711 13.7071C4.31658 14.0976 3.68342 14.0976 3.29289 13.7071L0.292893 10.7071C-0.0976311 10.3166 -0.0976311 9.68342 0.292893 9.29289Z’ fill=’rgba(17, 35, 55, 0.65)’/%3E%3C/svg%3E”);–gform-theme-icon-control-select: url(“data:image/svg+xml,%3Csvg width=’10’ height=’6′ viewBox=’0 0 10 6′ fill=’none’ xmlns=’http://www.w3.org/2000/svg’%3E%3Cpath fill-rule=’evenodd’ clip-rule=’evenodd’ d=’M0.292893 0.292893C0.683417 -0.097631 1.31658 -0.097631 1.70711 0.292893L5 3.58579L8.29289 0.292893C8.68342 -0.0976311 9.31658 -0.0976311 9.70711 0.292893C10.0976 0.683417 10.0976 1.31658 9.70711 1.70711L5.70711 5.70711C5.31658 6.09763 4.68342 6.09763 4.29289 5.70711L0.292893 1.70711C-0.0976311 1.31658 -0.0976311 0.683418 0.292893 0.292893Z’ fill=’rgba(17, 35, 55, 0.65)’/%3E%3C/svg%3E”);–gform-theme-icon-control-search: url(“data:image/svg+xml,%3Csvg version=’1.1′ xmlns=’http://www.w3.org/2000/svg’ width=’640′ height=’640’%3E%3Cpath d=’M256 128c-70.692 0-128 57.308-128 128 0 70.691 57.308 128 128 128 70.691 0 128-57.309 128-128 0-70.692-57.309-128-128-128zM64 256c0-106.039 85.961-192 192-192s192 85.961 192 192c0 41.466-13.146 79.863-35.498 111.248l154.125 154.125c12.496 12.496 12.496 32.758 0 45.254s-32.758 12.496-45.254 0L367.248 412.502C335.862 434.854 297.467 448 256 448c-106.039 0-192-85.962-192-192z’ fill=’rgba(17, 35, 55, 0.65)’/%3E%3C/svg%3E”);–gform-theme-control-border-color: #686e77;–gform-theme-control-size: var(–gform-theme-control-size-md);–gform-theme-control-label-color-primary: #112337;–gform-theme-control-label-color-secondary: #112337;–gform-theme-control-choice-size: var(–gform-theme-control-choice-size-md);–gform-theme-control-checkbox-check-size: var(–gform-theme-control-checkbox-check-size-md);–gform-theme-control-radio-check-size: var(–gform-theme-control-radio-check-size-md);–gform-theme-control-button-font-size: var(–gform-theme-control-button-font-size-md);–gform-theme-control-button-padding-inline: var(–gform-theme-control-button-padding-inline-md);–gform-theme-control-button-size: var(–gform-theme-control-button-size-md);–gform-theme-control-button-border-color-secondary: #686e77;–gform-theme-control-file-button-background-color-hover: #EBEBEB;–gform-theme-field-page-steps-number-color: rgba(17, 35, 55, 0.8);}

ٹائم اسٹیمپ:

سے زیادہ ٹاپ بوٹس