مددگار معاون، رومانوی شراکت دار، یا کون فنکار؟ حصہ دو » CCC بلاگ

اس سال کی AAAS سالانہ کانفرنس میں CCC نے تین سائنسی سیشنز کی حمایت کی، اور اگر آپ ذاتی طور پر شرکت کرنے کے قابل نہیں تھے، تو ہم ہر سیشن کو دوبارہ ترتیب دیں گے۔ آج، ہم سیشن کے سوال و جواب کے حصے کی جھلکیوں کا خلاصہ کریں گے، "بڑی زبان کے ماڈل: مددگار معاون، رومانوی شراکت دار یا کون فنکار؟یہ پینل، معتدل ڈاکٹر ماریہ گینی, CCC کونسل کے رکن اور مینیسوٹا یونیورسٹی میں کمپیوٹر سائنس اور انجینئرنگ کے پروفیسر، نمایاں ڈاکٹر ای سی ای کمار، مائیکروسافٹ ریسرچ میں اے آئی فرنٹیئرز کے منیجنگ ڈائریکٹر، ڈاکٹر Hal Daumé III، یونیورسٹی آف میری لینڈ میں کمپیوٹر سائنس کے پروفیسر، اور ڈاکٹر جوناتھن مے، یونیورسٹی آف سدرن کیلیفورنیا انفارمیشن سائنسز انسٹی ٹیوٹ میں کمپیوٹر سائنس کے پروفیسر۔

ذیل میں سوال و جواب کے حصے کا دلچسپ خلاصہ ہے۔ "بڑی زبان کے ماڈل: مددگار معاون، رومانوی شراکت دار یا کون فنکار؟"پینل کیا AI محبت کرنے کے قابل ہے؟ ان ماڈلز کے بچوں پر کس قسم کے اثرات ہو سکتے ہیں؟ ریاستہائے متحدہ کی AI صلاحیتیں کس طرح جمع ہوتی ہیں؟ ذیل میں تلاش کریں:

س: کثیر لسانی اور کثیر الثقافتی سیاق و سباق میں اے آئی لینگویج ماڈلز کی تعیناتی کرتے وقت، ہمیں کیا طرز عمل کرنا چاہیے؟

ڈاکٹر مے: ٹیکنالوجی کی ترقی اور دیواروں کو نیچے کرنے میں، لوگوں کے لیے وہ کرنا آسان بنانا چاہیے جو وہ کرنا چاہتے ہیں۔ جو ہر کوئی کرنا چاہتا ہے، صرف میرے بجائے۔ شکریہ AI، مجھ پر توجہ مرکوز کرنے کے لئے بہت اچھا، لیکن ہمیں عام طور پر باقی دنیا پر توجہ دینا چاہئے.

س: ان میں سے کچھ عمومی مسائل - یہ پہلی بار نہیں ہے کہ ان کو اٹھایا گیا ہو۔ ایسا لگتا ہے کہ کمیونٹی خود ان کے پاس نہیں آئے گی۔ میں سوچ رہا ہوں کہ کیا آپ سب کے پاس ان بات چیت کو عمل میں لانے کے بارے میں خیالات ہیں؟

ڈاکٹر کمار: بہت سی مختلف جماعتوں کے کردار ہیں۔ مختلف ثقافتوں اور آبادیوں کی نمائندگی کرنے میں تشخیص بہت اہمیت رکھتا ہے۔ جب ڈیٹا سیٹس میں دنیا کی نمائندگی میں تنوع نہیں ہوتا ہے، تو نتیجے میں آنے والے نظام نمائندہ نہیں ہوتے ہیں۔ تشخیص کے بہترین طریقوں، قواعد و ضوابط اور تعمیل کے اقدامات کی تشکیل میں بہت زیادہ کام کرنے کی ضرورت ہے۔ وائٹ ہاؤس نے وعدے کیے ہیں، اور AI بل آف رائٹس کا بلیو پرنٹ شروع ہو رہا ہے۔ پوری صنعت میں عمل درآمد کیا گیا ہے، جس میں بہت سے عظیم ذہن مل کر کام کر رہے ہیں (کامل نہیں، لیکن پوری صنعت کو عام کرنے کی صلاحیت موجود ہے)۔ اس وقت معیارات کے طور پر شروع ہونے پر ہم آہنگی حاصل کرنے کے لیے میٹنگیں ہو رہی ہیں۔ ممکنہ طور پر مستقبل کے ضابطے میں۔ ہم تشخیص، حفاظتی تجزیہ وغیرہ کیسے کرتے ہیں؟ ان میں سے کسی بھی گفتگو میں وہ تنوع نہیں ہے جو کمرے میں ہونے کی ضرورت ہے۔ اس بارے میں سوچیں کہ جب فیصلے کیے جا رہے ہیں تو کمرے میں کس کو ہونے کی ضرورت ہے۔

ڈاکٹر ڈومی: میرے خیال میں جب لوگ ضابطے کے بارے میں بات کرتے ہیں، خاص طور پر AI میں، ہر کوئی تعزیری ضوابط کے بارے میں سوچتا ہے۔ لیکن یہ ضابطے کی حوصلہ افزائی بھی ہو سکتی ہے۔ پالیسی سازوں اور NSF کو فنڈنگ ​​کرنے سے ترقی پذیر ٹولز کو فروغ مل سکتا ہے جو بحیثیت قوم اور دنیا ہماری مدد کرتے ہیں۔

س: AI کے لیے فنڈنگ ​​امریکہ میں دنیا کے دیگر مقامات کے مقابلے میں بہت پیچھے ہے۔ NSF کی نئی سرمایہ کاری 20-ملین ہے، جو صنعت کی سرمایہ کاری کے مقابلے میں مونگ پھلی ہے۔ وفاقی حکومت نے برسوں کے مطالعے سے رپورٹیں جاری کی ہیں، اور نتیجہ یہ نکلا ہے کہ امریکہ کو آگے بڑھنا ہے۔ مجھے Ece کے مرحلے میں تبدیلی کی مشابہت پسند ہے۔ تعداد کے ساتھ تھرموڈینامک حد بڑھ رہی ہے۔ ہم اوپن اے آئی چاہتے ہیں، اس کی ادائیگی کون کرے گا؟ کافی رقم نہیں ہے۔ آپ کی کیا تجاویز ہیں؟ AI کھولیں؟ لیکن ہمارے پاس اشاعت کی کھلی رسائی بھی نہیں ہے۔ کیا آپ صدر کو قانون سازی نہ کرنے کی سفارش کریں گے؟

ڈاکٹر مے: میرے خیال میں پیسہ ہے؛ کسی نے مجھ سے مشاہدہ کیا کہ آپ نے حکومت کو ذرات گھمانے پر راضی کر لیا ہے، لیکن اسے ہماری طرف موڑنے میں کامیاب نہیں ہو سکے ہیں۔

ڈاکٹر کمار: جو کمپنیاں یہ ماڈل بنا رہی ہیں ان کی وجہ یہ ہے کہ وسائل کی مرکزیت ہے۔ پیمانے سے آپ کو بہت کچھ ملتا ہے۔ اس بارے میں سوچنا چاہیے کہ ہم تعلیمی اداروں میں سرمایہ کاری کو کس طرح مرکزی بناتے ہیں تاکہ ہمیں بہت سے مختلف ماڈلز رکھنے کے بجائے مشترکہ وسائل حاصل ہوں۔ ہم دیکھ رہے ہیں کہ یہ صرف پیمانے کے بارے میں نہیں ہے۔ ہمیں ابھی کچھ کرنا نہیں ہے، لیکن موجودہ فن تعمیر بہت اچھا نہیں ہے۔ اچھی AI صلاحیتوں کا ہونا صرف زیادہ پیسہ اور زیادہ طاقت کے بارے میں نہیں ہونا چاہئے۔

سوال: جوابات میں زیادہ نمائندگی کا تعصب۔ کیا ہم جانتے ہیں کہ یہ کہاں سے آرہا ہے؟ میں ایک ریاضی کا آدمی ہوں، اور میرے خیالات اس کی طرف جاتے ہیں کہ گول کرنے والی غلطیوں کا مرکب ہے جو تعصب کا اضافہ کر رہا ہے؟ اگر مساوی نمائندگی، میں تصور کروں گا کہ یہ مساوی نمائندگی پیدا کرے گا، یا یہ اب بھی موجود ہوگا؟

ڈاکٹر مے: اسپائکنگ فنکشنز پر بہت کچھ آتا ہے۔ نرم زیادہ سے زیادہ تربیت کا ایک اہم حصہ ہے۔ اعلی ترین # 1 بننا چاہتا ہے۔ ایسا نہیں ہے کہ زبان کی کچھ بہترین پیداوار ہے، لیکن ہم کچھ تعصب رکھنا چاہتے ہیں۔ ہم صرف لوگوں کو پہنچنے والے نقصان کو کم سے کم کرنا چاہتے ہیں، اور اکثر اوقات ہم ان کو نہیں پہچانتے ہیں۔ سمجھے بغیر تعیناتی ایک مسئلہ ہے۔ 

ڈاکٹر ڈومی: ان ماڈلز کے ساتھ ایک چیلنج یہ ہے کہ اب کوئی تنگ AI ماڈل نہیں ہیں۔ وہ کہتے ہیں کہ وہ کچھ بھی کر سکتے ہیں، اس لیے ہر چیز کی جانچ کرنا مشکل ہے۔

س: آپ نے اے آئی کو ایک ٹول یا متبادل ہونے کا ذکر کیا، آپ اسے کس طرف جاتے ہوئے دیکھتے ہیں؟

ڈاکٹر داؤمی: اس کے متبادل کے لیے مزید رقم کی ضرورت ہے۔

سوال: عنوان میں رومانوی AI کا ذکر کیا گیا ہے۔ میں اس کے بارے میں مزید جاننا چاہتا ہوں۔

ڈاکٹر مے: ماڈلز میں ان کے لیے قابل عمل رومانوی متبادل ہونے کا کافی ارادہ نہیں ہے، لیکن وہ موجود نہ ہونے کے باوجود نمونوں کو پہچاننے میں انسانوں کی طرح اچھے ہیں۔

ڈاکٹر کمار: میں آپ کو مشورہ دیتا ہوں کہ اے آئی کے بارے میں یہ نہ سوچیں کہ یہ ابھی کیا ہے۔ مستقبل میں پیش کرنے کی کوشش کریں – تصور کریں کہ چند سالوں میں، یہ سسٹم آپ کے لیے ذاتی نوعیت کے ہو جائیں گے۔ اس نظام سے آپ کا کیا تعلق ہے؟

ڈاکٹر مئی: لیکن کیا یہ آپ سے پیار کرے گا؟

ڈاکٹر کمار: یہ آپ کو بتائے گا کہ یہ آپ سے پیار کرتا ہے۔

ڈاکٹر مئی: لیکن کیا یہ کافی ہے؟

س: میں ان لوگوں کے لیے مشورہ سننا چاہتا ہوں جو AI کے شعبے میں نہیں ہیں۔ ہم ان ٹولز کے ساتھ کیسے مشغول ہو سکتے ہیں؟ ہمیں کیا معلوم ہونا چاہیے؟

ڈاکٹر ڈومی: یونیورسٹی آف میری لینڈ میں، ہم یہ بات چیت بہت کر رہے ہیں۔ میرے لیے یہ کہنا آسان ہے کہ 5 سالوں میں صحافت مختلف ہو جائے گی اور دیگر شعبوں میں بھی۔ یہ کہنا غیر آرام دہ ہے کہ 5 سالوں میں پروفیسر کا کردار مختلف ہوگا، لیکن ایسا ہوگا۔ میرے ساتھی ہیں جو تجاویز اور کاغذات کے لیے مختلف LLM پلگ ان استعمال کرتے ہیں۔ یہ پہلے سے ہی ہو رہا ہے. میرے پاس باقاعدگی سے ٹولز کے ذریعہ امتحانی سوالات لکھے جاتے ہیں، لیکن مجھے درستگی کی جانچ کرنی ہوگی۔ امتحان کے سوالات لکھنے سے مجھے خوشی نہیں ہوتی، لہذا AI اسے میری پلیٹ سے اتار سکتا ہے۔ اعلیٰ تعلیم میں ہمیں اس کے بارے میں زیادہ سوچنا ہوگا۔ یہ ہماری ملازمتوں کو کیسے تبدیل کر رہا ہے؟ یونیورسٹیوں میں بہت سی بحثیں چل رہی ہیں، لیکن وسائل جمع کرنے کا ایک ٹن نہیں۔

س: فوجی درخواستوں پر غور کرتے وقت مستقبل میں AI کا فیصلہ کیا جانا کتنا خوش آئند ہے؟ اس سیشن میں فوجی درخواستوں کا کوئی تذکرہ نہیں کیا گیا ہے - میں جانتا ہوں کہ اگر میں لوگوں کو آدھے راستے سے صحیح طریقے سے پڑھتا ہوں تو اس موضوع پر رائے میں اختلاف ہے۔

ڈاکٹر مے: فوج کا دائرہ وسیع ہے، میرا بہت سا کام محکمہ دفاع کی طرف سے سپانسر کیا جاتا ہے۔ خاص طور پر جواب دینا مشکل ہے، عمومی طور پر محکمہ دفاع (ان کے لیے بات نہیں کر رہا ہے) ایسا لگتا ہے کہ وہ امریکہ کی حفاظت اور سلامتی کو ترجیح دے رہا ہے، اور ایسا کرنا جاری رکھے گا اور امریکہ کو محفوظ رہنے میں مدد کے لیے LLMs اور AI کا فائدہ اٹھائے گا۔

ڈاکٹر کمار: ہمیں دوہری استعمال کے بارے میں بھی بات کرنے کی ضرورت ہے۔ اگر آپ حیاتیات یا سائبرسیکیوریٹی میں جاری فوجی کام کو لیتے ہیں، تو ہم اس وقت ہمارے پاس موجود بہت ہی امید افزا ٹولز لے سکتے ہیں اور انہیں استعمال کر سکتے ہیں کیونکہ ہم محفوظ نظام اور نئی ادویات چاہتے ہیں۔ لیکن ہر اچھے استعمال کے ساتھ آپ کا برا استعمال ہوگا۔ استعمال کے کون سے معاملات ہیں جن میں ہم نہیں چاہتے کہ AI کا استعمال کیا جائے؟ اوپن سورس ایپلی کیشنز میں، لوگ ان ماڈلز کو نقل کر سکتے ہیں۔ ان معاملات میں ہم لوگوں کو نقصان پہنچانے سے کیسے روک سکتے ہیں؟

س: زبان کے ماڈلز کے ساتھ بات چیت کرتے وقت، بالغ لوگ سمجھتے ہیں کہ یہ زندہ/خود آگاہ نہیں ہے، لیکن کئی نسلوں کے بعد کیا ہوگا؛ وہ بچے جن کو یہ اس وقت سے پڑا ہے جب سے انہیں سماجی کرنا یاد ہے؟ ان کے پاس ایک ٹیوٹر یا استاد ہے جو مکمل طور پر AI ہے؛ نظام ایک انسٹرکٹر کے ساتھ سرایت شدہ ہے۔ وہ ہدایات کے ساتھ ایک بانڈ بنا سکتے ہیں، سوچتے ہیں کہ ان کا بہت اچھا تعلق ہے، اور پھر پروگرام حذف ہو جاتا ہے۔ غیر شخصی اداروں کے ساتھ سماجی جذباتی بندھن کی بچوں کی نفسیات کیا ہے؟

ڈاکٹر کمار: ہمیں تحقیق، بین الضابطہ تحقیق کی ضرورت ہے، اور ہمیں اس کی جلد ضرورت ہے۔ 5 سالوں میں، ہمیں یہ جواب مل سکتے ہیں، لیکن اس وقت میں AI میری 10 سال کی عمر کا ایک بڑا حصہ بن سکتا ہے۔ آپ کا سوال انتہائی اہم ہے۔ ایسی تحقیق ہے جو ظاہر کرتی ہے کہ معصوم نظاموں میں بھی پچھلے دروازے ہو سکتے ہیں۔ آج ہمیں سیکورٹی ماہرین اور بچوں کی نشوونما کے ماہرین کی ضرورت ہے جو وہ گفتگو کر رہے ہوں۔

ڈاکٹر ڈومی: مجھے نہیں معلوم کہ کیا کسی کو نگرانی باربی یاد ہے – یہاں رازداری کا ایک بڑا مسئلہ ہے۔ یہ ایک زیادہ دلچسپ سماجی مسئلہ ہے۔ جوابات کو حد سے زیادہ مثبت قرار دیا گیا۔ بچے ایسی باتیں کہیں گے جیسے میں پاگل ہوں کیونکہ سیلی میرے ساتھ نہیں کھیلتی تھی، اور یہ سماجی طور پر مناسب تجاویز نہیں دیتی ہے۔ میں بہت مثبت ایجنٹوں کے بارے میں فکر مند ہوں، کیونکہ مثبتیت ہمیشہ صحیح جواب نہیں ہوتی۔

پڑھنے کے لیے آپ کا بہت بہت شکریہ، اور AAAS 2024 میں ہمارے تیسرے اور آخری پینل کے ری کیپ کے لیے دیکھتے رہیں۔

• SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
• پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
• پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
• پلیٹو ای ایس جی۔ کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
• پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
• ماخذ: https://feeds.feedblitz.com/~/874544948/0/cccblog~CCC-AAAS-Large-Language-Models-Helpful-Assistants-Romantic-Partners-or-Con-Artists-Part-Two/