خلاصه قول ها و دام ها – قسمت چهارم

بازنشر افلاطون

دنبال: 0

CCC از سه جلسه علمی در کنفرانس سالانه AAAS امسال پشتیبانی کرد. این هفته، نکات مهم جلسه را خلاصه می کنیم،هوش مصنوعی مولد در علم: وعده ها و دام ها.” این پانل، توسط دکتر متیو ترک، رئیس موسسه فناوری تویوتا در شیکاگو)، برجسته شد دکتر ربکا ویلتاستاد آمار و علوم کامپیوتر در دانشگاه شیکاگو، دکتر مارکوس بوهلر، استاد مهندسی در موسسه فناوری ماساچوست و دکتر دانکن واتسون-پاریساستادیار در موسسه اقیانوس شناسی اسکریپس و موسسه علوم داده Halıcıoğlu در UC San Diego. در قسمت چهارم، بخش پرسش و پاسخ پانل را خلاصه می کنیم.

یک جلسه پرسش و پاسخ پس از ارائه های پانلیست، و دکتر متیو ترک بحث را آغاز کرد. "وعده ها و دام ها" در عنوان این پانل است. ما بسیاری از وعده ها را مورد بحث قرار داده ایم، اما بسیاری از مشکلات را برطرف نکرده ایم. چه چیزی شما را در مورد آینده هوش مصنوعی مولد نگران می کند؟

دکتر ربکا ویلت گفت: "قابلیت اطمینان و قابل اعتماد بودن این مدل ها یک نگرانی بزرگ است". «این مدل‌ها می‌توانند چیزهایی را پیش‌بینی کنند که قابل قبول هستند، اما عناصر کلیدی و برجسته را ندارند. آیا من به عنوان یک انسان می‌توانم تشخیص دهم که چیزی در آنجا کم است؟»

دکتر مارکوس بوهلر افزود که پیش‌بینی واقعی یک مدل ممکن است یک ثانیه طول بکشد، اما فرآیند آزمایشی اعتبارسنجی می‌تواند ماه‌ها یا یک سال یا بیشتر طول بکشد. پس چگونه باید در این دوره زمانی که نتایج را تأیید نکرده‌ایم، عمل کنیم؟ ما همچنین باید نسل بعدی توسعه دهندگان هوش مصنوعی مولد را آموزش دهیم تا مدل هایی را طراحی کنند که قابل اعتماد و قابل تأیید باشند و ما بتوانیم از بینش های مبتنی بر فیزیک در ساخت این مدل ها استفاده کنیم.»

دکتر دانکن واتسون-پاریس بر اساس هر دو نکته قبلی گفت: «از آنجایی که این مدل‌ها برای تولید نتایج قابل قبول طراحی شده‌اند، ما نمی‌توانیم فقط به نتایج نگاه کنیم تا صحت آنها را تأیید کنیم. محققان هوش مصنوعی مولد باید درک عمیقی از نحوه عملکرد این مدل‌ها داشته باشند تا نتایج خود را تأیید کنند، به همین دلیل است که آموزش صحیح نسل بعدی بسیار مهم است.

عضو مخاطب: "در علم مواد، ما مسیر رو به جلو را برای مطالعه برخی مواد می دانیم، اما برای برخی دیگر، مانند ابررساناهای دمای اتاق، نمی دانیم چگونه به جلو برویم. فکر می کنید مسیر پیش رو در مطالعه این مطالب ناشناخته چگونه خواهد بود؟ و چگونه باید این نوع تحقیقات را از دیدگاه نظارتی فعال کرد؟

دکتر بولر گفت: «خب، من در تحقیقات ابررساناها متخصص نیستم، بنابراین مستقیماً در مورد آن صحبت نمی‌کنم، اما می‌توانم به طور کلی در مورد اینکه چگونه در علم مواد پیشرفت می‌کنیم، به‌ویژه در حوزه پروتئین من صحبت کنم. و توسعه بیومواد روشی که ما پیشرفت می کنیم، داشتن توانایی فشار دادن پاکت است. ما آزمایش‌های جدیدی انجام می‌دهیم و ایده‌ها و تئوری‌های عجیب و غریب را آزمایش می‌کنیم و می‌بینیم کدام یک و چرا کار می‌کنند. در مورد اینکه چگونه باید این تحقیق را فعال کنیم، به مدل های منبع باز بیشتری با دسترسی جمعی نیاز داریم. من سیاستمداران را تشویق می کنم که این فناوری ها را بیش از حد تنظیم نکنند، به طوری که محققان و عموم مردم به این نوع مدل ها دسترسی داشته باشند. فکر نمی‌کنم این ایده خوبی باشد که مردم را از استفاده از این مدل‌ها بازداریم، به‌خصوص زمانی که بتوانیم ایده‌ها و پیشرفت‌ها را جمع‌سپاری کنیم و دانشی را از حوزه‌های مختلف فعالیت‌های انسانی معرفی کنیم. به عنوان مثال، زمانی که دستگاه چاپ اختراع شد، مقامات تلاش کردند دسترسی به این فناوری را محدود کنند، به طوری که تعداد کمی از کتاب‌ها می‌توان به طور انبوه مطالعه کرد، اما این تلاش به طرز بدی شکست خورد. بهترین راه برای محافظت از مردم، تسهیل دسترسی به این مدل‌ها به گونه‌ای است که بتوانیم آن‌ها را به‌طور گسترده برای حداکثر منافع جامعه توسعه، کاوش و ارزیابی کنیم.»

عضو مخاطب: «بیشتر مدل‌های مولد هوش مصنوعی امروزه مدل‌های رگرسیونی هستند که بر شبیه‌سازی یا شبیه‌سازی سناریوهای مختلف تمرکز دارند. با این حال، اکتشافات در علم توسط فرضیه‌ها و پیش‌بینی‌هایی که ما رویا می‌بینیم تقویت می‌شود. بنابراین چگونه می‌توانیم مدل‌هایی ایجاد کنیم که به‌جای مدل‌های فعلی که بیشتر برای آزمایش استفاده می‌شوند، پیش‌بینی‌های جدید را تصور کنند؟»

دکتر بولر ابتدا پاسخ داد و گفت: «درست می‌گویید، اکثر مدل‌های سنتی یادگیری ماشین اغلب مبتنی بر رگرسیون هستند، اما مدل‌هایی که امروز در مورد آنها صحبت کردیم متفاوت عمل می‌کنند. وقتی سیستم‌های چند عاملی با قابلیت‌های زیاد را کنار هم می‌گذارید، در واقع شروع به کشف سناریوهای جدید می‌کنند و شروع به استدلال و پیش‌بینی بر اساس آزمایش‌هایی می‌کنند که انجام داده‌اند. انسان تر می شوند. شما به‌عنوان یک محقق، آزمایشی را انجام نمی‌دهید و فقط به پایان می‌رسید - آزمایشی را اجرا می‌کنید و سپس شروع به نگاه کردن به داده‌ها و تأیید اعتبار می‌کنید و پیش‌بینی‌های جدیدی بر اساس این داده‌ها انجام می‌دهید، تا نقاط را به هم متصل کنید و برون‌یابی کنید. فرضیه سازی و تصویربرداری از چگونگی وقوع یک سناریوی جدید. شما آزمایش می‌کنید، داده‌های جدید را جمع‌آوری می‌کنید، یک نظریه توسعه می‌دهید و شاید یک چارچوب یکپارچه در مورد یک موضوع خاص مورد علاقه پیشنهاد می‌کنید. سپس از ایده‌های خود در برابر انتقادات همکاران خود دفاع می‌کنید و شاید وقتی از اطلاعات جدید استفاده می‌شود، در فرضیه خود تجدیدنظر کنید. این روشی است که سیستم‌های متخاصم چندعاملی جدید کار می‌کنند، اما البته آنها مهارت‌های انسانی را با توانایی به مراتب بیشتر در استدلال بیش از حجم وسیعی از داده‌ها و بازنمایی دانش تکمیل می‌کنند. این مدل‌ها می‌توانند فرضیه‌های جدیدی را ایجاد کنند که به فراتر از آنچه قبلاً مطالعه شده است، می‌افزاید و به فرآیند علمی کشف و نوآوری می‌افزاید.»

دکتر ویلت گفت: «من آن را با حوزه کشف تکمیل و رگرسیون نمادین به‌عنوان حوزه دیگری که بسیار بیشتر در جهت تولید فرضیه هدف‌گذاری شده است، تکمیل می‌کنم. کارهای زیادی در این زمینه در حال انجام است.»

عضو مخاطب: "چگونه می توانیم دسترسی به این نوع مدل ها را افزایش دهیم و بر موانع غلبه کنیم، مانند اکثر مدل هایی که برای انگلیسی زبانان ایجاد می شوند؟"

دکتر ربکا ویلت پاسخ داد و گفت: «مردم زیادی به استفاده از این مدل‌ها دسترسی دارند، اما طراحی و آموزش آن‌ها میلیون‌ها دلار هزینه دارد. اگر تنها مجموعه کوچکی از سازمان‌ها بتوانند این مدل‌ها را راه‌اندازی کنند، آنگاه تنها مجموعه بسیار کمی از افراد تصمیم‌گیری می‌کنند و اولویت‌ها را در جامعه علمی تعیین می‌کنند. و اغلب اولویت های این سازمان ها و افراد سود محور است. با این حال، من فکر می کنم که چشم انداز شروع به تغییر کرده است. سازمان هایی مانند NSF در تلاش برای ایجاد زیرساخت هایی هستند که برای جامعه علمی گسترده تر قابل دسترسی باشد. این تلاش شبیه توسعه اولیه ابر رایانه ها است. در روزهای اولیه، محققان مجبور بودند پیشنهادهای طولانی برای دسترسی به یک ابر رایانه ارائه کنند. من فکر می کنم که ما شاهد الگوهای در حال ظهور مشابهی در هوش مصنوعی و هوش مصنوعی مولد خواهیم بود."

دکتر واتسون-پاریس گفت: "من موافقم." با اضافه کردن به آن از جنبه نظارتی، من فکر نمی‌کنم که ما باید تحقیقات پایه را تنظیم کنیم، شاید فضاهای کاربردی، اما نه خود تحقیق.

از خواندن شما بسیار متشکریم و منتظر خلاصه دو پانل دیگر ما در AAAS 2024 باشید.