محققان رویکردی انعطاف‌پذیرتر برای یادگیری ماشین کشف کردند

محققان هوش مصنوعی مجموعه ای از موفقیت ها را جشن گرفته اند شبکه های عصبی، برنامه های کامپیوتری که تقریباً نحوه سازماندهی مغز ما را تقلید می کنند. اما علیرغم پیشرفت سریع، شبکه‌های عصبی نسبتاً انعطاف‌ناپذیر باقی می‌مانند و توانایی کمی برای تغییر در پرواز یا تطبیق با شرایط ناآشنا دارند.

در سال 2020، دو محقق در موسسه فناوری ماساچوست رهبری تیمی را بر عهده داشتند که معرفی کردند نوع جدیدی از شبکه عصبی بر اساس هوش واقعی زندگی - اما نه خود ما. در عوض، آنها از کرم گرد کوچک الهام گرفتند، Caenorhabditis elegans، برای تولید چیزی که آنها شبکه عصبی مایع نامیدند. پس از موفقیت در سال گذشته، شبکه های جدید ممکن است اکنون به اندازه کافی همه کاره باشند تا جایگزین همتایان سنتی خود برای کاربردهای خاص شوند.

شبکه های عصبی مایع "یک جایگزین زیبا و فشرده" ارائه می دهند کن گلدبرگ، یک روباتیک در دانشگاه کالیفرنیا، برکلی. او افزود که آزمایش‌ها نشان می‌دهند که این شبکه‌ها می‌توانند سریع‌تر و دقیق‌تر از سایر شبکه‌های عصبی به اصطلاح زمان پیوسته کار کنند که سیستم‌هایی را که در طول زمان تغییر می‌کنند، مدل‌سازی می‌کنند.

رامین حسنی و ماتیاس لچنر، نیروهای محرکه طراحی جدید، سال ها پیش متوجه شدند که C. elegans می تواند یک ارگانیسم ایده آل برای کشف چگونگی ساخت شبکه های عصبی انعطاف پذیر باشد که می تواند شگفتی را در خود جای دهد. تغذیه کننده پایین میلی متری از معدود موجوداتی است که سیستم عصبی کاملاً ترسیم شده ای دارد و می تواند طیف وسیعی از رفتارهای پیشرفته را انجام دهد: حرکت، یافتن غذا، خوابیدن، جفت گیری و حتی یادگیری از تجربه. لشنر گفت: «این در دنیای واقعی زندگی می‌کند، جایی که تغییر همیشه در حال وقوع است، و تقریباً تحت هر شرایطی که برایش پیش می‌آید، می‌تواند عملکرد خوبی داشته باشد».

احترام به کرم پست، او و حسنی را به شبکه های مایع جدیدشان سوق داد، جایی که هر نورون توسط معادله ای اداره می شود که رفتار آن را در طول زمان پیش بینی می کند. و همانطور که نورون ها به یکدیگر مرتبط هستند، این معادلات به یکدیگر بستگی دارند. این شبکه اساساً کل این مجموعه معادلات مرتبط را حل می‌کند و به آن اجازه می‌دهد وضعیت سیستم را در هر لحظه مشخص کند - انحراف از شبکه‌های عصبی سنتی، که فقط در لحظات خاصی نتایج را ارائه می‌دهند.

لچنر گفت: «[آنها] فقط می توانند در یک، دو یا سه ثانیه به شما بگویند که چه اتفاقی دارد می افتد. اما یک مدل زمان پیوسته مانند مدل ما می تواند آنچه را که در 0.53 ثانیه یا 2.14 ثانیه یا هر زمان دیگری که شما انتخاب کنید، توصیف کند.

شبکه های مایع همچنین در نحوه برخورد با سیناپس ها، ارتباطات بین نورون های مصنوعی، متفاوت هستند. قدرت این اتصالات در یک شبکه عصبی استاندارد را می توان با یک عدد واحد یعنی وزن آن بیان کرد. در شبکه های مایع، تبادل سیگنال بین نورون ها یک فرآیند احتمالی است که توسط یک تابع "غیرخطی" اداره می شود، به این معنی که پاسخ ها به ورودی ها همیشه متناسب نیستند. به عنوان مثال، دو برابر شدن ورودی، می تواند منجر به تغییر بسیار بزرگتر یا کوچکتر در خروجی شود. این تنوع داخلی به همین دلیل است که شبکه ها "مایع" نامیده می شوند. نحوه واکنش یک نورون بسته به ورودی دریافتی آن می تواند متفاوت باشد.

در حالی که الگوریتم‌های موجود در قلب شبکه‌های سنتی در طول آموزش تنظیم می‌شوند، زمانی که این سیستم‌ها مجموعه‌ای از داده‌ها را برای کالیبره کردن بهترین مقادیر برای وزن خود تغذیه می‌کنند، شبکه‌های عصبی مایع سازگارتر هستند. آنها می‌توانند معادلات اساسی خود را بر اساس ورودی‌هایی که مشاهده می‌کنند تغییر دهند، به‌ویژه تغییر سرعت پاسخ نورون‌ها. دانیلا روس، مدیر آزمایشگاه علوم کامپیوتر و هوش مصنوعی MIT.

یک آزمایش اولیه برای نشان دادن این توانایی شامل تلاش برای هدایت یک خودروی خودمختار بود. یک شبکه عصبی معمولی تنها می‌تواند داده‌های بصری دوربین خودرو را در فواصل زمانی ثابت تجزیه و تحلیل کند. شبکه مایع - متشکل از 19 نورون و 253 سیناپس (که آن را با استانداردهای یادگیری ماشین کوچک می کند) - می تواند بسیار پاسخگوتر. روس، یکی از نویسندگان این مقاله و چندین مقاله دیگر در مورد شبکه های مایع، می گوید: «مدل ما می تواند به دفعات بیشتری نمونه برداری کند، به عنوان مثال زمانی که جاده پرپیچ و خم است.

این مدل با موفقیت خودرو را در مسیر خود نگه داشت، اما یک نقص داشت، لشنر گفت: "واقعا کند بود." مشکل از معادلات غیرخطی که سیناپس‌ها و نورون‌ها را نشان می‌دهند سرچشمه می‌گیرد - معادلاتی که معمولاً بدون محاسبات مکرر در رایانه قابل حل نیستند، که قبل از همگرا شدن در یک راه‌حل، چندین بار تکرار می‌شوند. این کار معمولاً به بسته‌های نرم‌افزاری اختصاصی به نام حل‌کننده‌ها واگذار می‌شود که باید به طور جداگانه برای هر سیناپس و نورون اعمال شود.

در یک کاغذ سال گذشته، تیم یک شبکه عصبی مایع جدید را نشان داد که در اطراف آن گلوگاه قرار گرفت. این شبکه بر همین نوع معادلات متکی بود، اما پیشرفت کلیدی کشف حسنی بود که این معادلات نیازی به حل کردن این معادلات از طریق محاسبات رایانه‌ای سخت ندارند. در عوض، شبکه می‌تواند با استفاده از یک راه‌حل تقریباً دقیق یا «شکل بسته» که در اصل می‌توان با مداد و کاغذ کار کرد، کار کرد. به طور معمول، این معادلات غیرخطی راه حل های شکل بسته ندارند، اما حسنی به یک جواب تقریبی برخورد کرد که برای استفاده به اندازه کافی خوب بود.

روس گفت: "داشتن یک راه حل بسته به این معنی است که شما معادله ای دارید که می توانید مقادیر پارامترهای آن را وارد کنید و ریاضیات اولیه را انجام دهید و پاسخی دریافت کنید." "شما در یک شات پاسخ می گیرید" به جای اینکه اجازه دهید کامپیوتر تا زمانی که تصمیم بگیرد به اندازه کافی نزدیک است، از بین برود. این امر زمان و انرژی محاسباتی را کاهش می دهد و روند را به میزان قابل توجهی سرعت می بخشد.

گفت: "روش آنها شکست دادن رقبا با چندین مرتبه بزرگی بدون کاهش دقت است." سایان میترا، دانشمند کامپیوتر در دانشگاه ایلینوی، اوربانا-شامپین.

حسنی گفت، علاوه بر سرعت بیشتر، جدیدترین شبکه‌های آن‌ها به طور غیرعادی پایدار هستند، به این معنی که سیستم می‌تواند ورودی‌های عظیمی را بدون هیچ مشکلی مدیریت کند. کمک اصلی در اینجا این است که پایداری و سایر ویژگی‌های خوب در این سیستم‌ها به دلیل ساختار خالص آنها ایجاد می‌شود. سریرام سانکارارایانان، دانشمند کامپیوتر در دانشگاه کلرادو، بولدر. به نظر می‌رسد شبکه‌های مایع در چیزی که او آن را «نقطه شیرین» می‌خواند، کار می‌کنند: آن‌قدر پیچیده هستند که اجازه دهند اتفاقات جالبی بیفتد، اما نه آنقدر پیچیده که منجر به رفتارهای آشفته شود.

در حال حاضر، گروه MIT در حال آزمایش آخرین شبکه خود بر روی یک پهپاد هوایی مستقل است. اگرچه این پهپاد برای جهت یابی در جنگل آموزش دیده بود، اما آنها آن را به محیط شهری کمبریج منتقل کردند تا ببینند چگونه با شرایط جدید برخورد می کند. لچنر نتایج اولیه را دلگرم کننده خواند.

فراتر از اصلاح مدل فعلی، این تیم همچنین در تلاش است تا معماری شبکه خود را بهبود بخشد. لشنر گفت: قدم بعدی این است که بفهمیم برای انجام یک وظیفه به چند یا چند نورون نیاز داریم. این گروه همچنین می خواهد راهی بهینه برای اتصال نورون ها ایجاد کند. در حال حاضر، هر نورون به هر نورون دیگر پیوند دارد، اما اینطور نیست C. elegans، که در آن اتصالات سیناپسی انتخابی تر هستند. از طریق مطالعات بیشتر روی سیستم سیم کشی کرم گرد، آنها امیدوارند که تعیین کنند کدام نورون ها در سیستم آنها باید با هم جفت شوند.

جدا از کاربردهایی مانند رانندگی خودکار و پرواز، شبکه های مایع برای تحلیل شبکه های برق، تراکنش های مالی، آب و هوا و سایر پدیده هایی که در طول زمان در نوسان هستند، مناسب به نظر می رسند. حسنی گفت: علاوه بر این، آخرین نسخه شبکه‌های مایع را می‌توان «برای انجام شبیه‌سازی فعالیت مغز در مقیاسی که قبلاً قابل تحقق نبود» استفاده کرد.

میترا به طور خاص شیفته این احتمال است. او گفت: «به نوعی، این یک نوع شاعرانه است و نشان می دهد که این تحقیق ممکن است در حال تکمیل شدن باشد. شبکه‌های عصبی به حدی در حال توسعه هستند که ایده‌هایی که از طبیعت استخراج کرده‌ایم ممکن است به زودی به ما در درک بهتر طبیعت کمک کنند.»