پیش بینی سیستم های پیچیده مانند آب و هوا بسیار دشوار است. اما حداقل معادلات حاکم بر آب و هوا از یک روز به روز دیگر تغییر نمی کند. در مقابل، سیستم‌های پیچیده خاصی می‌توانند تحت انتقال «نقطه اوج» قرار گیرند، و رفتار خود را به طور ناگهانی به طور چشمگیری و شاید به طور غیرقابل برگشت تغییر دهند، با هشدار کمی و پیامدهای بالقوه فاجعه‌بار.
در بازه های زمانی به اندازه کافی طولانی، اکثر سیستم های دنیای واقعی اینگونه هستند. گلف استریم در اقیانوس اطلس شمالی را در نظر بگیرید که آب گرم استوایی را به عنوان بخشی از نوار نقاله اقیانوسی که به تنظیم آب و هوای زمین کمک می کند به سمت شمال می برد. معادلاتی که این جریان های در حال گردش را توصیف می کنند به دلیل هجوم آب شیرین از ذوب ورقه های یخ به آرامی در حال تغییر هستند. تاکنون گردش خون به تدریج کاهش یافته است، اما چند دهه بعد ممکن است به طور ناگهانی متوقف شود.
گفت: «فرض کنید الان همه چیز خوب است یینگ چنگ لای، فیزیکدان دانشگاه ایالتی آریزونا. "چگونه می‌گویید که در آینده خوب نخواهد شد؟"
در مجموعه‌ای از مقالات اخیر، محققان نشان داده‌اند که الگوریتم‌های یادگیری ماشینی می‌توانند انتقال نقطه اوج را در نمونه‌های کهن‌الگوی چنین سیستم‌های «غیر ایستا» و همچنین ویژگی‌های رفتار آنها پس از نوک پیش‌بینی کنند. تکنیک‌های جدید شگفت‌آور قدرتمند می‌توانند روزی کاربردهایی در علم آب و هوا پیدا کنند. بوم شناسی، اپیدمیولوژی و بسیاری از زمینه های دیگر.
افزایش علاقه به این مشکل از چهار سال پیش آغاز شد نتایج پیشگامانه از گروه ادوارد اوت، محقق برجسته آشوب در دانشگاه مریلند. تیم اوت دریافتند که نوعی از الگوریتم یادگیری ماشین به نام شبکه عصبی مکرر می‌تواند تکامل سیستم‌های آشفته ثابت (که نقاط اوج ندارند) را به‌طور خیره‌کننده‌ای در آینده پیش‌بینی کند. این شبکه فقط به سوابق رفتار گذشته سیستم آشفته متکی بود - هیچ اطلاعاتی در مورد معادلات اساسی نداشت.
رویکرد یادگیری شبکه با رویکرد شبکه‌های عصبی عمیق که داده‌ها را از طریق لایه‌های بلندی از نورون‌های مصنوعی برای کارهایی مانند تشخیص گفتار و پردازش زبان طبیعی تغذیه می‌کنند، متفاوت بود. همه شبکه های عصبی با تنظیم قدرت اتصالات بین نورون های خود در پاسخ به داده های آموزشی یاد می گیرند. اوت و همکارانش از یک روش آموزشی کم هزینه تر به نام محاسبات مخزن استفاده کردند که تنها چند اتصال را در یک لایه از نورون های مصنوعی تنظیم می کند. علیرغم سادگی، محاسبات مخزن برای پیش بینی تکامل آشفته مناسب به نظر می رسد.
با توجه به اینکه نتایج سال 2018 قابل توجه بود، محققان مشکوک بودند که رویکرد مبتنی بر داده های یادگیری ماشینی قادر به پیش بینی انتقال نقطه اوج در سیستم های غیر ثابت یا استنباط اینکه این سیستم ها چگونه بعد از آن رفتار خواهند کرد، نخواهد بود. اوت می‌گوید: «شبکه عصبی بر روی داده‌های گذشته درباره یک سیستم در حال تکامل آموزش می‌دهد، اما «آنچه در آینده اتفاق می‌افتد بر اساس قوانین متفاوتی در حال تکامل است». مثل این است که بخواهید نتیجه یک بازی بیسبال را پیش بینی کنید و متوجه شوید که به یک مسابقه کریکت تبدیل شده است.
و با این حال، در دو سال گذشته، گروه Ott و چندین نفر دیگر نشان داده اند که محاسبات مخزن به طور غیرمنتظره ای برای این سیستم ها نیز خوب عمل می کند.
In یک مقاله 2021، لای و همکارانشان به الگوریتم محاسباتی مخزن خود دسترسی به مقدار آهسته یک پارامتر را دادند که در نهایت یک سیستم مدل را بر روی یک نقطه اوج می فرستد - اما آنها هیچ اطلاعات دیگری در مورد معادلات حاکم بر سیستم ارائه نکردند. این وضعیت به تعدادی از سناریوهای دنیای واقعی مربوط می شود: به عنوان مثال، ما می دانیم که غلظت دی اکسید کربن در جو چگونه در حال افزایش است، اما همه راه هایی را که این متغیر بر آب و هوا تأثیر می گذارد، نمی دانیم. این تیم دریافت که یک شبکه عصبی آموزش‌دیده بر روی داده‌های گذشته می‌تواند ارزشی را که در نهایت سیستم در آن ناپایدار می‌شود، پیش‌بینی کند. گروه اوت منتشر کرد نتایج مرتبط سال گذشته است.
در یک مقاله جدیداوت و دانشجوی فارغ التحصیلش در ماه جولای به صورت آنلاین ارسال شد و اکنون تحت بررسی همتایان قرار گرفته است دروویت پاتل قدرت پیش‌بینی شبکه‌های عصبی را بررسی کرد که فقط رفتار یک سیستم را می‌بینند و چیزی در مورد پارامتر زیربنایی مسئول ایجاد یک انتقال نقطه اوج نمی‌دانند. آنها داده‌های شبکه عصبی خود را که در یک سیستم شبیه‌سازی شده ضبط شده بود، در حالی که پارامتر پنهان در حال حرکت بود، بدون اطلاع شبکه، تغذیه کردند. قابل توجه است، در بسیاری از موارد این الگوریتم می تواند هم شروع انحراف را پیش بینی کند و هم توزیع احتمالی از رفتارهای احتمالی پس از نقطه اوج را ارائه دهد.
با کمال تعجب، شبکه زمانی که روی داده های پر سر و صدا آموزش داده می شد بهترین عملکرد را داشت. نویز در سیستم های دنیای واقعی همه جا وجود دارد، اما معمولاً مانع پیش بینی می شود. در اینجا، ظاهراً با قرار دادن الگوریتم در معرض طیف گسترده‌تری از رفتار احتمالی سیستم، کمک کرد. برای استفاده از این نتیجه غیرمنتظره، پاتل و اوت روش محاسباتی مخزن خود را تغییر دادند تا شبکه عصبی بتواند نویز و همچنین رفتار متوسط سیستم را تشخیص دهد. گفت: "این برای هر رویکردی که سعی در برون یابی رفتار سیستم های غیر ثابت دارد مهم خواهد بود." مایکل گراهام، یک دینامیک سیال در دانشگاه ویسکانسین، مدیسون.
پاتل و اوت همچنین دسته‌ای از نقاط اوج را در نظر گرفتند که نشانگر تغییری شدید در رفتار است.
فرض کنید وضعیت یک سیستم به عنوان یک نقطه در حال حرکت در یک فضای انتزاعی از تمام حالات ممکن آن ترسیم شده است. سیستم‌هایی که چرخه‌های منظمی را پشت سر می‌گذارند، یک مدار تکراری را در فضا ردیابی می‌کنند، در حالی که تکامل آشفته مانند یک آشفتگی درهم به نظر می‌رسد. یک نقطه اوج ممکن است باعث شود یک مدار از کنترل خارج شود، اما در همان قسمت از طرح باقی بماند، یا ممکن است باعث شود که حرکت اولیه آشفته به ناحیه بزرگتری سرازیر شود. در این موارد، یک شبکه عصبی ممکن است نشانه هایی از سرنوشت سیستم را که در کاوش قبلی خود در مناطق مربوطه از فضای حالت رمزگذاری شده است، پیدا کند.
چالش‌برانگیزتر انتقال‌هایی است که در آن یک سیستم به طور ناگهانی از یک منطقه اخراج می‌شود و تکامل بعدی آن در منطقه‌ای دور آشکار می‌شود. پاتل توضیح داد: "نه تنها پویایی در حال تغییر است، بلکه اکنون شما در حال سرگردانی در قلمرویی هستید که هرگز ندیده اید." چنین انتقال‌هایی معمولاً «هیسترتیک» هستند، به این معنی که به راحتی قابل معکوس نیستند - حتی اگر، مثلاً، پارامتری که به آهستگی در حال افزایش است که باعث انتقال مجدد شده است، دوباره به پایین برگردد. این نوع هیسترزیس معمول است: برای مثال، یک شکارچی بزرگ را در یک اکوسیستم بکشید، و دینامیک تغییر یافته ممکن است باعث شود که جمعیت طعمه به طور ناگهانی منفجر شود. دوباره یک شکارچی را اضافه کنید و جمعیت طعمه بالا می ماند.
زمانی که الگوریتم محاسباتی مخزن پاتل و اوت بر روی داده‌های سیستمی که یک انتقال هیسترتیک را نشان می‌دهد، آموزش دید، توانست یک نقطه اوج قریب‌الوقوع را پیش‌بینی کند، اما زمان‌بندی را اشتباه گرفت و نتوانست رفتار بعدی سیستم را پیش‌بینی کند. سپس محققان یک رویکرد ترکیبی را با ترکیب یادگیری ماشین و مدل‌سازی مبتنی بر دانش مرسوم سیستم امتحان کردند. آنها دریافتند که الگوریتم ترکیبی از مجموع اجزای خود فراتر رفته است: این الگوریتم می تواند ویژگی های آماری رفتار آینده را حتی زمانی که مدل مبتنی بر دانش مقادیر پارامترهای نادرست داشته باشد و بنابراین به خودی خود شکست خورده است، پیش بینی کند.
به زودی هو لیممحقق یادگیری ماشین در موسسه نوردیک برای فیزیک نظری در استکهلم که رفتار کوتاه مدت سیستم های غیر ثابت را مورد مطالعه قرار داده است، امیدوار است کار اخیر "به عنوان یک کاتالیزور برای مطالعات بیشتر،" از جمله مقایسه بین عملکرد محاسبات مخزن و که از یادگیری عمیق الگوریتم ها اگر محاسبات مخزن بتواند خود را در برابر روش‌های پرمصرف‌تر حفظ کند، چشم‌انداز خوبی برای مطالعه نقاط اوج در سیستم‌های بزرگ و پیچیده مانند اکوسیستم‌ها و آب و هوای زمین خواهد بود.
اوت گفت: «در این زمینه کارهای زیادی برای انجام دادن وجود دارد. "این واقعاً کاملاً باز است."
