Prevedere sistemi complessi come il tempo è notoriamente difficile. Ma almeno le equazioni che governano il tempo non cambiano da un giorno all'altro. Al contrario, alcuni sistemi complessi possono subire transizioni di "punto di non ritorno", cambiando improvvisamente il loro comportamento in modo drammatico e forse irreversibile, con scarsi avvisi e conseguenze potenzialmente catastrofiche.
Su scale temporali abbastanza lunghe, la maggior parte dei sistemi del mondo reale sono così. Si consideri la Corrente del Golfo nel Nord Atlantico, che trasporta l'acqua calda equatoriale verso nord come parte di un nastro trasportatore oceanico che aiuta a regolare il clima terrestre. Le equazioni che descrivono queste correnti circolanti stanno cambiando lentamente a causa dell'afflusso di acqua dolce dallo scioglimento delle calotte glaciali. Finora la circolazione è rallentata gradualmente, ma tra decenni potrebbe interrompersi bruscamente.
"Supponiamo che tutto sia a posto ora", ha detto Ying Cheng Lai, fisico dell'Arizona State University. "Come fai a dire che non andrà bene in futuro?"
In una serie di articoli recenti, i ricercatori hanno dimostrato che gli algoritmi di apprendimento automatico possono prevedere le transizioni dei punti di non ritorno in esempi archetipici di tali sistemi "non stazionari", nonché le caratteristiche del loro comportamento dopo che si sono ribaltati. Le nuove tecniche sorprendentemente potenti potrebbero un giorno trovare applicazioni nella scienza del clima, ecologia, epidemiologia e molti altri campi.
Un'ondata di interesse per il problema è iniziata quattro anni fa con risultati rivoluzionari dal gruppo di Edoardo Ott, uno dei principali ricercatori sul caos presso l'Università del Maryland. Il team di Ott ha scoperto che un tipo di algoritmo di apprendimento automatico chiamato rete neurale ricorrente potrebbe prevedere l'evoluzione di sistemi caotici stazionari (che non hanno punti di non ritorno) in un futuro sorprendentemente lontano. La rete si basava solo sulle registrazioni del comportamento passato del sistema caotico: non aveva informazioni sulle equazioni sottostanti.
L'approccio di apprendimento della rete differiva da quello delle reti neurali profonde, che alimentano i dati attraverso un'alta pila di strati di neuroni artificiali per compiti come il riconoscimento vocale e l'elaborazione del linguaggio naturale. Tutte le reti neurali apprendono regolando la forza delle connessioni tra i loro neuroni in risposta ai dati di allenamento. Ott e i suoi collaboratori hanno utilizzato un metodo di allenamento meno costoso dal punto di vista computazionale chiamato reservoir computing, che regola solo poche connessioni in un singolo strato di neuroni artificiali. Nonostante la sua semplicità, il reservoir computing sembra adatto al compito di prevedere l'evoluzione caotica.
Per quanto impressionanti fossero i risultati del 2018, i ricercatori sospettavano che l'approccio basato sui dati dell'apprendimento automatico non sarebbe stato in grado di prevedere le transizioni del punto di svolta nei sistemi non stazionari o di dedurre come questi sistemi si sarebbero comportati in seguito. Una rete neurale si allena sui dati passati su un sistema in evoluzione, ma "ciò che sta accadendo in futuro si sta evolvendo secondo regole diverse", ha affermato Ott. È come cercare di prevedere l'esito di una partita di baseball solo per scoprire che si è trasformata in una partita di cricket.
Eppure, negli ultimi due anni, il gruppo di Ott e molti altri hanno dimostrato che il reservoir computing funziona inaspettatamente bene anche per questi sistemi.
In una carta 2021, Lai e collaboratori hanno fornito al loro algoritmo di calcolo del giacimento l'accesso al valore che si sposta lentamente di un parametro che alla fine avrebbe inviato un sistema modello oltre un punto di non ritorno, ma non hanno fornito altre informazioni sulle equazioni che governano il sistema. Questa situazione riguarda una serie di scenari del mondo reale: sappiamo come sta aumentando la concentrazione di anidride carbonica nell'atmosfera, per esempio, ma non conosciamo tutti i modi in cui questa variabile influenzerà il clima. Il team ha scoperto che una rete neurale addestrata su dati passati potrebbe prevedere il valore al quale il sistema alla fine sarebbe diventato instabile. Pubblicato il gruppo di Ott risultati correlati l'anno scorso.
In un nuovo documento, pubblicato online a luglio e ora in fase di revisione tra pari, Ott e il suo studente laureato Dhruvit Patel ha esplorato il potere predittivo delle reti neurali che vedono solo il comportamento di un sistema e non sanno nulla del parametro sottostante responsabile della guida di una transizione al punto di non ritorno. Hanno alimentato i dati della loro rete neurale registrati in un sistema simulato mentre il parametro nascosto andava alla deriva, all'insaputa della rete. Sorprendentemente, in molti casi l'algoritmo potrebbe sia prevedere l'inizio del ribaltamento sia fornire una distribuzione di probabilità di possibili comportamenti post-punto di ribaltamento.
Sorprendentemente, la rete ha funzionato meglio se addestrata su dati rumorosi. Il rumore è onnipresente nei sistemi del mondo reale, ma di solito ostacola la previsione. Qui ha aiutato, apparentemente esponendo l'algoritmo a una gamma più ampia del possibile comportamento del sistema. Per sfruttare questo risultato controintuitivo, Patel e Ott hanno ottimizzato la loro procedura di calcolo del serbatoio per consentire alla rete neurale di riconoscere il rumore e il comportamento medio del sistema. "Sarà importante per qualsiasi approccio che tenti di estrapolare" il comportamento dei sistemi non stazionari, ha affermato Michael Graham, un fluidodinamico presso l'Università del Wisconsin, Madison.
Patel e Ott hanno anche considerato una classe di punti di svolta che segnano un cambiamento particolarmente netto nel comportamento.
Supponiamo che lo stato di un sistema sia tracciato come un punto che si muove in uno spazio astratto di tutti i suoi possibili stati. I sistemi che subiscono cicli regolari disegnerebbero un'orbita ripetitiva nello spazio, mentre l'evoluzione caotica sembrerebbe un pasticcio intricato. Un punto di non ritorno potrebbe far sì che un'orbita sfugga al controllo ma rimanga nella stessa parte della trama, oppure potrebbe causare un movimento inizialmente caotico che si riversa in una regione più ampia. In questi casi una rete neurale può trovare indizi del destino del sistema codificati nella sua passata esplorazione di regioni rilevanti dello spazio degli stati.
Più impegnative sono le transizioni in cui un sistema viene improvvisamente espulso da una regione e la sua successiva evoluzione si svolge in una regione lontana. "Non solo le dinamiche stanno cambiando, ma ora stai vagando in un territorio che non hai mai visto", ha spiegato Patel. Tali transizioni sono tipicamente "isteretiche", il che significa che non sono facilmente invertibili, anche se, ad esempio, un parametro che aumenta lentamente che ha causato la transizione viene nuovamente spostato verso il basso. Questo tipo di isteresi è comune: ad esempio, uccidi uno di troppi predatori in un ecosistema e la dinamica alterata potrebbe far esplodere improvvisamente la popolazione delle prede; aggiungi di nuovo un predatore e la popolazione di prede rimane elevata.
Quando è stato addestrato sui dati di un sistema che mostra una transizione isteretica, l'algoritmo di calcolo del serbatoio di Patel e Ott è stato in grado di prevedere un punto di svolta imminente, ma ha sbagliato i tempi e non è riuscito a prevedere il comportamento successivo del sistema. I ricercatori hanno quindi provato un approccio ibrido che combina l'apprendimento automatico e la modellazione convenzionale del sistema basata sulla conoscenza. Hanno scoperto che l'algoritmo ibrido superava la somma delle sue parti: poteva prevedere le proprietà statistiche del comportamento futuro anche quando il modello basato sulla conoscenza aveva valori di parametro errati e quindi falliva da solo.
Presto Hoe Lim, un ricercatore sull'apprendimento automatico presso il Nordic Institute for Theoretical Physics di Stoccolma che ha studiato il comportamento a breve termine dei sistemi non stazionari, spera che il recente lavoro "servirà da catalizzatore per ulteriori studi", compresi i confronti tra le prestazioni del calcolo dei giacimenti e quella di apprendimento profondo algoritmi. Se il calcolo dei giacimenti può reggere il confronto con metodi che richiedono più risorse, sarebbe di buon auspicio per la prospettiva di studiare i punti di non ritorno in sistemi grandi e complessi come gli ecosistemi e il clima terrestre.
"C'è molto da fare in questo campo", ha detto Ott. "È davvero spalancato."
