Dự đoán các hệ thống phức tạp như thời tiết nổi tiếng là khó. Nhưng ít nhất các phương trình điều chỉnh thời tiết không thay đổi từ ngày này sang ngày khác. Ngược lại, một số hệ thống phức tạp nhất định có thể trải qua quá trình chuyển đổi “điểm tới hạn”, đột ngột thay đổi hành vi của chúng một cách đáng kể và có thể không thể đảo ngược, với ít cảnh báo và hậu quả thảm khốc có thể xảy ra.
Trên khoảng thời gian đủ dài, hầu hết các hệ thống trong thế giới thực đều như thế này. Hãy xem dòng Gulf Stream ở Bắc Đại Tây Dương, vận chuyển nước ấm từ xích đạo lên phía bắc như một phần của băng chuyền đại dương giúp điều hòa khí hậu Trái đất. Các phương trình mô tả các dòng tuần hoàn này đang thay đổi chậm do dòng nước ngọt từ các tảng băng tan chảy. Cho đến nay, sự lưu thông đã dần chậm lại, nhưng nhiều thập kỷ kể từ bây giờ nó có thể đột ngột ngừng lại.
“Giả sử bây giờ mọi thứ đều ổn,” nói Ying-Cheng Lai, một nhà vật lý tại Đại học Bang Arizona. "Làm thế nào để bạn nói rằng nó sẽ không ổn trong tương lai?"
Trong một loạt bài báo gần đây, các nhà nghiên cứu đã chỉ ra rằng các thuật toán học máy có thể dự đoán quá trình chuyển đổi điểm tới hạn trong các ví dụ nguyên mẫu của các hệ thống “không cố định” như vậy, cũng như các tính năng về hành vi của chúng sau khi chúng được chuyển đổi. Các kỹ thuật mới mạnh mẽ đáng kinh ngạc một ngày nào đó có thể tìm thấy các ứng dụng trong khoa học khí hậu, sinh thái, dịch tễ học và nhiều lĩnh vực khác.
Sự quan tâm gia tăng đến vấn đề này bắt đầu từ XNUMX năm trước với kết quả đột phá từ nhóm của Edward Ott, một nhà nghiên cứu hỗn loạn hàng đầu tại Đại học Maryland. Nhóm của Ott phát hiện ra rằng một loại thuật toán học máy được gọi là mạng nơ-ron tuần hoàn có thể dự đoán sự phát triển của các hệ thống hỗn loạn tĩnh (không có điểm tới hạn) một cách tuyệt vời trong tương lai. Mạng chỉ dựa trên các bản ghi về hành vi trong quá khứ của hệ thống hỗn loạn - nó không có thông tin về các phương trình cơ bản.
Cách tiếp cận học tập của mạng khác với cách tiếp cận của mạng thần kinh sâu, cung cấp dữ liệu thông qua một chồng cao các lớp tế bào thần kinh nhân tạo cho các nhiệm vụ như nhận dạng giọng nói và xử lý ngôn ngữ tự nhiên. Tất cả các mạng nơ-ron học bằng cách điều chỉnh độ bền của các kết nối giữa các nơ-ron của chúng để đáp ứng với dữ liệu huấn luyện. Ott và các cộng sự của ông đã sử dụng một phương pháp đào tạo ít tốn kém về mặt tính toán hơn được gọi là tính toán hồ chứa, phương pháp này chỉ điều chỉnh một vài kết nối trong một lớp nơ-ron nhân tạo. Mặc dù tính đơn giản của nó, tính toán hồ chứa dường như phù hợp với nhiệm vụ dự đoán sự tiến hóa hỗn loạn.
Ấn tượng như kết quả năm 2018, các nhà nghiên cứu nghi ngờ rằng phương pháp tiếp cận theo hướng dữ liệu của máy học sẽ không thể dự đoán quá trình chuyển đổi điểm tới hạn trong các hệ thống không cố định hoặc suy ra cách các hệ thống này sẽ hoạt động sau đó. Ott cho biết: Một mạng lưới thần kinh đào tạo dữ liệu trong quá khứ về một hệ thống đang phát triển, nhưng “những gì xảy ra trong tương lai đang phát triển theo các quy tắc khác nhau”. Nó giống như cố gắng dự đoán kết quả của một trận đấu bóng chày chỉ để thấy rằng nó được biến thành một trận đấu cricket.
Chưa hết, trong hai năm qua, nhóm của Ott và một số người khác đã chứng minh rằng tính toán hồ chứa hoạt động tốt ngoài mong đợi đối với các hệ thống này.
In một tờ giấy 2021Lai và các cộng tác viên đã cho phép thuật toán tính toán hồ chứa của họ quyền truy cập vào giá trị trôi chậm của một tham số mà cuối cùng sẽ gửi một hệ thống mô hình qua một điểm tới hạn - nhưng họ không cung cấp thông tin nào khác về các phương trình chi phối của hệ thống. Tình huống này liên quan đến một số tình huống trong thế giới thực: Ví dụ, chúng ta biết nồng độ carbon dioxide trong khí quyển đang tăng lên như thế nào, nhưng chúng ta không biết tất cả các cách mà biến này sẽ ảnh hưởng đến khí hậu. Nhóm nghiên cứu nhận thấy rằng một mạng nơ-ron được đào tạo dựa trên dữ liệu trong quá khứ có thể dự đoán giá trị mà hệ thống cuối cùng sẽ trở nên không ổn định. Nhóm của Ott đã xuất bản Kết quả liên quan năm ngoái.
Trong một giấy mới, được đăng trực tuyến vào tháng XNUMX và hiện đang được đánh giá ngang hàng, Ott và nghiên cứu sinh của anh ấy Dhruvit Patel đã khám phá sức mạnh dự đoán của mạng nơ-ron chỉ nhìn thấy hành vi của hệ thống và không biết gì về thông số cơ bản chịu trách nhiệm thúc đẩy quá trình chuyển đổi điểm tới hạn. Họ cung cấp dữ liệu mạng thần kinh của họ được ghi lại trong một hệ thống mô phỏng trong khi thông số ẩn đang trôi dạt mà mạng không hề hay biết. Đáng chú ý, trong nhiều trường hợp, thuật toán có thể dự đoán thời điểm bắt đầu giới hạn và cung cấp phân phối xác suất của các hành vi có thể xảy ra sau điểm giới hạn.
Đáng ngạc nhiên, mạng hoạt động tốt nhất khi được đào tạo trên dữ liệu nhiễu. Tiếng ồn là phổ biến trong các hệ thống thế giới thực, nhưng nó thường cản trở việc dự đoán. Ở đây, nó đã giúp, rõ ràng là bằng cách đưa thuật toán vào phạm vi rộng hơn các hành vi có thể có của hệ thống. Để tận dụng kết quả phản trực giác này, Patel và Ott đã điều chỉnh quy trình tính toán hồ chứa của họ để cho phép mạng nơ-ron nhận ra nhiễu cũng như hành vi trung bình của hệ thống. “Điều đó sẽ rất quan trọng đối với bất kỳ cách tiếp cận nào đang cố gắng ngoại suy” hành vi của các hệ thống không cố định, Michael Graham, một nhà động lực học chất lỏng tại Đại học Wisconsin, Madison.
Patel và Ott cũng coi là một nhóm các điểm tới hạn đánh dấu một sự thay đổi đặc biệt rõ rệt trong hành vi.
Giả sử trạng thái của một hệ thống được vẽ như một điểm chuyển động xung quanh trong một không gian trừu tượng của tất cả các trạng thái có thể có của nó. Các hệ thống trải qua các chu kỳ đều đặn sẽ vạch ra một quỹ đạo lặp lại trong không gian, trong khi quá trình tiến hóa hỗn loạn sẽ giống như một mớ hỗn độn. Một điểm tới hạn có thể khiến quỹ đạo xoắn ốc mất kiểm soát nhưng vẫn ở trong cùng một phần của cốt truyện hoặc nó có thể khiến chuyển động hỗn loạn ban đầu tràn ra một vùng lớn hơn. Trong những trường hợp này, mạng nơ-ron có thể tìm thấy những gợi ý về số phận của hệ thống được mã hóa trong quá trình khám phá các vùng liên quan của không gian trạng thái trong quá khứ.
Thách thức hơn là quá trình chuyển đổi trong đó một hệ thống đột ngột bị trục xuất khỏi một vùng và quá trình tiến hóa sau đó của nó diễn ra ở một vùng xa xôi. Patel giải thích: “Không chỉ các động lực đang thay đổi, mà bây giờ bạn đang lang thang vào lãnh thổ mà bạn chưa từng thấy. Những quá trình chuyển đổi như vậy thường là "hysteretic", có nghĩa là chúng không dễ dàng bị đảo ngược - ngay cả khi, giả sử, một thông số tăng chậm gây ra quá trình chuyển đổi lại bị đẩy xuống. Loại hiện tượng trễ này rất phổ biến: Ví dụ: giết quá nhiều kẻ săn mồi hàng đầu trong hệ sinh thái, và động thái bị thay đổi có thể khiến quần thể con mồi đột ngột bùng nổ; thêm một kẻ săn mồi trở lại và số lượng con mồi vẫn tăng lên.
Khi được đào tạo về dữ liệu từ một hệ thống có quá trình chuyển đổi từ trễ, thuật toán tính toán hồ chứa của Patel và Ott có thể dự đoán điểm chuẩn sắp xảy ra, nhưng nó đã sai thời gian và không dự đoán được hành vi tiếp theo của hệ thống. Sau đó, các nhà nghiên cứu đã thử một phương pháp kết hợp kết hợp học máy và mô hình hóa hệ thống dựa trên tri thức thông thường. Họ phát hiện ra rằng thuật toán kết hợp vượt quá tổng các phần của nó: Nó có thể dự đoán các thuộc tính thống kê của hành vi trong tương lai ngay cả khi mô hình dựa trên tri thức có các giá trị tham số không chính xác và do đó tự nó không thành công.
Sớm Hoe Lim, một nhà nghiên cứu máy học tại Viện Vật lý lý thuyết Bắc Âu ở Stockholm, người đã nghiên cứu hành vi ngắn hạn của các hệ thống không tĩnh, hy vọng công trình gần đây sẽ "đóng vai trò là chất xúc tác cho các nghiên cứu sâu hơn," bao gồm cả so sánh giữa hiệu suất của tính toán hồ chứa và của học kĩ càng các thuật toán. Nếu tính toán hồ chứa có thể chống lại các phương pháp sử dụng nhiều tài nguyên hơn, thì điều đó sẽ là dấu hiệu tốt cho triển vọng nghiên cứu các điểm tới hạn trong các hệ thống lớn, phức tạp như hệ sinh thái và khí hậu Trái đất.
Ott nói: “Có rất nhiều việc phải làm trong lĩnh vực này. "Nó thực sự rộng mở."
