חוקרים מגלים גישה גמישה יותר ללמידת מכונה

חוקרי בינה מלאכותית חגגו עם שורה של הצלחות רשתות עצביות, תוכנות מחשב המחקות בערך את האופן שבו המוח שלנו מאורגן. אבל למרות התקדמות מהירה, רשתות עצביות נותרות לא גמישות יחסית, עם יכולת מועטה להשתנות תוך כדי תנועה או להסתגל לנסיבות לא מוכרות.

בשנת 2020, שני חוקרים במכון הטכנולוגי של מסצ'וסטס הובילו צוות שהציג סוג חדש של רשת עצבית מבוסס על אינטליגנציה מהחיים האמיתיים - אבל לא שלנו. במקום זאת, הם קיבלו השראה מהתולעת העגולה הזעירה, elegans Caenorhabditis, לייצר את מה שהם כינו רשתות עצביות נוזליות. לאחר פריצת דרך בשנה שעברה, הרשתות החדשות עשויות כעת להיות מגוונות מספיק כדי להחליף את עמיתיהם המסורתיים עבור יישומים מסוימים.

רשתות עצביות נוזליות מציעות "אלטרנטיבה אלגנטית וקומפקטית", אמר קן גולדברג, רובוטיסט באוניברסיטת קליפורניה, ברקלי. הוא הוסיף כי ניסויים כבר מראים שרשתות אלו יכולות לפעול מהר יותר ומדויק יותר מאשר רשתות עצביות אחרות שנקראות בזמן רציף, המדגימות מערכות המשתנות לאורך זמן.

רמין חסני ו מתיאס לכנר, הכוחות המניעים מאחורי העיצוב החדש, הבינו את זה לפני שנים ג. אלגנים יכול להיות אורגניזם אידיאלי לשימוש כדי להבין איך ליצור רשתות עצביות גמישות שיכולות להכיל הפתעות. המזון התחתון באורך מילימטר הוא בין היצורים הבודדים עם מערכת עצבים ממופה במלואה, והוא מסוגל למגוון התנהגויות מתקדמות: תנועה, מציאת מזון, שינה, הזדווגות ואפילו למידה מניסיון. "הוא חי בעולם האמיתי, שבו תמיד מתרחש שינוי, והוא יכול להופיע היטב כמעט בכל תנאי שנזרק אליו", אמר לכנר.

כבוד לתולעת הנמוכה הוביל אותו ואת חסאני לרשתות הנוזליות החדשות שלהם, שבהן כל נוירון נשלט על ידי משוואה המנבאת את התנהגותו לאורך זמן. וכמו שנוירונים מקושרים זה לזה, המשוואות הללו תלויות זו בזו. הרשת בעצם פותרת את כל ההרכב הזה של משוואות מקושרות, ומאפשרת לה לאפיין את מצב המערכת בכל רגע נתון - יציאה מרשתות עצביות מסורתיות, שנותנות את התוצאות רק ברגעים מסוימים בזמן.

"[הם] יכולים לספר לך מה קורה רק בשניות אחת, שתיים או שלוש", אמר לכנר. "אבל מודל של זמן רציף כמו שלנו יכול לתאר מה קורה ב-0.53 שניות או 2.14 שניות או בכל זמן אחר שתבחר."

רשתות נוזלים נבדלות גם באופן שבו הן מטפלות בסינפסות, הקשרים בין נוירונים מלאכותיים. החוזק של אותם קשרים ברשת נוירונים סטנדרטית יכול להתבטא במספר בודד, משקלו. ברשתות נוזליות, חילופי האותות בין נוירונים הם תהליך הסתברותי הנשלט על ידי פונקציה "לא לינארית", כלומר התגובות לקלט אינן תמיד פרופורציונליות. הכפלה של הקלט, למשל, יכולה להוביל לשינוי הרבה יותר גדול או קטן יותר בפלט. השונות המובנית הזו היא הסיבה לכך שהרשתות נקראות "נוזל". האופן שבו נוירון מגיב יכול להשתנות בהתאם לקלט שהוא מקבל.

בעוד שהאלגוריתמים שבלב הרשתות המסורתיות נקבעים במהלך האימון, כאשר מערכות אלו מוזנות חבילות של נתונים כדי לכייל את הערכים הטובים ביותר עבור המשקלים שלהן, רשתות עצביות נוזליות ניתנות להתאמה יותר. "הם מסוגלים לשנות את המשוואות הבסיסיות שלהם בהתבסס על הקלט שהם צופים", ובמיוחד לשנות את המהירות שבה נוירונים מגיבים, אמר דניאלה רוס, מנהל המעבדה למדעי המחשב והבינה המלאכותית של MIT.

מבחן מוקדם אחד להצגת יכולת זו כלל ניסיון לנווט מכונית אוטונומית. רשת נוירונים קונבנציונלית יכלה לנתח נתונים חזותיים ממצלמת המכונית רק במרווחי זמן קבועים. הרשת הנוזלית - המורכבת מ-19 נוירונים ו-253 סינפסות (מה שהופך אותה לקטנה בסטנדרטים של למידת מכונה) - יכולה להיות מגיב הרבה יותר. "המודל שלנו יכול לדגום בתדירות גבוהה יותר, למשל כשהכביש מפותל", אמר רוס, מחבר שותף של זה ושל כמה מאמרים אחרים על רשתות נוזליות.

הדגם הצליח לשמור על המכונית על המסלול, אבל היה לה פגם אחד, אמר לכנר: "זה היה ממש איטי". הבעיה נבעה מהמשוואות הלא-לינאריות המייצגות את הסינפסות והנוירונים - משוואות שבדרך כלל לא ניתנות לפתרון ללא חישובים חוזרים ונשנים במחשב, שעוברים איטרציות מרובות לפני שמתכנסות בסופו של דבר לפתרון. עבודה זו מואצלת בדרך כלל לחבילות תוכנה ייעודיות הנקראות פותרים, אשר יצטרכו להיות מיושמות בנפרד על כל סינפסה ונוירון.

ב נייר בשנה שעברה, הצוות חשף רשת עצבית נוזלית חדשה שעקפה את צוואר הבקבוק הזה. רשת זו הסתמכה על אותו סוג של משוואות, אך ההתקדמות העיקרית הייתה גילוי של חסאני שאין צורך לפתור את המשוואות הללו באמצעות חישובי מחשב מפרכים. במקום זאת, הרשת יכולה לתפקד באמצעות פתרון כמעט מדויק, או "בצורה סגורה", שניתן, עקרונית, להסתדר עם עיפרון ונייר. בדרך כלל, למשוואות הלא-לינאריות הללו אין פתרונות בצורה סגורה, אבל חסאני מצא פתרון משוער שהיה מספיק טוב לשימוש.

"יש פתרון בצורה סגורה אומר שיש לך משוואה עבורה אתה יכול לחבר את הערכים עבור הפרמטרים שלה ולעשות את החישוב הבסיסי, ותקבל תשובה", אמר רוס. "אתה מקבל תשובה בזריקה אחת," במקום לתת למחשב להתחמק עד שמחליטים שהוא קרוב מספיק. זה מקצץ זמן ואנרגיה חישוביים, ומאיץ את התהליך במידה ניכרת.

"השיטה שלהם מנצחת את המתחרים בכמה סדרי גודל מבלי להקריב את הדיוק", אמר סייאן מיטרה, מדען מחשבים באוניברסיטת אילינוי, אורבנה-שמפיין.

מלבד היותם מהירים יותר, אמר חסאני, הרשתות החדשות ביותר שלהם גם יציבות בצורה יוצאת דופן, כלומר המערכת יכולה להתמודד עם תשומות עצומות מבלי להשתולל. "התרומה העיקרית כאן היא שיציבות ומאפיינים נחמדים אחרים נאפים במערכות הללו על ידי המבנה העצום שלהן", אמר Sriram Sankaranarayanan, מדען מחשבים באוניברסיטת קולורדו, בולדר. נראה שרשתות נוזליות פועלות במה שהוא כינה "הנקודה המתוקה: הן מורכבות מספיק כדי לאפשר לדברים מעניינים לקרות, אבל לא כל כך מורכבות עד שיובילו להתנהגות כאוטית".

כרגע, קבוצת MIT בוחנת את הרשת האחרונה שלהם על רחפן אווירי אוטונומי. למרות שהמל"ט אומן לנווט ביער, הם העבירו אותו לסביבה העירונית של קיימברידג' כדי לראות כיצד הוא מתמודד עם תנאים חדשים. לכנר כינה את התוצאות הראשוניות מעודדות.

מעבר לשכלול המודל הנוכחי, הצוות פועל גם לשיפור ארכיטקטורת הרשת שלהם. השלב הבא, אמר לכנר, "הוא להבין כמה, או כמה, נוירונים אנחנו באמת צריכים כדי לבצע משימה נתונה". הקבוצה גם רוצה לתכנן דרך מיטבית לחיבור נוירונים. נכון לעכשיו, כל נוירון מתקשר לכל נוירון אחר, אבל לא ככה זה עובד ג. אלגנים, שבו חיבורים סינפטיים הם יותר סלקטיביים. באמצעות מחקרים נוספים על מערכת החיווט של התולעת העגולה, הם מקווים לקבוע אילו נוירונים במערכת שלהם צריכים להיות מחוברים זה לזה.

מלבד יישומים כמו נהיגה אוטונומית וטיסה, נראה כי רשתות נוזליות מתאימות היטב לניתוח של רשתות חשמל, עסקאות פיננסיות, מזג אוויר ותופעות אחרות המשתנות לאורך זמן. בנוסף, אמר חסני, ניתן להשתמש בגרסה העדכנית ביותר של רשתות נוזליות "כדי לבצע סימולציות של פעילות מוחית בקנה מידה שלא ניתן למימוש קודם לכן".

מיטרה מסוקרנת במיוחד מהאפשרות הזו. "במובן מסוים, זה סוג של פיוטי, שמראה שהמחקר הזה עשוי להסתובב במעגל", אמר. "רשתות עצביות מתפתחות עד כדי כך שעצם הרעיונות ששאבנו מהטבע עשויים לעזור לנו בקרוב להבין טוב יותר את הטבע."