นักวิจัยค้นพบแนวทางที่ยืดหยุ่นมากขึ้นสำหรับการเรียนรู้ของเครื่อง

นักวิจัยค้นพบแนวทางที่ยืดหยุ่นมากขึ้นสำหรับการเรียนรู้ของเครื่อง

นักวิจัยค้นพบวิธีการที่ยืดหยุ่นมากขึ้นสำหรับ Machine Learning PlatoBlockchain Data Intelligence ค้นหาแนวตั้ง AI.

บทนำ

นักวิจัยด้านปัญญาประดิษฐ์ได้เฉลิมฉลองความสำเร็จกับ เครือข่ายประสาทเทียมโปรแกรมคอมพิวเตอร์ที่เลียนแบบการจัดระเบียบสมองของเราอย่างคร่าวๆ แต่แม้จะมีความก้าวหน้าอย่างรวดเร็ว โครงข่ายประสาทเทียมยังคงค่อนข้างไม่ยืดหยุ่น โดยมีความสามารถเพียงเล็กน้อยในการเปลี่ยนแปลงในทันทีหรือปรับตัวให้เข้ากับสถานการณ์ที่ไม่คุ้นเคย

ในปี 2020 นักวิจัยสองคนจากสถาบันเทคโนโลยีแมสซาชูเซตส์ได้นำทีมที่นำเสนอ เครือข่ายประสาทชนิดใหม่ ขึ้นอยู่กับความฉลาดในชีวิตจริง แต่ไม่ใช่ของเราเอง พวกเขาได้รับแรงบันดาลใจจากพยาธิตัวกลมเล็กๆ Caenorhabditis elegansเพื่อสร้างสิ่งที่พวกเขาเรียกว่าโครงข่ายประสาทเทียมเหลว หลังจากการพัฒนาเมื่อปีที่แล้ว ตอนนี้เครือข่ายใหม่อาจใช้งานได้หลากหลายมากพอที่จะเข้ามาแทนที่เครือข่ายเดิมสำหรับการใช้งานบางประเภท

เครือข่ายประสาทเหลวเสนอ "ทางเลือกที่สวยงามและกะทัดรัด" กล่าว เคน โกลด์เบิร์กนักหุ่นยนต์แห่งมหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์ เขาเสริมว่าการทดลองได้แสดงให้เห็นแล้วว่าเครือข่ายเหล่านี้สามารถทำงานได้เร็วกว่าและแม่นยำกว่าโครงข่ายประสาทเทียมแบบเวลาต่อเนื่องอื่นๆ ซึ่งเป็นแบบจำลองระบบที่แปรผันตามเวลา

รามิน ฮาซานี และ มาติอัส เล็ชเนอร์แรงผลักดันที่อยู่เบื้องหลังการออกแบบใหม่ได้ตระหนักเมื่อหลายปีก่อนว่า C. elegans อาจเป็นสิ่งมีชีวิตในอุดมคติที่จะใช้ในการค้นหาวิธีสร้างเครือข่ายประสาทที่ยืดหยุ่นซึ่งสามารถรองรับความประหลาดใจได้ ตัวป้อนด้านล่างที่ยาวเป็นมิลลิเมตรเป็นหนึ่งในสัตว์ไม่กี่ชนิดที่มีระบบประสาทแบบแมปเอาต์อย่างสมบูรณ์ และมันสามารถแสดงพฤติกรรมขั้นสูงได้หลากหลาย: การเคลื่อนที่ การหาอาหาร การนอนหลับ การผสมพันธุ์ หรือแม้แต่การเรียนรู้จากประสบการณ์ Lechner กล่าวว่า "มันอาศัยอยู่ในโลกแห่งความเป็นจริง ที่ซึ่งการเปลี่ยนแปลงเกิดขึ้นเสมอ และสามารถทำงานได้ดีภายใต้สภาวะต่างๆ ที่เกิดขึ้น" Lechner กล่าว

ความเคารพต่อเวิร์มต่ำต้อยนำเขาและฮาซานีไปสู่เครือข่ายของเหลวใหม่ ซึ่งเซลล์ประสาทแต่ละเซลล์จะถูกควบคุมโดยสมการที่ทำนายพฤติกรรมของมันเมื่อเวลาผ่านไป และเช่นเดียวกับที่เซลล์ประสาทเชื่อมโยงถึงกัน สมการเหล่านี้ขึ้นอยู่กับกันและกัน โดยพื้นฐานแล้วเครือข่ายจะแก้สมการที่เชื่อมโยงกันทั้งชุด ช่วยให้สามารถระบุสถานะของระบบ ณ ช่วงเวลาใดเวลาหนึ่ง ซึ่งแตกต่างจากโครงข่ายประสาทเทียมแบบดั้งเดิม ซึ่งให้ผลลัพธ์เฉพาะในช่วงเวลาใดเวลาหนึ่งเท่านั้น

“[พวกเขา] สามารถบอกคุณได้ว่าเกิดอะไรขึ้นใน 0.53, 2.14 หรือ XNUMX วินาทีเท่านั้น” Lechner กล่าว “แต่แบบจำลองเวลาต่อเนื่องเช่นของเราสามารถอธิบายสิ่งที่เกิดขึ้นที่ XNUMX วินาทีหรือ XNUMX วินาที หรือเวลาใดก็ได้ที่คุณเลือก”

เครือข่ายของเหลวยังแตกต่างกันในวิธีการจัดการกับไซแนปส์ ซึ่งเป็นการเชื่อมต่อระหว่างเซลล์ประสาทเทียม ความแข็งแรงของการเชื่อมต่อเหล่านั้นในโครงข่ายประสาทเทียมมาตรฐานสามารถแสดงได้ด้วยตัวเลขเดียว ซึ่งก็คือน้ำหนักของมัน ในเครือข่ายของเหลว การแลกเปลี่ยนสัญญาณระหว่างเซลล์ประสาทเป็นกระบวนการที่น่าจะเป็นซึ่งควบคุมโดยฟังก์ชัน "ไม่เชิงเส้น" ซึ่งหมายความว่าการตอบสนองต่ออินพุตไม่ได้สัดส่วนเสมอไป ตัวอย่างเช่น การเพิ่มอินพุตเป็นสองเท่าอาจนำไปสู่การเปลี่ยนเอาต์พุตที่ใหญ่ขึ้นหรือเล็กลงมาก ความแปรปรวนในตัวนี้เป็นสาเหตุที่ทำให้เครือข่ายถูกเรียกว่า "ของเหลว" วิธีที่เซลล์ประสาทตอบสนองอาจแตกต่างกันไปขึ้นอยู่กับอินพุตที่ได้รับ

บทนำ

ในขณะที่อัลกอริธึมที่เป็นหัวใจของเครือข่ายแบบดั้งเดิมถูกตั้งค่าระหว่างการฝึกอบรม เมื่อระบบเหล่านี้ถูกป้อนเป็นรีมข้อมูลเพื่อปรับเทียบค่าที่ดีที่สุดสำหรับน้ำหนัก ระบบโครงข่ายประสาทเทียมที่เป็นของเหลวจะสามารถปรับเปลี่ยนได้มากขึ้น "พวกเขาสามารถเปลี่ยนสมการพื้นฐานตามข้อมูลที่สังเกตได้" โดยเฉพาะอย่างยิ่งการเปลี่ยนการตอบสนองของเซลล์ประสาทอย่างรวดเร็ว มาตุภูมิ Danielaผู้อำนวยการห้องปฏิบัติการวิทยาการคอมพิวเตอร์และปัญญาประดิษฐ์ของ MIT

การทดสอบแรกเริ่มเพื่อแสดงความสามารถนี้เกี่ยวข้องกับการพยายามควบคุมรถที่เป็นอิสระ โครงข่ายประสาทเทียมทั่วไปสามารถวิเคราะห์ข้อมูลภาพจากกล้องของรถในช่วงเวลาที่กำหนดเท่านั้น เครือข่ายของเหลวซึ่งประกอบด้วยเซลล์ประสาท 19 เซลล์และซินแนปส์ 253 เซลล์ (ทำให้มีขนาดเล็กลงตามมาตรฐานการเรียนรู้ของเครื่อง) อาจเป็นไปได้ ตอบสนองมากขึ้น. “แบบจำลองของเราสามารถสุ่มตัวอย่างได้บ่อยขึ้น เช่น เมื่อถนนคดเคี้ยว” Rus ผู้เขียนร่วมของบทความนี้และเอกสารอื่นๆ อีกหลายแห่งในเครือข่ายของเหลวกล่าว

แบบจำลองประสบความสำเร็จในการติดตามรถ แต่มีข้อบกพร่องหนึ่งข้อ Lechner กล่าวว่า: "มันช้ามาก" ปัญหาเกิดจากสมการไม่เชิงเส้นที่เป็นตัวแทนของไซแนปส์และเซลล์ประสาท ซึ่งเป็นสมการที่มักจะไม่สามารถแก้ไขได้หากไม่มีการคำนวณซ้ำในคอมพิวเตอร์ ซึ่งต้องผ่านการวนซ้ำหลายครั้งก่อนที่จะบรรจบกันในการแก้ปัญหา โดยทั่วไปงานนี้ได้รับมอบหมายให้เป็นชุดซอฟต์แวร์เฉพาะที่เรียกว่าตัวแก้ปัญหา ซึ่งจะต้องนำไปใช้แยกต่างหากกับทุกไซแนปส์และเซลล์ประสาท

ใน กระดาษปีที่แล้วทีมงานได้เปิดเผยโครงข่ายประสาทเทียมแบบใหม่ที่แก้ปัญหาคอขวดได้ เครือข่ายนี้ใช้สมการประเภทเดียวกัน แต่ความก้าวหน้าที่สำคัญคือการค้นพบโดย Hasani ว่าสมการเหล่านี้ไม่จำเป็นต้องแก้ไขผ่านการคำนวณด้วยคอมพิวเตอร์ที่ลำบาก เครือข่ายสามารถทำงานโดยใช้โซลูชันแบบเกือบแน่นอนหรือ "แบบปิด" ซึ่งโดยหลักการแล้วสามารถแก้ไขได้ด้วยดินสอและกระดาษ โดยทั่วไปแล้ว สมการไม่เชิงเส้นเหล่านี้ไม่มีคำตอบแบบปิด แต่ Hasani เลือกใช้วิธีแก้ปัญหาโดยประมาณที่ดีเพียงพอ

“การมีวิธีแก้ปัญหาแบบปิดหมายความว่าคุณมีสมการที่คุณสามารถแทนค่าสำหรับพารามิเตอร์ของมันและทำการคำนวณทางคณิตศาสตร์พื้นฐาน และคุณจะได้คำตอบ” รัสกล่าว “คุณจะได้คำตอบในช็อตเดียว” แทนที่จะปล่อยให้คอมพิวเตอร์บดขยี้จนตัดสินใจว่ามันใกล้พอ ซึ่งช่วยลดเวลาและพลังงานในการคำนวณ ทำให้กระบวนการเร็วขึ้นอย่างมาก

“วิธีการของพวกเขากำลังเอาชนะคู่แข่งด้วยคำสั่งขนาดต่างๆ โดยไม่สูญเสียความแม่นยำ” กล่าว สายัณห์มิตรานักวิทยาศาสตร์คอมพิวเตอร์แห่งมหาวิทยาลัยอิลลินอยส์ Urbana-Champaign

นอกจากความเร็วที่มากขึ้นแล้ว Hasani ยังกล่าวว่าเครือข่ายใหม่ล่าสุดของพวกเขานั้นมีความเสถียรอย่างผิดปกติอีกด้วย ซึ่งหมายความว่าระบบสามารถจัดการกับอินพุตจำนวนมหาศาลได้โดยไม่ต้องยุ่งเหยิง “ส่วนสนับสนุนหลักที่นี่คือความเสถียรและคุณสมบัติที่ดีอื่นๆ ถูกรวมเข้ากับระบบเหล่านี้ด้วยโครงสร้างที่สูงชัน” กล่าว ศรีราม ศานฆระนารายานันท์นักวิทยาศาสตร์คอมพิวเตอร์แห่งมหาวิทยาลัยโคโลราโด โบลเดอร์ ดูเหมือนว่าเครือข่ายของเหลวจะทำงานในสิ่งที่เขาเรียกว่า “จุดที่น่าสนใจ: พวกมันซับซ้อนพอที่จะให้สิ่งที่น่าสนใจเกิดขึ้น แต่ก็ไม่ซับซ้อนจนนำไปสู่พฤติกรรมที่วุ่นวาย”

ในขณะนี้ กลุ่ม MIT กำลังทดสอบเครือข่ายล่าสุดของพวกเขาบนโดรนทางอากาศแบบอิสระ แม้ว่าโดรนจะได้รับการฝึกฝนให้นำทางในป่า แต่พวกเขาก็ย้ายมันไปยังสภาพแวดล้อมในเมืองของเคมบริดจ์เพื่อดูว่ามันจัดการกับสภาพแปลกใหม่อย่างไร Lechner เรียกผลลัพธ์เบื้องต้นว่าน่ายินดี

นอกเหนือจากการปรับแต่งโมเดลปัจจุบันแล้ว ทีมงานยังทำงานเพื่อปรับปรุงสถาปัตยกรรมของเครือข่ายอีกด้วย ขั้นตอนต่อไป Lechner กล่าวว่า "คือการหาจำนวนเซลล์ประสาทที่เราต้องใช้ในการทำงานที่กำหนด" กลุ่มนี้ยังต้องการสร้างวิธีที่ดีที่สุดในการเชื่อมต่อเซลล์ประสาท ปัจจุบัน เซลล์ประสาททุกเซลล์เชื่อมโยงกับเซลล์ประสาทอื่นๆ ทุกเซลล์ แต่นั่นไม่ใช่วิธีการทำงานของมัน C. elegansโดยที่การเชื่อมต่อแบบซินแนปติกจะเลือกได้มากกว่า จากการศึกษาเพิ่มเติมเกี่ยวกับระบบสายไฟของพยาธิตัวกลม พวกเขาหวังว่าจะสามารถระบุได้ว่าเซลล์ประสาทใดในระบบของพวกมันควรเชื่อมต่อเข้าด้วยกัน

นอกเหนือจากแอปพลิเคชัน เช่น การขับรถอัตโนมัติและการบินแล้ว เครือข่ายของเหลวยังเหมาะกับการวิเคราะห์โครงข่ายพลังงานไฟฟ้า การทำธุรกรรมทางการเงิน สภาพอากาศ และปรากฏการณ์อื่นๆ ที่ผันผวนตลอดเวลา นอกจากนี้ ฮาซานียังกล่าวอีกว่า เครือข่ายของเหลวเวอร์ชันล่าสุดสามารถใช้ "เพื่อทำการจำลองการทำงานของสมองในระดับที่ไม่เคยเกิดขึ้นมาก่อน"

มิตรารู้สึกทึ่งกับความเป็นไปได้นี้เป็นพิเศษ “ในทางหนึ่ง มันเป็นบทกวี ซึ่งแสดงให้เห็นว่าการวิจัยนี้อาจกำลังดำเนินไปอย่างเต็มรูปแบบ” เขากล่าว “โครงข่ายประสาทเทียมกำลังพัฒนาจนถึงจุดที่ความคิดที่เราดึงมาจากธรรมชาติอาจช่วยให้เราเข้าใจธรรมชาติได้ดีขึ้นในไม่ช้า”

ประทับเวลา:

เพิ่มเติมจาก ควอนทามากาซีน