Araştırmacılar Makine Öğrenimine Daha Esnek Bir Yaklaşım Keşfediyor

Yapay zeka araştırmacıları, bir dizi başarıyı nöral ağlar, beynimizin nasıl organize edildiğini kabaca taklit eden bilgisayar programları. Ancak hızlı ilerlemeye rağmen, sinir ağları nispeten esnek değil ve anında değişme veya alışılmadık koşullara uyum sağlama yeteneği çok az.

2020'de Massachusetts Institute of Technology'den iki araştırmacı, tanıtılan bir ekibe liderlik etti. yeni bir tür sinir ağı gerçek hayattaki zekaya dayalı - ama bizim değil. Bunun yerine minik yuvarlak solucandan ilham aldılar, Caenorhabditis elegans, sıvı sinir ağları dedikleri şeyi üretmek için. Geçen yılki bir atılımdan sonra, yeni ağlar artık belirli uygulamalar için geleneksel muadillerinin yerini alacak kadar çok yönlü olabilir.

Sıvı sinir ağları "zarif ve kompakt bir alternatif" sunuyor Ken Goldberg, California Üniversitesi, Berkeley'de bir robot uzmanı. Deneylerin, bu ağların zamanla değişen sistemleri modelleyen diğer sözde sürekli zamanlı sinir ağlarından daha hızlı ve daha doğru çalışabileceğini gösterdiğini ekledi.

Ramin Hasani ve Mathias Lechner, yeni tasarımın arkasındaki itici güçler, yıllar önce fark etti ki C. elegans Sürprizlere uyum sağlayabilecek esnek sinir ağlarının nasıl yapılacağını bulmak için ideal bir organizma olabilir. Milimetre uzunluğundaki dipten besleyici, tam olarak belirlenmiş bir sinir sistemine sahip birkaç yaratıktan biridir ve bir dizi gelişmiş davranış yeteneğine sahiptir: hareket etme, yiyecek bulma, uyuma, çiftleşme ve hatta deneyimlerinden öğrenme. Lechner, "Değişimin her zaman olduğu gerçek dünyada yaşıyor ve kendisine atılan hemen hemen her koşulda iyi performans gösterebiliyor" dedi.

Alçak solucana saygı, onu ve Hasani'yi, her nöronun zaman içindeki davranışını tahmin eden bir denklem tarafından yönetildiği yeni sıvı ağlarına götürdü. Ve tıpkı nöronların birbirine bağlı olması gibi, bu denklemler de birbirine bağlıdır. Ağ, esasen tüm bu bağlantılı denklemler topluluğunu çözerek, sistemin herhangi bir andaki durumunu karakterize etmesine izin verir - sonuçları yalnızca belirli anlarda veren geleneksel sinir ağlarından bir sapma.

Lechner, "[Onlar] size yalnızca bir, iki veya üç saniyede neler olduğunu söyleyebilirler," dedi. "Ancak bizimki gibi sürekli zamanlı bir model, 0.53 saniyede veya 2.14 saniyede ya da istediğiniz herhangi bir zamanda neler olup bittiğini açıklayabilir."

Sıvı ağlar, yapay nöronlar arasındaki bağlantılar olan sinapsları nasıl ele aldıkları konusunda da farklılık gösterir. Standart bir sinir ağındaki bu bağlantıların gücü, ağırlığı olan tek bir sayı ile ifade edilebilir. Sıvı ağlarda, nöronlar arasındaki sinyal alışverişi, "doğrusal olmayan" bir fonksiyon tarafından yönetilen olasılıksal bir süreçtir, yani girdilere verilen tepkiler her zaman orantılı değildir. Örneğin girdinin ikiye katlanması, çıktıda çok daha büyük veya daha küçük bir kaymaya yol açabilir. Bu yerleşik değişkenlik, ağların "sıvı" olarak adlandırılmasının nedenidir. Bir nöronun tepki verme şekli, aldığı girdiye bağlı olarak değişebilir.

Geleneksel ağların kalbindeki algoritmalar eğitim sırasında belirlenirken, bu sistemler ağırlıkları için en iyi değerleri kalibre etmek üzere veri yığınları ile beslendiğinde, sıvı sinir ağları daha uyumlu hale gelir. "Gözlemledikleri girdiye dayalı olarak temel denklemlerini değiştirebiliyorlar", özellikle nöronların tepki verme hızını değiştirerek, dedi. Daniela RusMIT'nin Bilgisayar Bilimi ve Yapay Zeka Laboratuvarı direktörü.

Bu yeteneği sergilemek için erken bir test, otonom bir arabayı yönlendirmeye çalışmayı içeriyordu. Geleneksel bir sinir ağı, yalnızca arabanın kamerasından gelen görsel verileri sabit aralıklarla analiz edebilir. 19 nöron ve 253 sinapstan oluşan sıvı ağ (makine öğrenimi standartlarına göre çok küçük) çok daha duyarlı. Bunun ve sıvı ağlarla ilgili diğer birçok makalenin ortak yazarlarından biri olan Rus, "Modelimiz, örneğin yol virajlı olduğunda daha sık örnekleme yapabilir" dedi.

Model arabayı başarılı bir şekilde yolunda tuttu, ancak bir kusuru vardı, Lechner şunları söyledi: "Gerçekten yavaştı." Sorun, sinapsları ve nöronları temsil eden doğrusal olmayan denklemlerden kaynaklanıyordu - genellikle bir bilgisayarda tekrarlanan hesaplamalar olmadan çözülemeyen ve sonunda bir çözüme ulaşmadan önce birden çok yinelemeden geçen denklemler. Bu iş tipik olarak, her sinaps ve nörona ayrı ayrı uygulanması gereken çözücüler adı verilen özel yazılım paketlerine devredilir.

İçinde kağıt geçen yıl, ekip bu darboğazı aşan yeni bir sıvı sinir ağı ortaya çıkardı. Bu ağ aynı tür denklemlere dayanıyordu, ancak asıl gelişme, Hasani'nin bu denklemlerin zorlu bilgisayar hesaplamaları yoluyla çözülmesine gerek olmadığını keşfetmesiydi. Bunun yerine ağ, prensip olarak kalem ve kağıtla çözülebilecek neredeyse kesin veya "kapalı biçim" bir çözüm kullanarak çalışabilir. Tipik olarak, bu doğrusal olmayan denklemlerin kapalı form çözümleri yoktur, ancak Hasani, kullanılabilecek kadar iyi olan yaklaşık bir çözüm buldu.

Rus, "Kapalı formda bir çözüme sahip olmak, parametrelerinin değerlerini girebileceğiniz ve temel matematiği yapabileceğiniz bir denkleminiz olduğu anlamına gelir," dedi Rus. Bir bilgisayarın yeterince yakın olduğuna karar verene kadar çalışmasına izin vermek yerine, "Tek seferde yanıt alırsınız". Bu, hesaplama süresini ve enerjisini azaltarak süreci önemli ölçüde hızlandırır.

"Onların yöntemi, doğruluktan ödün vermeden rekabeti birkaç büyüklük sırasına göre yenmektir" dedi. sayan mitra, Urbana-Champaign, Illinois Üniversitesi'nde bir bilgisayar bilimcisi.

Hasani, daha hızlı olmanın yanı sıra, en yeni ağlarının da alışılmadık derecede kararlı olduğunu, yani sistemin çok büyük girdileri kontrolden çıkmadan işleyebileceğini söyledi. "Buradaki ana katkı, kararlılık ve diğer güzel özelliklerin bu sistemlerin saf yapıları tarafından pişirilmesidir" dedi. Sriram SankaranarayananBoulder, Colorado Üniversitesi'nde bir bilgisayar bilimcisi. Sıvı ağlar, "tatlı nokta" olarak adlandırdığı yerde çalışıyor gibi görünüyor: İlginç şeylerin olmasına izin verecek kadar karmaşıklar, ancak kaotik davranışlara yol açacak kadar karmaşık değiller.

Şu anda, MIT grubu en son ağlarını otonom bir hava uçağı üzerinde test ediyor. Drone, bir ormanda gezinmek için eğitilmiş olsa da, yeni koşulları nasıl ele aldığını görmek için onu Cambridge'in kentsel ortamına taşıdılar. Lechner ön sonuçları cesaret verici olarak nitelendirdi.

Ekip, mevcut modeli iyileştirmenin ötesinde, ağ mimarisini iyileştirmek için de çalışıyor. Lechner, bir sonraki adımın, "belirli bir görevi yerine getirmek için gerçekte kaç veya kaç nörona ihtiyacımız olduğunu bulmak" olduğunu söyledi. Grup ayrıca nöronları bağlamanın en uygun yolunu tasarlamak istiyor. Şu anda, her nöron diğer tüm nöronlarla bağlantılıdır, ancak bu şekilde çalışmaz. C. elegans, burada sinaptik bağlantılar daha seçicidir. Yuvarlak solucanın kablolama sistemi üzerinde daha fazla araştırma yaparak, sistemlerindeki hangi nöronların birbirine bağlanması gerektiğini belirlemeyi umuyorlar.

Otonom sürüş ve uçuş gibi uygulamaların yanı sıra sıvı ağlar, elektrik şebekelerinin, finansal işlemlerin, hava durumunun ve zamanla dalgalanan diğer olayların analizi için çok uygun görünmektedir. Ayrıca Hasani, sıvı ağların en son sürümünün "daha önce gerçekleştirilemeyen bir ölçekte beyin etkinliği simülasyonları gerçekleştirmek için" kullanılabileceğini söyledi.

Mitra'nın bu olasılığı özellikle ilgisini çeker. "Bir bakıma, bu araştırmanın tam bir daire çizebileceğini gösteren şiirsel bir şey" dedi. "Sinir ağları, doğadan aldığımız fikirlerin çok yakında doğayı daha iyi anlamamıza yardımcı olabileceği noktaya kadar gelişiyor."