AlphaTensor, satranç, Go ve shogi gibi masa oyunlarında insanüstü performans sergileyen bir ajan olan AlphaZero'yu temel alıyor ve bu çalışma, AlphaZero'nun oyun oynamaktan ilk kez çözülmemiş matematiksel problemlerin üstesinden gelmeye kadar olan yolculuğunu gösteriyor.
Eski Mısırlılar, çarpım tablosu gerektirmeden iki sayıyı çarpmak için bir algoritma oluşturdular ve Yunan matematikçi Euclid, bugün hala kullanılmakta olan en büyük ortak böleni hesaplamak için bir algoritma tanımladı.
İslami Altın Çağ boyunca, İranlı matematikçi Muhammed ibn Musa el-Khwarizmi, doğrusal ve ikinci dereceden denklemleri çözmek için yeni algoritmalar tasarladı. Aslında, Algoritmi olarak Latince'ye çevrilen el-Harezmi'nin adı algoritma terimine yol açtı. Ancak, sınıf cebirinden en son bilimsel araştırmalara kadar toplumda kullanılan algoritmalara günümüzde aşina olunmasına rağmen, yeni algoritmaları keşfetme süreci inanılmaz derecede zordur ve insan zihninin inanılmaz akıl yürütme yeteneklerinin bir örneğidir.
Nature'da yayınladılar. AlphaTensor, matris çarpımı gibi temel görevler için yeni, verimli ve kanıtlanabilir şekilde doğru algoritmaları keşfetmeye yönelik ilk yapay zeka (AI) sistemidir. Bu, iki matrisi çarpmanın en hızlı yolunu bulma konusunda matematikte 50 yıllık bir açık soruya ışık tutuyor.
Sıfırdan eğitilen AlphaTensor, mevcut insan ve bilgisayar tasarımlı algoritmalardan daha verimli olan matris çarpma algoritmalarını keşfeder. Bilinen algoritmaları geliştirmesine rağmen, AlphaTensor'un bir sınırlamasının, arama alanını ayrıklaştıran ancak muhtemelen verimli algoritmaların kaçırılmasına yol açabilecek bir dizi potansiyel faktör girişi F'yi önceden tanımlama ihtiyacı olduğunu belirtiyorlar. Gelecekteki araştırmalar için ilginç bir yön, AlphaTensor'u F'yi aramaya uyarlamaktır. AlphaTensor'ün önemli bir gücü, algoritma bulmanın yanı sıra karmaşık stokastik ve türevlenemez ödülleri (tensör düzeyinden belirli donanımda pratik verimliliğe kadar) destekleme esnekliğidir. çok çeşitli alanlarda (sonlu alanlar gibi) özel işlemler için. Bunun AlphaTensor uygulamalarını, sayısal kararlılık veya enerji kullanımı gibi burada dikkate almadığımız ölçümleri optimize eden algoritmalar tasarlamaya teşvik edeceğine inanıyorlar.
Matris çarpımı, matris ters çevirme, determinantı hesaplama ve doğrusal sistemleri çözme gibi birçok hesaplama görevinin merkezinde yer aldığından, matris çarpma algoritmalarının keşfinin geniş kapsamlı etkileri vardır.
Algoritmik keşfi otomatikleştirme süreci ve ilerlemesi
İlk olarak, matris çarpımı için verimli algoritmalar bulma problemini tek oyunculu bir oyuna dönüştürdüler. Bu oyunda, tahta, mevcut algoritmanın doğru olmaktan ne kadar uzak olduğunu yakalayan üç boyutlu bir tensördür (sayı dizisi). Algoritma talimatlarına karşılık gelen bir dizi izin verilen hareket yoluyla, oyuncu tensörü değiştirmeye ve girişlerini sıfırlamaya çalışır. Oyuncu bunu başardığında, bu, herhangi bir matris çifti için kanıtlanabilir şekilde doğru bir matris çarpma algoritması ile sonuçlanır ve verimliliği, tensörü sıfırlamak için atılan adım sayısı ile yakalanır.
Bu oyun inanılmaz derecede zorlayıcıdır - küçük matris çarpımı durumları için bile dikkate alınması gereken olası algoritmaların sayısı evrendeki atomların sayısından çok daha fazladır. Onlarca yıldır AI için bir zorluk olarak kalan Go oyunuyla karşılaştırıldığında, oyunlarının her adımındaki olası hamle sayısı 30 kat daha fazla (göz önünde bulundurdukları ayarlardan biri için 10^33'ün üzerinde).
Esasen, bu oyunu iyi oynamak için, devasa bir olasılık samanlığındaki en küçük iğneleri tespit etmek gerekir. Geleneksel oyunlardan önemli ölçüde ayrılan bu alanın zorluklarının üstesinden gelmek için, probleme özel endüktif önyargıları içeren yeni bir sinir ağı mimarisi, kullanışlı sentetik veriler üretmek için bir prosedür ve simetrilerinden yararlanmak için bir reçete dahil olmak üzere çok sayıda önemli bileşen geliştirdik. sorun.
Daha sonra, mevcut matris çarpma algoritmaları hakkında herhangi bir bilgi olmadan başlayarak, oyunu oynamak için pekiştirmeli öğrenmeyi kullanarak bir AlphaTensor aracısını eğittiler. AlphaTensor, öğrenme yoluyla zamanla kademeli olarak iyileşir, Strassen'inki gibi tarihsel hızlı matris çarpma algoritmalarını yeniden keşfeder, sonunda insan sezgisi alanını aşar ve algoritmaları önceden bilinenden daha hızlı keşfeder.
Gelecekteki araştırma ve uygulamalar üzerindeki etkinin araştırılması
Matematiksel bir bakış açısından, sonuçları, hesaplama problemlerini çözmek için en hızlı algoritmaları belirlemeyi amaçlayan karmaşıklık teorisindeki daha fazla araştırmaya rehberlik edebilir. AlphaTensor, olası algoritmaların alanını önceki yaklaşımlardan daha etkili bir şekilde keşfederek, matris çarpma algoritmalarının zenginliğini anlamamıza yardımcı olur. Bu alanı anlamak, bilgisayar bilimindeki en temel açık problemlerden biri olan matris çarpımının asimptotik karmaşıklığını belirlemeye yardımcı olacak yeni sonuçların kilidini açabilir.
Matris çarpımı, bilgisayar grafiklerini, dijital iletişimi, sinir ağı eğitimini ve bilimsel hesaplamayı kapsayan birçok hesaplama görevinde temel bir bileşen olduğundan, AlphaTensor tarafından keşfedilen algoritmalar bu alanlarda hesaplamaları önemli ölçüde daha verimli hale getirebilir. AlphaTensor'un her türlü hedefi dikkate alma esnekliği, enerji kullanımı ve sayısal kararlılık gibi ölçümleri optimize eden algoritmalar tasarlamak için yeni uygulamaları teşvik edebilir ve bir algoritma çalışırken kartopu gibi küçük yuvarlama hatalarının önlenmesine yardımcı olabilir.
Burada belirli bir matris çarpımı sorununa odaklanırken, makalemizin diğer temel hesaplama görevleri için algoritmik keşiflere rehberlik etmesi için diğerlerine AI kullanma konusunda ilham vereceğini umuyoruz. Araştırmaları ayrıca AlphaZero'nun matematikteki açık problemleri çözmeye yardımcı olmak için geleneksel oyunların alanının çok ötesine genişletilebilen güçlü bir algoritma olduğunu gösteriyor. Araştırmamıza dayanarak, daha büyük bir çalışma grubunu teşvik etmeyi umuyorlar - toplumun matematikteki ve bilimlerdeki en önemli zorluklardan bazılarını çözmesine yardımcı olmak için AI'yı uyguluyorlar.
Doğa – Takviyeli öğrenme ile daha hızlı matris çarpma algoritmalarını keşfetme
Özet
Temel hesaplamalar için algoritmaların verimliliğini artırmak, büyük miktarda hesaplamanın genel hızını etkileyebileceğinden, yaygın bir etkiye sahip olabilir. Matris çarpımı, sinir ağlarından bilimsel hesaplama rutinlerine kadar birçok sistemde meydana gelen böyle ilkel bir görevdir. Makine öğrenimini kullanan algoritmaların otomatik keşfi, insan sezgisinin ötesine geçme ve mevcut en iyi insan tasarımlı algoritmalardan daha iyi performans gösterme olasılığını sunar. Bununla birlikte, olası algoritmaların alanı çok büyük olduğundan, algoritma keşif prosedürünü otomatikleştirmek karmaşıktır. Burada, rastgele matrislerin çarpımı için verimli ve kanıtlanabilir şekilde doğru algoritmaları keşfetmek için AlphaZero1'e dayalı bir derin pekiştirmeli öğrenme yaklaşımını rapor ediyoruz. Aracımız AlphaTensor, amacın sonlu bir faktör uzayında tensör ayrıştırmalarını bulmak olduğu tek oyunculu bir oyun oynamak üzere eğitilmiştir. AlphaTensor, birçok matris boyutu için en gelişmiş karmaşıklığı geride bırakan algoritmalar keşfetti. AlphaTensor'ün algoritmasının, 4 yıl önce keşfinden bu yana, Strassen'in iki seviyeli algoritmasını ilk kez geliştirdiğini gösteren sonlu bir alandaki 4 × 50 matris durumu özellikle önemlidir2. AlphaTensor'un esnekliğini farklı kullanım durumları aracılığıyla daha da sergiliyoruz: yapılandırılmış matris çarpımı için son teknoloji karmaşıklığa sahip algoritmalar ve belirli donanımlarda çalışma zamanı için matris çarpımını optimize ederek geliştirilmiş pratik verimlilik. Sonuçlarımız, AlphaTensor'un bir dizi problem üzerinde algoritmik keşif sürecini hızlandırma ve farklı kriterler için optimize etme yeteneğini vurgulamaktadır.
Brian Wang, Fütürist Düşünce Lideri ve ayda 1 milyon okuyucusu olan popüler bir Bilim blog yazarıdır. Blogu Nextbigfuture.com, Science News Blog'da 1. sırada yer alıyor. Uzay, Robotik, Yapay Zeka, Tıp, Yaşlanma Karşıtı Biyoteknoloji ve Nanoteknoloji dahil olmak üzere birçok yıkıcı teknoloji ve trendi kapsar.
En son teknolojileri tanımlamasıyla tanınan, şu anda yüksek potansiyele sahip erken aşamadaki şirketler için bir başlangıç ve bağış toplama kuruluşunun Kurucu Ortağıdır. Derin teknoloji yatırımları için Tahsis Araştırma Başkanı ve Space Angels'ta Melek Yatırımcıdır.
Şirketlerde sık sık konuşmacı olarak, TEDx konuşmacısı, Singularity Üniversitesi konuşmacısı ve radyo ve podcast'ler için çok sayıda röportajda konuk olmuştur. Topluluk önünde konuşma ve danışmanlık görüşmelerine açıktır.
