Google'ın süper insan AI yonga düzeni iddiaları tekrar mikroskop altında

Özel rapor Nature'da yayınlanan ve makine öğrenimi yazılımının insanlardan daha hızlı daha iyi çipler tasarlayabileceğini iddia eden Google liderliğindeki bir araştırma makalesi, yeni bir araştırmanın sonuçlarına itiraz etmesinden sonra sorgulandı.

Haziran 2021'de Google, haber başlıkları optimize edilmiş mikroçip kat planlarını otomatik olarak oluşturabilen pekiştirmeli öğrenmeye dayalı bir sistem geliştirmek için. Bu planlar, çip içindeki elektronik devre bloklarının düzenini belirler: CPU ve GPU çekirdekleri ve bellek ve çevresel denetleyiciler gibi şeyler aslında fiziksel silikon kalıbın üzerine oturur.

Google, yapay zeka iş yüklerini hızlandıran kendi geliştirdiği TPU yongalarını tasarlamak için bu yapay zeka yazılımını kullandığını söyledi: diğer makine öğrenimi sistemlerini daha hızlı çalıştırmak için makine öğreniminden yararlanıyordu. 

Bir çipin yer planı önemlidir çünkü işlemcinin ne kadar iyi performans gösterdiğini belirler. Örneğin sinyaller ve veriler bu alanlar arasında arzu edilen bir hızda yayılacak şekilde çip devrelerinin bloklarını dikkatlice düzenlemek isteyeceksiniz. Mühendisler genellikle optimum konfigürasyonu bulmaya çalışırken tasarımlarını geliştirmek için haftalar veya aylar harcarlar. Mümkün olduğu kadar güçlü, enerji açısından verimli ve küçük bir çip üretmek için tüm farklı alt sistemlerin belirli bir şekilde yerleştirilmesi gerekir. 

Günümüzde bir kat planı üretmek, genellikle çip tasarım uygulamalarını kullanan manuel çalışma ve otomasyonun bir karışımını içerir. Google'ın ekibi, pekiştirmeli öğrenme yaklaşımının, endüstri araçlarını kullanan insan mühendisler tarafından yapılan tasarımlardan daha iyi tasarımlar üreteceğini göstermeye çalıştı. Sadece bu da değil, Google, modelinin işini düzenleri yineleyen mühendislerden çok daha hızlı tamamladığını söyledi.

"Elli yıllık araştırmaya rağmen, çipli kat planlaması otomasyona meydan okudu ve fiziksel tasarım mühendislerinin üretilebilir bir düzen oluşturmak için aylarca yoğun çaba göstermesini gerektirdi... Altı saatin altında, yöntemimiz otomatik olarak, tümünde insanlar tarafından üretilenlerden daha üstün veya karşılaştırılabilir olan çipli kat planları üretir. temel metrikler,” Google çalışanları yazdı Doğa gazetelerinde.

Araştırma, halihazırda makine öğrenimi algoritmalarını yazılım paketlerine dahil etmeye doğru ilerleyen elektronik tasarım otomasyon topluluğunun dikkatini çekti. Şimdi Google'ın insanlardan daha iyi model iddiasına San Diego'daki California Üniversitesi'nden (UCSD) bir ekip meydan okudu.

Haksız avantaj mı?

Bir bilgisayar bilimi ve mühendisliği profesörü olan Andrew Kahng liderliğindeki bu grup, Google'ın Nature'da tanımladığı yer planlama boru hattını tersine mühendislikle aylarca harcadı. Web devi, ticari duyarlılığı gerekçe göstererek modelinin iç işleyişine ilişkin bazı ayrıntıları sakladı, bu nedenle UCSD, Google çalışanlarının bulgularını doğrulamak için kendi eksiksiz sürümünü nasıl oluşturacağını bulmak zorunda kaldı. Prof Kahng'ın, Google'ın makalesinin hakem değerlendirmesi sürecinde Nature için eleştirmen olarak görev yaptığını not ediyoruz.

Üniversite akademisyenleri, nihayetinde, devre eğitimi (CT) olarak adlandırılan, orijinal Google kodunun kendi rekreasyonlarını buldular. onların çalışması, aslında geleneksel endüstri yöntemlerini ve araçlarını kullanan insanlardan daha kötü performans gösterdi.

Bu tutarsızlığa ne sebep olmuş olabilir? Başka bir açıklama olsa da, rekreasyonun eksik olduğu söylenebilir. Zamanla UCSD ekibi, Google'ın çipin mantık kapılarının başlangıç ​​düzenlemesini oluşturmak için elektronik tasarım otomasyonu (EDA) paketlerinin önde gelen üreticilerinden biri olan Synopsys tarafından geliştirilen ticari yazılımı kullandığını ve ardından web devinin takviyeli öğrenme sisteminin optimize ettiğini öğrendi.

Deneyler, ilk yerleştirme bilgilerine sahip olmanın CT sonuçlarını önemli ölçüde iyileştirebileceğini göstermektedir.

Google makalesi, endüstri standardı yazılım araçlarının ve manuel ayarlamanın kullanıldığından bahsetmişti. sonra model, öncelikle işlemcinin amaçlandığı gibi çalışmasını sağlamak ve onu fabrikasyon için sonlandırmak için bir düzen oluşturmuştu. Google çalışanları, yer planının bir makine öğrenimi algoritması tarafından mı yoksa insanlar tarafından standart araçlarla mı oluşturulduğuna bakılmaksızın bunun gerekli bir adım olduğunu ve bu nedenle modelinin optimize edilmiş son ürün için övgüyü hak ettiğini savundu.

Ancak UCSD ekibi, Nature raporunda EDA araçlarının kullanılmasından söz edilmediğini söyledi. önceden modelin yinelenmesi için bir düzen hazırlamak. Bu Synopsys araçlarının, modele yapay zeka sisteminin gerçek yeteneklerinin sorgulanması için yeterince iyi bir başlangıç ​​yapmış olabileceği iddia ediliyor.

Üniversite ekibi, model için bir düzen hazırlamak üzere Synopsys paketinin kullanılması hakkında "Bu, makale incelemesi sırasında belirgin değildi" ve Nature'da bahsedilmiyor. Deneyler, ilk yerleştirme bilgilerine sahip olmanın CT sonuçlarını önemli ölçüde iyileştirebileceğini gösteriyor."

Nature, Google'ın araştırmasını araştırıyor

O zamandan beri bazı akademisyenler, Nature'ı Google'ın makalesini UCSD'nin çalışması ışığında incelemeye çağırdı. Görüntülediği dergiye gönderilen e-postalarda Kayıt, araştırmacılar Prof Kahng ve meslektaşları tarafından dile getirilen endişelerin altını çizdi ve Google'ın makalesinin yanıltıcı olup olmadığını sorguladı.

Dallas'taki Texas Üniversitesi'nde elektrik mühendisliği öğreten kıdemli bir öğretim görevlisi olan Bill Swartz, sonuçların internet titanının özel TPU'larını içerdiği ve bu nedenle doğrulamanın imkansız olduğu için Nature gazetesinin "birçok [araştırmacıyı] karanlıkta bıraktığını" söyledi.

Synopsys'in yazılımının Google'ın yazılımını hazırlamak için kullanılmasının araştırılması gerektiğini söyledi. "Hepimiz sadece gerçek algoritmayı bilmek istiyoruz, böylece onu yeniden üretebiliriz. [Google'ın] iddiaları doğruysa, onu uygulamak istiyoruz. Bilim olmalı, hepsi nesnel olmalı; Çalışırsa çalışır” dedi.

doğa anlattı Kayıt tam olarak neyi ve neden araştırdığını söylemese de Google'ın makalesine bakıyor.

Nature'ın bir sözcüsü bize "Gizlilik nedeniyle bireysel vakaların ayrıntıları hakkında yorum yapamayız" dedi. "Ancak, genel olarak konuşursak, dergide yayınlanan herhangi bir makale hakkında endişeler dile getirildiğinde, yerleşik bir süreci izleyerek bunları dikkatlice inceliyoruz.

“Bu süreç, yazarlarla istişareyi ve uygun olduğunda, hakemlerden ve diğer dış uzmanlardan tavsiye almayı içerir. Bir karar vermek için yeterli bilgiye sahip olduğumuzda, en uygun olan ve okuyucularımız için sonuçla ilgili netlik sağlayan yanıtı takip ediyoruz.”

Bu, derginin yeni bir incelemeyle karşı karşıya olan çalışmaya ilişkin bir yayın sonrası araştırması yaptığı ilk sefer değil. Google çalışanlarının makalesi, Mart 2022'de eklenen bir yazar düzeltmesiyle çevrimiçi kaldı. Link çalışmanın yöntemlerini izlemeye çalışanlar için Google'ın bazı açık kaynaklı CT kodlarına.

Ön eğitim yok ve yeterli bilgi işlem yok mu?

Google'ın makalesinin baş yazarları Azalia Mirhoseini ve Anna Goldie, UCSD ekibinin çalışmalarının, yöntemlerinin doğru bir şekilde uygulanması olmadığını söyledi. Profesör Kahng'ın grubunun, modellerini herhangi bir veri üzerinde önceden eğitmedikleri için daha kötü sonuçlar elde ettiğine dikkat çektiler.

“Öğrenmeye dayalı bir yöntem, önceki deneyimlerden ders almasına izin verilmezse elbette daha kötü performans gösterecektir. Nature makalemizde, uzatılan test durumlarını değerlendirmeden önce 20 blok üzerinde ön eğitim yapıyoruz" dedi.PDF].

Prof Kahng'ın ekibi ayrıca sistemlerini Google'ın kullandığı kadar bilgi işlem gücü kullanarak eğitmedi ve bu adımın düzgün bir şekilde gerçekleştirilmemiş olabileceğini ve modelin performansını sekteye uğrattığını öne sürdü. Mirhoseini ve Goldie ayrıca, Nature makalelerinde açıkça anlatılmayan EDA uygulamalarını kullanan ön işleme adımının bahsedecek kadar önemli olmadığını da söylediler. 

"[UCSD] makalesi, fiziksel sentezden standart hücrelerin kümelenmesi için ilk yerleşimin kullanımına odaklanıyor, ancak bu pratik bir endişe kaynağı değil. Herhangi bir yerleştirme yöntemini çalıştırmadan önce fiziksel sentez yapılmalıdır” dediler. "Bu, çip tasarımında standart bir uygulamadır."

Ancak UCSD grubu, şuraya Google'a özel verilere erişimleri olmadığı için modellerini önceden eğitmediler. Ancak yazılımlarının, aynı zamanda Nature makalesinin ortak yazarları olarak listelenen internet devinin diğer iki mühendisi tarafından doğrulandığını iddia ettiler. Prof Kahng, ekibinin çalışmasını bu yılki Uluslararası Fiziksel Tasarım Sempozyumunda sunuyor konferans Salı.

Bu arada Google, veri merkezlerinde aktif olarak kullanılan TPU'larını geliştirmek için pekiştirmeli öğrenmeye dayalı teknikler kullanmaya devam ediyor.

Kovulan Google çalışanı, araştırmanın kazançlı bir bulut anlaşması için abartıldığını iddia ediyor

Ayrı olarak, Google'ın Nature gazetesinin insanüstü performans iddiaları internet devleri içinde de tartışıldı. Geçen yılın mayıs ayında yapay zeka araştırmacısı Satrajit Chatterjee, Google'dan bir gerekçeyle kovuldu; Nature çalışmasını eleştirdiği ve gazetenin bulgularına itiraz ettiği için serbest bırakıldığını iddia etti. Chatterjee'ye ayrıca Google'ın ilk çalışmayı eleştiren makalesini yayınlamayacağı söylendi.

Kendisi aynı zamanda diğer Google çalışanları tarafından eleştirisinde çok ileri gitmekle (örneğin işi sözlü olarak "tren kazası" ve "lastik yangını" olarak tanımlamak gibi) suçlandı ve iddia edilen davranışı nedeniyle İK soruşturmasına tabi tutuldu.

Chatterjee o zamandan beri Google'a, haksız fesih iddiasıyla Santa Clara'daki Kaliforniya Yüksek Mahkemesi'nde dava açtı. Chatterjee bu hikaye hakkında yorum yapmayı reddetti ve yanlış bir şey yaptığını da reddetti. Mirhoseini ve Goldie, Chatterjee'nin görevden alınmasının ardından 2022 ortasında Google'dan ayrıldı.

Google'a karşı yaptığı şikayette, tadil edilmiş [PDF] geçen ay, Chatterjee'nin avukatları, web devinin, o sırada S ile bildirildiğine göre 120 milyon dolar değerinde bir Google Cloud anlaşmasını müzakere ederken, yapay zeka tabanlı yer planı oluşturma yazılımını "S Şirketi" ile ticarileştirmeyi düşündüğünü iddia etti. Chatterjee, Google'ın S Şirketini bu önemli ticari anlaşmaya katılmaya ikna etmeye yardımcı olmak için yer planı belgesini savunduğunu iddia etti.

"Çalışma kısmen [Şirket S] ile potansiyel ticarileştirmeye yönelik ilk adım olarak yapıldı (ve [Şirket S] kaynaklarıyla yürütüldü). Büyük bir potansiyel Bulut anlaşması bağlamında yapıldığından, testlerimiz aksini gösterdiğinde devrim niteliğinde bir teknolojiye sahip olduğumuzu ima etmek etik olmazdı," diye yazdı Chatterjee, Google'ın CEO'su Sundar Pichai, Başkan Yardımcısı ve Mühendislik Üyesi Jay'e bir e-postada Yagnik ve dava kapsamında ifşa edilen Google Araştırması Rahul Sukthankar'ın yardımcısı.

Mahkeme kayıtları, Google'ı çalışmasının sonuçlarını "abartmakla" ve "Şirketi bir bulut bilgi işlem anlaşması imzalamaya teşvik etmek için S Şirketinden maddi bilgileri kasten saklamakla", şüpheli teknoloji olarak gördüğü teknolojiyi kullanarak diğer işletmeyi etkili bir şekilde etkilemekle suçladı.

S Şirketi, mahkeme belgelerinde “elektronik tasarım otomasyon şirketi” olarak tanımlanıyor. Konuyu bilenler anlattı Kayıt Şirket S, Synopsys'dir.

Synopsys ve Google yorum yapmaktan kaçındı. ®

Yapay zeka dünyasının içinde paylaşmak istediğiniz bir hikaye var mı? Bizimle konuş güvenle.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• Plato blok zinciri. Web3 Metaverse Zekası. Bilgi Güçlendirildi. Buradan Erişin.
• Kaynak: https://go.theregister.com/feed/www.theregister.com/2023/03/27/google_ai_chip_paper_nature/