A Google azt állítja, hogy az emberfeletti mesterséges intelligencia chip-elrendezése vissza a mikroszkóp alá

Különleges jelentés Megkérdőjelezték azt a Google által vezetett, a Nature-ben megjelent kutatási cikket, amely szerint a gépi tanulási szoftverek gyorsabban tudnak jobb chipeket tervezni, mint az emberek, miután egy új tanulmány vitatta eredményeit.

2021 júniusában a Google elkészítette szalagcímek optimalizált mikrochip alaprajzok automatikus generálására képes, megerősítésen alapuló tanuláson alapuló rendszer kifejlesztésére. Ezek a tervek határozzák meg az elektronikus áramkörök blokkjainak elrendezését a chipen belül: ahol olyan dolgok, mint a CPU és a GPU magok, valamint a memória és a perifériavezérlők ténylegesen a fizikai szilíciumon helyezkednek el.

A Google azt mondta, hogy ezzel az AI-szoftverrel tervezte meg saját gyártású TPU-chipjeit, amelyek felgyorsítják az AI munkaterhelését: gépi tanulást alkalmaz, hogy más gépi tanulási rendszerei gyorsabban működjenek. 

A chip alaprajza azért fontos, mert ez határozza meg a processzor teljesítményét. Érdemes körültekintően elrendezni a chip áramköreinek blokkjait, hogy például a jelek és az adatok ezek között a területek között a kívánt sebességgel terjedjenek. A mérnökök általában heteket vagy hónapokat töltenek a tervezés finomításával, hogy megtalálják az optimális konfigurációt. Az összes különböző alrendszert meghatározott módon kell elhelyezni, hogy a chip a lehető legerősebb, energiahatékonyabb és legkisebb legyen. 

Az alaprajzok készítése manapság általában kézi munka és chiptervező alkalmazások segítségével történő automatizálás keverékét foglalja magában. A Google csapata arra törekedett, hogy bebizonyítsa, hogy megerősítő-tanulási megközelítése jobb terveket hoz létre, mint azok, amelyeket csak emberi mérnökök készítettek ipari eszközökkel. A Google nem csak azt mondta, hogy a modellje sokkal gyorsabban végezte el a munkáját, mint a mérnökök, akik az elrendezéseket iterálták.

„Az öt évtizedes kutatás ellenére a chip alaprajz dacolt az automatizálással, és több hónapos intenzív erőfeszítést igényel a fizikai tervezőmérnököktől ahhoz, hogy legyártható elrendezést hozzanak létre… Módszerünk kevesebb mint hat óra leforgása alatt automatikusan generál olyan chip alaprajzokat, amelyek minden tekintetben jobbak vagy összehasonlíthatók az emberek által készített alaprajzokkal. kulcsfontosságú mérőszámok” – a Google munkatársai írt a Nature című lapjukban.

A kutatás felkeltette az elektronikai tervezés automatizálási közösségének figyelmét, amely már a gépi tanulási algoritmusok szoftvercsomagjaiba való beépítése felé haladt. A Google embernél jobb modelljére vonatkozó állításait a San Diego-i Kaliforniai Egyetem (UCSD) csapata megkérdőjelezte.

Tisztességtelen előny?

Andrew Kahng számítástechnikai és mérnöki professzor vezetésével a csoport hónapokig fordította a Google által a Nature-ben leírt padlótervezési folyamatot. A webóriás kereskedelmi érzékenységre hivatkozva elhallgatott néhány részletet modellje belső működéséről, így az UCSD-nek ki kellett találnia, hogyan készítse el saját teljes verzióját, hogy ellenőrizhesse a Google-alkalmazottak megállapításait. Megjegyezzük, Kahng professzor a Nature lektoraként szolgált a Google dolgozatának szakértői értékelési folyamata során.

Az egyetemi akadémikusok végül megtalálták az eredeti Google kódot, amelyet körképzésnek (CT) neveztek. a tanulmányuk, valójában rosszabbul teljesített, mint az emberek a hagyományos ipari módszerek és eszközök használatával.

Mi okozhatta ezt az eltérést? Mondhatnánk, hogy a kikapcsolódás nem volt teljes, bár lehet más magyarázat is. Idővel az UCSD csapata megtudta, hogy a Google a Synopsys, az elektronikus tervezési automatizálási (EDA) nagy gyártója által fejlesztett kereskedelmi szoftvert használta a chip logikai kapuinak kiindulási elrendezésére, amelyet a webóriás megerősítő tanulási rendszere optimalizált.

A kísérletek azt mutatják, hogy a kezdeti elhelyezési információ jelentősen javíthatja a CT-eredményeket

A Google lap megemlítette, hogy iparági szabványos szoftvereszközöket és kézi beállítást használtak után a modell egy elrendezést hozott létre, elsősorban annak biztosítására, hogy a processzor a tervezett módon működjön, és véglegesítse a gyártáshoz. A Google munkatársai úgy érveltek, hogy ez szükséges lépés volt, akár gépi tanulási algoritmussal, akár emberekkel, szabványos eszközökkel készítették el az alaprajzot, így modellje elismerést érdemel az optimalizált végtermékért.

Az UCSD csapata azonban azt mondta, hogy a Nature-dokumentum nem tesz említést az EDA-eszközök használatáról előzetesen hogy készítsen elrendezést a modell ismétléséhez. Azt állítják, hogy ezek a Synopsys-eszközök elég tisztességes előnyt adhattak a modellnek ahhoz, hogy az AI-rendszer valódi képességeit megkérdőjelezzék.

„Ez nem volt nyilvánvaló a papír áttekintése során” – írta az egyetemi csapat a Synopsys programcsomag felhasználásáról a modell elrendezésének elkészítéséhez – „és a Nature nem említi. A kísérletek azt mutatják, hogy a kezdeti elhelyezési információ jelentősen javíthatja a CT-eredményeket."

A természet vizsgálja a Google kutatásait

Egyes akadémikusok azóta sürgették a Nature-t, hogy tekintse át a Google tanulmányát az UCSD tanulmányának fényében. A által megtekintett naplóba küldött e-mailekben A regisztráció, a kutatók rávilágítottak Kahng professzor és kollégái által felvetett aggodalmakra, és megkérdőjelezték, hogy a Google tanulmánya félrevezető-e.

Bill Swartz, a dallasi Texasi Egyetem elektrotechnikát oktató adjunktusa szerint a Nature tanulmány „sok kutatót homályban hagyott”, mivel az eredmények az internetes titán szabadalmaztatott TPU-it érintették, és ezért lehetetlen ellenőrizni.

Meg kell vizsgálni, hogy a Synopsys szoftverét hogyan használják a Google szoftverének előkészítésére, mondta. „Mindannyian csak az aktuális algoritmust szeretnénk tudni, hogy reprodukálhassuk. Ha a [Google] állításai igazak, akkor azt szeretnénk megvalósítani. Legyen tudomány, minden legyen objektív; ha működik, akkor működik” – mondta.

A természet mondta A regisztráció vizsgálja a Google papírját, bár nem közölte, hogy pontosan mit vizsgál, és miért nem.

„Az egyes esetek részleteiről titoktartási okokból nem tudunk nyilatkozni” – mondta lapunknak a Nature szóvivője. „Azonban általánosságban elmondható, hogy ha aggályok merülnek fel a folyóiratban megjelent bármely dolgozattal kapcsolatban, alaposan megvizsgáljuk azokat egy bevett folyamatot követve.

„Ez a folyamat magában foglalja a szerzőkkel való konzultációt, és adott esetben a szakértői lektorok és más külső szakértők tanácsát. Amint elegendő információval rendelkezünk a döntés meghozatalához, a legmegfelelőbb választ választjuk, amely egyértelművé teszi olvasóink számára az eredményt.”

Nem ez az első alkalom, hogy a folyóirat publikálás utáni vizsgálatot végez a tanulmányban, amely újbóli vizsgálat előtt áll. A Google-alkalmazottak írása továbbra is online maradt, 2022 márciusában egy szerzői javítással, amely tartalmazta a link a Google néhány nyílt forráskódú CT-kódjához azok számára, akik megpróbálják követni a tanulmány módszereit.

Nem kell előképezni és nincs elég számítás?

A Google tanulmányának vezető szerzői, Azalia Mirhoseini és Anna Goldie szerint az UCSD-csapat munkája nem a módszerük pontos megvalósítása. Rámutattak arra, hogy Kahng professzor csoportja rosszabb eredményeket ért el, mivel egyáltalán nem képezték előre modelljüket semmilyen adatra.

„Egy tanuláson alapuló módszer természetesen rosszabbul teljesít, ha nem engedik meg, hogy korábbi tapasztalatokból tanuljanak. A Nature című cikkünkben 20 blokkon előképzettünk, mielőtt kiértékelnénk a kitartott teszteseteket” – áll a közleményben.PDF].

Kahng professzor csapata szintén nem a Google által használt számítási teljesítmény felhasználásával képezte ki a rendszerét, és azt javasolta, hogy ezt a lépést esetleg nem hajtották végre megfelelően, megbénítva a modell teljesítményét. Mirhoseini és Goldie azt is elmondta, hogy az EDA-alkalmazásokkal végzett előfeldolgozási lépés, amelyet a Nature-dokumentumban nem írtak le, nem elég fontos megemlíteni. 

„Az [UCSD] tanulmány a kezdeti elhelyezés használatára összpontosít, a fizikai szintézistől a klaszter szabványos cellákig, de ennek nincs gyakorlati aggálya. A fizikai szintézist minden elhelyezési módszer futtatása előtt el kell végezni” – mondták. "Ez bevett gyakorlat a chiptervezésben."

Az UCSD csoport azonban mondott nem képezték ki előre a modelljüket, mert nem fértek hozzá a Google saját adataihoz. Állításuk szerint azonban szoftverüket az internetes óriáscég két másik mérnöke ellenőrizte, akik szintén szerepeltek a Nature lap társszerzői között. Kahng professzor bemutatja csapata tanulmányát az idei Nemzetközi Fizikai Tervezési Szimpóziumon konferencia Kedd.

Eközben a Google továbbra is megerősítő tanuláson alapuló technikákat használ TPU-inak fejlesztésére, amelyeket aktívan használnak adatközpontjaiban.

Elbocsátott Google-alkalmazott azt állítja, hogy a kutatást egy jövedelmező felhőalapú ügylet miatt hirdették meg

Separately, Google’s Nature paper’s claims of superhuman performance were disputed internally within the internet goliath. In May last year, Satrajit Chatterjee, an AI researcher, was fired from Google with cause; he claimed he was let go was because he had criticized the Nature study and contested the paper’s findings. Chatterjee was also told Google wouldn’t publish his paper critiquing the first study.

He was also accused by other Googlers of going too far in his criticism – such as, for instance, allegedly verbally describing the work as a “train wreck” and a “tire fire” – and was placed under HR investigation for his alleged behavior.

Chatterjee has since sued Google in the Superior Court of California in Santa Clara claiming wrongful termination. Chatterjee declined to comment for this story, and he denies any wrongdoing. Mirhoseini and Goldie left Google in mid-2022 after Chatterjee was axed.

A Google elleni panaszában, amelyet módosított [PDF] a múlt hónapban a Chatterjee ügyvédei azt állították, hogy a webóriás mesterséges intelligencia-alapú alaprajz-generáló szoftverének kereskedelmi forgalomba hozatalán gondolkodott a „Company S” társasággal, miközben akkoriban egy állítólag 120 millió dolláros Google Cloud-ügyletről tárgyalt az S-vel. Chatterjee azt állította, hogy a Google támogatta az alaprajzi papírt, hogy segítsen meggyőzni az S vállalatot, hogy csatlakozzon ehhez a jelentős kereskedelmi egyezményhez.

„A tanulmány részben az [S vállalattal] való lehetséges kereskedelmi forgalomba hozatal első lépéseként készült (és az [S vállalat] erőforrásaival készült). Mivel ez egy nagy potenciális Cloud-üzlet összefüggésében történt, etikátlan lett volna azt sugallni, hogy forradalmi technológiánk van, ha a tesztjeink ennek ellenkezőjét mutatták” – írta Chatterjee a Google vezérigazgatójának, Sundar Pichainak, Jay alelnöknek és mérnöki munkatársnak küldött e-mailben. Yagnik és a Google Research alelnöke, Rahul Sukthankar, amelyet a per részeként hoztak nyilvánosságra.

Bírósági beadványai azzal vádolták a Google-t, hogy „túlértékelte” tanulmánya eredményeit, és „szándékosan visszatartott lényeges információkat az S vállalattól, hogy rávegye azt egy felhőalapú számítástechnikai megállapodás aláírására”, ezzel hatékonyan meghódította a másik vállalkozást az általa megkérdőjelezhető technológia segítségével.

A bírósági dokumentumokban az S céget „elektronikus tervezési automatizálási vállalatként” írják le. A témában jártas emberek mesélték A regisztráció Az S cég a Synopsys.

A Synopsys és a Google nem volt hajlandó kommentálni. ®

Van olyan történet a mesterséges intelligencia világában, amelyet meg szeretne osztani? Beszélj hozzánk bizalmasan.

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• Platoblockchain. Web3 metaverzum intelligencia. Felerősített tudás. Hozzáférés itt.
• Forrás: https://go.theregister.com/feed/www.theregister.com/2023/03/27/google_ai_chip_paper_nature/