Google'i väited üliinimliku tehisintellekti kiibi paigutuse kohta mikroskoobi all

Taasavaldanud Platon

järgijaid: 0

Google'i väited üliinimliku tehisintellekti kiibi paigutuse kohta tagasi mikroskoobi all PlatoBlockchain Data Intelligence. Vertikaalne otsing. Ai.

Eriaruanne Ajakirjas Nature avaldatud Google'i juhitud uurimistöö, mis väidab, et masinõppetarkvara suudab luua paremaid kiipe kiiremini kui inimesed, on seatud kahtluse alla pärast seda, kui uus uuring vaidlustas selle tulemused.

2021. aasta juunis tegi Google pealkirjad tugevdamisel õppimisel põhineva süsteemi väljatöötamiseks, mis suudab automaatselt genereerida optimeeritud mikrokiibi põrandaplaane. Need plaanid määravad kindlaks elektroonikalülituste plokkide paigutuse kiibis: kus sellised asjad nagu protsessori ja graafikaprotsessori tuumad ning mälu ja välisseadmete kontrollerid asuvad tegelikult füüsilisel ränil.

Google ütles, et kasutab seda tehisintellekti tarkvara oma kodus kasvatatud TPU kiipide kujundamiseks, mis kiirendavad AI töökoormust: ta kasutas masinõpet, et muuta oma muud masinõppesüsteemid kiiremini tööle.

Kiibi põrandaplaan on oluline, kuna see määrab, kui hästi protsessor töötab. Soovite kiibi ahelate plokke hoolikalt korraldada, et näiteks signaalid ja andmed leviksid nende piirkondade vahel soovitud kiirusega. Insenerid kulutavad tavaliselt nädalaid või kuid oma disaini täiustamiseks, püüdes leida optimaalset konfiguratsiooni. Kõik erinevad alamsüsteemid tuleb paigutada kindlal viisil, et toota võimalikult võimas, energiasäästlik ja väike kiip.

Tänapäeva põrandaplaani koostamine hõlmab tavaliselt käsitsitööd ja automatiseerimist, kasutades kiibikujundusrakendusi. Google'i meeskond püüdis näidata, et selle tugevdamise-õppe lähenemisviis annaks paremaid kujundusi kui need, mille on loonud lihtsalt iniminsenerid, kasutades tööstuse tööriistu. Lisaks sellele ütles Google, et selle mudel lõpetas oma töö palju kiiremini kui paigutusi kordavad insenerid.

"Hoolimata viis aastakümmet kestnud uurimistööst on kiibi põrandaplaneerimine trotsinud automatiseerimist, nõudes füüsilistelt projekteerimisinseneridelt kuudepikkust intensiivset pingutust valmistatava paigutuse loomiseks... Alla kuue tunniga genereerib meie meetod automaatselt kiibiga põrandaplaanid, mis on üldiselt paremad või võrreldavad inimeste omadega. võtmemõõdikud,“ Google’i töötajad kirjutas nende looduslehes.

Uurimistöö pälvis elektroonilise disaini automatiseerimise kogukonna tähelepanu, mis oli juba liikumas masinõppe algoritmide lisamise poole oma tarkvarakomplektidesse. Nüüd on San Diego California ülikooli (UCSD) meeskond vaidlustanud Google'i väited oma inimestest parema mudeli kohta.

Ebaõiglane eelis?

Arvutiteaduse ja inseneriteaduse professori Andrew Kahngi juhtimisel töötas see rühm kuude kaupa Google'i ajakirjas Nature kirjeldatud põrandaplaneerimise torujuhtme pöördprojekteerimist. Veebihiiglane varjas mõningaid üksikasju oma mudeli sisemise töö kohta, viidates ärilisele tundlikkusele, nii et UCSD pidi välja mõtlema, kuidas teha oma täielik versioon Google'i töötajate leidude kontrollimiseks. Märkame, et prof Kahng oli Google'i paberi eksperdihinnangu protsessis Nature'i retsensendina.

Lõppkokkuvõttes leidsid ülikooli teadlased algse Google'i koodi, mida nimetatakse ringtreeninguks (CT) omaenda loo. nende uuring, toimis traditsiooniliste tööstuse meetodite ja vahenditega tegelikult halvemini kui inimestel.

Mis võis selle lahknevuse põhjustada? Võib öelda, et meelelahutus oli puudulik, kuigi võib olla ka teine seletus. Aja jooksul sai UCSD meeskond teada, et Google oli kasutanud kommertstarkvara, mille on välja töötanud Synopsys, mis on suur elektroonilise disaini automatiseerimise (EDA) komplektide tootja, et luua kiibi loogikaväravate lähtekorraldus, mida veebihiiglase tugevdusõppesüsteem seejärel optimeeris.

Katsed näitavad, et esialgse paigutuse teabe omamine võib oluliselt parandada CT tulemusi

Google'i leht mainis, et kasutati tööstusharu standardseid tarkvaratööriistu ja käsitsi kohandamist pärast mudel oli loonud paigutuse, peamiselt tagamaks, et protsessor töötaks ettenähtud viisil ja viimistleks selle valmistamiseks. Google'i töötajad väitsid, et see oli vajalik samm, olenemata sellest, kas põrandaplaan on loodud masinõppe algoritmi või inimeste poolt standardsete tööriistadega, ja seega vääris selle mudel optimeeritud lõpptoote eest tunnustust.

Kuid UCSD meeskond ütles, et loodusdokumendis ei mainita EDA tööriistu eelnevalt et valmistada ette korduva mudeli paigutus. Väidetakse, et need Synopsyse tööriistad võisid anda mudelile piisavalt edumaa, et tehisintellekti süsteemi tegelikud võimalused tuleks kahtluse alla seada.

"See ei ilmnenud paberiülevaate ajal," kirjutas ülikooli meeskond Synopsyse komplekti kasutamise kohta mudeli paigutuse ettevalmistamiseks, "ja seda ei mainita ajakirjas Nature. Katsed näitavad, et esialgse paigutuse teabe omamine võib oluliselt parandada CT tulemusi.

Loodus uurib Google'i uuringuid

Mõned teadlased on sellest ajast peale kutsunud loodust üles vaatama Google'i paberit UCSD uuringu valguses. E-kirjades ajakirjale, mida vaatas Register, tõstsid teadlased esile prof Kahngi ja tema kolleegide tõstatatud mure ning seadsid kahtluse alla, kas Google'i paber on eksitav.

Dallase Texase ülikooli elektrotehnikat õpetav vanemlektor Bill Swartz ütles, et loodusartikkel jättis paljud [teadlased] teadmatusse, kuna tulemused hõlmasid Interneti-titaani patenteeritud TPU-sid ja seetõttu oli neid võimatu kontrollida.

Ta ütles, et Synopsyse tarkvara kasutamist Google'i tarkvara käivitamiseks tuleb uurida. "Me kõik tahame lihtsalt teada tegelikku algoritmi, et saaksime seda reprodutseerida. Kui [Google'i] väited on õiged, tahame selle ellu viia. Teadus peaks olema, see kõik peaks olema objektiivne; kui töötab, siis töötab,” ütles ta.

Loodus rääkis Register ta uurib Google'i paberit, kuigi ta ei öelnud täpselt, mida ta uurib ega miks.

"Me ei saa konfidentsiaalsuse huvides üksikjuhtumite üksikasju kommenteerida," ütles Nature'i pressiesindaja. "Kuid üldiselt, kui ajakirjas avaldatud artiklite pärast on muresid, uurime neid hoolikalt, järgides väljakujunenud protsessi.

„See protsess hõlmab autoritega konsulteerimist ja vajaduse korral nõu küsimist vastastikustelt hindajatelt ja teistelt välisekspertidelt. Kui meil on otsuse tegemiseks piisavalt teavet, jätkame vastusega, mis on kõige sobivam ja annab meie lugejatele tulemuse osas selgust.

See ei ole esimene kord, kui ajakiri on läbi viinud avaldamisjärgse uuringu uuringus, mis seisab silmitsi uue kontrolliga. Google'i töötajate paber on jäänud võrgus, 2022. aasta märtsis lisati autoriparandus, mis sisaldas a link mõnele Google'i avatud lähtekoodiga CT-koodile neile, kes proovivad järgida uuringu meetodeid.

Ei vaja ettevalmistust ja pole piisavalt arvutusi?

Google'i töö juhtivad autorid Azalia Mirhoseini ja Anna Goldie ütlesid, et UCSD meeskonna töö ei ole nende meetodi täpne rakendamine. Nad juhtisid tähelepanu sellele, et prof Kahngi rühm sai halvemaid tulemusi, kuna nad ei treeninud oma mudelit üldse andmete põhjal.

„Õppimispõhine meetod toimib muidugi halvemini, kui varasemast kogemusest õppida ei lubata. Oma loodusdokumendis treenime enne läbiviidud testjuhtumite hindamist 20 plokil, ”ütlesid nad oma avalduses [pDF].

Prof Kahngi meeskond ei treeninud oma süsteemi sama arvu arvutusvõimsusega, kui Google kasutas, ja arvas, et seda sammu ei pruugitud korralikult läbi viia, mis kahjustas mudeli jõudlust. Mirhoseini ja Goldie ütlesid ka, et EDA rakendusi kasutav eeltöötlusetapp, mida nende loodusdokumendis selgesõnaliselt ei kirjeldatud, ei olnud piisavalt oluline, et mainida.

„[UCSD] paber keskendub esialgse paigutuse kasutamisele füüsilisest sünteesist klastri standardrakkudeni, kuid see ei ole praktiline probleem. Enne mis tahes paigutusmeetodi kasutamist tuleb läbi viia füüsiline süntees, ”ütlesid nad. "See on kiibi kujundamise tavapraktika."

UCSD grupp aga ütles nad ei koolitanud oma mudelit eelnevalt välja, kuna neil polnud juurdepääsu Google'i varalistele andmetele. Nad väitsid aga, et nende tarkvara olid kontrollinud kaks Interneti-hiiglase inseneri, kes olid samuti loetletud ajakirja Nature kaasautoritena. Prof Kahng esitleb oma meeskonna uuringut selle aasta rahvusvahelisel füüsilise disaini sümpoosionil konverents Teisipäev.

Samal ajal jätkab Google oma andmekeskustes aktiivselt kasutatavate TPU-de täiustamiseks tugevdamisel õppimisel põhinevate tehnikate kasutamist.

Vallandatud Google'i töötaja väidab, et uuringuid reklaamiti tulusa pilvetehingu pärast

Eraldi vaidlustati Google'i ajakirja Nature väiteid üliinimliku jõudluse kohta Interneti-koliaadi siseselt. Eelmise aasta mais vallandati Google’ist põhjusega tehisintellekti uurija Satrajit Chatterjee; ta väitis, et ta lasti lahti, sest ta oli kritiseerinud Nature uuringut ja vaidlustanud selle paberi järeldused. Chatterjeele öeldi ka, et Google ei avalda tema esimest uuringut kritiseerivat artiklit.

Teised Google'i töötajad süüdistasid teda ka selles, et ta läks oma kriitikaga liiga kaugele – näiteks kirjeldas väidetavalt teost kui „rongiõnnetust” ja „rehvipõlengut” – ning tema väidetava käitumise tõttu pandi ta personalijuhtimise uurimise alla.

Chatterjee on pärast seda kaebanud Google'i Santa Clara ülemkohtusse, väites ebaseaduslikku lõpetamist. Chatterjee keeldus seda lugu kommenteerimast ja ta eitab igasugust süütegu. Mirhoseini ja Goldie lahkusid Google'ist 2022. aasta keskel pärast seda, kui Chatterjee kirgistati.

Tema kaebuses Google'i vastu, mida muudeti [pDF] eelmisel kuul väitsid Chatterjee advokaadid, et veebihiiglane mõtles oma tehisintellektil põhineva korruseplaani loomise tarkvara kommertsialiseerimisele ettevõttega S, samal ajal kui ta pidas sel ajal S-ga läbirääkimisi Google Cloudi tehingu üle, mille väärtus oli väidetavalt 120 miljonit dollarit. Chatterjee väitis, et Google toetas põrandaplaani, et veenda ettevõtet S selle olulise kaubanduslepinguga ühinema.

„Uuring viidi osaliselt läbi esimese sammuna [ettevõtte S] potentsiaalse kommertsialiseerimise suunas (ja viidi läbi [ettevõtte S] ressurssidega). Kuna see tehti suure potentsiaalse pilvetehingu kontekstis, oleks olnud ebaeetiline vihjata, et meil oli revolutsiooniline tehnoloogia, kui meie testid näitasid vastupidist,” kirjutas Chatterjee e-kirjas Google'i tegevjuhile Sundar Pichaile, asepresidendile ja insenerikaaslasele Jayle. Yagnik ja Google'i uurimistöö asepresident Rahul Sukthankar, mis avalikustati hagi raames.

Tema kohtuavaldustes süüdistati Google'it oma uuringu tulemuste "ülehindamises" ja "S-ettevõttelt olulise teabe tahtlikus varjamises, et sundida seda pilvandmetöötluse tehingut allkirjastama", pakkudes tõhusalt teist ettevõtet, kasutades tema arvates küsitavat tehnoloogiat.

Ettevõtet S kirjeldatakse kohtudokumentides kui "elektroonilise projekteerimise automatiseerimise ettevõtet". Asjaga tuttavad inimesed rääkisid Register Ettevõte S on Synopsys.

Synopsys ja Google keeldusid kommentaaridest. ®

Kas tehisintellekti maailmas on lugu, mida soovite jagada? Räägi meiega usalduslikult.