超人的な AI チップのレイアウトに関する Google の主張を顕微鏡下に戻す

特別レポート Nature に掲載された Google 主導の研究論文は、機械学習ソフトウェアが人間よりも優れたチップをより速く設計できると主張していますが、新しい研究がその結果に異議を唱えた後、疑問視されています.

2021 年 XNUMX 月、Google は 見出し 最適化されたマイクロチップのフロアプランを自動的に生成できる強化学習ベースのシステムを開発するため。 これらの計画は、チップ内の電子回路のブロックの配置を決定します。つまり、CPU や GPU コア、メモリや周辺機器コントローラーなどは、物理的なシリコン ダイ上に実際に配置されます。

Google は、この AI ソフトウェアを使用して、AI ワークロードを加速する自社開発の TPU チップを設計していると述べました。他の機械学習システムをより高速に実行するために、機械学習を採用していました。 

チップのフロアプランは、プロセッサーのパフォーマンスを左右する重要な要素です。 たとえば、信号とデータがこれらの領域間を適切な速度で伝播するように、チップの回路のブロックを慎重に配置する必要があります。 エンジニアは通常、最適な構成を見つけようとして、設計を改良するのに数週間または数か月を費やします。 さまざまなサブシステムのすべてを特定の方法で配置して、強力でエネルギー効率が高く、可能な限り小型のチップを製造する必要があります。 

今日のフロアプランの作成には通常、手作業とチップ設計アプリケーションを使用した自動化が混在しています。 Google のチームは、その強化学習アプローチが、業界のツールを使用して人間のエンジニアが作成したものよりも優れた設計を生成することを実証しようとしました。 それだけでなく、Google はそのモデルがエンジニアがレイアウトを反復するよりもはるかに速く作業を完了したと述べています。

「XNUMX 年にわたる研究にもかかわらず、チップ フロアプランは自動化を無視しており、製造可能なレイアウトを作成するために、物理設計エンジニアによる数か月にわたる集中的な努力が必要です。XNUMX 時間以内に、私たちの方法は、人間が作成したものよりも優れているか、同等のチップ フロアプランを自動的に生成します。重要な指標」と Google 社員 書いた 彼らの Nature 論文で。

この研究は、すでに機械学習アルゴリズムをソフトウェア スイートに組み込む方向に進んでいた電子設計自動化コミュニティの注目を集めました。 現在、人間よりも優れたモデルに関する Google の主張は、カリフォルニア大学サンディエゴ校 (UCSD) のチームによって異議を唱えられています。

不公平な優位性？

コンピューター サイエンスとエンジニアリングの教授である Andrew Kahng が率いるこのグループは、Google が Nature で説明したフロアプラン パイプラインのリバース エンジニアリングに数か月を費やしました。 Web の巨人は、商業的な機密性を理由に、モデルの内部動作の詳細を一部伏せていたため、UCSD は、Google 社員の調査結果を検証するために、独自の完全なバージョンを作成する方法を考え出さなければなりませんでした。 Kahng 教授は、Google の論文の査読過程で、Nature の査読者を務めました。

大学の学者たちは最終的に、元の Google コードを独自に再現したものを発見しました。これは、サーキット トレーニング (CT) と呼ばれています 彼らの研究、実際には、従来の業界の方法とツールを使用した人間よりも悪いパフォーマンスを示しました。

この不一致の原因は何ですか? 別の説明があるかもしれませんが、再現は不完全だったと言う人もいるかもしれません。 UCSD チームは、電子設計自動化 (EDA) スイートの大手メーカーである Synopsys が開発した商用ソフトウェアを Google が使用して、Web 巨人の強化学習システムが最適化したチップのロジック ゲートの初期配置を作成していたことを徐々に知りました。

実験によると、初期配置情報を取得することで CT の結果が大幅に向上することが示されています

Google の論文では、業界標準のソフトウェア ツールと手作業による微調整が使用されたと言及されていました。 After モデルは、主にプロセッサが意図したとおりに機能し、製造用に最終化されることを確認するために、レイアウトを生成しました。 Google 社員は、フロアプランが機械学習アルゴリズムによって作成されたか、標準的なツールを使用して人間によって作成されたかにかかわらず、これは必要なステップであり、したがって、そのモデルは最適化された最終製品の功績に値すると主張しました。

ただし、UCSD チームは、使用されている EDA ツールについて Nature の論文には言及されていないと述べています。 あらかじめ モデルが反復するレイアウトを準備します。 これらの Synopsys ツールは、AI システムの真の能力が疑問視されるべきであるほど十分に有利なスタートをモデルに与えた可能性があると主張しています。

「これは、論文のレビューでは明らかではありませんでした」と大学チームは、シノプシスのスイートを使用してモデルのレイアウトを準備したことについて書いています。 実験では、最初の配置情報があれば CT の結果が大幅に向上することが示されています。」

Nature が Google の研究を調査

それ以来、何人かの学者は、UCSD の研究に照らして Google の論文を再検討するよう Nature に要請しました。 が閲覧したジャーナルへのメール 登録、研究者はKahng教授と彼の同僚によって提起された懸念を強調し、Googleの論文が誤解を招くものであるかどうかを疑問視しました.

テキサス大学ダラス校で電気工学を教えている上級講師の Bill Swartz 氏は、Nature の論文は「多くの [研究者] を暗闇の中に置き去りにした」と述べています。これは、結果がインターネットの巨人の独自の TPU に関係していたため、検証が不可能だったからです。

Synopsys のソフトウェアを Google のソフトウェアの準備に使用することについては、調査する必要がある、と彼は述べた。 「私たちは皆、実際のアルゴリズムを知りたいだけで、それを再現できるようにしています。 [Google の]主張が正しければ、それを実装したいと考えています。 科学があるべきであり、それはすべて客観的であるべきです。 それが機能する場合、機能します」と彼は言いました。

自然は語った 登録 Google の論文を調べているが、何を調査しているのか、その理由については正確には述べていない。

ネイチャーの広報担当者は、「機密保持上の理由から、個々のケースの詳細についてコメントすることはできません. 「しかし、一般的に言えば、ジャーナルに掲載された論文について懸念が提起された場合、確立されたプロセスに従って慎重に調査します。

「このプロセスには、著者との協議が含まれ、必要に応じて、査読者やその他の外部専門家からアドバイスを求めます。 決定を下すのに十分な情報が得られたら、最も適切で、読者に結果を明確にする応答をフォローアップします。」

同誌がこの研究について出版後に調査を行ったのはこれが初めてではなく、新たな精査に直面している。 Google 社員の論文はオンラインのままで、2022 年 XNUMX 月に著者による訂正が追加されました。 研究の方法に従おうとしている人のために、Google のオープンソース CT コードの一部に。

事前トレーニングがなく、コンピューティングが不十分ですか?

Google の論文の筆頭著者である Azalia Mirhoseini と Anna Goldie は、UCSD チームの作業は彼らの手法を正確に実装したものではないと述べています。 彼らは、Kahng 教授のグループは、どのデータでもモデルを事前トレーニングしなかったため、より悪い結果を得たと指摘しました。

「以前の経験から学ぶことが許されない場合、学習ベースの方法はもちろんパフォーマンスが低下します。 Nature の論文では、保留されたテスト ケースを評価する前に 20 ブロックで事前トレーニングを行っています」と XNUMX 人は声明で [PDF].

Kahng 教授のチームはまた、Google が使用したのと同じ量の計算能力を使用してシステムをトレーニングしなかったため、このステップが適切に実行されず、モデルのパフォーマンスが低下した可能性があることを示唆しました。 Mirhoseini と Goldie はまた、Nature 論文で明確に説明されていない EDA アプリケーションを使用した前処理ステップは、言及するほど重要ではないと述べました。 

「[UCSD] の論文は、物理合成からクラスター スタンダード セルまでの初期配置の使用に焦点を当てていますが、これは実際的な問題ではありません。 配置方法を実行する前に、物理合成を実行する必要があります」と彼らは言いました。 「これはチップ設計の標準的なやり方です。」

ただし、UCSD グループは、 と Google 独自のデータにアクセスできなかったため、モデルを事前トレーニングしませんでした。 しかし、彼らは、彼らのソフトウェアは、Nature 論文の共著者としてもリストされている、インターネットの巨人の他の XNUMX 人のエンジニアによって検証されていると主張しました。 Kahng 教授は、今年のフィジカル デザインに関する国際シンポジウムで彼のチームの研究を発表しています。 会議 火曜日。

一方、Google は強化学習ベースの手法を使用して、データセンターで積極的に使用されている TPU を強化し続けています。

解雇された Google 社員は、収益性の高いクラウド契約について研究が誇大宣伝されたと主張しています

これとは別に、グーグルのネイチャー論文の超人的なパフォーマンスの主張は、インターネットのゴリアテ内部で論争となった。昨年5月、AI研究者のサトラジット・チャタジー氏は正当な理由によりGoogleから解雇された。彼は、ネイチャーの研究を批判し、論文の結果に異議を唱えたため、解雇されたと主張した。チャタジー氏はまた、グーグルが最初の研究を批判する論文を出版しないとも言われた。

彼はまた、他の Google 社員からも批判が行き過ぎていると非難され、たとえば、その仕事を口頭で「電車事故」や「タイヤ火災」と表現したとされるなど、その行為の疑いで人事調査を受けました。

その後、チャタジー氏は不当解雇を主張してグーグルをカリフォルニア州サンタクララ高等裁判所に訴えた。チャタジー氏はこの記事についてコメントを控えており、いかなる不正行為も否定している。ミルホセイニ氏とゴールディ氏は、チャタジー氏の解任後、2022年半ばにグーグルを退社した。

修正された Google に対する彼の訴状では [PDF] 先月、Chatterjee の弁護士は、Web の巨人が AI ベースのフロアプラン生成ソフトウェアを「S 社」と商業化することを考えていると主張し、当時 S 社と 120 億 XNUMX 万ドルの価値があると伝えられている Google Cloud の取引を交渉していました。 Chatterjee は、Google がフロアプラン ペーパーを擁護し、S 社がこの重要な商業協定に参加するよう説得するのに役立ったと主張しました。

「この調査は、[S 社] との商業化の可能性に向けた最初のステップとして部分的に行われました ([S 社] のリソースを使用して実施されました)。 それは潜在的な大規模なクラウド契約の文脈で行われたため、テストでそうではないことが示されたときに革新的なテクノロジーを持っているとほのめかすのは非倫理的だったでしょう」とChatterjeeはGoogleのCEOであるSundar Pichai、バイスプレジデント兼エンジニアリングフェローのJayへの電子メールで書いています。 Yagnik、および訴訟の一環として開示された Google Research Rahul Sukthankar の副社長。

彼の裁判所への提出書類では、Google が調査結果を「誇張」し、「S 社に重要な情報を故意に差し控えて、クラウド コンピューティング契約に署名するよう誘導した」と非難し、彼が疑わしい技術と見なしたものを使用して他の企業を効果的に口説きました。

S 社は、裁判所の文書で「電子設計自動化会社」と記載されています。 事情に詳しい関係者が語る 登録 S 社はシノプシスです。

シノプシスとグーグルはコメントを控えた。 ®

共有したい人工知能の世界の話はありますか? TDIへのコンタクト 秘密に。

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• Platoblockchain。 Web3メタバースインテリジェンス。 知識の増幅。 こちらからアクセスしてください。
• 情報源： https://go.theregister.com/feed/www.theregister.com/2023/03/27/google_ai_chip_paper_nature/