การอ้างสิทธิ์ของ Google เกี่ยวกับการจัดวางชิป AI เหนือมนุษย์ภายใต้กล้องจุลทรรศน์

รายงานพิเศษ บทความวิจัยที่นำโดย Google ซึ่งตีพิมพ์ใน Nature ซึ่งอ้างว่าซอฟต์แวร์การเรียนรู้ของเครื่องสามารถออกแบบชิปที่ดีกว่าได้เร็วกว่ามนุษย์ ถูกตั้งคำถามหลังจากการศึกษาใหม่โต้แย้งผลของมัน

ในเดือนมิถุนายน 2021 Google ได้สร้าง พาดหัวข่าว สำหรับการพัฒนาระบบเสริมการเรียนรู้ที่สามารถสร้างแผนพื้นไมโครชิปที่ปรับให้เหมาะสมโดยอัตโนมัติ แผนเหล่านี้จะกำหนดการจัดเรียงบล็อกของวงจรอิเล็กทรอนิกส์ภายในชิป ซึ่งสิ่งต่างๆ เช่น แกน CPU และ GPU ตลอดจนหน่วยความจำและตัวควบคุมอุปกรณ์ต่อพ่วง จริงๆ แล้วนั่งอยู่บนดายซิลิกอนจริง

Google กล่าวว่ากำลังใช้ซอฟต์แวร์ AI นี้ในการออกแบบชิป TPU ที่ผลิตขึ้นเองเพื่อเร่งปริมาณงาน AI: ใช้การเรียนรู้ของเครื่องเพื่อทำให้ระบบการเรียนรู้ของเครื่องอื่น ๆ ทำงานได้เร็วขึ้น 

แผนผังของชิปมีความสำคัญเนื่องจากเป็นตัวกำหนดประสิทธิภาพของโปรเซสเซอร์ คุณจะต้องจัดเรียงบล็อกวงจรของชิปอย่างระมัดระวังเพื่อให้สัญญาณและข้อมูลแพร่กระจายระหว่างพื้นที่เหล่านี้ในอัตราที่ต้องการ โดยทั่วไปแล้ววิศวกรจะใช้เวลาหลายสัปดาห์หรือหลายเดือนในการปรับแต่งการออกแบบเพื่อหาการกำหนดค่าที่เหมาะสมที่สุด ต้องวางระบบย่อยที่แตกต่างกันทั้งหมดในลักษณะเฉพาะเพื่อผลิตชิปที่ทรงพลัง ประหยัดพลังงาน และมีขนาดเล็กที่สุดเท่าที่จะเป็นไปได้ 

การจัดทำแผนผังชั้นในปัจจุบันมักเกี่ยวข้องกับการผสมผสานระหว่างการทำงานด้วยตนเองและระบบอัตโนมัติโดยใช้แอปพลิเคชันการออกแบบชิป ทีมงานของ Google พยายามที่จะแสดงให้เห็นว่าวิธีการเรียนรู้แบบเสริมกำลังจะสร้างงานออกแบบที่ดีกว่าการออกแบบโดยวิศวกรที่เป็นมนุษย์โดยใช้เครื่องมือในอุตสาหกรรม ไม่เพียงเท่านั้น Google ยังกล่าวว่าโมเดลของมันทำงานเสร็จเร็วกว่าที่วิศวกรทำซ้ำในเลย์เอาต์

“แม้จะทำการวิจัยมาเป็นเวลากว่า XNUMX ทศวรรษ แต่การวางผังชิปก็ยังท้าทายระบบอัตโนมัติ โดยวิศวกรออกแบบทางกายภาพต้องใช้ความพยายามอย่างมากเป็นเวลาหลายเดือนเพื่อสร้างเค้าโครงที่สามารถผลิตได้ … ภายในเวลาไม่ถึง XNUMX ชั่วโมง วิธีการของเราจะสร้างแผนผังชิปโดยอัตโนมัติซึ่งเหนือกว่าหรือเทียบได้กับที่ผลิตโดยมนุษย์ในทุกด้าน ตัวชี้วัดที่สำคัญ” Googler เขียน ในกระดาษเนเจอร์ของพวกเขา

การวิจัยได้รับความสนใจจากชุมชนระบบอัตโนมัติด้านการออกแบบอิเล็กทรอนิกส์ ซึ่งกำลังมุ่งสู่การรวมอัลกอริธึมการเรียนรู้ของเครื่องเข้ากับชุดซอฟต์แวร์ของตน ตอนนี้คำกล่าวอ้างของ Google เกี่ยวกับแบบจำลองที่ดีกว่ามนุษย์ได้ถูกท้าทายโดยทีมงานของมหาวิทยาลัยแคลิฟอร์เนีย ซานดิเอโก (UCSD)

เสียเปรียบ?

นำโดย Andrew Kahng ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์และวิศวกรรม กลุ่มนั้นใช้เวลาหลายเดือนในการทำวิศวกรรมย้อนกลับกับท่อวางผังพื้นของ Google ที่อธิบายไว้ใน Nature ยักษ์ใหญ่ด้านเว็บได้ปกปิดรายละเอียดบางอย่างเกี่ยวกับการทำงานภายในของแบบจำลอง โดยอ้างถึงความละเอียดอ่อนในเชิงพาณิชย์ ดังนั้น UCSD จึงต้องหาวิธีสร้างเวอร์ชันที่สมบูรณ์ของตนเองเพื่อตรวจสอบสิ่งที่ชาว Googler ค้นพบ เราทราบว่า Prof.Kahng ทำหน้าที่เป็นผู้ตรวจสอบของ Nature ในระหว่างกระบวนการตรวจสอบโดยเพื่อนของเอกสารของ Google

ในที่สุด นักวิชาการของมหาวิทยาลัยก็ค้นพบการสร้างโค้ด Google ดั้งเดิมขึ้นมาใหม่ ซึ่งเรียกว่า Circuit Training (CT) ใน การศึกษาของพวกเขาทำงานได้แย่กว่ามนุษย์โดยใช้วิธีการและเครื่องมือทางอุตสาหกรรมแบบดั้งเดิม

อะไรทำให้เกิดความแตกต่างนี้ บางคนอาจบอกว่าการพักผ่อนหย่อนใจไม่สมบูรณ์ แม้ว่าอาจมีคำอธิบายอื่น เมื่อเวลาผ่านไป ทีมงาน UCSD ได้เรียนรู้ว่า Google ได้ใช้ซอฟต์แวร์เชิงพาณิชย์ที่พัฒนาโดย Synopsys ซึ่งเป็นผู้ผลิตชุดโปรแกรม Electronic Design Automation (EDA) รายใหญ่ เพื่อสร้างการจัดเรียงเริ่มต้นของลอจิกเกตของชิป ซึ่งระบบการเรียนรู้เสริมกำลังของเว็บยักษ์ใหญ่ในตอนนั้นจะเพิ่มประสิทธิภาพ

การทดลองแสดงให้เห็นว่าการมีข้อมูลตำแหน่งเริ่มต้นสามารถเพิ่มผลลัพธ์ CT ได้อย่างมีนัยสำคัญ

บทความของ Google ระบุว่าใช้เครื่องมือซอฟต์แวร์มาตรฐานอุตสาหกรรมและการปรับแต่งด้วยตนเอง หลังจาก โมเดลได้สร้างเลย์เอาต์ โดยหลักแล้วเพื่อให้แน่ใจว่าโปรเซสเซอร์จะทำงานได้ตามที่ตั้งใจไว้และดำเนินการขั้นสุดท้ายสำหรับการประดิษฐ์ Googler แย้งว่านี่เป็นขั้นตอนที่จำเป็น ไม่ว่าแผนผังจะถูกสร้างขึ้นโดยอัลกอริทึมการเรียนรู้ของเครื่องหรือโดยมนุษย์ด้วยเครื่องมือมาตรฐาน ดังนั้นแบบจำลองจึงสมควรได้รับเครดิตสำหรับผลิตภัณฑ์ขั้นสุดท้ายที่ได้รับการปรับให้เหมาะสมที่สุด

อย่างไรก็ตาม ทีมงาน UCSD กล่าวว่าไม่มีการกล่าวถึงในเอกสาร Nature ของเครื่องมือ EDA ที่กำลังใช้งานอยู่ ล่วงหน้า เพื่อเตรียมเลย์เอาต์สำหรับโมเดลที่จะวนซ้ำ เป็นที่ถกเถียงกันอยู่ว่าเครื่องมือ Synopsys เหล่านี้อาจทำให้โมเดลมีจุดเริ่มต้นที่ดีพอที่ความสามารถที่แท้จริงของระบบ AI ควรถูกตั้งคำถาม

"สิ่งนี้ไม่ปรากฏให้เห็นในระหว่างการทบทวนกระดาษ" ทีมงานของมหาวิทยาลัยเขียนถึงการใช้ชุดโปรแกรม Synopsys เพื่อเตรียมเค้าโครงสำหรับแบบจำลอง "และไม่ได้กล่าวถึงใน Nature การทดลองแสดงให้เห็นว่าการมีข้อมูลตำแหน่งเริ่มต้นสามารถเพิ่มผลลัพธ์ CT ได้อย่างมีนัยสำคัญ”

Nature ตรวจสอบงานวิจัยของ Google

นักวิชาการบางคนเรียกร้องให้ Nature ทบทวนเอกสารของ Google ในแง่ของการศึกษาของ UCSD ในอีเมลไปยังวารสารที่ดูโดย ลงทะเบียนนักวิจัยเน้นข้อกังวลที่ศาสตราจารย์คังและเพื่อนร่วมงานหยิบยกขึ้นมา และตั้งคำถามว่าเอกสารของกูเกิลทำให้เข้าใจผิดหรือไม่

Bill Swartz อาจารย์อาวุโสที่สอนวิศวกรรมไฟฟ้าที่มหาวิทยาลัยเทกซัส เมืองดัลลาส กล่าวว่าเอกสาร Nature “ทิ้ง [นักวิจัย] จำนวนมากไว้ในความมืด” เนื่องจากผลลัพธ์เกี่ยวข้องกับ TPU ที่เป็นกรรมสิทธิ์ของอินเทอร์เน็ตไททัน ดังนั้นจึงเป็นไปไม่ได้ที่จะตรวจสอบ

การใช้ซอฟต์แวร์ของ Synopsys เพื่อใช้งานซอฟต์แวร์ของ Google จำเป็นต้องได้รับการตรวจสอบ เขากล่าว “เราทุกคนแค่ต้องการทราบอัลกอริทึมที่แท้จริงเพื่อที่เราจะสามารถทำซ้ำได้ หากการอ้างสิทธิ์ของ [Google] ถูกต้อง เราก็จะดำเนินการตามนั้น ควรมีวิทยาศาสตร์ ทุกอย่างควรมีวัตถุประสงค์ ถ้ามันใช้งานได้ก็ใช้งานได้” เขากล่าว

ธรรมชาติบอก ลงทะเบียน กำลังตรวจสอบเอกสารของ Google แม้ว่าจะไม่ระบุแน่ชัดว่ากำลังตรวจสอบอะไรและทำไม

“เราไม่สามารถแสดงความคิดเห็นในรายละเอียดของแต่ละกรณีได้ด้วยเหตุผลด้านการรักษาความลับ” โฆษกของ Nature กล่าวกับเรา “อย่างไรก็ตาม โดยทั่วไปแล้ว เมื่อมีการหยิบยกข้อกังวลเกี่ยวกับบทความใดๆ ที่ตีพิมพ์ในวารสาร เราจะพิจารณาอย่างรอบคอบตามกระบวนการที่กำหนดไว้

“กระบวนการนี้เกี่ยวข้องกับการปรึกษาหารือกับผู้เขียน และขอคำแนะนำจากผู้รู้วิจารณ์และผู้เชี่ยวชาญภายนอกอื่นๆ ตามความเหมาะสม เมื่อเรามีข้อมูลเพียงพอในการตัดสินใจแล้ว เราจะดำเนินการตามคำตอบที่เหมาะสมที่สุดและให้ความชัดเจนแก่ผู้อ่านเกี่ยวกับผลลัพธ์”

นี่ไม่ใช่ครั้งแรกที่วารสารได้ทำการสอบสวนหลังการตีพิมพ์ในการศึกษา ซึ่งกำลังเผชิญกับการตรวจสอบข้อเท็จจริงอีกครั้ง กระดาษของ Googler ยังคงออนไลน์อยู่โดยมีการเพิ่มการแก้ไขผู้เขียนในเดือนมีนาคม 2022 ซึ่งรวมถึง ลิงค์ ไปยังโค้ด CT แบบโอเพ่นซอร์สของ Google สำหรับผู้ที่พยายามทำตามวิธีการศึกษา

ไม่เตรียมการล่วงหน้าและคำนวณไม่เพียงพอ?

ผู้เขียนนำบทความของ Google, Azalia Mirhoseini และ Anna Goldie กล่าวว่างานของทีม UCSD ไม่ใช่การนำวิธีการของพวกเขาไปใช้อย่างถูกต้อง พวกเขาชี้ให้เห็นว่ากลุ่มของ Prof.Kahng ได้ผลลัพธ์ที่แย่กว่า เนื่องจากพวกเขาไม่ได้ฝึกโมเดลล่วงหน้าเกี่ยวกับข้อมูลใดๆ เลย

“แน่นอนว่าวิธีการเรียนรู้จะทำงานแย่ลงหากไม่ได้รับอนุญาตให้เรียนรู้จากประสบการณ์เดิม ในเอกสาร Nature ของเรา เราฝึกล่วงหน้าใน 20 บล็อกก่อนที่จะประเมินกรณีทดสอบที่ถูกระงับ” ทั้งสองกล่าวในแถลงการณ์ [รูปแบบไฟล์ PDF].

ทีมงานของ Prof.Kahng ยังไม่ได้ฝึกระบบของพวกเขาโดยใช้พลังการประมวลผลในปริมาณที่เท่ากันกับที่ Google ใช้ และแนะนำว่าขั้นตอนนี้อาจไม่ได้ดำเนินการอย่างถูกต้อง ซึ่งทำให้ประสิทธิภาพของโมเดลลดลง Mirhoseini และ Goldie ยังกล่าวอีกว่าขั้นตอนก่อนการประมวลผลโดยใช้แอปพลิเคชัน EDA ซึ่งไม่ได้อธิบายไว้อย่างชัดเจนในเอกสาร Nature นั้นไม่สำคัญพอที่จะกล่าวถึง 

“เอกสาร [UCSD] มุ่งเน้นไปที่การใช้ตำแหน่งเริ่มต้นตั้งแต่การสังเคราะห์ทางกายภาพไปจนถึงเซลล์มาตรฐานของคลัสเตอร์ แต่นี่ไม่ใช่เรื่องที่ต้องกังวลในทางปฏิบัติ ต้องทำการสังเคราะห์ทางกายภาพก่อนที่จะใช้วิธีการจัดตำแหน่งใดๆ” พวกเขากล่าว “นี่คือหลักปฏิบัติมาตรฐานในการออกแบบชิป”

อย่างไรก็ตาม กลุ่ม UCSD กล่าวว่า พวกเขาไม่ได้ฝึกโมเดลล่วงหน้าเนื่องจากไม่มีสิทธิ์เข้าถึงข้อมูลที่เป็นกรรมสิทธิ์ของ Google อย่างไรก็ตาม พวกเขาอ้างว่าซอฟต์แวร์ของพวกเขาได้รับการยืนยันโดยวิศวกรอีกสองคนของบริษัทอินเทอร์เน็ตยักษ์ใหญ่ ซึ่งถูกระบุว่าเป็นผู้เขียนร่วมของหนังสือพิมพ์ Nature ด้วย Prof.Kahng กำลังนำเสนอการศึกษาของทีมของเขาที่งาน International Symposium on Physical Design ปีนี้ การประชุม วันอังคาร

ในขณะเดียวกัน Google ยังคงใช้เทคนิคการเรียนรู้แบบเสริมกำลังเพื่อปรับปรุง TPU ซึ่งใช้งานอย่างแข็งขันในศูนย์ข้อมูล

Fired Googler อ้างว่าการวิจัยได้รับการโฆษณาสำหรับข้อตกลงระบบคลาวด์ที่ร่ำรวย

การกล่าวอ้างของ Nature Paper ของ Google เกี่ยวกับประสิทธิภาพเหนือมนุษย์ถูกโต้แย้งภายในองค์กรอินเทอร์เน็ตยักษ์ใหญ่ ในเดือนพฤษภาคมปีที่แล้ว Satrajit Chatterjee นักวิจัย AI ถูกไล่ออกจาก Google พร้อมสาเหตุ เขาอ้างว่าเขาถูกปล่อยไปเพราะเขาวิพากษ์วิจารณ์การศึกษาเรื่องธรรมชาติและโต้แย้งข้อค้นพบของหนังสือพิมพ์ Chatterjee ยังบอกด้วยว่า Google จะไม่เผยแพร่รายงานของเขาที่วิจารณ์การศึกษาครั้งแรก

นอกจากนี้ เขายังถูก Googler คนอื่นๆ กล่าวหาว่าวิพากษ์วิจารณ์เขามากเกินไป เช่น อธิบายงานด้วยวาจาว่าเป็น "ซากรถไฟ" และ "ไฟไหม้ยางรถ" และถูกสอบสวนโดยฝ่ายทรัพยากรบุคคลสำหรับพฤติกรรมที่ถูกกล่าวหา

ตั้งแต่นั้นมา Chatterjee ได้ฟ้องร้อง Google ในศาลสูงแห่งแคลิฟอร์เนียในซานตาคลารา โดยอ้างว่าการเลิกจ้างโดยมิชอบ Chatterjee ปฏิเสธที่จะแสดงความคิดเห็นสำหรับเรื่องนี้ และเขาปฏิเสธการกระทำผิดใดๆ Mirhoseini และ Goldie ออกจาก Google ในกลางปี ​​2022 หลังจากที่ Chatterjee ถูกไล่ออก

ในการร้องเรียนต่อ Google ซึ่งมีการแก้ไข [รูปแบบไฟล์ PDF] เมื่อเดือนที่แล้ว ทนายความของ Chatterjee อ้างว่าเว็บยักษ์ใหญ่แห่งนี้กำลังคิดที่จะทำการค้าซอฟต์แวร์สร้างแผนผังชั้นโดยใช้ AI กับ “บริษัท S” ในขณะที่กำลังเจรจาข้อตกลง Google Cloud ที่มีรายงานว่ามีมูลค่า 120 ล้านดอลลาร์กับ S ในขณะนั้น Chatterjee อ้างว่า Google เป็นผู้สนับสนุนเอกสารแผนผังเพื่อช่วยโน้มน้าวให้บริษัท S เข้าร่วมกับข้อตกลงทางการค้าที่สำคัญนี้

“การศึกษานี้ดำเนินการในส่วนที่เป็นขั้นตอนแรกสู่ศักยภาพเชิงพาณิชย์กับ [บริษัท S] (และดำเนินการโดยใช้ทรัพยากรจาก [บริษัท S]) เนื่องจากมันทำในบริบทของข้อตกลงคลาวด์ที่มีศักยภาพขนาดใหญ่ มันคงจะผิดจรรยาบรรณที่จะบอกเป็นนัยว่าเรามีเทคโนโลยีที่ปฏิวัติวงการเมื่อการทดสอบของเราแสดงให้เห็นเป็นอย่างอื่น” Chatterjee เขียนในอีเมลถึง CEO ของ Google Sundar Pichai รองประธานและเพื่อนวิศวกรรม Jay Yagnik และรองประธานฝ่ายวิจัยของ Google Rahul Sukthankar ซึ่งถูกเปิดเผยเป็นส่วนหนึ่งของคดีความ

เอกสารที่ยื่นต่อศาลของเขากล่าวหาว่า Google "พูดเกินจริง" ผลการศึกษา และ "จงใจระงับข้อมูลสำคัญจากบริษัท S เพื่อจูงใจให้ลงนามในข้อตกลงการประมวลผลแบบคลาวด์" เป็นการหลอกล่อธุรกิจอื่นอย่างมีประสิทธิภาพโดยใช้สิ่งที่เขาเห็นว่าเป็นเทคโนโลยีที่น่าสงสัย

บริษัท S ได้รับการอธิบายว่าเป็น "บริษัทออกแบบระบบอิเล็กทรอนิกส์อัตโนมัติ" ในเอกสารของศาล คนคุ้นเคยมาเล่าสู่กันฟัง ลงทะเบียน Company S คือ Synopsys

Synopsys และ Google ปฏิเสธที่จะแสดงความคิดเห็น ®

มีเรื่องราวในโลกของปัญญาประดิษฐ์ที่คุณต้องการแบ่งปันหรือไม่? พูดคุยกับเรา ด้วยความมั่นใจ

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• เพลโตบล็อคเชน Web3 Metaverse ข่าวกรอง ขยายความรู้. เข้าถึงได้ที่นี่.
• ที่มา: https://go.theregister.com/feed/www.theregister.com/2023/03/27/google_ai_chip_paper_nature/