Tuyên bố của Google về cách bố trí chip AI siêu nhân trở lại dưới kính hiển vi

Báo cáo khẩn cấp Một bài báo nghiên cứu do Google dẫn đầu được xuất bản trên tạp chí Nature, tuyên bố phần mềm học máy có thể thiết kế chip tốt hơn nhanh hơn con người, đã bị đặt câu hỏi sau khi một nghiên cứu mới phản bác kết quả của nó.

Vào tháng 2021 năm XNUMX, Google đã thực hiện tiêu đề để phát triển một hệ thống dựa trên học tăng cường có khả năng tự động tạo sơ đồ tầng vi mạch được tối ưu hóa. Các kế hoạch này xác định cách sắp xếp các khối mạch điện tử bên trong chip: nơi những thứ như lõi CPU và GPU, bộ nhớ và bộ điều khiển ngoại vi, thực sự nằm trên khuôn silicon vật lý.

Google cho biết họ đang sử dụng phần mềm AI này để thiết kế các chip TPU tự sản xuất nhằm tăng tốc khối lượng công việc AI: họ đang sử dụng máy học để làm cho các hệ thống máy học khác của mình chạy nhanh hơn. 

Sơ đồ tầng của một con chip rất quan trọng vì nó cho biết bộ xử lý hoạt động tốt như thế nào. Bạn sẽ muốn sắp xếp các khối mạch của chip một cách cẩn thận sao cho tín hiệu và dữ liệu truyền giữa các khu vực này với tốc độ mong muốn chẳng hạn. Các kỹ sư thường dành hàng tuần hoặc hàng tháng để tinh chỉnh thiết kế của họ để cố gắng tìm ra cấu hình tối ưu. Tất cả các hệ thống con khác nhau phải được đặt theo một cách cụ thể để tạo ra một con chip mạnh mẽ, tiết kiệm năng lượng và nhỏ nhất có thể. 

Việc sản xuất sơ đồ mặt bằng ngày nay thường liên quan đến sự kết hợp giữa công việc thủ công và tự động hóa bằng cách sử dụng các ứng dụng thiết kế chip. Nhóm của Google đã tìm cách chứng minh rằng phương pháp học tăng cường của họ sẽ tạo ra các thiết kế tốt hơn so với những thiết kế chỉ do các kỹ sư con người tạo ra bằng các công cụ công nghiệp. Không chỉ vậy, Google cho biết mô hình của họ đã hoàn thành công việc nhanh hơn nhiều so với việc các kỹ sư lặp đi lặp lại các bố cục.

“Mặc dù đã trải qua XNUMX thập kỷ nghiên cứu, nhưng sơ đồ mặt bằng chip đã thách thức quá trình tự động hóa, đòi hỏi nhiều tháng nỗ lực của các kỹ sư thiết kế vật lý để tạo ra bố cục có thể sản xuất được… Trong vòng chưa đầy XNUMX giờ, phương pháp của chúng tôi tự động tạo ra các sơ đồ mặt bằng chip cao cấp hơn hoặc có thể so sánh được với những sơ đồ do con người tạo ra trong tất cả các lĩnh vực. các số liệu chính,” các nhân viên của Google đã viết trong bài báo Nature của họ.

Nghiên cứu đã thu hút sự chú ý của cộng đồng tự động hóa thiết kế điện tử, cộng đồng đang hướng tới việc kết hợp các thuật toán học máy vào bộ phần mềm của họ. Giờ đây, những tuyên bố của Google về mô hình tốt hơn con người của họ đã bị thách thức bởi một nhóm tại Đại học California, San Diego (UCSD).

Lợi thế không công bằng?

Được dẫn dắt bởi Andrew Kahng, giáo sư khoa học máy tính và kỹ thuật, nhóm đó đã dành nhiều tháng để thiết kế ngược lại quy trình lập kế hoạch sàn mà Google đã mô tả trên tạp chí Nature. Gã khổng lồ web đã giữ lại một số chi tiết về hoạt động bên trong mô hình của mình, với lý do nhạy cảm thương mại, vì vậy UCSD phải tìm ra cách tạo phiên bản hoàn chỉnh của riêng họ để xác minh phát hiện của nhân viên Google. Chúng tôi lưu ý rằng Giáo sư Kahng đã từng là người đánh giá cho tạp chí Nature trong quá trình bình duyệt bài báo của Google.

Các học giả đại học cuối cùng đã tìm ra cách tái tạo mã Google gốc của riêng họ, được gọi là đào tạo mạch (CT) trong nghiên cứu của họ, thực sự hoạt động kém hơn con người khi sử dụng các phương pháp và công cụ công nghiệp truyền thống.

Điều gì có thể đã gây ra sự khác biệt này? Người ta có thể nói rằng trò giải trí không hoàn chỉnh, mặc dù có thể có một lời giải thích khác. Theo thời gian, nhóm UCSD biết được Google đã sử dụng phần mềm thương mại do Synopsys, nhà sản xuất chính của bộ tự động hóa thiết kế điện tử (EDA), phát triển, để tạo ra sự sắp xếp ban đầu cho các cổng logic của chip mà hệ thống học tăng cường của gã khổng lồ web sau đó đã tối ưu hóa.

Các thí nghiệm cho thấy rằng việc có thông tin vị trí ban đầu có thể cải thiện đáng kể kết quả CT

Bài báo của Google đã đề cập rằng các công cụ phần mềm tiêu chuẩn công nghiệp và chỉnh sửa thủ công đã được sử dụng sau khi mô hình đã tạo ra một bố cục, chủ yếu để đảm bảo bộ xử lý sẽ hoạt động như dự định và hoàn thiện nó để chế tạo. Các nhân viên của Google cho rằng đây là một bước cần thiết cho dù sơ đồ tầng được tạo bởi thuật toán máy học hay bởi con người với các công cụ tiêu chuẩn và do đó, mô hình của nó xứng đáng được ghi nhận là sản phẩm cuối cùng được tối ưu hóa.

Tuy nhiên, nhóm UCSD cho biết không có đề cập nào trong bài báo Tự nhiên về các công cụ EDA đang được sử dụng trước để chuẩn bị bố cục cho mô hình lặp lại. Người ta lập luận rằng những công cụ Synopsys này có thể đã mang lại cho mô hình một khởi đầu đủ tốt để các khả năng thực sự của hệ thống AI nên được đặt câu hỏi.

“Điều này không rõ ràng trong quá trình xem xét bài báo,” nhóm đại học đã viết về việc sử dụng bộ Synopsys để chuẩn bị bố cục cho mô hình, “và không được đề cập trong tạp chí Nature. Các thí nghiệm cho thấy rằng việc có thông tin về vị trí ban đầu có thể nâng cao đáng kể kết quả CT.”

Thiên nhiên điều tra nghiên cứu của Google

Kể từ đó, một số học giả đã thúc giục Nature xem xét bài báo của Google dựa trên nghiên cứu của UCSD. Trong email gửi tới tạp chí được xem bởi Đăng ký, các nhà nghiên cứu đã nhấn mạnh những lo ngại của Giáo sư Kahng và các đồng nghiệp của ông, đồng thời đặt câu hỏi liệu bài báo của Google có gây hiểu lầm hay không.

Bill Swartz, giảng viên cao cấp giảng dạy kỹ thuật điện tại Đại học Texas ở Dallas, cho biết bài báo trên tạp chí Nature “khiến rất nhiều [nhà nghiên cứu] chìm trong bóng tối” vì kết quả liên quan đến TPU độc quyền của gã khổng lồ internet và do đó, không thể xác minh.

Ông nói, việc sử dụng phần mềm của Synopsys để đánh bại phần mềm của Google cần phải được điều tra. “Tất cả chúng tôi chỉ muốn biết thuật toán thực tế để có thể tái tạo nó. Nếu tuyên bố của [Google] là đúng, thì chúng tôi muốn triển khai nó. Phải có khoa học, phải khách quan; nếu nó hoạt động, nó hoạt động, anh ấy nói.

thiên nhiên bảo Đăng ký nó đang xem xét bài báo của Google, mặc dù nó không nói chính xác nó đang điều tra cái gì và tại sao.

Người phát ngôn của Nature nói với chúng tôi: “Chúng tôi không thể bình luận về chi tiết của từng trường hợp vì lý do bảo mật. “Tuy nhiên, nói chung, khi có lo ngại về bất kỳ bài báo nào được đăng trên tạp chí, chúng tôi sẽ xem xét chúng cẩn thận theo một quy trình đã được thiết lập.

“Quá trình này bao gồm việc tham khảo ý kiến ​​của các tác giả và, khi thích hợp, tìm kiếm lời khuyên từ những người bình duyệt và các chuyên gia bên ngoài khác. Khi chúng tôi có đủ thông tin để đưa ra quyết định, chúng tôi sẽ đưa ra phản hồi phù hợp nhất và cung cấp sự rõ ràng cho độc giả của chúng tôi về kết quả.”

Đây không phải là lần đầu tiên tạp chí thực hiện một cuộc thăm dò sau khi xuất bản nghiên cứu đang phải đối mặt với sự giám sát mới. Bài báo của nhân viên Google vẫn trực tuyến với phần chỉnh sửa của tác giả được thêm vào tháng 2022 năm XNUMX, bao gồm một Link đến một số mã CT mã nguồn mở của Google dành cho những người đang cố gắng tuân theo các phương pháp của nghiên cứu.

Không đào tạo trước và không đủ tính toán?

Các tác giả chính của bài báo của Google, Azalia Mirhoseini và Anna Goldie, cho biết công việc của nhóm UCSD không phải là sự triển khai chính xác phương pháp của họ. Họ chỉ ra rằng nhóm của Giáo sư Kahng thu được kết quả tồi tệ hơn vì họ không đào tạo trước mô hình của mình trên bất kỳ dữ liệu nào.

“Một phương pháp dựa trên học tập tất nhiên sẽ hoạt động kém hơn nếu nó không được phép học hỏi từ kinh nghiệm trước đó. Trong bài báo Nature của chúng tôi, chúng tôi huấn luyện trước 20 khối trước khi đánh giá các trường hợp thử nghiệm đã được tổ chức,” cả hai cho biết trong một tuyên bố [PDF].

Nhóm của Giáo sư Kahng cũng không đào tạo hệ thống của họ bằng cách sử dụng cùng một lượng sức mạnh tính toán như Google đã sử dụng và cho rằng bước này có thể không được thực hiện đúng cách, làm tê liệt hiệu suất của mô hình. Mirhoseini và Goldie cũng cho biết bước tiền xử lý sử dụng các ứng dụng EDA không được mô tả rõ ràng trong bài báo Nature của họ là không đủ quan trọng để đề cập. 

“Bài báo [UCSD] tập trung vào việc sử dụng vị trí ban đầu từ tổng hợp vật lý đến cụm ô tiêu chuẩn, nhưng đây không phải là mối quan tâm thực tế. Họ cho biết quá trình tổng hợp vật lý phải được thực hiện trước khi chạy bất kỳ phương pháp sắp xếp nào. “Đây là thông lệ tiêu chuẩn trong thiết kế chip.”

Tuy nhiên, nhóm UCSD, nói họ đã không đào tạo trước mô hình của mình vì họ không có quyền truy cập vào dữ liệu độc quyền của Google. Tuy nhiên, họ tuyên bố rằng phần mềm của họ đã được xác minh bởi hai kỹ sư khác của gã khổng lồ internet, những người cũng được liệt kê là đồng tác giả của bài báo Nature. Giáo sư Kahng đang trình bày nghiên cứu của nhóm mình tại Hội nghị chuyên đề quốc tế về thiết kế vật lý năm nay hội nghị Thứ ba.

Trong khi đó, Google tiếp tục sử dụng các kỹ thuật dựa trên học tăng cường để nâng cao TPU của mình, vốn được sử dụng tích cực trong các trung tâm dữ liệu của họ.

Googler bị sa thải tuyên bố nghiên cứu đã được thổi phồng cho một thỏa thuận đám mây béo bở

Riêng biệt, những tuyên bố trên tờ Nature của Google về hiệu suất siêu phàm đã bị tranh cãi trong nội bộ gã khổng lồ internet. Vào tháng 5 năm ngoái, Satrajit Chatterjee, một nhà nghiên cứu AI, đã bị Google sa thải có lý do; anh ta khẳng định anh ta bị sa thải là vì anh ta đã chỉ trích nghiên cứu của Nature và phản đối kết quả của bài báo. Chatterjee cũng được thông báo rằng Google sẽ không xuất bản bài báo phê bình nghiên cứu đầu tiên của ông.

Anh ta cũng bị các nhân viên Google khác cáo buộc đã đi quá xa trong những lời chỉ trích của mình - chẳng hạn như bị cáo buộc mô tả công việc bằng lời nói là "một vụ đắm tàu" và "cháy lốp" - và bị nhân sự điều tra vì hành vi bị cáo buộc của anh ta.

Chatterjee kể từ đó đã kiện Google lên Tòa Thượng thẩm California ở Santa Clara với yêu cầu chấm dứt hợp đồng sai trái. Chatterjee từ chối bình luận về câu chuyện này và phủ nhận mọi hành vi sai trái. Mirhoseini và Goldie rời Google vào giữa năm 2022 sau khi Chatterjee bị sa thải.

Trong đơn khiếu nại chống lại Google, đã được sửa đổi [PDF] vào tháng trước, các luật sư của Chatterjee tuyên bố gã khổng lồ web đang nghĩ đến việc thương mại hóa phần mềm tạo sơ đồ tầng dựa trên AI của mình với “Công ty S” trong khi họ đang đàm phán một thỏa thuận Google Cloud được cho là trị giá 120 triệu đô la với S vào thời điểm đó. Chatterjee tuyên bố Google đã ủng hộ bài báo sơ đồ tầng để giúp thuyết phục Công ty S tham gia vào hiệp ước thương mại quan trọng này.

“Nghiên cứu được thực hiện một phần như là bước đầu tiên hướng tới tiềm năng thương mại hóa với [Công ty S] (và được thực hiện với các nguồn lực từ [Công ty S]). Vì nó được thực hiện trong bối cảnh của một thỏa thuận tiềm năng lớn về Đám mây, nên sẽ là phi đạo đức khi ngụ ý rằng chúng tôi có công nghệ mang tính cách mạng khi các thử nghiệm của chúng tôi cho thấy điều ngược lại,” Chatterjee viết trong một email gửi cho Giám đốc điều hành của Google Sundar Pichai, Phó Chủ tịch và Thành viên Kỹ thuật Jay Yagnik và Phó chủ tịch Google Research Rahul Sukthankar, được tiết lộ như một phần của vụ kiện.

Hồ sơ tòa án của anh ấy cáo buộc Google đã “phóng đại” kết quả nghiên cứu của mình và “cố tình giữ lại thông tin quan trọng từ Công ty S để khiến công ty này ký một thỏa thuận điện toán đám mây,” thu hút một cách hiệu quả doanh nghiệp khác bằng cách sử dụng thứ mà anh ấy coi là công nghệ đáng ngờ.

Công ty S được mô tả là một “công ty tự động hóa thiết kế điện tử” trong các tài liệu của tòa án. Những người quen thuộc với vấn đề nói Đăng ký Công ty S là Synopsys.

Synopsys và Google từ chối bình luận. ®

Có câu chuyện nào trong thế giới trí tuệ nhân tạo mà bạn muốn chia sẻ không? Nói với chúng tôi tự tin.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• Platoblockchain. Web3 Metaverse Intelligence. Khuếch đại kiến ​​thức. Truy cập Tại đây.
• nguồn: https://go.theregister.com/feed/www.theregister.com/2023/03/27/google_ai_chip_paper_nature/