Οι ισχυρισμοί της Google για διάταξη τσιπ υπερ-ανθρώπινης τεχνητής νοημοσύνης επανέρχονται στο μικροσκόπιο

Ειδική αναφορά Μια ερευνητική εργασία υπό την ηγεσία της Google που δημοσιεύτηκε στο Nature, υποστηρίζοντας ότι το λογισμικό μηχανικής μάθησης μπορεί να σχεδιάσει καλύτερα τσιπ πιο γρήγορα από τους ανθρώπους, τέθηκε υπό αμφισβήτηση αφού μια νέα μελέτη αμφισβήτησε τα αποτελέσματά της.

Τον Ιούνιο του 2021, η Google έκανε τίτλους για την ανάπτυξη ενός συστήματος που βασίζεται στη μάθηση ενίσχυσης, ικανό να δημιουργεί αυτόματα βελτιστοποιημένες κατόψεις μικροτσίπ. Αυτά τα σχέδια καθορίζουν τη διάταξη των μπλοκ ηλεκτρονικών κυκλωμάτων μέσα στο τσιπ: όπου πράγματα όπως οι πυρήνες της CPU και της GPU, και οι ελεγκτές μνήμης και περιφερειακών, στην πραγματικότητα βρίσκονται στο φυσικό πυρίτιο.

Η Google είπε ότι χρησιμοποιούσε αυτό το λογισμικό τεχνητής νοημοσύνης για να σχεδιάσει τα εγχώρια τσιπ TPU της που επιταχύνουν τους φόρτους εργασίας της τεχνητής νοημοσύνης: χρησιμοποιούσε μηχανική εκμάθηση για να κάνει τα άλλα της συστήματα μηχανικής μάθησης να λειτουργούν πιο γρήγορα. 

Η κάτοψη ενός τσιπ είναι σημαντική επειδή υπαγορεύει πόσο καλά αποδίδει ο επεξεργαστής. Θα θέλετε να τακτοποιήσετε προσεκτικά τα μπλοκ των κυκλωμάτων του τσιπ, έτσι ώστε, για παράδειγμα, τα σήματα και τα δεδομένα να διαδίδονται μεταξύ αυτών των περιοχών με επιθυμητό ρυθμό. Οι μηχανικοί συνήθως περνούν εβδομάδες ή μήνες για να βελτιώσουν τα σχέδιά τους προσπαθώντας να βρουν τη βέλτιστη διαμόρφωση. Όλα τα διαφορετικά υποσυστήματα πρέπει να τοποθετηθούν με συγκεκριμένο τρόπο για να παραχθεί ένα τσιπ όσο το δυνατόν πιο ισχυρό, ενεργειακά αποδοτικό και μικρό. 

Η παραγωγή μιας κάτοψης σήμερα συνήθως περιλαμβάνει έναν συνδυασμό χειρωνακτικής εργασίας και αυτοματισμού χρησιμοποιώντας εφαρμογές σχεδιασμού τσιπ. Η ομάδα της Google προσπάθησε να αποδείξει ότι η προσέγγισή της για την ενίσχυση της μάθησης θα παρήγαγε σχέδια καλύτερα από αυτά που κατασκευάστηκαν μόνο από ανθρώπινους μηχανικούς που χρησιμοποιούν εργαλεία της βιομηχανίας. Όχι μόνο αυτό, η Google είπε ότι το μοντέλο της ολοκλήρωσε το έργο της πολύ πιο γρήγορα από ό, τι οι μηχανικοί επαναλαμβάνουν τις διατάξεις.

«Παρά πέντε δεκαετίες έρευνας, η σχεδίαση ορόφων με τσιπ αψήφησε την αυτοματοποίηση, απαιτώντας μήνες έντονης προσπάθειας από μηχανικούς φυσικού σχεδιασμού για την παραγωγή κατασκευαστικής διάταξης… Σε λιγότερο από έξι ώρες, η μέθοδός μας δημιουργεί αυτόματα κατόψεις τσιπ που είναι ανώτερες ή συγκρίσιμες με αυτές που παράγονται από τον άνθρωπο σε όλες τις βασικές μετρήσεις», οι υπάλληλοι της Google Έγραψε στο χαρτί Nature τους.

Η έρευνα τράβηξε την προσοχή της κοινότητας ηλεκτρονικών αυτοματισμών σχεδιασμού, η οποία ήδη προχωρούσε προς την ενσωμάτωση αλγορίθμων μηχανικής μάθησης στις σουίτες λογισμικού της. Τώρα οι ισχυρισμοί της Google για το καλύτερο από τον άνθρωπο μοντέλο αμφισβητήθηκαν από μια ομάδα στο Πανεπιστήμιο της Καλιφόρνια στο Σαν Ντιέγκο (UCSD).

Αδικο πλεονέκτημα?

Με επικεφαλής τον Andrew Kahng, καθηγητή της επιστήμης και της μηχανικής υπολογιστών, αυτή η ομάδα πέρασε μήνες στην αντίστροφη μηχανική του αγωγού σχεδιασμού ορόφων που περιέγραψε η Google στο Nature. Ο γίγαντας του διαδικτύου απέκρυψε ορισμένες λεπτομέρειες της εσωτερικής λειτουργίας του μοντέλου του, επικαλούμενος την εμπορική ευαισθησία, οπότε το UCSD έπρεπε να βρει πώς να φτιάξει τη δική του πλήρη έκδοση για να επαληθεύσει τα ευρήματα των υπαλλήλων της Google. Ο καθηγητής Kahng, σημειώνουμε, υπηρέτησε ως κριτής για το Nature κατά τη διαδικασία αξιολόγησης από ομοτίμους της εργασίας της Google.

Οι ακαδημαϊκοί του πανεπιστημίου βρήκαν τελικά τη δική τους δημιουργία του αρχικού κώδικα της Google, που αναφέρεται ως κυκλική εκπαίδευση (CT) στο τη μελέτη τους, στην πραγματικότητα είχε χειρότερη απόδοση από τους ανθρώπους χρησιμοποιώντας παραδοσιακές μεθόδους και εργαλεία της βιομηχανίας.

Τι θα μπορούσε να έχει προκαλέσει αυτή την ασυμφωνία; Θα μπορούσε κανείς να πει ότι η αναψυχή ήταν ελλιπής, αν και μπορεί να υπάρχει άλλη εξήγηση. Με την πάροδο του χρόνου, η ομάδα UCSD έμαθε ότι η Google είχε χρησιμοποιήσει εμπορικό λογισμικό που αναπτύχθηκε από τη Synopsys, έναν σημαντικό κατασκευαστή σουιτών ηλεκτρονικών αυτοματισμών σχεδιασμού (EDA), για να δημιουργήσει μια αρχική διάταξη των λογικών πυλών του τσιπ που στη συνέχεια βελτιστοποίησε το ενισχυτικό σύστημα εκμάθησης του γίγαντα του Ιστού.

Τα πειράματα δείχνουν ότι οι πληροφορίες αρχικής τοποθέτησης μπορούν να βελτιώσουν σημαντικά τα αποτελέσματα της αξονικής τομογραφίας

Το έγγραφο της Google ανέφερε ότι χρησιμοποιήθηκαν εργαλεία λογισμικού και χειροκίνητη προσαρμογή μετά το μοντέλο είχε δημιουργήσει μια διάταξη, πρωτίστως για να διασφαλίσει ότι ο επεξεργαστής θα λειτουργούσε όπως είχε προβλεφθεί και για να την οριστικοποιήσει για κατασκευή. Οι υπάλληλοι της Google υποστήριξαν ότι αυτό ήταν ένα απαραίτητο βήμα είτε η κάτοψη δημιουργήθηκε από έναν αλγόριθμο μηχανικής μάθησης είτε από ανθρώπους με τυπικά εργαλεία, και έτσι το μοντέλο του άξιζε τα εύσημα για το βελτιστοποιημένο τελικό προϊόν.

Ωστόσο, η ομάδα του UCSD είπε ότι δεν υπήρχε καμία αναφορά στο έγγραφο Nature για χρήση εργαλείων EDA εκ των προτέρων για να προετοιμάσετε μια διάταξη για επανάληψη του μοντέλου. Υποστηρίζεται ότι αυτά τα εργαλεία του Synopsys μπορεί να έδωσαν στο μοντέλο μια αρκετά αξιοπρεπή αρχή ώστε οι πραγματικές δυνατότητες του συστήματος AI να τεθούν υπό αμφισβήτηση.

«Αυτό δεν ήταν εμφανές κατά την ανασκόπηση του χαρτιού», έγραψε η ομάδα του πανεπιστημίου για τη χρήση της σουίτας του Synopsys για την προετοιμασία μιας διάταξης για το μοντέλο, «και δεν αναφέρεται στο Nature. Τα πειράματα δείχνουν ότι οι πληροφορίες αρχικής τοποθέτησης μπορούν να βελτιώσουν σημαντικά τα αποτελέσματα της αξονικής τομογραφίας».

Η φύση ερευνά την έρευνα της Google

Ορισμένοι ακαδημαϊκοί από τότε προέτρεψαν το Nature να αναθεωρήσει την εργασία της Google υπό το φως της μελέτης του UCSD. Σε μηνύματα ηλεκτρονικού ταχυδρομείου στο περιοδικό που προβλήθηκε από Το μητρώο, οι ερευνητές τόνισαν τις ανησυχίες που εξέφρασαν ο καθηγητής Kahng και οι συνεργάτες του και αμφισβήτησαν εάν το έγγραφο της Google ήταν παραπλανητικό.

Ο Bill Swartz, ανώτερος λέκτορας που διδάσκει ηλεκτρολόγος μηχανικός στο Πανεπιστήμιο του Τέξας στο Ντάλας, είπε ότι η εφημερίδα Nature «άφησε πολλούς [ερευνητές] στο σκοτάδι», καθώς τα αποτελέσματα αφορούσαν τις ιδιόκτητες TPU του τιτάνα του Διαδικτύου και, ως εκ τούτου, είναι αδύνατο να επαληθευτεί.

Η χρήση του λογισμικού της Synopsys για την εκκίνηση του λογισμικού της Google πρέπει να διερευνηθεί, είπε. «Όλοι θέλουμε απλώς να μάθουμε τον πραγματικό αλγόριθμο για να μπορούμε να τον αναπαράγουμε. Εάν οι ισχυρισμοί [της Google] είναι σωστοί, τότε θέλουμε να το εφαρμόσουμε. Πρέπει να υπάρχει επιστήμη, να είναι όλα αντικειμενικά. αν λειτουργεί, λειτουργεί», είπε.

είπε η φύση Το μητρώο εξετάζει το έγγραφο της Google, αν και δεν ανέφερε ακριβώς τι ερευνούσε ούτε γιατί.

«Δεν μπορούμε να σχολιάσουμε τις λεπτομέρειες μεμονωμένων περιπτώσεων για λόγους εμπιστευτικότητας», μας είπε ένας εκπρόσωπος του Nature. «Ωστόσο, μιλώντας γενικά, όταν εγείρονται ανησυχίες για οποιαδήποτε εργασία που δημοσιεύεται στο περιοδικό, τις εξετάζουμε προσεκτικά ακολουθώντας μια καθιερωμένη διαδικασία.

«Αυτή η διαδικασία περιλαμβάνει διαβούλευση με τους συγγραφείς και, όπου χρειάζεται, αναζήτηση συμβουλών από ομοτίμους κριτές και άλλους εξωτερικούς εμπειρογνώμονες. Μόλις έχουμε αρκετές πληροφορίες για να λάβουμε μια απόφαση, ακολουθούμε την απάντηση που είναι η καταλληλότερη και που παρέχει σαφήνεια στους αναγνώστες μας ως προς το αποτέλεσμα».

Αυτή δεν είναι η πρώτη φορά που το περιοδικό πραγματοποιεί έρευνα μετά τη δημοσίευση της μελέτης, η οποία βρίσκεται αντιμέτωπη με εκ νέου έλεγχο. Το έγγραφο των υπαλλήλων της Google παρέμεινε στο διαδίκτυο με μια διόρθωση συγγραφέα που προστέθηκε τον Μάρτιο του 2022, η οποία περιελάμβανε α σύνδεσμος σε ορισμένους από τον ανοιχτό κώδικα CT της Google για όσους προσπαθούν να ακολουθήσουν τις μεθόδους της μελέτης.

Χωρίς προκατάρτιση και όχι αρκετό υπολογισμό;

Οι κύριοι συντάκτες της εργασίας της Google, η Azalia Mirhoseini και η Anna Goldie, είπαν ότι το έργο της ομάδας UCSD δεν αποτελεί ακριβή εφαρμογή της μεθόδου τους. Τόνισαν ότι η ομάδα του καθηγητή Kahng έλαβε χειρότερα αποτελέσματα, καθώς δεν προεκπαίδευσε το μοντέλο τους σε κανένα απολύτως στοιχείο.

«Μια μέθοδος που βασίζεται στη μάθηση φυσικά θα έχει χειρότερη απόδοση εάν δεν επιτρέπεται να μάθει από προηγούμενη εμπειρία. Στο έγγραφό μας για το Nature, προπονούμαστε σε 20 τετράγωνα πριν αξιολογήσουμε τις υπολειμματικές περιπτώσεις δοκιμών», ανέφεραν οι δύο σε μια δήλωση [PDF].

Η ομάδα του καθηγητή Kahng επίσης δεν εκπαίδευσε το σύστημά της χρησιμοποιώντας την ίδια υπολογιστική ισχύ που χρησιμοποιούσε η Google και πρότεινε ότι αυτό το βήμα μπορεί να μην είχε πραγματοποιηθεί σωστά, με αποτέλεσμα να ακρωτηριαστεί η απόδοση του μοντέλου. Οι Mirhoseini και Goldie είπαν επίσης ότι το βήμα προεπεξεργασίας με χρήση εφαρμογών EDA που δεν περιγράφεται ρητά στο έγγραφο Nature δεν ήταν αρκετά σημαντικό για να το αναφέρουν. 

«Το έγγραφο [UCSD] εστιάζει στη χρήση της αρχικής τοποθέτησης από τη φυσική σύνθεση έως τη συστάδα τυπικών κυττάρων, αλλά αυτό δεν αποτελεί πρακτική ανησυχία. Πρέπει να γίνει φυσική σύνθεση πριν από την εκτέλεση οποιασδήποτε μεθόδου τοποθέτησης», είπαν. "Αυτή είναι τυπική πρακτική στο σχεδιασμό τσιπ."

Η ομάδα UCSD, ωστόσο, είπε δεν εκπαίδευσαν εκ των προτέρων το μοντέλο τους επειδή δεν είχαν πρόσβαση στα ιδιόκτητα δεδομένα της Google. Ισχυρίστηκαν, ωστόσο, ότι το λογισμικό τους είχε επαληθευτεί από δύο άλλους μηχανικούς του γίγαντα του Διαδικτύου, οι οποίοι αναφέρονταν επίσης ως συν-συγγραφείς της εφημερίδας Nature. Ο καθηγητής Kahng παρουσιάζει τη μελέτη της ομάδας του στο φετινό Διεθνές Συμπόσιο για το Φυσικό Σχέδιο διάσκεψη Τρίτη.

Εν τω μεταξύ, η Google συνεχίζει να χρησιμοποιεί τεχνικές που βασίζονται στην ενίσχυση της μάθησης για να βελτιώσει τις TPU της, οι οποίες χρησιμοποιούνται ενεργά στα κέντρα δεδομένων της.

Ο απολυμένος υπάλληλος της Google ισχυρίζεται ότι η έρευνα προβλήθηκε για μια επικερδή συμφωνία cloud

Ξεχωριστά, οι ισχυρισμοί της εφημερίδας Nature της Google για υπεράνθρωπες επιδόσεις αμφισβητήθηκαν εσωτερικά μέσα στον διαδικτυακό γολιάθ. Τον Μάιο του περασμένου έτους, ο Satrajit Chatterjee, ερευνητής τεχνητής νοημοσύνης, απολύθηκε από την Google με αιτία. ισχυρίστηκε ότι αφέθηκε να φύγει επειδή είχε ασκήσει κριτική στη μελέτη Nature και αμφισβήτησε τα ευρήματα της εφημερίδας. Ο Chatterjee ενημερώθηκε επίσης ότι η Google δεν θα δημοσιεύσει την εργασία του που κριτικάρει την πρώτη μελέτη.

Κατηγορήθηκε επίσης από άλλους υπαλλήλους της Google ότι προχώρησε υπερβολικά στην κριτική του – όπως, για παράδειγμα, φέρεται να περιέγραψε προφορικά το έργο ως «ναυάγιο τρένου» και «πυρκαγιά ελαστικών»– και τέθηκε υπό έρευνα ανθρώπινου δυναμικού για την υποτιθέμενη συμπεριφορά του.

Ο Chatterjee έκτοτε μήνυσε την Google στο Ανώτατο Δικαστήριο της Καλιφόρνια στη Σάντα Κλάρα ισχυριζόμενος παράνομη καταγγελία. Ο Chatterjee αρνήθηκε να σχολιάσει αυτή την ιστορία και αρνείται οποιαδήποτε αδικοπραγία. Ο Mirhoseini και η Goldie αποχώρησαν από την Google στα μέσα του 2022 μετά τον τσεκούρι του Chatterjee.

Στην καταγγελία του κατά της Google, η οποία τροποποιήθηκε [PDF] τον περασμένο μήνα, οι δικηγόροι του Chatterjee ισχυρίστηκαν ότι ο διαδικτυακός γίγαντας σκεφτόταν να εμπορευματοποιήσει το λογισμικό του που δημιουργεί κάτοψη που βασίζεται σε AI με την "Company S" ενώ διαπραγματευόταν μια συμφωνία με το Google Cloud, σύμφωνα με πληροφορίες, αξίας 120 εκατομμυρίων δολαρίων με την S εκείνη την εποχή. Ο Chatterjee ισχυρίστηκε ότι η Google υπερασπίστηκε το χαρτί της κάτοψης για να πείσει την εταιρεία S να συμμετάσχει σε αυτό το σημαντικό εμπορικό σύμφωνο.

«Η μελέτη έγινε εν μέρει ως ένα πρώτο βήμα προς την πιθανή εμπορευματοποίηση με την [Εταιρεία S] (και πραγματοποιήθηκε με πόρους από την [Εταιρεία S]). Εφόσον έγινε στο πλαίσιο μιας μεγάλης δυνητικής συμφωνίας για το Cloud, θα ήταν ανήθικο να υπονοηθεί ότι είχαμε επαναστατική τεχνολογία όταν οι δοκιμές μας έδειξαν το αντίθετο», έγραψε ο Chatterjee σε ένα email στον διευθύνοντα σύμβουλο της Google, Sundar Pichai, Αντιπρόεδρο και Μηχανικό, Jay. Yagnik και αντιπρόεδρος της Google Research Rahul Sukthankar, η οποία αποκαλύφθηκε ως μέρος της αγωγής.

Οι δικαστικές καταθέσεις του κατηγορούσαν την Google ότι «υπερεκτίμησε» τα αποτελέσματα της μελέτης της και «εσκεμμένη απόκρυψη υλικών πληροφοριών από την Εταιρεία S για να την παρακινήσει να υπογράψει μια συμφωνία υπολογιστικού νέφους», γοητεύοντας ουσιαστικά την άλλη επιχείρηση χρησιμοποιώντας αυτό που θεωρούσε αμφισβητήσιμη τεχνολογία.

Η εταιρεία S περιγράφεται ως «εταιρεία αυτοματισμού ηλεκτρονικού σχεδιασμού» στα δικαστικά έγγραφα. Άνθρωποι που γνωρίζουν το θέμα είπαν Το μητρώο Η εταιρεία S είναι η Synopsys.

Η Synopsys και η Google αρνήθηκαν να σχολιάσουν. ®

Υπάρχει κάποια ιστορία στον κόσμο της τεχνητής νοημοσύνης που θέλετε να μοιραστείτε; Μίλησέ μας εμπιστευτικά.

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• Platoblockchain. Web3 Metaverse Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• πηγή: https://go.theregister.com/feed/www.theregister.com/2023/03/27/google_ai_chip_paper_nature/