Για να ρυθμίσετε την τεχνητή νοημοσύνη, ξεκινήστε με το υλικό, υποστηρίζουν οι boffins

Για να ρυθμίσετε την τεχνητή νοημοσύνη, ξεκινήστε με το υλικό, υποστηρίζουν οι boffins

Χρονική σήμανση: 16 Φεβρουαρίου 2024 8:33 π.μ.
Για να ρυθμίσετε την τεχνητή νοημοσύνη, ξεκινήστε με το υλικό, οι boffins υποστηρίζουν το PlatoBlockchain Data Intelligence. Κάθετη αναζήτηση. Ολα συμπεριλαμβάνονται.

Στην προσπάθειά μας να περιορίσουμε το καταστροφικό δυναμικό της τεχνητής νοημοσύνης, μια νέα δημοσίευση από το Πανεπιστήμιο του Κέιμπριτζ πρότεινε το ψήσιμο σε διακόπτες απομακρυσμένης εξόντωσης και κλειδώματα, όπως αυτά που αναπτύχθηκαν για να σταματήσουν τη μη εξουσιοδοτημένη εκτόξευση πυρηνικών όπλων, στο υλικό που το τροφοδοτεί.

Το χαρτί [PDF], το οποίο περιλαμβάνει φωνές από πολλά ακαδημαϊκά ιδρύματα και αρκετά από το OpenAI, υποστηρίζει ότι η ρύθμιση του υλικού στο οποίο βασίζονται αυτά τα μοντέλα μπορεί να είναι ο καλύτερος τρόπος για να αποτραπεί η κακή χρήση του.

«Ο υπολογισμός που σχετίζεται με την τεχνητή νοημοσύνη είναι ένα ιδιαίτερα αποτελεσματικό σημείο παρέμβασης: Είναι ανιχνεύσιμο, εξαιρέσιμο και ποσοτικοποιήσιμο και παράγεται μέσω μιας εξαιρετικά συγκεντρωμένης αλυσίδας εφοδιασμού», υποστηρίζουν οι ερευνητές.

Η εκπαίδευση των πιο παραγωγικών μοντέλων, που πιστεύεται ότι υπερβαίνει το ένα τρισεκατομμύριο παραμέτρους, απαιτεί τεράστια φυσική υποδομή: δεκάδες χιλιάδες GPU ή επιταχυντές και εβδομάδες ή και μήνες χρόνου επεξεργασίας. Αυτό, λένε οι ερευνητές, καθιστά δύσκολο να κρυφτεί η ύπαρξη και η σχετική απόδοση αυτών των πόρων.

Επιπλέον, τα πιο προηγμένα τσιπ που χρησιμοποιούνται για την εκπαίδευση αυτών των μοντέλων παράγονται από σχετικά μικρό αριθμό εταιρειών, όπως η Nvidia, η AMD και η Intel, επιτρέποντας στους υπεύθυνους χάραξης πολιτικής να περιορίζουν την πώληση αυτών των προϊόντων σε άτομα ή χώρες που ενδιαφέρονται.

Αυτοί οι παράγοντες, μαζί με άλλους, όπως οι περιορισμοί στην αλυσίδα εφοδιασμού στην κατασκευή ημιαγωγών, προσφέρουν στους πολιτικούς τα μέσα για να κατανοήσουν καλύτερα πώς και πού αναπτύσσεται η υποδομή τεχνητής νοημοσύνης, σε ποιους επιτρέπεται και σε ποιους δεν επιτρέπεται η πρόσβαση σε αυτήν και να επιβάλλουν κυρώσεις για την κακή χρήση της, υποστηρίζει η εφημερίδα. .

Έλεγχος της υποδομής

Το έγγραφο υπογραμμίζει πολλούς τρόπους με τους οποίους οι υπεύθυνοι χάραξης πολιτικής μπορούν να προσεγγίσουν τη ρύθμιση υλικού τεχνητής νοημοσύνης. Πολλές από τις προτάσεις – συμπεριλαμβανομένων εκείνων που έχουν σχεδιαστεί για τη βελτίωση της ορατότητας και τον περιορισμό της πώλησης επιταχυντών τεχνητής νοημοσύνης – εφαρμόζονται ήδη σε εθνικό επίπεδο.

Πέρυσι ο πρόεδρος των ΗΠΑ Τζο Μπάιντεν πρότεινε ένα εκτελεστικό διάταγμα με στόχο τον εντοπισμό εταιρειών που αναπτύσσουν μεγάλα μοντέλα τεχνητής νοημοσύνης διπλής χρήσης καθώς και των ικανών πωλητών υποδομής εκπαιδεύοντάς τους. Εάν δεν είστε εξοικειωμένοι, η "διπλή χρήση" αναφέρεται σε τεχνολογίες που μπορούν να εξυπηρετήσουν διπλά καθήκοντα σε πολιτικές και στρατιωτικές εφαρμογές.

Πιο πρόσφατα, το Υπουργείο Εμπορίου των ΗΠΑ προτείνεται κανονισμός που θα απαιτούσε από τους Αμερικανούς παρόχους cloud να εφαρμόσουν πιο αυστηρές πολιτικές «γνώρισε τον πελάτη σου» για να αποτρέψουν άτομα ή χώρες που ενδιαφέρουν να παρακάμψουν τους περιορισμούς εξαγωγών.

Αυτό το είδος ορατότητας είναι πολύτιμο, σημειώνουν οι ερευνητές, καθώς θα μπορούσε να βοηθήσει στην αποφυγή μιας άλλης κούρσας εξοπλισμών, όπως αυτή που προκλήθηκε από τη διαμάχη για το χάσμα των πυραύλων, όπου εσφαλμένες αναφορές οδήγησαν σε μαζική συσσώρευση βαλλιστικών πυραύλων. Αν και πολύτιμες, προειδοποιούν ότι η εκτέλεση αυτών των απαιτήσεων αναφοράς κινδυνεύει να παραβιάσει το απόρρητο των πελατών και ακόμη και να οδηγήσει σε διαρροή ευαίσθητων δεδομένων.

Εν τω μεταξύ, στο μέτωπο του εμπορίου, το Υπουργείο Εμπορίου συνέχισε ανεβάζω περιορισμούς, περιορίζοντας την απόδοση των επιταχυντών που πωλούνται στην Κίνα. Όμως, όπως έχουμε αναφέρει προηγουμένως, ενώ αυτές οι προσπάθειες έχουν καταστήσει πιο δύσκολο για χώρες όπως η Κίνα να πάρουν στα χέρια τους αμερικανικές μάρκες, απέχουν πολύ από το να είναι τέλειες.

Για την αντιμετώπιση αυτών των περιορισμών, οι ερευνητές πρότειναν την εφαρμογή ενός παγκόσμιου μητρώου για τις πωλήσεις τσιπ τεχνητής νοημοσύνης που θα τους παρακολουθούσε κατά τη διάρκεια του κύκλου ζωής τους, ακόμη και αφού φύγουν από τη χώρα προέλευσής τους. Ένα τέτοιο μητρώο, προτείνουν, θα μπορούσε να ενσωματώσει ένα μοναδικό αναγνωριστικό σε κάθε τσιπ, το οποίο θα μπορούσε να βοηθήσει στην καταπολέμηση λαθρεμπόριο των εξαρτημάτων.

Στο πιο ακραίο άκρο του φάσματος, οι ερευνητές έχουν προτείνει ότι οι διακόπτες kill θα μπορούσαν να ψηθούν στο πυρίτιο για να αποτραπεί η χρήση τους σε κακόβουλες εφαρμογές.

Θεωρητικά, αυτό θα μπορούσε να επιτρέψει στις ρυθμιστικές αρχές να ανταποκρίνονται ταχύτερα σε καταχρήσεις ευαίσθητων τεχνολογιών, διακόπτοντας την πρόσβαση σε τσιπ εξ αποστάσεως, αλλά οι συγγραφείς προειδοποιούν ότι κάτι τέτοιο δεν είναι χωρίς κίνδυνο. Το συμπέρασμα είναι, εάν εφαρμοστεί εσφαλμένα, ότι ένας τέτοιος διακόπτης kill θα μπορούσε να γίνει στόχος για εγκληματίες του κυβερνοχώρου.

Μια άλλη πρόταση θα απαιτούσε από πολλά μέρη να υπογράψουν δυνητικά επικίνδυνες εργασίες εκπαίδευσης τεχνητής νοημοσύνης προτού μπορέσουν να αναπτυχθούν σε κλίμακα. «Τα πυρηνικά όπλα χρησιμοποιούν παρόμοιους μηχανισμούς που ονομάζονται σύνδεσμοι επιτρεπτικής δράσης», έγραψαν.

Για τα πυρηνικά όπλα, αυτές οι κλειδαριές ασφαλείας έχουν σχεδιαστεί για να αποτρέπουν ένα άτομο από το να εξαπατηθεί και να εξαπολύσει ένα πρώτο χτύπημα. Ωστόσο, για την τεχνητή νοημοσύνη, η ιδέα είναι ότι εάν ένα άτομο ή μια εταιρεία ήθελε να εκπαιδεύσει ένα μοντέλο πάνω από ένα συγκεκριμένο όριο στο cloud, θα έπρεπε πρώτα να λάβει εξουσιοδότηση για να το κάνει.

Αν και ένα ισχυρό εργαλείο, οι ερευνητές παρατηρούν ότι αυτό θα μπορούσε να αποτύχει αποτρέποντας την ανάπτυξη επιθυμητής τεχνητής νοημοσύνης. Το επιχείρημα φαίνεται να είναι ότι ενώ η χρήση πυρηνικών όπλων έχει ένα αρκετά ξεκάθαρο αποτέλεσμα, η τεχνητή νοημοσύνη δεν είναι πάντα τόσο ασπρόμαυρη.

Αλλά αν αυτό φαίνεται λίγο πολύ δυστοπικό για τα γούστα σας, η εφημερίδα αφιερώνει μια ολόκληρη ενότητα στην ανακατανομή πόρων τεχνητής νοημοσύνης για τη βελτίωση της κοινωνίας στο σύνολό της. Η ιδέα είναι ότι οι υπεύθυνοι χάραξης πολιτικής θα μπορούσαν να ενωθούν για να κάνουν τον υπολογισμό της τεχνητής νοημοσύνης πιο προσιτή σε ομάδες που είναι απίθανο να το χρησιμοποιήσουν για κακό, μια έννοια που περιγράφεται ως «κατανομή».

Τι συμβαίνει με τη ρύθμιση της ανάπτυξης AI;

Γιατί να μπω σε όλο αυτό τον κόπο; Λοιπόν, οι συντάκτες της εργασίας υποστηρίζουν ότι το φυσικό υλικό είναι εγγενώς πιο εύκολο να ελεγχθεί.

Σε σύγκριση με το υλικό, «άλλες εισροές και εκροές ανάπτυξης τεχνητής νοημοσύνης – δεδομένα, αλγόριθμοι και εκπαιδευμένα μοντέλα – είναι εύκολα κοινοποιήσιμα, μη ανταγωνιστικά άυλα αγαθά, γεγονός που καθιστά εγγενώς δύσκολο τον έλεγχό τους», αναφέρει η εφημερίδα.

Το επιχείρημα είναι ότι από τη στιγμή που ένα μοντέλο δημοσιευτεί, είτε ανοιχτά είτε διαρρεύσει, δεν υπάρχει δυνατότητα επαναφοράς του τζίνι στο μπουκάλι και διακοπής της εξάπλωσής του στο δίκτυο.

Οι ερευνητές τόνισαν επίσης ότι οι προσπάθειες για την πρόληψη της κακής χρήσης μοντέλων έχουν αποδειχθεί αναξιόπιστες. Σε ένα παράδειγμα, οι συγγραφείς τόνισαν την ευκολία με την οποία οι ερευνητές μπόρεσαν να καταργήσουν τις διασφαλίσεις στο Llama 2 του Meta που είχαν σκοπό να εμποδίσουν το μοντέλο να δημιουργήσει προσβλητική γλώσσα.

Στο άκρο, υπάρχει φόβος ότι θα μπορούσε να χρησιμοποιηθεί ένα αρκετά προηγμένο μοντέλο διπλής χρήσης για να επιταχυνθεί η ανάπτυξη χημικών ή βιολογικών όπλων.

Η εφημερίδα παραδέχεται ότι η ρύθμιση υλικού τεχνητής νοημοσύνης δεν είναι ασήμαντη σφαίρα και δεν εξαλείφει την ανάγκη για ρύθμιση σε άλλες πτυχές του κλάδου.

Ωστόσο, η συμμετοχή πολλών ερευνητών του OpenAI είναι δύσκολο να αγνοηθεί λαμβάνοντας υπόψη τη συμμετοχή του CEO Sam Altman προσπάθειες για τον έλεγχο της αφήγησης γύρω από τη ρύθμιση της τεχνητής νοημοσύνης. ®

Σφραγίδα ώρας:

Περισσότερα από Το μητρώο