Το CCC ανταποκρίνεται στο αίτημα του NTIA για πληροφορίες σχετικά με μοντέλα AI Foundation διπλής χρήσης με ευρέως διαθέσιμα βάρη μοντέλων » Blog CCC

Την περασμένη εβδομάδα, το CCC απάντησε στις δηλώσεις της Εθνικής Διοίκησης Τηλεπικοινωνιών και Πληροφοριών Αίτημα για πληροφορίες σχετικά με Μοντέλα Τεχνητής Νοημοσύνης Ιδρύματος Διπλής Χρήσης με ευρέως διαθέσιμα βάρη μοντέλων. Ο Daniel Lopresti του ίδιου του CCC (Πρόεδρος CCC και Πανεπιστήμιο Lehigh) και ο David Danks (Εκτελεστική Επιτροπή CCC και Πανεπιστήμιο της Καλιφόρνια, Σαν Ντιέγκο) βοήθησαν στη συγγραφή αυτής της απάντησης μαζί με πολλά άλλα μέλη της υπολογιστικής κοινότητας. Ο Markus Buehler (Ινστιτούτο Τεχνολογίας της Μασαχουσέτης) και ο Duncan Watson-Parris (Πανεπιστήμιο της Καλιφόρνια, Σαν Ντιέγκο), που μίλησαν και οι δύο στο πάνελ AAAS που χρηματοδοτήθηκε από το CCC φέτος, με τίτλο, Generative AI in Science: Promises and Pitfalls, και οι δύο συνέβαλαν στην απάντηση του RFI, μαζί με τον Casey Fiesler (Πανεπιστήμιο του Κολοράντο, Boulder), ο οποίος παρακολούθησε το CCC's Μέλλον της Έρευνας στις Κοινωνικές Τεχνολογίες εργαστήριο τον Νοέμβριο.

Στην απάντησή τους, οι συγγραφείς εστίασαν σε μερικές συγκεκριμένες ερωτήσεις από το RFI, μία από τις οποίες ρώτησε πώς οι κίνδυνοι που σχετίζονται με την ευρέως διαθέσιμη βαρών μοντέλων συγκρίνονται με αυτούς που σχετίζονται με τα βάρη μη δημοσίων μοντέλων. Οι συγγραφείς απάντησαν ότι η πλειονότητα των κινδύνων που σχετίζονται με τα παραγωγικά μοντέλα επιδεινώνονται ελάχιστα καθιστώντας τα βάρη των μοντέλων ευρέως διαθέσιμα. Οι περισσότεροι από τους κινδύνους που σχετίζονται με τα μοντέλα παραγωγής είναι εγγενείς σε αυτά τα μοντέλα, λόγω της ικανότητάς τους να δημιουργούν γρήγορα τεράστιες ποσότητες αξιόπιστου περιεχομένου με βάση τις εισροές των χρηστών και τις σχεδόν απεριόριστες περιοχές εφαρμογής τους. Η δημοσιοποίηση των βαρών των μοντέλων δεν επηρεάζει τη λειτουργικότητα των μοντέλων παραγωγής και, επομένως, επί του παρόντος υπάρχουν ελάχιστα στοιχεία ότι η ευρεία διάθεση των βαρών δημιουργεί σημαντικό πρόσθετο κίνδυνο πέρα ​​από αυτό που θα μπορούσε ήδη να γίνει με ιδιόκτητα ή κλειστά συστήματα. Ένας κίνδυνος που θα μπορούσε δυνητικά να επιδεινωθεί εάν διατεθούν ευρέως τα βάρη για ιδιόκτητα μοντέλα είναι η πιθανότητα έκθεσης των δεδομένων εκπαίδευσης. Είναι απίθανο ότι τα βάρη των μοντέλων θα μπορούσαν να τροποποιηθούν αντίστροφα για να εκθέσουν τα δεδομένα εκπαίδευσης, αλλά δεν έχει αποδειχθεί ότι είναι μαθηματικά αδύνατο. Ωστόσο, στην απάντησή μας τονίσαμε ότι, επειδή τα μοντέλα παραγωγής είναι πιθανό να συνεχίσουν να χρησιμοποιούνται σε μεγάλο βαθμό από το ευρύ κοινό, οι μεγαλύτεροι κίνδυνοι, κατά τη γνώμη μας, προέρχονται από τη μη ανοικτή διάθεση βαρών σε αντιπροσωπευτικά θεμελιώδη μοντέλα. Η άρνηση πρόσβασης σε ερευνητές και ενδιαφερόμενα μέλη της κοινότητας σε ορισμένα βάρη μοντέλων για ιδιόκτητα μοντέλα θα εμποδίσει την κοινωνία να κατανοήσει καλύτερα τον τρόπο λειτουργίας αυτών των μοντέλων και πώς να σχεδιάσει πιο περιεκτικά και προσβάσιμα μοντέλα.

Η συνέχιση της πρακτικής της κυκλοφορίας κλειστών μοντέλων θα συνεχίσει να διαιωνίζει την έλλειψη ποικιλομορφίας στην τεχνολογία και θα αποτρέψει τη διεξαγωγή ορισμένων ειδών έρευνας, όπως ελέγχους μεροληψίας αυτών των μοντέλων, τους οποίους οι μεγάλες εταιρείες τεχνολογίας δεν έχουν κίνητρα να διεξάγουν. Η εκπαίδευση του μελλοντικού εργατικού δυναμικού είναι ένα άλλο απίστευτα σημαντικό ζήτημα. Οι Ηνωμένες Πολιτείες δεν μπορούν να ελπίζουν ότι θα διατηρήσουν την ηγετική θέση στον τομέα της γενετικής τεχνητής νοημοσύνης χωρίς να εκπαιδεύσουν τη μελλοντική γενιά προγραμματιστών σε αυτούς τους τύπους μοντέλων στη μεταπτυχιακή και μεταπτυχιακή εκπαίδευση. Είναι σημαντικό οι μαθητές να μπορούν να εξερευνήσουν αυτά τα μοντέλα κατά τη διάρκεια της εκπαίδευσής τους για να κατανοήσουν τη βασική τους λειτουργικότητα και να μάθουν πώς να ενσωματώνουν ηθικά κριτήρια στην ανάπτυξη νέων μοντέλων. Το να επιτρέπεται μόνο σε μεγάλες εταιρείες τεχνολογίας να διαθέτουν τα εργαλεία για την εκπαίδευση της επόμενης γενιάς θα μπορούσε επίσης να οδηγήσει σε σιωπηρή σκέψη και αυτοί οι οργανισμοί μπορεί να παραβλέψουν μια ολιστική εκπαίδευση που μπορεί να προσφέρει η πρόσβαση σε αυτά τα μοντέλα προς όφελος ενός πιο αποτελεσματικού πλαισίου μάθησης όπως απαιτείται. Στην απάντησή μας, τονίσαμε επίσης τη σημασία της καθιέρωσης μιας κουλτούρας διαφάνειας γύρω από την ανάπτυξη αυτών των μοντέλων, τονίζοντας ότι η δημιουργία μιας τέτοιας κουλτούρας μπορεί να είναι εξίσου σημαντική με τη ρύθμιση αυτών των τεχνολογιών. Εάν υπάρχει προσδοκία για τις εταιρείες τεχνολογίας να δημιουργήσουν μοντέλα παραγωγής με διαφανή τρόπο, τότε η μελλοντική ρύθμιση γίνεται πολύ πιο εύκολη στη διεκπεραίωση.

Τέλος, η CCC τόνισε την ανάγκη για πρόσθετη έρευνα για τα θεμελιώδη μοντέλα, επικαλούμενη την τρέχουσα έλλειψη γνώσης του κοινού σχετικά με το πώς αυτά τα μοντέλα λειτουργούν πραγματικά και καταλήγουν στα αποτελέσματα που παράγουν. Στην απάντησή μας, παραθέσαμε μια σειρά από αναπάντητα ερευνητικά ερωτήματα που οι ερευνητές, οι επιστήμονες, οι μελετητές και οι ειδικοί σε κοινωνικά θέματα είναι έτοιμοι να αρχίσουν να απαντούν, υπό την προϋπόθεση ότι έχουν την ανοιχτή πρόσβαση που χρειάζονται στα είδη μεγάλων μοντέλων θεμελίων που εκμεταλλεύεται τώρα η βιομηχανία . Η συνεχής επιτυχία μας ως κοινωνία εξαρτάται από αυτό.

Διαβάστε την πλήρη απάντηση του CCC εδώ.

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
• πηγή: https://feeds.feedblitz.com/~/874893044/0/cccblog~CCC-Responds-to-the-NTIAs-Request-for-Information-on-Dual-Use-Foundation-AI-Models-with-Widely-Available-Model-Weights/