Η Holly Elmore ηγείται της διαμαρτυρίας για την ασφάλεια ανοιχτού κώδικα

Σε μια τολμηρή κίνηση ενάντια στην πρόσφατη στάση του Meta σχετικά με την τεχνητή νοημοσύνη ανοιχτού κώδικα (AI), η Holly Elmore, υπέρμαχος της ασφάλειας της τεχνητής νοημοσύνης, πρωτοστάτησε σε μια διαδήλωση έξω από τη βάση της Meta στο Σαν Φρανσίσκο.

Η καρδιά της διαμάχης έγκειται στους πιθανούς κινδύνους από την ελεύθερη απελευθέρωση ισχυρών βαρών μοντέλων τεχνητής νοημοσύνης, που η Elmore και οι υποστηρικτές της υποστηρίζουν ότι μπορεί να οδηγήσουν σε κινδύνους «μη αναστρέψιμης διάδοσης».

Φανταστείτε ότι είναι ωραίο να επιχειρηματολογείτε για κεντρικό έλεγχο και ασφάλεια μέσω της αφάνειας.https://t.co/qw2FNpX3of

— Daniel Jeffries (@Dan_Jeffries1) Οκτώβριος 8, 2023

Ο Meta ανακάτεψε τα τεχνολογικά νερά νωρίτερα φέτος απελευθερώνοντας τα βάρη της οικογένειας μοντέλων LLaMA προς τους ερευνητές της τεχνητής νοημοσύνης, μια απόφαση που αποκλίνει σημαντικά από τις πολιτικές άλλων τεχνολογικών κολοσσών. Αυτά τα βάρη, ζωτικής σημασίας για τη λειτουργία του μοντέλου, μπορούν να χειριστούν και να τροποποιηθούν μια φορά στα χέρια των ειδικών, εγείροντας ανησυχίες για κακή χρήση. Πράγματι, δεν χρειάστηκε πολύς χρόνος για να γίνουν αυτά τα βάρη διαρρεύσει online, εντείνοντας την κριτική για την προσέγγιση ανοιχτού κώδικα της Meta.

Οι κίνδυνοι της απελευθέρωσης βαρών

Η Elmore, που κάποτε συνδέθηκε με το think tank Rethink Priorities, εξέφρασε τις ανησυχίες της:

«Η απελευθέρωση βαρών είναι μια επικίνδυνη πολιτική, επειδή τα μοντέλα μπορούν να τροποποιηθούν από οποιονδήποτε και δεν μπορούν να ανακληθούν».

Τόνισε την αυξανόμενη απειλή καθώς τα μοντέλα γίνονται πιο προηγμένα και δυνατά. Όταν τα βάρη μοντέλων είναι ανοιχτά διαθέσιμα, μπορούν ενδεχομένως να χρησιμοποιηθούν για κακόβουλες δραστηριότητες, που κυμαίνονται από τη δημιουργία σχημάτων phishing έως τον προγραμματισμό cyberattacks. Όταν τα βάρη είναι στο χέρι, προειδοποιεί ο Elmore, υπάρχει μια ανησυχητική ευκολία να παρακάμψετε τα προστατευτικά κιγκλιδώματα.

Ο Peter S. Park από το MIT απηχεί αυτά τα συναισθήματα. Προειδοποιεί για τους κινδύνους εάν η τρέχουσα προσέγγιση ανοιχτού κώδικα μεταφερθεί σε πιο προηγμένη τεχνητή νοημοσύνη, η οποία θα μπορούσε να λειτουργήσει με μεγαλύτερη αυτονομία, επιτρέποντας έτσι την κακή χρήση σε μεγαλύτερη και πιο επιβλαβή κλίμακα.

Συγχαρητήρια στην Χόλι Έλμορ @ilex_ulmus για την ηγεσία της διαμαρτυρίας Μέτα.

Έφτασε στο IEEE Spectrum, την κορυφαία έκδοση του IEEE:

Οι διαδηλωτές καταδικάζουν την «μη αναστρέψιμη διάδοση» της τεχνητής νοημοσύνης από τον Μέταhttps://t.co/XM0WAz8Zyuhttps://t.co/mfLBPjl2xJ

— Michael Huang ⏸️ (@michhuan) Οκτώβριος 8, 2023

Ένα αντεπιχείρημα: Η άμυνα ανοιχτού κώδικα

Στέλλα Μπάιντερμαν του EleutherAI, ωστόσο, προσφέρει μια διαφορετική οπτική. Ο Biderman αμφισβητεί την άμεση υπόθεση ότι η απελευθέρωση βαρών μοντέλου συσχετίζεται άμεσα με πιθανή κακή χρήση. Πιστεύει ότι ο όρος «διάδοση» που σχετίζεται με όπλα μαζικής καταστροφής είναι παραπλανητικός στο πλαίσιο της τεχνητής νοημοσύνης. Υποστηρίζοντας ότι τα βασικά στοιχεία για τη δημιουργία μεγάλων γλωσσικών μοντέλων είναι ήδη ανοιχτά, ο Biderman πιστεύει ότι η μυστικότητα μπορεί να μην είναι η πανάκεια για πιθανή κακή χρήση.

Προσθέτει ότι η παρότρυνση των εταιρειών να διατηρήσουν τη μυστικότητα γύρω από τα μοντέλα τους θα μπορούσε να έχει «σοβαρές συνέπειες για τη διαφάνεια, την ευαισθητοποίηση του κοινού και την επιστήμη». Μια τέτοια πολιτική θα μπορούσε ακούσια να βλάψει περισσότερο τους ανεξάρτητους ερευνητές και τους ενθουσιώδες παρά να προστατεύει από πιθανές απειλές.

Πλοήγηση σε ύδατα ανοιχτού κώδικα στο AI

Ο όρος 'ανοικτού κώδικαστο βασίλειο της τεχνητής νοημοσύνης είναι μπερδεμένο. Όπως επισημαίνει ο Stefano Maffulli από την Πρωτοβουλία Ανοικτού Κώδικα (OSI), διάφοροι οργανισμοί έχουν επιλέξει τον όρο, οδηγώντας σε μια διφορούμενη κατανόηση του τι πραγματικά σημαίνει στην τεχνητή νοημοσύνη. Για να είναι το λογισμικό πραγματικά ανοιχτού κώδικα, όλα τα στοιχεία του, από τον πηγαίο κώδικα έως τα δεδομένα εκπαίδευσης, πρέπει να είναι δημόσια προσβάσιμα και επαναχρησιμοποιήσιμα.

Το μέλλον της τεχνητής νοημοσύνης ανοιχτού κώδικα εξακολουθεί να διαμορφώνεται, με το OSI να προσπαθεί ενεργά να καθορίσει τις παραμέτρους του. Ο Maffulli παραμένει ανένδοτος στη σημασία μιας ανοιχτής προσέγγισης, τονίζοντας ότι η τεχνητή νοημοσύνη μπορεί να είναι «αξιόπιστη, υπεύθυνη και υπόλογη» μόνο εάν ευθυγραμμίζεται με τις αρχές ανοιχτού κώδικα.

Ενώ η συζήτηση για την τεχνητή νοημοσύνη ανοιχτού κώδικα απέχει πολύ από το να έχει διευθετηθεί, ένα πράγμα είναι σαφές: η ταχεία πρόοδος της τεχνολογίας απαιτεί μια προσεκτική ισορροπία μεταξύ προσβασιμότητας και ασφάλειας. Καθώς εταιρείες όπως η Meta προχωρούν με τις πολιτικές τους, η τεχνολογική κοινότητα και το κοινό θα συνεχίσουν να αντιμετωπίζουν τις προκλήσεις και τις επιπτώσεις της τεχνητής νοημοσύνης ανοιχτού κώδικα.

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
• πηγή: https://metanews.com/meta-challenged-as-holly-elmore-leads-protest-on-open-source-safety/