AI's Brave New World: Τι κι αν συνέβη με την ασφάλεια; Μυστικότητα?

Το παρακάτω είναι ένα guest post από τον John deVadoss, Διοικητικό Συμβούλιο του Παγκόσμιου Επιχειρηματικού Συμβουλίου Blockchain στη Γενεύη και συνιδρυτή της InterWork Alliance στην Ουάσιγκτον, DC.

Την περασμένη εβδομάδα, είχα την ευκαιρία στην Ουάσιγκτον, DC να παρουσιάσω και να συζητήσω τις επιπτώσεις της τεχνητής νοημοσύνης σε σχέση με την ασφάλεια με ορισμένα μέλη του Κογκρέσου και το προσωπικό τους.

Το Generative AI σήμερα μου θυμίζει το Διαδίκτυο στα τέλη της δεκαετίας του '80 – θεμελιώδης έρευνα, λανθάνουσα δυνατότητα και ακαδημαϊκή χρήση, αλλά δεν είναι ακόμη έτοιμο για το κοινό. Αυτή τη φορά, η απεριόριστη φιλοδοξία του πωλητή, που τροφοδοτείται από επιχειρηματικά κεφάλαια δευτερεύουσας κατηγορίας και γαλβανίζεται από τους θαλάμους ηχώ του Twitter, παρακολουθεί γρήγορα το Brave New World της AI.

Τα λεγόμενα «δημόσια» μοντέλα θεμελίωσης είναι μολυσμένα και ακατάλληλα για καταναλωτική και εμπορική χρήση. Οι αφαιρέσεις της ιδιωτικής ζωής, όπου υπάρχουν, διαρρέουν σαν κόσκινο. Οι κατασκευές ασφαλείας βρίσκονται σε εξέλιξη, καθώς η επιφάνεια της επίθεσης και οι φορείς απειλής εξακολουθούν να είναι κατανοητοί. και τα απατηλά προστατευτικά κιγκλιδώματα, όσο λιγότερα λέγονται για αυτά, τόσο το καλύτερο.

Λοιπόν, πώς καταλήξαμε εδώ; Και τι έγινε με την Ασφάλεια; Μυστικότητα?

Μοντέλα θεμελίωσης «συμβιβασμένων».

Τα λεγόμενα «ανοιχτά» μοντέλα κάθε άλλο παρά ανοιχτά είναι. Διαφορετικοί προμηθευτές διαφημίζουν τους βαθμούς διαφάνειάς τους ανοίγοντας την πρόσβαση στα βάρη του μοντέλου ή στην τεκμηρίωση ή στις δοκιμές. Ωστόσο, κανένας από τους μεγάλους προμηθευτές δεν παρέχει τίποτα κοντά στα σύνολα δεδομένων εκπαίδευσης ή στις δηλώσεις ή τη γενεαλογία τους για να είναι σε θέση να αναπαράγει και να αναπαράγει τα μοντέλα τους.

Αυτή η αδιαφάνεια σε σχέση με τα σύνολα δεδομένων εκπαίδευσης σημαίνει ότι εάν θέλετε να χρησιμοποιήσετε ένα ή περισσότερα από αυτά τα μοντέλα, τότε εσείς, ως καταναλωτής ή ως οργανισμός, δεν έχετε καμία δυνατότητα να επαληθεύσετε ή να επικυρώσετε την έκταση της ρύπανσης των δεδομένων με σεβασμό στα δικαιώματα πνευματικής ιδιοκτησίας, πνευματικά δικαιώματα κ.λπ. καθώς και σε δυνητικά παράνομο περιεχόμενο.

Ουσιαστικά, χωρίς το μανιφέστο των συνόλων δεδομένων εκπαίδευσης, δεν υπάρχει τρόπος επαλήθευσης ή επικύρωσης του ανύπαρκτου κακόβουλου περιεχομένου. Άσχημοι ηθοποιοί, συμπεριλαμβανομένων των ηθοποιών που χρηματοδοτούνται από το κράτος, φυτεύουν περιεχόμενο δούρειου ίππου στον ιστό που προσλαμβάνουν τα μοντέλα κατά τη διάρκεια της εκπαίδευσής τους, οδηγώντας σε απρόβλεπτες και δυνητικά κακόβουλες παρενέργειες κατά τη στιγμή της εξαγωγής συμπερασμάτων.

Θυμηθείτε, όταν ένα μοντέλο παραβιαστεί, δεν υπάρχει τρόπος να ξεμάθει, η μόνη επιλογή είναι να το καταστρέψετε.

«Πορώδης» Ασφάλεια

Τα μοντέλα γενετικής τεχνητής νοημοσύνης είναι τα απόλυτα honeypot ασφαλείας, καθώς «όλα» τα δεδομένα έχουν ενσωματωθεί σε ένα κοντέινερ. Νέες κατηγορίες και κατηγορίες διανυσμάτων επίθεσης προκύπτουν στην εποχή του AI. ο κλάδος δεν έχει ακόμη συμβιβαστεί με τις επιπτώσεις τόσο όσον αφορά την ασφάλεια αυτών των μοντέλων από απειλές στον κυβερνοχώρο όσο και όσον αφορά τον τρόπο με τον οποίο αυτά τα μοντέλα χρησιμοποιούνται ως εργαλεία από τους φορείς που απειλούν τον κυβερνοχώρο.

Μπορεί να χρησιμοποιηθούν κακόβουλες τεχνικές έγκαιρης έγχυσης για τη δηλητηρίαση του δείκτη. Η δηλητηρίαση δεδομένων μπορεί να χρησιμοποιηθεί για να αλλοιώσει τα βάρη. Οι επιθέσεις ενσωμάτωσης, συμπεριλαμβανομένων των τεχνικών αντιστροφής, μπορούν να χρησιμοποιηθούν για την εξαγωγή εμπλουτισμένων δεδομένων από τις ενσωματώσεις. Το συμπέρασμα συμμετοχής μπορεί να χρησιμοποιηθεί για να καθοριστεί εάν ορισμένα δεδομένα υπήρχαν στο σετ εκπαίδευσης κ.λπ., και αυτό είναι μόνο η κορυφή του παγόβουνου.

Οι φορείς απειλών ενδέχεται να αποκτήσουν πρόσβαση σε εμπιστευτικά δεδομένα μέσω αντιστροφής μοντέλου και ερωτήματος μέσω προγραμματισμού. μπορεί να διαφθείρουν ή να επηρεάσουν με άλλο τρόπο τη λανθάνουσα συμπεριφορά του μοντέλου. και, όπως αναφέρθηκε προηγουμένως, η ανεξέλεγκτη κατάποση δεδομένων σε γενικές γραμμές οδηγεί στην απειλή της ενσωματωμένης κρατικής χρηματοδοτικής δραστηριότητας στον κυβερνοχώρο μέσω δούρειων ίππων και άλλων.

«Διαρροή» Απόρρητο

Τα μοντέλα AI είναι χρήσιμα λόγω των συνόλων δεδομένων στα οποία έχουν εκπαιδευτεί. Η αδιάκριτη απορρόφηση δεδομένων σε κλίμακα δημιουργεί άνευ προηγουμένου κινδύνους για την ιδιωτική ζωή για το άτομο και για το ευρύτερο κοινό. Στην εποχή της τεχνητής νοημοσύνης, το απόρρητο έχει γίνει κοινωνικό μέλημα. οι κανονισμοί που αφορούν κυρίως τα ατομικά δικαιώματα δεδομένων είναι ανεπαρκείς.

Πέρα από τα στατικά δεδομένα, είναι επιτακτική ανάγκη οι δυναμικές προτροπές συνομιλίας να αντιμετωπίζονται ως IP που πρέπει να προστατεύονται και να διαφυλάσσονται. Εάν είστε καταναλωτής και συμμετέχετε στη δημιουργία ενός τεχνουργήματος με ένα μοντέλο, θέλετε οι προτροπές σας που κατευθύνουν αυτήν τη δημιουργική δραστηριότητα να μην χρησιμοποιούνται για την εκπαίδευση του μοντέλου ή να μην κοινοποιούνται με άλλον τρόπο με άλλους καταναλωτές του μοντέλου.

Εάν είστε υπάλληλος που εργάζεται με ένα μοντέλο για την παροχή επιχειρηματικών αποτελεσμάτων, ο εργοδότης σας αναμένει ότι οι υποδείξεις σας θα είναι εμπιστευτικές. Επιπλέον, οι προτροπές και οι απαντήσεις χρειάζονται μια ασφαλή διαδρομή ελέγχου σε περίπτωση ζητημάτων ευθύνης που προκύπτουν από οποιοδήποτε μέρος. Αυτό οφείλεται κυρίως στη στοχαστική φύση αυτών των μοντέλων και στη μεταβλητότητα των αποκρίσεών τους με την πάροδο του χρόνου.

Τι μέλλει γενέσθαι;

Έχουμε να κάνουμε με ένα διαφορετικό είδος τεχνολογίας, σε αντίθεση με οποιαδήποτε που έχουμε δει στο παρελθόν στην ιστορία των υπολογιστών, μια τεχνολογία που εμφανίζει αναδυόμενη, λανθάνουσα συμπεριφορά σε κλίμακα. Οι χθεσινές προσεγγίσεις για την ασφάλεια, το απόρρητο και την εμπιστευτικότητα δεν λειτουργούν πλέον.

Οι ηγέτες του κλάδου δίνουν προσοχή στους ανέμους, αφήνοντας τις ρυθμιστικές αρχές και τους υπεύθυνους χάραξης πολιτικής δεν έχουν άλλη εναλλακτική από το να παρέμβουν.

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
• πηγή: https://cryptoslate.com/ais-brave-new-world-whatever-happened-to-security-privacy/