Προσαρμογή της ασφάλειας για την προστασία συστημάτων AI/ML

Η τεχνητή νοημοσύνη (AI) δεν είναι απλώς το πιο πρόσφατο τσιτάτο στην επιχείρηση. αναδιαμορφώνει γρήγορα τις βιομηχανίες και επαναπροσδιορίζει τις επιχειρηματικές διαδικασίες. Ωστόσο, καθώς οι εταιρείες αγωνίζονται να ενσωματώσουν την τεχνητή νοημοσύνη και τη μηχανική μάθηση (ML) σε κάθε πτυχή των δραστηριοτήτων τους, εισάγουν επίσης νέες προκλήσεις ασφάλειας και κινδύνου. Με έμφαση στις ευέλικτες πρακτικές ανάπτυξης για την επίτευξη ανταγωνιστικού πλεονεκτήματος, η ασφάλεια έρχεται σε δεύτερη μοίρα. Αυτό συνέβαινε στις πρώτες μέρες του World Wide Web και των εφαρμογών για κινητά, και το βλέπουμε ξανά στο σπριντ προς την τεχνητή νοημοσύνη.

Ο τρόπος με τον οποίο κατασκευάζονται, εκπαιδεύονται και λειτουργούν τα συστήματα AI και ML είναι σημαντικά διαφορετικός από τον αγωγό ανάπτυξης παραδοσιακών συστημάτων πληροφορικής, ιστοτόπων ή εφαρμογών. Ενώ ορισμένοι από τους ίδιους κινδύνους που ισχύουν στην παραδοσιακή ασφάλεια IT εξακολουθούν να είναι σχετικοί με την AI/ML, υπάρχουν αρκετές σημαντικές και προκλητικές διαφορές. Σε αντίθεση με μια εφαρμογή Ιστού που βασίζεται σε μια βάση δεδομένων, οι εφαρμογές AI τροφοδοτούνται από μοντέλα ML. Η διαδικασία κατασκευής ενός μοντέλου περιλαμβάνει τη συλλογή, την απολύμανση και τη διύλιση δεδομένων. εκπαίδευση μοντέλων ML στα δεδομένα. Στη συνέχεια, εκτελέστε αυτά τα μοντέλα σε κλίμακα για να βγάλετε συμπεράσματα και να επαναλάβετε με βάση αυτά που μαθαίνουν.

Υπάρχουν τέσσερις κύριοι τομείς όπου το παραδοσιακό λογισμικό και η ανάπτυξη AI/ML διαφέρουν. Αυτά είναι, αντίστοιχα, αλλαγμένες καταστάσεις έναντι δυναμικών καταστάσεων, κανόνες και όροι έναντι χρήσης και εισαγωγής, περιβάλλοντα διακομιστή μεσολάβησης έναντι ζωντανών συστημάτων και έλεγχος έκδοσης έναντι αλλαγών προέλευσης.

Εργαλεία AI/ML ανοιχτού κώδικα, όπως π.χ Ροή ML και ακτίνα, παρέχουν βολικά πλαίσια για την κατασκευή μοντέλων. Ωστόσο, πολλά από αυτά τα εργαλεία και πλαίσια λογισμικού ανοιχτού κώδικα (OSS) έχουν υποφέρει από ευπάθειες που θα μπορούσαν να οδηγήσουν σε σοβαρή εκμετάλλευση και βλάβη. Μεμονωμένα, οι ίδιες οι βιβλιοθήκες AI/ML δημιουργούν μια πολύ μεγαλύτερη επιφάνεια επίθεσης, καθώς περιέχουν τεράστιες ποσότητες δεδομένων και μοντέλων που είναι τόσο ασφαλή όσο το εργαλείο AI/ML στο οποίο είναι αποθηκευμένα. Εάν αυτά τα εργαλεία παραβιαστούν, οι εισβολείς μπορούν να έχουν πρόσβαση σε πολλά εμπιστευτικές πληροφορίες των βάσεων δεδομένων, τροποποίηση μοντέλων και εγκατάσταση κακόβουλου λογισμικού.

Security by Design για AI/ML

Η παραδοσιακή ασφάλεια IT δεν διαθέτει πολλές βασικές δυνατότητες για την προστασία των συστημάτων AI/ML. Πρώτα είναι η δυνατότητα σάρωσης εργαλείων που χρησιμοποιούνται από επιστήμονες δεδομένων για την ανάπτυξη των δομικών στοιχείων των συστημάτων AI/ML, όπως Jupyter Notebooks και άλλα εργαλεία στην αλυσίδα εφοδιασμού AI/ML, για ευπάθειες ασφαλείας.

Ενώ η προστασία δεδομένων αποτελεί κεντρικό στοιχείο της ασφάλειας IT, στο AI/ML αποκτά πρόσθετη σημασία, καθώς τα ζωντανά δεδομένα χρησιμοποιούνται συνεχώς για την εκπαίδευση ενός μοντέλου. Αυτό αφήνει τις πόρτες ανοιχτές για έναν εισβολέα για να χειριστεί τα δεδομένα AI/ML και μπορεί να έχει ως αποτέλεσμα τα μοντέλα να καταστραφούν και να μην εκτελούν τις προβλεπόμενες λειτουργίες τους.

Σε περιβάλλοντα AI/ML, η προστασία δεδομένων απαιτεί τη δημιουργία μιας αμετάβλητης εγγραφής που συνδέει τα δεδομένα με το μοντέλο. Επομένως, εάν τα δεδομένα τροποποιηθούν ή τροποποιηθούν με οποιονδήποτε τρόπο, ένας χρήστης που θέλει να επανεκπαιδεύσει το μοντέλο θα δει ότι οι τιμές κατακερματισμού (οι οποίες χρησιμοποιούνται για τη διασφάλιση της ακεραιότητας των δεδομένων κατά τη μετάδοση) δεν ταιριάζουν. Αυτή η διαδρομή ελέγχου δημιουργεί μια εγγραφή για τον εντοπισμό πότε έγινε επεξεργασία του αρχείου δεδομένων και πού αποθηκεύονται αυτά τα δεδομένα, για να προσδιοριστεί εάν υπήρξε παραβίαση.

Επιπλέον, απαιτείται σάρωση μοντέλων AI/ML για τον εντοπισμό απειλών ασφαλείας, όπως η ένεση εντολών. Αυτό συμβαίνει επειδή ένα μοντέλο είναι ένα στοιχείο που μένει στη μνήμη, αλλά όταν αποθηκεύεται στο δίσκο (για διανομή σε συναδέλφους), η μορφή μπορεί να έχει εισαγόμενο κώδικα σε αυτό. Έτσι, ενώ το μοντέλο θα συνεχίσει να εκτελείται ακριβώς όπως πριν, θα εκτελεί αυθαίρετο κώδικα.

Δεδομένων αυτών των μοναδικών προκλήσεων, ακολουθούν μερικές χρήσιμες βέλτιστες πρακτικές που πρέπει να λάβετε υπόψη:

Για να αξιοποιήσουν τις δυνατότητες της τεχνητής νοημοσύνης ενώ αντιμετωπίζουν τους εγγενείς κινδύνους ασφαλείας της, οι οργανισμοί θα πρέπει να εξετάσουν το ενδεχόμενο εφαρμογής των βέλτιστων πρακτικών που αναφέρονται παραπάνω και να αρχίσουν να εφαρμόζουν MLSecOps.

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
• πηγή: https://www.darkreading.com/vulnerabilities-threats/adapting-security-to-protect-ai-ml-systems