Η Startup στοχεύει να εξασφαλίσει την τεχνητή νοημοσύνη, την ανάπτυξη μηχανικής μάθησης

Καθώς οι εταιρείες προσθέτουν όλο και περισσότερο δυνατότητες τεχνητής νοημοσύνης (AI) στα χαρτοφυλάκια προϊόντων τους, οι ειδικοί στον κυβερνοχώρο προειδοποιούν ότι τα στοιχεία μηχανικής μάθησης (ML) είναι ευάλωτα σε νέους τύπους επιθέσεων και πρέπει να προστατεύονται.

Το Startup HiddenLayer, το οποίο κυκλοφόρησε στις 19 Ιουλίου, στοχεύει να βοηθήσει τις εταιρείες να προστατεύσουν καλύτερα τα ευαίσθητα μοντέλα μηχανικής εκμάθησης και τα δεδομένα που χρησιμοποιούνται για την εκπαίδευση αυτών των μοντέλων. Η εταιρεία κυκλοφόρησε τα πρώτα της προϊόντα που στοχεύουν στο τμήμα ανίχνευσης και απόκρισης ML, με στόχο τη σκλήρυνση των μοντέλων έναντι επίθεσης καθώς και την προστασία των δεδομένων που χρησιμοποιούνται για την εκπαίδευση αυτών των μοντέλων.

Οι κίνδυνοι δεν είναι θεωρητικοί: Οι ιδρυτές της εταιρείας εργάστηκαν στο Cylance όταν οι ερευνητές βρήκαν τρόπους να παρακάμψουν τη μηχανή AI της εταιρείας για τον εντοπισμό κακόβουλου λογισμικού, λέει ο Christopher Sestito, Διευθύνων Σύμβουλος της HiddenLayer.

«Επιτέθηκαν στο μοντέλο μέσω του ίδιου του προϊόντος και αλληλεπίδρασαν με το μοντέλο αρκετά ώστε… να προσδιορίσουν πού το μοντέλο ήταν πιο αδύναμο», λέει.

Η Sestito αναμένει ότι οι επιθέσεις εναντίον συστημάτων AI/ML θα αυξηθούν καθώς περισσότερες εταιρείες ενσωματώνουν τα χαρακτηριστικά στα προϊόντα τους.

«Το AI και το ML είναι οι ταχύτερα αναπτυσσόμενες τεχνολογίες που έχουμε δει ποτέ, επομένως αναμένουμε να είναι οι ταχύτερα αναπτυσσόμενοι φορείς επίθεσης που έχουμε δει ποτέ», λέει.

Ελαττώματα στο μοντέλο μηχανικής μάθησης

Το ML έχει γίνει απαραίτητο για την επόμενη γενιά προϊόντων πολλών εταιρειών, αλλά οι επιχειρήσεις συνήθως προσθέτουν χαρακτηριστικά που βασίζονται σε τεχνητή νοημοσύνη χωρίς να λαμβάνουν υπόψη τις επιπτώσεις στην ασφάλεια. Μεταξύ των απειλών είναι η αποφυγή μοντέλων, όπως η έρευνα που διεξήχθη κατά του Cylance, και η λειτουργική εξαγωγή, όπου οι εισβολείς μπορούν να αναζητήσουν ένα μοντέλο και να κατασκευάσουν ένα λειτουργικό ισοδύναμο σύστημα με βάση τα αποτελέσματα.

Πριν από δύο χρόνια, η Microsoft, η MITRE και άλλες εταιρείες δημιούργησε το Adversarial Machine Learning Threat Matrix για την καταγραφή των πιθανών απειλών κατά συστημάτων που βασίζονται σε τεχνητή νοημοσύνη. Τώρα μετονομάστηκε ως το Τοπίο αντιπάλου απειλών για συστήματα τεχνητής νοημοσύνης (ATLAS), το λεξικό πιθανών επιθέσεων υπογραμμίζει ότι οι καινοτόμες τεχνολογίες θα προσελκύσουν καινοτόμες επιθέσεις.

«Σε αντίθεση με τις παραδοσιακές ευπάθειες στον κυβερνοχώρο που συνδέονται με συγκεκριμένα συστήματα λογισμικού και υλικού, οι αντίθετες ευπάθειες ML ενεργοποιούνται από εγγενείς περιορισμούς στους αλγόριθμους ML», σύμφωνα με την Σελίδα έργου ATLAS στο GitHub. «Τα δεδομένα μπορούν να οπλιστούν με νέους τρόπους που απαιτούν επέκταση του τρόπου με τον οποίο μοντελοποιούμε τη συμπεριφορά αντιπάλου στον κυβερνοχώρο, ώστε να αντικατοπτρίζονται οι αναδυόμενοι φορείς απειλών και ο ταχέως εξελισσόμενος κύκλος ζωής της αντίπαλης επίθεσης μηχανικής μάθησης».

Η πρακτική απειλή είναι γνωστή στους τρεις ιδρυτές του HiddenLayer — Sestito, Tanner Burns και James Ballard — που εργάστηκαν μαζί στην Cylance. Τότε, ερευνητές στο Skylight Cyber επισυνάπτεται γνωστός καλός κώδικας — στην πραγματικότητα, μια λίστα με συμβολοσειρές από το εκτελέσιμο παιχνίδι Rocket League — για να ξεγελάσει την τεχνολογία του Cylance να πιστέψει ότι το 84% του κακόβουλου λογισμικού ήταν πραγματικά καλοήθη.

«Καθοδηγήσαμε την προσπάθεια ανακούφισης αφού το μοντέλο μηχανικής μας μάθησης δέχτηκε επίθεση απευθείας μέσω του προϊόντος μας και συνειδητοποιήσαμε ότι αυτό θα ήταν τεράστιο πρόβλημα για κάθε οργανισμό που αναπτύσσει μοντέλα ML στα προϊόντα του», δήλωσε ο Sestito στο μια δήλωση που αναγγέλλει την κυκλοφορία του HiddenLayer.

Ψάχνετε για αντιπάλους σε πραγματικό χρόνο

Το HiddenLayer στοχεύει στη δημιουργία ενός συστήματος που μπορεί να παρακολουθεί τη λειτουργία των συστημάτων ML και, χωρίς να χρειάζεται πρόσβαση στα δεδομένα ή τους υπολογισμούς, να προσδιορίζει εάν το λογισμικό δέχεται επίθεση χρησιμοποιώντας μία από τις γνωστές μεθόδους αντιπάλου.

"Εξετάζουμε τις συμπεριφορικές αλληλεπιδράσεις με τα μοντέλα - θα μπορούσε να είναι μια διεύθυνση IP ή ένα τελικό σημείο", λέει ο Sestito. «Αναλύουμε εάν το μοντέλο χρησιμοποιείται όπως προορίζεται να χρησιμοποιηθεί ή εάν οι είσοδοι και οι έξοδοι αξιοποιούνται ή αν ο αιτών λαμβάνει αποφάσεις πολύ υψηλής εντροπίας».

Η ικανότητα να κάνει ανάλυση συμπεριφοράς σε πραγματικό χρόνο θέτει τον εντοπισμό και την απόκριση ML της εταιρείας εκτός από άλλες προσεγγίσεις, λέει. Επιπλέον, η τεχνολογία δεν απαιτεί πρόσβαση στο συγκεκριμένο μοντέλο ή στα δεδομένα εκπαίδευσης, μονώνοντας περαιτέρω την πνευματική ιδιοκτησία, λέει η HiddenLayer.

Η προσέγγιση σημαίνει επίσης ότι τα γενικά έξοδα από τον πράκτορα ασφαλείας είναι μικρά, της τάξης του 1 ή 2 χιλιοστών του δευτερολέπτου, λέει ο Sestito.

"Εξετάζουμε τις εισροές αφού τα ακατέργαστα δεδομένα έχουν διανυσματοποιηθεί, επομένως υπάρχει πολύ μικρό χτύπημα απόδοσης", λέει.