Ευπάθειες στον κυβερνοχώρο της AI για να γνωρίζουν οι εκπαιδευτικοί

Η τεχνητή νοημοσύνη μπορεί να είναι ένα πολύτιμο εργαλείο στην εκπαίδευση, αλλά θέτει επίσης ορισμένες βασικές ευπάθειες στον κυβερνοχώρο που πρέπει να γνωρίζουν οι εκπαιδευτικοί. Υπάρχει ένας αυξανόμενος αριθμός τρόπων με τους οποίους οι χάκερ μπορούν να εκμεταλλευτούν τις αδυναμίες της τεχνητής νοημοσύνης και να παρακάμψουν τα συστήματα ασφαλείας της τεχνητής νοημοσύνης. Ακολουθεί μια ματιά στα κορυφαία τρωτά σημεία ασφαλείας της τεχνητής νοημοσύνης σε άνοδο σήμερα και πώς θα μπορούσαν να επηρεάσουν την εκπαίδευση.

Διακυβευμένα δεδομένα εκπαίδευσης AI

Οι αλγόριθμοι τεχνητής νοημοσύνης μπορεί να είναι εξαιρετικά χρήσιμοι στην εκπαίδευση, αλλά η φύση του μαύρου κουτιού των περισσότερων AI δημιουργεί σοβαρή ευπάθεια στον κυβερνοχώρο. Οι αλγόριθμοι εκπαιδεύονται χρησιμοποιώντας σύνολα δεδομένων εκπαίδευσης που διδάσκουν την τεχνητή νοημοσύνη να κατανοεί ή να αναγνωρίζει κάτι. Για παράδειγμα, μια τεχνητή νοημοσύνη μπορεί να εκπαιδευτεί να κατανοεί προβλήματα άλγεβρας 8ης τάξης, ώστε να μπορεί να βαθμολογήσει τις εργασίες για το σπίτι.

Ωστόσο, ο τρόπος με τον οποίο οι αλγόριθμοι τεχνητής νοημοσύνης επεξεργάζονται πληροφορίες είναι κρυμμένος σε ένα μαύρο κουτί, πράγμα που σημαίνει ότι οι δυσλειτουργίες και οι προκαταλήψεις μπορούν να περάσουν απαρατήρητες. Μια τεχνητή νοημοσύνη μπορεί να μάθει ακούσια κάτι λανθασμένα ή να κάνει ψευδείς συνδέσεις από τα δεδομένα εκπαίδευσης. Η φύση του μαύρου κουτιού της τεχνητής νοημοσύνης σημαίνει επίσης ότι τα δηλητηριασμένα δεδομένα εκπαίδευσης μπορούν να περάσουν απαρατήρητα.

Οι χάκερ μπορούν να αλλοιώσουν τα δεδομένα εκπαίδευσης ώστε να συμπεριλάβουν α κερκόπορτα κρυμμένη στο AI λογική. Όταν ο χάκερ θέλει πρόσβαση στο σύστημα όπου θα χρησιμοποιηθεί το AI, μπορεί απλώς να εισάγει το κλειδί για την κερκόπορτα και το AI θα το αναγνωρίσει από τα δεδομένα εκπαίδευσης. Τέτοιες θυρίδες μπορεί να είναι πολύ δύσκολο να εντοπιστούν, επειδή οι προγραμματιστές και οι χρήστες δεν μπορούν να δουν όλες τις συνδέσεις που συμβαίνουν στο μαύρο κουτί του AI.

«Ο τρόπος με τον οποίο οι αλγόριθμοι τεχνητής νοημοσύνης επεξεργάζονται πληροφορίες είναι κρυμμένος σε ένα μαύρο κουτί, πράγμα που σημαίνει ότι οι δυσλειτουργίες και οι προκαταλήψεις μπορούν να περάσουν απαρατήρητες». 

Οι χάκερ προσαρμόζονται

Η δημιουργία μιας κερκόπορτας στα δεδομένα εκπαίδευσης τεχνητής νοημοσύνης είναι μια πολύπλοκη και χρονοβόρα διαδικασία και κάτι που θα μπορούσαν να κάνουν κυρίως μόνο οι υψηλά ειδικευμένοι χάκερ. Δυστυχώς, οι χάκερ προσαρμόζουν τις στρατηγικές επίθεσης τους για να παρακάμψουν τις ικανότητες κυνηγιού απειλών της τεχνητής νοημοσύνης. Στην πραγματικότητα, οι χάκερ δημιουργούν ακόμη και τους δικούς τους αλγόριθμους AI που μπορούν να ξεπεράσουν άλλους αλγόριθμους.

Για παράδειγμα, οι χάκερ έχουν αναπτύξει AI που μπορούν σπάει αυτόνομα τους κωδικούς πρόσβασης για παράκαμψη συστημάτων διαχείρισης πρόσβασης. Ακόμη χειρότερα, οι χάκερ χρησιμοποιούν την τεχνητή νοημοσύνη για να κάνουν το ransomware και το κακόβουλο λογισμικό τους αρκετά έξυπνα ώστε να ξεπεράσουν τα πρωτόκολλα ασφαλείας που υποστηρίζονται από AI.

Αυτό αποτελεί σοβαρή απειλή για την εκπαίδευση, επειδή τα σχολεία πρέπει απαραίτητα να συλλέγουν μεγάλες ποσότητες προσωπικών πληροφοριών για μαθητές και οικογένειες. Τα δεδομένα των σχολείων είναι ένας εξαιρετικά ελκυστικός στόχος για τους χάκερ, οι οποίοι γνωρίζουν ότι η διακύβευση αυτών των δεδομένων θα προκαλούσε πανικό, οδηγώντας ενδεχομένως σε μεγάλη πληρωμή ransomware από τα θύματα.

Με τα συστήματα ασφαλείας AI σε κίνδυνο, οι εκπαιδευτικοί μπορεί να ανησυχούν για το τι μπορούν να κάνουν για να υπερασπιστούν τους μαθητές τους. Υπάρχουν λύσεις όμως. Για παράδειγμα, τα συστήματα τεχνητής νοημοσύνης που βασίζονται σε σύννεφο μπορεί να είναι ασφαλέστερα από αυτά που βασίζονται σε συμβατικά κέντρα δεδομένων. Επιπλέον, τα συστήματα προστασίας δεδομένων με ευφυή σύννεφο, τα οποία έχουν κατασκευαστεί ειδικά για εγγενή συστήματα cloud, μπορεί να παρέχει ένα επιπλέον επίπεδο ασφάλειας για τα δεδομένα των σχολείων σε περίπτωση κυβερνοεπίθεσης με τεχνητή νοημοσύνη.

Deepfakes και εσφαλμένη αναγνώριση εικόνας

Εκτός από τα backdoors, οι χάκερ μπορούν επίσης να εκμεταλλευτούν ακούσιες δυσλειτουργίες σε αλγόριθμους AI. Για παράδειγμα, ένας χάκερ θα μπορούσε να παραβιάσει φωτογραφίες για να ξεγελάσει ένα AI ώστε να αναγνωρίσει εσφαλμένα μια εικόνα.

Η τεχνολογία Deepfake μπορεί επίσης να χρησιμοποιηθεί για να συγκαλύψει αρχεία βίντεο, φωτογραφιών ή ήχου ως κάτι που δεν είναι. Αυτό θα μπορούσε να χρησιμοποιηθεί για τη δημιουργία ενός δόλιου βίντεο ενός δασκάλου ή ενός διαχειριστή, για παράδειγμα. Τα Deepfakes μπορούν να επιτρέψουν στους χάκερ να εισέλθουν σε συστήματα που βασίζονται στην αναγνώριση ήχου ή εικόνας για τον έλεγχο πρόσβασης.

Οι χάκερ μπορούν να αξιοποιήσουν οι ίδιοι την τεχνητή νοημοσύνη για να δημιουργήσουν εξαιρετικά ρεαλιστικά deepfakes που στη συνέχεια γίνονται ο τρόπος επίθεσης. Για παράδειγμα, ένα σχέδιο απάτης του 2021 χρησιμοποίησε deepfakes AI να κλέψει 35 εκατομμύρια δολάρια από τράπεζα του Χονγκ Κονγκ.

Οι χάκερ μπορούν να οπλίσουν την τεχνητή νοημοσύνη με τον ίδιο τρόπο για να δημιουργήσουν βαθιές πλαστές φωνές γονέων, δασκάλων ή διαχειριστών. Ξεκινούν την επίθεση καλώντας κάποιον στο τηλέφωνο και ξεγελώντας τον με ένα deepfake που βασίζεται στη φωνή. Αυτό θα μπορούσε να χρησιμοποιηθεί για την κλοπή χρημάτων ή προσωπικών πληροφοριών από σχολεία, μαθητές, δασκάλους και οικογένειες.

«Τα δεδομένα των σχολείων είναι ένας εξαιρετικά ελκυστικός στόχος για τους χάκερ, οι οποίοι γνωρίζουν ότι η διακύβευση αυτών των δεδομένων θα προκαλούσε πανικό, οδηγώντας ενδεχομένως σε υψηλή πληρωμή ransomware από τα θύματα». 

Εξάρτηση από την τεχνητή νοημοσύνη για δοκιμές και διδασκαλία

Το AI είναι εξαιρετικό για την αυτοματοποίηση διαφόρων πτυχών της εκπαίδευσης και μπορεί ακόμη και να βελτιώσει την ποιότητα της εκπαίδευσης των μαθητών. Για παράδειγμα, ο δημοφιλής ιστότοπος διδασκαλίας ξένων γλωσσών Duolingo χρησιμοποιεί μηχανική εκμάθηση AI να βοηθήσουν τους μαθητές να μάθουν με τον δικό τους ρυθμό. Πολλά άλλα σχολεία και εκπαιδευτικοί πόροι χρησιμοποιούν παρόμοια τεχνολογία σήμερα. Αυτό είναι γνωστό ως προσαρμοστική μάθηση AI, και βοηθά ακόμη και σε βασικές εργασίες όπως η βαθμολόγηση δοκιμής.

Δυστυχώς, αυτή η εξάρτηση από την τεχνητή νοημοσύνη είναι μια ευπάθεια στον κυβερνοχώρο. Οι χάκερ τείνουν να στοχεύουν συστήματα που είναι ζωτικής σημασίας για τη λειτουργία βασικών συστημάτων. Έτσι, εάν οι εκπαιδευτικοί βασίζονται σε ορισμένα εργαλεία διδασκαλίας τεχνητής νοημοσύνης ώστε οι μαθητές να ολοκληρώσουν επιτυχώς τα μαθήματα, αυτή η εξάρτηση από την τεχνητή νοημοσύνη μπορεί να εκμεταλλευτεί ένας χάκερ. Θα μπορούσαν να εξαπολύσουν μια επίθεση ransomware σε αλγόριθμους τεχνητής νοημοσύνης κρίσιμης εκπαίδευσης ή ενδεχομένως ακόμη και να χειραγωγήσουν το ίδιο το AI.

Αυτή η συγκεκριμένη ευπάθεια είναι ένας συνδυασμός πολλών από τις απειλές που αναφέρθηκαν παραπάνω. Οι χάκερ θα μπορούσαν να δημιουργήσουν μια κερκόπορτα σε μια τεχνητή νοημοσύνη που τους επιτρέπει να παραβιάζουν τον αλγόριθμο έτσι ώστε να βαθμολογεί λανθασμένα ή να διδάσκει στους μαθητές εσφαλμένες πληροφορίες.

«Εάν οι εκπαιδευτικοί βασίζονται σε συγκεκριμένα εργαλεία διδασκαλίας τεχνητής νοημοσύνης για τους μαθητές για να ολοκληρώσουν επιτυχώς τα μαθήματα, αυτή η εξάρτηση από την τεχνητή νοημοσύνη μπορεί να εκμεταλλευτεί ένας χάκερ». 

Παραμένοντας ενήμεροι για τις κυβερνοαπειλές για την εκπαίδευση

Δεν υπάρχει αμφιβολία ότι η τεχνητή νοημοσύνη μπορεί να είναι ένα εξαιρετικά πολύτιμο εργαλείο για τους εκπαιδευτικούς. Ωστόσο, η χρήση της τεχνητής νοημοσύνης απαιτεί προσοχή και μια προληπτική προσέγγιση για την ασφάλεια στον κυβερνοχώρο για την προστασία των τρωτών σημείων της τεχνητής νοημοσύνης από την εκμετάλλευση από χάκερ.

Καθώς η τεχνητή νοημοσύνη γίνεται πανταχού παρούσα στην εκπαίδευση και την καθημερινή ζωή, οι χάκερ αναπτύσσουν νέα είδη κυβερνοεπιθέσεων που έχουν σχεδιαστεί για να εμποδίζουν τα ευφυή συστήματα ασφαλείας. Παραμένοντας ενήμεροι για αυτές τις αναδυόμενες απειλές στον κυβερνοχώρο, οι εκπαιδευτικοί μπορούν να αναλάβουν δράση για να προστατεύσουν τα συστήματά τους και τους μαθητές τους.

Επίσης, διαβάστε 5 τρόποι με τους οποίους η ρομποτική θα σας βοηθήσει να αποκτήσετε περισσότερες επιχειρήσεις