Ο Οδικός Χάρτης της CISA: Χαράσσοντας μια πορεία για αξιόπιστη ανάπτυξη τεχνητής νοημοσύνης

Κυβερνοάμυνα: Ενώ τα συστήματα τεχνητής νοημοσύνης μπορούν να βοηθήσουν τους οργανισμούς να βελτιώσουν την άμυνά τους έναντι αναδυόμενων καθώς και προηγμένων απειλών στον κυβερνοχώρο, τα συστήματα λογισμικού που βασίζονται σε τεχνητή νοημοσύνη αποτελούν αριθμός κινδύνων που απαιτούν μια στιβαρή άμυνα AI. Ο οδικός χάρτης στοχεύει στην προώθηση της ευεργετικής χρήσης της τεχνητής νοημοσύνης και, ταυτόχρονα, στην προστασία των συστημάτων της χώρας από απειλές που βασίζονται στην τεχνητή νοημοσύνη.

Μείωση κινδύνου και ανθεκτικότητα: Κρίσιμη υποδομή Οι οργανισμοί χρησιμοποιούν όλο και περισσότερο συστήματα AI για να διατηρήσουν και να ενισχύσουν τη δική τους ανθεκτικότητα στον κυβερνοχώρο. Με τον οδικό της χάρτη, η CISA στοχεύει να προωθήσει μια υπεύθυνη και ενήμερη υιοθέτηση συστημάτων λογισμικού που βασίζονται σε τεχνητή νοημοσύνη που είναι «ασφαλή από το σχεδιασμό” — όπου η ασφάλεια εφαρμόζεται στη φάση σχεδιασμού του κύκλου ζωής ανάπτυξης ενός προϊόντος, έτσι ώστε οι εκμεταλλεύσιμες ατέλειες να μπορούν να μειωθούν στην πηγή.

Επιχειρησιακή συνεργασία: Καθώς η τεχνολογία τεχνητής νοημοσύνης πολλαπλασιάζεται, οι πολίτες των ΗΠΑ και οι τομείς της υποδομής ζωτικής σημασίας ενδέχεται να εκτεθούν σε στοχευμένες απειλές, οι οποίες ενδέχεται να απαιτούν ανταλλαγή πληροφοριών και συντονισμένες απαντήσεις από οργανισμούς, υπηρεσίες επιβολής του νόμου και διεθνείς εταίρους. Η CISA σχεδιάζει να αναπτύξει ένα πλαίσιο που βοηθά στη βελτίωση της ευθυγράμμισης και του συντονισμού μεταξύ των σχετικών ενδιαφερομένων.

Ενοποίηση πρακτορείου: Η CISA στοχεύει στην ενοποίηση και την ενοποίηση συστημάτων λογισμικού τεχνητής νοημοσύνης σε ολόκληρο τον οργανισμό, κάτι που θα τον βοηθήσει να χρησιμοποιεί τα συστήματα τεχνητής νοημοσύνης με μεγαλύτερη συνοχή. Η CISA σχεδιάζει επίσης να προσλάβει και να αναπτύξει ένα εργατικό δυναμικό που θα είναι σε θέση να αξιοποιεί βέλτιστα συστήματα τεχνητής νοημοσύνης.

Υπεύθυνη χρήση AI: Η CISA σκοπεύει να αναπτύξει εργαλεία λογισμικού με δυνατότητα AI για την ενίσχυση της άμυνας στον κυβερνοχώρο και την υποστήριξη κρίσιμων υποδομών. Όλα τα συστήματα και τα εργαλεία θα περάσουν από μια αυστηρή διαδικασία επιλογής όπου η CISA θα διασφαλίσει ότι τα συστήματα που σχετίζονται με την τεχνητή νοημοσύνη είναι υπεύθυνα, ασφαλή, ηθικά και ασφαλή στη χρήση. Η CISA θα αναπτύξει επίσης ισχυρές διαδικασίες διακυβέρνησης που όχι μόνο θα συνάδουν με τις ομοσπονδιακές διαδικασίες προμηθειών, τους ισχύοντες νόμους και πολιτικές, το απόρρητο και τα πολιτικά δικαιώματα και ελευθερίες, αλλά επίσης θα υιοθετήσει μια προσέγγιση για συνεχή αξιολόγηση των μοντέλων τεχνητής νοημοσύνης ενώ θα επανεξετάζει τις πρακτικές ασφάλειας πληροφορικής για την ασφαλή ενσωμάτωση η τεχνολογία.

Εξασφαλίστε συστήματα AI: Για να δημιουργήσει πιο ασφαλή και ανθεκτική ανάπτυξη και εφαρμογή λογισμικού τεχνητής νοημοσύνης, η CISA σχεδιάζει να υπερασπιστεί ασφαλής κατά σχεδιασμό πρωτοβουλίες, ανάπτυξη βέλτιστων πρακτικών ασφαλείας και καθοδήγηση για ένα ευρύ φάσμα ενδιαφερομένων (π.χ. ομοσπονδιακές μη στρατιωτικές κυβερνητικές υπηρεσίες, εταιρείες του ιδιωτικού τομέα, πολιτειακές, τοπικές, φυλετικές και εδαφικές κυβερνήσεις) και ενθαρρύνουν την υιοθέτηση ισχυρών πρακτικών διαχείρισης ευπάθειας, καθορίζοντας μια διαδικασία αποκάλυψης ευπάθειας και παροχή καθοδήγησης για δοκιμές ασφαλείας και ασκήσεις κόκκινης ομαδοποίησης για συστήματα AI.

Προστασία ζωτικής σημασίας υποδομής από κακόβουλη χρήση AI: Η CISA θα συνεργαστεί με κυβερνητικούς φορείς και βιομηχανικούς εταίρους όπως η Κοινή συνεργασία Cyber ​​Defense να αναπτύξει, να δοκιμάσει και να αξιολογήσει εργαλεία τεχνητής νοημοσύνης και να συνεργαστεί για την εξέλιξη Απειλές AI. Η CISA θα δημοσιεύσει υλικό για την ευαισθητοποίηση σχετικά με τους αναδυόμενους κινδύνους και θα αξιολογήσει επίσης τις μεθόδους διαχείρισης κινδύνων για να καθορίσει το κατάλληλο αναλυτικό πλαίσιο για την αξιολόγηση και τη θεραπεία των κινδύνων AI.

Συνεργαστείτε με διυπηρεσιακούς, διεθνείς εταίρους και το κοινό: Για να αυξήσει την ευαισθητοποίηση, να μοιραστεί πληροφορίες για τις απειλές και να βελτιώσει τις ικανότητες αντιμετώπισης περιστατικών και διερεύνησης, η CISA σχεδιάζει να προωθήσει συνεργατικές προσεγγίσεις όπως ομάδες εργασίας AI, συμμετοχή ή συμμετοχή σε διυπηρεσιακές συναντήσεις και στενό συντονισμό με οντότητες του Υπουργείου Εσωτερικής Ασφάλειας. Η CISA θα εργαστεί σε όλη τη διυπηρεσιακή υπηρεσία για να διασφαλίσει ότι οι πολιτικές και οι στρατηγικές της ευθυγραμμίζονται με την ολόκληρης της κυβέρνησης προσέγγιση και θα δεσμεύσει διεθνείς εταίρους για να ενθαρρύνουν την υιοθέτηση διεθνών βέλτιστων πρακτικών για ασφαλή τεχνητή νοημοσύνη.

Επεκτείνετε την τεχνογνωσία της τεχνητής νοημοσύνης στο εργατικό δυναμικό: Ανθρώπινος Η επαγρύπνηση, η επίβλεψη και η διαίσθηση χρειάζονται πάντα για τον εντοπισμό απειλών στον κυβερνοχώρο που βασίζονται σε AI και μη και για να διασφαλιστεί ότι τα συστήματα τεχνητής νοημοσύνης είναι απαλλαγμένα από σφάλματα, προκαταλήψεις και χειρισμούς. Η ανθρώπινη διαίσθηση και επαγρύπνηση μπορούν να ενισχυθούν μόνο με ισχυρές πρωτοβουλίες ευαισθητοποίησης για την ασφάλεια. Αυτός είναι ο λόγος για τον οποίο η CISA σχεδιάζει να εκπαιδεύει συνεχώς το εργατικό δυναμικό σε συστήματα και τεχνικές λογισμικού τεχνητής νοημοσύνης, να προσλαμβάνει υπαλλήλους με εξειδίκευση στην τεχνητή νοημοσύνη και να διεξάγει εκπαιδευτικά προγράμματα ευαισθητοποίησης σχετικά με την ασφάλεια που θα πρέπει να περιλαμβάνουν ασκήσεις κατάστασης για να διασφαλίσει ότι οι εργαζόμενοι κατανοούν τις νομικές, ηθικές και πολιτικές πτυχές της τεχνητής νοημοσύνης. συστήματα, πέρα ​​από τις τεχνικές πτυχές.