Η Infosec δεν γνωρίζει ποια εργαλεία AI χρησιμοποιούν οι οργανισμοί

Με την αγορά να γεμίζει με νέα εργαλεία τεχνητής νοημοσύνης (AI) και προστίθενται νέες αστραφτερές δυνατότητες AI Τα υπάρχοντα εργαλεία, οι οργανισμοί διαπιστώνουν ότι δεν έχουν ορατότητα σχετικά με τα εργαλεία τεχνητής νοημοσύνης που χρησιμοποιούνται, πώς χρησιμοποιούνται, ποιος έχει πρόσβαση και ποια δεδομένα μοιράζονται. Τα δεδομένα από το Nudge Security δείχνουν ότι οι οργανισμοί χρησιμοποιούν κατά μέσο όρο έξι εργαλεία τεχνητής νοημοσύνης, με το ChatGPT και το Jasper.ai να πρωτοστατούν στην υιοθέτηση.

Καθώς οι επιχειρήσεις προσπαθούν, υιοθετούν και εγκαταλείπουν νέα παραγωγικά εργαλεία τεχνητής νοημοσύνης, εναπόκειται στους ηγέτες των επιχειρήσεων πληροφορικής, κινδύνων και ασφάλειας να κυβερνούν και να διασφαλίζουν τη χρήση τους χωρίς να παρεμποδίζουν την καινοτομία. Ενώ η ανάπτυξη πολιτικών ασφαλείας για τη ρύθμιση της χρήσης τεχνητής νοημοσύνης είναι σημαντική, δεν είναι δυνατή χωρίς να γνωρίζουμε αρχικά ποια εργαλεία χρησιμοποιούνται.

Το παραπάνω γράφημα δείχνει πόσο διαδεδομένη είναι η υιοθέτηση του ChatGPT (OpenAI.com) μεταξύ των επιχειρήσεων και πολλοί άλλοι υποψήφιοι αναζητούν κοινή γνώμη. Ορισμένα από τα εργαλεία τεχνητής νοημοσύνης δεν είναι τόσο γνωστά όσο το ChatGPT, όπως το rytr.me και το wordtune.com, αλλά οι ομάδες ασφαλείας πρέπει ακόμα να γνωρίζουν το εργαλείο και να δημιουργήσουν πολιτικές που διέπουν τη χρήση τους. Το Huggingface.co είναι άλλο αρκετά γνωστό Εργαλείο AI που βρίσκεται σταθερά στη μέση του πακέτου.

Οι ομάδες ασφαλείας των επιχειρήσεων πρέπει να εξετάσουν πώς να χειριστούν την ανακάλυψη – μαθαίνοντας ποια εργαλεία παραγωγής τεχνητής νοημοσύνης έχουν εισαχθεί στο περιβάλλον και από ποιον – καθώς και την αξιολόγηση κινδύνου. Είναι σημαντικό οι επιχειρησιακοί χρήστες να δημιουργούν πειραματικούς λογαριασμούς για να δοκιμάσουν αυτές τις υπηρεσίες και στη συνέχεια να τους εγκαταλείψουν, προκειμένου να βεβαιωθούν ότι οι λογαριασμοί απενεργοποιούνται σωστά.