Η ασφάλεια πρέπει να ενδυναμώσει τους προγραμματιστές AI τώρα

Δεν υπάρχει αμφιβολία ότι η GenAI πρόκειται να αλλάξει τον τρόπο με τον οποίο γίνονται οι επιχειρήσεις. Οι εταιρείες ερευνών εκτιμούν τεράστια κέρδη παραγωγικότητας σε όλους τους τομείς, που εάν εκπληρωθούν θα μεταμορφώσουν πλήρως κάθε κλάδο. Με τόσο μεγάλο δυνητικό κέρδος, είναι σαφές γιατί κάθε επιχείρηση προσπαθεί να επιτρέψει στις ομάδες της να δημιουργήσουν εφαρμογές με τεχνητή νοημοσύνη όσο το δυνατόν γρηγορότερα. Ωστόσο, οι ομάδες ασφαλείας πρέπει να δράσουν τώρα για να διασφαλίσουν ότι αυτές οι εφαρμογές θα αντέχουν στον έλεγχο.

Ο αγώνας για την καταγραφή της επιχειρηματικής αξίας της τεχνητής νοημοσύνης πρώτα

Ορισμένες επιχειρήσεις έχουν ήδη δημιουργήσει εκατοντάδες εφαρμογές με τεχνητή νοημοσύνη μέχρι στιγμής. Ο ρυθμός ανάπτυξης είναι απλά απίστευτος, με αξιοσημείωτα παραδείγματα όπως Η Microsoft κυκλοφορεί εφαρμογές Copilot με ρυθμό πολύ μεγαλύτερο από αυτό που συνήθως προσφέρει μια τεράστια επιχείρηση.

Λόγω της ανωριμότητας των πλαισίων και των εργαλείων γύρω Ανάπτυξη εφαρμογών AI, κατασκευάζονται με ένα ευρύ φάσμα τεχνολογιών. Τα πλαίσια ανάπτυξης που βασίζονται στα λίγα θεμελιώδη μοντέλα είναι πολλά και ποικίλλουν σημαντικά, και συνεχίζουν να εμφανίζονται. Πλαίσια όπως LangChain και AutoGPT έχουν αποκτήσει σημαντική δημοτικότητα με πρωτοφανή ρυθμό. Σε μια μεγάλη επιχείρηση, μπορείτε εύκολα να περιμένετε να βρείτε δεκάδες διαφορετικά πλαίσια που χρησιμοποιούνται για τη δημιουργία αυτών των εφαρμογών.

Οι πρώτοι οργανισμοί που θα είναι σε θέση να αποσπάσουν κέρδη παραγωγικότητας από την τεχνητή νοημοσύνη πριν από άλλους θα έχουν τεράστια νίκη. Ως εκ τούτου, παίρνουμε μέρος σε έναν αγώνα όπου πρέπει να αρκεστούμε στα πλαίσια που είναι διαθέσιμα αυτήν τη στιγμή και απλώς να ολοκληρώσουμε τα πράγματα. Πιθανώς θα χρειαστεί πολύς χρόνος για να τυποποιηθούν τα πλαίσια και μέχρι εκείνη τη στιγμή θα έχετε ήδη καθυστερήσει στο παιχνίδι.

Πρέπει να αντιμετωπίσουμε την πραγματικότητα: Οι επιχειρήσεις επαναπροσδιορίζονται - με μη αποδεδειγμένα εργαλεία, πλαίσια και μοντέλα απειλών - με πρωτοφανή ρυθμό.

Ασφάλεια: Από πού ξεκινάμε;

Η δημιουργία τόσων πολλών νέων εφαρμογών σε τόσο σύντομο χρονικό διάστημα έχει τεράστιες επιπτώσεις στην ασφάλεια. Πρώτον, αυτές είναι απλώς περισσότερες εφαρμογές, με τους ίδιους κινδύνους ασφαλείας με κάθε άλλη εφαρμογή που εισάγει. Πρέπει να έχουν σωστή ταυτότητα, ροή δεδομένων και διαχείριση μυστικών, για να αναφέρουμε μερικές ανησυχίες. Δεύτερον, το GenAI δημιουργεί μερικές μοναδικές προκλήσεις ασφαλείας, τα οποία πλαίσια όπως το OWASP LLM Top 10 βοηθούν στη σύλληψη και την εκπαίδευση.

Οι προηγμένοι οργανισμοί ασφαλείας, σε συνεργασία με το IT, συνθέτουν ειδικά κέντρα για την απογραφή, την αξιολόγηση και την ασφάλεια αυτών των εφαρμογών. Σημειώστε ότι αυτά απαιτούν τη δημιουργία εντελώς νέων διαδικασιών και νέων ευθυνών. Στην ιδανική περίπτωση, αυτά τα κέντρα μπορούν να λειτουργήσουν ως ενθαρρυντικός πόρος για προγραμματιστές, προσφέροντας υπηρεσίες μοντελοποίησης απειλών και αναθεώρησης σχεδιασμού για να διασφαλιστεί ότι πληρούνται ασφαλή πρότυπα.

Η δημιουργία ενός κεντρικού πόρου όπως αυτοί δεν είναι εύκολο κατόρθωμα. Η εύρεση όλων των έργων που υποστηρίζονται από AI σε μια επιχείρηση είναι μια τεράστια πρόκληση, όπως το απόθεμα είναι πάντα. Η ανάπτυξη των τεχνικών δεξιοτήτων που απαιτούνται για τον έλεγχο αυτών των εφαρμογών είναι επίσης δύσκολη — ειδικά λόγω του πολλαπλασιασμού των διαφορετικών πλαισίων τεχνητής νοημοσύνης, το καθένα με τις δικές του ιδιορρυθμίες και ιδιορρυθμίες. Η παρακολούθηση αυτών των εφαρμογών στην παραγωγή είναι μια ακόμη πρόκληση, τόσο από τεχνική άποψη της λήψης των σωστών δεδομένων από ανώριμα πλαίσια ανάπτυξης όσο και από την άποψη της ανάλυσης ασφάλειας της γνώσης τι να αναζητήσετε.

Ωστόσο, αυτές δεν είναι ανυπέρβλητες προκλήσεις. Στην πραγματικότητα, ακολουθούν τον τυπικό τύπο προβλήματος ασφαλείας εφαρμογών του αποθέματος, της αξιολόγησης ασφάλειας και της προστασίας χρόνου εκτέλεσης. Για να προχωρήσουμε και να επιτρέψουμε στην επιχείρησή μας να συλλάβει πρώτα την επανάσταση της τεχνητής νοημοσύνης, πρέπει να αρχίσουμε να σημειώνουμε πρόοδο στην επίλυση αυτών των προβλημάτων.

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
• πηγή: https://www.darkreading.com/edge/security-must-empower-ai-developers-now