Μια ασφαλής προσέγγιση για τη δημιουργία τεχνητής νοημοσύνης με AWS | Υπηρεσίες Ιστού της Amazon

Γεννητική τεχνητή νοημοσύνη (AI) μεταμορφώνει την εμπειρία των πελατών σε βιομηχανίες σε όλο τον κόσμο. Οι πελάτες κατασκευάζουν εφαρμογές τεχνητής νοημοσύνης χρησιμοποιώντας μεγάλα γλωσσικά μοντέλα (LLM) και άλλα βασικά μοντέλα (FM), τα οποία βελτιώνουν τις εμπειρίες των πελατών, μεταμορφώνουν τις λειτουργίες, βελτιώνουν την παραγωγικότητα των εργαζομένων και δημιουργούν νέα κανάλια εσόδων.

Τα FM και οι εφαρμογές που δημιουργούνται γύρω από αυτά αντιπροσωπεύουν εξαιρετικά πολύτιμες επενδύσεις για τους πελάτες μας. Συχνά χρησιμοποιούνται με εξαιρετικά ευαίσθητα επιχειρηματικά δεδομένα, όπως προσωπικά δεδομένα, δεδομένα συμμόρφωσης, λειτουργικά δεδομένα και οικονομικές πληροφορίες, για τη βελτιστοποίηση της απόδοσης του μοντέλου. Η μεγαλύτερη ανησυχία που ακούμε από τους πελάτες καθώς εξερευνούν τα πλεονεκτήματα της γενετικής τεχνητής νοημοσύνης είναι πώς να προστατεύσουν τα εξαιρετικά ευαίσθητα δεδομένα και τις επενδύσεις τους. Επειδή τα δεδομένα και τα βάρη των μοντέλων τους είναι απίστευτα πολύτιμα, οι πελάτες απαιτούν από αυτούς να παραμείνουν προστατευμένοι, ασφαλείς και ιδιωτικοί, είτε από τους λογαριασμούς του διαχειριστή τους, τους πελάτες τους, τις ευπάθειες σε λογισμικό που εκτελείται στα δικά τους περιβάλλοντα ή ακόμα και από τον πάροχο υπηρεσιών cloud τους. πρόσβαση.

Στην AWS, κορυφαία προτεραιότητά μας είναι η διαφύλαξη της ασφάλειας και της εμπιστευτικότητας του φόρτου εργασίας των πελατών μας. Σκεφτόμαστε την ασφάλεια στα τρία επίπεδα της γενετικής στοίβας AI:

• Κάτω στρώμα – Παρέχει τα εργαλεία για την κατασκευή και την εκπαίδευση LLM και άλλων FM
• Μέση στρώση – Παρέχει πρόσβαση σε όλα τα μοντέλα μαζί με εργαλεία που χρειάζεστε για τη δημιουργία και την κλίμακα εφαρμογών τεχνητής νοημοσύνης
• Επάνω στρώμα – Περιλαμβάνει εφαρμογές που χρησιμοποιούν LLM και άλλα FM για να κάνουν την εργασία χωρίς άγχος γράφοντας και διορθώνοντας κώδικα, δημιουργώντας περιεχόμενο, αντλώντας πληροφορίες και αναλαμβάνοντας δράση

Κάθε επίπεδο είναι σημαντικό για να γίνει η παραγωγική τεχνητή νοημοσύνη διάχυτη και μεταμορφωτική.

Με την Σύστημα AWS Nitro, παραδώσαμε μια πρώτη στο είδος του καινοτομία για λογαριασμό των πελατών μας. Το Nitro System είναι ένας απαράμιλλος υπολογιστικός κορμός για το AWS, με την ασφάλεια και την απόδοση στον πυρήνα του. Το εξειδικευμένο υλικό και το σχετικό υλικολογισμικό του έχουν σχεδιαστεί για να επιβάλλουν περιορισμούς, ώστε κανένας, συμπεριλαμβανομένου οποιουδήποτε στο AWS, να μην μπορεί να έχει πρόσβαση στους φόρτους εργασίας ή στα δεδομένα που εκτελούνται στο Amazon Elastic Compute Cloud (Amazon EC2) περιπτώσεις. Οι πελάτες έχουν επωφεληθεί από αυτήν την εμπιστευτικότητα και την απομόνωση από τους χειριστές AWS σε όλες τις περιπτώσεις EC2 που βασίζονται σε Nitro από το 2017.

Σχεδιαστικά, δεν υπάρχει μηχανισμός πρόσβασης οποιουδήποτε υπαλλήλου της Amazon σε μια παρουσία Nitro EC2 που χρησιμοποιούν οι πελάτες για την εκτέλεση του φόρτου εργασίας τους ή για πρόσβαση σε δεδομένα που στέλνουν οι πελάτες σε έναν επιταχυντή μηχανικής εκμάθησης (ML) ή μια GPU. Αυτή η προστασία ισχύει για όλες τις περιπτώσεις που βασίζονται σε Nitro, συμπεριλαμβανομένων περιπτώσεων με επιταχυντές ML όπως Αίσθηση AWS και Aws trainiumκαι παρουσίες με GPU όπως P4, P5, G5 και G6.

Το σύστημα Nitro ενεργοποιεί Elastic Fabric Adapter (EFA), το οποίο χρησιμοποιεί το πρωτόκολλο επικοινωνίας AWS Scalable Reliable Datagram (SRD) που έχει ενσωματωθεί στο AWS για ελαστική και μεγάλης κλίμακας κατανεμημένη εκπαίδευση σε κλίμακα cloud, επιτρέποντας το μοναδικό πάντα κρυπτογραφημένο δίκτυο Remote Direct Memory Access (RDMA). Όλη η επικοινωνία μέσω EFA είναι κρυπτογραφημένη με Κρυπτογράφηση VPC χωρίς να επιβληθεί ποινή απόδοσης.

Ο σχεδιασμός του συστήματος Nitro ήταν επικυρωμένο από τον Όμιλο NCC, μια ανεξάρτητη εταιρεία κυβερνοασφάλειας. Το AWS παρέχει υψηλό επίπεδο προστασίας για τους φόρτους εργασίας των πελατών και πιστεύουμε ότι αυτό είναι το επίπεδο ασφάλειας και εμπιστευτικότητας που πρέπει να περιμένουν οι πελάτες από τον πάροχο cloud. Αυτό το επίπεδο προστασίας είναι τόσο κρίσιμο που το έχουμε προσθέσει στο δικό μας Όροι υπηρεσίας AWS να παρέχουμε μια πρόσθετη διασφάλιση σε όλους τους πελάτες μας.

Καινοτομία ασφαλούς παραγωγικού φόρτου εργασίας AI χρησιμοποιώντας κορυφαίες στον κλάδο δυνατότητες ασφάλειας AWS

Από την πρώτη μέρα, η υποδομή και οι υπηρεσίες AWS AI είχαν ενσωματωμένες λειτουργίες ασφάλειας και απορρήτου για να σας δίνουν τον έλεγχο των δεδομένων σας. Καθώς οι πελάτες προχωρούν γρήγορα για να εφαρμόσουν γενετική τεχνητή νοημοσύνη στους οργανισμούς τους, πρέπει να γνωρίζετε ότι τα δεδομένα σας διαχειρίζονται με ασφάλεια σε όλο τον κύκλο ζωής της τεχνητής νοημοσύνης, συμπεριλαμβανομένης της προετοιμασίας δεδομένων, της εκπαίδευσης και της εξαγωγής συμπερασμάτων. Η ασφάλεια των βαρών του μοντέλου—οι παράμετροι που μαθαίνει ένα μοντέλο κατά τη διάρκεια της εκπαίδευσης και είναι κρίσιμες για την ικανότητά του να κάνει προβλέψεις—είναι υψίστης σημασίας για την προστασία των δεδομένων σας και τη διατήρηση της ακεραιότητας του μοντέλου.

Αυτός είναι ο λόγος για τον οποίο είναι κρίσιμο για την AWS να συνεχίσει να καινοτομεί για λογαριασμό των πελατών μας για να ανεβάσει τον πήχη της ασφάλειας σε κάθε επίπεδο της γεννήτριας στοίβας AI. Για να το κάνετε αυτό, πιστεύουμε ότι πρέπει να έχετε ενσωματωμένη ασφάλεια και εμπιστευτικότητα σε κάθε επίπεδο της γεννήτριας στοίβας AI. Πρέπει να είστε σε θέση να ασφαλίσετε την υποδομή για να εκπαιδεύσετε LLM και άλλα FM, να δημιουργήσετε με ασφάλεια εργαλεία για την εκτέλεση LLM και άλλων FM και να εκτελέσετε εφαρμογές που χρησιμοποιούν FM με ενσωματωμένη ασφάλεια και απόρρητο που μπορείτε να εμπιστευτείτε.

Στο AWS, η διασφάλιση της υποδομής τεχνητής νοημοσύνης αναφέρεται σε μηδενική πρόσβαση σε ευαίσθητα δεδομένα τεχνητής νοημοσύνης, όπως τα βάρη μοντέλων τεχνητής νοημοσύνης και τα δεδομένα που υποβάλλονται σε επεξεργασία με αυτά τα μοντέλα, από οποιοδήποτε μη εξουσιοδοτημένο άτομο, είτε στον φορέα εκμετάλλευσης της υποδομής είτε στον πελάτη. Αποτελείται από τρεις βασικές αρχές:

1. Πλήρης απομόνωση των δεδομένων AI από τον φορέα εκμετάλλευσης υποδομής – Ο φορέας εκμετάλλευσης υποδομής δεν πρέπει να έχει δυνατότητα πρόσβασης σε περιεχόμενο πελατών και δεδομένα τεχνητής νοημοσύνης, όπως βάρη μοντέλων τεχνητής νοημοσύνης και δεδομένα που υποβάλλονται σε επεξεργασία με μοντέλα.
2. Δυνατότητα των πελατών να απομονώνουν δεδομένα τεχνητής νοημοσύνης από τον εαυτό τους – Η υποδομή πρέπει να παρέχει έναν μηχανισμό που θα επιτρέπει τη φόρτωση βαρών και δεδομένων στο υλικό, ενώ παραμένει απομονωμένη και απρόσιτη από τους χρήστες και το λογισμικό των ίδιων των πελατών.
3. Προστατευμένες επικοινωνίες υποδομής – Η επικοινωνία μεταξύ συσκευών στην υποδομή επιταχυντή ML πρέπει να προστατεύεται. Όλοι οι εξωτερικά προσβάσιμοι σύνδεσμοι μεταξύ των συσκευών πρέπει να είναι κρυπτογραφημένοι.

Το Nitro System πληροί την πρώτη αρχή της Ασφαλούς Υποδομής AI απομονώνοντας τα δεδομένα AI σας από τους χειριστές AWS. Η δεύτερη αρχή σάς παρέχει έναν τρόπο να καταργήσετε την πρόσβαση διαχειριστή των δικών σας χρηστών και λογισμικού στα δεδομένα AI σας. Το AWS όχι μόνο σας προσφέρει έναν τρόπο για να το πετύχετε αυτό, αλλά τον κάναμε επίσης απλό και πρακτικό επενδύοντας στην οικοδόμηση μιας ολοκληρωμένης λύσης μεταξύ AWS Nitro Enclaves και Υπηρεσία διαχείρισης κλειδιών AWS (AWS KMS). Με το Nitro Enclaves και το AWS KMS, μπορείτε να κρυπτογραφήσετε τα ευαίσθητα δεδομένα τεχνητής νοημοσύνης σας χρησιμοποιώντας κλειδιά που κατέχετε και ελέγχετε, να αποθηκεύσετε αυτά τα δεδομένα σε μια τοποθεσία της επιλογής σας και να μεταφέρετε με ασφάλεια τα κρυπτογραφημένα δεδομένα σε ένα απομονωμένο υπολογιστικό περιβάλλον για εξαγωγή συμπερασμάτων. Σε όλη αυτή τη διαδικασία, τα ευαίσθητα δεδομένα AI κρυπτογραφούνται και απομονώνονται από τους δικούς σας χρήστες και το λογισμικό στην παρουσία σας EC2 και οι χειριστές AWS δεν μπορούν να έχουν πρόσβαση σε αυτά τα δεδομένα. Οι περιπτώσεις χρήσης που έχουν ωφεληθεί από αυτή τη ροή περιλαμβάνουν το τρέξιμο Συμπεράσματα LLM σε έναν θύλακα. Μέχρι σήμερα, τα Nitro Enclaves λειτουργούν μόνο στην CPU, περιορίζοντας τις δυνατότητες για μεγαλύτερα μοντέλα τεχνητής νοημοσύνης και πιο περίπλοκη επεξεργασία.

Ανακοινώσαμε τα σχέδιά μας να επεκτείνουμε αυτήν την κρυπτογραφημένη ροή Nitro από άκρο σε άκρο για να συμπεριλάβει ενσωμάτωση πρώτης κατηγορίας με επιταχυντές ML και GPU, εκπληρώνοντας την τρίτη αρχή. Θα μπορείτε να αποκρυπτογραφήσετε και να φορτώσετε ευαίσθητα δεδομένα AI σε έναν επιταχυντή ML για επεξεργασία, παρέχοντας παράλληλα απομόνωση από τους δικούς σας χειριστές και επαληθευμένη αυθεντικότητα της εφαρμογής που χρησιμοποιείται για την επεξεργασία των δεδομένων AI. Μέσω του Nitro System, μπορείτε να επικυρώσετε κρυπτογραφικά τις εφαρμογές σας στο AWS KMS και να αποκρυπτογραφήσετε δεδομένα μόνο όταν περάσουν οι απαραίτητοι έλεγχοι. Αυτή η βελτίωση επιτρέπει στο AWS να προσφέρει κρυπτογράφηση από άκρο σε άκρο για τα δεδομένα σας καθώς ρέει μέσω φόρτου εργασίας τεχνητής νοημοσύνης.

Σκοπεύουμε να προσφέρουμε αυτήν την κρυπτογραφημένη ροή από άκρο σε άκρο στο επερχόμενο σχεδιασμένο AWS Trainium2 καθώς και παρουσίες GPU που βασίζονται στην επερχόμενη αρχιτεκτονική Blackwell της NVIDIA, οι οποίες προσφέρουν και οι δύο ασφαλείς επικοινωνίες μεταξύ συσκευών, την τρίτη αρχή της Ασφαλούς Υποδομής AI. Η AWS και η NVIDIA συνεργάζονται στενά για να φέρουν μια κοινή λύση στην αγορά, συμπεριλαμβανομένης της νέας πλατφόρμας NVIDIA Blackwell GPU 21 της NVIDIA, η οποία συνδυάζει τη λύση GB200 NVL72 της NVIDIA με τις τεχνολογίες Nitro System και EFA για να παρέχουν μια κορυφαία λύση στον κλάδο για την ασφαλή κατασκευή και ανάπτυξη της επόμενης- γενετικές εφαρμογές τεχνητής νοημοσύνης.

Προώθηση του μέλλοντος της γενετικής ασφάλειας AI

Σήμερα, δεκάδες χιλιάδες πελάτες χρησιμοποιούν το AWS για να πειραματιστούν και να μεταφέρουν μετασχηματιστικές παραγωγικές εφαρμογές AI στην παραγωγή. Οι παραγωγικοί φόρτοι εργασίας AI περιέχουν εξαιρετικά πολύτιμα και ευαίσθητα δεδομένα που χρειάζονται το επίπεδο προστασίας από τους δικούς σας χειριστές και τον πάροχο υπηρεσιών cloud. Οι πελάτες που χρησιμοποιούν παρουσίες EC2 που βασίζονται σε AWS Nitro έχουν λάβει αυτό το επίπεδο προστασίας και απομόνωσης από τους χειριστές AWS από το 2017, όταν παρουσιάσαμε το καινοτόμο σύστημα Nitro.

Στην AWS, συνεχίζουμε αυτή την καινοτομία καθώς επενδύουμε στην οικοδόμηση δυνατοτήτων απόδοσης και πρόσβασης ώστε να είναι πρακτικό για τους πελάτες μας να διασφαλίζουν τον παραγωγικό φόρτο εργασίας τους AI στα τρία επίπεδα της στοίβας τεχνητής νοημοσύνης, ώστε να μπορείτε να εστιάσετε σε αυτό που κάνετε καλύτερο: δημιουργία και επέκταση των χρήσεων της γενετικής τεχνητής νοημοσύνης σε περισσότερες περιοχές. Μάθε περισσότερα εδώ.

---

Σχετικά με τους συγγραφείς

Ο Anthony Liguori είναι αντιπρόεδρος της AWS και διακεκριμένος μηχανικός για το EC2

Ο Colm MacCárthaigh είναι αντιπρόεδρος της AWS και διακεκριμένος μηχανικός για το EC2

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
• πηγή: https://aws.amazon.com/blogs/machine-learning/a-secure-approach-to-generative-ai-with-aws/