גישה מאובטחת ל-AI גנרטיבי עם AWS | שירותי האינטרנט של אמזון

בינה מלאכותית גנרטיבית (AI) משנה את חווית הלקוח בתעשיות ברחבי העולם. לקוחות בונים יישומי AI גנרטיביים תוך שימוש במודלים של שפה גדולה (LLMs) ומודלים בסיסיים אחרים (FMs), אשר משפרים את חווית הלקוח, משנים תפעול, משפרים את פרודוקטיביות העובדים ויוצרים ערוצי הכנסה חדשים.

חברות FM והיישומים שנבנו סביבם מייצגים השקעות יקרות מאוד עבור הלקוחות שלנו. הם משמשים לעתים קרובות עם נתונים עסקיים רגישים ביותר, כמו נתונים אישיים, נתוני תאימות, נתונים תפעוליים ומידע פיננסי, כדי לייעל את תפוקת המודל. הדאגה הגדולה ביותר שאנו שומעים מלקוחות כשהם חוקרים את היתרונות של AI גנרטיבי היא כיצד להגן על הנתונים וההשקעות הרגישים ביותר שלהם. מכיוון שהנתונים ומשקל הדגמים שלהם יקרים להפליא, הלקוחות דורשים מהם להישאר מוגנים, מאובטחים ופרטיים, בין אם זה מחשבונות המנהל שלהם, הלקוחות שלהם, נקודות התורפה בתוכנות הפועלות בסביבות שלהם, או אפילו מספק שירותי הענן שלהם. גִישָׁה.

ב-AWS, העדיפות העליונה שלנו היא שמירה על האבטחה והסודיות של עומסי העבודה של הלקוחות שלנו. אנו חושבים על אבטחה על פני שלוש השכבות של ערימת הבינה המלאכותית הגנרטיבית שלנו:

• שכבה תחתונה - מספק את הכלים לבנייה והדרכה של LLMs ו-FMs אחרים
• שכבה אמצעית - מספק גישה לכל הדגמים יחד עם כלים שאתה צריך כדי לבנות ולהרחיב יישומי AI מחוללים
• שכבה עליונה - כולל יישומים המשתמשים ב-LLMs ו-FMs אחרים כדי להפוך את העבודה ללא מתח על ידי כתיבת קוד וניפוי באגים, הפקת תוכן, הפקת תובנות ונקיטת פעולה

כל שכבה חשובה כדי להפוך את הבינה המלאכותית הגנרטיבית לרווחת ולטרנספורמטיבית.

עם מערכת AWS Nitro, סיפקנו חידוש ראשון מסוגו בשם הלקוחות שלנו. מערכת Nitro היא עמוד שדרה מחשוב שאין שני לו עבור AWS, עם אבטחה וביצועים בבסיסו. החומרה המיוחדת והקושחה הנלווית שלה נועדו לאכוף הגבלות כך שאף אחד, כולל אף אחד ב-AWS, לא יוכל לגשת לעומסי העבודה שלך או לנתונים הפועלים על ענן מחשוב אלסטי של אמזון (Amazon EC2) מופעים. לקוחות נהנו מהסודיות והבידוד הזה ממפעילי AWS בכל מופעי EC2 מבוססי Nitro מאז 2017.

לפי התכנון, אין מנגנון לעובדי אמזון לגשת למופע Nitro EC2 שלקוחות משתמשים בו כדי להפעיל את עומסי העבודה שלהם, או לגשת לנתונים שלקוחות שולחים למאיץ למידת מכונה (ML) או ל-GPU. הגנה זו חלה על כל המופעים מבוססי Nitro, כולל מופעים עם מאיצי ML כמו Afer Inferentia ו AWS Trainium, ומופעים עם GPUs כמו P4, P5, G5 ו-G6.

מערכת Nitro מאפשרת מתאם בד אלסטי (EFA), המשתמשת בפרוטוקול התקשורת AWS Scalable Reliable Datagram (SRD) שנבנה ב-AWS עבור אימון מבוזר בקנה מידה של ענן אלסטי ובקנה מידה גדול, המאפשר את הרשת היחידה בעלת יכולת גישה לזיכרון מרחוק ישיר (RDMA) המוצפנת תמיד. כל התקשורת דרך EFA מוצפנת עם הצפנת VPC ללא עונש ביצוע כלשהו.

העיצוב של מערכת Nitro היה מאומת על ידי קבוצת NCC, חברת אבטחת סייבר עצמאית. AWS מספקת רמה גבוהה של הגנה על עומסי עבודה של לקוחות, ואנו מאמינים שזו רמת האבטחה והסודיות שהלקוחות צריכים לצפות ממנה מספק הענן שלהם. רמת ההגנה הזו היא כל כך קריטית שהוספנו אותה ברשימה שלנו תנאי השירות של AWS לספק בטחון נוסף לכל לקוחותינו.

חידוש עומסי עבודה בינה מלאכותית מאובטחת באמצעות יכולות אבטחה מובילות בתעשייה של AWS

מהיום הראשון, לתשתית ולשירותי AWS AI היו תכונות אבטחה ופרטיות מובנות כדי לתת לך שליטה על הנתונים שלך. מכיוון שלקוחות עוברים במהירות ליישם בינה מלאכותית בארגונים שלהם, אתה צריך לדעת שהנתונים שלך מטופלים בצורה מאובטחת לאורך כל מחזור החיים של הבינה המלאכותית, כולל הכנת נתונים, הדרכה והסקת מסקנות. האבטחה של משקולות המודל - הפרמטרים שמודל לומד במהלך האימון שהם קריטיים ליכולתו לבצע תחזיות - חשובה ביותר להגנה על הנתונים שלך ולשמירה על שלמות המודל.

זו הסיבה שחשוב ל-AWS להמשיך לחדש בשם הלקוחות שלנו כדי להעלות את רף האבטחה בכל שכבה של מחסנית הבינה המלאכותית. כדי לעשות זאת, אנו מאמינים שאתה חייב להיות בעל אבטחה וסודיות מובנים בכל שכבה של ערימת הבינה המלאכותית היצירתית. אתה צריך להיות מסוגל לאבטח את התשתית לאימון LLMs ו-FMs אחרים, לבנות בצורה מאובטחת עם כלים להפעלת LLMs ו-FMs אחרים, ולהריץ יישומים המשתמשים ב-FMs עם אבטחה ופרטיות מובנית שאתה יכול לסמוך עליהם.

ב-AWS, אבטחת תשתית בינה מלאכותית מתייחסת לאפס גישה לנתוני בינה מלאכותית רגישים, כגון משקלי מודל בינה מלאכותית ונתונים המעובדים עם מודלים אלו, על ידי כל אדם לא מורשה, בין אם אצל מפעיל התשתית או אצל הלקוח. הוא מורכב משלושה עקרונות מפתח:

1. בידוד מלא של נתוני ה-AI ממפעיל התשתית - למפעיל התשתית לא תהיה יכולת לגשת לתוכן הלקוח ולנתוני בינה מלאכותית, כגון משקלי מודל בינה מלאכותית ונתונים המעובדים במודלים.
2. יכולת ללקוחות לבודד נתוני AI מעצמם – התשתית חייבת לספק מנגנון שיאפשר טעינת משקלים ונתונים של דגם לתוך החומרה, תוך שמירה על מבודדים ובלתי נגישים מהמשתמשים והתוכנות של הלקוחות עצמם.
3. תקשורת תשתית מוגנת – יש להגן על התקשורת בין מכשירים בתשתית מאיץ ML. כל הקישורים הנגישים חיצונית בין המכשירים חייבים להיות מוצפנים.

מערכת Nitro מגשימה את העיקרון הראשון של תשתית AI מאובטחת על ידי בידוד נתוני ה-AI שלך ממפעילי AWS. העיקרון השני מספק לך דרך להסיר גישה מנהלתית של המשתמשים והתוכנה שלך לנתוני ה-AI שלך. AWS לא רק מציעה לך דרך להשיג זאת, אלא גם הפכנו אותה לפשוטה ומעשית על ידי השקעה בבניית פתרון משולב בין AWS Nitro מובלעות ו שירות ניהול מפתח AWS (AWS KMS). עם Nitro Enclaves ו-AWS KMS, אתה יכול להצפין את נתוני הבינה המלאכותית הרגישים שלך באמצעות מפתחות שבבעלותך ושולטים בבעלותך, לאחסן את הנתונים האלה במיקום לבחירתך ולהעביר בצורה מאובטחת את הנתונים המוצפנים לסביבת מחשוב מבודדת להסקת מסקנות. לאורך כל התהליך הזה, נתוני הבינה המלאכותית הרגישים מוצפנים ומבודדים מהמשתמשים והתוכנות שלך במופע ה-EC2 שלך, ומפעילי AWS לא יכולים לגשת לנתונים האלה. מקרי שימוש שהרוויחו מתזרים זה כוללים ריצה מסקנות LLM בתוך מובלעת. עד היום, Nitro Enclaves פועלות רק ב-CPU, מה שמגביל את הפוטנציאל למודלים גדולים יותר של AI ועיבוד מורכב יותר.

הכרזנו על התוכניות שלנו להרחיב את הזרימה המוצפנת הזו של Nitro מקצה לקצה כך שתכלול אינטגרציה מהשורה הראשונה עם מאיצי ML ו-GPU, תוך מילוי העיקרון השלישי. תוכל לפענח ולטעון נתוני AI רגישים למאיץ ML לעיבוד תוך מתן בידוד מהמפעילים שלך ואותנטיות מאומתת של היישום המשמש לעיבוד נתוני AI. באמצעות מערכת Nitro, אתה יכול לאמת באופן קריפטוגרפי את היישומים שלך ל-AWS KMS ולפענח נתונים רק כאשר הבדיקות הנדרשות עוברות. שיפור זה מאפשר ל-AWS להציע הצפנה מקצה לקצה עבור הנתונים שלך כשהם זורמים דרך עומסי עבודה של AI.

אנו מתכננים להציע את הזרימה המוצפנת הזו מקצה לקצה ב-AWS המתוכנן הקרוב טריניום2 כמו גם מופעי GPU המבוססים על ארכיטקטורת Blackwell הקרובה של NVIDIA, אשר שתיהן מציעות תקשורת מאובטחת בין מכשירים, העיקרון השלישי של Secure AI Infrastructure. AWS ו-NVIDIA משתפות פעולה באופן הדוק כדי להביא פתרון משותף לשוק, כולל פלטפורמת NVIDIA Blackwell GPU 21 החדשה של NVIDIA, המשלבת את פתרון GB200 NVL72 של NVIDIA עם טכנולוגיות Nitro System ו-EFA כדי לספק פתרון מוביל בתעשייה לבנייה ופריסה מאובטחת של הבא- דור יישומי בינה מלאכותית.

קידום העתיד של אבטחת AI גנרטיבית

כיום, עשרות אלפי לקוחות משתמשים ב-AWS כדי להתנסות ולהעביר יישומי AI מחוללים טרנספורמטיביים לייצור. עומסי עבודה AI גנרטיביים מכילים נתונים בעלי ערך רב ורגישים הזקוקים לרמת ההגנה מהמפעילים שלך ומספק שירותי הענן. לקוחות המשתמשים במופעי EC2 מבוססי AWS Nitro קיבלו רמה זו של הגנה ובידוד ממפעילי AWS מאז 2017, כאשר השקנו את מערכת Nitro החדשנית שלנו.

ב-AWS, אנו ממשיכים בחדשנות זו כאשר אנו משקיעים בבניית יכולות ביצועיות ונגישות כדי להפוך את זה למעשי עבור הלקוחות שלנו לאבטח את עומסי העבודה ה-AI היצירתיים שלהם על פני שלוש השכבות של מחסנית ה-AI הגנרטיבית, כך שתוכל להתמקד במה שאתה עושה. הטוב ביותר: בנייה והרחבת השימושים של ה-AI הגנרטיבי לתחומים נוספים. למד עוד כאן.

---

על המחברים

אנתוני ליגוורי הוא סמנכ"ל AWS ומהנדס מובהק עבור EC2

Colm MacCárthaig הוא סמנכ"ל AWS ומהנדס מובהק עבור EC2

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://aws.amazon.com/blogs/machine-learning/a-secure-approach-to-generative-ai-with-aws/