AWS CISO: שימו לב לאופן שבו בינה מלאכותית משתמשת בנתונים שלכם

ארגונים מאמצים יותר ויותר בינה מלאכותית גנרטיבית כדי להפוך תהליכי IT לאוטומטיים, לזהות איומי אבטחה ולהשתלט על פונקציות שירות לקוחות קו ראשון. א סקר IBM בשנת 2023 מצאו ש-42% מהארגונים הגדולים השתמשו באופן פעיל בבינה מלאכותית, ועוד 40% בחנו או התנסו ב-AI.

בצומת הבלתי נמנעת של AI וענן, ארגונים צריכים לחשוב כיצד לאבטח כלי AI בענן. אדם אחד שחשב הרבה על זה הוא כריס בץ, שהפך ל-CISO בשירותי האינטרנט של אמזון באוגוסט האחרון.

לפני AWS, בץ היה סגן נשיא בכיר ו-CISO של Capital One. בץ עבד גם כסגן נשיא בכיר וקצין אבטחה ראשי ב- Lumen Technologies ובתפקידי אבטחה באפל, מיקרוסופט ו-CBS.

Dark Reading שוחחה לאחרונה עם בץ על אבטחת עומסי עבודה של AI בענן. בהמשך מופיעה גרסה ערוכה של אותה שיחה.

קריאה אפלה: מהם כמה מהאתגרים הגדולים באבטחת עומסי עבודה של AI בענן?

כריס בץ: כשאני מדבר עם הרבה מהלקוחות שלנו על בינה מלאכותית יצירתית, השיחות האלה מתחילות לעתים קרובות עם, "יש לי נתונים ממש רגישים, ואני מחפש לספק יכולת ללקוחות שלי. איך אני עושה את זה בצורה בטוחה ומאובטחת?" אני מאוד מעריך את השיחה הזו כי זה כל כך חשוב שהלקוחות שלנו יתמקדו בתוצאה שהם מנסים להשיג.

קריאה אפלה: ממה הלקוחות הכי מודאגים?

בץ: השיחה צריכה להתחיל עם הרעיון ש"הנתונים שלך הם הנתונים שלך". יש לנו יתרון גדול בכך שאני יכול לבנות על גבי תשתית IT שעושה עבודה ממש טובה בשמירה על הנתונים האלה היכן שהם נמצאים. אז העצה הראשונה שאני נותן היא: הבן היכן הנתונים שלך נמצאים. איך הוא מוגן? כיצד משתמשים בו במודל ה-AI הגנרטיבי?

הדבר השני שאנחנו מדברים עליו הוא שהאינטראקציות עם מודל AI מחולל משתמשות לעתים קרובות בכמה מהנתונים הרגישים ביותר של הלקוחות שלהם. כאשר אתה שואל מודל AI מחולל על עסקה ספציפית, אתה הולך להשתמש במידע על האנשים המעורבים בעסקה זו.

קריאה אפלה: האם ארגונים מודאגים הן ממה שה-AI עושה עם נתוני החברה הפנימיים שלהם והן עם נתוני הלקוחות?

בץ: הלקוחות הכי רוצים להשתמש בבינה מלאכותית גנרטיבית באינטראקציות שלהם עם הלקוחות שלהם ובכרייה וניצול הכמות העצומה של נתונים שיש להם פנימית ולגרום לזה לעבוד עבור העובדים הפנימיים או עבור הלקוחות שלהם. זה כל כך חשוב לחברות שהן מנהלות את הנתונים הרגישים להפליא בצורה בטוחה ומאובטחת מכיוון שהיא נשמת אפם של העסקים שלהן.

חברות צריכות לחשוב היכן הנתונים שלהן נמצאים וכיצד הם מוגנים כאשר הם נותנים הנחיות לבינה מלאכותית ומתי הם מקבלים תגובות בחזרה.

קריאה חשוכה: האם איכות התגובות ואבטחת הנתונים קשורים?

בץ: משתמשי AI תמיד צריכים לחשוב אם הם מקבלים תגובות איכותיות. הסיבה לאבטחה היא שאנשים נותנים אמון במערכות המחשב שלהם. אם אתה מרכיב את המערכת המורכבת הזו שמשתמשת במודל AI מחולל כדי לספק משהו ללקוח, אתה צריך שהלקוח יבטח שה-AI נותן לו את המידע הנכון לפעול לפיו ושהוא מגן על המידע שלו.

קריאה אפלה: האם יש דרכים ספציפיות ש-AWS יכולה לשתף על האופן שבו היא מגינה מפני התקפות על AI בענן? אני חושב על הזרקה מיידית, התקפות הרעלה, התקפות יריבות, דברים מהסוג הזה.

בץ: עם יסודות חזקים כבר במקום, AWS הייתה ערוכה היטב לעמוד באתגר מכיוון שאנו עובדים עם AI במשך שנים. יש לנו מספר רב של פתרונות AI פנימיים ומספר שירותים שאנו מציעים ישירות ללקוחות שלנו, ואבטחה הייתה שיקול מרכזי באופן שבו אנו מפתחים פתרונות אלו. זה מה שהלקוחות שלנו שואלים, וזה מה שהם מצפים.

כאחד מספקי הענן בקנה מידה גדול, יש לנו נראות רחבה לצרכי אבטחה מתפתחים ברחבי העולם. מודיעין האיומים שאנו לוכדים מצטבר ומשמש לפיתוח תובנות ניתנות לפעולה המשמשות בכלים ושירותים של לקוחות כגון משמרת מאבטח. בנוסף, מודיעין האיומים שלנו משמש ליצירת פעולות אבטחה אוטומטיות בשם הלקוחות כדי לשמור על אבטחת הנתונים שלהם.

קריאה אפלה: שמענו הרבה על ספקי אבטחת סייבר המשתמשים ב-AI ולמידת מכונה כדי לזהות איומים על ידי חיפוש אחר התנהגות חריגה במערכות שלהם. מהן דרכים אחרות שבהן חברות משתמשות בבינה מלאכותית כדי לעזור לאבטח את עצמן?

בץ: ראיתי לקוחות עושים כמה דברים מדהימים עם AI גנרטיבי. ראינו אותם מנצלים את CodeWhisperer [מחולל הקוד המופעל על ידי AWS] כדי לפתח טכנולוגיות במהירות אבטיפוס ופיתוח. ראיתי צוותים משתמשים ב-CodeWhisperer כדי לעזור להם לבנות קוד מאובטח ולהבטיח שאנו מתמודדים עם פערים בקוד.

בנינו גם פתרונות AI גנרטיביים שנמצאים בקשר עם חלק ממערכות האבטחה הפנימיות שלנו. כפי שאתה יכול לדמיין, צוותי אבטחה רבים מתמודדים עם כמויות אדירות של מידע. בינה מלאכותית גנרטיבית מאפשרת סינתזה של הנתונים הללו כדי להפוך אותם לשמישים מאוד על ידי בונים וצוותי אבטחה, כדי להבין מה קורה במערכות, לכו לשאול שאלות טובות יותר ולחבר את הנתונים האלה יחד.

כשהתחלתי לחשוב על מחסור בכשרונות אבטחת סייבר, AI גנרטיבי לא רק היום עוזר לשפר את מהירות פיתוח התוכנה ולשפר קידוד מאובטח, אלא גם עוזר לצבור נתונים. זה ימשיך לעזור לנו כי זה מגביר את היכולות האנושיות שלנו. בינה מלאכותית עוזרת לנו להפגיש מידע כדי לפתור בעיות מורכבות ועוזרת להביא את הנתונים למהנדסי האבטחה והאנליסטים כדי שהם יוכלו להתחיל לשאול שאלות טובות יותר.

קריאה אפלה: האם אתה רואה איומי אבטחה ספציפיים ל-AI ולענן?

בץ: ביליתי זמן רב עם חוקרי אבטחה בבחינת התקפות AI חדשניות ואיך תוקפים מסתכלים על זה. יש שני סוגים של דברים שאני חושב עליהם במרחב הזה. המחלקה הראשונה היא שאנו רואים שחקנים זדוניים מתחילים להשתמש בבינה מלאכותית גנרטיבית כדי להשתפר מהר יותר במה שהם כבר עושים. תוכן הנדסה חברתית הוא דוגמה לכך.

התוקפים משתמשים גם בטכנולוגיית AI כדי לעזור בכתיבת קוד מהר יותר. זה מאוד דומה למקום שבו נמצאת ההגנה. חלק מהכוח של הטכנולוגיה הזו הוא שהיא מקלה על סוג של פעילויות, וזה נכון לתוקפים, אבל זה נכון מאוד גם למגנים.

התחום השני שאני רואה שחוקרים מתחילים להסתכל עליו יותר הוא העובדה שדגמי הבינה המלאכותית הגנרטיבית האלה הם קוד. כמו קוד אחר, הם רגישים לחולשות. חשוב שנבין כיצד לאבטח אותם ולוודא שהם קיימים בסביבה שיש בה הגנות.

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://www.darkreading.com/cloud-security/aws-ciso-cloud-customers-need-secure-ai-workloads