כיצד לארכיט בבטחה AI בתוכניות אבטחת הסייבר שלך

בסוף יוני חשפה חברת אבטחת הסייבר Group-IB דבר ראוי לציון פרצת אבטחה שהשפיעה על חשבונות ChatGPT. החברה זיהתה 100,000 מכשירים שנפגעו, כל אחד מהם עם אישורי ChatGPT שנסחרו לאחר מכן בשוקי Dark Web לא חוקיים במהלך השנה האחרונה. הפרה זו עוררה תשומת לב מיידית לטיפול באבטחה הנפגעת של חשבונות ChatGPT, שכן שאילתות חיפוש המכילות מידע רגיש נחשפות להאקרים.

בתקרית אחרת, תוך פרק זמן של פחות מחודש, סבלה סמסונג שלושה מקרים מתועדים שבהם עובדים בטעות הדליף מידע רגיש דרך ChatGPT. מכיוון ש-ChatGPT שומרת על נתוני קלט של משתמשים כדי לשפר את הביצועים שלה, סודות מסחריים יקרי ערך אלה השייכים לסמסונג נמצאים כעת בבעלותה של OpenAI, החברה שעומדת מאחורי שירות ה-AI. זה מעורר חששות משמעותיים לגבי הסודיות והאבטחה של המידע הקנייני של סמסונג.

בגלל דאגות כאלה לגבי התאימות של ChatGPT לתקנת הגנת הנתונים הכללית של האיחוד האירופי (GDPR), המחייבת הנחיות קפדניות לאיסוף ושימוש בנתונים, איטליה הטילה איסור כלל ארצי על השימוש ב-ChatGPT.

התקדמות מהירה ביישומי בינה מלאכותית ויישומי בינה מלאכותית פתחה הזדמנויות חדשות להאצת הצמיחה בבינה עסקית, במוצרים ובתפעול. אבל בעלי תוכניות אבטחת סייבר צריכים להבטיח פרטיות נתונים בזמן שהם ממתינים לפיתוח חוקים.

מנוע ציבורי מול מנוע פרטי

כדי להבין טוב יותר את המושגים, נתחיל בהגדרת בינה מלאכותית ציבורית ובינה מלאכותית פרטית. בינה מלאכותית ציבורית מתייחסת ליישומי תוכנת בינה מלאכותית נגישה לציבור שהוכשרו על מערכי נתונים, שמקורם לעתים קרובות ממשתמשים או לקוחות. דוגמה מצוינת לבינה מלאכותית ציבורית היא ChatGPT, הממנפת נתונים זמינים לציבור מהאינטרנט, כולל מאמרי טקסט, תמונות וסרטונים.

בינה מלאכותית ציבורית יכולה גם להקיף אלגוריתמים המשתמשים במערכי נתונים שאינם בלעדיים למשתמש או ארגון ספציפי. כתוצאה מכך, לקוחות של AI ציבורי צריכים להיות מודעים לכך שהנתונים שלהם עשויים שלא להישאר פרטיים לחלוטין.

AI פרטי, לעומת זאת, כולל אימון אלגוריתמים על נתונים שייחודיים למשתמש או ארגון מסוים. במקרה זה, אם אתה משתמש במערכות למידת מכונה כדי להכשיר מודל באמצעות מערך נתונים ספציפי, כגון חשבוניות או טפסי מס, המודל הזה יישאר בלעדי לארגון שלך. ספקי פלטפורמות אינם מנצלים את הנתונים שלך כדי להכשיר את המודלים שלהם, כך שבינה מלאכותית פרטית מונעת כל שימוש בנתונים שלך כדי לסייע למתחרים שלך.

שלב בינה מלאכותית בתוכניות הדרכה ומדיניות

על מנת להתנסות, לפתח ולשלב יישומי בינה מלאכותית במוצרים ובשירותים שלהם תוך הקפדה על שיטות עבודה מומלצות, צוות אבטחת הסייבר צריך ליישם את המדיניות הבאה.

מודעות וחינוך משתמשים: למד את המשתמשים על הסיכונים הכרוכים בשימוש בבינה מלאכותית ועודד אותם להיות זהירים בעת העברת מידע רגיש. קדם שיטות תקשורת מאובטחות וייעץ למשתמשים לאמת את האותנטיות של מערכת הבינה המלאכותית.

• מזעור נתונים: ספק למנוע AI רק את כמות הנתונים המינימלית הדרושה לביצוע המשימה. הימנע משיתוף מידע מיותר או רגיש שאינו רלוונטי לעיבוד AI.
• אנונימיזציה וביטול זיהוי: במידת האפשר, בצע אנונימיות או בטל זיהוי של הנתונים לפני הזנתם למנוע AI. זה כרוך בהסרת מידע אישי מזהה (PII) או כל תכונות רגישות אחרות שאינן נדרשות לעיבוד AI.

שיטות טיפול מאובטח בנתונים: קבע מדיניות ונהלים קפדניים לטיפול בנתונים הרגישים שלך. הגבל את הגישה לצוות מורשה בלבד ואכף מנגנוני אימות חזקים כדי למנוע גישה לא מורשית. הדרכת עובדים על שיטות עבודה מומלצות לפרטיות מידע והטמיע מנגנוני רישום וביקורת למעקב אחר גישה ושימוש לנתונים.

שמירה וסילוק: הגדר מדיניות שמירת נתונים והשליך בצורה מאובטחת את הנתונים ברגע שלא יהיה בהם צורך עוד. ליישם כמו שצריך מנגנוני סילוק נתונים, כגון מחיקה מאובטחת או מחיקה קריפטוגרפית, כדי להבטיח שלא ניתן לשחזר את הנתונים לאחר שהם אינם נדרשים עוד.

שיקולים משפטיים ותאימות: הבן את ההשלכות המשפטיות של הנתונים שאתה מזין למנוע AI. ודא שהדרך בה משתמשים מעסיקים את ה-AI תואמת את התקנות הרלוונטיות, כגון חוקי הגנת מידע או תקנים ספציפיים לתעשייה.

הערכת ספק: אם אתה משתמש במנוע AI המסופק על ידי ספק צד שלישי, בצע הערכה יסודית של אמצעי האבטחה שלהם. ודא שהספק ממלא אחר שיטות העבודה המומלצות בתעשייה לאבטחת מידע ופרטיות, ושיש לו אמצעי הגנה מתאימים כדי להגן על הנתונים שלך. אישורי ISO ו-SOC, למשל, מספקים אימותים בעלי ערך של צד שלישי לגבי עמידתו של הספק בתקנים מוכרים והמחויבות שלהם לאבטחת מידע.

צור מדיניות שימוש מקובל בינה מלאכותית (AUP): מדיניות שימוש מקובל בינה מלאכותית צריכה לתאר את המטרה והיעדים של המדיניות, תוך שימת דגש על השימוש האחראי והמוסרי בטכנולוגיות AI. זה צריך להגדיר מקרי שימוש מקובלים, לציין את ההיקף והגבולות לשימוש ב-AI. ה-AUP צריך לעודד שקיפות, אחריות וקבלת החלטות אחראית בשימוש ב-AI, לטפח תרבות של שיטות AI אתיות בתוך הארגון. סקירות ועדכונים סדירים מבטיחים את הרלוונטיות של המדיניות לטכנולוגיות ואתיקה של AI המתפתחים.

מסקנות

על ידי הקפדה על הנחיות אלו, בעלי תוכניות יכולים למנף ביעילות כלי AI תוך שמירה על מידע רגיש ושמירה על סטנדרטים אתיים ומקצועיים. חיוני לבדוק את הדיוק של החומר שנוצר בינה מלאכותית, תוך הגנה על הנתונים המוזנים שנכנסים ליצירת הנחיות תגובה.

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. רכב / רכבים חשמליים, פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• BlockOffsets. מודרניזציה של בעלות על קיזוז סביבתי. גישה כאן.
• מקור: https://www.darkreading.com/edge/how-to-safely-architect-ai-in-your-cybersecurity-programs