מה אורב בחושך: לוקחים Aim at Shadow AI

צוותי אבטחה מתמודדים עם סיוט חדש בעונת ליל כל הקדושים: עליית הבינה המלאכותית הגנרטיבית (AI). כלי בינה מלאכותית גנרטיבית שחררו עידן חדש של טרור עבור קציני אבטחת מידע ראשיים (CISOs), החל מהפעלת זיופים עמוקים שכמעט ואינם ניתנים להבחנה מהמציאות ועד ליצירת מיילים דיוגים מתוחכמים שנראים אותנטיים להפליא לגישה לכניסות ולגניבת זהויות. מופע האימים היצירתי של AI חורג מעבר לניהול זהות וגישה, עם וקטורים של התקפה שנעים בין דרכים חכמות יותר לחדירת קוד לחשיפת נתונים קנייניים רגישים.

על פי סקר מ-The Conference Board, 56% מהעובדים באמצעות AI גנרטיבי בעבודה, אבל רק 26% טוענים שלארגון שלהם יש מדיניות בינה מלאכותית. בעוד שחברות רבות מנסות ליישם מגבלות סביב השימוש בבינה מלאכותית בעבודה, החיפוש עתיק יומין אחר פרודוקטיביות אומר שאחוז מדאיג מהעובדים משתמשים בבינה מלאכותית ללא ברכת ה-IT או לחשוב על השלכות אפשריות. לדוגמה, לאחר שחלק מהעובדים הזינו מידע רגיש של החברה ל-ChatGPT, סמסונג אסרה את השימוש בו כמו גם את זה בכלי AI דומים.

Shadow IT - שבו עובדים משתמשים בכלי IT לא מורשים - נפוץ במקום העבודה במשך עשרות שנים. כעת, כשה-AI הגנרטיבי מתפתח כל כך מהר ש-CISOs לא יכולים להבין לגמרי נגד מה הם נלחמים, תופעה חדשה ומפחידה מתגלה: Shadow AI.

מ-Shadow IT ל-Shadow AI

קיים מתח מהותי בין צוותי IT, שרוצים שליטה באפליקציות וגישה לנתונים רגישים על מנת להגן על החברה, לבין עובדים, שתמיד יחפשו כלים שיעזרו להם לבצע יותר עבודה מהר יותר. למרות אינספור פתרונות בשוק המכוונים ל-Shadow IT בכך שהם מקשים על עובדים לגשת לכלים ופלטפורמות לא מאושרות, יותר משלושה מתוך 10 עובדים דיווחו שימוש בכלי תקשורת ושיתוף פעולה לא מורשים שנה שעברה.

בעוד שכוונותיהם של רוב העובדים נמצאות במקום הנכון - לעשות יותר - העלויות יכולות להיות מחרידות. מוערך שליש מהמצליחים התקפות סייבר מגיעות מ-Shadow IT ויכול לעלות מיליונים. יתרה מכך, 91% מאנשי ה-IT מרגישים לחץ לסכן את האבטחה כדי להאיץ את הפעילות העסקית, ו-83% מצוותי ה-IT מרגישים שאי אפשר לאכוף מדיניות אבטחת סייבר.

בינה מלאכותית גנרטיבית יכולה להוסיף עוד מימד מפחיד למצוקה זו כאשר כלים צוברים נתוני חברה רגישים שכאשר הם נחשפים, עלולים לפגוע במוניטין התאגיד.

מודעים לאיומים הללו, בנוסף לסמסונג, מעסיקים רבים הגבלת גישה ל-AI יצירתי רב עוצמה כלים. במקביל, העובדים שומעים פעם אחר פעם שהם יפגרו בלי להשתמש בבינה מלאכותית. ללא פתרונות שיעזרו להם להתקדם, העובדים עושים מה שהם תמיד יעשו - לוקחים את העניינים לידיים שלהם ומשתמשים בפתרונות שהם צריכים לספק, עם או בלי רשות ה-IT. אז אין זה פלא שמועצת הועידה גילתה שיותר ממחצית מהעובדים כבר משתמשים בבינה מלאכותית גנרית בעבודה - מותר או לא.

ביצוע גירוש שדים של Shadow AI

עבור ארגונים המתמודדים עם בינה מלאכותית עם צללים, ניהול מצעד האיומים האינסופי הזה עשוי להרגיש כמו לנסות לשרוד פרק של המתים המהלכים. ועם פלטפורמות AI חדשות שצצות ללא הרף, זה יכול להיות קשה למחלקות IT לדעת מאיפה להתחיל.

למרבה המזל, ישנן אסטרטגיות שנבדקו בזמן שמנהיגי IT ו-CISOs יכולים ליישם כדי לשרש כלים לא מורשים בינה מלאכותית ולהפחיד אותם לפני שהם מתחילים להחזיק בחברות שלהם.

• תודו ברוחות הרפאים הידידותיות. עסקים יכולים להפיק תועלת בכך שהם מספקים לעובדים שלהם כלים שימושיים בינה מלאכותית שעוזרים להם להיות פרודוקטיביים יותר, אך הם יכולים גם להיבדק, לפרוס ולנהל אותם תחת ממשל IT. על ידי מתן כלים מאובטחים בינה מלאכותית ויצירת מדיניות עבור סוג הנתונים המועלים, ארגונים מוכיחים לעובדים שהארגון משקיע בהצלחתם. זה יוצר תרבות של תמיכה ושקיפות שיכולה להניע אבטחה טובה יותר לטווח ארוך ושיפור הפרודוקטיביות.
• זרקור את השדים. עובדים רבים פשוט לא מבינים ששימוש בבינה מלאכותית גנרטיבית יכול להעמיד את החברה שלהם בסיכון פיננסי אדיר. חלקם עשויים שלא להבין בבירור את ההשלכות של אי עמידה בכללים או שלא ירגישו אחראים על ביצועם. באופן מדאיג, מקצוע נוטים יותר מעובדים אחרים (37% לעומת 25%) לומר שהם עוקפים את המדיניות של החברה שלהם כאשר מנסים לפתור את בעיות ה-IT שלהם. חיוני לערב את כל כוח העבודה, מהמנכ"ל ועד לעובדים הקדמיים, בהדרכה שוטפת על הסיכונים הכרוכים ותפקידיהם שלהם במניעה תוך אכיפת הפרות בצורה נבונה.
• קבץ מחדש את מכסי הרוחות שלך. CISOs ישרתו היטב כדי להעריך מחדש את יכולות ניהול הזהויות והגישה הקיימות כדי להבטיח שהם עוקבים אחר פתרונות בינה מלאכותית לא מורשים ויכולים לשלוח במהירות את החוליות המובילות שלהם בעת הצורך.

Shadow AI רודפת עסקים, וזה חיוני להדוף את זה. תכנון מושכל, פיקוח קפדני, תקשורת יזומה וכלי אבטחה מעודכנים יכולים לעזור לארגונים להקדים את האיומים הפוטנציאליים. אלה יעזרו להם לתפוס את הערך העסקי הטרנספורמטיבי של AI גנרטיבי מבלי ליפול קורבן לפרצות האבטחה שהיא תמשיך להציג.

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://www.darkreading.com/vulnerabilities-threats/what-lurks-in-the-dark-taking-aim-at-shadow-ai