Infosec לא יודע באילו כלי AI משתמשים ארגונים

עם השוק שטוף בכלים חדשים של בינה מלאכותית (AI) ו תכונות AI חדשות נוצצות שמתווספות כלים קיימים, ארגונים מוצאים את עצמם חסרי נראות לגבי אילו כלי בינה מלאכותית נמצאים בשימוש, כיצד הם משמשים, למי יש גישה ואילו נתונים משותפים. נתונים מ-Nudge Security מראים שלארגונים יש בממוצע שישה כלי AI בשימוש, כאשר ChatGPT ו-Jasper.ai מובילים את הדרך באימוץ.

כשעסקים מנסים, מאמצים וזנוחים כלים חדשים של בינה מלאכותית, זה נופל על מובילי IT, סיכונים ואבטחה ארגוניים לשלוט ולאבטח את השימוש בהם מבלי להפריע לחדשנות. בעוד שפיתוח מדיניות אבטחה לשלוט בשימוש ב-AI הוא חשוב, זה לא אפשרי בלי לדעת באילו כלים משתמשים מלכתחילה.

התרשים שלמעלה מראה עד כמה נפוצה האימוץ של ChatGPT (OpenAI.com) בקרב ארגונים, והרבה מתמודדים אחרים מתמודדים עם שיתוף מחשבה. חלק מכלי הבינה המלאכותית אינם ידועים כמו ChatGPT, כגון rytr.me ו-wordtune.com, אך צוותי אבטחה עדיין צריכים להיות מודעים לכלי וליצור מדיניות המסדירה את השימוש בהם. Huggingface.co הוא אחר ידוע למדי כלי AI שנמצא באמצע החבילה.

צוותי אבטחה ארגוניים צריכים לשקול כיצד לטפל בגילוי - ללמוד אילו כלי AI גנרטיביים הוכנסו לסביבה ועל ידי מי - כמו גם הערכת סיכונים. חשוב שמשתמשים עסקיים יגדירו חשבונות ניסיוניים כדי לנסות את השירותים הללו ולאחר מכן ינטשו אותם על מנת לוודא שהחשבונות מושבתים כראוי.