פַּרשָׁנוּת
כמומחי אבטחת סייבר חזה לפני שנה, בינה מלאכותית (AI) הייתה שחקן מרכזי בנוף פשעי הסייבר של שנת 2023, והובילה לעלייה במתקפות ובמקביל גם תרמה לשיפורים בהגנה מפני התקפות עתידיות. כעת, לקראת 2024, מומחים ברחבי התעשייה מצפים ש-AI ישפיע עוד יותר על אבטחת סייבר.
השמיים תחזית אבטחת סייבר של Google Cloud לשנת 2024 רואה בינה מלאכותית ומודלים של שפות גדולות שתורמים לעלייה בצורות שונות של התקפות סייבר. יותר מ-90% מהמנכ"לים הקנדיים ב סקר של KPMG חושבים שבינה מלאכותית גנרטיבית תהפוך אותם לפגיעים יותר להפרות. ודו"ח של ממשלת בריטניה אומר ש-AI מציגה א איום על הבחירות הבאות במדינה.
בעוד שאיומים הקשורים לבינה מלאכותית נמצאים עדיין בשלבים הראשונים שלהם, הנפח והתחכום של התקפות מונעות בינה מלאכותית גדלים מדי יום. ארגונים צריכים להכין את עצמם למה שצפוי.
4 דרכים שבהן פושעי סייבר ממנפים בינה מלאכותית
ישנן ארבע דרכים עיקריות בהן יריבים משתמשים בכלי AI זמינים כמו ChatGPT, Dall-E ו-Midjourney: התקפות דיוג אוטומטיות, התקפות התחזות, התקפות הנדסה חברתית וצ'אטבוטים מזויפים של תמיכת לקוחות.
התקפות דיוג בחנית זוכות לחיזוק משמעותי מה-AI. בעבר, היה קל יותר לזהות ניסיונות דיוג אך ורק בגלל שרבים היו מלאים בשגיאות דקדוק ושגיאות כתיב לקויות. קוראים בעלי אבחנה יכלו לזהות תקשורת מוזרה, בלתי רצויה שכזו, בהנחה שהיא נוצרה כנראה ממדינה שבה אנגלית אינה השפה העיקרית.
ChatGPT די חיסל את הטיפ. בעזרת ChatGPT, פושע רשת יכול לכתוב מייל עם דקדוק מושלם ושימוש באנגלית, בסגנון בשפה של מקור לגיטימי. פושעי סייבר יכולים לשלוח תקשורת אוטומטית המחקה, למשל, רשות בבנק המבקשת ממשתמשים להיכנס ולספק מידע על חשבונות 401(k) שלהם. כאשר משתמש לוחץ על קישור כדי להתחיל לספק מידע, ההאקר משתלט על החשבון.
כמה פופולרי הטריק הזה? ה-SlashNext דוח מצב הדיוג לשנת 2023 ייחס עלייה של 1,265% בהודעות דוא"ל דיוג זדוניות מאז הרבעון הרביעי של 2022 בעיקר לממוקדים דוא"ל עסקי מתפשר באמצעות כלי AI.
התקפות התחזות גם הם בעלייה. באמצעות ChatGPT וכלים אחרים, הרמאים מתחזים לאנשים וארגונים אמיתיים, מבצעים גניבות זהות והונאות. בדיוק כמו בהתקפות פישינג, הם משתמשים בצ'אטבוטים כדי לשלוח הודעות קוליות המתחזות לחבר, עמית או בן משפחה מהימן בניסיון לקבל מידע או גישה לחשבון.
דוגמה התרחש בססקצ'ואן, קנדה, בתחילת 2023. זוג קשישים קיבל טלפון ממישהו שהתחזה לנכד שלהם בטענה שהוא עבר תאונת דרכים והוא מוחזק בכלא. המתקשר העביר סיפור שהוא נפגע, איבד את ארנקו ונזקק ל-9,400 דולר במזומן כדי להסדיר עם בעל המכונית האחרת כדי להימנע מהאשמות. הסבים והסבתות הלכו לבנק שלהם כדי למשוך את הכסף, אך נמנעו מלהונות כאשר פקיד בנק שכנע אותם שהבקשה לא לגיטימית.
בעוד מומחי תעשייה האמינו שהשימוש המתוחכם הזה בטכנולוגיית שיבוט קולי בינה מלאכותית יתפתח בעוד כמה שנים, מעטים ציפו שהוא יהפוך ליעיל כל כך מהר.
פושעי סייבר משתמשים ב-ChatGPT ובצ'אטבוטים אחרים של AI כדי לבצע התקפות הנדסה חברתית שמעוררות כאוס. הם משתמשים בשילוב של שיבוט קול וטכנולוגיית Deep Fake כדי לגרום לזה להיראות כאילו מישהו אומר משהו מבעיר.
זה קרה בלילה שלפני הבחירות לראשות העיר שיקגו בפברואר. האקר יצר סרטון Deepfake ופרסם אותו ב-X, שנקרא בעבר טוויטר, מראה את המועמד פול ואלס כביכול משמיע הערות כוזבות ומעוררות עמדות מדיניות שנויות במחלוקת. הסרטון יצר אלפי צפיות לפני שהוסר מהפלטפורמה.
הטקטיקה האחרונה, צ'אטבוטים מזויפים לשירות לקוחות, אמנם קיימת, אבל הם כנראה רחוקים שנה או שנתיים מלצבור פופולריות רחבה. אתר בנק הונאה יכול להיווצר באמצעות צ'טבוט של שירות לקוחות שנראה אנושי. ניתן להשתמש בצ'אטבוט כדי לתמרן קורבנות תמימים למסור מידע אישי וחשבון רגיש.
איך אבטחת סייבר נלחמת בחזרה
החדשות הטובות הן שבינה מלאכותית משמשת גם ככלי אבטחה למאבק בהונאות מונעות בינה מלאכותית. הנה שלוש דרכים שבהן תעשיית אבטחת הסייבר נלחמת בחזרה.
מפתחים בינה מלאכותית משלהם
בעיקרו של דבר, זה יוצר "AI טוב" והכשרתו להילחם ב"AI רע". בפיתוח רשתות יריביות (GANs) משלהן, חברות סייבר יכולות ללמוד למה לצפות במקרה של התקפה. GANs מורכבים משתי רשתות עצביות: מחולל שיוצר דגימות נתונים חדשות ומאפיין, שמבדיל את הדגימות שנוצרו מהדגימות המקוריות.
באמצעות טכנולוגיות אלה, GANs יכולים ליצור דפוסי התקפה חדשים הדומים לדפוסי התקפה שנראו בעבר. על ידי הכשרת מודל על דפוסים אלה, מערכות יכולות לחזות את סוג ההתקפות שאנו יכולים לצפות לראות והדרכים שבהן פושעי סייבר מנצלים את האיומים הללו.
גילוי חריגות
זה להבין את קו הבסיס של מהי התנהגות נורמלית ואז לזהות מתי מישהו סוטה מההתנהגות הזו. כאשר מישהו נכנס לחשבון ממיקום אחר מהרגיל או אם מחלקת הנהלת החשבונות משתמשת באופן מסתורי במערכת PowerShell המשמשת בדרך כלל מפתחי תוכנה, זה יכול להיות אינדיקציה להתקפה. בעוד שמערכות אבטחת סייבר השתמשו במודל זה זמן רב, כוח הסוס הטכנולוגי הנוסף שיש למודלים של AI יכולים לסמן בצורה יעילה יותר הודעות שעלולות להיות חשודות.
תגובת זיהוי
שימוש במערכות בינה מלאכותית, כלי אבטחת סייבר ושירותים כמו זיהוי ותגובה מנוהלים (MDR) יכול לזהות טוב יותר איומים ולתקשר מידע עליהם לצוותי אבטחה. AI עוזרת לצוותי אבטחה לזהות ולטפל באיומים לגיטימיים במהירות רבה יותר על ידי קבלת מידע תמציתי ורלוונטי. פחות זמן מושקע במרדף אחר תוצאות שגויות וניסיון לפענח יומני אבטחה עוזרים לצוותים להשיק תגובות יעילות יותר.
סיכום
כלי בינה מלאכותית פותחים את עיני החברה לאפשרויות חדשות כמעט בכל תחום עבודה. ככל שהאקרים מנצלים את היתרונות המלאים יותר של טכנולוגיות מודל שפות גדולות, התעשייה תצטרך לעמוד בקצב כדי לשמור על איום הבינה המלאכותית בשליטה.
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://www.darkreading.com/vulnerabilities-threats/how-ai-shaping-future-cybercrime
- :יש ל
- :הוא
- :איפה
- 1
- 2022
- 2023
- 2024
- 400
- 7
- a
- אודות
- גישה
- תאונה
- חֶשְׁבּוֹן
- חשבונאות
- חשבונות
- לרוחב
- הוסיף
- כתובת
- יתרון
- -
- נגד
- קדימה
- AI
- דגמי AI
- מערכות AI
- גם
- an
- ו
- מופיע
- ARE
- מלאכותי
- בינה מלאכותית
- בינה מלאכותית (AI)
- AS
- At
- לתקוף
- המתקפות
- ניסיון
- מנסה
- ניסיונות
- סמכות
- אוטומטי
- זמין
- לְהִמָנַע
- נמנע
- רָחוֹק
- בחזרה
- רע
- בנק
- Baseline
- BE
- כי
- להיות
- היה
- לפני
- התנהגות
- להיות
- האמין
- מוטב
- לְהַגבִּיר
- פרות
- אבל
- by
- שיחה
- שיחה
- CAN
- קנדה
- קנדי
- מועמד
- מכונית
- לשאת
- נושאת
- מזומנים
- מֶרכָּזִי
- מנכ"לים
- תוהו ובוהו
- חיובים
- chatbot
- chatbots
- ChatGPT
- שיקגו
- תביעה
- ענן
- עמית
- להילחם
- שילוב
- בדרך כלל
- להעביר
- תקשורת
- תקשורת
- תורם
- לִשְׁלוֹט
- שנוי במחלוקת
- משוכנע
- יכול
- מדינה
- זוג
- נוצר
- יוצר
- יוצרים
- לקוח
- שירות לקוחות
- שירות לקוחות
- סייבר
- התקפות רשת
- פשעי אינטרנט
- פושע רשת
- עברייני אינטרנט
- אבטחת סייבר
- של דאל
- נתונים
- יְוֹם
- לפענח
- גופי בטחון
- מַחלָקָה
- לאתר
- איתור
- לפתח
- מפתחים
- מתפתח
- אחר
- do
- נהיגה
- מוקדם
- קל יותר
- אפקטיבי
- יעילות
- קשישים
- בחירה
- בוטלו
- אמייל
- מיילים
- הנדסה
- אנגלית
- שגיאות
- אֲפִילוּ
- אירוע
- כל
- כל יום
- דוגמה
- להתקיים
- לצפות
- צפוי
- מומחים
- מנצל
- עיניים
- מול
- מְזוּיָף
- שקר
- משפחה
- פבואר
- מעטים
- שדה
- לְחִימָה
- חברות
- בעד
- תַחֲזִית
- לשעבר
- צורות
- ארבע
- רביעית
- הונאה
- רמאי
- חבר
- החל מ-
- פולר
- עתיד
- זכייה
- ליצור
- נוצר
- גנרטטיבית
- AI Generative
- גנרטור
- לקבל
- מקבל
- טוב
- ממשלה
- דקדוק
- האקר
- האקרים
- היה
- מסירת
- קרה
- יש
- he
- כותרת
- הוחזק
- לעזור
- עוזר
- כאן
- שֶׁלוֹ
- איך
- HTML
- HTTPS
- בן אנוש
- כאב
- לזהות
- זיהוי
- זהות
- if
- שיפורים
- in
- להגדיל
- גדל
- אינדיקטור
- אנשים
- תעשייה
- מומחים בתעשייה
- להשפיע
- מידע
- מוֹדִיעִין
- אל תוך
- J States
- IT
- כלא
- jpg
- רק
- שמור
- סוג
- ידוע
- KPMG
- נוף
- שפה
- גָדוֹל
- במידה רבה
- אחרון
- לשגר
- לִלמוֹד
- לגיטימי
- פחות
- מינוף
- כמו
- סביר
- קשר
- מיקום
- היכנס
- ארוך
- נראה
- נראה כמו
- אבוד
- ראשי
- גדול
- לעשות
- זדוני
- הצליח
- רב
- MDR
- חבר
- הודעות
- מסע אמצע
- מודל
- מודלים
- כסף
- יותר
- הרבה
- צורך
- נחוץ
- רשתות
- עצבי
- רשתות עצביות
- חדש
- חדשות
- הבא
- לילה
- נוֹרמָלִי
- בדרך כלל
- עַכשָׁיו
- of
- רשמי
- on
- פתיחה
- or
- ארגונים
- מְקוֹרִי
- אחר
- הַחוּצָה
- יותר
- שֶׁלוֹ
- בעלים
- שלום
- עבר
- דפוסי
- פול
- אישי
- דיוג
- התקפות פישינג
- מקום
- פלטפורמה
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- שחקן
- מדיניות
- עני
- פופולרי
- פופולריות
- תנוחות
- להחזיק
- אפשרויות
- פורסם
- פוטנציאל
- PowerShell
- התחזיות
- להכין
- יפה
- קוֹדֶם
- יְסוֹדִי
- כנראה
- לספק
- רובע
- מהירות
- מהר
- RE
- הקוראים
- ממשי
- קיבלו
- קבלה
- רלוונטי
- הוסר
- לדווח
- לבקש
- המבקש
- תגובה
- תגובות
- מנוקב
- לעלות
- s
- אמר
- אומר
- רמאים
- הונאות
- אבטחה
- לִרְאוֹת
- לראות
- רואה
- לשלוח
- רגיש
- שרות
- שירותים
- ליישב
- מעצבים
- since
- אתר
- הם
- חֶברָתִי
- הנדסה חברתית
- חֶברָה
- תוכנה
- מפתחי תוכנה
- אך ורק
- מישהו
- משהו
- מתוחכם
- תִחכּוּם
- מָקוֹר
- איות
- בילה
- מסחרי
- שלבים
- התחלה
- עוד
- סיפור
- כזה
- תמיכה
- חשוד
- מערכת
- מערכות
- לקחת
- לוקח
- צוותי
- טכנולוגי
- טכנולוגיות
- טכנולוגיה
- מֵאֲשֶׁר
- זֶה
- השמיים
- העתיד
- גניבות
- שֶׁלָהֶם
- אותם
- עצמם
- אז
- אלה
- הֵם
- לחשוב
- זֶה
- אלה
- אלפים
- איום
- איומים
- שְׁלוֹשָׁה
- זמן
- ל
- לקח
- כלי
- כלים
- הדרכה
- מהימן
- שתיים
- Uk
- ממשלת בריטניה
- תחת
- הבנה
- ללא הזמנה
- נוֹהָג
- להשתמש
- מְשׁוּמָשׁ
- משתמש
- משתמשים
- באמצעות
- כרגיל
- שונים
- קורבנות
- וִידֵאוֹ
- נופים
- כמעט
- קול
- כֶּרֶך
- פגיע
- ארנק
- היה
- לא היה
- דרכים
- we
- הלכתי
- היו
- מה
- מתי
- אשר
- בזמן
- רָחָב
- יצטרך
- עם
- לסגת
- תיק עבודות
- היה
- לכתוב
- X
- שנה
- שנים
- זפירנט