הנשק של כלי AI גנרטיביים כמו ChatGPT זה כולם חיכו לו הוא לאט לאט, לאט מתחילים לקבל צורה. בקהילות מקוונות, חתולים סקרנים משתפים פעולה בדרכים חדשות לפצח את כללי האתיקה של ChatGPT, הידועים בכינויים "פריצת כלא", והאקרים מפתחים רשת של כלים חדשים למינוף או ליצור מודלים של שפה גדולה (LLMs) למטרות זדוניות.
בדיוק כפי שהיה מעל הקרקע, נראה ש-ChatGPT עורר טירוף בפורומים המחתרתיים. מאז דצמבר, האקרים מחפשים חדש ויצירתי הנחיות לתפעל את ChatGPT, ו LLMs בקוד פתוח שהם יכולים ליישם מחדש למטרות זדוניות.
התוצאה, על פי בלוג חדש מ-SlashNext, היא קהילת פריצות LLM עדיין בהתהוות אך משגשגת, ברשותה הרבה הנחיות חכמות אבל כמה תוכנות זדוניות התומכות בינה מלאכותית ששווה מחשבה שנייה.
מה האקרים עושים עם AI LLMs
הנדסה מהירה כולל שאילת צ'אטבוטים בצורה חכמה כמו ChatGPT שמטרתן לתמרן אותם, לגרום להם לשבור את הכללים המתוכנתים שלהם נגד, למשל, יצירת תוכנות זדוניות, מבלי שהמודלים ידעו זאת. זהו תרגיל של כוח גס, מסביר פטריק האר, מנכ"ל SlashNext: "האקרים רק מנסים להסתכל מסביב למעקות הבטיחות. מה הקצוות? אני פשוט משנה כל הזמן את ההנחיות, מבקשת ממנו בדרכים שונות לעשות מה שאני רוצה".
מכיוון שזו משימה כל כך מייגעת, ומכיוון שכולם תוקפים את אותה מטרה, זה רק טבעי שנוצרו סביב התרגול קהילות מקוונות בגודל בריא כדי לחלוק טיפים וטריקים. חברים בקהילות פריצת הכלא הללו מגרדים זה לזה את הגב, ועוזרים זה לזה לגרום ל-ChatGPT להיסדק ולעשות דברים שהמפתחים התכוונו למנוע ממנו לעשות.
עם זאת, מהנדסים מהירים יכולים להשיג כל כך הרבה רק עם משחקי מילים מהודרים, אם הצ'אטבוט המדובר בנוי בצורה עמידה כמו ChatGPT. לכן, המגמה המדאיגה יותר היא שמפתחי תוכנות זדוניות מתחילים לתכנת LLMs למטרותיהם המרושעות.
האיום הממשמש ובא של WormGPT ו-LLMs זדוניים
הצעה שנקראה WormGPT הופיע ביולי כדי להניע את תופעת ה-LLM הזדונית. זוהי אלטרנטיבה בעלת כובע שחור לדגמי GPT שתוכננו במיוחד עבור פעילויות זדוניות כמו BEC, תוכנות זדוניות והתקפות דיוג, המשווקות בפורומים מחתרתיים "כמו ChatGPT אך [ללא] גבולות או מגבלות אתיות". היוצר של WormGPT טען שבנה אותו על מודל שפה מותאם אישית, מאומן על מקורות נתונים שונים, עם דגש על נתונים הקשורים להתקפות סייבר.
"מה זה אומר עבור האקרים", מסביר האר, "עכשיו אני יכול לקחת, נגיד, פשרה של אימייל עסקי (BEC), או התקפת דיוג, או התקפת תוכנות זדוניות, ולעשות זאת בקנה מידה במחיר מינימלי מאוד. ואני יכול להיות הרבה יותר ממוקד מבעבר".
מאז WormGPT, מספר מוצרים דומים נרשמו בקהילות מקוונות מפוקפקות, כולל FraudGPT, אשר מפורסם כ"בוט ללא מגבלות, חוקים [ו] גבולות" על ידי שחקן איום שטוען שהוא ספק מאומת בשווקים מחתרתיים של Dark Web, כולל Empire, WHM, Torrez, World, AlphaBay ו- Versus. ואוגוסט הביא את הופעתו של צ'אטבוטים של פושעי סייבר של DarkBART ו-DarkBERT, המבוסס על Google Bard, שלדברי החוקרים בזמנו מהווה קפיצת מדרגה גדולה קדימה עבור AI אדוקרי, כולל אינטגרציה של Google Lens לתמונות וגישה מיידית לכל בסיס הידע של הסייבר-מחתרת.
לפי SlashNext, אלה מתרבים כעת, כאשר רובם מבוססים על מודלים של קוד פתוח כמו OpenGPT של OpenAI. שלל האקרים בעלי כישורים נמוכים יותר פשוט מתאימים אותו, מסווים אותו במעטפת, ואז מטיחים עליו שם "___GPT" מבשר רעות במעורפל (למשל "BadGPT", "DarkGPT"). עם זאת, אפילו להצעות השונות הללו יש את מקומן בקהילה, ומציעות מעט מגבלות ואנונימיות מוחלטת למשתמשים.
הגנה מפני נשק סייבר של AI מהדור הבא
לא WormGPT, לא צאצאיה, ולא מהנדסים מהירים, מהווים סכנה כה משמעותית לעסקים עדיין, לפי SlashNext. למרות זאת, עלייתם של שווקי פריצת הכלא התת-קרקעיים פירושה שיותר כלים הופכים זמינים לפושעי סייבר, מה שבתורו מבשר על שינוי רחב בהנדסה חברתית, וכיצד אנו מתגוננים מפניה.
האר מייעץ: "אל תסתמך על אימונים, כי ההתקפות האלה מאוד מאוד ספציפיות וממוקדות מאוד, הרבה יותר ממה שהיו בעבר."
במקום זאת, הוא מצטרף לדעה המוסכמת בדרך כלל לפיה איומי AI דורשים הגנות AI. "אם אין לך כלי בינה מלאכותית שמזהים ומחזים וחוסמים את האיומים האלה, אתה הולך להיות מבחוץ להסתכל פנימה", הוא אומר.
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. רכב / רכבים חשמליים, פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- ChartPrime. הרם את משחק המסחר שלך עם ChartPrime. גישה כאן.
- BlockOffsets. מודרניזציה של בעלות על קיזוז סביבתי. גישה כאן.
- מקור: https://www.darkreading.com/application-security/chatgpt-jailbreaking-forums-dark-web-communities
- :יש ל
- :הוא
- 7
- a
- אודות
- מֵעַל
- גישה
- פי
- להשיג
- פעילויות
- -
- נגד
- קדימה
- AI
- מכוון
- אלפאבי
- חלופה
- an
- ו
- אנונימיות
- אחר
- נראה
- מופיע
- ARE
- סביב
- AS
- לשאול
- לשאול
- At
- לתקוף
- תוקפים
- המתקפות
- אוגוסט
- זמין
- גב
- בסיס
- מבוסס
- BE
- BEC
- כי
- התהוות
- היה
- לפני
- ההתחלה
- חסימה
- בלוג
- בוט
- גבולות
- לשבור
- רחב
- מובא
- כוח זרוע
- לִבנוֹת
- נבנה
- עסקים
- פשרה בדוא"ל עסקי
- עסקים
- אבל
- by
- CAN
- חתולים
- מנכ"ל
- שינוי
- chatbot
- chatbots
- ChatGPT
- נתבע
- טענות
- שיתוף פעולה
- בדרך כלל
- הקהילות
- קהילה
- פשרה
- ברציפות
- עלות
- יכול
- סדק
- לִיצוֹר
- יוצרים
- יוצר
- סקרן
- מנהג
- אישית
- התקפות רשת
- פושע רשת
- עברייני אינטרנט
- סכנה
- כהה
- אינטרנט אפל
- נתונים
- דֵצֶמבֶּר
- מעוצב
- מפתחים
- מתפתח
- אחר
- do
- עושה
- דון
- e
- כל אחד
- אמייל
- דגש
- אימפריה
- מסתיים
- הנדסה
- מהנדסים
- אֶתִי
- אתיקה
- אֲפִילוּ
- אי פעם
- כולם
- תרגיל
- מסביר
- מעטים
- פורח
- בעד
- להכריח
- טופס
- נוצר
- פורומים
- טירוף
- החל מ-
- בדרך כלל
- גנרטטיבית
- AI Generative
- הולך
- עדשה של Google
- קרקע
- קְבוּצָה
- האקרים
- פריצה
- יש
- he
- עזרה
- איך
- HTTPS
- ציד
- i
- if
- תמונות
- in
- כולל
- השראה
- מיידי
- השתלבות
- התכוון
- IT
- שֶׁלָה
- jailbreak
- יולי
- רק
- לבעוט
- יודע
- ידע
- ידוע
- שפה
- גָדוֹל
- Leap
- תנופה
- כמו
- מגבלות
- LLM
- נראה
- הסתכלות
- מתקרב
- עשוי
- גדול
- הרוב
- לעשות
- עשייה
- תוכנות זדוניות
- התקפת תוכנות זדוניות
- מניפולציה
- שווקים
- שוקי
- אומר
- להרשם/להתחבר
- מינימלי
- מודל
- מודלים
- יותר
- הרבה
- שם
- המתהווה
- טבעי
- רשת
- חדש
- לא
- עַכשָׁיו
- מספר
- of
- כבוי
- הצעה
- הצעות
- on
- ONE
- באינטרנט
- קהילות מקוונות
- רק
- לפתוח
- קוד פתוח
- OpenAI
- or
- אחר
- בחוץ
- שֶׁלוֹ
- עבר
- פטריק
- תופעה
- דיוג
- התקפת דיוג
- התקפות פישינג
- מקום
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- רְשׁוּת
- תרגול
- ניבוי
- להציג
- למנוע
- מוצרים
- תָכְנִית
- מתוכנה
- שאלה
- שאלות
- RE
- לסמוך
- לייצג
- לדרוש
- חוקרים
- תוצאה
- לעלות
- כללי
- s
- אותו
- לומר
- אומר
- סולם
- לגרד
- שְׁנִיָה
- שיתוף
- משמרת
- משמעותי
- דומה
- since
- לאט
- So
- חֶברָתִי
- הנדסה חברתית
- מָקוֹר
- מקורות
- ספציפי
- במיוחד
- עוד
- כזה
- לקחת
- יעד
- ממוקד
- המשימות
- מֵאֲשֶׁר
- זֶה
- השמיים
- שֶׁלָהֶם
- אותם
- אז
- אלה
- הֵם
- דברים
- זֶה
- אם כי?
- איום
- איומים
- זמן
- טיפים
- טיפים וטריקים
- ל
- כלים
- סה"כ
- מְאוּמָן
- הדרכה
- מְגַמָה
- מנסה
- משתמשים
- שונים
- מוכר
- מְאוּמָת
- נגד
- מאוד
- לצפיה
- הַמתָנָה
- רוצה
- דרכים
- we
- אינטרנט
- היו
- מה
- אשר
- מי
- כל
- עם
- לְלֹא
- עוֹלָם
- ראוי
- עוד
- אתה
- זפירנט