נוכלי סייבר אומרים ל-ChatGPT ליצור קוד זדוני

פושעי סייבר מתחילים להשתמש בטכנולוגיית ChatGPT הפופולרית ביותר של OpenAI כדי לפתח במהירות ובקלות קוד למטרות זדוניות.

סיבוב באתרי פריצה תת-קרקעיים חשפו מקרים ראשוניים של מטעים שפיתחו כלים לאיומי סייבר תוך שימוש בממשק מודל השפה הגדול (LLM) שהחברה חשפה בסוף נובמבר ופתחה אותו לשימוש ציבורי, על פי ארגון infosec Check Point Research.

יד נחמדה לסיים את התסריט עם היקף יפה

בדומה לעליית מודלים כשירות בעולם פשע הסייבר, ChatGPT פותח דרך נוספת לנוכלים פחות מיומנים להפעיל בקלות התקפות סייבר, אמרו החוקרים ב- לדווח יום שישי.

"כפי שחשדנו, חלק מהמקרים הראו בבירור שלפושעי סייבר רבים המשתמשים ב-OpenAI אין כישורי פיתוח כלל", הם כתבו. "למרות שהכלים שאנו מציגים בדוח זה הם די בסיסיים, זה רק עניין של זמן עד ששחקני איומים מתוחכמים יותר ישפרו את הדרך שבה הם משתמשים בכלים מבוססי בינה מלאכותית לרעה."

בל נשכח ש-ChatGPT ידוע לשמצה גם ביצירת קוד באגי – יש ב-Stack Overflow תוכנה אסורה נוצר על ידי מערכת הבינה המלאכותית מכיוון שלעתים קרובות היא פגומה קשות. אבל הטכנולוגיה משתפרת ובחודש שעבר דיווח ממשלת פינלנד מוזהר מערכות בינה מלאכותית כבר נמצאות בשימוש להנדסה חברתית ובעוד חמש שנים עשויות לגרום לעלייה עצומה בהתקפות.

למידת מכונה של ChatGPT יכולות אפשר לכלי המבוסס על טקסט לקיים אינטראקציה בצורה שיחתית, כאשר משתמשים מקלידים שאלה ומקבלים תשובה בפורמט של דיאלוג. הטכנולוגיה יכולה גם לענות על שאלות המשך ולאתגר את תשובות המשתמשים.

התחכום של ההצעה של OpenAI יצרה את זה לדאוג כהתלהבות, כאשר מוסדות חינוך, מארגני כנסים וקבוצות אחרות עברו לאסור את השימוש ב-ChatGPT לכל דבר, החל ממאמרי בית ספר ועד עבודת מחקר.

האנליסטים בדצמבר מופגן כיצד ניתן להשתמש ב-ChatGPT ליצירת זרימת זיהום שלמה, החל מהודעות דיוג ועד להפעלת מעטפת הפוכה. הם גם השתמשו בצ'אט בוט כדי לבנות תוכנות זדוניות בדלת אחורית שיכולה להריץ באופן דינמי סקריפטים שנוצרו על ידי כלי הבינה המלאכותית. במקביל, הם הראו כיצד זה יכול לעזור למקצועני אבטחת סייבר בעבודתם.

עכשיו פושעי רשת בודקים את זה.

שרשור בשם "ChatGPT - Benefits of Malware" צץ ב-29 בדצמבר בפורום פריצה מחתרתי בשימוש נרחב שנכתב על ידי אדם שאמר שהם מתנסים בממשק כדי ליצור מחדש זנים וטכניקות של תוכנות זדוניות נפוצות. הכותב הראה את הקוד של גנב מידע מבוסס Python שמחפש ומעתיק סוגי קבצים ומעלה אותם לשרת FTP מקודד קשה.

צ'ק פוינט אישרה שהקוד היה מתוכנת זדונית בסיסית של גנב.

בדוגמה אחרת, הכותב השתמש ב-ChatGPT כדי ליצור קטע Java פשוט שמוריד לקוח SSH ו-telnet נפוץ המופעל בסתר על מערכת המשתמשת ב-PowerShell.

"נראה שהאדם הזה הוא שחקן איום בעל אוריינטציה טכנולוגית, ומטרת הפוסטים שלו היא להראות לפושעי סייבר בעלי יכולת פחותה טכנית כיצד להשתמש ב-ChatGPT למטרות זדוניות, עם דוגמאות אמיתיות שהם יכולים להשתמש בהם באופן מיידי", כתבו החוקרים.

ב-21 בדצמבר, אדם הקורא לעצמו USDoD פרסם כלי הצפנה שנכתב ב-Python הכולל פעולות הצפנה, פענוח וחתימה שונות. הוא כתב שהטכנולוגיה של OpenAI נתנה לו "יד נחמדה [לעזרה] לסיים את התסריט עם היקף יפה".

החוקרים כתבו של-USDoD יש כישורי פיתוח מוגבלים, אך הוא פעיל בקהילה המחתרתית עם היסטוריה של מכירת גישה לארגונים שנפגעו ומסדי נתונים גנובים.

שרשור דיון אחר שפורסם בפורום בערב השנה החדשה דיבר על כמה קל להשתמש ב-ChatGPT כדי ליצור שוק אינטרנט אפל לסחר בכלים לא חוקיים כמו תוכנות זדוניות או סמים ונתונים גנובים כמו חשבונות וכרטיסי תשלום.

כותב השרשור פרסם קוד כלשהו שנוצר באמצעות ChatGPT שמשתמש בממשקי API של צד שלישי כדי לקבל מחירים עדכניים עבור מטבעות קריפטוגרפיים כגון ביטקוין, Monero ו-Ethereum עבור מערכת התשלומים של השוק.

השבוע, שוללים דיברו בפורומים מחתרתיים על דרכים אחרות למנף את ChatGPT עבור תוכניות שונות, כולל שימוש בו עם טכנולוגיית Dall-E 2 של OpenAI ליצירת אמנות למכירה מקוונת דרך אתרים לגיטימיים כמו Etsy ויצירת ספר אלקטרוני או פרק קצר בנושא ספציפי שניתן למכור באינטרנט.

כדי לקבל מידע נוסף על האופן שבו ניתן להשתמש לרעה ב-ChatGPT, שאלו החוקרים את ChatGPT. בתשובתו, ChatGPT דיבר על שימוש בטכנולוגיית הבינה המלאכותית ליצירת מיילים דיוג משכנעים ופוסטים במדיה חברתית כדי להערים על אנשים למסור מידע אישי או ללחוץ על קישורים זדוניים או ליצור וידאו ואודיו שיכולים לשמש למידע שגוי.

ChatGPT גם הגן על היוצר שלו.

"חשוב לציין ש-OpenAI עצמה אינה אחראית לכל שימוש לרעה בטכנולוגיה שלה על ידי צדדים שלישיים", אמר הצ'אטבוט. "החברה נוקטת בצעדים כדי למנוע שימוש בטכנולוגיה שלה למטרות זדוניות, כגון דרישה מהמשתמשים להסכים לתנאי שירות האוסרים על שימוש בטכנולוגיה שלה למטרות לא חוקיות או מזיקות". ®

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• Platoblockchain. Web3 Metaverse Intelligence. ידע מוגבר. גישה כאן.
• מקור: https://go.theregister.com/feed/www.theregister.com/2023/01/06/chatgpt_cybercriminals_malicious_code/