סכנה מול הבטחה: חברות, מפתחים מודאגים מסיכון בינה מלאכותית

הרוב המוחלט של המפתחים מאמינים ששימוש במערכות בינה מלאכותיות יהיה הכרחי כדי להגביר את הפרודוקטיביות ולהתעדכן באתגרי התוכנה, אבל בעיות קניין רוחני ודאגות אבטחה ממשיכות לעכב את האימוץ.

כ-83% מהמפתחים מאמינים שאימוץ AI הוא הכרחי או שהם מסתכנים בפיגור, אבל 32% היו מודאגים מהכנסת AI לתהליך שלהם. מתוכם, כמעט מחצית (48%) חוששים שבינה מלאכותית עלולה לזהם את הגנת הקניין הרוחני של הקוד שלהם, ו-39% מציינים חששות שלקוד שנוצר בינה מלאכותית יהיו יותר פרצות אבטחה, לפי סקר שפרסמה חברת שירותי הפיתוח GitLab השבוע. . יותר משליש מהמפתחים גם דאגו שמערכות בינה מלאכותית יכולות להחליף אותן או לבטל את עבודתם.

בסך הכל, מפתחים רואים שמערכות בינה מלאכותית גנרטיביות יכולות להפוך אותן ליעילות יותר, אך חוששים מההשפעות הסופיות, אומר ג'וש למוס, CISO ב-GitLab (אין קשר למחבר).

"דאגות הפרטיות ואבטחת הנתונים לגבי [מודלים של שפות גדולות] עדיין מהוות מחסום לכניסה, [כמו גם] איכות הצעות הקוד", הוא אומר. "ההבנה כיצד למנף בצורה הטובה ביותר תכונות בינה מלאכותית, בין אם זה קוד או פונקציות אחרות בזרם העבודה שלך, תשנה את הדרך שבה אנשים עובדים, והם צריכים לאמץ באופן מודע גישה חדשה לאינטראקציה עם בסיס הקוד שלהם."

המפתחים אינם היחידים המודאגים מהטבע הכפול של AI גנרטיבי. ליותר ממחצית מחברי הדירקטוריונים (59%) יש חששות לגבי AI גנרטיבי, במיוחד דליפות של מידע סודי שהועלו על ידי עובדים לשירותים כמו ChatGPT, על פי הדו"ח.אבטחת סייבר: פרספקטיבה של מועצת המנהלים של 2023", פורסם על ידי Proofpoint השבוע. בנוסף, אימוץ התוקפים של מערכות AI גנרטיביות כדי לשפר את התקפות הדיוג שלהם וטכניקות אחרות הפך לדאגה.

מועצות המנהלים קוראות ל-CISO לחזק את ההגנות שלהן, אומר ריאן וויט, תושב CISO ב-Proofpoint.

"ככלי למגנים, AI גנרטיבי הוא קריטי לעבודה מאחורי הקלעים, במיוחד במקרים שבהם אתה משתמש ב-LLMs - מודלים של שפות גדולות", הוא אומר. "עבור שחקנים גרועים, ניסוח קמפיינים כתובים היטב של פישינג וקמפיינים דוא"ל עסקיים פשוט הפך להרבה יותר קל וניתן להרחבה. חלפו הימים של ייעוץ למשתמשי קצה לחפש שגיאות דקדוק, הקשר ותחביר ברורות".

אימוץ חלקי של AI

חברות עברו במהירות לחקור AI גנרטיבי כדרך להאיץ את עובדי הידע במשימות היומיומיות שלהם. מספר חברות, כמו מיקרוסופט וקספרסקי, יצרו שירותים המבוססים על LLMs למכירה מחדש או לשימוש פנימי כדרך להגביר את מנתחי האבטחה. GitHub, GitLab וספקים אחרים של שירותי מפתחים שחררו מערכות דומות שמטרתן סיוע למתכנתים בהפקת קוד ביעילות רבה יותר.

בסך הכל, מפתחים ראו, או מקווים לראות, שיפורי יעילות (55%) ומחזורי פיתוח מהירים יותר (44%) בגלל AI, על פי הסקר האחרון של GitLab. עם זאת, 40% מצפים גם שקוד מאובטח יותר יגיע מהאימוץ שלהם של AI, בעוד 39% מצפים ליותר פרצות אבטחה בקוד שנוצר ב-AI.

בסך הכל, מפתחים יהפכו לפרטי פרטים לגבי האימוץ שלהם של AI, ויקבלו בקלות יישומים מסוימים של AI גנראטיבי תוך התנגדות לאחרים. ה-Lemos של GitLab, למשל, מוצא שהיכולת של AI גנרטיבי ליצור סיכום תמציתי מעדכון קוד או בקשת מיזוג היא משכנעת ביותר, במיוחד כאשר להערות על העדכון יש עשרות או מאות הערות.

"אני מקבל סיכום תמציתי של כל מה שקורה", הוא אומר. "אני יכול להתעדכן תוך כמה שניות על מה שקורה עם הנושא הזה מבלי לקרוא את כל השרשור."

AI כבר יוצר משרות?

דאגה רווחת אחת לגבי AI היא שהמערכות יחליפו מפתחים: 36% מהמפתחים חוששים שהם יוחלפו במערכת AI. עם זאת, סקר GitLab גם נתן משקל רב יותר לטיעונים לפיהם טכנולוגיות משבשות מביאות ליותר עבודה לאנשים: כמעט שני שלישים מהחברות שכרו עובדים כדי לסייע בניהול יישומי AI.

נראה שחלק מהדאגה היא דורית. מפתחים מנוסים יותר נוטים לא לקבל את הצעות הקוד שמציעות מערכות AI, בעוד שמפתחים זוטרים יותר נוטים לקבל אותן, אומר Lemos. עם זאת שניהם מחפשים AI כדי לסייע להם בעבודה המשעממת ביותר, כגון תיעוד ויצירת בדיקות יחידות.

"אני רואה הרבה יותר מפתחים מעלים את הרעיון שהתיעוד שלהם ייכתב על ידי בינה מלאכותית, או שכיסוי מבחן ייכתב על ידי AI, כי פחות אכפת להם מאיכות הקוד הזה, אלא רק שהבדיקה עובדת", הוא אומר. "יש יתרון אבטחה ופיתוח גם בכיסוי מבחן טוב יותר, וזה משהו שהם לא צריכים להשקיע בו זמן."

בעוד ש-AI עשוי לעזור למפתחים במשימות היומיומיות ביותר, התוקפים גם לומדים, אומר Witt של Proofpoint. חברות לא צריכות לצפות שבינה מלאכותית תועיל בבירור לצד זה או אחר של משוואת אבטחת הסייבר, הוא מדגיש.

"זה עשוי להתגלגל למשחק חתול ועכבר, שבו הגנות משופרות בינה מלאכותיות מאותגרות בהתמדה על ידי איומים משופרים בינה מלאכותית, ולהיפך", הוא אומר. "כל זה ידרוש השקעה מתמשכת בטכנולוגיית AI כדי שמגני אבטחת סייבר יוכלו להתאים את התוקפים שלהם בשדה הקרב הווירטואלי."

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. רכב / רכבים חשמליים, פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• ChartPrime. הרם את משחק המסחר שלך עם ChartPrime. גישה כאן.
• BlockOffsets. מודרניזציה של בעלות על קיזוז סביבתי. גישה כאן.
• מקור: https://www.darkreading.com/application-security/peril-vs-promise-companies-developers-worry-over-generative-ai-risks