יכולות אבטחת הסייבר של צבא ארה"ב להגביר את OpenAI

OpenAI מפתחת יכולות אבטחת סייבר המופעלות על ידי AI עבור צבא ארה"ב, ומעבירה את עבודת אבטחת הבחירות שלה להילוך גבוה, כך אמרו מנהלי המעבדה לפורום הכלכלי העולמי (WEF) בדאבוס השבוע.

ההתבטאות הציבורית על העבודה עם הכוחות המזוינים מגיעה ימים לאחר א לשנות ב שפת המדיניות של OpenAI, שאסרה בעבר להשתמש במודלים של AI הגנרטיביים עבור יישומי "צבא ולוחמה", כמו גם "יצירת תוכנות זדוניות", עם הטכנולוגיה שלה. מעצורים אלה נעלמו כעת מהאותיות הקטנות של יצרנית ChatGPT. עם זאת, מעבדת העל הדגישה שהטכנולוגיה שלה עדיין לא אמורה לשמש לאלימות, הרס או ריגול תקשורת.

"המדיניות שלנו לא מאפשרת להשתמש בכלים שלנו כדי לפגוע באנשים, לפתח נשק, למעקב אחר תקשורת, או לפצוע אחרים או להשמיד רכוש", אמר דובר OpenAI הקופה היום.

"עם זאת, ישנם מקרים של שימוש בביטחון לאומי שמתיישרים עם המשימה שלנו.

"אנחנו כבר עובדים עם DARPA כדי לדרבן את היצירה של כלי אבטחת סייבר חדשים לאבטחת תוכנות קוד פתוח שתשתיות קריטיות ותעשייה תלויות בהן. לא היה ברור אם מקרי השימוש המועילים הללו היו מותרים במסגרת 'צבא' במדיניות הקודמת שלנו. אז המטרה עם עדכון המדיניות שלנו היא לספק בהירות ויכולת לקיים את הדיונים האלה". 

ביום שלישי, במהלך א ראיון ב-WEF shindig for מנהיגי העולם, OpenAI סמנכ"ל עניינים גלובליים, אנה מקנג'ו, אמרה שהשותפות שלה עם הפנטגון כוללת פיתוח תוכנת אבטחת סייבר בקוד פתוח. OpenAI גם מתחילה בשיחות עם ממשלת ארה"ב על האופן שבו הטכנולוגיה שלה יכולה לסייע במניעת התאבדויות ותיקים, אמרה.

"מכיוון שהיה לנו בעבר מה שהיה בעצם איסור גורף על צבא, אנשים רבים חשבו שזה יאסור על רבים ממקרי השימוש האלה, שאנשים חושבים שהם מאוד מתאימים למה שאנחנו רוצים לראות בעולם", אמר מקנג'ו. 

עם זאת, למרות הסרת "צבא ולוחמה" יחד עם "שימושים אסורים" אחרים עבור ChatGPT, Makanju אמר ש-OpenAI שומרת על האיסור שלה להשתמש במודלים שלה כדי לפתח נשק כדי לפגוע באנשים. 

כמו כן, במהלך אותו ראיון, מנכ"ל OpenAI, סם אלטמן, אמר שה-Biz נוקטת צעדים כדי להבטיח שכלי הבינה המלאכותית שלה לא ישמשו להפצת דיסאינפורמציה הקשורה לבחירות. 

זה גם עוקב אחר דומה דחיפה של מיקרוסופט, המשקיע הגדול ביותר של OpenAI, שבנובמבר הכריז על אסטרטגיית הגנה בת חמישה שלבים עבור "ארצות הברית ומדינות אחרות שבהן יתקיימו בחירות קריטיות ב-2024". 

"יש הרבה על כף המאזניים בבחירות האלה", אמר אלטמן ביום שלישי.

זה מגיע יום אחרי נשיא ארה"ב לשעבר דונלד טראמפ ניצחון גדול בקוקוס של איווה ביום שני.

וכל הנושאים האלה - בינה מלאכותית, אבטחת סייבר ודיסאינפורמציה - ממלאים תפקידים בולטים על סדר היום כמו מנהיגי העולם נפגשים השבוע בדאבוס.

על פי ה-WEF דוח סיכונים גלובליים 2024, שפורסם בשבוע שעבר, "אינפורמציה שגויה ודיסאינפורמציה" הוא הסיכון הגלובלי המוביל לטווח קצר, כאשר "חוסר ביטחון סייבר" מגיע למקום הרביעי.

עליית הבינה המלאכותית הגנרטיבית מחמירה את האתגרים הללו, כאשר 56 אחוז מהמנהלים נסקרו ב- WEF אסיפה שנתית של אבטחת סייבר בנובמבר 2023 אומר AI גנרטיבי ייתן לתוקפים ויתרון על המגנים בשנתיים הקרובות.

"דאגה מיוחדת אופפת את השימוש בטכנולוגיות AI כדי להגביר את יכולות לוחמת הסייבר, עם סיבה טובה", אמר ברנרד מונטל, המנהל הטכני של EMEA בחברת Tenable. הקופה. 

"בעוד שבינה מלאכותית עשתה התקדמות טכנולוגית אסטרונומית ב-12 עד 24 החודשים האחרונים, מתן אפשרות למכשיר אוטונומי לעשות את השיפוט הסופי אינו מובן כיום", הוסיף.

"בעוד שבינה מלאכותית מסוגלת לזהות ולבצע אוטומציה מהירה של כמה פעולות שצריך לבצע, זה הכרחי שבני האדם הם אלה שמקבלים החלטות קריטיות לגבי היכן ומתי לפעול מתוך המודיעין שבינה מלאכותית מספקת." ®

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://go.theregister.com/feed/www.theregister.com/2024/01/16/us_military_openai/