DHS יבדוק שימוש ב-genAI כדי להכשיר קציני הגירה אמריקאים

למשרד לביטחון המולדת של ארה"ב (DHS) יש מפת דרכים של AI ושלישיית פרויקטי ניסוי לפריסת הטכנולוגיה, שאחד מהם נועד להכשיר קציני הגירה באמצעות AI גנרטיבי. מה יכול להשתבש?

בדו"ח לא צוינו שם ספקי בינה מלאכותית, אשר טענה שהשימוש בטכנולוגיה נועד לעזור לשפר את החניכים כדי להבין טוב יותר ולשמר "מידע חיוני", כמו גם "להגביר את הדיוק של תהליך קבלת ההחלטות שלהם".

זה אמר כי OpenAI, Anthropic ומטה, כמו גם ענקיות הענן מיקרוסופט, גוגל ואמזון, סיפקו ל-Homeland Security טכנולוגיית AI ושירותים מקוונים להתנסות בהם, בכל הנוגע להדרכה וקבלת החלטות.

"שירותי האזרחות וההגירה של ארה"ב (USCIS) יבצעו פיילוט באמצעות לימודי LLM כדי לסייע בהכשרת קציני פליטים, מקלט וקציני מבצעים בינלאומיים כיצד לנהל ראיונות עם מועמדים להגירה חוקית", אמר דוד סם. מפת דרכים [PDF], פורסם אמש, מסביר.

למרות עבודה אחרונה על הפחתת אי דיוקים במודלים של בינה מלאכותית, ידוע ש-LLMs מייצרים מידע לא מדויק עם סוג הביטחון העצמי שעלול לבלבל מתאמן צעיר.

הפלאבים - המכונים "הזיות" - מקשים על אמון בפלט של AI chatbots, דור תמונה ואפילו עבודה של עוזר משפטי, עם יותר מ אחד עורך דין מסתבך בגלל ציטוט מקרים מזויפים שנוצרו יש מאין על ידי ChatGPT.

ידוע גם כי תכניות לימודים ללימודי תואר שני מפגינים הטיה גזעית ומגדרית כאשר הם נפרסים כלים להשכרה, הטיה גזעית ומגדרית בשימוש ב זיהוי פנים מערכות, ויכול אפילו להפגין הטיות גזעניות בעת עיבוד מילים, כפי שמוצג ב-a נייר האחרון שבו LLMs שונים מקבלים החלטה לגבי אדם על סמך סדרה של הנחיות טקסט. החוקרים דיווחו במאמר שלהם במרץ שהחלטות LLM לגבי אנשים המשתמשים בניב אפרו-אמריקאי משקפות סטריאוטיפים גזעניים.

עם זאת, DHS טוענת שהיא מחויבת להבטיח שהשימוש שלה ב-AI "אחראי ואמין; שומר על הפרטיות, זכויות האזרח וחירויות האזרח; נמנע מהטיות בלתי הולמות; והוא שקוף וניתן להסבר לעובדים ולאנשים המעובדים. עם זאת, זה לא אומר אילו אמצעי הגנה קיימים.

הסוכנות טוענת שהשימוש בבינה מלאכותית גנרטיבית תאפשר ל-DHS "לשפר" את עבודת קציני ההגירה, עם אפליקציה אינטראקטיבית המשתמשת בבינה מלאכותית גנרית בפיתוח כדי לסייע בהכשרת קצינים. המטרה כוללת הגבלת הצורך בהסבה מקצועית לאורך זמן.

הדו"ח הגדול יותר של DHS מתאר את תוכניות המחלקה לגבי הטכנולוגיה באופן כללי יותר, ולפי אלחנדרו נ' מאיורקס, שר המחלקה לביטחון פנים של ארה"ב, "היא תוכנית הבינה המלאכותית המפורטת ביותר שהציגה סוכנות פדרלית עד כה."

שני פרויקטי פיילוט נוספים יכללו שימוש במערכות מבוססות LLM בחקירות ויישום בינה מלאכותית גנרטיבית לתהליך הפחתת הסיכונים עבור ממשלות מקומיות.

היסטוריה חוזרת

ה-DHS השתמש בבינה מלאכותית במשך יותר מעשור, כולל טכנולוגיית למידת מכונה (ML) לאימות זהות. ניתן לתאר בצורה הטובה ביותר את הגישה שלה כשנויה במחלוקת, כאשר הסוכנות עומדת על הצד המקבל של מכתבים משפטיים על שימוש בטכנולוגיית זיהוי פנים. עם זאת, ארה"ב דחפה קדימה למרות אִי שָׁקֵט מחלקים מסוימים.

ואכן, ה-DHS מציין את הבינה המלאכותית כמשהו שהוא משתמש בו כדי להפוך את הנסיעה ל"בטוחה וקלה יותר" - מי יכול להתנגד לצילום כדי לעזור לנווט בתאטרון האבטחה הנפוץ מדי בשדות תעופה? אחרי הכל, זה עדיין אופציונלי.

דוגמאות אחרות לשימוש בבינה מלאכותית שניתנו על ידי ה-DHS כוללות חיפוש בתמונות ישנות יותר כדי לזהות קורבנות לא ידועים קודמים של ניצול, הערכת נזק לאחר אסון ואיסוף מבריחים על ידי זיהוי התנהגות חשודה.

במפת הדרכים שלו, ה-DHS ציין את האתגרים הקיימים לצד ההזדמנויות. כלי בינה מלאכותית נגישים לא פחות על ידי גורמי איומים כמו גם הרשויות, וה-DHS חושש שהתקפות בקנה מידה גדול יותר נמצאות בהישג ידם של פושעי סייבר, כמו גם התקפות על תשתית קריטית. ואז יש את האיום מתוכן שנוצר בינה מלאכותית.

נקבעו מספר יעדים לשנת 2024. אלה כוללים יצירת ארגז חול בינה מלאכותית שבה משתמשי DHS יכולים לשחק עם הטכנולוגיה ושכירת 50 מומחי AI. היא גם מתכננת תרגיל HackDHS שבו חוקרים בדוקים יוטלו על מציאת נקודות תורפה במערכות שלה. ®

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://go.theregister.com/feed/www.theregister.com/2024/03/19/us_department_of_security_talks/