DHS จะทดสอบการใช้ genAI เพื่อฝึกอบรมเจ้าหน้าที่ตรวจคนเข้าเมืองของสหรัฐฯ

กระทรวงความมั่นคงแห่งมาตุภูมิของสหรัฐอเมริกา (DHS) มีแผนงานด้าน AI และโครงการทดสอบ 3 โครงการเพื่อปรับใช้เทคโนโลยี ซึ่งหนึ่งในนั้นมีเป้าหมายเพื่อฝึกอบรมเจ้าหน้าที่ตรวจคนเข้าเมืองโดยใช้ generative AI สิ่งที่อาจจะผิดไป?

ไม่มีการระบุชื่อผู้ขาย AI ในรายงาน ซึ่งอ้างว่าการใช้เทคโนโลยีนี้มีจุดมุ่งหมายเพื่อช่วยปรับปรุงผู้เข้ารับการฝึกอบรมให้เข้าใจและรักษา “ข้อมูลสำคัญ” ได้ดีขึ้น รวมถึง “เพิ่มความแม่นยำของกระบวนการตัดสินใจของพวกเขา”

มันเป็น กล่าวว่า OpenAI, Anthropic และ Meta รวมถึงคลาวด์ยักษ์ใหญ่อย่าง Microsoft, Google และ Amazon ได้มอบเทคโนโลยี AI และบริการออนไลน์ให้กับ Homeland Security เพื่อทดลองเกี่ยวกับการฝึกอบรมและการตัดสินใจ

“US Citizenship and Immigration Services (USCIS) จะนำร่องการใช้ LLM เพื่อช่วยฝึกอบรมเจ้าหน้าที่ผู้ลี้ภัย ผู้ลี้ภัย และเจ้าหน้าที่ปฏิบัติการระหว่างประเทศเกี่ยวกับวิธีการสัมภาษณ์ผู้สมัครเพื่อเข้าเมืองอย่างถูกกฎหมาย” ลุงแซม แผนงาน [PDF] ออกมาเมื่อคืนนี้ อธิบาย

แม้จะมี ผลงานล่าสุด ในการบรรเทาความไม่ถูกต้องในแบบจำลอง AI นั้น LLM เป็นที่ทราบกันดีว่าสร้างข้อมูลที่ไม่ถูกต้องพร้อมกับความมั่นใจที่อาจหลอกผู้ฝึกหัดรุ่นเยาว์ได้

อาการหลอนที่เรียกว่า "ภาพหลอน" ทำให้ยากต่อการเชื่อถือผลลัพธ์ของ AI chatbots, การสร้างภาพ และแม้แต่งานผู้ช่วยกฎหมายที่มีมากกว่านั้น หนึ่ง ทนายความ ประสบปัญหาในการอ้างถึงเคสปลอมที่เกิดจาก ChatGPT

LLM เป็นที่ทราบกันดีว่าแสดงอคติทั้งทางเชื้อชาติและเพศเมื่อนำไปใช้งาน จ้างเครื่องมืออคติทางเชื้อชาติและเพศเมื่อใช้ การจดจำใบหน้า ระบบและยังสามารถ แสดงอคติทางเชื้อชาติ เมื่อประมวลผลคำดังแสดงในก กระดาษที่ผ่านมา โดยที่ LLM หลายแห่งทำการตัดสินใจเกี่ยวกับบุคคลโดยอิงตามชุดข้อความแจ้ง นักวิจัยรายงานในรายงานประจำเดือนมีนาคมว่าการตัดสินใจของ LLM เกี่ยวกับผู้คนที่ใช้ภาษาถิ่นแอฟริกันอเมริกัน สะท้อนถึงแบบแผนเหยียดเชื้อชาติ

อย่างไรก็ตาม DHS อ้างว่ามีความมุ่งมั่นที่จะสร้างความมั่นใจว่าการใช้ AI “มีความรับผิดชอบและเชื่อถือได้ ปกป้องความเป็นส่วนตัว สิทธิพลเมือง และเสรีภาพของพลเมือง หลีกเลี่ยงอคติที่ไม่เหมาะสม และโปร่งใสและอธิบายแก่คนงานและบุคคลที่ได้รับการประมวลผลได้ อย่างไรก็ตาม ไม่ได้บอกว่ามีมาตรการป้องกันอะไรบ้าง

หน่วยงานอ้างว่าการใช้ generative AI จะทำให้ DHS สามารถ "ปรับปรุง" การทำงานของเจ้าหน้าที่ตรวจคนเข้าเมืองได้ โดยมีแอปพลิเคชันแบบโต้ตอบที่ใช้ generative AI ที่อยู่ระหว่างการพัฒนาเพื่อช่วยในการฝึกอบรมเจ้าหน้าที่ เป้าหมายรวมถึงการจำกัดความจำเป็นในการฝึกอบรมใหม่เมื่อเวลาผ่านไป

รายงาน DHS ที่ใหญ่กว่านั้นสรุปแผนของกระทรวงเกี่ยวกับเทคโนโลยีโดยทั่วไป และจากข้อมูลของ Alejandro N Mayorkas รัฐมนตรีกระทรวงความมั่นคงแห่งมาตุภูมิของสหรัฐอเมริกา “เป็นแผน AI ที่มีรายละเอียดมากที่สุดที่หน่วยงานของรัฐบาลกลางเสนอมาจนถึงปัจจุบัน”

อีกสองโครงการนำร่องจะเกี่ยวข้องกับการใช้ระบบที่ใช้ LLM ในการสืบสวนและการประยุกต์ใช้ AI กำเนิดกับกระบวนการบรรเทาอันตรายสำหรับรัฐบาลท้องถิ่น

ประวัติศาสตร์ซ้ำรอย

DHS ใช้ AI มานานกว่าทศวรรษ รวมถึงเทคโนโลยีการเรียนรู้ของเครื่อง (ML) เพื่อยืนยันตัวตน แนวทางนี้สามารถอธิบายได้ดีที่สุดว่าเป็นข้อขัดแย้ง โดยหน่วยงานเป็นฝ่ายรับ จดหมายทางกฎหมาย ผ่านการใช้เทคโนโลยีจดจำใบหน้า อย่างไรก็ตาม สหรัฐฯ ก็ยังเดินหน้าต่อไป หงุดหงิด จากบางช่วง

แท้จริงแล้ว DHS อ้างถึง AI ว่าเป็นสิ่งที่ใช้เพื่อทำให้การเดินทาง "ปลอดภัยและง่ายขึ้น" ใครบ้างที่อาจคัดค้านไม่ให้ถ่ายรูปเพื่อช่วยนำทางระบบรักษาความปลอดภัยซึ่งล้วนแต่แพร่หลายในสนามบิน ท้ายที่สุดแล้วมันก็ยังเป็นทางเลือก

ตัวอย่างอื่นๆ ของการใช้ AI ที่ DHS มอบให้ ได้แก่ การสืบค้นรูปภาพเก่าๆ เพื่อระบุเหยื่อของการแสวงหาผลประโยชน์ที่ไม่รู้จัก การประเมินความเสียหายหลังภัยพิบัติ และการจับผู้ลักลอบขนของโดยระบุพฤติกรรมที่น่าสงสัย

ในแผนงาน DHS กล่าวถึงความท้าทายที่มีอยู่ควบคู่ไปกับโอกาส เครื่องมือ AI สามารถเข้าถึงได้โดยผู้ก่อภัยคุกคามและหน่วยงานราชการ และ DHS กังวลว่าการโจมตีในวงกว้างนั้นเข้าถึงได้จากอาชญากรไซเบอร์ เช่นเดียวกับการโจมตีโครงสร้างพื้นฐานที่สำคัญ แล้วก็มีภัยคุกคามจากเนื้อหาที่สร้างโดย AI

มีการกำหนดเป้าหมายจำนวนหนึ่งสำหรับปี 2024 ซึ่งรวมถึงการสร้าง AI Sandbox ที่ผู้ใช้ DHS สามารถเล่นกับเทคโนโลยีได้ และจ้างผู้เชี่ยวชาญด้าน AI 50 คน นอกจากนี้ยังวางแผนการฝึก HackDHS ซึ่งนักวิจัยที่ผ่านการคัดเลือกจะได้รับมอบหมายให้ค้นหาช่องโหว่ในระบบ

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• PlatoData.Network Vertical Generative Ai เพิ่มพลังให้กับตัวเอง เข้าถึงได้ที่นี่.
• เพลโตไอสตรีม. Web3 อัจฉริยะ ขยายความรู้ เข้าถึงได้ที่นี่.
• เพลโตESG. คาร์บอน, คลีนเทค, พลังงาน, สิ่งแวดล้อม แสงอาทิตย์, การจัดการของเสีย. เข้าถึงได้ที่นี่.
• เพลโตสุขภาพ เทคโนโลยีชีวภาพและข่าวกรองการทดลองทางคลินิก เข้าถึงได้ที่นี่.
• ที่มา: https://go.theregister.com/feed/www.theregister.com/2024/03/19/us_department_of_security_talks/