DHS امریکی امیگریشن افسران کو تربیت دینے کے لیے genAI کا استعمال کرتے ہوئے ٹیسٹ کرے گا۔

یو ایس ڈپارٹمنٹ آف ہوم لینڈ سیکیورٹی (DHS) کے پاس ایک AI روڈ میپ ہے اور ٹیک کو تعینات کرنے کے لیے تین ٹیسٹ پروجیکٹس ہیں، جن میں سے ایک کا مقصد امیگریشن افسران کو جنریٹو AI کا استعمال کرتے ہوئے تربیت دینا ہے۔ کیا غلط ہو سکتا ہے؟

رپورٹ میں کسی بھی AI وینڈرز کا نام نہیں لیا گیا، جس میں دعویٰ کیا گیا تھا کہ ٹیک کے استعمال کا مقصد تربیت یافتہ افراد کو "اہم معلومات" کو بہتر طور پر سمجھنے اور اسے برقرار رکھنے کے ساتھ ساتھ "ان کے فیصلہ سازی کے عمل کی درستگی میں اضافہ کرنے میں مدد کرنا تھا۔"

یہ ہے کہ نے کہا کہ OpenAI، Anthropic، اور Meta کے ساتھ ساتھ کلاؤڈ کمپنیاں Microsoft، Google، اور Amazon نے ہوم لینڈ سیکیورٹی کو AI ٹیکنالوجی اور آن لائن خدمات فراہم کی ہیں تاکہ تربیت اور فیصلہ سازی کے حوالے سے تجربہ کیا جا سکے۔

"یو ایس سٹیزن شپ اینڈ امیگریشن سروسز (USCIS) LLMs کا استعمال کرتے ہوئے پناہ گزینوں، پناہ گزینوں، اور بین الاقوامی آپریشنز افسران کو قانونی امیگریشن کے لیے درخواست دہندگان کے ساتھ انٹرویو لینے کے طریقہ کار کی تربیت میں مدد فراہم کرے گی،" انکل سامز سڑک موڈ گزشتہ رات جاری کردہ [پی ڈی ایف]، وضاحت کرتا ہے۔

کے باوجود حالیہ کام AI ماڈلز میں غلطیاں کم کرنے پر، LLMs کو اس قسم کے اعتماد کے ساتھ غلط معلومات پیدا کرنے کے لیے جانا جاتا ہے جو ایک نوجوان ٹرینی کو پریشان کر سکتی ہے۔

فلبس - جسے "ہیلوسینیشن" کہا جاتا ہے - AI کے آؤٹ پٹ پر بھروسہ کرنا مشکل بنا دیتا ہے۔ چیٹ بٹس, تصویر کی نسل اور یہاں تک کہ قانونی معاون کام، اس سے زیادہ کے ساتھ ایک وکیل ChatGPT کی طرف سے ہوا سے پیدا ہونے والے جعلی کیسز کا حوالہ دینے کی وجہ سے مشکل میں پڑنا۔

ایل ایل ایم میں تعینات ہونے پر نسلی اور صنفی تعصب دونوں کو ظاہر کرنے کے لیے بھی جانا جاتا ہے۔ بھرتی کے اوزارجب اس میں استعمال کیا جائے تو نسلی اور صنفی تعصب چہرے کی شناخت نظام، اور یہاں تک کہ کر سکتے ہیں نسل پرستانہ تعصبات کا مظاہرہ کریں۔ الفاظ پر کارروائی کرتے وقت، جیسا کہ a میں دکھایا گیا ہے۔ حالیہ کاغذ جہاں مختلف LLMs متن کے اشارے کی ایک سیریز کی بنیاد پر کسی شخص کے بارے میں فیصلہ کرتے ہیں۔ محققین نے اپنے مارچ کے مقالے میں بتایا کہ افریقی امریکی بولی استعمال کرنے والے لوگوں کے بارے میں ایل ایل ایم کے فیصلے نسل پرستانہ دقیانوسی تصورات کی عکاسی کرتے ہیں۔

بہر حال، DHS کا دعویٰ ہے کہ وہ اس بات کو یقینی بنانے کے لیے پرعزم ہے کہ اس کے AI کے استعمال کو "ذمہ دار اور قابل اعتماد ہے؛ رازداری، شہری حقوق، اور شہری آزادیوں کی حفاظت کرتا ہے؛ نامناسب تعصبات سے بچتا ہے؛ اور شفاف اور قابل وضاحت ہے کارکنوں اور لوگوں کے لیے کارروائی کی جا رہی ہے۔ تاہم، اس میں یہ نہیں کہا گیا ہے کہ کیا حفاظتی اقدامات موجود ہیں۔

ایجنسی کا دعویٰ ہے کہ جنریٹو AI کا استعمال DHS کو امیگریشن آفیسر کے کام کو "بڑھانے" کی اجازت دے گا، ایک انٹرایکٹو ایپلی کیشن کے ساتھ جنریٹیو AI کا استعمال کرتے ہوئے افسروں کی تربیت میں مدد کرنے کے لیے۔ مقصد میں وقت کے ساتھ دوبارہ تربیت کی ضرورت کو محدود کرنا شامل ہے۔

DHS کی بڑی رپورٹ میں ٹیک کے لیے محکمے کے منصوبوں کا عمومی طور پر خاکہ پیش کیا گیا ہے، اور، امریکی محکمہ ہوم لینڈ سیکیورٹی کے سیکریٹری، Alejandro N Mayorkas کے مطابق، "ایک فیڈرل ایجنسی کی جانب سے اب تک کا سب سے مفصل AI منصوبہ پیش کیا گیا ہے۔"

دیگر دو پائلٹ پراجیکٹس میں تحقیقات میں LLM پر مبنی سسٹمز کا استعمال اور مقامی حکومتوں کے لیے خطرات کو کم کرنے کے عمل میں جنریٹو AI کا اطلاق شامل ہوگا۔

تاریخ دہرا رہی ہے۔

DHS نے ایک دہائی سے زائد عرصے سے AI کا استعمال کیا ہے، بشمول شناخت کی تصدیق کے لیے مشین لرننگ (ML) ٹیک۔ اس کے نقطہ نظر کو متنازعہ کے طور پر بیان کیا جا سکتا ہے، ایجنسی کے ساتھ موصول ہونے والے اختتام پر قانونی خطوط چہرے کی شناخت کی ٹیکنالوجی کا زیادہ استعمال۔ تاہم اس کے باوجود امریکہ نے آگے بڑھایا ہے۔ پریشان کچھ حلقوں سے

درحقیقت، DHS نے AI کا حوالہ دیا ہے کہ وہ سفر کو "محفوظ اور آسان" بنانے کے لیے استعمال کر رہا ہے - کون ممکنہ طور پر ہوائی اڈوں پر موجود سیکیورٹی تھیٹر کو نیویگیٹ کرنے میں مدد کے لیے تصویر لینے پر اعتراض کر سکتا ہے؟ یہ، سب کے بعد، اب بھی اختیاری ہے.

DHS کی طرف سے دی گئی AI کے استعمال کی دیگر مثالوں میں استحصال کے پچھلے نامعلوم متاثرین کی شناخت کے لیے پرانی تصاویر کے ذریعے ٹرول کرنا، تباہی کے بعد نقصان کا اندازہ لگانا، اور مشکوک رویے کی نشاندہی کر کے اسمگلروں کو پکڑنا شامل ہے۔

اپنے روڈ میپ میں، DHS نے ان چیلنجوں کو نوٹ کیا جو مواقع کے ساتھ ساتھ موجود ہیں۔ AI ٹولز خطرے کے اداکاروں کے ساتھ ساتھ حکام کے لیے بھی اتنے ہی قابل رسائی ہیں، اور DHS کو تشویش ہے کہ بڑے پیمانے پر حملے سائبر جرائم پیشہ افراد کی پہنچ کے ساتھ ساتھ اہم انفراسٹرکچر پر حملے بھی ہیں۔ اور پھر AI سے تیار کردہ مواد سے خطرہ ہے۔

2024 کے لیے متعدد اہداف مقرر کیے گئے ہیں۔ ان میں ایک AI سینڈ باکس بنانا شامل ہے جس میں DHS صارفین ٹیکنالوجی کے ساتھ کھیل سکیں اور 50 AI ماہرین کی خدمات حاصل کریں۔ یہ ایک HackDHS مشق کا بھی منصوبہ بناتا ہے جس میں جانچ پڑتال کرنے والے محققین کو اس کے سسٹمز میں کمزوریاں تلاش کرنے کا کام سونپا جائے گا۔ ®

• SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
• پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
• پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
• پلیٹو ای ایس جی۔ کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
• پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
• ماخذ: https://go.theregister.com/feed/www.theregister.com/2024/03/19/us_department_of_security_talks/