DHS akan menguji menggunakan genAI untuk melatih petugas imigrasi AS

Departemen Keamanan Dalam Negeri (DHS) AS memiliki peta jalan AI dan tiga proyek uji coba untuk menerapkan teknologi tersebut, salah satunya bertujuan untuk melatih petugas imigrasi menggunakan AI generatif. Apa yang mungkin salah?

Tidak ada vendor AI yang disebutkan dalam laporan tersebut, yang mengklaim bahwa penggunaan teknologi tersebut dimaksudkan untuk membantu meningkatkan peserta pelatihan untuk lebih memahami dan menyimpan “informasi penting,” serta untuk “meningkatkan keakuratan proses pengambilan keputusan mereka.”

Nya mengatakan bahwa OpenAI, Anthropic, dan Meta, serta raksasa cloud Microsoft, Google, dan Amazon, telah menyediakan teknologi AI dan layanan online untuk Homeland Security untuk bereksperimen, terkait dengan pelatihan dan pengambilan keputusan.

“Layanan Kewarganegaraan dan Imigrasi AS (USCIS) akan melakukan uji coba penggunaan LLM untuk membantu melatih Petugas Pengungsi, Suaka, dan Operasi Internasional tentang cara melakukan wawancara dengan pelamar imigrasi yang sah,” Paman Sam peta jalan [PDF], dirilis tadi malam, menjelaskan.

Meskipun kerja terbaru dalam memitigasi ketidakakuratan dalam model AI, LLM diketahui menghasilkan informasi yang tidak akurat dengan jenis kepercayaan yang mungkin memperdaya peserta pelatihan muda.

Kegagalan – disebut sebagai “halusinasi” – membuat kita sulit mempercayai hasil AI chatbots, generasi gambar dan bahkan pekerjaan asisten hukum, dengan lebih dari satu pengacara mendapat masalah karena mengutip kasus palsu yang dibuat begitu saja oleh ChatGPT.

LLM juga diketahui menunjukkan bias rasial dan gender ketika diterapkan menyewa alat, bias ras dan gender saat digunakan dalam pengenalan wajah sistem, dan bahkan bisa menunjukkan bias rasis saat memproses kata, seperti yang ditunjukkan pada a makalah baru-baru di mana berbagai LLM membuat keputusan tentang seseorang berdasarkan serangkaian petunjuk teks. Para peneliti melaporkan dalam makalah mereka pada bulan Maret bahwa keputusan LLM tentang orang-orang yang menggunakan dialek Afrika-Amerika mencerminkan stereotip rasis.

Namun demikian, DHS mengklaim pihaknya berkomitmen untuk memastikan penggunaan AI “bertanggung jawab dan dapat dipercaya; menjaga privasi, hak-hak sipil, dan kebebasan sipil; menghindari bias yang tidak pantas; dan transparan serta dapat dijelaskan kepada pekerja dan orang yang diproses. Namun tidak disebutkan perlindungan apa yang diterapkan.

Badan tersebut mengklaim penggunaan AI generatif akan memungkinkan DHS untuk “meningkatkan” pekerjaan petugas imigrasi, dengan aplikasi interaktif menggunakan AI generatif yang sedang dikembangkan untuk membantu pelatihan petugas. Tujuannya termasuk membatasi kebutuhan pelatihan ulang dari waktu ke waktu.

Laporan DHS yang lebih besar menguraikan rencana Departemen Teknologi secara lebih umum, dan, menurut Alejandro N Mayorkas, Menteri Keamanan Dalam Negeri AS, “merupakan rencana AI paling rinci yang diajukan oleh lembaga federal hingga saat ini.”

Dua proyek percontohan lainnya akan melibatkan penggunaan sistem berbasis LLM dalam investigasi dan penerapan AI generatif pada proses mitigasi bahaya bagi pemerintah daerah.

Sejarah berulang

DHS telah menggunakan AI selama lebih dari satu dekade, termasuk teknologi pembelajaran mesin (ML) untuk verifikasi identitas. Pendekatannya dapat digambarkan sebagai pendekatan yang kontroversial, dan lembaga tersebut adalah pihak yang menerima hal tersebut surat hukum daripada menggunakan teknologi pengenalan wajah. Namun, Amerika tetap terus maju kegelisahan dari beberapa kalangan.

Memang benar, DHS menyebut AI sebagai sesuatu yang mereka gunakan untuk membuat perjalanan “lebih aman dan mudah” – siapa yang mungkin keberatan jika ada foto yang diambil untuk membantu menavigasi ruang keamanan yang banyak terjadi di bandara? Bagaimanapun, ini masih opsional.

Contoh lain penggunaan AI yang diberikan oleh DHS adalah menelusuri gambar-gambar lama untuk mengidentifikasi korban eksploitasi yang sebelumnya tidak diketahui, menilai kerusakan setelah bencana, dan menangkap penyelundup dengan mengidentifikasi perilaku mencurigakan.

Dalam peta jalannya, DHS mencatat tantangan-tantangan yang ada dan peluang-peluang yang ada. Alat-alat AI dapat diakses oleh pelaku ancaman serta pihak berwenang, dan DHS khawatir bahwa serangan berskala lebih besar dapat dijangkau oleh penjahat dunia maya, serta serangan terhadap infrastruktur penting. Lalu ada ancaman dari konten yang dihasilkan AI.

Sejumlah tujuan telah ditetapkan untuk tahun 2024. Hal ini termasuk menciptakan AI Sandbox di mana pengguna DHS dapat bermain dengan teknologi tersebut dan mempekerjakan 50 ahli AI. Mereka juga merencanakan latihan HackDHS di mana para peneliti terverifikasi akan ditugaskan untuk menemukan kerentanan dalam sistemnya. ®

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
• PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
• PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
• PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
• Sumber: https://go.theregister.com/feed/www.theregister.com/2024/03/19/us_department_of_security_talks/