DHS, ABD göçmenlik memurlarını eğitmek için genAI kullanmayı test edecek

ABD İç Güvenlik Bakanlığı'nın (DHS) bir yapay zeka yol haritası ve teknolojiyi uygulamaya yönelik üçlü test projesi var; bunlardan biri göçmenlik görevlilerini üretken yapay zeka kullanarak eğitmeyi amaçlıyor. Ne yanlış gidebilir ki?

Raporda, teknolojinin kullanımının stajyerlerin "önemli bilgileri" daha iyi anlamalarına ve saklamalarına yardımcı olmanın yanı sıra "karar verme süreçlerinin doğruluğunu artırmaya" yardımcı olmayı amaçladığını iddia eden hiçbir yapay zeka tedarikçisinin adı belirtilmedi.

Bu kadar O dedi OpenAI, Anthropic ve Meta'nın yanı sıra bulut devleri Microsoft, Google ve Amazon, Homeland Security'ye eğitim ve karar alma konularında denemeler yapılabilecek yapay zeka teknolojisi ve çevrimiçi hizmetler sağladı.

Uncle Sam's, "ABD Vatandaşlık ve Göçmenlik Hizmetleri (USCIS), Mülteci, İltica ve Uluslararası Operasyon Görevlilerinin yasal göç için başvuranlarla görüşmelerin nasıl yürütüleceği konusunda eğitilmesine yardımcı olmak için LLM'lerin kullanımına pilot uygulama yapacak" dedi. yol haritası Dün gece yayınlanan [PDF] açıklıyor.

Rağmen son iş Yapay zeka modellerindeki hataların azaltılması konusunda yüksek lisans eğitimlerinin genç bir stajyeri yanıltabilecek türden bir özgüvenle yanlış bilgi ürettiği biliniyor.

"Halüsinasyonlar" olarak adlandırılan flub'lar, yapay zekanın çıktılarına güvenmeyi zorlaştırıyor chatbots, görüntü üretimi ve hatta hukuk asistanı işi, birden fazla kişiyle bir avukat ChatGPT tarafından hiç yoktan oluşturulan sahte vakalardan alıntı yaptığı için başını belaya sokuyor.

Yüksek Lisans'ların aynı zamanda, görevlendirildiklerinde hem ırksal hem de toplumsal cinsiyet yanlılığı sergiledikleri de bilinmektedir. işe alma araçlarıkullanıldığında ırk ve cinsiyet önyargısı yüz tanıma sistemler ve hatta ırkçı önyargılar sergilemek gösterildiği gibi sözcükleri işlerken son kağıdı çeşitli LLM'lerin bir dizi metin istemine dayanarak bir kişi hakkında karar verdiği yer. Araştırmacılar Mart ayındaki makalelerinde, Afro-Amerikan lehçesini kullanan kişilerle ilgili Yüksek Lisans kararlarının ırkçı stereotipleri yansıttığını bildirdi.

Bununla birlikte DHS, yapay zeka kullanımının “sorumlu ve güvenilir olmasını; mahremiyeti, sivil hakları ve sivil özgürlükleri korur; uygunsuz önyargılardan kaçınır; ve işçilere ve işleme alınan kişilere şeffaf ve açıklanabilir. Ancak hangi önlemlerin alındığını söylemiyor.

Ajans, üretken yapay zeka kullanımının, memur eğitimine yardımcı olmak için geliştirilmekte olan üretken yapay zekayı kullanan etkileşimli bir uygulama ile DHS'nin göçmenlik memurunun çalışmasını "geliştirmesine" olanak tanıyacağını iddia ediyor. Amaç, zaman içinde yeniden eğitim ihtiyacını sınırlamayı içerir.

Daha büyük olan DHS raporu, Bakanlığın teknolojiye yönelik planlarını daha genel olarak özetlemektedir ve ABD İç Güvenlik Bakanlığı Sekreteri Alejandro N Mayorkas'a göre "bugüne kadar bir federal kurum tarafından öne sürülen en ayrıntılı yapay zeka planıdır."

Diğer iki pilot proje, araştırmalarda Yüksek Lisans tabanlı sistemlerin kullanılmasını ve yerel yönetimler için tehlike azaltma sürecine üretken yapay zekanın uygulanmasını içerecek.

Tarih tekerrürden ibarettir

DHS, kimlik doğrulama için makine öğrenimi (ML) teknolojisi de dahil olmak üzere yapay zekayı on yıldan fazla bir süredir kullanıyor. Teşkilatın bu yaklaşımı en iyi şekilde tartışmalı olarak tanımlayabiliriz; yasal mektuplar Yüz tanıma teknolojisinin aşırı kullanımı. Ancak ABD buna rağmen ilerlemeye devam etti huzursuzluk bazı çevrelerden.

Aslında DHS, yapay zekanın seyahati "daha güvenli ve daha kolay" hale getirmek için kullandığı bir şey olduğunu belirtiyor; havalimanlarında çok yaygın olan güvenlik alanında gezinmeye yardımcı olmak için fotoğraf çekilmesine kim itiraz edebilir ki? Sonuçta hala isteğe bağlı.

DHS tarafından verilen yapay zeka kullanımına ilişkin diğer örnekler arasında, daha önce bilinmeyen sömürü kurbanlarını belirlemek için eski görüntüler arasında tarama yapmak, bir felaketten sonra hasarı değerlendirmek ve şüpheli davranışları tanımlayarak kaçakçıları yakalamak yer alıyor.

DHS, yol haritasında fırsatların yanı sıra zorluklara da dikkat çekti. Yapay zeka araçlarına yetkililer kadar tehdit aktörleri de erişebiliyor ve DHS, kritik altyapılara yönelik saldırıların yanı sıra daha büyük ölçekli saldırıların da siber suçluların erişebileceğinden endişe ediyor. Ve bir de yapay zeka tarafından oluşturulan içerikten kaynaklanan tehdit var.

2024 için bir dizi hedef belirlendi. Bunlar arasında DHS kullanıcılarının teknolojiyle oynayabileceği bir AI Sandbox oluşturulması ve 50 AI uzmanının işe alınması yer alıyor. Ayrıca, incelenen araştırmacıların sistemlerindeki güvenlik açıklarını bulmakla görevlendirileceği bir HackDHS çalışması da planlıyor. ®

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://go.theregister.com/feed/www.theregister.com/2024/03/19/us_department_of_security_talks/