DHS、米国入国管理官の訓練にgenAIを使用したテストを実施

米国土安全保障省 (DHS) には AI ロードマップと、この技術を導入するための 3 つのテスト プロジェクトがあり、そのうちの 1 つは生成 AI を使用して入国管理官を訓練することを目的としています。何が問題になる可能性がありますか?

報告書ではAIベンダーの名前は挙げられていないが、この技術の利用は研修生の「重要な情報」の理解と保持を強化し、「意思決定プロセスの精度を高める」ことを目的としていると主張している。

信じられないほどシンプル それはそうだ OpenAI、Anthropic、Meta、そしてクラウド大手の Microsoft、Google、Amazon は、国土安全保障省にトレーニングと意思決定に関する実験用の AI テクノロジーとオンライン サービスを提供しています。

「米国市民権・移民局（USCIS）は、合法的な移民申請者との面接の実施方法について、難民、亡命者、および国際業務担当官を訓練するのに役立つLLMを試験的に使用する予定です」とアンクル・サム氏は述べた。 ロードマップ 昨夜リリースされた [PDF] で説明されています。

にもかかわらず 最近の作品 AI モデルの不正確性を軽減する上で、LLM は若い研修生を騙す可能性のある種類の自信を持って不正確な情報を生成することが知られています。

「幻覚」と呼ばれる失敗により、AI の出力を信頼することが難しくなります チャットボット, 画像生成 さらには法務アシスタントの仕事も含まれます。 XNUMXつ 弁護士 ChatGPT によって何もないところから生成された偽のケースを引用してトラブルに見舞われています。

LLM は、展開されると人種と性別の両方の偏見を示すことも知られています。 採用ツール、で使用される場合の人種および性別の偏見 顔認識 システム、さらには 人種差別的な偏見を示す に示すように、単語を処理するとき 最近の論文 ここでは、さまざまな LLM が一連のテキスト プロンプトに基づいて個人に関する決定を下します。研究者らは3月の論文で、アフリカ系アメリカ人の方言を使用する人々に関するLLMの決定は人種差別的な固定観念を反映していると報告した。

それにもかかわらず、DHS は、AI の使用が「責任と信頼に足る」ものであることを保証することに尽力していると主張しています。プライバシー、公民権、市民的自由を保護します。不適切な偏見を回避します。透明性があり、作業者や処理される人々に説明可能です。ただし、どのような安全策が講じられているかについては言及していない。

同庁は、生成AIを利用することでDHSが入国管理官の業務を「強化」できると主張しており、開発中の生成AIを使ったインタラクティブなアプリケーションは職員の訓練を支援するものとなっている。目標には、長期にわたる再トレーニングの必要性を制限することが含まれます。

DHSのより大規模な報告書は、この技術に関する同省の計画をより一般的に概説しており、米国国土安全保障省のアレハンドロ・N・マヨルカス長官によれば、これは「これまで連邦機関が提案した最も詳細なAI計画である」という。

他の 2 つのパイロット プロジェクトには、調査における LLM ベースのシステムの使用と、地方自治体の危険軽減プロセスへの生成 AI の適用が含まれます。

歴史の繰り返し

DHS は 10 年以上にわたり、本人確認のための機械学習 (ML) 技術を含む AI を使用してきました。そのアプローチは、物議を醸すものであると最も適切に表現できます。 法的な手紙 顔認識技術の使用を超えて。しかし、米国はにもかかわらず、前進した。 不穏 ある方面からは。

実際、DHS は、旅行を「より安全かつ簡単」にするために AI を活用していると述べています。空港で蔓延しているセキュリティの現場をナビゲートするために写真を撮られることに反対する人がいるでしょうか?結局のところ、それは依然としてオプションです。

DHS が示した AI 使用の他の例としては、古い画像を検索して以前の未知の搾取被害者を特定すること、災害後の被害を評価すること、不審な行動を特定して密輸業者を摘発することなどが挙げられます。

DHS はロードマップの中で、機会と同時に存在する課題にも言及しました。 AI ツールは当局だけでなく脅威アクターも同様にアクセス可能であり、DHS は重要インフラへの攻撃だけでなく、大規模な攻撃もサイバー犯罪者の手の届くところにあると懸念しています。さらに、AI が生成したコンテンツによる脅威もあります。

2024 年に向けて多くの目標が設定されています。これには、DHS ユーザーがテクノロジーを利用できる AI サンドボックスの作成や、50 人の AI 専門家を雇用することが含まれます。また、精査された研究者がシステムの脆弱性を発見する任務を負う HackDHS 演習も計画しています。 ®

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• 情報源： https://go.theregister.com/feed/www.theregister.com/2024/03/19/us_department_of_security_talks/