نقشه راه CISA: ترسیم دوره ای برای توسعه هوش مصنوعی قابل اعتماد

دفاع سایبری: در حالی که سیستم‌های هوش مصنوعی می‌توانند به سازمان‌ها کمک کنند تا دفاع خود را در برابر تهدیدات سایبری در حال ظهور و همچنین پیشرفته‌تر بهبود بخشند، سیستم‌های نرم‌افزاری مبتنی بر هوش مصنوعی یک مشکل را ایجاد می‌کنند. تعداد خطرات که مستلزم استحکام است دفاع هوش مصنوعی. هدف نقشه راه ترویج استفاده مفید از هوش مصنوعی و در عین حال محافظت از سیستم های کشور در برابر تهدیدات مبتنی بر هوش مصنوعی است.

کاهش ریسک و انعطاف پذیری: زیرساخت های بحرانی سازمان ها به طور فزاینده ای از سیستم های هوش مصنوعی برای حفظ و تقویت انعطاف پذیری سایبری خود استفاده می کنند. هدف CISA با نقشه راه خود ارتقاء پذیرش مسئولانه و آگاهانه از سیستم های نرم افزاری مبتنی بر هوش مصنوعی است کهاز نظر طراحی ایمن است” – جایی که امنیت در مرحله طراحی چرخه عمر توسعه یک محصول پیاده سازی می شود تا بتوان نقص های قابل بهره برداری را در منبع کاهش داد.

همکاری عملیاتی: با گسترش فناوری هوش مصنوعی، شهروندان ایالات متحده و بخش‌های زیرساختی حیاتی ممکن است در معرض تهدیدات هدفمند قرار گیرند، که ممکن است به اشتراک‌گذاری اطلاعات و پاسخ‌های هماهنگ سازمان‌ها، آژانس‌های مجری قانون و شرکای بین‌المللی نیاز داشته باشد. CISA قصد دارد چارچوبی ایجاد کند که به بهبود همسویی و هماهنگی بین سهامداران مربوطه کمک کند.

اتحاد آژانس: CISA قصد دارد سیستم‌های نرم‌افزاری هوش مصنوعی را در سراسر آژانس یکپارچه و یکپارچه کند، که به آن کمک می‌کند از سیستم‌های هوش مصنوعی به‌طور منسجم‌تر استفاده کند. CISA همچنین قصد دارد نیروی کاری را جذب و توسعه دهد که قادر به استفاده بهینه از سیستم های هوش مصنوعی باشد.

استفاده مسئولانه از هوش مصنوعی: CISA قصد دارد از ابزارهای نرم افزاری مجهز به هوش مصنوعی برای تقویت دفاع سایبری و پشتیبانی از زیرساخت های حیاتی استفاده کند. همه سیستم‌ها و ابزارها از طریق یک فرآیند انتخاب دقیق عبور می‌کنند که در آن CISA تضمین می‌کند که سیستم‌های مرتبط با هوش مصنوعی مسئول، ایمن، اخلاقی و ایمن برای استفاده هستند. CISA همچنین فرآیندهای حاکمیتی قوی را به کار خواهد گرفت که نه تنها با فرآیندهای تدارکات فدرال، قوانین و سیاست های قابل اجرا، حریم خصوصی، و حقوق و آزادی های مدنی سازگار است، بلکه رویکردی را برای ارزیابی مستمر مدل های هوش مصنوعی در حین بررسی شیوه های امنیتی فناوری اطلاعات برای ادغام ایمن اتخاذ خواهد کرد. تکنولوژی.

اطمینان از سیستم های هوش مصنوعی: برای ایجاد توسعه و پیاده‌سازی نرم‌افزار هوش مصنوعی ایمن‌تر و انعطاف‌پذیرتر، CISA قصد دارد قهرمان شود ایمن با طراحی ابتکارات، توسعه بهترین شیوه‌ها و راهنمایی‌های امنیتی برای طیف گسترده‌ای از ذینفعان (به عنوان مثال، سازمان‌های دولتی غیرنظامی فدرال، شرکت‌های بخش خصوصی، دولت‌های ایالتی، محلی، قبیله‌ای و سرزمینی) و اتخاذ شیوه‌های مدیریت آسیب‌پذیری قوی، با مشخص کردن فرآیند افشای آسیب‌پذیری و ارائه راهنمایی برای تست های امنیتی و تمرین های تیم قرمز برای سیستم های هوش مصنوعی.

محافظت از زیرساخت های حیاتی در برابر استفاده مخرب هوش مصنوعی: CISA با سازمان‌های دولتی و شرکای صنعتی مانند همکاری مشترک دفاع سایبری برای توسعه، آزمایش و ارزیابی ابزارهای هوش مصنوعی و همکاری در توسعه تهدیدات هوش مصنوعی. CISA مطالبی را برای افزایش آگاهی از خطرات نوظهور منتشر خواهد کرد و همچنین روش های مدیریت ریسک را برای تعیین چارچوب تحلیلی مناسب برای ارزیابی و درمان خطرات هوش مصنوعی ارزیابی خواهد کرد.

همکاری با بین سازمانی، شرکای بین المللی و مردم: برای افزایش آگاهی، به اشتراک گذاشتن اطلاعات تهدیدات، و بهبود توانایی های پاسخ به حادثه و تحقیقات، CISA قصد دارد رویکردهای مشترکی مانند گروه های کاری هوش مصنوعی، حضور یا شرکت در جلسات بین سازمانی، و هماهنگی نزدیک با نهادهای وزارت امنیت داخلی را تقویت کند. CISA در سراسر بین سازمانی کار خواهد کرد تا اطمینان حاصل کند که سیاست ها و استراتژی های خود با این سازمان هماهنگ هستند کل دولت رویکرد و شرکای بین المللی را برای تشویق پذیرش بهترین شیوه های بین المللی برای هوش مصنوعی ایمن درگیر خواهد کرد.

گسترش تخصص هوش مصنوعی در نیروی کار: انسانی هوشیاری، نظارت و شهود همیشه برای شناسایی تهدیدات سایبری مبتنی بر هوش مصنوعی و غیر AI و اطمینان از عاری بودن سیستم‌های هوش مصنوعی از خطا، تعصب و دستکاری مورد نیاز است. شهود و هوشیاری انسان تنها با ابتکارات آگاهانه امنیتی قوی تقویت می شود. به همین دلیل است که CISA قصد دارد به طور مداوم نیروی کار را در مورد سیستم‌ها و تکنیک‌های نرم‌افزاری هوش مصنوعی آموزش دهد، کارمندانی را با تخصص هوش مصنوعی استخدام کند، و برنامه‌های آموزشی آگاهی از امنیت را اجرا کند که باید شامل تمرین‌های موقعیتی باشد تا اطمینان حاصل شود که کارکنان جنبه‌های قانونی، اخلاقی و سیاست‌گذاری مبتنی بر هوش مصنوعی را درک می‌کنند. سیستم ها، فراتر از جنبه های فنی.