نظر
پذیرش سریع فناوری هوش مصنوعی نگرانیهای جدی سایبری را در بین کارشناسان هوش مصنوعی، سیاستگذاران، غولهای صنعت فناوری، کشورها و رهبران جهانی برانگیخته است. در پاسخ، آژانس امنیت سایبری و زیرساخت (CISA) از آن رونمایی کرد 2023-2024 "نقشه راه CISA برای هوش مصنوعی،" با هدف ایجاد توسعه ایمن و قابل اعتماد و استفاده از هوش مصنوعی، طبق دستور فرمان اجرایی کاخ سفید 14110.
CISA خود را منتشر کردبرنامه استراتژیک» برای 2023-2025 با ماموریت ارائه زیرساخت ایمن و انعطاف پذیر برای عموم مردم آمریکا. نقشه راه هوش مصنوعی اقتباسی از همان چهار هدف مشخص شده در برنامه استراتژیک است:
-
دفاع سایبری: در حالی که سیستمهای هوش مصنوعی میتوانند به سازمانها کمک کنند تا دفاع خود را در برابر تهدیدات سایبری در حال ظهور و همچنین پیشرفتهتر بهبود بخشند، سیستمهای نرمافزاری مبتنی بر هوش مصنوعی یک مشکل را ایجاد میکنند. تعداد خطرات که مستلزم استحکام است دفاع هوش مصنوعی. هدف نقشه راه ترویج استفاده مفید از هوش مصنوعی و در عین حال محافظت از سیستم های کشور در برابر تهدیدات مبتنی بر هوش مصنوعی است.
-
کاهش ریسک و انعطاف پذیری: زیرساخت های بحرانی سازمان ها به طور فزاینده ای از سیستم های هوش مصنوعی برای حفظ و تقویت انعطاف پذیری سایبری خود استفاده می کنند. هدف CISA با نقشه راه خود ارتقاء پذیرش مسئولانه و آگاهانه از سیستم های نرم افزاری مبتنی بر هوش مصنوعی است کهاز نظر طراحی ایمن است” – جایی که امنیت در مرحله طراحی چرخه عمر توسعه یک محصول پیاده سازی می شود تا بتوان نقص های قابل بهره برداری را در منبع کاهش داد.
-
همکاری عملیاتی: با گسترش فناوری هوش مصنوعی، شهروندان ایالات متحده و بخشهای زیرساختی حیاتی ممکن است در معرض تهدیدات هدفمند قرار گیرند، که ممکن است به اشتراکگذاری اطلاعات و پاسخهای هماهنگ سازمانها، آژانسهای مجری قانون و شرکای بینالمللی نیاز داشته باشد. CISA قصد دارد چارچوبی ایجاد کند که به بهبود همسویی و هماهنگی بین سهامداران مربوطه کمک کند.
-
اتحاد آژانس: CISA قصد دارد سیستمهای نرمافزاری هوش مصنوعی را در سراسر آژانس یکپارچه و یکپارچه کند، که به آن کمک میکند از سیستمهای هوش مصنوعی بهطور منسجمتر استفاده کند. CISA همچنین قصد دارد نیروی کاری را جذب و توسعه دهد که قادر به استفاده بهینه از سیستم های هوش مصنوعی باشد.
نقشه راه هوش مصنوعی مسئولیت امنیتی را بر دوش توسعه دهندگان هوش مصنوعی می گذارد نه مصرف کنندگان هوش مصنوعی
از لحاظ تاریخی، تولیدکنندگان نرمافزار هوش مصنوعی در برابر ساخت محصولاتی که از نظر طراحی ایمن هستند، مقاومت میکنند و بار امنیت را بر دوش مصرفکنندگان هوش مصنوعی میاندازند. نقشه راه CISA AI الزام می کند که سازندگان سیستم های هوش مصنوعی اصول طراحی ایمن را در کل چرخه عمر توسعه اتخاذ کنند. این شامل ایجاد امنیت با طراحی به عنوان اولویت اصلی کسب و کار، در اختیار گرفتن مالکیت نتایج امنیتی برای مشتریان، و پیشروی در توسعه محصول با شفافیت و مسئولیت پذیری اساسی است.
CISA قصد دارد پنج خط تلاش را برای دستیابی به اهداف اعلام شده خود اجرا کند
CISA پنج خط تلاش برای متحد کردن و تسریع نقشه راه فوق را شناسایی کرده است:
-
استفاده مسئولانه از هوش مصنوعی: CISA قصد دارد از ابزارهای نرم افزاری مجهز به هوش مصنوعی برای تقویت دفاع سایبری و پشتیبانی از زیرساخت های حیاتی استفاده کند. همه سیستمها و ابزارها از طریق یک فرآیند انتخاب دقیق عبور میکنند که در آن CISA تضمین میکند که سیستمهای مرتبط با هوش مصنوعی مسئول، ایمن، اخلاقی و ایمن برای استفاده هستند. CISA همچنین فرآیندهای حاکمیتی قوی را به کار خواهد گرفت که نه تنها با فرآیندهای تدارکات فدرال، قوانین و سیاست های قابل اجرا، حریم خصوصی، و حقوق و آزادی های مدنی سازگار است، بلکه رویکردی را برای ارزیابی مستمر مدل های هوش مصنوعی در حین بررسی شیوه های امنیتی فناوری اطلاعات برای ادغام ایمن اتخاذ خواهد کرد. تکنولوژی.
-
اطمینان از سیستم های هوش مصنوعی: برای ایجاد توسعه و پیادهسازی نرمافزار هوش مصنوعی ایمنتر و انعطافپذیرتر، CISA قصد دارد قهرمان شود ایمن با طراحی ابتکارات، توسعه بهترین شیوهها و راهنماییهای امنیتی برای طیف گستردهای از ذینفعان (به عنوان مثال، سازمانهای دولتی غیرنظامی فدرال، شرکتهای بخش خصوصی، دولتهای ایالتی، محلی، قبیلهای و سرزمینی) و اتخاذ شیوههای مدیریت آسیبپذیری قوی، با مشخص کردن فرآیند افشای آسیبپذیری و ارائه راهنمایی برای تست های امنیتی و تمرین های تیم قرمز برای سیستم های هوش مصنوعی.
-
محافظت از زیرساخت های حیاتی در برابر استفاده مخرب هوش مصنوعی: CISA با سازمانهای دولتی و شرکای صنعتی مانند همکاری مشترک دفاع سایبری برای توسعه، آزمایش و ارزیابی ابزارهای هوش مصنوعی و همکاری در توسعه تهدیدات هوش مصنوعی. CISA مطالبی را برای افزایش آگاهی از خطرات نوظهور منتشر خواهد کرد و همچنین روش های مدیریت ریسک را برای تعیین چارچوب تحلیلی مناسب برای ارزیابی و درمان خطرات هوش مصنوعی ارزیابی خواهد کرد.
-
همکاری با بین سازمانی، شرکای بین المللی و مردم: برای افزایش آگاهی، به اشتراک گذاشتن اطلاعات تهدیدات، و بهبود توانایی های پاسخ به حادثه و تحقیقات، CISA قصد دارد رویکردهای مشترکی مانند گروه های کاری هوش مصنوعی، حضور یا شرکت در جلسات بین سازمانی، و هماهنگی نزدیک با نهادهای وزارت امنیت داخلی را تقویت کند. CISA در سراسر بین سازمانی کار خواهد کرد تا اطمینان حاصل کند که سیاست ها و استراتژی های خود با این سازمان هماهنگ هستند کل دولت رویکرد و شرکای بین المللی را برای تشویق پذیرش بهترین شیوه های بین المللی برای هوش مصنوعی ایمن درگیر خواهد کرد.
-
گسترش تخصص هوش مصنوعی در نیروی کار: انسانی هوشیاری، نظارت و شهود همیشه برای شناسایی تهدیدات سایبری مبتنی بر هوش مصنوعی و غیر AI و اطمینان از عاری بودن سیستمهای هوش مصنوعی از خطا، تعصب و دستکاری مورد نیاز است. شهود و هوشیاری انسان تنها با ابتکارات آگاهانه امنیتی قوی تقویت می شود. به همین دلیل است که CISA قصد دارد به طور مداوم نیروی کار را در مورد سیستمها و تکنیکهای نرمافزاری هوش مصنوعی آموزش دهد، کارمندانی را با تخصص هوش مصنوعی استخدام کند، و برنامههای آموزشی آگاهی از امنیت را اجرا کند که باید شامل تمرینهای موقعیتی باشد تا اطمینان حاصل شود که کارکنان جنبههای قانونی، اخلاقی و سیاستگذاری مبتنی بر هوش مصنوعی را درک میکنند. سیستم ها، فراتر از جنبه های فنی.
از طریق ابتکارات مشخص شده در نقشه راه CISA، آژانس امیدوار است که وضعیت امنیت سایبری قوی تری برای کشور ایجاد کند، از زیرساخت های حیاتی در برابر استفاده مخرب هوش مصنوعی محافظت کند، و امنیت را به عنوان یک نیاز تجاری اصلی در ابزارها و سیستم های مبتنی بر هوش مصنوعی در اولویت قرار دهد.
- محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
- PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
- PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
- PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
- PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
- منبع: https://www.darkreading.com/vulnerabilities-threats/cisa-s-ai-road-map-charting-a-course-for-trustworthy-ai-development
- : دارد
- :است
- :نه
- :جایی که
- 10
- 11
- 12
- 14
- ٪۱۰۰
- 17
- 7
- 8
- 9
- a
- بالاتر
- شتاب دادن
- مسئوليت
- رسیدن
- در میان
- انطباق
- اتخاذ
- اتخاذ
- پیشرفته
- در برابر
- سازمان
- نمایندگی
- AI
- مدل های هوش مصنوعی
- خطرات هوش مصنوعی
- سیستم های هوش مصنوعی
- هدف
- اهداف
- تراز
- هم ترازی
- معرفی
- همچنین
- همیشه
- امریکایی
- در میان
- an
- تحلیلی
- و
- و زیرساخت
- مربوط
- روش
- رویکردها
- مناسب
- هستند
- مصنوعی
- هوش مصنوعی
- AS
- جنبه
- ارزیابی
- At
- شرکت کننده
- اطلاع
- BE
- مفید
- بهترین
- بهترین شیوه
- تعصبات
- تقویت کنید
- پهن
- ساختن
- بنا
- بار
- کسب و کار
- اما
- by
- CAN
- قابلیت های
- توانا
- قهرمان
- نمودار
- دایره
- شهروندان
- مدنی
- حقوق شهروندی
- غیر نظامی
- نزدیک
- همکاری
- همکاری
- مشترک
- شرکت
- رفتار
- استوار
- مصرف کنندگان
- مداوم
- به طور مداوم
- هماهنگ
- هماهنگ کردن
- هماهنگی
- هسته
- دوره
- ایجاد
- بحرانی
- زیرساخت های بحرانی
- مشتریان
- سایبر
- امنیت سایبری
- دفاع
- تحویل
- بخش
- اداره امنیت میهن
- گسترش
- طرح
- اصول طراحی
- تشخیص
- مشخص کردن
- توسعه
- توسعه دهندگان
- پروژه
- جهت دار
- افشاء
- راندن
- e
- تعلیم دادن
- تلاش
- سنگ سنباده
- کارکنان
- تشویق
- اجرای
- تعامل
- اطمینان حاصل شود
- تمام
- اشخاص
- خطاهای
- اخلاقی
- ارزیابی
- در حال تحول
- اجرایی
- دستور اجرایی
- تخصص
- کارشناسان
- فدرال
- پنج
- معایب
- برای
- پرورش دادن
- چهار
- چارچوب
- رایگان
- از جانب
- اهداف
- حکومت
- دولت
- سازمان های دولتی
- دولت ها
- گروه ها
- راهنمایی
- بهره برداری
- آیا
- کمک
- کمک می کند
- برجسته
- وطن
- امنیت میهن
- امیدوار
- خانه
- HTTP
- HTTPS
- انسان
- ICON
- شناسایی
- انجام
- پیاده سازی
- اجرا
- بهبود
- in
- حادثه
- پاسخ حادثه
- شامل
- شامل
- به طور فزاینده
- صنعت
- شرکای صنعتی
- اطلاعات
- شالوده
- ابتکارات
- ادغام
- اطلاعات
- قصد دارد
- بین المللی
- شهود
- تحقیقی
- IT
- امنیت آن است
- ITS
- JPG
- قانون
- اجرای قانون
- قوانین
- رهبران
- برجسته
- قانونی
- wifecycwe
- خطوط
- محلی
- حفظ
- ساخت
- مخرب
- مدیریت
- ماموریت ها
- دست کاری
- تولید کنندگان
- نقشه
- مصالح
- ممکن است..
- جلسات
- روش
- ماموریت
- مدل
- بیش
- ملت
- سازمان ملل
- ضروری
- of
- on
- فقط
- تعهد
- or
- سفارش
- سازمان های
- نتایج
- مشخص شده
- روی
- نظارت
- خود
- مالکیت
- شرکت کننده
- شریک
- شرکای
- عبور
- فاز
- برنامه
- برنامه
- افلاطون
- هوش داده افلاطون
- PlatoData
- سیاست
- سیاست
- سیاستگذاران
- در برخواهد داشت
- شیوه های
- از اصول
- اولویت بندی
- اولویت
- خلوت
- خصوصی
- بخش خصوصی
- روند
- فرآیندهای
- خرید
- محصول
- توسعه محصول
- محصولات
- برنامه ها
- ترویج
- محافظت از
- ارائه
- عمومی
- منتشر کردن
- قرار می دهد
- قرار دادن
- رادیکال
- بالا بردن
- محدوده
- نو اموز استخدام کردن
- قرمز
- کاهش
- کاهش
- منتشر شد
- مربوط
- نیاز
- نیاز
- حالت ارتجاعی
- انعطاف پذیر
- پاسخ
- پاسخ
- مسئوليت
- بازبینی
- حقوق
- دقیق
- خطر
- مدیریت ریسک
- خطرات
- جاده
- نقشه راه
- تنومند
- s
- امن
- همان
- بخش
- بخش ها
- امن
- ایمن
- تیم امنیت لاتاری
- آگاهی از امنیت
- انتخاب
- اشتراک گذاری
- اشتراک
- باید
- So
- نرم افزار
- توسعه نرم افزار
- منبع
- جرقه زد
- سهامداران
- استنفورد
- دولت
- اظهار داشت:
- استراتژیک
- استراتژی ها
- تقویت
- تقویت
- قوی
- چنین
- پشتیبانی
- سیستم
- سیستم های
- مصرف
- هدف قرار
- فن آوری
- صنعت فناوری
- فنی
- تکنیک
- پیشرفته
- آزمون
- تست
- که
- La
- منبع
- شان
- این
- تهدید
- تهدید
- از طریق
- سراسر
- زمان
- تیتان
- به
- ابزار
- بالا
- آموزش
- شفافیت
- رفتار
- قبیلهای
- قابل اعتماد
- فهمیدن
- پرده برداری کرد
- us
- استفاده کنید
- با استفاده از
- هوشیاری
- آسیب پذیری
- خوب
- که
- در حین
- چرا
- اراده
- با
- مهاجرت کاری
- نیروی کار
- کارگر
- گروه های کاری
- جهان
- زفیرنت