OpenAI تیم آمادگی را برای مقابله با خطرات فاجعه آمیز هوش مصنوعی آغاز می کند

بازنشر افلاطون

دنبال: 0

OpenAI تیم آمادگی را برای مقابله با خطرات فاجعه آمیز هوش مصنوعی به هوش داده پلاتو بلاک چین آغاز می کند. جستجوی عمودی Ai.

OpenAI، به دلیل تحقیقات پیشرفته هوش مصنوعی و ایجاد مدل هایی مانند GPT چت, پرده برداری کرد یک ابتکار جدید در 25 اکتبر 2023، با هدف رسیدگی به انبوهی از خطرات مرتبط با فناوری‌های هوش مصنوعی. این ابتکار منادی تشکیل یک تیم تخصصی به نام «آمادگی» است که به نظارت، ارزیابی، پیش‌بینی و کاهش خطرات فاجعه‌بار ناشی از پیشرفت‌های هوش مصنوعی اختصاص دارد. این گام پیشگیرانه در بحبوحه نگرانی فزاینده جهانی در مورد خطرات بالقوه در هم تنیده با قابلیت های رو به رشد هوش مصنوعی انجام می شود.

رونمایی از ابتکار آمادگی

تحت رهبری الکساندر مادری، تیم آمادگی بر روی طیف وسیعی از خطراتی تمرکز خواهد کرد که مدل‌های هوش مصنوعی مرزی، آنهایی که از قابلیت‌های مدل‌های پیشرو فعلی پیشی می‌گیرند، ممکن است ایجاد کنند. ماموریت اصلی حول محور توسعه چارچوب‌های قوی برای نظارت، ارزیابی، پیش‌بینی و محافظت در برابر قابلیت‌های بالقوه خطرناک این سیستم‌های هوش مصنوعی مرزی می‌چرخد. این ابتکار بر ضرورت درک و ساخت زیرساخت‌های لازم برای تضمین ایمنی سیستم‌های هوش مصنوعی بسیار توانمند تأکید می‌کند.

حوزه‌های خاص تمرکز شامل تهدیدات ناشی از متقاعدسازی فردی، امنیت سایبری، تهدیدات شیمیایی، بیولوژیکی، رادیولوژیکی و هسته‌ای (CBRN)، همراه با تکرار و سازگاری مستقل (ARA) است. علاوه بر این، این ابتکار با هدف مقابله با سوالات مهم در مورد سوء استفاده از سیستم‌های هوش مصنوعی مرزی و بهره‌برداری بالقوه از وزن مدل‌های هوش مصنوعی به سرقت رفته توسط نهادهای مخرب است.

سیاست توسعه مبتنی بر ریسک

جزء لاینفک ابتکار آمادگی، ایجاد یک سیاست توسعه مبتنی بر ریسک (RDP) است. RDP ارزیابی‌های دقیق، رویه‌های نظارت، و طیف وسیعی از اقدامات حفاظتی را برای قابلیت مدل مرزی ترسیم می‌کند و یک ساختار حاکمیتی برای پاسخگویی و نظارت در سراسر فرآیند توسعه ایجاد می‌کند. این سیاست تلاش‌های کاهش ریسک موجود OpenAI را تقویت می‌کند و به ایمنی و همسویی سیستم‌های هوش مصنوعی جدید و بسیار توانمند قبل و بعد از استقرار کمک می‌کند.

تعامل با جامعه جهانی

در تلاش برای کشف نگرانی های کمتر آشکار و جذب استعدادها، OpenAI همچنین یک چالش آمادگی هوش مصنوعی را راه اندازی کرده است. این چالش با هدف جلوگیری از سوء استفاده فاجعه آمیز از فناوری هوش مصنوعی، 25,000 دلار اعتبار API برای حداکثر 10 ارسال نمونه را وعده می دهد. این بخشی از یک انگیزه استخدام گسترده‌تر برای تیم آمادگی است که به دنبال استعدادهای استثنایی از حوزه‌های فنی مختلف برای کمک به ایمنی مدل‌های هوش مصنوعی مرزی است.

علاوه بر این، این ابتکار به دنبال تعهد داوطلبانه ای است که در ماه ژوئیه توسط OpenAI، در کنار سایر آزمایشگاه های هوش مصنوعی، برای تقویت ایمنی، امنیت و اعتماد به هوش مصنوعی، که با نقاط کانونی اجلاس ایمنی هوش مصنوعی بریتانیا انجام شد.

نگرانی های رو به رشد و ابتکارات قبلی

آغاز به کار تیم آمادگی یک حرکت منفرد نیست. این به تأییدات قبلی OpenAI در مورد تشکیل تیم‌های اختصاصی برای مقابله با چالش‌های ناشی از هوش مصنوعی برمی‌گردد. این تصدیق خطرات بالقوه با روایت گسترده‌تری همراه است، از جمله نامه سرگشاده‌ای که در ماه مه 2023 توسط مرکز ایمنی هوش مصنوعی منتشر شد و از جامعه می‌خواهد که کاهش تهدیدات در سطح انقراض هوش مصنوعی را در کنار سایر خطرات وجودی جهانی در اولویت قرار دهد.

منبع تصویر: Shutterstock