OpenAI تنشئ فريق الاستعداد لمعالجة المخاطر الكارثية للذكاء الاصطناعي

OpenAI، المشهورة بأبحاثها المتقدمة في مجال الذكاء الاصطناعي وإنشاء نماذج مثل شات جي بي تي, كشف النقاب مبادرة جديدة في 25 أكتوبر 2023 تستهدف معالجة العديد من المخاطر المرتبطة بتقنيات الذكاء الاصطناعي. وتبشر المبادرة بتشكيل فريق متخصص تحت اسم "الجاهزية"، يختص برصد وتقييم وتوقع وتخفيف المخاطر الكارثية الناجمة عن تطورات الذكاء الاصطناعي. وتأتي هذه الخطوة الاستباقية وسط قلق عالمي متزايد بشأن المخاطر المحتملة المتشابكة مع قدرات الذكاء الاصطناعي المزدهرة.

الكشف عن مبادرة الاستعداد

تحت قيادة ألكسندر مادري، سيركز فريق الاستعداد على مجموعة واسعة من المخاطر التي قد تشكلها نماذج الذكاء الاصطناعي الرائدة، تلك التي تتجاوز قدرات النماذج الرائدة الحالية. تدور المهمة الأساسية حول تطوير أطر عمل قوية للمراقبة والتقييم والتنبؤ والحماية من القدرات الخطيرة المحتملة لأنظمة الذكاء الاصطناعي الحدودية هذه. تؤكد المبادرة على ضرورة فهم وبناء البنية التحتية اللازمة لضمان سلامة أنظمة الذكاء الاصطناعي ذات القدرة العالية.

تشمل مجالات التركيز المحددة التهديدات الناجمة عن الإقناع الفردي، والأمن السيبراني، والتهديدات الكيميائية والبيولوجية والإشعاعية والنووية (CBRN)، إلى جانب التكرار والتكيف المستقل (ARA). علاوة على ذلك، تهدف المبادرة إلى معالجة الأسئلة الحاسمة المتعلقة بإساءة استخدام أنظمة الذكاء الاصطناعي الحدودية والاستغلال المحتمل لأوزان نماذج الذكاء الاصطناعي المسروقة من قبل الكيانات الضارة.

سياسة التنمية الواعية بالمخاطر

إن صياغة سياسة إنمائية واعية بالمخاطر (RDP) جزء لا يتجزأ من مبادرة الاستعداد. سوف تحدد خطة RDP التقييمات الصارمة، وإجراءات المراقبة، ومجموعة من التدابير الوقائية لقدرة النموذج الحدودي، وإنشاء هيكل حوكمة للمساءلة والرقابة طوال عملية التطوير. ستعمل هذه السياسة على تعزيز جهود OpenAI الحالية لتخفيف المخاطر، مما يساهم في سلامة ومواءمة أنظمة الذكاء الاصطناعي الجديدة ذات القدرة العالية قبل النشر وبعده.

إشراك المجتمع العالمي

وفي محاولة للكشف عن المخاوف الأقل وضوحًا وجذب المواهب، أطلقت OpenAI أيضًا تحدي الاستعداد للذكاء الاصطناعي. يعد التحدي، الذي يهدف إلى منع سوء الاستخدام الكارثي لتكنولوجيا الذكاء الاصطناعي، بمبلغ 25,000 دولار أمريكي من أرصدة واجهة برمجة التطبيقات (API) لما يصل إلى 10 عمليات تقديم نموذجية. إنها جزء من حملة توظيف أوسع لفريق الاستعداد، الذي يبحث عن مواهب استثنائية من مجالات تقنية متنوعة للمساهمة في سلامة نماذج الذكاء الاصطناعي الرائدة.

بالإضافة إلى ذلك، تأتي هذه المبادرة في أعقاب الالتزام الطوعي الذي تعهدت به OpenAI في يوليو، جنبًا إلى جنب مع مختبرات الذكاء الاصطناعي الأخرى، لتعزيز السلامة والأمن والثقة في الذكاء الاصطناعي، وهو ما يتردد صداه مع النقاط المحورية في قمة سلامة الذكاء الاصطناعي في المملكة المتحدة.

المخاوف المتزايدة والمبادرات السابقة

إن تشكيل فريق الاستعداد ليس خطوة معزولة. ويعود ذلك إلى التأكيدات السابقة التي أصدرتها شركة OpenAI، فيما يتعلق بتشكيل فرق مخصصة لمواجهة التحديات التي يسببها الذكاء الاصطناعي. يصاحب هذا الاعتراف بالمخاطر المحتملة سرد أوسع، بما في ذلك رسالة مفتوحة نشرها مركز سلامة الذكاء الاصطناعي في مايو 2023، تحث المجتمع على إعطاء الأولوية للتخفيف من التهديدات على مستوى انقراض الذكاء الاصطناعي إلى جانب المخاطر الوجودية العالمية الأخرى.

مصدر الصورة: Shutterstock

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
• أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
• أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
• أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
• المصدر https://Blockchain.News/news/openai-initiates-preparedness-team-to-address-ai-catastrophic-risks