بچوں کی حفاظت کے لیے OpenAI کی وابستگی: ڈیزائن کے اصولوں کے ذریعے حفاظت کو اپنانا

OpenAI، Amazon، Anthropic، Civitai، Google، Meta، Metaphysic، Microsoft، Mistral AI، اور Stability AI سمیت صنعت کے رہنماؤں کے ساتھ، نے جنریٹیو AI ٹیکنالوجیز کی ترقی، تعیناتی، اور دیکھ بھال میں چائلڈ سیفٹی کے مضبوط اقدامات کو نافذ کرنے کا عہد کیا ہے جیسا کہ اس میں بیان کیا گیا ہے۔ ڈیزائن کے اصولوں کی طرف سے حفاظت. کی قیادت میں یہ اقدام کانٹا، بچوں کو جنسی استحصال سے بچانے کے لیے وقف ایک غیر منفعتی، اور تمام ٹیک انسانی ہے۔، ایک تنظیم جو ٹیک اور معاشرے کے پیچیدہ مسائل سے نمٹنے کے لیے وقف ہے، اس کا مقصد AI سے بچوں کو لاحق خطرات کو کم کرنا ہے۔ ڈیزائن کے اصولوں کے ذریعے جامع حفاظت کو اپناتے ہوئے، OpenAI اور ہمارے ساتھی اس بات کو یقینی بنا رہے ہیں کہ AI کی ترقی کے ہر مرحلے پر بچوں کی حفاظت کو ترجیح دی جائے۔ آج تک، ہم نے اپنے ماڈلز کے بچوں کو نقصان پہنچانے والا مواد تیار کرنے کی صلاحیت کو کم کرنے، ChatGPT کے لیے عمر کی پابندیاں مقرر کرنے، اور نیشنل سینٹر فار مسنگ اینڈ ایکسپلوئٹڈ چلڈرن (NCMEC)، ٹیک کولیشن، اور دیگر حکومتوں کے ساتھ فعال طور پر مشغول ہونے کی اہم کوشش کی ہے۔ اور صنعت کے اسٹیک ہولڈرز بچوں کے تحفظ کے مسائل اور رپورٹنگ کے طریقہ کار میں اضافہ۔ 

ڈیزائن کی کوشش کے ذریعے اس حفاظت کے حصے کے طور پر، ہم عہد کرتے ہیں:

1. تیار کریں: تخلیقی AI ماڈلز تیار کریں، بنائیں اور ان کی تربیت کریں۔
   جو بچوں کی حفاظت کے خطرات کو فعال طور پر حل کرتی ہے۔
   • ذمہ داری سے ہمارے تربیتی ڈیٹاسیٹس کا ذریعہ بنائیں، بچوں کے جنسی تعلقات کا پتہ لگائیں اور اسے ہٹا دیں۔
     بدسلوکی کا مواد (CSAM) اور بچوں کے جنسی استحصال کے مواد (CSEM) سے
     تربیتی ڈیٹا، اور کسی بھی تصدیق شدہ CSAM کی اطلاع متعلقہ کو دیں۔
     حکام
   • میں فیڈ بیک لوپس اور تکراری تناؤ کی جانچ کی حکمت عملیوں کو شامل کریں۔
     ہماری ترقی کے عمل.
   • مخالفانہ غلط استعمال سے نمٹنے کے لیے حل تعینات کریں۔
2. تعینات: اس کے بعد جنریٹو AI ماڈلز جاری اور تقسیم کریں۔
   انہیں تحفظ فراہم کرتے ہوئے بچوں کی حفاظت کے لیے تربیت دی گئی ہے اور ان کا جائزہ لیا گیا ہے۔
   پورے عمل میں
   • بدسلوکی والے مواد اور طرز عمل کا مقابلہ کریں اور اس کا جواب دیں، اور شامل کریں۔
     روک تھام کی کوششیں.
   • ڈیزائن کے لحاظ سے حفاظت میں ڈویلپر کی ملکیت کی حوصلہ افزائی کریں۔
3. برقرار رکھنا: جاری رکھ کر ماڈل اور پلیٹ فارم کی حفاظت کو برقرار رکھیں
   بچوں کی حفاظت کے خطرات کو فعال طور پر سمجھنے اور ان کا جواب دینے کے لیے۔
   • ہمارے سے برے اداکاروں کے ذریعہ تیار کردہ نئے AIG-CSAM کو ہٹانے کے لئے پرعزم
     پلیٹ فارم پر پن بار کینڈلز اور سپورٹ/ مزاحمت کا استعمال کرتے ہوئے رحجان پلٹنے کی تجارت کے متعلق بیان کرتی ہے۔  
   • تحقیق اور مستقبل کے ٹیکنالوجی کے حل میں سرمایہ کاری کریں۔
   • ہمارے پلیٹ فارمز پر CSAM، AIG-CSAM اور CSEM سے لڑیں۔

یہ عزم بچوں کے ساتھ جنسی زیادتی کے مواد (AIG-CSAM) اور بچوں کے خلاف جنسی نقصان کی دیگر اقسام بنانے یا پھیلانے کے لیے AI ٹیکنالوجیز کے غلط استعمال کو روکنے کے لیے ایک اہم قدم کی نشاندہی کرتا ہے۔ ورکنگ گروپ کے ایک حصے کے طور پر، ہم نے ہر سال پیش رفت کی تازہ کاری جاری کرنے پر بھی اتفاق کیا ہے۔