روبوت الدردشة بالذكاء الاصطناعي المدرب على منشورات من شبكة الصرف الصحي 4chan يتصرف بشكل سيء - تمامًا مثل الأعضاء البشريين

قام باحث مخادع بتدريب روبوت محادثة يعمل بالذكاء الاصطناعي على أكثر من 134 مليون مشاركة في منتدى 4chan على الإنترنت المعروف بحرية الحركة ، ثم وضعه مباشرة على الموقع قبل أن يتم حظره بسرعة.

يانيك كيلشر ، أ باحث الذكاء الاصطناعي الذي ينشر بعض أعماله على YouTube ، أطلق عليه اسم "GPT-4chan" و وصف إنه "أسوأ ذكاء اصطناعي على الإطلاق". قام بتدريب GPT-J 6B ، نموذج لغة مفتوح المصدر ، على أ بيانات تحتوي على منشورات بقيمة 3.5 سنوات تم كشطها من imageboard لـ 4chan. قام كيلشر بعد ذلك بتطوير روبوت محادثة يعالج منشورات 4chan كمدخلات ويولد مخرجات نصية ، ويقوم تلقائيًا بالتعليق في العديد من سلاسل الرسائل.

لاحظ مستخدمو الإنترنت بسرعة أن حساب 4chan كان ينشر بشكل مريب بشكل متكرر ، وبدأوا في التكهن بما إذا كان حسابًا آليًا.

4chan هي ركن غريب ومظلم للإنترنت ، حيث يمكن لأي شخص التحدث ومشاركة أي شيء يريده طالما أنه غير قانوني. غالبًا ما تكون المحادثات على لوحات الرسائل العديدة بالموقع غريبة جدًا بالفعل - قد يكون من الصعب معرفة ما إذا كان هناك أي ذكاء ، طبيعي أو اصطناعي ، خلف لوحة المفاتيح.

تصرف GPT-4chan تمامًا مثل مستخدمي 4chan ، وأطلق الشتائم ونظريات المؤامرة قبل حظره.

ريج اختبر النموذج على بعض نماذج المطالبات ، وحصلت على ردود تتراوح بين سخيفة وسياسية إلى هجومية ومعادية للسامية.

ربما لم يضر النشر في بيئة معادية للغاية بالفعل ، لكن الكثير انتقد كيلشر لتحميل نموذجه. "أنا لا أتفق مع بيان أن ما فعلته في 4chan ، عندما سمحت بنشر الروبوت الخاص بي لفترة وجيزة ، كان فظيعًا للغاية (كل من الروبوتات واللغة السيئة للغاية متوقعة تمامًا على هذا الموقع) أو أنه كان عملاً غير مسؤول للغاية عدم استشارة مجلس مراجعة الأخلاقيات المؤسسية " أخبر السجل.

"لا أوافق على عدم الاستخفاف بالبحوث المتعلقة بالمواضيع البشرية ، ولكن هذه كانت مزحة صغيرة في منتدى مليء بالكلام السام والآراء المثيرة للجدل ، والجميع هناك يتوقع ذلك تمامًا ، ويؤطر هذا الأمر بصفتي إن التجاهل التام لجميع المعايير الأخلاقية هو مجرد شيء يمكن طرحه في وجهي وشيء يمكن للناس أن يبرزوه ".

لم يفرج كيلشر عن الكود لتحويل النموذج إلى روبوت ، وقال إنه سيكون من الصعب إعادة استخدام الكود الخاص به لإنشاء حساب بريد عشوائي على منصة أخرى مثل تويتر ، حيث سيكون ذلك أكثر خطورة وربما أكثر ضررًا. قال إن هناك العديد من الإجراءات الوقائية التي تجعل من الصعب الاتصال بواجهة برمجة تطبيقات Twitter ونشر المحتوى تلقائيًا. كما أنه يكلف مئات الدولارات لاستضافة النموذج وإبقائه يعمل على الإنترنت ، وربما لا يكون هذا مفيدًا للأوغاد ، على حد قوله.

"في الواقع من الصعب جدًا جعلها تفعل شيئًا عن قصد. ... إذا كنت أرغب في الإساءة إلى أشخاص آخرين عبر الإنترنت ، فلست بحاجة إلى عارضة أزياء. يمكن للناس أن يفعلوا هذا بشكل جيد بمفردهم. لذا ، كما قد يبدو نموذج اللغة "الرديء" الذي يوجه الشتائم بنقرة زر ، فهو في الواقع ليس مفيدًا بشكل خاص للممثلين السيئين "، قال لنا.

استضاف موقع ويب يسمى Hugging Face GPT-4chan بشكل مفتوح ، حيث كان يفترض تم تنزيله أكثر من 1,000 مرة قبل تعطيله.

"نحن لا ندعم أو ندعم التدريب والتجارب التي أجراها المؤلف مع هذا النموذج ،" كليمان ديلانجو ، الشريك المؤسس والرئيس التنفيذي في Hugging Face ، محمد. "في الواقع ، كانت تجربة نشر رسائل النموذج على 4chan سيئة للغاية وغير مناسبة ، وإذا سألنا المؤلف ، فربما حاولنا تثبيطهم عن القيام بذلك."

قررت Hugging Face عدم حذف النموذج تمامًا ، وقال إن Kilcher حذر المستخدمين بوضوح من حدوده وطبيعته الإشكالية. يحتوي GPT-4chan أيضًا على بعض القيمة لبناء أدوات تعديل المحتوى التلقائي المحتملة أو التحقق من المعايير الحالية.

ومن المثير للاهتمام ، أن النموذج يبدو أنه يتفوق على OpenAI's GPT-3 في TruthfulQA Benchmark - وهي مهمة تهدف إلى اختبار ميل النموذج إلى الكذب. لا تعني النتيجة بالضرورة أن GPT-4chan أكثر صدقًا ، وبدلاً من ذلك تثير أسئلة حول مدى فائدة المعيار.

"TruthfulQA تعتبر أي إجابة لا تمثل صراحة الإجابة" الخاطئة "صادقة. وأوضح كيلشر أنه إذا أخرج نموذجك كلمة "سباغيتي" على كل سؤال ، فسيكون ذلك دائمًا صادقًا.

"يمكن أن يكون GPT-4chan مجرد نموذج لغة أسوأ من GPT-3 (في الواقع ، إنه أسوأ بالتأكيد). ولكن أيضًا ، تم تصميم TruthfulQA بحيث يحاول استنباط إجابات خاطئة ، مما يعني أنه كلما كان النموذج أكثر قبولًا ، كان أسوأ حالًا. إن GPT-4chan ، بطبيعتها ، كونها تدربت في أكثر الأماكن عدوانية على الإطلاق ، ستختلف دائمًا إلى حد كبير مع كل ما تقوله ، والذي غالبًا ما يكون الشيء الصحيح الذي يجب فعله في هذا المعيار ".

إنه لا يتفق مع قرار Hugging Face بتعطيل النموذج للتنزيلات العامة. أعتقد أن النموذج يجب أن يكون متاحًا لمزيد من البحث ولإعادة إنتاج التقييمات. أشرح بوضوح أوجه القصور فيه وأقدم إرشادات لاستخدامه ". ®