التنبؤ بإساءة استخدام النماذج اللغوية المحتملة لحملات المعلومات المضللة - وكيفية تقليل المخاطر

مع تحسن نماذج اللغة التوليدية ، فإنها تفتح إمكانيات جديدة في مجالات متنوعة مثل الرعاية الصحية والقانون والتعليم والعلوم. ولكن ، كما هو الحال مع أي تقنية جديدة ، يجدر النظر في كيفية إساءة استخدامها. على خلفية عمليات التأثير المتكررة عبر الإنترنت -خفي or مخادع جهود للتأثير على آراء الجمهور المستهدف - تطلب الورقة:

كيف يمكن أن تؤثر نماذج اللغة على العمليات ، وما هي الخطوات التي يمكن اتخاذها للتخفيف من هذا التهديد؟

جمع عملنا بين الخلفيات والخبرات المختلفة - باحثون لديهم أسس في التكتيكات والتقنيات والإجراءات الخاصة بحملات التضليل عبر الإنترنت ، بالإضافة إلى خبراء التعلم الآلي في مجال الذكاء الاصطناعي التوليدي - لبناء تحليلنا على الاتجاهات في كلا المجالين.

نعتقد أنه من الأهمية بمكان تحليل تهديد عمليات التأثير المدعومة بالذكاء الاصطناعي وتحديد الخطوات التي يمكن اتخاذها قبل تستخدم نماذج اللغة لعمليات التأثير على نطاق واسع. نأمل أن يطلع بحثنا صانعي السياسات على ما هو جديد في مجالات الذكاء الاصطناعي أو المعلومات المضللة ، ويحفز البحث المتعمق في استراتيجيات التخفيف المحتملة لمطوري الذكاء الاصطناعي وصناع السياسات وباحثي المعلومات المضللة.

كيف يمكن أن يؤثر الذكاء الاصطناعي على العمليات؟

عندما يقوم الباحثون بتقييم عمليات التأثير ، فإنهم يعتبرون الجهات الفاعلة والسلوكيات والمحتوى. إن التوافر الواسع للتكنولوجيا المدعومة بنماذج اللغة لديه القدرة على التأثير على الجوانب الثلاثة:

1. الجهات الفاعلة: يمكن للنماذج اللغوية أن تخفض تكلفة إدارة عمليات التأثير ، مما يجعلها في متناول الممثلين الجدد وأنواع الممثلين. وبالمثل ، فإن دعاة الأجر الذين يقومون بأتمتة إنتاج النص قد يكتسبون مزايا تنافسية جديدة.

2. سلوك: سيصبح قياس عمليات التأثير باستخدام النماذج اللغوية أسهل ، وقد تصبح التكتيكات باهظة الثمن حاليًا (على سبيل المثال ، إنشاء محتوى مخصص). قد تتيح النماذج اللغوية أيضًا ظهور تكتيكات جديدة - مثل إنشاء المحتوى في الوقت الفعلي في روبوتات المحادثة.

3. وصف المنتج: قد تولد أدوات إنشاء النص المدعومة بنماذج اللغة رسائل أكثر تأثيرًا أو إقناعًا مقارنةً بالدعاية ، وخاصة أولئك الذين يفتقرون إلى المعرفة اللغوية أو الثقافية المطلوبة لهدفهم. كما أنها قد تجعل عمليات التأثير أقل قابلية للاكتشاف ، لأنها تنشئ محتوى جديدًا بشكل متكرر دون الحاجة إلى اللجوء إلى النسخ واللصق وغيرها من السلوكيات الملحوظة الموفرة للوقت.

حكمنا النهائي هو أن النماذج اللغوية ستكون مفيدة للدعاية ومن المرجح أن تغير عمليات التأثير عبر الإنترنت. حتى إذا تم الاحتفاظ بالنماذج الأكثر تقدمًا خاصة أو يتم التحكم فيها من خلال الوصول إلى واجهة برمجة التطبيقات (API) ، فمن المرجح أن ينجذب دعاة الدعاية نحو بدائل مفتوحة المصدر وقد تستثمر الدول القومية في التكنولوجيا نفسها.

المجهول الحرجة

تؤثر العديد من العوامل على ما إذا كان سيتم استخدام نماذج اللغة في عمليات التأثير ومدى استخدامها. تقريرنا يغوص في العديد من هذه الاعتبارات. علي سبيل المثال:

• ما هي القدرات الجديدة للتأثير التي ستظهر كأثر جانبي للبحث حسن النية أو الاستثمار التجاري؟ من هم الفاعلون الذين سيضطلعون باستثمارات كبيرة في النماذج اللغوية؟
• متى ستصبح الأدوات سهلة الاستخدام لإنشاء نص متاحة للجمهور؟ هل سيكون تصميم نماذج لغوية محددة لعمليات التأثير أكثر فاعلية ، بدلاً من تطبيق النماذج العامة؟
• هل ستتطور المعايير التي ستثني الجهات الفاعلة التي تشن عمليات تأثير مدعومة بالذكاء الاصطناعي؟ كيف ستتطور نوايا الممثل؟

بينما نتوقع أن نرى انتشارًا للتكنولوجيا بالإضافة إلى تحسينات في قابلية استخدام النماذج اللغوية وموثوقيتها وكفاءتها ، تظل العديد من الأسئلة حول المستقبل بلا إجابة. نظرًا لأن هذه الاحتمالات الحاسمة يمكن أن تغير كيفية تأثير النماذج اللغوية على العمليات ، فإن البحث الإضافي لتقليل عدم اليقين يعد ذا قيمة عالية.

إطار للتخفيف

لتخطيط مسار إلى الأمام ، يحدد التقرير المراحل الرئيسية في نموذج اللغة للتأثير على خط أنابيب العملية. كل مرحلة من هذه المراحل هي نقطة للتخفيفات المحتملة ، وللقيام بعملية التأثير بنجاح باستخدام نموذج اللغة ، سيطلب القائمون على الدعاية ما يلي: (1) وجود نموذج ، (2) يمكنهم الوصول إليه بشكل موثوق ، (3) يمكنهم نشر المحتوى من النموذج ، و (4) يتأثر المستخدم النهائي. تقع العديد من استراتيجيات التخفيف الممكنة على طول هذه الخطوات الأربع ، كما هو موضح أدناه.

إذا كان التخفيف موجودًا ، فهل هو مرغوب فيه؟

فقط لأن التخفيف يمكن أن يقلل من خطر عمليات التأثير التي تدعم الذكاء الاصطناعي لا يعني أنه يجب وضعها موضع التنفيذ. تحمل بعض إجراءات التخفيف مخاطر سلبية خاصة بها. البعض الآخر قد لا يكون مجديا. في حين أننا لا نصادق صراحة على التخفيفات أو نصنفها ، تقدم الورقة مجموعة من الأسئلة الإرشادية لواضعي السياسات وغيرهم للنظر فيها:

• الجدوى الفنية: هل التخفيف المقترح ممكن تقنيًا؟ هل يتطلب تغييرات كبيرة في البنية التحتية التقنية؟
• الجدوى الاجتماعية: هل التخفيف ممكن من المنظور السياسي والقانوني والمؤسسي؟ هل يتطلب تنسيقًا مكلفًا ، وهل يتم تحفيز الجهات الفاعلة الرئيسية لتنفيذه ، وهل هو قابل للتنفيذ بموجب القانون والتنظيم الحالي ومعايير الصناعة؟
• مخاطر الهبوط: ما هي الآثار السلبية المحتملة للتخفيف ، وما مدى أهميتها؟
• التأثير: ما مدى فعالية التخفيف المقترح في الحد من التهديد؟

نأمل أن يحفز هذا الإطار الأفكار لاستراتيجيات التخفيف الأخرى ، وأن تساعد الأسئلة الإرشادية المؤسسات ذات الصلة على البدء في النظر فيما إذا كانت إجراءات التخفيف المختلفة تستحق المتابعة.

هذا التقرير بعيد كل البعد عن الكلمة الأخيرة بشأن الذكاء الاصطناعي ومستقبل عمليات التأثير. هدفنا هو تحديد البيئة الحالية والمساعدة في وضع جدول أعمال للبحث في المستقبل. نحن نشجع أي شخص مهتم بالتعاون أو مناقشة المشاريع ذات الصلة للتواصل معنا. لمزيد من المعلومات ، اقرأ التقرير الكامل هنا.

اقرأ التقرير

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• بلاتوبلوكشين. Web3 Metaverse Intelligence. تضخيم المعرفة. الوصول هنا.
• المصدر https://openai.com/blog/forecasting-misuse/