أنشأت Anthropic روبوت محادثة ديمقراطي يعمل بالذكاء الاصطناعي من خلال السماح للمستخدمين باختيار مبادئه.

في استكشاف رائد لقدرات الذكاء الاصطناعي، قامت شركة Anthropic، وهي شركة ذكاء اصطناعي (AI)، بتصميم نموذج لغة كبير (LLM) ليعكس القيم المحددة من قبل المستخدم. تضمنت هذه الدراسة الفريدة جمع مدخلات من 1,000 مشارك لضبط استجابات LLM بناءً على أحكامهم الجماعية.

على عكس ماجستير إدارة الأعمال التقليدي المجهز بدرابزين محدد مسبقًا لتقييد مخرجات معينة، فإن منهج Anthropic يحتضن وكالة المستخدم. غالبًا ما تلتزم نماذج مثل Claude من Anthropic وChatGPT من OpenAI باستجابات السلامة المحددة مسبقًا، خاصة فيما يتعلق بالموضوعات الحساسة. ومع ذلك، يرى النقاد أن مثل هذه التدخلات قد تهدد استقلالية المستخدم، حيث يختلف تعريف المقبولية ويكون ذاتيًا عبر الثقافات والفترات الزمنية.

يتمثل الحل المحتمل لهذا التحدي المعقد في تمكين المستخدمين من تشكيل توافق القيمة لنماذج الذكاء الاصطناعي. شرعت أنثروبيك في تجربة "الذكاء الاصطناعي الدستوري الجماعي" بالتعاون مع بوليس ومشروع الذكاء الجماعي. ومن خلال إشراك 1,000 مستخدم من خلفيات متنوعة، قاموا بطرح سلسلة من الأسئلة من خلال الاقتراع لجمع رؤى قيمة.

وتدور التجربة حول منح المستخدمين صلاحية تحديد مدى الملاءمة دون تعريضهم لمخرجات غير مرغوب فيها. تضمنت هذه العملية استنباط قيم المستخدم ودمجها في نموذج تم تدريبه مسبقًا. تستخدم أنثروبك تقنية تُعرف باسم "الذكاء الاصطناعي الدستوري"، حيث يتم تزويد النموذج بمجموعة من القواعد التي يجب اتباعها، على غرار الدستور الذي يوجه الحكم في الدول.

في تجربة الذكاء الاصطناعي الدستوري الجماعي، هدفت أنثروبيك إلى دمج التعليقات الواردة من مجموعات المستخدمين في دستور النموذج. وفقًا لمدونة Anthropic، تشير النتائج إلى نجاح علمي، وتسليط الضوء على التحديات المرتبطة بالسماح للمستخدمين بتحديد قيم منتج LLM بشكل جماعي.

كانت إحدى العقبات الملحوظة التي واجهها الفريق هي تطوير عملية قياس جديدة. ونظرًا لطبيعة التجربة الرائدة واعتمادها على منهجية الذكاء الاصطناعي الدستورية الخاصة بشركة أنثروبك، لا يوجد اختبار ثابت لمقارنة النماذج الأساسية مع تلك التي تم ضبطها بدقة باستخدام قيم المصادر الجماعية.

في النهاية، يبدو أن النموذج الذي يتضمن البيانات المستمدة من تعليقات استطلاعات المستخدمين أظهر تحسنًا "طفيفًا" مقارنة بالنموذج الأساسي في تخفيف النتائج المتحيزة. يعبر الأنثروبي عن الإثارة ليس فقط حول النموذج الناتج، ولكن الأهم من ذلك، حول العملية الرائدة نفسها. تمثل هذه التجربة إحدى الحالات الأولية التي أثر فيها الجمهور، كمجموعة، عمدًا على سلوك نموذج لغوي كبير. والأمل هو أن تعتمد المجتمعات على مستوى العالم على مثل هذه التقنيات لتطوير نماذج تتوافق مع احتياجاتها الثقافية والسياقية المحددة.