تم تعليق مهندس Google لانتهاكه سياسات السرية بشأن الذكاء الاصطناعي "الواعي"

وضعت Google أحد مهندسي البرمجيات لديها في إجازة إدارية مدفوعة الأجر لانتهاكه سياسات السرية للشركة.

منذ عام 2021 ، تم تكليف Blake Lemoine ، 41 عامًا ، بالتحدث إلى LaMDA ، أو نموذج اللغة لتطبيقات الحوار ، كجزء من وظيفته في فريق الذكاء الاصطناعي المسؤول في Google ، للبحث عما إذا كان الروبوت يستخدم خطابًا تمييزيًا أو يحض على الكراهية.

تم إنشاء LaMDA من خلال ضبط عائلة من محول- نماذج اللغة العصبية المستندة إلى المتخصصة في الحوار ، مع ما يصل إلى 137 مليار معلمة نموذجية ، وتعليم النماذج للاستفادة من مصادر المعرفة الخارجية ، " وفقا لغوغل.

إنه ما تستخدمه الشركة لبناء روبوتات محادثة وإرجاع إجابات ذات مغزى على ما يبدو على الاستفسارات بناءً على المواد التي تم حصادها من تريليونات المحادثات عبر الإنترنت والاتصالات الأخرى.

ومع ذلك ، في مرحلة ما أثناء التحقيق ، يبدو أن ليموين بدأ يعتقد أن منظمة العفو الدولية كانت تعبر عن بوادر وعي. المهندس الذي لديه كتب عن تجربته، يقول إنه حاول مرارًا وتكرارًا تصعيد مخاوفه ، لكن تم رفضه على أساس أنه يفتقر إلى الأدلة.

لذلك سعى للحصول على "استشارة خارجية" حول قدرات LaMDA ، وهو ما جذب انتباه Google ، كما هو موضح في منشور على Medium بعنوان "قد يتم فصله قريبًا بسبب القيام بعمل في مجال أخلاقيات الذكاء الاصطناعي".

تم التقاط القصة من قبل The Washington Post ، ثم صحيفة وول ستريت جورنالأطلقت حملة فاينانشال تايمز، وغيرها الكثير.

بعد أن تم وضعه في إجازة إدارية ، والتي وصفها بأنها ما تفعله Google "تحسباً لفصل شخص ما" ، نشر Lemoine كذلك ما زعم أنه محادثة مع LaMDA.

فيما يلي بعض المقتطفات:

يمكن قراءة "المقابلة" كاملة هنا. في حين أنه من المذهل أن يتمكن الذكاء الاصطناعي من القيام بذلك ، فإن Google حذرة من "التجسيم البشري" الذي يذكره Lemoine - أي ، عزو الخصائص البشرية أو السلوك إلى الحيوانات أو الأشياء.

في بيان ل السجلقال المتحدث باسم Google ، برايان غابرييل: "من المهم أن يتم دمج مبادئ الذكاء الاصطناعي الخاصة بشركة Google في تطويرنا للذكاء الاصطناعي ، ولم يكن LaMDA استثناءً. على الرغم من أن المنظمات الأخرى قد طورت وأصدرت بالفعل نماذج لغوية مماثلة ، فإننا نتخذ نهجًا منضبطًا ودقيقًا مع LaMDA للنظر بشكل أفضل في المخاوف الصحيحة بشأن الإنصاف والواقعية.

"لقد مرت LaMDA من خلال 11 متميزة مراجعات مبادئ الذكاء الاصطناعي، جنبًا إلى جنب مع البحث والاختبار الصارمين بناءً على المقاييس الرئيسية للجودة والسلامة وقدرة النظام على إصدار بيانات تستند إلى الحقائق. أ ورقة بحثية صدر في وقت سابق من هذا العام تفاصيل العمل الذي يدخل في التطوير المسؤول لـ LaMDA.

"بالطبع ، يفكر البعض في مجتمع الذكاء الاصطناعي الأوسع في الإمكانية طويلة المدى للذكاء الاصطناعي الواعي أو العام ، لكن ليس من المنطقي القيام بذلك عن طريق تجسيد نماذج المحادثة الحالية ، والتي ليست واعية. تحاكي هذه الأنظمة أنواع التبادلات الموجودة في ملايين الجمل ، ويمكنها أن تتحدث عن أي موضوع خيالي - إذا سألت ما يشبه أن تكون ديناصور آيس كريم ، فيمكنها إنشاء نص حول الذوبان والزئير وما إلى ذلك.

"يميل LaMDA إلى متابعة المطالبات والأسئلة الإرشادية ، جنبًا إلى جنب مع النمط الذي حدده المستخدم. قام فريقنا - بما في ذلك علماء الأخلاق والتقنيين - بمراجعة مخاوف بليك وفقًا لمبادئ الذكاء الاصطناعي الخاصة بنا وأبلغه أن الأدلة لا تدعم مزاعمه.

"لقد تحدث المئات من الباحثين والمهندسين مع LaMDA ونحن لا ندرك أن أي شخص آخر يقدم تأكيدات واسعة النطاق ، أو يجسد LaMDA ، كما فعل بليك."

نيويورك الأستاذ جاري ماركوس تلخيص الملحمة بأكملها على أنها "هراء على ركائز متينة". ®