لا ، لا يفهم DALL · E 2 الخاص بصناعة الصور من OpenAI بعض اللغات السرية لـ PlatoBlockchain Data Intelligence. البحث العمودي. عاي.

لا ، لا يفهم DALL · E 2 الذي صممه OpenAI بعض اللغات السرية

الطابع الزمني: 7 حزيران (يونيو) 2022 ، الساعة 2:30 صباحًا

باختصار نماذج إنشاء تحويل النص إلى صورة بالذكاء الاصطناعي هي الأكثر انتشارًا في الوقت الحالي. أنت تعطيهم وصفًا بسيطًا لمشهد ما ، مثل "نسر يكتب على جهاز كمبيوتر محمول" ، ويخرجون برسم توضيحي يشبه هذا الوصف.

هذه هي النظرية على أي حال. لكن المطورين الذين لديهم وصول خاص إلى محرك تحويل النص إلى صورة DALL · E 2 من OpenAI وجدوا جميع أنواع السلوكيات الغريبة - بما في ذلك ما قد يكون لغة مخفية ومختلقة.

شارك جيانيس داراس ، طالب دكتوراه في جامعة تكساس في أوستن ، الأعمال الفنية التي أنتجها DALL · E 2 نظرًا للمدخلات: "Apoploe vesrreaitais يأكل Contarra ccetnxniams luryca tanniounons" - عبارة لا معنى لها للبشر. ولكن بالنسبة للآلة ، يبدو أنها تولد صورًا لطيور تأكل الحشرات باستمرار. قدم داراس المطالبة التالية:

قال طالب الدكتوراه إن الأمثلة أظهرت أن DALL · E 2 لديه فهم لبعض اللغات الغامضة ، والتي تعني فيها "Apoploe vesrreaitais" الطيور و "Contarra ccetnxnxniams luryca tanniounons" تعني الحشرات أو الآفات ، على ما يبدو. لكن باحثًا آخر يُدعى بنجامين هيلتون اختبر ادعاءات داراس ، مضيفًا عبارة "عرض ثلاثي الأبعاد" إلى نفس موجه الإدخال. بدلاً من مجرد الطيور التي تأكل الحشرات ، حصلت هيلتون على صور "لأشياء ذات صلة بالبحر". أنتج الأمر الفوري "Contarra ccetnxniams luryca tanniounons" من تلقاء نفسه أيضًا صورًا لحيوانات عشوائية وليس حشرات:

التغيير والتبديل في المدخلات عن طريق إضافة كلمات عشوائية إلى موجه "Apoploe vesrreaitais الأكل Contarra ccetnxniams luryca tanniounons" الأصلي يجعل DALL · E 2 ينتج صورًا غريبة للجدات أو الخنافس أو الخضار. تعتقد هيلتون أنها تُظهر أن النموذج لا يمتلك فهمًا سريًا لبعض اللغات غير المعروفة ، ولكنه يوضح بدلاً من ذلك الطبيعة العشوائية للذكاء الاصطناعي. لماذا بالضبط يربط DALL · E 2 تلك الصور بالمدخلات الهثرية يظل غير واضح.

يسقط أوريغون خوارزمية رعاية الطفل

دفعت التقارير عن خوارزمية متحيزة عنصريًا تُستخدم لمساعدة الأخصائيين الاجتماعيين في تقرير ما إذا كان يجب التحقيق مع العائلات بسبب إهمال الأطفال ، مما دفع المسؤولين في ولاية أوريغون إلى التخلي عن أداة مماثلة استخدموها منذ عام 2018.

تحقيق الصمام من قبل وكالة أسوشيتد برس وجدت أن أداة الفرز الآلي المستخدمة في مقاطعة أليغيني ، بنسلفانيا ، كانت أكثر عرضة للتوصية بالأطفال السود لإجراء تحقيقات الإهمال "الإلزامية" من الأطفال البيض. استخدم العاملون في رعاية الأطفال في ولاية أوريغون برنامجًا مشابهًا لحساب درجات المخاطر للعائلات المختلفة ، حيث تشير الدرجات الأعلى إلى أن الآباء أو الأوصياء كانوا أكثر عرضة للتدقيق لإهمالهم أطفالهم. 

لكن المسؤولين قرروا الآن الغاء الأداة ، وسيتوقفون عن استخدامها بنهاية الشهر الجاري. جيك سندرلاند ، المتحدث باسم إدارة الخدمات الإنسانية في ولاية أوريغون ، قال AP الخوارزمية "لم تعد ضرورية". ولم يوضح سبب إسقاطها. 

ومع ذلك ، لن تتخلص ولاية أوريغون تمامًا من أدوات الفحص الآلي. سيتم استبدال الخوارزمية الحالية بخوارزمية أخرى تسمى نموذج اتخاذ القرار المنظم. هناك أداة أخرى تساعد في تحديد ما إذا كان ينبغي لم شمل الأطفال بالتبني بأسرهم والتي تم إيقافها مؤقتًا. 

نائب رئيس Meta للذكاء الاصطناعي يغادر

ترك نائب رئيس Meta للذكاء الاصطناعي دوره في قيادة فريق أبحاث التعلم الآلي لشركة Zuck & Co. ، FAIR ، حيث تقوم المؤسسة بإعادة تشكيل الفرق الداخلية. 

بعد العمل في مجال وسائل التواصل الاجتماعي لأكثر من أربع سنوات ، سيخرج جيروم بيسنتي في منتصف يونيو. "نحن ممتنون للعمل المذهل الذي قام به جيروم على مدار السنوات الأربع الماضية في بناء وقيادة وتوسيع نطاق وظيفة ذكاء اصطناعي عالمية المستوى لميتا" ، أندرو بوسورث ، كبير موظفي التكنولوجيا في الشركة ، محمد في إعلان هذا الأسبوع. 

"ستستمر FAIR في الحصول على قيادة قوية بشكل لا يصدق مع جويل بينو وأنطوان بورديس ويان ليكون."

كجزء من التعديل الوزاري ، تقوم Meta بتفكيك الفرق في FAIR حتى يتمكنوا من الانضمام إلى الأقسام الأخرى في جانب المنتج من العمل. على سبيل المثال ، سيتم دمج وحدة الذكاء الاصطناعي المسؤولة تحت فريق التأثير الاجتماعي ، وسينضم فريق AI4AR إلى فريق XR في Reality Labs.

"تقترب المناهج الأكثر مركزية من حدودها عندما يثبت أن الميل الأخير بعيد جدًا بالنسبة لفرق المصب لسد الفجوة. مع هذا الهيكل الجديد للفريق ، نحن متحمسون لدفع حدود ما يمكن أن يفعله الذكاء الاصطناعي واستخدامه لإنشاء ميزات ومنتجات جديدة لمليارات الأشخاص ".

تشهير من قبل منظمة العفو الدولية؟

ماذا يحدث عندما يتم تشويه سمعتك من قبل رمز عملاق الإنترنت؟ هل يمكنك رفع دعوى؟ من تقاضي؟ هل يهم ما إذا كان التعديل الأول لأمريكا قيد التنفيذ؟

ماركوس هتشينز ، خبير الأمن السيبراني ، المعروف بـ وقف وباء WannaCry ransomware ، يتم تسميته خطأً أحيانًا بواسطة محرك بحث Google على أنه قد أنشأ ما يسمى بـ crypto-worm. قال هتشينز إن البحث عن اسمه عبر googling كان يستخدم لإرجاع مقطع نص تم إنشاؤه تلقائيًا في نتائج البحث والذي ذكر بشكل غير صحيح أنه هو من طور برنامج WannaCry الضار.

وقال إن تصنيف جوجل بشكل خاطئ تلقائيًا في نتائج البحث له تأثير ملحوظ.

"منذ أن بدأت Google في عرض SERPs [صفحات نتائج محرك البحث] ، حصلت على ارتفاع كبير في التعليقات الكارهة وحتى التهديدات التي تستند إلى إنشاء WannaCry ،" قال تك كرانش.

"يعطي توقيت قضيتي القانونية الانطباع بأن مكتب التحقيقات الفدرالي اشتبه بي لكن [بحث Google] السريع سيؤكد أن الأمر ليس كذلك. الآن هناك جميع أنواع نتائج SERP التي تعني أنني فعلت ذلك ، مما يؤكد شكوك الباحث وقد تسبب في الكثير من الضرر لي ".

تم القبض على هتشينز واتهامه و يدخر وقت السجن لتطوير سلالة أخرى من البرامج الضارة ، لا علاقة لها بـ WannaCry ، عندما كان مراهقًا.

لا يعرف نموذج لغة Google الفرق تمامًا. قال متحدث باسم محرك البحث العملاق قد أزال النص الذي تم إنشاؤه لـ Hutchins حتى لا تظهر مشكلة معينة مرة أخرى.

ولكن ماذا لو أثرت الملاحظات التشهيرية الكاذبة على شخص أقل شهرة من هوتشينز؟ ماذا لو كان لها تأثير سلبي حقيقي على الفرص المستقبلية لشخص ما؟ لا يوجد حاليًا سوى القليل من التنظيمات المتعلقة بالمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي ، وليس من الواضح مدى ملاءمة ذلك مع قوانين التشهير الحالية. ®

الطابع الزمني:

اكثر من السجل