الصين ستطرح قوانين لمعالجة التزييف العميق في يناير البحث العمودي. منظمة العفو الدولية.

الصين ستدخل قوانين لمعالجة التزييف العميق في يناير

الطابع الزمني: 24 ديسمبر 2022 5:45 صباحًا

إذا كنت تستخدم وسائل التواصل الاجتماعي هذا الأسبوع ، فمن المحتمل أن تكون قد صادفت صورًا تم إنشاؤها بواسطة AI لأصدقائك ككائنات خرافية وشخصيات متحركة وصور رمزية وكائنات سحرية.

ويرجع ذلك جزئيًا إلى Lensa ، وهي منظمة العفو الدولية التي تجمع الصور الرقمية بناءً على الصور التي يقوم المستخدمون بتحميلها. استحوذت صور التطبيق عمليًا على الإنترنت ، حيث أصبحت Lensa التطبيق الأكثر تنزيلًا في متجر تطبيقات Apple.

إن Lensa ، مثل جميع تطبيقات الذكاء الاصطناعي التي تقدم الصور رقميًا ، قد أثارت الإعجاب والجدل على حد سواء بسبب إضفاء الطابع الجنسي الصارخ على الصور الأنثوية. لاحظ مستخدمون آخرون أن التطبيق جعل بشرتهم أكثر شحوبًا أو أنحف أجسامهم.

اقرأ أيضا: تقنية الذكاء الاصطناعي التي تخلق صورًا مزيفة عميقة تدمر الحياة

كيف تحصل على "الصورة الرمزية السحرية" الخاصة بك

الصور التي تقوم بالجولات هي إنشاء فخور لوظيفة الآلهة السحرية لـ Lensa. للتعرف عليها ، يتعين على المرء تنزيل تطبيق Lensa على الهاتف. يبلغ الاشتراك السنوي حوالي 35.99 دولارًا ، لكن خدماتها متاحة أيضًا وإن كانت مع قيود مجانًا في نسخة تجريبية مدتها أسبوع إذا أراد المرء التحقق منها أولاً.

ومع ذلك ، فإن إنشاء الصور الرمزية السحرية الشعبية يتطلب رسومًا إضافية بسبب ما يقوله التطبيق "قوة حسابية هائلة" لتحقيقه.

في نسخة تجريبية مجانية ، يمكن للمرء الحصول على 50 صورة رمزية مقابل 3.99 دولار ، و 200 صورة رمزية مقابل 7.99 دولار. من أجل الحصول على أفضل النتائج ، يشجع التطبيق المستخدمين على تحميل 20 صورة قريبة على الأقل.

من الناحية المثالية ، يجب أن تكون هذه الصور لقطات مقربة لوجه الشخص مع مجموعة من الخلفيات المتباينة وتعبيرات الوجه والزوايا. يصر التطبيق على أنه يجب أن يكون عمر المستخدمين 13 عامًا أو أكثر. Lensa ليس تطبيقًا جديدًا تمامًا.

أصبح التطبيق ، أحد منتجات Prisma ، شائعًا لأول مرة في عام 2016 بفضل الوظيفة التي سمحت للمستخدمين بتغيير صورهم الشخصية إلى صور بأسلوب الفنانين المشهورين.

كيف تعمل Lensa؟

وفقًا للشركة ، فإنها تستخدم ما تسميه "تقنية TrueDepth API" حيث يوفر المستخدم صورًا ، أو "بيانات الوجه" ، ثم يتم تدريب الذكاء الاصطناعي على خوارزمياته لأداء أفضل وإظهار نتائج أفضل لك. يتم التدريب عندما يقوم الذكاء الاصطناعي بمعالجة البيانات والتحقق من صحة النماذج واختبارها.

من أجل استخدام التطبيق ، يمكن للمرء تنظيم 20 صورة شخصية مع مجموعة متنوعة من التعبيرات والزوايا واختيار خيار 100 صورة شخصية.

يستغرق القيام بالمهمة حوالي 20 دقيقة. بمجرد الانتهاء من ذلك ، تقوم منظمة العفو الدولية بإرجاع الصور الرمزية التي تقع في 10 فئات مثل الخيال ، والأميرة الجنية ، والتركيز ، والبوب ​​، والأناقة ، والحيوية ، والضوء ، والكاواي ، والقزحي ، والكوني.

"بشكل عام ، شعرت أن التطبيق قام بعمل لائق في إنتاج الصور الفنية بناءً على صور السيلفي الخاصة بي. لم أتمكن من التعرف على نفسي تمامًا في معظم الصور ، لكن يمكنني رؤية من أين أتوا " زوي سوتيل سي إن إن كتب.

"يبدو أنه يتعرف على سمات معينة ويكررها ، مثل بشرتي الشاحبة أو أنفي المستدير ، أكثر من غيرها. كان بعضهم بأسلوب أكثر واقعية ، وكانوا قريبين بما يكفي لأعتقد أنهم كانوا في الواقع صورًا لي إذا رأيتهم من بعيد. كان الآخرون أكثر أسلوبًا وفنيًا بشكل ملحوظ ، لذلك شعروا بأنهم أقل تحديدًا بالنسبة لي ".

لاحظت سوتيل أن الذكاء الاصطناعي جعلها أخف وزنًا أيضًا.

بالنسبة لي ، شعرت أيضًا أنها تجعلني أخف وزناً تلقائيًا وأن الصورة التي جربتها في معرض الصور الخاص بي وصديقي ذو البشرة الداكنة قليلاً عادت إلينا بنسخة أخف إلى حد ما ، ومن الواضح أنها مبالغة ، وكشفت عن ميل إلى التفتيح. نغمات البشرة السوداء.

إضفاء الطابع الجنسي على النساء

كان لدى الآخرين الذين استخدموه مخاوف مماثلة إلى حد ما.

تقول النساء إن الذكاء الاصطناعي سريع في إضفاء الطابع الجنسي على صورهن. لكن في مقال سابق ، نحن شرح أصبح هذا ممكنًا بسبب العدد الهائل من الصور الجنسية الموجودة في مجموعات البيانات المستخدمة في تدريب الذكاء الاصطناعي.

بمعنى آخر ، هذا يعني أن الذكاء الاصطناعي على دراية بكيفية إنشاء تلك الصور والتحول بسهولة إلى مواد إباحية. مع القليل من الخداع ، يمكن مطالبتك بإنتاج إباحية عن غير قصد من تلك الصور إذا أراد المستخدم ذلك.

في قصص أخرى ، قمنا بتغطية كيف يمكن خداع AI: s لتقديم معلومات حول كيفية إنشاء ملف قنبلة على سبيل المثال. الغريب أن قضية التحيز الجنسي لم تظهر في صور الرجال التي تم تحميلها على ميزة Magic Avatar. لمجلة MIT Technology Review ، ميليسا هيكيلا كتب,

"تم تصوير الصور الرمزية الخاصة بي بشكل إباحي ، بينما كان زملائي الذكور رواد فضاء ومستكشفين ومخترعين."

من ناحية أخرى ، لاحظت سوتيل أن الذكاء الاصطناعي جعلها "في واحدة من أكثر الصور إمتاعًا" تبدو "وكأن نسخة من وجهي كانت على جسد عاري".

وقالت: "في عدة صور ، بدا الأمر وكأنني عارية ولكن مع وضع بطانية بشكل استراتيجي ، أو الصورة مقطوعة لإخفاء أي شيء واضح".

تضيف زوي سوتيل: ​​"والعديد من الصور ، حتى عندما كنت أرتدي ملابسي بالكامل ، ظهرت بتعبير وجه قائظ ، وانقسام كبير ، وملابس خفيفة لا تتطابق مع الصور التي قدمتها".

وأعرب آخرون عن مخاوفهم من أن يصبحوا نجومًا إباحيين بواسطة تقنية الذكاء الاصطناعي مثل Lensa.

استياء الجسم

بالنسبة للنساء اللواتي يتمتعن بجسم كامل ، كانت التجربة مختلفة نوعًا ما ، بل أسوأ في بعض الحالات. جعلها الذكاء الاصطناعي أكثر نحافة وإثارة.

"بالنسبة إلى Lmfao ، إذا كان لديك خلل في الجسم ، فلا تستخدم تطبيق Lensa هذا للصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي. هذا هو تحذيرك "، مستخدم كتب.

وقالت أخرى إن التطبيق جعلها تبدو آسيوية.

انتقل مستخدم آخر إلى Twitter للشكوى من أنه دفع 8 دولارات لتجربة خلل في الجسم عندما استخدم الذكاء الاصطناعي.

تشوه الجسم هو حالة صحية عقلية حيث يقضي الشخص الكثير من الوقت في القلق بشأن العيوب في مظهره. غالبًا ما تكون هذه العيوب غير ملحوظة للآخرين.

اشتكت أخرى من أن الذكاء الاصطناعي ألقى تلقائيًا بثقل كبير على صورها الكاملة الشكل.

"شكوى واحدة عن Lensa AI هي أنها ستجعلك نحيفًا في بعض الصور. كشخص سمين ، أزعجتني هذه الصور حقًا. لذا ، احرص على عدم الانفعال إذا كنت شخصًا سمينًا ولا ترغب في أن تصبح نحيفًا ، "كتبت ماريا ناجح (Shlatz) في 5 ديسمبر 2022.

القنبلة النفسية الموقوتة

ويتفق علماء النفس مع تصريحاتها بأن الذكاء الاصطناعي يمكن أن يحفز النساء المصورات بالكامل.

علم النفس الإكلينيكي د. طوني بيكوس، وهو ممارس للصحة العقلية مقره في أستراليا ، يقوم بأبحاث ويتخصص في علاج اضطراب تشوه الجسم ، يعتقد أن التطبيق يمكن أن يضر أكثر مما ينفع وليس سوى "أداة تصفية للصور" لتغيير تصور المرء لذاته.

يقول بيكوس: "عندما يكون هناك تناقض أكبر بين المظهر المثالي والمتصور ، يمكن أن يؤجج ذلك استياء الجسم ، والضيق ، والرغبة في إصلاح أو تغيير مظهر المرء بوسائل يحتمل أن تكون غير صحية أو غير آمنة" مثل الأكل المختل أو الإجراءات التجميلية غير الضرورية.

وأعربت عن قلقها من أن الصور تمحى "التفاصيل المعقدة" مثل "النمش والخطوط" ، الأمر الذي يمكن أن يزيد القلق بشأن جلد المرء. وتقول إن هذا يمكن أن يحفز نفسيا شخصًا ضعيفًا.

"رؤية صورة خارجية تعكس شعورهم بعدم الأمان تجاههم يعزز فقط فكرة" انظر ، هذا خطأ معي! أنا لست الوحيد الذي يمكنه رؤيته! "

ويقول إنه نظرًا لحقيقة أن الذكاء الاصطناعي يقدم ميزاته الخاصة التي لا تصور مظهر الحياة الحقيقي للمستخدم ، فإن التطبيق يمكن أن يخلق مخاوف جديدة.

وتقول إن "الصور الرمزية السحرية" للذكاء الاصطناعي كانت "مثيرة للاهتمام بشكل خاص لأنها تبدو أكثر موضوعية - كما لو أن كائنًا خارجيًا يعرف كل شيء قد ولّد هذه الصورة لما تبدو عليه."

هذا ، تشعر أنه سيكون في الواقع "مفيدًا" للأشخاص الذين يعانون من اضطراب تشوه الجسم ويساعد في تسليط الضوء على "عدم التوافق" بين "نظرة الفرد السلبية إلى نفسه وكيف يراه الآخرون."

ومع ذلك ، أشارت إلى أن الذكاء الاصطناعي لم يكن موضوعياً بسبب محاولته تصوير صورة خالية من العيوب وأكثر "نسخة محسّنة ومتكاملة" من وجه المرء.

على سبيل المثال ، الشخص الذي يعاني من اضطراب تشوه الجسم ، أو BDD ، "قد يشعر بزيادة وجيزة في الثقة عند مشاهدة صورته ، ويرغب في مشاركة هذه النسخة من نفسه مع العالم ،" كما تقول ، ولكن سيتأثر بشدة بالواقع عند الخروج الشاشة ، غير المفلترة ، في المرآة أو الصورة التي يلتقطونها لأنفسهم ".

الدفاع عن نفسها

يقول أندري أوسولتسيف ، الرئيس التنفيذي لشركة Prisma Labs ، إن شركته "غارقة" حاليًا في الاستفسارات حول Lensa وقدمت رابطًا لصفحة الأسئلة الشائعة التي تتناول استفسارات عن الصور الجنسية ، على الرغم من أنها ليست نوع ردود فعل المستخدم التي يصفها Pikoos.

"إن رؤية ذلك ينعكس في التطبيق سيكون أمرًا شديد الصعوبة ويوفر نوعًا من" التأكيد "للطريقة التي يرون بها أنفسهم" ، مما يؤدي بهم إلى أن يصبحوا "أكثر رسوخًا في الاضطراب".

انتشار مستقر

تستخدم Lensa أيضًا Stable Diffusion ، والذي يستخدم توليف التعلم العميق الذي يمكنه إنشاء صور جديدة من أوصاف نصية ويمكن تشغيلها على جهاز كمبيوتر يعمل بنظام Windows أو Linux أو على جهاز Mac أو في السحابة على أجهزة الكمبيوتر المستأجرة.

تتمتع الشبكة العصبية لـ Stable Diffusion بمساعدة التعلم المكثف المتقن لربط الكلمات والارتباط الإحصائي العام بين مواضع البكسل في الصور.

غطينا في آخر قصة كيف يمكن للتكنولوجيا أن يكون لها عواقب مدمرة للحياة من خلال تقديم وتصوير صور للأشخاص على أنهم مجرمون أو متورطون في ممارسات أقل من الإطراء مثل السرقة.

على سبيل المثال ، يمكن للمرء أن يعطي مصدرًا مفتوحًا للانتشار المستقر موجهًا ، مثل "توم هانكس في الفصل الدراسي" ، وسيعطيه / لها صورة جديدة لتوم هانكس في الفصل الدراسي. في حالة توم هانك ، إنها نزهة في الحديقة لأن مئات من صوره موجودة بالفعل في مجموعة البيانات المستخدمة لتدريب الانتشار المستقر.

الفنانين يحصلون على صفقة خام أيضا

على صعيد الفن ، بعض الفنانين غير سعداء.

إنهم قلقون من أن الذكاء الاصطناعي يمكن أن يهدد سبل عيشهم. هذا لأن الفنانين ، بما في ذلك الفنانون الرقميون ، لا يستطيعون أيضًا الإنتاج بسرعة الذكاء الاصطناعي للصورة الرقمية.

حاولت شركة Prisma ، الشركة الأم لـ Lensa ، إثارة المخاوف بشأن تقنيتها التي تقضي على عمل الفنانين الرقميين.

"بينما يتعلم كل من البشر والذكاء الاصطناعي الأساليب الفنية بطرق شبه متشابهة ، هناك بعض الاختلافات الأساسية: الذكاء الاصطناعي قادر على التحليل والتعلم بسرعة من مجموعات كبيرة من البيانات ، لكنه لا يتمتع بنفس المستوى من الاهتمام والتقدير للفن كإنسان،" كتب الشركة على Twitter في 6 ديسمبر.

تقول "لا يمكن وصف المخرجات بأنها نسخ طبق الأصل لأي عمل فني معين."

تغيير الصورة الذاتية

يقول كيري بومان ، عالم أخلاقيات علم الأحياء بجامعة تورنتو ، إن الذكاء الاصطناعي لديه القدرة على التأثير سلبًا على الصورة الذاتية للفرد ، من بين قضايا أخلاقية أخرى.

قال بومان يوم الإثنين: "في بعض النواحي ، يمكن أن يكون الأمر ممتعًا للغاية ، لكن هذه الصور المثالية مدفوعة بالتوقعات الاجتماعية التي يمكن أن تكون قاسية جدًا وضيقة للغاية".

قال بومان إن برامج الذكاء الاصطناعي هذه تستفيد من مصادر مجموعة البيانات مثل الإنترنت بحثًا عن أنماط فنية مختلفة لإنشاء هذه الصور. الجانب السلبي هو أنه عندما يفعل الذكاء الاصطناعي ذلك ، نادرًا ما يحصل الفنانون على أجر مالي مقابل استخدام أعمالهم أو الفضل.

"ما يحدث للذكاء الاصطناعي الناشئ هو أن القوانين لم تكن قادرة حقًا على مواكبة ذلك فيما يتعلق بقانون حقوق النشر. قال بومان: "إنه أمر صعب للغاية وغامض للغاية ، كما أن الأخلاق وراء القوانين لأنني سأجادل في أن هذا غير عادل في الأساس".

مخاوف تتعلق بالبيانات الشخصية

أثار بومان أيضًا مخاوف بشأن كيفية تخزين البيانات الشخصية للأشخاص.

"هل تريد حقًا وضع وجهك في قاعدة بيانات كبيرة؟ على الناس أن يقرروا بأنفسهم هذا الأمر ، لكنه ليس حميماً ، ولا يوجد شيء في هذا ، إنه ليس مجرد متعة ".

تقول Lensa إن الصور يتم الاحتفاظ بها على الخوادم والتطبيقات لمدة لا تزيد عن 24 ساعة. باستخدام خوارزميات التعلم العميق والتعلم الآلي ، يجمع الذكاء الاصطناعي ثم يقدم نتائج أفضل في المستقبل ، استنادًا أيضًا إلى البيانات المحذوفة. يقول بومان إن هذا سيؤدي إلى مخاوف تتعلق بالسلامة بشأن الاستخدام المحتمل للتعرف على الوجه لأن هذا النوع من البيانات يمكن أن تستخدمه الشرطة بشكل غير قانوني.

الطابع الزمني:

اكثر من ميتا نيوز