تشكل تقنية Deepfakes التي تعتمد على الذكاء الاصطناعي تهديدًا للشركات أيضًا - وإليك السبب - فك التشفير

في حين يتنافس عمالقة التكنولوجيا على جلب الذكاء الاصطناعي إلى الجماهير وامتلاك السوق المزدهرة، فإن سباق التسلح في مجال الذكاء الاصطناعي يغذي زيادة في مقاطع الفيديو والصوت "المزيفة بعمق" - وهو المحتوى الذي غالبا ما يبدو أو يبدو مشروعا بشكل مقنع، ولكنه في الواقع تحريف احتيالي. وهي تؤثر أيضًا على الشركات، وفقًا لتقرير جديد.

Deepfakes هي إبداعات يتم إنشاؤها بواسطة الذكاء الاصطناعي مثل الصور ومقاطع الفيديو والصوت التي يتم التلاعب بها لخداع الأشخاص. يستخدم المحتالون تقنية التزييف العميق للاحتيال، ابتزازأو الإضرار بالسمعة. انتشار الذكاء الاصطناعي التوليدي لقد سهلت الأدوات على المحتالين إنشاء محتوى مزيف أكثر من أي وقت مضى.

يتم إدراج المشاهير والشخصيات العامة الأخرى في لقطات مصطنعة وأحيانًا صريحة دون موافقتهم بطرق تنتشر أحيانًا على نطاق واسع أو يمكن أن تسبب الذعر على وسائل التواصل الاجتماعي. في تقرير مقدم ل فك تشفير، شركة محاسبة عالمية KPMG وكتب أن قطاع الأعمال ليس محصنًا ضد تهديد التزييف العميق أيضًا.

وكتبت KPMG أنه يمكن استخدام محتوى Deepfake في هجمات الهندسة الاجتماعية وأنواع أخرى من الهجمات الإلكترونية التي تستهدف الشركات، في حين أن هذا المحتوى يمكن أن يؤثر أيضًا على سمعة الشركات وقادتها. ويمكن أيضًا استخدام التمثيلات الكاذبة لممثلي الشركة في مخططات لخداع العملاء، أو لإقناع الموظفين بتقديم معلومات أو تحويل الأموال إلى جهات غير مشروعة.

KPMG استشهد بمثال 2020 مدير فرع شركة في هونغ كونغ تم خداعه لتحويل ما قيمته 35 مليون دولار من أموال الشركة إلى المحتالين بعد أن اعتقد أن رئيسه كان على الهاتف، وأمره بذلك. وبدلاً من ذلك، كان الأمر عبارة عن إعادة إنشاء لصوت المشرف بواسطة الذكاء الاصطناعي، وكل ذلك جزء من مخطط متقن لسلب الأموال من الشركة.

"إن عواقب الهجمات السيبرانية التي تستخدم المحتوى الاصطناعي - المحتوى الرقمي الذي تم إنشاؤه أو التلاعب به لأغراض شائنة - يمكن أن تكون واسعة ومكلفة، ولها مجموعة متنوعة من التأثيرات الاجتماعية والاقتصادية، بما في ذلك التأثيرات المالية والسمعة والخدمية والجيوسياسية، من بين أمور أخرى." يقرأ التقرير.

لقطات مزيفة بعمق لدونالد ترامب القى القبض في وقت سابق من هذا العام، البابا فرانسيس يرتدي ملابس Balenciaga الفاخرة و إيلون ماسك لقد انتشر الترويج لعمليات الاحتيال المتعلقة بالعملات المشفرة في العام الماضي مع تحسن تقنية التزييف العميق بفضل أدوات الذكاء الاصطناعي المتطورة.

وكتبت شركة KPMG: "سواء كان الأمر مزيفًا رخيصًا أو مزيفًا عميقًا، فقد تغير النموذج الاقتصادي بشكل كبير بسبب نماذج الذكاء الاصطناعي التوليدية".

بالإضافة إلى الشخصيات العامة المذكورة أعلاه، من بين المشاهير البارزين الذين سُرقت صورهم وتم تطبيقها على لقطات مزيفة، الممثلة إيما واتسون والموسيقية تايلور سويفت. لكن التأثير المحتمل على الشركات وقادتها البارزين في بعض الأحيان هو ما تدق شركة KPMG ناقوس الخطر بشأنه.

قالت شركة KPMG: “كعامل خطر، لا يعد محتوى التزييف العميق مجرد مصدر قلق لوسائل التواصل الاجتماعي ومواقع المواعدة وصناعة الترفيه، بل أصبح الآن مشكلة في مجلس الإدارة”. "مثال على ذلك، يقول جميع المشاركين تقريبًا (92٪) في استطلاع أجرته شركة KPMG مؤخرًا حول الذكاء الاصطناعي التوليدي وشمل 300 مدير تنفيذي عبر العديد من الصناعات والمناطق الجغرافية، إن مخاوفهم بشأن مخاطر تنفيذ الذكاء الاصطناعي التوليدي هي ذات أهمية متوسطة إلى عالية."

لا تتعامل الشركات والمشاهير فقط مع ارتفاع جودة وعدد مقاطع الفيديو المزيفة على الإنترنت. وتدرس الحكومات والجهات التنظيمية أيضًا التأثير المحتمل على المجتمع والانتخابات، في حين يدرس مبتكرو أدوات الذكاء الاصطناعي هذه تأثيرها السلبي المحتمل.

في الأسبوع الماضي، مضت لجنة الانتخابات الفيدرالية الأمريكية، التي توقعت استخدام تقنية التزييف العميق في انتخابات عام 2024، قدمًا في إجراء عريضة حظر استخدام الذكاء الاصطناعي في إعلانات الحملات الإعلانية.

إذا تمت الموافقة على ذلك، فسوف تقوم الوكالة بتعديل اللوائح الحالية المتعلقة بالتحريف الاحتيالي لـ "سلطة الحملة"، وتوضح أن الحظر ينطبق على إعلانات حملات الذكاء الاصطناعي الخادعة عمدًا.

وقال ماثيو ميلر، مدير خدمات الأمن السيبراني في شركة KPMG: "يجب على المنظمين الاستمرار في فهم ودراسة تأثير التهديدات المتطورة على اللوائح الحالية". فك تشفير. "يمكن أن يكون للمتطلبات المقترحة لوضع العلامات والعلامات المائية على المحتوى الناتج عن الذكاء الاصطناعي تأثير إيجابي."

في يوليو، باحثون في معهد ماساتشوستس للتكنولوجيا المقترح إضافة تغييرات التعليمات البرمجية إلى نماذج الانتشار الكبيرة للتخفيف من مخاطر التزييف العميق، عن طريق إضافة تغييرات صغيرة يصعب رؤيتها ولكنها تغير في النهاية كيفية عمل النماذج، مما يجعلها تولد صورًا لا تبدو حقيقية. ميتا، وفي الوقت نفسه، في الآونة الأخيرة أوقفت أداة الذكاء الاصطناعي بسبب إمكانات التزييف العميق.

لقد تم تخفيف الإثارة حول الإمكانات الإبداعية لأدوات الذكاء الاصطناعي التوليدية من خلال إدراك أنها يمكن أن تخلق فرصًا مماثلة للمحتوى الضار. وفي نهاية المطاف، وسط التحسينات السريعة لمثل هذه الأدوات، حث ميلر الجميع على توخي اليقظة بشأن احتمال وجود محتوى مزيف.

وقال: "يحتاج الجمهور إلى الحفاظ على اليقظة المستمرة عند التفاعل عبر القنوات الرقمية". فك تشفير. "إن الوعي الظرفي والحس السليم يقطعان شوطا طويلا لمنع وقوع حادث. إذا كان هناك شيء ما لا يبدو على ما يرام، فمن المحتمل جدًا أن يكون نشاطًا ضارًا.

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
• أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
• أفلاطون السيارات / المركبات الكهربائية ، كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
• أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
• تشارت بريم. ارفع مستوى لعبة التداول الخاصة بك مع ChartPrime. الوصول هنا.
• BlockOffsets. تحديث ملكية الأوفست البيئية. الوصول هنا.
• المصدر https://decrypt.co/153794/ai-deepfakes-threat-businesses-too-heres-why