پلیس کره جنوبی قبل از انتخابات از ابزار تشخیص دیپ فیک استفاده می کند

پلیس کره جنوبی قبل از انتخابات از ابزار تشخیص دیپ فیک استفاده می کند

تمبر زمان: 8 مارس 2024، 3:06 بعد از ظهر
South Korean Police Deploy Deepfake Detection Tool Prior to Elections PlatoBlockchain Data Intelligence. Vertical Search. Ai.

در میان افزایش شدید دیپ فیک‌های با انگیزه سیاسی، آژانس پلیس ملی کره جنوبی (KNPA) ابزاری را برای شناسایی محتوای تولید شده توسط هوش مصنوعی برای استفاده در تحقیقات جنایی احتمالی توسعه داده و به کار گرفته است.

به گفته دفتر تحقیقات ملی KNPA (NOI)، برنامه یادگیری عمیق بر روی تقریباً 5.2 میلیون قطعه داده که از 5,400 شهروند کره ای منشأ گرفته شده بود، آموزش داده شد. این می تواند تنها در پنج تا 10 دقیقه واقعی بودن یا نبودن ویدیویی را (که در آن از قبل آموزش ندیده است، با دقت حدود 80٪ تعیین کند). این ابزار به طور خودکار یک برگه نتایج تولید می کند که پلیس می تواند در تحقیقات جنایی از آن استفاده کند.

همانطور که رسانه های کره ای گزارش داده اند، از این نتایج برای اطلاع رسانی تحقیقات استفاده می شود اما به عنوان مدرک مستقیم در محاکمات جنایی استفاده نمی شود. پلیس همچنین فضایی را برای همکاری با کارشناسان هوش مصنوعی در دانشگاه و تجارت ایجاد خواهد کرد.

کارشناسان امنیت هوش مصنوعی خواستار استفاده از هوش مصنوعی برای همیشه از جمله شناسایی اطلاعات نادرست و دروغ‌های عمیق شده‌اند.

گیل شوید، مدیرعامل چک پوینت، در مصاحبه ای این هفته به دارک ریدینگ گفت: «این نکته است: هوش مصنوعی می تواند به ما در تجزیه و تحلیل [محتوای نادرست] در هر مقیاسی کمک کند. او گفت اگرچه هوش مصنوعی یک بیماری است، اما درمان آن نیز هست: «[تشخیص تقلب] به فناوری‌های بسیار پیچیده نیاز داشت، اما با هوش مصنوعی می‌توانید همان کار را با حداقل مقدار اطلاعات انجام دهید - نه فقط مقادیر خوب و زیاد اطلاعات.”

مشکل دیپ فیک کره

در حالی که بقیه دنیا منتظر دیپ فیک هستند تهاجم به فصول انتخابات، کره ای ها قبلاً از نزدیک با این مشکل برخورد کرده اند.

قناری در معدن زغال سنگ در جریان انتخابات استانی در سال 2022 رخ داد، زمانی که ویدئویی در رسانه های اجتماعی پخش شد که نشان می دهد یون سوک یول، رئیس جمهور از یک نامزد محلی برای حزب حاکم حمایت می کند.

این نوع فریب اخیراً بیشتر شده است. ماه گذشته، کمیسیون ملی انتخابات کشور فاش کرد که بین 29 ژانویه تا 16 فوریه، 129 دیپ فیک شناسایی کرد با نقض قوانین انتخابات - رقمی که انتظار می رود با نزدیک شدن به روز انتخابات 10 آوریل افزایش یابد. همه اینها علیرغم قانون اصلاح شده ای که در 29 ژانویه به اجرا درآمد و بیان می کند که استفاده از فیلم ها، عکس ها یا صداهای عمیق فیک در ارتباط با انتخابات می تواند یک شهروند را تا هفت سال زندان و جریمه نقدی تا 50 میلیون وون به همراه داشته باشد. (حدود 37,500 دلار). 

نه فقط اطلاعات غلط

Shwed از Check Point هشدار داد که مانند هر فناوری جدید، هوش مصنوعی خطرات خود را دارد. او گفت: "بنابراین بله، اتفاقات بدی می تواند رخ دهد و ما باید در برابر آنها دفاع کنیم."

او افزود که اطلاعات جعلی مشکل چندانی ندارد. او گفت: "بزرگترین مسئله در درگیری انسانی به طور کلی این است که ما تصویر کامل را نمی بینیم - ما عناصر [در اخبار] را که می خواهیم ببینیم انتخاب می کنیم و سپس بر اساس آنها تصمیم می گیریم."

"این در مورد اطلاعات نادرست نیست، بلکه درباره چیزهایی است که شما به آن اعتقاد دارید. و بر اساس آنچه به آن اعتقاد دارید، اطلاعاتی را که می خواهید ببینید انتخاب می کنید. نه برعکس.»

تمبر زمان:

بیشتر از تاریک خواندن