رویدادهای اخیر، از جمله یک دیپ فیک ایجاد شده توسط هوش مصنوعی (AI). فراخوانی کاذب با جعل هویت رئیس جمهور بایدن ترغیب رای دهندگان نیوهمپشایر به پرهیز از انتخابات مقدماتی، یادآور این نکته است که بازیگران بدخواه به طور فزاینده ای پلتفرم های هوش مصنوعی مولد مدرن (GenAI) را به عنوان سلاحی قوی برای هدف قرار دادن انتخابات ایالات متحده می بینند.
پلتفرمهایی مانند ChatGPT، Google's Gemini (بارد سابق)، یا هر تعداد از مدلهای زبان بزرگ دارک وب (LLM) میتوانند نقش مهمی در ایجاد اختلال در روند دموکراتیک، با حملاتی که شامل کمپینهای نفوذ انبوه، ترولینگ خودکار، و تکثیر محتوای دیپ فیک
در واقع، کریستوفر رای، مدیر اف بی آی اخیراً نگرانی هایی را ابراز کرده است در مورد جنگ اطلاعاتی جاری با استفاده از دیپ فیک هایی که می تواند اطلاعات نادرست را در طول مبارزات انتخاباتی ریاست جمهوری آینده بکارد، بازیگران مورد حمایت دولت تلاش برای تغییر موازنه های ژئوپلیتیکی
GenAI همچنین می تواند افزایش "رفتار غیر اصیل هماهنگشبکههایی که تلاش میکنند از طریق رسانههای اخبار جعلی، نمایههای رسانههای اجتماعی متقاعدکننده، و سایر راهها، مخاطبانی را برای کمپینهای اطلاعات نادرست خود ایجاد کنند - با هدف ایجاد اختلاف و تضعیف اعتماد عمومی در روند انتخابات.
تأثیر انتخابات: خطرات اساسی و سناریوهای کابوس
از دیدگاه Padraic O'Reilly، مدیر ارشد نوآوری CyberSaint، خطر "قابل توجه" است زیرا این فناوری به سرعت در حال پیشرفت است.
او میگوید: «این نوید میدهد که جالب و شاید کمی نگرانکننده نیز باشد، زیرا انواع جدیدی از اطلاعات نادرست را میبینیم که از فناوری دیپفیک استفاده میکنند.
به طور خاص، اوریلی می گوید، "سناریوی کابوس" این است که هدف گذاری خرد با محتوای تولید شده توسط هوش مصنوعی در پلت فرم های رسانه های اجتماعی گسترش می یابد. این یک تاکتیک آشنا از طرف است رسوایی Cambridge Analtica، جایی که این شرکت داده های پروفایل روانشناختی 230 میلیون رای دهنده آمریکایی را جمع آوری کرد تا از طریق فیس بوک پیام های بسیار مناسبی را در اختیار افراد قرار دهد تا بر عقاید - و آرای آنها تأثیر بگذارد. اما GenAI میتواند این فرآیند را در مقیاس خودکار کند و محتوای بسیار قانعکنندهای ایجاد کند که ویژگیهای «ربات» کمی داشته باشد که میتواند مردم را خاموش کند.
او توضیح میدهد: «دادههای هدفگیری دزدیده شده [عکسهای فوری شخصیتی از شخصیت کاربر و علایق آنها] که با محتوای تولید شده توسط هوش مصنوعی ادغام شدهاند، یک خطر واقعی است. کمپینهای اطلاعات نادرست روسیه در سالهای 2013 تا 2017 نشاندهنده چیزهای دیگری است که میتواند رخ دهد و اتفاق خواهد افتاد، و ما از دروغهای عمیقی که توسط شهروندان آمریکایی [مانند موردی] که بایدن را نشان میدهد، میدانیم. الیزابت وارن"
ترکیبی از رسانه های اجتماعی و فناوری دیپ فیک به راحتی در دسترس است او میافزاید که میتواند یک سلاح روز قیامت برای قطبیسازی شهروندان ایالات متحده در کشوری باشد که از قبل عمیقاً تقسیم شده است.
اوریلی میگوید: «دموکراسی مبتنی بر سنتها و اطلاعات مشترک است، و خطر در اینجا افزایش بالکانیزاسیون در میان شهروندان است، که منجر به چیزی میشود که رنه دیرستا، محقق استنفورد آن را «واقعیتهای سفارشی» مینامد، که همان افراد معتقد به «واقعیتهای جایگزین» هستند.
پلتفرم هایی که بازیگران تهدید برای ایجاد تفرقه از آنها استفاده می کنند احتمالاً کمک چندانی نخواهد کرد: او اضافه می کند که برای مثال، پلتفرم رسانه اجتماعی X، که قبلاً توییتر نامیده می شد، تضمین کیفیت (QA) خود را در محتوا از بین برده است.
او هشدار میدهد: «سایر پلتفرمها تضمینهایی را ارائه کردهاند که به اطلاعات نادرست رسیدگی خواهند کرد، اما حفاظت از آزادی بیان و فقدان مقررات همچنان عرصه را برای بازیگران بد باز میگذارد».
هوش مصنوعی TTP های فیشینگ موجود را تقویت می کند
به گفته اسکات اسمال، مدیر اطلاعات تهدیدات سایبری در Tidal Cyber، GenAI در حال حاضر برای ایجاد کمپین های فیشینگ هدفمندتر و قابل باورتر در مقیاس مورد استفاده قرار می گیرد - اما در زمینه امنیت انتخابات، این پدیده بیشتر نگران کننده است.
ما انتظار داریم که دشمنان سایبری هوش مصنوعی مولد را اتخاذ کنند تا حملات فیشینگ و مهندسی اجتماعی - اشکال اصلی حملات مرتبط با انتخابات از نظر حجم ثابت در طی سالیان متمادی - قانعکنندهتر باشد و احتمال تعامل اهداف با محتوای مخرب را افزایش دهد. " او توضیح می دهد.
اسمال میگوید که استفاده از هوش مصنوعی همچنین مانع ورود به چنین حملاتی را کاهش میدهد، عاملی که احتمالاً باعث افزایش حجم کمپینهایی در سال جاری میشود که سعی در نفوذ به کمپینها یا تسخیر حسابهای نامزد برای اهداف جعل هویت، از جمله دیگر پتانسیلها دارد.
«متخاصمان جنایتکار و دولت-ملت به طور منظم فریب های فیشینگ و مهندسی اجتماعی را با رویدادهای جاری و مضامین رایج تطبیق می دهند، و این بازیگران تقریباً به طور قطع سعی خواهند کرد از رونق محتوای دیجیتالی مرتبط با انتخابات که به طور کلی در سال جاری توزیع می شود، سرمایه گذاری کنند و سعی در ارائه مخرب کنند. محتوا برای کاربران ناآگاه،” او می گوید.
دفاع در برابر تهدیدات انتخاباتی هوش مصنوعی
برای دفاع در برابر این تهدیدات، مقامات و کمپین های انتخاباتی باید از خطرات GenAI و نحوه دفاع در برابر آنها آگاه باشند.
جیمز تورگال، معاون ریسک سایبری در Optiv میگوید: «مقامات انتخاباتی و نامزدها دائماً مصاحبهها و کنفرانسهای مطبوعاتی میدهند که بازیگران تهدید میتوانند از آنها برای دیپفیکهای مبتنی بر هوش مصنوعی استفاده کنند. بنابراین، این وظیفه آنهاست که مطمئن شوند که یک فرد یا تیم مسئول کنترل محتوا را دارند.»
آنها همچنین باید مطمئن شوند که داوطلبان و کارگران در مورد تهدیدات مبتنی بر هوش مصنوعی مانند مهندسی اجتماعی پیشرفته، عوامل تهدید پشت سر آنها و نحوه واکنش به فعالیت های مشکوک آموزش دیده اند.
برای این منظور، کارکنان باید در آموزش مهندسی اجتماعی و ویدیوی عمیق جعلی که شامل اطلاعاتی درباره همه اشکال و بردارهای حمله، از جمله الکترونیکی (ایمیل، متن و پلتفرمهای رسانههای اجتماعی)، تلاشهای حضوری و تلفنی است، شرکت کنند.
تورگال میگوید: «این بسیار مهم است - به ویژه در مورد داوطلبان - زیرا همه از بهداشت سایبری خوبی برخوردار نیستند.
علاوه بر این، داوطلبان مبارزات انتخاباتی و انتخاباتی باید در مورد نحوه ارائه ایمن اطلاعات به صورت آنلاین و سازمان های خارجی، از جمله پست های رسانه های اجتماعی، آموزش ببینند و در انجام این کار احتیاط کنند.
او هشدار میدهد: «بازیگران تهدید سایبری میتوانند این اطلاعات را جمعآوری کنند تا فریبهای مهندسی شده اجتماعی را برای اهداف خاص طراحی کنند.
اوریلی می گوید طولانی مدت، مقرراتی که شامل واترمارک برای دیپ فیک های صوتی و تصویری با توجه به اینکه دولت فدرال در حال همکاری با صاحبان LLM برای اعمال حفاظت است، بسیار مفید خواهد بود.
در واقع، کمیسیون ارتباطات فدرال (FCC) به تازگی اعلام کرده است تماسهای صوتی ایجاد شده توسط هوش مصنوعی تحت قانون حمایت از مصرفکننده تلفنی (TCPA)، استفاده از فناوری شبیهسازی صدا را غیرقانونی میکند و ابزارهای جدیدی را برای مبارزه با چنین فعالیتهای کلاهبرداری به دادستانهای کل کشور در سراسر کشور ارائه میدهد.
اوریلی میگوید: «هوش مصنوعی بهقدری سریع حرکت میکند که این خطر ذاتی وجود دارد که قوانین پیشنهادی ممکن است با پیشرفت فناوری ناکارآمد شوند و به طور بالقوه هدف را از دست بدهند. از برخی جهات، این غرب وحشی است و هوش مصنوعی با پادمانی بسیار کمی به بازار می آید.»
- محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
- PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
- PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
- PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
- PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
- منبع: https://www.darkreading.com/application-security/deepfake-democracy-ai-technology-election-security
- : دارد
- :است
- :نه
- :جایی که
- $UP
- 7
- a
- درباره ما
- مطابق
- حساب ها
- عمل
- فعالیت ها
- فعالیت
- بازیگران
- وفق دادن
- نشانی
- می افزاید:
- تصویب
- اتخاذ
- پیشرفت
- در برابر
- AI
- مجهز به هوش مصنوعی
- نام
- معرفی
- تقریبا
- قبلا
- همچنین
- جایگزین
- جمع شده
- در میان
- تقویت
- an
- و
- هر
- هستند
- مصنوعی
- هوش مصنوعی
- AS
- اطمینان
- At
- حمله
- حمله
- کوشش
- تلاشها
- جلسات
- سمعی
- خودکار بودن
- خودکار
- در دسترس
- راه ها
- مطلع
- بد
- تعادل
- سد
- BE
- زیرا
- شدن
- پشت سر
- بودن
- باورهای
- باور کردن
- دزدگیر
- بایدن
- بیت
- رونق
- ربات
- اما
- by
- نام
- تماس ها
- کمپین بین المللی حقوق بشر
- مبارزات
- CAN
- نامزد
- نامزد
- سرمایه گذاری
- احتیاط
- هشدارها
- معین
- قطعا
- مشخصات
- GPT چت
- رئیس
- کریستوفر
- شهروندان
- مبارزه با
- آینده
- کمیسیون
- ارتباطات
- شرکت
- در باره
- همایش ها
- استوار
- به طور مداوم
- مصرف کننده
- حمایت از مصرف کننده
- محتوا
- زمینه
- کنترل
- میتوانست
- کشور
- سادگی
- ایجاد
- کیفری
- جاری
- سایبر
- خطر
- تاریک
- وب سایت تیره
- داده ها
- deepfakes
- عمیقا
- دفاع از
- ارائه
- دموکراسی
- دموکراتیک
- توسعه
- دیجیتال
- محتوای دیجیتال
- مدیر
- اختلاف
- اطلاعات غلط
- توزیع شده
- تقسیم شده
- بخش
- عمل
- روز رستاخیز
- در طی
- انتخاب
- انتخابات
- الکترونیکی
- دیگر
- پست الکترونیک
- شامل
- پایان
- مهندسی
- مهندسی
- افزایش
- حصول اطمینان از
- اشخاص
- ورود
- به خصوص
- واقعه
- حوادث
- هر کس
- در حال تحول
- موجود
- انتظار
- توضیح می دهد
- فیس بوک
- واقعیت
- عامل
- حقایق
- جعلی
- اخبار جعلی
- آشنا
- FAST
- اف بی آی
- FCC
- ویژگی های
- فدرال
- دولت فدرال
- کمی از
- رشته
- برای
- فوربس
- سابق
- اشکال
- جعلی
- رایگان
- آزادی بیان
- از جانب
- جمع آوری
- برج جوزا
- جنایی
- سوالات عمومی
- عموما
- تولید
- مولد
- هوش مصنوعی مولد
- جغرافیای سیاسی
- دادن
- هدف
- خوب
- گوگل
- دولت
- نژاد خوک سیاه امریکایی
- آیا
- he
- کمک
- اینجا کلیک نمایید
- خیلی
- چگونه
- چگونه
- HTTPS
- if
- غیر مجاز
- مهم
- in
- به صورت حضوری
- شامل
- از جمله
- افزایش
- افزایش
- به طور فزاینده
- مسوول
- افراد
- نفوذ
- اطلاعات
- ذاتی
- ابداع
- نمونه
- ابزاری
- اطلاعات
- تعامل
- جالب
- منافع
- مصاحبه
- به
- IT
- ITS
- جیمز
- JPG
- تنها
- دانستن
- شناخته شده
- عدم
- فقدان مقررات
- زبان
- بزرگ
- راه اندازی
- برجسته
- ترک کردن
- بهره برداری
- پسندیدن
- احتمالا
- کوچک
- طولانی
- ساخت
- ساخت
- مخرب
- بسیاری
- بازار
- توده
- ممکن است..
- رسانه ها
- پیام
- میلیون
- گم
- مخلوط
- مدل
- مدرن
- بیش
- متحرک
- باید
- در سرتاسر کشور
- شبکه
- جدید
- اخبار
- یادداشت برداری
- عدد
- رخ می دهد
- of
- خاموش
- افسر
- مقامات
- on
- ONE
- مداوم
- آنلاین
- باز کن
- or
- سفارش
- دیگر
- رسانه
- خارج از
- روی
- صاحبان
- شرکت کردن
- مردم
- شاید
- شخص
- شخصیت
- چشم انداز
- پدیده
- فیشینگ
- محل
- سکو
- سیستم عامل
- افلاطون
- هوش داده افلاطون
- PlatoData
- بازی
- محبوب
- پست ها
- قوی
- بالقوه
- پتانسیل ها
- رئيس جمهور
- ریاست جمهوری
- فشار
- اصلی
- روند
- مشخصات
- پروفایل
- وعده
- پیشنهاد شده
- حفاظت
- ارائه
- ارائه
- ارائه
- روانی
- عمومی
- اعتماد عمومی
- اهداف
- قرار دادن
- پرسش و پاسخ
- کیفیت
- به سرعت
- واقعی
- واقعیت ها
- به طور منظم
- تنظیم
- یادآور
- پژوهشگر
- پاسخ
- مسئوليت
- طلوع
- خطر
- خطرات
- نقش
- قوانین
- روسی
- s
- پادمان
- با خیال راحت
- می گوید:
- مقیاس
- سناریو
- سناریوها
- اسکات
- تیم امنیت لاتاری
- دیدن
- خدمت
- به اشتراک گذاشته شده
- باید
- کوچک
- So
- آگاهی
- مهندسی اجتماعی
- رسانه های اجتماعی
- رسانه های اجتماعی
- پیام های رسانه های اجتماعی
- اجتماعی
- برخی از
- صدا
- کاشت
- خاص
- سخنرانی - گفتار
- حمایت مالی
- کارکنان
- استنفورد
- کامل
- دولت
- هنوز
- به سرقت رفته
- قابل توجه
- چنین
- مطمئن
- مشکوک
- نوسان
- خیاط
- طراحی شده
- گرفتن
- هدف
- هدف قرار
- هدف گذاری
- اهداف
- تیم
- فن آوری
- پیشرفته
- مدت
- قوانین و مقررات
- متن
- که
- La
- شان
- آنها
- تم
- آنجا.
- از این رو
- اینها
- آنها
- این
- در این سال
- تهدید
- بازیگران تهدید
- تهدید
- از طریق
- به
- هم
- ابزار
- آموزش دیده
- آموزش
- چرخش
- اعتماد
- امتحان
- دور زدن
- توییتر
- زیر
- نزدیک
- بر
- اصرار
- us
- انتخابات ایالات متحده
- رای دهندگان آمریکایی
- استفاده کنید
- استفاده
- کاربر
- کاربران
- با استفاده از
- بسیار
- از طريق
- معاون
- معاون رئیس جمهور
- تصویری
- چشم انداز
- صدا
- حجم
- داوطلبان
- رای دهندگان
- رای
- مسیر..
- راه
- we
- وب
- غرب
- چی
- چه زمانی
- WHO
- وسیع
- وحشی
- غرب وحشی
- اراده
- با
- کارگران
- کارگر
- خواهد بود
- X
- سال
- سال
- زفیرنت