محققان IBM Security یک تهدید جدید شگفتانگیز را در هوش مصنوعی کشف کردهاند: توانایی دستکاری مکالمات زنده از طریق تکنیکی به نام "جک صوتی".
این روش با استفاده از هوش مصنوعی مولد و فناوری صوتی عمیق جعلی میتواند کلمات گفتاری را در زمان واقعی رهگیری و تغییر دهد و خطرات بیسابقهای را در ارتباطات دیجیتال ایجاد کند.
همچنین بخوانید: AI Deepfake Detection در برابر چالش های فریب فزاینده پیشرفت می کند
افشای تهدید جک صدا
جک صوتی با پردازش صدای زنده از ارتباطات دو طرفه مانند تماس های تلفنی و جستجوی کلمات یا عبارات کلیدی خاص کار می کند. هنگامی که این محرکها شناسایی میشوند، هوش مصنوعی وارد عمل میشود و قبل از رسیدن به مقصد، صدای معتبر را با نسخهی دیپ فیک دستکاری شده جایگزین میکند. خیره کننده تصویر این تکنیک توسط محققان IBM ارائه شده است، که اطلاعات حساب بانکی را که در طول یک مکالمه بدون شناسایی صحبت می شد، تغییر دادند.
جک صوتی: استفاده از هوش مصنوعی مولد برای تحریف تراکنشهای صوتی زنده: ظهور هوش مصنوعی مولد، از جمله مدلهای متن به تصویر، متن به گفتار و مدلهای زبان بزرگ (LLM)، زندگی کاری و شخصی ما را بهطور چشمگیری تغییر داده است. در حالی که این پیشرفت ها… https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
— شاه شیخ (@shah_sheikh) فوریه 1، 2024
سهولتی که می توان با آن یک اثبات مفهومی برای این حمله ابداع کرد، نگران کننده است. محققان خاطرنشان کردند که چالشبرانگیزترین بخش، ایجاد هوش مصنوعی نبود، بلکه ویژگیهای فنی ضبط و پردازش صوتی زنده بود. این سهولت توسعه نشان دهنده انحراف قابل توجهی از انتظارات سنتی است که در آن چنین تلاشی به تخصص قابل توجهی در چندین زمینه علوم رایانه نیاز دارد.
«ساخت این PoC به طرز شگفتآور و ترسناکی آسان بود. ما بیشتر وقت را صرف یافتن چگونگی ضبط صدا از میکروفون و تغذیه صدا به هوش مصنوعی مولد کردیم."
در این طرح، نقش هوش مصنوعی مولد انتقادی است. این فناوری با استفاده از تنها سه ثانیه از صدای یک فرد، میتواند یک کلون متقاعدکننده برای تولید دیپفیکهای قانونی در صورت تقاضا بسازد. این توانایی، که از طریق API ها در دسترس است، به یک روند نگران کننده در فرآیند دموکراتیزه سازی ابزارهای دستکاری پیشرفته اشاره می کند.
"امروزه ما فقط به سه ثانیه از صدای یک فرد برای شبیه سازی آن و استفاده از یک API متن به گفتار برای تولید صداهای جعلی معتبر نیاز داریم."
پیامدها و سوء استفاده های احتمالی
با این حال، تأثیرات جک صوتی فراتر از کلاهبرداری مالی است. چنین فناوری قادر به سانسور در زمان واقعی، تغییر پخش زنده، مانند اخبار و سخنرانی های سیاسی، بدون شناسایی است. این قابلیت ها یکپارچگی اطلاعات را به خطر می اندازد و پیامدهای عمیقی برای دموکراسی و اعتماد عمومی دارد.
با وجود مانع کم برای حمله جک صوتی، مهندسی اجتماعی پیچیده یا فیشینگ به میزان قابل توجهی کاهش یافته است. سپس این سهولت مسائل مربوط به گسترش چنین حملاتی را مطرح می کند، بنابراین اقدامات امنیتی فعلی را با چالش هایی مواجه می کند و به مکانیسم های دفاعی جدید نیاز دارد.
بلوغ این PoC میتواند نشانهای از خطر قابلتوجه برای مصرفکنندگان باشد... هرچه این حمله بیشتر اصلاح شود، شبکه قربانیان گستردهتر میشود.
پدیده جک صدا بر یک مسئله گستردهتر در توسعه هوش مصنوعی تأکید میکند: ماهیت دوگانه فناوری های مولد. از یک سو، آنها منبعی از امکانات نامحدود برای نوآوری و خلاقیت هستند. از سوی دیگر، پتانسیل سوء استفاده شده آنها را نباید نادیده گرفت. این حادثه یک سوال اساسی را ایجاد می کند: جامعه چگونه می تواند از مزایای هوش مصنوعی استفاده کند و در عین حال در برابر برنامه های تاریک تر آن محافظت کند؟
پیمایش آینده امنیت هوش مصنوعی
با تغییر چشمانداز تهدیدات دیجیتال، شناسایی جک صوتی توسط IBM Security یک هشدار ضروری برای هوشیاری و مدرنسازی امنیت سایبری است. تکامل اقدامات متقابل، از جمله الگوریتمهای تشخیص نوآورانه و تکنیکهای رمزگذاری قویتر، برای مبارزه با چنین تهدیدات پیچیدهای حیاتی است.
علاوه بر این، این افشاگری نشان میدهد که مسائل اخلاقی جزء لاینفک آن هستند تحقیق هوش مصنوعی و توسعه. تنظیم قوانین و معیارها برای استفاده با هوش مصنوعی برای مقابله با خطرات چنین فناوری های قدرتمندی ضروری است.
- محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
- PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
- PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
- PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
- PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
- منبع: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- : دارد
- :است
- :نه
- $UP
- 1
- 11
- 7
- 8
- a
- توانایی
- حساب
- در میان
- خطاب به
- پیشرفته
- در برابر
- AI
- الگوریتم
- تغییر
- an
- و
- API
- رابط های برنامه کاربردی
- برنامه های کاربردی
- هستند
- مصنوعی
- هوش مصنوعی
- AS
- At
- حمله
- حمله
- سمعی
- معتبر
- در دسترس
- بانک
- حساب بانکی
- سد
- BE
- بوده
- قبل از
- بودن
- معیار
- مزایای
- خارج از
- گسترده تر
- اما
- by
- تماس ها
- CAN
- قابلیت های
- توانا
- گرفتن
- سانسور
- چالش ها
- به چالش کشیدن
- تغییر
- مبارزه
- ارتباط
- ارتباطات
- سازش
- کامپیوتر
- علم کامپیوتر
- قابل توجه
- مصرف کنندگان
- گفتگو
- گفتگو
- میتوانست
- ایجاد
- خلاقیت
- بحرانی
- جاری
- امنیت سایبری
- خطرات
- تیره تر
- فریب
- deepfakes
- دفاع
- تقاضا
- دموکراسی
- دموکراتیک شدن
- عزیمت، خروج
- مقصد
- شناسایی شده
- کشف
- پروژه
- دیجیتال
- افشاء
- بحث و گفتگو
- دوتایی
- در طی
- سهولت
- ساده
- اثرات
- تلاش
- رمزگذاری
- مهندسی
- ضروری است
- اخلاقی
- تکامل
- انتظارات
- تخصص
- کارشناسان
- جعلی
- زمینه
- مالی
- کلاهبرداری مالی
- پیدا کردن
- برای
- تقلب
- از جانب
- آینده
- تولید می کنند
- مولد
- هوش مصنوعی مولد
- Go
- در حال رشد
- دست
- دهنه
- آیا
- چگونه
- چگونه
- اما
- HTTPS
- آی بی ام
- شناسایی
- پیامدهای
- in
- حادثه
- از جمله
- اطلاعات
- ابداع
- ابتکاری
- انتگرال
- تمامیت
- اطلاعات
- موضوع
- مسائل
- IT
- ITS
- تنها
- کلید واژه ها
- شناخته شده
- چشم انداز
- زبان
- بزرگ
- قانونی
- زنده
- زندگی
- به دنبال
- کم
- مانع کم
- دستکاری شده
- دست کاری
- بلوغ
- معیارهای
- مکانیسم
- روش
- میکروفن
- مدل
- نوین کردن
- بیش
- اکثر
- طبیعت
- نیاز
- خالص
- جدید
- اخبار
- اشاره کرد
- of
- on
- ONE
- فقط
- or
- دیگر
- ما
- خارج
- روی
- بخش
- شخصی
- پدیده
- فیشینگ
- تلفن
- تماس های تلفنی
- عبارات
- محوری
- افلاطون
- هوش داده افلاطون
- PlatoData
- پوک
- نقطه
- سیاسی
- فرصت
- پتانسیل
- قوی
- روند
- در حال پردازش
- تولید کردن
- عمیق
- پرسیدن
- ارائه
- عمومی
- اعتماد عمومی
- سوال
- افزایش
- نسبتا
- می رسد
- خواندن
- واقعی
- زمان واقعی
- ضبط
- کاهش
- پالوده
- نشان دهنده
- محققان
- نشان داد
- فاش می کند
- طلوع
- خطر
- خطرات
- نقش
- قوانین
- حفاظت
- طرح
- علم
- ثانیه
- تیم امنیت لاتاری
- اقدامات امنیتی
- محیط
- چند
- شیخ
- انتقال
- باید
- سیگنال
- قابل توجه
- به طور قابل توجهی
- آگاهی
- مهندسی اجتماعی
- جامعه
- مصنوعی
- منبع
- خاص
- سخنرانی
- صرف
- گفته شده
- گسترش
- حیرت آور
- مراحل
- خیره کننده
- چنین
- جای تعجب
- طول می کشد
- تکنیک
- تکنیک
- فن آوری
- پیشرفته
- تبدیل متن به گفتار
- که
- La
- آینده
- شان
- سپس
- اینها
- آنها
- این
- تهدید
- تهدید
- سه
- از طریق
- بدین ترتیب
- زمان
- به
- ابزار
- سنتی
- معاملات
- روند
- درست
- اعتماد
- توییتر
- تأکید
- نا محدود
- بی سابقه
- استفاده
- استفاده کنید
- با استفاده از
- نسخه
- از طريق
- قربانیان
- صدا
- صداها
- هشدار
- بود
- we
- چه زمانی
- که
- در حین
- WHO
- گسترده تر
- با
- در داخل
- بدون
- کلمات
- مهاجرت کاری
- با این نسخهها کار
- خواهد بود
- زفیرنت