کمیسیون تجارت فدرال (FTC) وعده پاداش 25,000 دلاری را برای بهترین راه حل برای مبارزه با تهدید فزاینده شبیه سازی صوتی هوش مصنوعی داده است.
از زمانی که هوش مصنوعی مولد به جریان اصلی تبدیل شد، تعداد سرویسهای آنلاینی که امکانات شبیهسازی صوتی با استفاده آسان را ارائه میدهند، که گاهی اوقات به عنوان دیپفیک صوتی شناخته میشوند، افزایش یافته است و نگرانیهایی را در مورد پتانسیل سوء استفاده از آن در حملات سایبری افزایش داده است.
به عنوان مثال، یک تهدید گسترده میتواند شامل جعل صدای مدیران عامل برای جعل هویت آنها باشد و به بخش مالی دستور دهد که پول را به حساب مهاجم منتقل کند. همچنین ممکن است دوستان و خانواده ها فریب بخورند تا برای عزیزانشان پول بفرستند و هنرمندان اجرا در صورتی که فناوری به رشد خود ادامه دهد، ممکن است معیشت آنها به خطر بیفتد.
طرفهای علاقهمند تا 12 ژانویه فرصت دارند تا ایدههای خود را برای کمک به رسیدگی به تقلب شبیهسازی صوتی مبتنی بر هوش مصنوعی، که عمدتاً بر پیشگیری، نظارت و ارزیابی این فناوری متمرکز است، ارسال کنند.
FTC میگوید: «این تلاش ممکن است به پیشبرد ایدهها برای کاهش خطرات بالادستی کمک کند - محافظت از مصرفکنندگان، متخصصان خلاق و کسبوکارهای کوچک در برابر آسیبهای شبیهسازی صوتی قبل از اینکه آسیب به مصرفکننده برسد.» گفت:.
همچنین ممکن است به پیشبرد ایده ها برای کاهش خطرات در سطح مصرف کننده کمک کند. و اگر ایدههای قابل اجرا ظاهر نشوند، این یک هشدار انتقادی و اولیه به سیاستگذاران خواهد بود که با توجه به چالش در جلوگیری از توسعه مضر برنامههای کاربردی در بازار، باید محدودیتهای سختتری را برای استفاده از این فناوری در نظر بگیرند.
موارد ارسالی بر اساس میزان امکان اجرا و مدیریت، میزان انعطاف پذیری آن در برابر تغییرات تکنولوژیکی، و میزان سنجیده بودن نحوه مسئولیت و مسئولیت بر عهده شرکت ها و سایر اقدامات ارزیابی خواهد شد.
جایزه برتر پیشنهادی 25,000 دلار است که با توجه به کاربردهای بالقوه گسترده ای که ممکن است یک راه حل مبتکرانه داشته باشد، مانند معدن طلا به نظر نمی رسد.
یک نفر نایب قهرمان نیز 4,000 دلار دریافت خواهد کرد، به سه جایزه افتخاری هر کدام 2,000 دلار برای مشکلات آنها پرداخت می شود و سازمان های 10 نفره یا بیشتر جایزه شناسایی بدون نقد دریافت خواهند کرد.
سوء استفاده از صدای هوش مصنوعی در عمل
اثربخشی شبیه سازی صدای هوش مصنوعی در موارد تکراری در سال گذشته ثابت شده است. کارشناسان فروشگاه امنیتی اسلواکی ESET نشان داد چگونه می توان نمونه فوق الذکر از مدیران عامل جعلی را از بین برد.
در واقع، سالها قبل از اینکه هوش مصنوعی مولد به دست افراد عادی بیاید، موضوعی مطرح بوده است. یک شرکت انرژی بریتانیا بود 243,000 دلار تخلیه شد در سال 2019 پس از اینکه به مدیر عامل آن دستور داده شد مبلغ زیادی را به یک تامین کننده مجارستانی ارسال کند.
یک نیویورک تایمز گزارشباز هم از 12 ماه گذشته، طیف وسیعی از موارد را با موفقیت بخش مالی را هدف قرار داده و بانک ها را فریب داده تا از افرادی که معتقدند مشتریان واقعی هستند، پول منتقل کنند. ال رج موارد مشابه را نیز گزارش کرده است حملات در امارات تا 2021 به عقب برگردد.
کلاهبرداری های عاشقانه نیز بسیار زیاد است، به طوری که یک بریتانیایی به دنبال یک است کوین کاستنر را فریب داد، و مجرمان نیز نشان داده اند که بالاتر از این نیستند کلاهبرداری "اورژانس خانوادگی". – آنهایی که والدین را با صدای شبیه سازی شده فرزندانشان که مثلاً برای وثیقه درخواست پول می کنند، هدف قرار می دهند.
بیشتر نمونه های شوم مادرانی را دیدهاند که ظاهراً از دخترانشان که توسط «ربایندگان» گروگان گرفته شدهاند، تماس گرفتهاند و باجهای هنگفتی را طلب میکنند.
شبیه سازی صدا با تغذیه یک مدل هوش مصنوعی داده های آموزشی کافی برای درک صدا، لحن، سرعت، انحراف و سایر تفاوت های ظریف صدای یک فرد امکان پذیر می شود. تصور میشود که افراد مشهور و دیگر شخصیتهای عمومی با توجه به تعداد ضبطشدههای صدایشان که در فضای مجازی وجود دارد، در معرض خطر شدید این حملات قرار دارند.
با ظهور رسانه های اجتماعی و فرهنگ تولید محتوای ویدیویی، بسیاری از افراد غیرمشهور و حتی کودکان نیز مطالب کافی آنلاین برای آموزش موثر یک مدل دارند.
محققان کسپرسکی در سال گذشته به افزایش شبیهسازی صوتی هوش مصنوعی پرداختند و طیف گستردهای از ابزارهای منبع باز و آزاد را کشف کردند که میتوانند صداهای شبیهسازی شده را با استفاده از فناوری هوش مصنوعی تولید کنند. با این حال، آنها ادعا کردند که برای راه اندازی و اجرای یک کلون متقاعد کننده، نیاز به کمی دانش پایتون و کمی سرهم بندی از طرف کلونر است.
با این حال، پیشنهادات پولی بسیار مؤثرتر هستند. محققان اشاره کردند مدل VALL-E مایکروسافت که ظاهرا می تواند یک کلون مناسب با تنها سه ثانیه صدای صوتی که به عنوان داده های آموزشی استفاده می شود، ایجاد کند.
راهحلهای پولی دیگری نیز وجود دارد که بهتر از راهحلهای رایگان کار میکنند، اما این راهحلها هنوز در مراحل اولیه توسعه هستند، بنابراین میتوان انتظار داشت که دقت و اثربخشی این مدلها در طول زمان بهبود یابد. ®
- محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
- PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
- PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
- PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
- PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
- منبع: https://go.theregister.com/feed/www.theregister.com/2024/01/05/ftc_voice_cloning_solution/
- : دارد
- :است
- :نه
- $UP
- 000
- 10
- 12
- ماه 12
- 2019
- 2021
- 7
- a
- بالاتر
- سو استفاده کردن
- حساب
- دقت
- نشانی
- اداره کردن
- پیشرفت
- پس از
- از نو
- در برابر
- AI
- همچنین
- در میان
- an
- و
- برنامه های کاربردی
- هستند
- AS
- خواهان
- ارزیابی
- At
- حمله
- سمعی
- در دسترس
- میانگین
- جایزه
- به عقب
- وثیقه
- بانک
- مستقر
- BE
- بوده
- قبل از
- اعتقاد بر این
- بهترین
- بهتر
- بیت
- پهن
- کسب و کار
- اما
- by
- تماس ها
- آمد
- CAN
- حمل
- موارد
- پول دادن و سكس - پول دادن و كس كردن
- بدون پرداخت پول نقد
- مشاهیر
- مدیر عامل شرکت
- مدیران اجرائی
- به چالش
- تبادل
- فرزندان
- مشتریان
- CNN
- CO
- مبارزه با
- کمیسیون
- شرکت
- شرکت
- نگرانی ها
- در نظر بگیرید
- با توجه به
- مصرف کننده
- مصرف کنندگان
- محتوا
- تولید محتوا
- ادامه دادن
- میتوانست
- ایجاد
- خالق
- جنایتکاران
- بحرانی
- فرهنگ
- حملات سایبری
- داده ها
- deepfakes
- تقاضا
- بخش
- دقیق
- پروژه
- کشف
- do
- ندارد
- هر
- در اوایل
- آسان برای استفاده
- موثر
- به طور موثر
- اثر
- تلاش
- ظهور
- اورژانس
- انرژی
- کافی
- ارزیابی
- حتی
- مثال
- اجرا کردن
- وجود داشته باشد
- انتظار
- کارشناسان
- امکانات
- واقعیت
- سقوط
- خانواده
- خانواده
- بسیار
- امکان پذیر است
- فدرال
- کمیسیون تجارت فدرال
- تغذیه
- آمار و ارقام
- سرمایه گذاری
- تمرکز
- برای
- به جلو
- تقلب
- رایگان
- آزادانه
- دوستان
- از جانب
- FTC
- تولید می کنند
- مولد
- هوش مصنوعی مولد
- واقعی
- دریافت کنید
- داده
- در حال رشد
- دست ها
- صدمه
- مضر
- مضرات
- آیا
- برگزار شد
- کمک
- چگونه
- اما
- HTML
- HTTPS
- بزرگ
- مجارستانی
- ایده ها
- if
- بهبود
- in
- مستقل
- فرد
- تورم
- به
- شامل
- موضوع
- IT
- ITS
- ژانویه
- JPG
- تنها
- بزرگ
- نام
- پارسال
- سطح
- بدهی
- پسندیدن
- محدودیت
- نگاه
- محبوب
- ساخته
- عمدتا
- مسیر اصلی
- بسیاری
- بازار
- ماده
- بالغ
- ممکن است..
- معیارهای
- رسانه ها
- اشاره می کند
- کاهش
- مدل
- مدل
- پول
- نظارت بر
- ماه
- بیش
- متحرک
- بسیار
- جدید
- نیویورک
- نیویورک تایمز
- تفاوت های ظریف
- عدد
- of
- خاموش
- ارائه
- ارائه
- پیشنهادات
- پیشنهادات
- on
- ONE
- آنهایی که
- آنلاین
- فقط
- باز کن
- منبع باز
- or
- سازمان های
- دیگر
- خارج
- روی
- پرداخت
- پدر و مادر
- بخش
- احزاب
- گذشته
- مردم
- شخص
- محل
- افلاطون
- هوش داده افلاطون
- PlatoData
- سیاستگذاران
- ممکن
- پست
- پتانسیل
- جلوگیری
- پیشگیری
- قبلی
- جایزه
- حرفه ای
- امید بخش
- اثبات شده
- عمومی
- فشار
- پــایتــون
- بالا بردن
- محدوده
- می رسد
- گرفتن
- به رسمیت شناختن
- اشاره
- تکرار
- گزارش
- ضروری
- محققان
- انعطاف پذیر
- مسئوليت
- پاداش
- طلوع
- خطر
- خطرات
- در حال اجرا
- s
- کلاهبرداری
- ثانیه
- بخش
- تیم امنیت لاتاری
- مشاهده گردید
- ارسال
- در حال ارسال
- خدمات
- فروشگاه
- باید
- نشان داده شده
- مشابه
- پس از
- کوچک
- کسب و کارهای کوچک
- So
- آگاهی
- رسانه های اجتماعی
- راه حل
- مزایا
- برخی از
- صدا
- منبع
- صحنه
- هنوز
- محکم تر
- ارسال
- موفقیت
- تهیه کننده
- گرفتن
- مصرف
- هدف
- هدف گذاری
- فن آوری
- فنی
- پیشرفته
- تمایل
- نسبت به
- که
- La
- شان
- آنها
- آنجا.
- اینها
- آنها
- این
- فکر
- تهدید
- سه
- زمان
- بار
- به
- TONE
- هم
- ابزار
- بالا
- تجارت
- قطار
- آموزش
- Uk
- فهمیدن
- تا
- استفاده کنید
- استفاده
- با استفاده از
- تنوع
- قابل اعتماد
- تصویری
- صدا
- صداها
- هشدار
- بود
- we
- رفت
- که
- WHO
- وسیع
- بطور گسترده
- اراده
- سیم
- با
- مهاجرت کاری
- خواهد بود
- وال استریت ژورنال
- سال
- سال
- نیویورک
- زفیرنت