IBM سیکیورٹی کے محققین نے مصنوعی ذہانت میں ایک چونکا دینے والے نئے خطرے کا انکشاف کیا ہے: "آڈیو جیکنگ" کے نام سے جانے والی تکنیک کے ذریعے لائیو گفتگو کو جوڑ توڑ کرنے کی صلاحیت۔
جنریٹو AI اور ڈیپ فیک آڈیو ٹیکنالوجی کا استعمال کرتے ہوئے، یہ طریقہ بولے جانے والے الفاظ کو حقیقی وقت میں روک کر تبدیل کر سکتا ہے، جس سے ڈیجیٹل کمیونیکیشن میں بے مثال خطرات لاحق ہو سکتے ہیں۔
مزید پڑھئے: AI ڈیپ فیک کا پتہ لگانے نے دھوکہ دہی کے بڑھتے ہوئے چیلنجز کے خلاف پیشرفت کی۔
آڈیو جیکنگ کے خطرے کو بے نقاب کرنا
آڈیو جیکنگ دو طرفہ مواصلات سے لائیو آڈیو پر کارروائی کر کے کام کرتی ہے، جیسے کہ فون کالز، اور مخصوص کلیدی الفاظ یا فقرے تلاش کر کے۔ جب ان محرکات کا پتہ چل جاتا ہے، تو AI قدم رکھتا ہے اور مستند آڈیو کو اپنی منزل تک پہنچنے سے پہلے ہیرا پھیری والے ڈیپ فیک ورژن سے بدل دیتا ہے۔ ایک شاندار مثال یہ تکنیک آئی بی ایم کے محققین نے فراہم کی ہے، جنہوں نے بینک اکاؤنٹ کی معلومات کو تبدیل کر دیا جو بات چیت کے دوران بولی گئی تھی، بغیر پتہ چلائے۔
آڈیو جیکنگ: لائیو آڈیو لین دین کو بگاڑنے کے لیے جنریٹو AI کا استعمال: جنریٹو AI کے عروج نے، بشمول ٹیکسٹ ٹو امیج، ٹیکسٹ ٹو اسپیچ اور بڑے لینگویج ماڈلز (LLMs) نے ہمارے کام اور ذاتی زندگی کو نمایاں طور پر تبدیل کر دیا ہے۔ جبکہ یہ پیش رفت… https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
— شاہ شیخ (@shah_sheikh) 1 فروری 2024
اس حملے کے لیے جس آسانی سے ثبوت کا تصور وضع کیا جا سکتا ہے وہ پریشان کن ہے۔ محققین نے نوٹ کیا کہ سب سے مشکل حصہ AI بنانا نہیں تھا بلکہ لائیو آڈیو ریکارڈنگ اور پروسیسنگ کی تکنیکی خصوصیات تھیں۔ ترقی کی یہ آسانی روایتی توقعات سے ایک اہم رخصتی کی نمائندگی کرتی ہے، جہاں اس طرح کی کوشش کو کمپیوٹر سائنس کے کئی شعبوں میں کافی مہارت کی ضرورت ہوگی۔
"اس PoC کی تعمیر حیرت انگیز اور خوفناک حد تک آسان تھی۔ ہم نے زیادہ تر وقت یہ جاننے میں صرف کیا کہ مائیکروفون سے آڈیو کیسے کیپچر کیا جائے اور آڈیو کو جنریٹیو AI میں فیڈ کیا جائے۔
اس سکیم میں، کا کردار پیداواری AI۔ اہم ہے. کسی شخص کی آواز کے صرف تین سیکنڈز کا استعمال کرتے ہوئے، ٹیکنالوجی ایک قائل کلون بنا سکتی ہے تاکہ مانگ پر جائز ڈیپ فیکس تیار کیا جا سکے۔ یہ قابلیت، جو APIs کے ذریعے دستیاب ہے، ایڈوانس مینیپولیشن ٹولز کے لیے ڈیموکریٹائزیشن کے عمل میں ایک پریشان کن رجحان کی طرف اشارہ کرتی ہے۔
"آج کل، ہمیں کسی فرد کی آواز کو کلون کرنے کے لیے صرف تین سیکنڈز کی ضرورت ہوتی ہے اور مستند جعلی آوازیں پیدا کرنے کے لیے ٹیکسٹ ٹو اسپیچ API استعمال کرتے ہیں۔"
مضمرات اور ممکنہ غلط استعمال
تاہم، آڈیو جیکنگ کے اثرات صرف مالی فراڈ سے آگے بڑھتے ہیں۔ اس طرح کی ٹیکنالوجی حقیقی وقت میں سنسر شپ کے قابل ہے، براہ راست نشریات، جیسے خبروں اور سیاسی تقاریر کو بغیر کسی کھوج کے تبدیل کر سکتی ہے۔ یہ صلاحیتیں معلومات کی سالمیت پر سمجھوتہ کرتی ہیں، جس کے جمہوریت اور عوامی اعتماد پر گہرے اثرات مرتب ہوتے ہیں۔
آڈیو جیکنگ حملے میں کم رکاوٹ کے ساتھ، جدید ترین سوشل انجینئرنگ یا فشنگ میں نمایاں کمی آئی ہے۔ یہ آسانی پھر ایسے حملوں کے پھیلاؤ کے مسائل کو جنم دیتی ہے، اس طرح موجودہ حفاظتی اقدامات کے لیے چیلنجز پیدا ہوتے ہیں اور نئے دفاعی طریقہ کار کی ضرورت ہوتی ہے۔
"اس PoC کی پختگی صارفین کے لیے ایک اہم خطرے کا اشارہ دے گی، سب سے پہلے… اس حملے کو جتنا زیادہ بہتر کیا جائے گا، متاثرین کا جال اتنا ہی وسیع ہو گا جو اسے ڈال سکتا ہے۔"
آڈیو جیکنگ کا رجحان AI کی ترقی کے اندر ایک وسیع تر مسئلے کی نشاندہی کرتا ہے: کی دوہری نوعیت پیدا کرنے والی ٹیکنالوجیز. ایک طرف، وہ اختراعی اور تخلیقی صلاحیتوں کے لامحدود امکانات کا ذریعہ ہیں۔ دوسری طرف، ان کے غلط استعمال کی صلاحیت کو نظر انداز نہیں کیا جانا چاہئے. یہ واقعہ ایک اہم سوال کو جنم دیتا ہے: معاشرہ اس کے گہرے استعمال سے بچتے ہوئے AI کے فوائد سے کیسے فائدہ اٹھا سکتا ہے؟
AI سیکیورٹی کے مستقبل کو نیویگیٹ کرنا
ڈیجیٹل خطرات کے بدلتے ہوئے منظر نامے کے ساتھ، IBM سیکیورٹی کی آڈیو جیکنگ کی شناخت چوکس رہنے اور سائبر سیکیورٹی کو جدید بنانے کے لیے ایک ضروری انتباہ ہے۔ انسدادی اقدامات کا ارتقاء، بشمول اختراعی پتہ لگانے والے الگورتھم اور زیادہ مضبوط خفیہ کاری کی تکنیک، اس طرح کے جدید ترین خطرات سے نمٹنے کے لیے اہم ہے۔
اس کے علاوہ، اس انکشاف سے پتہ چلتا ہے کہ اخلاقی مسائل لازمی ہیں۔ AI تحقیق اور ترقی. ایسی طاقتور ٹیکنالوجیز کے خطرات سے نمٹنے کے لیے AI کے ذمہ دارانہ استعمال کے لیے اصول اور معیارات مرتب کرنا ضروری ہے۔
- SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
- پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
- پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
- پلیٹو ای ایس جی۔ کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
- پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
- ماخذ: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- : ہے
- : ہے
- : نہیں
- $UP
- 1
- 11
- 7
- 8
- a
- کی صلاحیت
- اکاؤنٹ
- کے پار
- خطاب کرتے ہوئے
- اعلی درجے کی
- کے خلاف
- AI
- یلگوردمز
- تبدیل
- an
- اور
- اے پی آئی
- APIs
- ایپلی کیشنز
- کیا
- مصنوعی
- مصنوعی ذہانت
- AS
- At
- حملہ
- حملے
- آڈیو
- مستند
- دستیاب
- بینک
- بینک اکاؤنٹ
- رکاوٹ
- BE
- رہا
- اس سے پہلے
- کیا جا رہا ہے
- معیارات
- فوائد
- سے پرے
- وسیع
- لیکن
- by
- کالز
- کر سکتے ہیں
- صلاحیتوں
- صلاحیت رکھتا
- قبضہ
- سنسر شپ
- چیلنجوں
- چیلنج
- تبدیل کر دیا گیا
- مقابلہ کرنا
- مواصلات
- کموینیکیشن
- سمجھوتہ
- کمپیوٹر
- کمپیوٹر سائنس
- کافی
- صارفین
- بات چیت
- مکالمات
- سکتا ہے
- تخلیق
- تخلیقی
- اہم
- موجودہ
- سائبر سیکیورٹی
- خطرات
- گہرا
- دھوکہ / فشنگ
- deepfakes
- دفاع
- ڈیمانڈ
- جمہوریت
- جمہوری بنانا
- روانگی
- منزل
- پتہ چلا
- کھوج
- ترقی
- ڈیجیٹل
- انکشاف
- بات چیت
- ڈبل
- کے دوران
- کو کم
- آسان
- اثرات
- کوشش
- خفیہ کاری
- انجنیئرنگ
- ضروری
- اخلاقی
- ارتقاء
- توقعات
- مہارت
- ماہرین
- جعلی
- قطعات
- مالی
- مالی دھوکہ دہی
- مل
- کے لئے
- دھوکہ دہی
- سے
- مستقبل
- پیدا
- پیداواری
- پیداواری AI۔
- Go
- بڑھتے ہوئے
- ہاتھ
- کنٹرول
- ہے
- کس طرح
- کیسے
- تاہم
- HTTPS
- IBM
- شناخت
- اثرات
- in
- واقعہ
- سمیت
- معلومات
- جدت طرازی
- جدید
- اٹوٹ
- سالمیت
- انٹیلی جنس
- مسئلہ
- مسائل
- IT
- میں
- صرف
- مطلوبہ الفاظ
- جانا جاتا ہے
- زمین کی تزئین کی
- زبان
- بڑے
- جائز
- رہتے ہیں
- زندگی
- تلاش
- لو
- کم رکاوٹ
- جوڑی
- ہیرا پھیری
- پختگی
- اقدامات
- نظام
- طریقہ
- مائکروفون
- ماڈل
- جدید خطوط پر استوار
- زیادہ
- سب سے زیادہ
- فطرت، قدرت
- ضرورت ہے
- خالص
- نئی
- خبر
- کا کہنا
- of
- on
- ایک
- صرف
- or
- دیگر
- ہمارے
- باہر
- پر
- حصہ
- ذاتی
- رجحان
- فشنگ
- فون
- فون کالز
- جملے
- اہم
- پلاٹا
- افلاطون ڈیٹا انٹیلی جنس
- پلیٹو ڈیٹا
- پی او سی
- پوائنٹس
- سیاسی
- امکانات
- ممکنہ
- طاقتور
- عمل
- پروسیسنگ
- پیدا
- گہرا
- اشارہ کرتا ہے
- فراہم
- عوامی
- عوامی اعتماد
- سوال
- اٹھاتا ہے
- بلکہ
- پہنچتا ہے
- پڑھیں
- اصلی
- اصل وقت
- ریکارڈنگ
- کم
- بہتر
- کی نمائندگی کرتا ہے
- محققین
- انکشاف
- پتہ چلتا
- اضافہ
- رسک
- خطرات
- کردار
- قوانین
- حفاظت کرنا
- سکیم
- سائنس
- سیکنڈ
- سیکورٹی
- حفاظتی اقدامات
- قائم کرنے
- کئی
- شیخ
- منتقلی
- ہونا چاہئے
- اشارہ
- اہم
- نمایاں طور پر
- سماجی
- معاشرتی انجینرنگ
- سوسائٹی
- بہتر
- ماخذ
- مخصوص
- تقاریر
- خرچ
- بات
- پھیلانا
- چونکا دینے والا
- مراحل
- شاندار
- اس طرح
- حیرت کی بات ہے
- لیتا ہے
- تکنیک
- تکنیک
- ٹیکنالوجی
- ٹیکنالوجی
- متن سے تقریر۔
- کہ
- ۔
- مستقبل
- ان
- تو
- یہ
- وہ
- اس
- خطرہ
- خطرات
- تین
- کے ذریعے
- اس طرح
- وقت
- کرنے کے لئے
- اوزار
- روایتی
- معاملات
- رجحان
- سچ
- بھروسہ رکھو
- ٹویٹر
- اندراج
- لا محدود
- بے مثال
- استعمال
- استعمال کی شرائط
- کا استعمال کرتے ہوئے
- ورژن
- کی طرف سے
- متاثرین
- وائس
- آوازیں
- انتباہ
- تھا
- we
- جب
- جس
- جبکہ
- ڈبلیو
- وسیع
- ساتھ
- کے اندر
- بغیر
- الفاظ
- کام
- کام کرتا ہے
- گا
- زیفیرنیٹ