রিয়েল-টাইম ডিপফেকগুলিকে একদৃষ্টিতে মারতে পারে৷

রিয়েল-টাইম ডিপফেক ভিডিও, ইন্টারনেট অনিশ্চয়তার নতুন যুগের আনয়নকারী হিসাবে প্রচারিত, একটি মৌলিক ত্রুটি রয়েছে বলে মনে হচ্ছে: তারা পার্শ্ব প্রোফাইলগুলি পরিচালনা করতে পারে না।

যে একটি উপসংহার টানা রিপোর্ট Metaphysic.ai থেকে [PDF], যা 3D অবতার, ডিপফেক প্রযুক্তি এবং 3D ফটোগ্রাফ থেকে 2D ছবি রেন্ডারিং-এ বিশেষজ্ঞ। পরীক্ষায় এটি জনপ্রিয় রিয়েল-টাইম ডিপফেক অ্যাপ ব্যবহার করে পরিচালিত হয় ডিপফেসলাইভ, পাশে একটি কঠিন বাঁক এটি সহজেই স্পষ্ট করে তুলেছে যে পর্দায় থাকা ব্যক্তিটি যাকে দেখা যাচ্ছে তা নয়। 

পরীক্ষায় একাধিক মডেল ব্যবহার করা হয়েছিল – ডিপফেক সম্প্রদায়ের বেশ কয়েকটি এবং DeepFaceLive-এ অন্তর্ভুক্ত মডেলগুলি – কিন্তু মুখের একটি 90-ডিগ্রি ভিউ ঝিকিমিকি এবং বিকৃতির কারণ হয়ে দাঁড়ায় কারণ ফেসিয়াল অ্যালাইনমেন্ট নেটওয়ার্ক ভঙ্গি অনুমান করার জন্য ব্যবহার করা হয়েছিল এটি কী দেখছে তা বোঝার জন্য লড়াই করে। 

"অধিকাংশ 2D-ভিত্তিক ফেসিয়াল অ্যালাইনমেন্ট অ্যালগরিদমগুলি একটি প্রোফাইল ভিউতে ফ্রন্ট-অন ফেস ভিউ থেকে ল্যান্ডমার্কের সংখ্যার মাত্র 50-60 শতাংশ নির্ধারণ করে," বলেছেন Metaphysic.ai এর অবদানকারী মার্টিন অ্যান্ডারসন, যিনি গবেষণাটি লিখেছেন ব্লগ পোস্ট.

পর্যাপ্ত রেফারেন্স পয়েন্ট দেখতে সক্ষম না হয়ে, সফ্টওয়্যারটি কেবল তার জাল মুখটি কীভাবে প্রজেক্ট করতে হয় তা জানে না।

deepfakes derailing

মাত্র কয়েক বছরের মধ্যে, ডিপফেকগুলি ইমেজগুলিতে মুখগুলিকে সুপার ইমপোজ করতে সক্ষম হওয়া থেকে প্রি-রেকর্ড করা ভিডিওতে একই কাজ করতে সক্ষম হয়েছে৷ সাম্প্রতিক অগ্রগতিগুলি রিয়েল-টাইম ফেস সোয়াপিংয়ের অনুমতি দেয়, যার ফলে অনলাইন জালিয়াতি এবং সাইবার ক্রাইমে আরও ডিপফেক ব্যবহার করা হয়েছে৷

A অধ্যয়ন VMware থেকে পাওয়া গেছে যে দুই তৃতীয়াংশ উত্তরদাতারা আক্রমণের অংশ হিসাবে দূষিত ডিপফেকের সম্মুখীন হয়েছেন, যা আগের বছরের তুলনায় 13 শতাংশ বৃদ্ধি পেয়েছে। মনে রাখবেন যে ভিএমওয়্যার অধ্যয়নটি নির্দিষ্ট করেনি যে উত্তরদাতারা যে ডিপফেক আক্রমণের সম্মুখীন হয়েছে সেগুলি পূর্ব-রেকর্ড করা বা রিয়েল টাইম ছিল কিনা এবং শুধুমাত্র 125 জনের নমুনার আকার ছিল।

এফবিআই জুন মাসে ডিপফেক প্রযুক্তি ব্যবহার করে স্ক্যামারদের সতর্ক করেছিল দূরবর্তী চাকরির সাক্ষাত্কারের সময়. যারা এই কৌশলটি ব্যবহার করছেন তাদের সংবেদনশীল কাজের জন্য সাক্ষাত্কার দিতে দেখা গেছে যা তাদের গ্রাহকের ডেটা এবং ব্যবসার মালিকানাধীন তথ্যে অ্যাক্সেস দেবে, এফবিআই বলেছে। 

ডিপফেক ভিডিওগুলি লাইভ ফেসিয়াল রিকগনিশন সফ্টওয়্যারকে কৌশলে ব্যবহার করা হয়েছে, অনুযায়ী অনলাইন জালিয়াতি-সংক্রান্ত স্টার্টআপ সেন্সিটি এআই-এর জন্য। সংবেদনশীলতার পরীক্ষায় দেখা গেছে যে দশটি বিক্রেতার অ্যাপের মধ্যে নয়টি মোবাইল ফোন থেকে স্ট্রিম করা একটি ডিপফেক-পরিবর্তিত ভিডিও ব্যবহার করে সফলভাবে আনলক করা হয়েছে।

প্রযুক্তি নিয়ে আশঙ্কা ইউরোপীয় ইউনিয়নের জন্য যথেষ্ট গুরুতর হয়ে উঠেছে আইন পাস ডিপফেকস এবং অন্য তথ্যের অন্যান্য উৎসের বিরুদ্ধে পর্যাপ্তভাবে লড়াই করতে ব্যর্থ কোম্পানিগুলির উপর জরিমানা আরোপ করা। চীনও খসড়া তৈরি করেছে গভীর জাল আইন যা প্রযুক্তির অপব্যবহারের জন্য আইনি শাস্তির হুমকি দেয়, সেইসাথে ডিপফেকগুলির বৈধ ব্যবহারের জন্য অনুমতির প্রয়োজন হয়, যাকে চীন "গভীর সংশ্লেষণ" বলে। 

কতদিনের জন্য একটি সমাধান?

মেটাফিজিকের রিপোর্ট অনুযায়ী, এমনকি এনভিডিয়ার মতো প্রযুক্তিও নিউরাল রেডিয়েন্স ক্ষেত্র (NeRF), যা শুধুমাত্র কয়েকটি স্থির চিত্র থেকে একটি 3D দৃশ্য তৈরি করতে পারে, সীমাবদ্ধতার সম্মুখীন হয় যা একটি ভাল পার্শ্ব প্রোফাইল ভিউ তৈরি করা কঠিন করে তোলে। 

NeRFs “তাত্ত্বিকভাবে, মাত্র কয়েকটি ছবি থেকে মুখের যেকোন সংখ্যক কোণ এক্সট্রাপোলেট করতে পারে। [তবে] রেজোলিউশন, মুখের গতিশীলতা এবং অস্থায়ী স্থিতিশীলতা সম্পর্কিত সমস্যাগুলি এনইআরএফকে একটি অটোএনকোডার মডেল প্রশিক্ষণের জন্য প্রয়োজনীয় সমৃদ্ধ ডেটা তৈরি করতে বাধা দেয় যা প্রোফাইল চিত্রগুলিকে ভালভাবে পরিচালনা করতে পারে,” অ্যান্ডারসন লিখেছেন। আমরা আরও জানতে এনভিডিয়ার সাথে যোগাযোগ করেছি, কিন্তু এখনও শুনিনি। 

পাঠকরা লক্ষ্য করবেন যে মেটাফিজিকের প্রদর্শনীতে শুধুমাত্র সেলিব্রিটি মুখগুলি অন্তর্ভুক্ত ছিল, যার মধ্যে প্রচুর প্রোফাইল ভিউ ফিল্ম এবং ফটোতে ক্যাপচার করা হয়েছে। আমাদের মধ্যে অ-বিখ্যাত, অন্যদিকে, হাতে অনেক সাইড প্রোফাইল শট থাকার সম্ভাবনা নেই।

অ্যান্ডারসন লিখেছেন, "যদি না আপনি কোনো সময়ে গ্রেপ্তার না হন, তাহলে সম্ভবত সোশ্যাল মিডিয়া বা অফলাইন সংগ্রহে আপনার এমন একটি ছবিও নেই।"

গৌরব ওবেরয়, একজন সফ্টওয়্যার প্রকৌশলী এবং AI স্টার্টআপ Lexion-এর প্রতিষ্ঠাতা, 2018 সালে ডিপফেক নিয়ে গবেষণা করার সময় অনেকটাই একই রকম খুঁজে পেয়েছেন। তার ব্লগে পোস্ট করুন, ওবেরয় বিশদ বর্ণনা করেছেন যে কীভাবে কৌতুক অভিনেতা জন অলিভারের ডিপফেকগুলি গভীর রাতের হোস্ট জিমি ফ্যালনের উপরে সুপারইম্পোজ করেছে, তবে প্রোফাইলে নয়।

ওবেরয় বলেন, "সাধারণভাবে, আপনার টার্গেটের প্রশিক্ষণের চিত্রগুলিকে আপনি যে ভিডিওগুলিতে আটকাতে চান সেগুলির অভিযোজন, মুখের অভিব্যক্তি এবং আলোকসজ্জার আনুমানিক প্রয়োজন। "সুতরাং আপনি যদি গড় ব্যক্তির জন্য একটি ফেস সোয়াপ টুল তৈরি করেন, যেগুলির মধ্যে বেশিরভাগ ছবিই সামনের দিকে থাকবে, মুখের অদলবদলগুলি বেশিরভাগই সামনের দিকের ভিডিওগুলিতে সীমাবদ্ধ করুন।"

এর মানে কি, বাস্তবে, স্ক্যামাররা রিয়েল-টাইম ডিপফেক ব্যবহার করে এমন একটি সাইড প্রোফাইল ভিউ তৈরি করার জন্য প্রয়োজনীয় ডেটা থাকার সম্ভাবনা নেই যা অবিলম্বে জাল হিসাবে শনাক্ত করা যায় না (যদি তারা একটি ভাল ফটোগ্রাফ করা সেলিব্রিটি মুখ ব্যবহার না করে থাকে) . 

যতক্ষণ না আমরা জানি যে ডিপফেকাররা এই ত্রুটিটি কাটিয়ে উঠতে একটি উপায় খুঁজে পেয়েছে, জুমের অপর প্রান্তে থাকা ব্যক্তিকে তাদের মুখের একটি পার্শ্ব দৃশ্য দেখাতে বলার নীতি গ্রহণ করা একটি ভাল ধারণা - বিখ্যাত বা না। ®