মেটার নতুন এআই স্পিচ টুলটি ডিপফেকের জন্য প্রস্তুত-তাই এটি প্রকাশ করা হচ্ছে না - ডিক্রিপ্ট

মেটা তার ধাক্কা অব্যাহত শুক্রবার ক্রমবর্ধমান জনাকীর্ণ AI ক্ষেত্রের মধ্যে, নামক একটি টুল তৈরির ঘোষণা দেয় ভয়েসবক্স. এটি বিভিন্ন সম্ভাব্য ব্যবহারের ক্ষেত্রে কথ্য কথোপকথন তৈরি করার জন্য একটি অ্যাপ—কিন্তু এটি অপব্যবহারের জন্যও উপযুক্ত, যেমন মেটা স্বীকার করেছে, ঠিক এই কারণেই সোশ্যাল মিডিয়া জায়ান্ট এখনও জনসাধারণের কাছে ভয়েসবক্স প্রকাশ করছে না।

পূর্ববর্তী ভয়েস জেনারেটর প্ল্যাটফর্মের বিপরীতে, মেটা বলছে ভয়েসবক্স স্পিচ জেনারেশনের কাজগুলি সম্পাদন করতে পারে যা এটি বিশেষভাবে প্রশিক্ষিত ছিল না। টেক্সট ইনপুট এবং প্রেক্ষাপটের জন্য একটি সংক্ষিপ্ত অডিও ক্লিপ সহ, এআই টুলটি নতুন বক্তৃতার একটি সম্ভাব্য বিশ্বাসযোগ্য অংশ তৈরি করতে পারে যা উৎস ক্লিপটিতে যে কেউ ছিল তার মতো শোনাচ্ছে।

"ভয়েসবক্সের আগে, বক্তৃতার জন্য জেনারেটিভ এআই সাবধানে প্রস্তুত প্রশিক্ষণ ডেটা ব্যবহার করে প্রতিটি কাজের জন্য নির্দিষ্ট প্রশিক্ষণের প্রয়োজন ছিল," মেটা এআই বলেছে। "ভয়েসবক্স শুধুমাত্র কাঁচা অডিও এবং একটি সহগামী প্রতিলিপি থেকে শেখার জন্য একটি নতুন পদ্ধতি ব্যবহার করে।"

জেনারেটিভ এআই হল এক ধরনের প্রোগ্রাম যা ব্যবহারকারীর প্রম্পটের প্রতিক্রিয়ায় পাঠ্য, ছবি বা অন্যান্য মিডিয়া তৈরি করতে সক্ষম। মেটা এআই বলেছে যে ভয়েসবক্স ইংরেজি, ফ্রেঞ্চ, জার্মান, স্প্যানিশ, পোলিশ এবং পর্তুগিজ সহ ছয়টি ভাষায় অডিও তৈরি করতে পারে এবং বাস্তব জগতে মানুষ কীভাবে স্বাভাবিকভাবে কথা বলে তার কাছাকাছি কাজ করতে পারে।

মেটা পরামর্শ দেয় যে টুলটি প্রযুক্তির সরঞ্জামগুলি ব্যবহার করে বিভিন্ন ভাষায় কথোপকথন উন্নত করতে বা আরও প্রাকৃতিক-শব্দযুক্ত ভিডিও গেম চরিত্রের সংলাপ সরবরাহ করতে ব্যবহার করা যেতে পারে। কিন্তু ভয়েসবক্স কপিক্যাট "ডিপফেক" সংলাপ তৈরি করার একটি দ্রুত এবং আরও লাভজনক উপায়ের মতো দেখায়, এটিকে কেউ (সম্ভবত একজন জনসাধারণের ব্যক্তিত্ব বা সেলিব্রিটি) এমন কিছু বলেছে যা তারা সত্যিই করেনি৷

যদিও এটি AI বিকাশে একটি যুগান্তকারী হতে পারে, মেটা AI অপব্যবহারের সম্ভাবনার কথাও স্বীকার করেছে এবং বলেছে যে কোম্পানিটি শ্রেণীবদ্ধকারী তৈরি করেছে যা ভয়েসবক্স সৃষ্টি এবং মানুষের মধ্যে পার্থক্য করে। স্প্যাম ফিল্টারগুলির মতো, এআই ক্লাসিফায়ারগুলি এমন প্রোগ্রাম যা ডেটাকে বিভিন্ন গোষ্ঠী বা শ্রেণিতে বাছাই করে — এই ক্ষেত্রে, মানব বা এআই-উত্পন্ন।

মেটা তার ব্লগ পোস্টে এআই বিকাশে স্বচ্ছতার প্রয়োজনীয়তার উপর জোর দিয়ে বলেছে যে গবেষণা সম্প্রদায়ের সাথে খোলা থাকা অত্যন্ত গুরুত্বপূর্ণ। যাইহোক, কোম্পানিটি আরও বলেছে যে সম্ভাব্য নেতিবাচক উপায়ে প্রযুক্তি ব্যবহার করার সম্ভাবনার কারণে ভয়েসবক্সকে সর্বজনীনভাবে উপলব্ধ করার কোনো পরিকল্পনা নেই।

মেটা এআইয়ের একজন মুখপাত্র বলেছেন, "উৎপাদনশীল বক্তৃতা মডেলের জন্য অনেক উত্তেজনাপূর্ণ ব্যবহারের ঘটনা রয়েছে, কিন্তু অপব্যবহারের সম্ভাব্য ঝুঁকির কারণে, আমরা এই সময়ে ভয়েসবক্স মডেল বা কোডটি সর্বজনীনভাবে উপলব্ধ করছি না" ডিক্রিপ্ট করুন একটি ইমেইল।

"যদিও আমরা বিশ্বাস করি যে এআই সম্প্রদায়ের সাথে খোলামেলা হওয়া এবং AI-তে শিল্পের অবস্থাকে এগিয়ে নেওয়ার জন্য আমাদের গবেষণা ভাগ করা গুরুত্বপূর্ণ," মুখপাত্র অব্যাহত রেখেছিলেন, "দায়িত্বের সাথে খোলামেলাতার মধ্যে সঠিক ভারসাম্য বজায় রাখাও প্রয়োজনীয়।"

একটি কার্যকরী অবস্থায় টুলটি প্রকাশ করার পরিবর্তে, মেটা সহযোগী গবেষকদের এর সম্ভাব্যতা বুঝতে সাহায্য করার জন্য অডিও নমুনা এবং একটি গবেষণাপত্র ভাগ করেছে।

এআই ঝুঁকি আবির্ভূত হয়

গত নভেম্বরে OpenAI-এর ChatGPT চালু হওয়ার পর থেকে কৃত্রিম বুদ্ধিমত্তার সরঞ্জামগুলি, বিশেষ করে AI চ্যাটবটগুলি আরও সাধারণ হয়ে উঠেছে, কৃত্রিম বুদ্ধিমত্তার দ্রুত অগ্রগতি বিশ্ব নেতারা প্রযুক্তির সম্ভাব্য অপব্যবহার সম্পর্কে সতর্কতা বাজিয়েছে৷

সোমবার জাতিসংঘের মহাসচিব এ বিষয়ে পুনর্ব্যক্ত করেছেন সতর্কবার্তা জেনারেটিভ এআই সম্পর্কে গুরুত্ব সহকারে।

জাতিসংঘের মহাসচিব আন্তোনিও গুতেরেস এক সংবাদ সম্মেলনে বলেছেন, "কৃত্রিম বুদ্ধিমত্তার সর্বশেষ রূপ, জেনারেটিভ এআই, বধির করে দিচ্ছে এবং এটির ডিজাইন করা ডেভেলপারদের কাছ থেকে তারা সবচেয়ে বেশি উচ্চারিত।" "বিজ্ঞানীরা এবং বিশেষজ্ঞরা বিশ্বকে কাজ করার আহ্বান জানিয়েছেন, এআইকে পারমাণবিক যুদ্ধের ঝুঁকির সাথে মানবতার জন্য একটি অস্তিত্বের হুমকি হিসাবে ঘোষণা করেছেন।"

বৈশ্বিক পারমাণবিক যুদ্ধের হুমকির বিষয়ে যতটা সম্ভব, সেই সম্ভাবনা বিজ্ঞান কল্পকাহিনীর ক্ষেত্রেই রয়ে গেছে এবং হলিউড ব্লকবাস্টার জেনারেটিভ এআই এর অপব্যবহারের সম্ভাবনা বেশি সেইসব স্ক্যাম থেকে কীভাবে ডিপ ফেক ছবি এবং ভয়েস ব্যবহার করে ব্যক্তিদের টার্গেট করে টাকা হাতিয়ে নেওয়ার জন্য ক্ষতিগ্রস্থদের প্রতারণা করা, উদাহরণস্বরূপ—অথবা, জাতিসংঘ একটি সাম্প্রতিক প্রতিবেদনে বলেছে, ঘৃণা এবং ভুল তথ্য অনলাইন।

A deepfake কৃত্রিম বুদ্ধিমত্তা দিয়ে তৈরি একটি ক্রমবর্ধমান সাধারণ ধরনের ভিডিও বা অডিও বিষয়বস্তু যা মিথ্যা ঘটনাকে চিত্রিত করে, কিন্তু এমনভাবে করা হয় যা জাল হিসাবে চিহ্নিত করা খুব কঠিন হতে পারে।

এপ্রিল মাসে, সিএনএন রিপোর্ট যে স্ক্যামাররা অ্যারিজোনা মহিলার 15 বছর বয়সী মেয়ের ভয়েস ক্লোন করতে AI প্রযুক্তি ব্যবহার করেছিল, দাবি করেছিল যে তারা কিশোরটিকে অপহরণ করেছে এবং মুক্তিপণ দাবি করেছে। এবং মার্চে, প্রাক্তন রাষ্ট্রপতির একটি এআই-উত্পন্ন চিত্র ডোনাল্ড ট্রাম্প গ্রেপ্তার হওয়া সোশ্যাল মিডিয়ায় শেয়ার করার পর ভাইরাল হয়ে যায়।

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• ইভিএম ফাইন্যান্স। বিকেন্দ্রীভূত অর্থের জন্য ইউনিফাইড ইন্টারফেস। এখানে প্রবেশ করুন.
• কোয়ান্টাম মিডিয়া গ্রুপ। IR/PR প্রশস্ত। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ডেটা ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• উত্স: https://decrypt.co/145034/meta-new-ai-speech-tool-ready-made-deepfakes