ডিপফেক ডেমোক্রেসি: এআই প্রযুক্তি নির্বাচনের নিরাপত্তাকে জটিল করে তোলে

একটি কৃত্রিম বুদ্ধিমত্তা (AI)-জেনারেটেড ডিপফেক সহ সাম্প্রতিক ঘটনা প্রেসিডেন্ট বিডেনের ছদ্মবেশী রোবোকল নিউ হ্যাম্পশায়ার ভোটারদের প্রাইমারি থেকে বিরত থাকার জন্য অনুরোধ করা, একটি কঠোর অনুস্মারক হিসাবে পরিবেশন করা যে দূষিত অভিনেতারা ক্রমবর্ধমানভাবে আধুনিক জেনারেটিভ AI (GenAI) প্ল্যাটফর্মগুলিকে মার্কিন নির্বাচনকে লক্ষ্য করার জন্য একটি শক্তিশালী অস্ত্র হিসাবে দেখে।

চ্যাটজিপিটি, গুগলের জেমিনি (পূর্বে বার্ড) এর মতো প্ল্যাটফর্ম বা উদ্দেশ্য-নির্মিত ডার্ক ওয়েব বড় ভাষা মডেল (এলএলএম) গণতান্ত্রিক প্রক্রিয়াকে ব্যাহত করতে ভূমিকা রাখতে পারে, যার মধ্যে গণপ্রভাবমূলক প্রচারণা, স্বয়ংক্রিয় ট্রোলিং এবং এর বিস্তারকে অন্তর্ভুক্ত করে আক্রমণগুলি। deepfake বিষয়বস্তু

আসলে, এফবিআই পরিচালক ক্রিস্টোফার রে সম্প্রতি উদ্বেগ প্রকাশ করেছে ডিপফেক ব্যবহার করে চলমান তথ্য যুদ্ধ সম্পর্কে যা আসন্ন রাষ্ট্রপতির প্রচারণার সময় ভুল তথ্য বপন করতে পারে রাষ্ট্র সমর্থিত অভিনেতা ভূ-রাজনৈতিক ভারসাম্য পরিবর্তনের চেষ্টা।

GenAI এছাড়াও "এর উত্থান স্বয়ংক্রিয় করতে পারেসমন্বিত অপ্রমাণিক আচরণ" যে নেটওয়ার্কগুলি ভুয়া খবরের আউটলেট, সোশ্যাল মিডিয়া প্রোফাইল এবং অন্যান্য উপায়ের মাধ্যমে তাদের বিভ্রান্তিমূলক প্রচারণার জন্য শ্রোতাদের বিকাশ করার চেষ্টা করে — বিরোধের বীজ বপন এবং নির্বাচনী প্রক্রিয়ায় জনগণের আস্থাকে ক্ষুণ্ন করার লক্ষ্যে।

নির্বাচনের প্রভাব: উল্লেখযোগ্য ঝুঁকি এবং দুঃস্বপ্নের পরিস্থিতি

সাইবারসেন্টের প্রধান উদ্ভাবন কর্মকর্তা প্যাড্রাইক ও'রিলির দৃষ্টিকোণ থেকে, ঝুঁকিটি "গুরুত্বপূর্ণ" কারণ প্রযুক্তিটি খুব দ্রুত বিকশিত হচ্ছে।

"এটি আকর্ষণীয় এবং সম্ভবত কিছুটা উদ্বেগজনক হওয়ার প্রতিশ্রুতি দেয়, যেহেতু আমরা ডিপফেক প্রযুক্তির ব্যবহার করে বিভ্রান্তির নতুন রূপগুলি দেখতে পাচ্ছি," তিনি বলেছেন।

বিশেষত, ও'রিলি বলেছেন, "দুঃস্বপ্নের দৃশ্য" হল যে এআই-উত্পন্ন সামগ্রীর সাথে মাইক্রোটার্গেটিং সামাজিক মিডিয়া প্ল্যাটফর্মগুলিতে প্রসারিত হবে। এটি থেকে একটি পরিচিত কৌশল কেমব্রিজ অ্যানালিটিকা কলঙ্ক, যেখানে কোম্পানিটি 230 মিলিয়ন মার্কিন ভোটারদের মনস্তাত্ত্বিক প্রোফাইল ডেটা সংগ্রহ করেছে, যাতে Facebook-এর মাধ্যমে ব্যক্তিদের তাদের বিশ্বাস এবং ভোটগুলিকে প্রভাবিত করার প্রয়াসে অত্যন্ত মানানসই মেসেজিং পরিবেশন করা যায়৷ কিন্তু GenAI সেই প্রক্রিয়াটিকে স্কেলে স্বয়ংক্রিয় করতে পারে এবং অত্যন্ত বিশ্বাসযোগ্য বিষয়বস্তু তৈরি করতে পারে যাতে কিছু, যদি থাকে, "বট" বৈশিষ্ট্য যা মানুষকে বন্ধ করতে পারে।

"চুরি করা টার্গেটিং ডেটা [ব্যক্তিত্বের স্ন্যাপশট কে একজন ব্যবহারকারী এবং তাদের আগ্রহের] এআই-উত্পন্ন সামগ্রীর সাথে একত্রিত করা একটি বাস্তব ঝুঁকি," তিনি ব্যাখ্যা করেন। "2013-2017 সালের রাশিয়ান বিভ্রান্তিমূলক প্রচারাভিযানগুলি আরও কী ঘটতে পারে এবং ঘটবে তার ইঙ্গিত দেয়, এবং আমরা জানি যে মার্কিন নাগরিকদের দ্বারা তৈরি করা ডিপফেকগুলি [যেমন একটি] বিডেনের বৈশিষ্ট্যযুক্ত, এবং এলিজাবেথ ওয়ারেন. "

সোশ্যাল মিডিয়ার মিশ্রণ এবং সহজলভ্য ডিপফেক প্রযুক্তি ইতিমধ্যেই গভীরভাবে বিভক্ত দেশে মার্কিন নাগরিকদের মেরুকরণের জন্য একটি কেয়ামতের অস্ত্র হতে পারে, তিনি যোগ করেন।

"গণতন্ত্র কিছু ভাগ করা ঐতিহ্য এবং তথ্যের উপর ভবিষ্যদ্বাণী করা হয়, এবং এখানে বিপদটি নাগরিকদের মধ্যে বাল্কানাইজেশন বৃদ্ধি করে, যার ফলে স্ট্যানফোর্ড গবেষক রেনি ডিরেস্তা 'বেসপোক বাস্তবতা' বলে অভিহিত করেছেন," ও'রিলি বলেছেন, ওরফে লোকেরা "বিকল্প তথ্যে" বিশ্বাসী।

বিভাজন বপনের জন্য অভিনেতারা যে প্ল্যাটফর্মগুলি ব্যবহার করে সেগুলি সম্ভবত খুব কম সাহায্য করবে: তিনি যোগ করেছেন যে, উদাহরণস্বরূপ, সোশ্যাল মিডিয়া প্ল্যাটফর্ম X, যা আগে টুইটার নামে পরিচিত ছিল, সামগ্রীতে তার গুণমান নিশ্চিতকরণ (QA) হারিয়েছে৷

"অন্যান্য প্ল্যাটফর্মগুলি বয়লারপ্লেট আশ্বাস দিয়েছে যে তারা বিভ্রান্তির সমাধান করবে, কিন্তু মুক্ত বক্তৃতা সুরক্ষা এবং নিয়ন্ত্রণের অভাব এখনও খারাপ অভিনেতাদের জন্য ক্ষেত্রটি উন্মুক্ত করে রেখেছে," তিনি সতর্ক করেছেন।

AI বিদ্যমান ফিশিং TTP-গুলিকে প্রশস্ত করে৷

টাইডাল সাইবারের সাইবার হুমকি বুদ্ধিমত্তার পরিচালক স্কট স্মলের মতে, GenAI ইতিমধ্যেই স্কেলে আরও বিশ্বাসযোগ্য, লক্ষ্যযুক্ত ফিশিং প্রচারাভিযান তৈরি করতে ব্যবহৃত হচ্ছে — কিন্তু নির্বাচনী নিরাপত্তার প্রেক্ষাপটে এই ঘটনাটি আরও বেশি উদ্বেগজনক।

“আমরা আশা করি যে সাইবার প্রতিপক্ষরা ফিশিং এবং সোশ্যাল ইঞ্জিনিয়ারিং আক্রমণ করার জন্য জেনারেটিভ AI গ্রহণ করছে — বহু বছর ধরে ধারাবাহিক ভলিউমের পরিপ্রেক্ষিতে নির্বাচন-সম্পর্কিত আক্রমণের প্রধান রূপ — আরও বিশ্বাসযোগ্য, লক্ষ্যগুলি দূষিত বিষয়বস্তুর সাথে ইন্টারঅ্যাক্ট করার সম্ভাবনা বেশি করে তোলে, " সে ব্যাখ্যা করছে.

স্মল বলে যে এআই গ্রহণ এই ধরনের আক্রমণ শুরু করার জন্য প্রবেশের বাধাকেও কমিয়ে দেয়, একটি ফ্যাক্টর যা এই বছর প্রচারণার পরিমাণ বাড়াতে পারে যা প্রচারে অনুপ্রবেশ করার চেষ্টা করে বা ছদ্মবেশী উদ্দেশ্যে প্রার্থীর অ্যাকাউন্ট দখল করার চেষ্টা করে, অন্যান্য সম্ভাবনার মধ্যে।

“অপরাধী এবং দেশ-রাষ্ট্রের প্রতিপক্ষরা নিয়মিতভাবে ফিশিং এবং সোশ্যাল ইঞ্জিনিয়ারিং লোভকে বর্তমান ইভেন্ট এবং জনপ্রিয় থিমগুলির সাথে খাপ খাইয়ে নেয় এবং এই অভিনেতারা প্রায় নিশ্চিতভাবেই এই বছর সাধারণভাবে বিতরণ করা নির্বাচন-সম্পর্কিত ডিজিটাল সামগ্রীর বুমকে পুঁজি করে দূষিত বিতরণ করার চেষ্টা করবে। সন্দেহাতীত ব্যবহারকারীদের জন্য বিষয়বস্তু,” তিনি বলেছেন।

এআই নির্বাচনের হুমকির বিরুদ্ধে রক্ষা করা

এই হুমকিগুলির বিরুদ্ধে রক্ষা করার জন্য, নির্বাচনী আধিকারিক এবং প্রচারাভিযানগুলিকে অবশ্যই জেনএআই-চালিত ঝুঁকি এবং তাদের বিরুদ্ধে কীভাবে রক্ষা করা যায় সে সম্পর্কে সচেতন হতে হবে।

অপটিভ-এর সাইবার-ঝুঁকির ভাইস প্রেসিডেন্ট জেমস টারগাল বলেছেন, "নির্বাচন কর্মকর্তা এবং প্রার্থীরা ক্রমাগত সাক্ষাৎকার এবং প্রেস কনফারেন্স দিচ্ছেন যে হুমকি অভিনেতারা এআই-ভিত্তিক ডিপফেকের জন্য শব্দ কামড় টেনে আনতে পারে।" "অতএব, বিষয়বস্তুর উপর নিয়ন্ত্রণ নিশ্চিত করার জন্য দায়ী ব্যক্তি বা দল রয়েছে তা নিশ্চিত করা তাদের দায়িত্ব।"

তাদের অবশ্যই নিশ্চিত করতে হবে যে স্বেচ্ছাসেবক এবং কর্মীদের এআই-চালিত হুমকির বিষয়ে প্রশিক্ষণ দেওয়া হয়েছে যেমন উন্নত সামাজিক প্রকৌশল, তাদের পিছনে হুমকি অভিনেতা এবং কীভাবে সন্দেহজনক কার্যকলাপের প্রতিক্রিয়া জানাতে হয়।

সেই লক্ষ্যে, কর্মীদের সোশ্যাল ইঞ্জিনিয়ারিং এবং ডিপফেক ভিডিও প্রশিক্ষণে অংশগ্রহণ করা উচিত যাতে ইলেকট্রনিক (ইমেল, টেক্সট এবং সোশ্যাল মিডিয়া প্ল্যাটফর্ম), ব্যক্তিগত এবং টেলিফোন-ভিত্তিক প্রচেষ্টা সহ সমস্ত ফর্ম এবং আক্রমণ ভেক্টর সম্পর্কে তথ্য অন্তর্ভুক্ত থাকে।

"এটি খুবই গুরুত্বপূর্ণ - বিশেষ করে স্বেচ্ছাসেবকদের সাথে - কারণ প্রত্যেকেরই ভাল সাইবার স্বাস্থ্যবিধি নেই," তুরগাল বলেছেন।

উপরন্তু, প্রচারাভিযান এবং নির্বাচনী স্বেচ্ছাসেবকদেরকে কীভাবে নিরাপদে অনলাইনে এবং সামাজিক মিডিয়া পোস্ট সহ বাইরের সংস্থাগুলিকে তথ্য সরবরাহ করতে হয় সে সম্পর্কে প্রশিক্ষণ দিতে হবে এবং এটি করার সময় সতর্কতা অবলম্বন করতে হবে।

"সাইবার হুমকি অভিনেতারা এই তথ্য সংগ্রহ করতে পারে সামাজিকভাবে প্রকৌশলী প্রলোভনগুলিকে নির্দিষ্ট লক্ষ্যগুলির জন্য উপযুক্ত করার জন্য," তিনি সতর্ক করেন।

ও'রিলি বলে দীর্ঘমেয়াদী, প্রবিধান যার অন্তর্ভুক্ত অডিও এবং ভিডিও ডিপফেকের জন্য ওয়াটারমার্কিং সহায়ক হবে, ফেডারেল সরকার LLM-এর মালিকদের সাথে সুরক্ষার ব্যবস্থা করার জন্য কাজ করছে উল্লেখ করে।

আসলে, এই ফেডারেল কমিউনিকেশন কমিশন (এফসিসি) সবেমাত্র ঘোষণা করেছে টেলিফোন কনজিউমার প্রোটেকশন অ্যাক্ট (TCPA) এর অধীনে AI-উত্পাদিত ভয়েস কলগুলিকে "কৃত্রিম" হিসাবে অভিহিত করে, ভয়েস ক্লোনিং প্রযুক্তির ব্যবহারকে অবৈধ করে এবং এই ধরনের প্রতারণামূলক কার্যকলাপের বিরুদ্ধে লড়াই করার জন্য দেশব্যাপী রাষ্ট্রীয় অ্যাটর্নি জেনারেলদের নতুন সরঞ্জাম সরবরাহ করে।

"এআই এত দ্রুত এগিয়ে চলেছে যে একটি অন্তর্নিহিত বিপদ রয়েছে যে কোনও প্রস্তাবিত নিয়ম প্রযুক্তির অগ্রগতির সাথে অকার্যকর হয়ে উঠতে পারে, সম্ভাব্য লক্ষ্যমাত্রা অনুপস্থিত," ও'রিলি বলেছেন। "কিছু উপায়ে, এটি ওয়াইল্ড ওয়েস্ট, এবং AI সুরক্ষার উপায়ে খুব কম বাজারে আসছে।"

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• প্লেটোইএসজি। কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
• প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
• উত্স: https://www.darkreading.com/application-security/deepfake-democracy-ai-technology-election-security