শীর্ষ তিনটি ডেটা গোপনীয়তা সমস্যা আজ এআই-এর মুখোমুখি - ডেইলি হোডল

হডলএক্স অতিথি পোস্ট  আপনার পোস্ট জমা দিন

 

AI (কৃত্রিম বুদ্ধিমত্তা) একইভাবে ভোক্তা এবং ব্যবসার মধ্যে উন্মত্ত উত্তেজনা সৃষ্টি করেছে - একটি উত্সাহী বিশ্বাস দ্বারা চালিত যে LLMs (বড় ভাষার মডেল) এবং ChatGPT-এর মতো সরঞ্জামগুলি আমাদের অধ্যয়ন, কাজ এবং জীবনযাপনের উপায়কে রূপান্তরিত করবে।

কিন্তু ইন্টারনেটের প্রথম দিনগুলির মতোই, ব্যবহারকারীরা তাদের ব্যক্তিগত ডেটা কীভাবে ব্যবহার করা হয় তা বিবেচনা না করেই ঝাঁপিয়ে পড়ছে - একটিএবং এটি তাদের গোপনীয়তার উপর প্রভাব ফেলতে পারে।

ইতিমধ্যেই এআই স্পেসের মধ্যে ডেটা লঙ্ঘনের অসংখ্য উদাহরণ রয়েছে। 2023 সালের মার্চ মাসে, OpenAI সাময়িকভাবে ChatGPT নিয়েছিল অফলাইন একটি 'উল্লেখযোগ্য' ত্রুটির পরে ব্যবহারকারীরা অপরিচিতদের কথোপকথনের ইতিহাস দেখতে সক্ষম হয়েছিল।

একই বাগ মানে গ্রাহকদের অর্থপ্রদানের তথ্য - নাম, ইমেল ঠিকানা এবং আংশিক ক্রেডিট কার্ড নম্বর সহ - পাবলিক ডোমেইনে ছিল.

2023 সালের সেপ্টেম্বরে, অসাবধানতাবশত মাইক্রোসফ্টের 38 টেরাবাইট ডেটা ছিল ফাঁস একজন কর্মচারীর দ্বারা, সাইবার নিরাপত্তা বিশেষজ্ঞরা সতর্ক করে দিয়েছিলেন যে এটি আক্রমণকারীদের দূষিত কোড সহ AI মডেলগুলিতে অনুপ্রবেশ করার অনুমতি দিতে পারে।

গবেষকরাও পেরেছেন নিপূণভাবে ব্যবহার করা গোপনীয় রেকর্ড প্রকাশে এআই সিস্টেম।

মাত্র কয়েক ঘন্টার মধ্যে, রোবাস্ট ইন্টেলিজেন্স নামক একটি দল এনভিডিয়া সফ্টওয়্যার থেকে ব্যক্তিগতভাবে শনাক্তযোগ্য তথ্য সংগ্রহ করতে সক্ষম হয়েছিল এবং সিস্টেমটিকে নির্দিষ্ট বিষয়ে আলোচনা করা থেকে বিরত রাখার জন্য ডিজাইন করা সুরক্ষাগুলিকে বাইপাস করতে সক্ষম হয়েছিল৷

এই সমস্ত পরিস্থিতিতে শিক্ষা নেওয়া হয়েছিল, তবে প্রতিটি লঙ্ঘন শক্তিশালীভাবে সেই চ্যালেঞ্জগুলিকে চিত্রিত করে যা আমাদের জীবনে একটি নির্ভরযোগ্য এবং বিশ্বস্ত শক্তি হয়ে উঠতে AI এর জন্য কাটিয়ে উঠতে হবে।

Gemini, Google এর চ্যাটবট, এমনকি স্বীকার করে যে সমস্ত কথোপকথন মানব পর্যালোচকদের দ্বারা প্রক্রিয়া করা হয় - এর সিস্টেমে স্বচ্ছতার অভাবকে আন্ডারলাইন করে।

"এমন কিছু লিখবেন না যা আপনি পর্যালোচনা বা ব্যবহার করতে চান না," ব্যবহারকারীদের সতর্কবার্তা বলে।

AI দ্রুত একটি টুলের বাইরে চলে যাচ্ছে যা শিক্ষার্থীরা তাদের বাড়ির কাজের জন্য ব্যবহার করে বা পর্যটকরা রোমে ভ্রমণের সময় সুপারিশের জন্য নির্ভর করে।

এটি ক্রমবর্ধমান সংবেদনশীল আলোচনার জন্য নির্ভরশীল হচ্ছে - এবং মেডিক্যাল প্রশ্ন থেকে আমাদের কাজের সময়সূচী পর্যন্ত সবকিছু খাওয়ানো হয়েছে।

এই কারণে, একধাপ পিছিয়ে নেওয়া এবং আজ AI-এর মুখোমুখি হওয়া শীর্ষ তিনটি ডেটা গোপনীয়তার সমস্যা এবং কেন সেগুলি আমাদের সকলের কাছে গুরুত্বপূর্ণ তা প্রতিফলিত করা গুরুত্বপূর্ণ।

1. প্রম্পটগুলি ব্যক্তিগত নয়৷

ChatGPT-এর মতো টুলগুলি অতীতের কথোপকথনগুলি মুখস্থ করে যাতে সেগুলিকে পরে উল্লেখ করা যায়। যদিও এটি ব্যবহারকারীর অভিজ্ঞতা উন্নত করতে পারে এবং LLM-কে প্রশিক্ষণ দিতে সাহায্য করতে পারে, এটি ঝুঁকির সাথে আসে।

যদি একটি সিস্টেম সফলভাবে হ্যাক করা হয়, তাহলে একটি পাবলিক ফোরামে প্রম্পট প্রকাশের একটি সত্যিকারের বিপদ রয়েছে৷

ব্যবহারকারীর ইতিহাস থেকে সম্ভাব্য বিব্রতকর বিবরণ ফাঁস হতে পারে, সেইসাথে বাণিজ্যিকভাবে সংবেদনশীল তথ্য যখন কাজের উদ্দেশ্যে AI ব্যবহার করা হচ্ছে।

যেমনটি আমরা Google থেকে দেখেছি, সমস্ত জমাগুলি তার ডেভেলপমেন্ট টিম দ্বারা যাচাই করা হতে পারে।

2023 সালের মে মাসে স্যামসাং এই বিষয়ে পদক্ষেপ নিয়েছিল যখন এটি কর্মীদের জেনারেটিভ এআই সরঞ্জামগুলি সম্পূর্ণরূপে ব্যবহার করা থেকে নিষিদ্ধ করেছিল। এটি একজন কর্মচারীর পরে এসেছিল আপলোড করা ChatGPT-এ গোপনীয় সোর্স কোড।

প্রযুক্তি জায়ান্ট উদ্বিগ্ন ছিল যে এই তথ্য পুনরুদ্ধার করা এবং মুছে ফেলা কঠিন হবে, যার অর্থ আইপি (মেধা সম্পত্তি) ব্যাপকভাবে জনসাধারণের কাছে বিতরণ করা হতে পারে।

Apple, Verizon এবং JPMorgan অনুরূপ পদক্ষেপ নিয়েছে, প্রতিবেদনে পরামর্শ দেওয়া হয়েছে যে ChatGPT-এর প্রতিক্রিয়াগুলি তার নিজস্ব অভ্যন্তরীণ ডেটার সাথে মিল থাকার পরে অ্যামাজন একটি ক্র্যাকডাউন শুরু করেছে৷

যেমন আপনি দেখতে পাচ্ছেন, উদ্বেগগুলি ডেটা লঙ্ঘন হলে কী ঘটবে তার বাইরেও প্রসারিত হয় তবে এআই সিস্টেমে প্রবেশ করা তথ্যগুলিকে আরও বৃহত্তর দর্শকদের কাছে পুনঃপ্রবর্তিত এবং বিতরণ করা যেতে পারে।

ওপেনএআই-এর মতো সংস্থাগুলি ইতিমধ্যেই রয়েছে সম্মুখ তাদের চ্যাটবটগুলিকে কপিরাইটযুক্ত উপাদান ব্যবহার করে প্রশিক্ষণ দেওয়া হয়েছিল এমন অভিযোগের মধ্যে একাধিক মামলা হয়েছে৷

2. সংস্থাগুলি দ্বারা প্রশিক্ষিত কাস্টম AI মডেলগুলি ব্যক্তিগত নয়৷

এটি আমাদের পরবর্তী পয়েন্টে সুন্দরভাবে নিয়ে আসে - যদিও ব্যক্তি এবং কর্পোরেশনগুলি তাদের নিজস্ব ডেটা উত্সের উপর ভিত্তি করে তাদের কাস্টম এলএলএম মডেলগুলি স্থাপন করতে পারে, তারা যদি ChatGPT-এর মতো একটি প্ল্যাটফর্মের সীমার মধ্যে থাকে তবে তারা সম্পূর্ণ ব্যক্তিগত হবে না।

এই বিশাল সিস্টেমগুলিকে প্রশিক্ষণের জন্য ইনপুটগুলি ব্যবহার করা হচ্ছে কিনা তা জানার শেষ পর্যন্ত কোনও উপায় নেই - অথবা ব্যক্তিগত তথ্য ভবিষ্যত মডেলে ব্যবহার করা হতে পারে কিনা।

একটি জিগস-এর মতো, একাধিক উত্স থেকে ডেটা পয়েন্টগুলিকে একত্রিত করে কারও পরিচয় এবং পটভূমিতে একটি ব্যাপক এবং উদ্বেগজনকভাবে বিশদ অন্তর্দৃষ্টি তৈরি করা যেতে পারে।

প্রধান প্ল্যাটফর্মগুলি কীভাবে এই ডেটা সংরক্ষণ এবং প্রক্রিয়া করা হয় তার বিশদ ব্যাখ্যা দিতে ব্যর্থ হতে পারে, একজন ব্যবহারকারী অস্বস্তিকর বৈশিষ্ট্যগুলি অপ্ট আউট করতে অক্ষমতা সহ।

ব্যবহারকারীর প্রম্পটে সাড়া দেওয়ার বাইরে, এআই সিস্টেমগুলি ক্রমবর্ধমানভাবে লাইনগুলির মধ্যে পড়ার এবং একজন ব্যক্তির অবস্থান থেকে তার ব্যক্তিত্ব পর্যন্ত সবকিছু অনুমান করার ক্ষমতা রাখে।

একটি তথ্য লঙ্ঘনের ঘটনা, ভয়ানক পরিণতি সম্ভব. অবিশ্বাস্যভাবে পরিশীলিত ফিশিং আক্রমণগুলি সাজানো যেতে পারে৷ - এবং ব্যবহারকারীরা গোপনীয়ভাবে একটি AI সিস্টেমে খাওয়ানো তথ্য দিয়ে লক্ষ্য করে।

অন্যান্য সম্ভাব্য পরিস্থিতিগুলির মধ্যে রয়েছে এই ডেটাটি কারও পরিচয় অনুমান করার জন্য ব্যবহার করা হচ্ছে, তা ব্যাঙ্ক অ্যাকাউন্ট খোলার অ্যাপ্লিকেশন বা ডিপফেক ভিডিওগুলির মাধ্যমে।

ভোক্তাদের সতর্ক থাকতে হবে যদিও তারা নিজেরাই এআই ব্যবহার না করে। AI ক্রমবর্ধমান শক্তি নজরদারি সিস্টেম এবং পাবলিক স্থানে মুখের স্বীকৃতি প্রযুক্তি উন্নত করতে ব্যবহৃত হচ্ছে।

যদি এই ধরনের অবকাঠামো সত্যিকারের ব্যক্তিগত পরিবেশে প্রতিষ্ঠিত না হয়, তাহলে অগণিত নাগরিকের নাগরিক স্বাধীনতা এবং গোপনীয়তা তাদের অজান্তেই লঙ্ঘন হতে পারে।

3. এআই সিস্টেমকে প্রশিক্ষণ দিতে ব্যক্তিগত ডেটা ব্যবহার করা হয়

উদ্বেগ রয়েছে যে প্রধান AI সিস্টেমগুলি অগণিত ওয়েব পৃষ্ঠাগুলিকে পোরিং করে তাদের বুদ্ধিমত্তা সংগ্রহ করেছে।

অনুমান বলছে ChatGPT প্রশিক্ষণের জন্য 300 বিলিয়ন শব্দ ব্যবহার করা হয়েছে - এটি 570 গিগাবাইট ডেটা - ডেটাসেটের মধ্যে বই এবং উইকিপিডিয়া এন্ট্রি সহ।

অ্যালগরিদমগুলি সোশ্যাল মিডিয়া পেজ এবং অনলাইন মন্তব্যের উপর নির্ভর করে বলেও জানা গেছে।

এই কয়েকটি উত্সের সাথে, আপনি যুক্তি দিতে পারেন যে এই তথ্যের মালিকদের গোপনীয়তার একটি যুক্তিসঙ্গত প্রত্যাশা ছিল।

কিন্তু ব্যাপারটা এখানেই - আমরা প্রতিদিন যে সমস্ত সরঞ্জাম এবং অ্যাপগুলির সাথে যোগাযোগ করি সেগুলির অনেকগুলি ইতিমধ্যেই AI দ্বারা ব্যাপকভাবে প্রভাবিত৷ - এবং আমাদের আচরণ প্রতিক্রিয়া.

আপনার আইফোনের ফেস আইডি আপনার চেহারায় সূক্ষ্ম পরিবর্তনগুলি ট্র্যাক করতে AI ব্যবহার করে।

TikTok এবং Facebook-এর AI-চালিত অ্যালগরিদমগুলি আপনার অতীতে দেখা ক্লিপ এবং পোস্টগুলির উপর ভিত্তি করে বিষয়বস্তু সুপারিশ করে।

আলেক্সা এবং সিরির মতো ভয়েস সহকারীরাও মেশিন লার্নিংয়ের উপর অনেক বেশি নির্ভর করে।

এআই স্টার্টআপগুলির একটি চমকপ্রদ নক্ষত্রমণ্ডল রয়েছে এবং প্রত্যেকটির একটি নির্দিষ্ট উদ্দেশ্য রয়েছে। যাইহোক, কিছু ব্যবহারকারীর ডেটা কীভাবে সংগ্রহ করা হয়, সংরক্ষণ করা হয় এবং প্রয়োগ করা হয় সে সম্পর্কে অন্যদের তুলনায় আরও স্বচ্ছ।

এটি বিশেষ করে গুরুত্বপূর্ণ কারণ AI স্বাস্থ্যসেবার ক্ষেত্রে প্রভাব ফেলে - মেডিকেল ইমেজিং এবং রোগ নির্ণয় থেকে রেকর্ড-কিপিং এবং ফার্মাসিউটিক্যালস পর্যন্ত।

সাম্প্রতিক বছরগুলিতে গোপনীয়তা কেলেঙ্কারিতে আটকে পড়া ইন্টারনেট ব্যবসাগুলি থেকে পাঠ শিখতে হবে।

ফ্লো, একটি মহিলাদের স্বাস্থ্য অ্যাপ ছিল অভিযুক্ত 2010-এর দশকে Facebook এবং Google-এর পছন্দের সাথে এর ব্যবহারকারীদের সম্পর্কে অন্তরঙ্গ বিবরণ শেয়ার করার নিয়ন্ত্রকদের দ্বারা।

আমরা কোথায় এখানে থেকে যান

AI আগামী বছরগুলিতে আমাদের সকলের জীবনে একটি অদম্য প্রভাব ফেলতে চলেছে। LLMs প্রতি দিন দিন ভাল হচ্ছে, এবং নতুন ব্যবহারের ক্ষেত্রে উত্থান অব্যাহত রয়েছে।

যাইহোক, একটি সত্যিকারের ঝুঁকি রয়েছে যে নিয়ন্ত্রকদের অবিচল থাকার জন্য সংগ্রাম করা হবে কারণ শিল্পটি খারাপ গতিতে চলে যাচ্ছে।

এবং এর অর্থ হল ভোক্তাদের তাদের নিজস্ব ডেটা সুরক্ষিত করা শুরু করতে হবে এবং এটি কীভাবে ব্যবহার করা হয় তা পর্যবেক্ষণ করতে হবে।

বিকেন্দ্রীকরণ এখানে একটি গুরুত্বপূর্ণ ভূমিকা পালন করতে পারে এবং বড় প্ল্যাটফর্মগুলির হাতে প্রচুর পরিমাণে ডেটা পড়তে বাধা দিতে পারে।

DePINs (বিকেন্দ্রীভূত ভৌত অবকাঠামো নেটওয়ার্ক) তাদের গোপনীয়তার সাথে আপস না করে প্রতিদিনের ব্যবহারকারীরা AI এর সম্পূর্ণ সুবিধাগুলি উপভোগ করতে পারে তা নিশ্চিত করার সম্ভাবনা রয়েছে।

শুধুমাত্র এনক্রিপ্ট করা প্রম্পটই অনেক বেশি ব্যক্তিগতকৃত ফলাফল প্রদান করতে পারে না, তবে গোপনীয়তা-সংরক্ষণকারী LLMগুলি নিশ্চিত করবে যে ব্যবহারকারীদের সর্বদা তাদের ডেটার সম্পূর্ণ নিয়ন্ত্রণ থাকবে - এবং এর অপব্যবহারের বিরুদ্ধে সুরক্ষা।

---

ক্রিস ওয়ের একজন সিইও ভেরিডা, একটি বিকেন্দ্রীকৃত, স্ব-সার্বভৌম ডেটা নেটওয়ার্ক যা ব্যক্তিদের তাদের ডিজিটাল পরিচয় এবং ব্যক্তিগত ডেটা নিয়ন্ত্রণ করতে সক্ষম করে। ক্রিস হলেন একজন অস্ট্রেলিয়ান-ভিত্তিক প্রযুক্তি উদ্যোক্তা যিনি উদ্ভাবনী সফ্টওয়্যার সমাধানগুলির বিকাশের জন্য 20 বছরেরও বেশি সময় ব্যয় করেছেন।

 

জেনারেটেড ইমেজ: মিডজার্নি

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• প্লেটোইএসজি। কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
• প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
• উত্স: https://dailyhodl.com/2024/03/28/top-three-data-privacy-issues-facing-ai-today/