এআই এর ব্রেভ নিউ ওয়ার্ল্ড: নিরাপত্তার ক্ষেত্রে যা কিছু ঘটেছে? গোপনীয়তা?

জেনেভায় গ্লোবাল ব্লকচেইন বিজনেস কাউন্সিলের গভর্নিং বোর্ড এবং ওয়াশিংটন, ডিসি-তে ইন্টারওয়ার্ক অ্যালায়েন্সের সহ-প্রতিষ্ঠাতা জন ডিভাডোসের একটি অতিথি পোস্ট নিচে দেওয়া হল।

গত সপ্তাহে, আমি ওয়াশিংটন, ডিসিতে কংগ্রেসের কিছু সদস্য এবং তাদের কর্মীদের সাথে নিরাপত্তা সম্পর্কিত AI এর প্রভাব উপস্থাপন ও আলোচনা করার সুযোগ পেয়েছি।

জেনারেটিভ এআই আজ আমাকে 80 এর দশকের শেষের ইন্টারনেটের কথা মনে করিয়ে দেয় – মৌলিক গবেষণা, সুপ্ত সম্ভাবনা এবং একাডেমিক ব্যবহার, কিন্তু এটি এখনও জনসাধারণের জন্য প্রস্তুত নয়। এই সময়, অবাধ বিক্রেতার উচ্চাকাঙ্ক্ষা, মাইনর-লীগ ভেঞ্চার ক্যাপিটাল দ্বারা চালিত এবং টুইটার ইকো চেম্বার দ্বারা গ্যালভেনাইজ করা, AI এর সাহসী নিউ ওয়ার্ল্ডকে দ্রুত-ট্র্যাক করছে।

তথাকথিত "পাবলিক" ফাউন্ডেশন মডেলগুলি কলঙ্কিত এবং ভোক্তা এবং বাণিজ্যিক ব্যবহারের জন্য অনুপযুক্ত; গোপনীয়তা বিমূর্ততা, যেখানে তারা বিদ্যমান, একটি চালুনি মত ফুটো; নিরাপত্তা নির্মাণের কাজ অনেকটাই এগিয়ে চলছে, কারণ আক্রমণের পৃষ্ঠের এলাকা এবং হুমকির ভেক্টরগুলি এখনও বোঝা যাচ্ছে; এবং অলীক রেললাইন, তাদের সম্পর্কে যত কম বলা যায় ততই ভালো।

সুতরাং, কিভাবে আমরা এখানে শেষ? আর সিকিউরিটির কি হয়েছে? গোপনীয়তা?

"আপসহীন" ফাউন্ডেশন মডেল

তথাকথিত "খোলা" মডেলগুলি খোলা ছাড়া অন্য কিছু। বিভিন্ন বিক্রেতারা মডেল ওজন, বা ডকুমেন্টেশন, বা পরীক্ষাগুলিতে অ্যাক্সেস খুলে দিয়ে তাদের খোলামেলাতার ডিগ্রীকে সমর্থন করে। এখনও, প্রধান বিক্রেতাদের কেউ তাদের মডেলের প্রতিলিপি এবং পুনরুত্পাদন করতে সক্ষম হওয়ার জন্য প্রশিক্ষণ ডেটা সেট বা তাদের প্রকাশ বা বংশের কাছাকাছি কিছু সরবরাহ করে না।

প্রশিক্ষণ ডেটা সেটের ক্ষেত্রে এই অস্বচ্ছতার অর্থ হল যে আপনি যদি এই মডেলগুলির মধ্যে এক বা একাধিক ব্যবহার করতে চান, তাহলে আপনি, একজন ভোক্তা বা একটি সংস্থা হিসাবে, ডেটা দূষণের পরিমাণ যাচাই বা যাচাই করার কোনো ক্ষমতা নেই। আইপি, কপিরাইট, ইত্যাদির পাশাপাশি সম্ভাব্য অবৈধ বিষয়বস্তুর প্রতি সম্মান।

সমালোচনামূলকভাবে, প্রশিক্ষণের ডেটা সেটের প্রকাশ ছাড়া, অস্তিত্বহীন দূষিত বিষয়বস্তু যাচাই বা যাচাই করার কোন উপায় নেই। রাষ্ট্র-স্পন্সরকৃত অভিনেতা সহ খারাপ অভিনেতারা, ওয়েব জুড়ে ট্রোজান হর্স সামগ্রী তৈরি করে যা মডেলরা তাদের প্রশিক্ষণের সময় গ্রহণ করে, যা অনুমান করার সময় অপ্রত্যাশিত এবং সম্ভাব্য দূষিত পার্শ্ব প্রতিক্রিয়ার দিকে পরিচালিত করে।

মনে রাখবেন, একবার একটি মডেলের সাথে আপোস করা হলে, এটিকে অশিক্ষিত করার কোন উপায় নেই, একমাত্র বিকল্প এটিকে ধ্বংস করা।

"ছিদ্রযুক্ত" নিরাপত্তা

জেনারেটিভ এআই মডেলগুলি হল চূড়ান্ত নিরাপত্তা মধুর পাত্র কারণ "সমস্ত" ডেটা একটি পাত্রে প্রবেশ করানো হয়েছে৷ এআই-এর যুগে আক্রমণ ভেক্টরের নতুন শ্রেণী ও বিভাগ তৈরি হয়; সাইবার হুমকি থেকে এই মডেলগুলিকে সুরক্ষিত করার ক্ষেত্রে এবং সাইবার থ্রেট অভিনেতাদের দ্বারা এই মডেলগুলিকে কীভাবে হাতিয়ার হিসাবে ব্যবহার করা হয়, উভয় ক্ষেত্রেই ইন্ডাস্ট্রি এখনও প্রভাবের সাথে কথা বলতে পারেনি৷

দূষিত প্রম্পট ইনজেকশন কৌশল সূচক বিষ ব্যবহার করা যেতে পারে; ডাটা পয়জনিং ওজন নষ্ট করতে ব্যবহার করা যেতে পারে; এম্বেডিং আক্রমণ, ইনভার্সন কৌশল সহ, এম্বেডিং থেকে সমৃদ্ধ ডেটা বের করতে ব্যবহার করা যেতে পারে; প্রশিক্ষণ সেটে নির্দিষ্ট ডেটা ছিল কিনা তা নির্ধারণ করতে সদস্যতার অনুমান ব্যবহার করা যেতে পারে, এবং এটি আইসবার্গের টিপ মাত্র।

হুমকি অভিনেতা মডেল ইনভার্সন এবং প্রোগ্রাম্যাটিক ক্যোয়ারী মাধ্যমে গোপনীয় তথ্য অ্যাক্সেস পেতে পারে; তারা মডেলের সুপ্ত আচরণকে দূষিত বা অন্যথায় প্রভাবিত করতে পারে; এবং, যেমনটি আগে উল্লিখিত হয়েছে, ডেটার নিয়ন্ত্রণের বাইরের ইনজেশন ট্রোজান হর্স এবং আরও অনেক কিছুর মাধ্যমে এমবেডেড রাষ্ট্র-স্পন্সর সাইবার কার্যকলাপের হুমকির দিকে নিয়ে যায়।

"ফাঁস" গোপনীয়তা

AI মডেলগুলি সহায়ক কারণ তারা যে ডেটা সেটগুলিতে প্রশিক্ষণপ্রাপ্ত হয়; মাত্রায় ডেটার নির্বিচারে ইনজেশন ব্যক্তি এবং জনসাধারণের জন্য অভূতপূর্ব গোপনীয়তার ঝুঁকি তৈরি করে। AI যুগে, গোপনীয়তা একটি সামাজিক উদ্বেগ হয়ে উঠেছে; প্রবিধান যা প্রাথমিকভাবে ব্যক্তিগত ডেটা অধিকারগুলিকে সম্বোধন করে তা অপর্যাপ্ত৷

স্ট্যাটিক ডেটার বাইরে, এটি অপরিহার্য যে গতিশীল কথোপকথনমূলক প্রম্পটগুলিকে সুরক্ষিত এবং সুরক্ষিত করার জন্য আইপি হিসাবে গণ্য করা হবে। আপনি যদি একজন ভোক্তা হন, একটি মডেলের সাথে একটি আর্টিফ্যাক্ট তৈরিতে নিযুক্ত হন, আপনি চান যে আপনার প্রম্পটগুলি নির্দেশ করে যে এই সৃজনশীল ক্রিয়াকলাপটি মডেলটিকে প্রশিক্ষণের জন্য ব্যবহার করা হবে না বা অন্যথায় মডেলের অন্যান্য ভোক্তাদের সাথে ভাগ করা হবে না৷

আপনি যদি একজন কর্মচারী হন যা ব্যবসার ফলাফল প্রদানের জন্য একটি মডেলের সাথে কাজ করে, আপনার নিয়োগকর্তা আপনার প্রম্পটগুলি গোপনীয় হবে বলে আশা করেন; আরও, প্রম্পট এবং প্রতিক্রিয়াগুলির জন্য দায়বদ্ধতার সমস্যাগুলির ক্ষেত্রে একটি নিরাপদ অডিট ট্রেইল প্রয়োজন যা উভয় পক্ষের দ্বারা প্রকাশিত হয়। এটি প্রাথমিকভাবে এই মডেলগুলির স্টোকাস্টিক প্রকৃতি এবং সময়ের সাথে তাদের প্রতিক্রিয়াগুলির পরিবর্তনশীলতার কারণে।

এরপরে কি হবে?

আমরা একটি ভিন্ন ধরনের প্রযুক্তি নিয়ে কাজ করছি, যা আমরা কম্পিউটিংয়ের ইতিহাসে আগে দেখেছি, এমন একটি প্রযুক্তি যা স্কেলে উদ্ভূত, সুপ্ত আচরণ প্রদর্শন করে; নিরাপত্তা, গোপনীয়তা এবং গোপনীয়তার জন্য গতকালের পদ্ধতিগুলি আর কাজ করে না।

নিয়ন্ত্রক ও নীতিনির্ধারকদের সামনে পদক্ষেপ করা ছাড়া কোনো বিকল্প নেই বলে শিল্প নেতারা সতর্কতা অবলম্বন করছেন।

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• প্লেটোইএসজি। কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
• প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
• উত্স: https://cryptoslate.com/ais-brave-new-world-whatever-happened-to-security-privacy/