চ্যাটজিপিটি: জিনিসগুলিকে নিরাপদ করা (সাইমন থম্পসন)

In এই ব্লগের একটি অংশ আমি ChatGPT নতুন এবং শক্তিশালী প্রযুক্তি পরীক্ষা করেছি। এই দ্বিতীয় এবং শেষ অংশে, আমি এটির ব্যবহার যতটা সম্ভব নিরাপদ এবং সুরক্ষিত করার জন্য কী কী সর্বোত্তম অনুশীলনের প্রয়োজন তা অন্বেষণ করি৷

এটা বেশ পরিষ্কার যে আমরা ChatGPT কে আবার বোতলে রাখতে যাচ্ছি না। এটি তৈরি করতে ব্যবহৃত কৌশলগুলি সুপরিচিত, এবং যদিও কম্পিউটের প্রয়োজনীয় পরিমাণ এখন বীরত্বপূর্ণ বলে মনে হচ্ছে, তুলনামূলকভাবে নিকট ভবিষ্যতে এটি আরও ব্যাপকভাবে অ্যাক্সেসযোগ্য হবে। এমনকি যদি কম্পিউটের দাম অদূর ভবিষ্যতে আমূলভাবে না কমে, তবে GPT3.5 তৈরি করতে যে ধরনের কম্পিউটের প্রয়োজন হয় তা ইতিমধ্যেই অনেক রাষ্ট্রীয় অভিনেতা এবং অ-রাষ্ট্রীয় অভিনেতাদের বিস্তৃত পরিসরের কাছে উপলব্ধ।

Google তার LAMDA প্রযুক্তির উপর ভিত্তি করে 'বার্ড' ঘোষণা করেছে যা এতটাই বাধ্যতামূলক যে একজন অভ্যন্তরীণ প্রকৌশলী নিশ্চিত হয়েছিলেন যে এটির একটি আত্মা আছে এবং ডিপমাইন্ড 'স্প্যারো' নামে একটি চ্যাটবট তৈরি করেছে যা 'কিছুর কাছে দাবি করা হয়েছে' প্রযুক্তিগতভাবে চ্যাটজিপিটি থেকে উচ্চতর।

অ্যালফাবেটের মতো অত্যাধুনিক সুপার কোম্পানি থেকে বড় বিপদ আসার সম্ভাবনা নেই। 'দ্রুত চলুন এবং জিনিসগুলি ভেঙে দিন' মনোভাব সহ ছোট সংস্থাগুলি তাদের প্রয়োগের ধারণাগুলির সাথে সৃজনশীল এবং দুঃসাহসিক হতে পারে। কিন্তু এই ধরনের সিস্টেমের মাধ্যমে খুব সত্যিকারের লোকেদের খুব সত্যিকারের ক্ষতি সম্ভব, এবং এইগুলি ছোট অ-বিশেষজ্ঞ দলগুলি দ্বারা সহজেই এবং দ্রুত প্রয়োগ করা যেতে পারে।

চ্যাটজিপিটি নিরাপদ করার জন্য পাঁচটি শীর্ষ টিপস

যদিও 'না' এবং শুধুমাত্র একটি থেকে 'হ্যাঁ'-এর জন্য অনেকগুলি পথ রয়েছে, তবুও অনেকগুলি অ্যাপ্লিকেশন থাকবে যা যুক্তিসঙ্গত হিসাবে যোগ্য হবে। কিন্তু এটি তাদের নিরাপদ করবে না। একটি ChatGPT-চালিত অ্যাপ্লিকেশনে আস্থা রাখার জন্য, নিম্নলিখিত পদক্ষেপগুলি বাস্তবায়িত করার পরামর্শ দেওয়া হয়।

1. ব্যবহারকারীরা কি সাথে ইন্টারঅ্যাক্ট করছে সে সম্পর্কে কোন প্রতারণা করা উচিত নয়। আপনাকে জানানো না হলে আপনি অবহিত সম্মতি দিতে পারবেন না। সালিমা আমেরশি এট আল [১] এআই সিস্টেমের জন্য মিথস্ক্রিয়া জন্য চমৎকার নির্দেশিকা প্রকাশ করেছেন। গুরুত্বপূর্ণভাবে, এগুলি ব্যবহারকারীর মিথস্ক্রিয়ার জীবনচক্র জুড়ে মিথস্ক্রিয়া বিবেচনা করার জন্য কাঠামো প্রদান করে। নির্দেশিকাগুলি কভার করে যে কীভাবে ব্যবহারকারীকে তারা কীসের সাথে ইন্টারঅ্যাক্ট করছে এবং কীভাবে তাদের কাছ থেকে কী আশা করা যায় সে সম্পর্কে তাদের নির্দেশ দিতে হবে। আমেরশির নির্দেশিকা সমস্ত মিথস্ক্রিয়া জুড়ে প্রসারিত হয়, ব্যর্থতা এবং ওভারটাইম পরিচালনা করে কারণ সিস্টেমটি 'স্বাভাবিকভাবে ব্যবসা' হয়ে যায়।
2. ব্যবহারকারীদের সিস্টেমের সাথে ইন্টারঅ্যাক্ট না করার বিকল্প থাকা উচিত। একটি বাস্তব বিকল্প - উদাহরণস্বরূপ একটি বিকল্প যোগাযোগ চ্যানেল।
3. প্রতিটি আবেদনের সাথে একটি প্রভাব মূল্যায়ন সংযুক্ত করা উচিত। আপনি একটি robots.txt ফাইল হিসাবে এটি ওয়েবসাইটে রাখুন, অথবা আপনি আপনার উত্স কোড একটি লাইসেন্স যোগ করতে হবে. কানাডিয়ান AIA প্রক্রিয়া এই ধরণের জিনিসের জন্য একটি মডেল অফার করে, তবে কিছু মৌলিক প্রশ্ন একটি ভাল শুরু। এটা কাকে আঘাত করবে যদি এটি উদ্দেশ্য হিসাবে কাজ করে? চ্যাটবট ভুল হলে কে ক্ষতিগ্রস্ত হবে? চ্যাটবটটি ভুল হচ্ছে কিনা কেউ কি বলতে পারে এবং তারা কি এটি বন্ধ করতে পারে এবং পরিস্থিতি মেরামত করতে পারে?
4. যদি আপনার সিস্টেম অন্যদের উপর বিরূপ প্রভাব ফেলতে পারে, তাহলে সিস্টেমটি কী করছে এবং এটি কীভাবে আচরণ করছে তা পর্যবেক্ষণ এবং লগিং করা উচিত। এগুলিকে এমনভাবে বজায় রাখা উচিত যাতে প্রয়োজনে সিস্টেমের আচরণের ফরেনসিক তদন্তের অনুমতি দেওয়া যায়।
5. আপনি যদি সিস্টেমের জন্য ব্যক্তিগতভাবে এবং প্রত্যক্ষভাবে দায়ী না হন, তাহলে একটি সুস্পষ্টভাবে নথিভুক্ত শাসন প্রক্রিয়া তৈরি এবং বজায় রাখা উচিত। ব্যবহারকারীরা কীভাবে সাহায্যের জন্য কল করতে পারে এবং কীভাবে তারা সিস্টেম সম্পর্কে অভিযোগ করতে পারে তা এর অংশে বর্ণনা করা উচিত। ব্যবহারকারীর দুর্দশা এবং অভিযোগগুলি মোকাবেলার প্রক্রিয়াগুলি কী হওয়া উচিত তাও এটি বর্ণনা করা উচিত।

অনেক ব্যবহারের ক্ষেত্রে দুর্দান্ত মূল্যের জন্য সম্ভাব্য

সঠিক নিয়ন্ত্রণ এবং প্রক্রিয়ার মাধ্যমে, নতুন বৃহৎ ভাষার মডেল যেমন ChatGPT অনেক ব্যবহারের ক্ষেত্রে দারুণ মূল্য প্রদান করবে, যদিও প্রয়োজনীয় নিয়ন্ত্রণ এবং যাচাই-বাছাই করে, ব্যবহারকারী এবং শেষ-ব্যবহারকারীরা যেকোন ভুল বোঝাবুঝি থেকে সুরক্ষিত রয়েছে তা নিশ্চিত করতে।

1. আমেরশী, সেলিমা। 'মানব-এআই ইন্টারঅ্যাকশনের জন্য নির্দেশিকা।' কম্পিউটিং সিস্টেমে মানবিক বিষয়গুলির উপর CHI সম্মেলন। CHI, 2019। 1-13.

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• প্লেটোব্লকচেন। Web3 মেটাভার্স ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• অ্যাড্রিয়েন অ্যাশলির সাথে ভবিষ্যত মিন্টিং। এখানে প্রবেশ করুন.
• উত্স: https://www.finextra.com/blogposting/24082/chatgpt-making-things-safer?utm_medium=rssfinextra&utm_source=finextrablogs