নৃতাত্ত্বিক একটি গণতান্ত্রিক AI চ্যাটবট তৈরি করেছে এর নীতিগুলি ব্যবহারকারীদের দ্বারা বেছে নেওয়ার অনুমতি দিয়ে৷

AI ক্ষমতার একটি যুগান্তকারী অন্বেষণে, Anthropic, একটি কৃত্রিম বুদ্ধিমত্তা (AI) কোম্পানি, ব্যবহারকারী-সংজ্ঞায়িত মানগুলি প্রতিফলিত করার জন্য একটি বড় ভাষা মডেল (LLM) তৈরি করেছে৷ এই অনন্য গবেষণায় 1,000 অংশগ্রহণকারীদের কাছ থেকে তাদের সম্মিলিত রায়ের উপর ভিত্তি করে এলএলএম-এর প্রতিক্রিয়াগুলিকে সূক্ষ্ম সুর করার জন্য ইনপুট সংগ্রহ করা জড়িত।

নির্দিষ্ট আউটপুটগুলিকে সীমাবদ্ধ করার জন্য পূর্বনির্ধারিত গার্ডেল দিয়ে সজ্জিত প্রচলিত LLMগুলির বিপরীতে, অ্যানথ্রপিকের পদ্ধতি ব্যবহারকারী সংস্থাকে আলিঙ্গন করে। এনথ্রোপিক থেকে ক্লাউড এবং OpenAI থেকে ChatGPT-এর মতো মডেলগুলি প্রায়ই পূর্বনির্ধারিত সুরক্ষা প্রতিক্রিয়াগুলি মেনে চলে, বিশেষ করে সংবেদনশীল বিষয়গুলির ক্ষেত্রে৷ যাইহোক, সমালোচকরা যুক্তি দেন যে এই ধরনের হস্তক্ষেপগুলি ব্যবহারকারীর স্বায়ত্তশাসনের সাথে আপস করতে পারে, কারণ গ্রহণযোগ্যতার সংজ্ঞা পরিবর্তিত হয় এবং সংস্কৃতি এবং সময়কাল জুড়ে বিষয়ভিত্তিক।

এই জটিল চ্যালেঞ্জের একটি সম্ভাব্য সমাধান হল ব্যবহারকারীদের এআই মডেলের মান বিন্যাসকে আকৃতি দেওয়ার ক্ষমতা দেওয়া। Anthropic Polis এবং যৌথ বুদ্ধিমত্তা প্রকল্পের সহযোগিতায় "সম্মিলিত সাংবিধানিক AI" পরীক্ষা শুরু করেছে। বিভিন্ন ব্যাকগ্রাউন্ডের 1,000 ব্যবহারকারীকে জড়িত করে, তারা মূল্যবান অন্তর্দৃষ্টি সংগ্রহের জন্য পোলিং এর মাধ্যমে একাধিক প্রশ্ন উত্থাপন করেছে।

পরীক্ষাটি ব্যবহারকারীদের অবাঞ্ছিত আউটপুট প্রকাশ না করে যথাযথতা নির্ধারণের কর্তৃত্ব প্রদানের চারপাশে ঘোরে। এই প্রক্রিয়ার মধ্যে ব্যবহারকারীর মূল্যবোধ প্রকাশ করা এবং তাদের একটি প্রাক-প্রশিক্ষিত মডেলে অন্তর্ভুক্ত করা জড়িত। নৃতাত্ত্বিক একটি কৌশল নিযুক্ত করে যা "সাংবিধানিক এআই" নামে পরিচিত, যেখানে মডেলটিকে অনুসরণ করার জন্য নিয়মের একটি সেট সরবরাহ করা হয়, যা জাতিগুলিতে একটি সংবিধান নির্দেশক শাসনের অনুরূপ।

যৌথ সাংবিধানিক এআই পরীক্ষায়, নৃতাত্ত্বিকের লক্ষ্য ছিল মডেলের সংবিধানে ব্যবহারকারী গোষ্ঠীর প্রতিক্রিয়া একীভূত করা। অ্যানথ্রপিকের ব্লগ পোস্ট অনুসারে, ফলাফলগুলি একটি বৈজ্ঞানিক সাফল্যের পরামর্শ দেয়, ব্যবহারকারীদের সম্মিলিতভাবে একটি এলএলএম পণ্যের মান নির্ধারণ করার সাথে যুক্ত চ্যালেঞ্জগুলির উপর আলোকপাত করে৷

দলটির মুখোমুখি একটি উল্লেখযোগ্য বাধা ছিল একটি অভিনব বেঞ্চমার্কিং প্রক্রিয়া তৈরি করা। পরীক্ষার অগ্রগামী প্রকৃতি এবং অ্যানথ্রপিকের সাংবিধানিক এআই পদ্ধতির উপর নির্ভরতার কারণে, ভিড়-উৎসিত মান ব্যবহার করে সূক্ষ্ম সুরের সাথে বেস মডেলের তুলনা করার জন্য কোনও প্রতিষ্ঠিত পরীক্ষা নেই।

শেষ পর্যন্ত, মনে হচ্ছে যে মডেলটি ব্যবহারকারী পোলিং ফিডব্যাক থেকে প্রাপ্ত ডেটা অন্তর্ভুক্ত করে পক্ষপাতদুষ্ট আউটপুটগুলি হ্রাস করার ক্ষেত্রে বেস মডেলের তুলনায় "সামান্য" উন্নতি প্রদর্শন করেছে। নৃতাত্ত্বিক শুধুমাত্র ফলাফলের মডেল সম্পর্কে নয় বরং আরও গুরুত্বপূর্ণভাবে, গ্রাউন্ডব্রেকিং প্রক্রিয়া সম্পর্কে উত্তেজনা প্রকাশ করে। এই পরীক্ষাটি প্রাথমিক উদাহরণগুলির একটিকে নির্দেশ করে যেখানে জনসাধারণ, একটি সম্মিলিতভাবে, ইচ্ছাকৃতভাবে একটি বৃহৎ ভাষার মডেলের আচরণকে প্রভাবিত করেছিল। আশা করা যায় যে বিশ্বব্যাপী সম্প্রদায়গুলি তাদের নির্দিষ্ট সাংস্কৃতিক এবং প্রাসঙ্গিক চাহিদাগুলির সাথে সামঞ্জস্যপূর্ণ মডেলগুলি বিকাশের জন্য এই জাতীয় কৌশলগুলি তৈরি করবে।