নৃতাত্ত্বিক একটি গণতান্ত্রিক AI চ্যাটবট তৈরি করেছে ব্যবহারকারীদের তার মূল্যবোধের জন্য ভোট দেওয়ার মাধ্যমে

নৃতাত্ত্বিক একটি গণতান্ত্রিক AI চ্যাটবট তৈরি করেছে ব্যবহারকারীদের তার মূল্যবোধের জন্য ভোট দেওয়ার মাধ্যমে

সময় স্ট্যাম্প: 18 অক্টোবর, 2023 1:00 অপরাহ্ন

এটির প্রথম ধরণের গবেষণায়, কৃত্রিম বুদ্ধিমত্তা (AI) ফার্ম অ্যানথ্রপিক একটি বৃহৎ ভাষা মডেল (LLM) তৈরি করেছে যা তার ব্যবহারকারী সম্প্রদায়ের দ্বারা মূল্য বিচারের জন্য সূক্ষ্মভাবে তৈরি করা হয়েছে।

অবাঞ্ছিত আউটপুটগুলিকে সীমিত করার প্রয়াসে অনেক পাবলিক-মুখী এলএলএম গার্ডেল দিয়ে তৈরি করা হয়েছে — এনকোড করা নির্দেশাবলী নির্দিষ্ট আচরণ নির্দেশ করে —। উদাহরণস্বরূপ, অ্যানথ্রোপিকস ক্লড এবং ওপেনএআই-এর চ্যাটজিপিটি, সাধারণত ব্যবহারকারীদের হিংসাত্মক বা বিতর্কিত বিষয় সম্পর্কিত আউটপুট অনুরোধের জন্য একটি টিনজাত সুরক্ষা প্রতিক্রিয়া দেয়।

যাইহোক, যেমন অসংখ্য পন্ডিত উল্লেখ করেছেন, রেললাইন এবং অন্যান্য হস্তক্ষেপমূলক কৌশলগুলি তাদের সংস্থার ব্যবহারকারীদের লুট করতে পারে। যা গ্রহণযোগ্য বলে বিবেচিত হয় তা সর্বদা উপযোগী নয় এবং যা উপযোগী বলে বিবেচিত হয় তা সর্বদা গ্রহণযোগ্য নয়। এবং নৈতিকতা বা মূল্য-ভিত্তিক বিচারের সংজ্ঞা সংস্কৃতি, জনসংখ্যা এবং সময়ের মধ্যে পরিবর্তিত হতে পারে।

সম্পর্কিত: নভেম্বরের পরিকল্পিত সম্মেলনে যুক্তরাজ্য সম্ভাব্য এআই হুমকিকে লক্ষ্য করবে

এটির একটি সম্ভাব্য প্রতিকার হল ব্যবহারকারীদের এআই মডেলের জন্য মান বিন্যাস নির্দেশ করার অনুমতি দেওয়া। অ্যানথ্রপিকের "সম্মিলিত সাংবিধানিক এআই" পরীক্ষা এই "অগোছালো চ্যালেঞ্জ" এ একটি ছুরিকাঘাত।

Anthropic, Polis এবং Collective Intelligence Project এর সহযোগিতায়, 1,000 জন ব্যবহারকারীকে বিভিন্ন জনসংখ্যার মধ্যে ট্যাপ করেছে এবং তাদের পোলিং এর মাধ্যমে একাধিক প্রশ্নের উত্তর দিতে বলেছে।

নৃতাত্ত্বিক একটি গণতান্ত্রিক AI চ্যাটবট তৈরি করেছে যাতে ব্যবহারকারীদের তার মূল্যবোধের জন্য ভোট দিতে দেয় PlatoBlockchain ডেটা ইন্টেলিজেন্স৷ উল্লম্ব অনুসন্ধান. আ.
উৎস, নৃতাত্ত্বিক

চ্যালেঞ্জটি ব্যবহারকারীদের অনুপযুক্ত আউটপুট প্রকাশ না করে এজেন্সিকে কী উপযুক্ত তা নির্ধারণ করার অনুমতি দেয়। এতে ব্যবহারকারীর মান চাওয়া এবং তারপর সেই ধারণাগুলিকে এমন একটি মডেলে প্রয়োগ করা জড়িত যা ইতিমধ্যে প্রশিক্ষিত হয়েছে।

নৃতাত্ত্বিক "সাংবিধানিক এআই" নামে একটি পদ্ধতি ব্যবহার করে সরাসরি নিরাপত্তা এবং উপযোগিতার জন্য LLMs টিউন করার জন্য এর প্রচেষ্টা। মূলত, এর মধ্যে রয়েছে মডেলটিকে নিয়মগুলির একটি তালিকা প্রদান করা যা এটি অবশ্যই মেনে চলতে হবে এবং তারপরে এটিকে তার প্রক্রিয়া জুড়ে সেই নিয়মগুলি বাস্তবায়নের জন্য প্রশিক্ষণ দেওয়া, অনেকটা সংবিধান যেমন অনেক দেশে শাসনের মূল দলিল হিসাবে কাজ করে।

যৌথ সাংবিধানিক এআই পরীক্ষায়, নৃতাত্ত্বিক মডেলের সংবিধানে গোষ্ঠী-ভিত্তিক প্রতিক্রিয়া সংহত করার চেষ্টা করেছিল। ফলাফলগুলো, অনুযায়ী অ্যানথ্রপিকের একটি ব্লগ পোস্টে, এটি একটি বৈজ্ঞানিক সাফল্য বলে মনে হচ্ছে যে এটি একটি এলএলএম পণ্যের ব্যবহারকারীদের তাদের সম্মিলিত মান নির্ধারণের অনুমতি দেওয়ার লক্ষ্য অর্জনের দিকে আরও চ্যালেঞ্জগুলিকে আলোকিত করেছে।

দলটিকে যে অসুবিধাগুলি কাটিয়ে উঠতে হয়েছিল তার মধ্যে একটি ছিল বেঞ্চমার্কিং প্রক্রিয়ার জন্য একটি অভিনব পদ্ধতি নিয়ে আসা। যেহেতু এই পরীক্ষাটি তার ধরণের প্রথম বলে মনে হচ্ছে, এবং এটি অ্যানথ্রপিকের সাংবিধানিক এআই পদ্ধতির উপর নির্ভর করে, তাই ভিড়-উৎসিত মানগুলির সাথে বেস মডেলের তুলনা করার জন্য একটি প্রতিষ্ঠিত পরীক্ষা নেই।

পরিশেষে, মনে হচ্ছে যে মডেলটি ব্যবহারকারী পোলিং ফিডব্যাকের ফলে ডেটা প্রয়োগ করেছে সেটি পক্ষপাতদুষ্ট আউটপুটগুলির ক্ষেত্রে বেস মডেলকে "সামান্য" ছাড়িয়ে গেছে।

ব্লগ পোস্ট অনুযায়ী:

“ফলাফল মডেলের চেয়েও বেশি, আমরা প্রক্রিয়াটি নিয়ে উত্তেজিত। আমরা বিশ্বাস করি যে এটি প্রথম দৃষ্টান্তগুলির মধ্যে একটি হতে পারে যেখানে জনসাধারণের সদস্যরা একটি গোষ্ঠী হিসাবে, ইচ্ছাকৃতভাবে একটি বৃহৎ ভাষার মডেলের আচরণকে নির্দেশ করেছে৷ আমরা আশা করি যে বিশ্বজুড়ে সম্প্রদায়গুলি তাদের প্রয়োজনগুলি পূরণ করে এমন সাংস্কৃতিক- এবং প্রসঙ্গ-নির্দিষ্ট মডেলগুলিকে প্রশিক্ষণ দেওয়ার জন্য এই জাতীয় কৌশলগুলি তৈরি করবে।"

সময় স্ট্যাম্প:

থেকে আরো Cointelegraph