হলি এলমোর ওপেন সোর্স সেফটি নিয়ে প্রতিবাদের নেতৃত্ব দিচ্ছেন

হলি এলমোর ওপেন সোর্স সেফটি নিয়ে প্রতিবাদের নেতৃত্ব দিচ্ছেন

সময় স্ট্যাম্প: 11 অক্টোবর, 2023 1:50 পূর্বাহ্ন
হলি এলমোর ওপেন-সোর্স সেফটি প্ল্যাটোব্লকচেন ডেটা ইন্টেলিজেন্সের বিরুদ্ধে প্রতিবাদের নেতৃত্ব দিচ্ছে। উল্লম্ব অনুসন্ধান. আ.

ওপেন-সোর্স কৃত্রিম বুদ্ধিমত্তা (AI) সম্পর্কে মেটার সাম্প্রতিক অবস্থানের বিরুদ্ধে একটি সাহসী পদক্ষেপে, হলি এলমোর, একজন এআই সুরক্ষা আইনজীবী, মেটার সান ফ্রান্সিসকো বেসের বাইরে একটি বিক্ষোভের নেতৃত্ব দিয়েছেন।

বিরোধের কেন্দ্রবিন্দু নিহিত রয়েছে অবাধে শক্তিশালী এআই মডেলের ওজন প্রকাশের সম্ভাব্য বিপদের মধ্যে, যা এলমোর এবং তার সমর্থকদের যুক্তি "অপরিবর্তনীয় বিস্তার" ঝুঁকির দিকে নিয়ে যেতে পারে।

মেটা এই বছরের শুরুর দিকে প্রযুক্তির জলকে আলোড়িত করেছে মুক্তি AI গবেষকদের কাছে এর LLaMA পরিবারের মডেলের ওজন, একটি সিদ্ধান্ত যা অন্যান্য প্রযুক্তি জায়ান্টদের নীতি থেকে উল্লেখযোগ্যভাবে বিচ্ছিন্ন। এই ওজনগুলি, মডেলের কার্যকারিতার জন্য অত্যাবশ্যক, বিশেষজ্ঞদের হাতে একবার হেরফের এবং সংশোধন করা যেতে পারে, অপব্যবহারের বিষয়ে উদ্বেগ বাড়ায়। প্রকৃতপক্ষে, এই ওজনগুলি হতে বেশি সময় লাগেনি অনলাইন লিক, মেটার ওপেন সোর্স পদ্ধতির তীব্র সমালোচনা।

ওজন মুক্তির ঝুঁকি

এলমোর, একবার থিঙ্ক ট্যাঙ্ক রিথিঙ্ক প্রায়োরিটিসের সাথে যুক্ত, তার উদ্বেগ প্রকাশ করেছিলেন:

"ওজন রিলিজ করা একটি বিপজ্জনক নীতি কারণ মডেলগুলি যে কেউ পরিবর্তন করতে পারে এবং প্রত্যাহার করা যায় না।"

মডেলগুলি আরও উন্নত এবং শক্তিশালী হয়ে উঠলে তিনি ক্রমবর্ধমান হুমকির উপর জোর দিয়েছিলেন। যখন মডেলের ওজন প্রকাশ্যে পাওয়া যায়, তখন সেগুলি ফিশিং স্কিম নির্মাণ থেকে শুরু করে পরিকল্পনা পর্যন্ত ক্ষতিকারক কার্যকলাপের জন্য ব্যবহার করা যেতে পারে cyberattacks. একবার ওজন হাতে হয়ে গেলে, এলমোর সতর্ক করে দেন, নিরাপত্তার রেললাইনগুলিকে বাইপাস করার জন্য একটি অস্বস্তিকর স্বাচ্ছন্দ্য রয়েছে৷

এমআইটি থেকে পিটার এস পার্ক এই অনুভূতি প্রতিধ্বনিত. তিনি বিপদ সম্পর্কে সতর্ক করেছেন যদি বর্তমান ওপেন-সোর্স পদ্ধতিকে আরও উন্নত AI-তে নিয়ে যাওয়া হয়, যা উচ্চ স্বায়ত্তশাসনের সাথে কাজ করতে পারে, এইভাবে বৃহত্তর এবং আরও ক্ষতিকারক স্কেলে অপব্যবহার সক্ষম করে।

একটি পাল্টা যুক্তি: ওপেন সোর্স প্রতিরক্ষা

স্টেলা বিডারম্যান EleutherAI এর, যাইহোক, একটি ভিন্ন দৃষ্টিকোণ প্রস্তাব করে। বিডারম্যান তাৎক্ষণিক অনুমান নিয়ে প্রশ্ন তোলেন যে মডেলের ওজন প্রকাশ করা সরাসরি সম্ভাব্য অপব্যবহারের সাথে সম্পর্কযুক্ত। তিনি বিশ্বাস করেন যে গণবিধ্বংসী অস্ত্রের সাথে যুক্ত "প্রসারণ" শব্দটি এআই প্রসঙ্গে বিভ্রান্তিকর। যুক্তি দিয়ে যে বৃহৎ ভাষার মডেল তৈরির মৌলিক উপাদানগুলি ইতিমধ্যেই প্রকাশ্যে এসেছে, বিডারম্যান বিশ্বাস করেন যে গোপনীয়তা সম্ভাব্য অপব্যবহারের জন্য ওষুধ হতে পারে না।

তিনি যোগ করেছেন যে কোম্পানিগুলিকে তাদের মডেলগুলির চারপাশে গোপনীয়তা বজায় রাখার জন্য অনুরোধ করা "স্বচ্ছতা, জনসচেতনতা এবং বিজ্ঞানের জন্য গুরুতর নিম্নধারার পরিণতি হতে পারে।" এই জাতীয় নীতি অজান্তেই স্বাধীন গবেষক এবং উত্সাহীদের ক্ষতি করতে পারে যতটা না এটি সম্ভাব্য হুমকির বিরুদ্ধে সুরক্ষা দেয়।

AI-তে ওপেন সোর্স ওয়াটারে নেভিগেট করা

শব্দ 'ওপেন সোর্স' এআই রাজ্যে গোলমাল হয়। ওপেন সোর্স ইনিশিয়েটিভ (ওএসআই) থেকে স্টেফানো মাফুলি যেমন উল্লেখ করেছেন, বিভিন্ন সংস্থা এই শব্দটিকে কো-অপ্ট করেছে, যার ফলে AI-তে এটি আসলে কী বোঝায় সে সম্পর্কে একটি অস্পষ্ট বোঝার দিকে পরিচালিত করে। সফ্টওয়্যারকে সত্যিকারের ওপেন সোর্স হওয়ার জন্য, সোর্স কোড থেকে প্রশিক্ষণ ডেটা পর্যন্ত এর সমস্ত উপাদান অবশ্যই সর্বজনীনভাবে অ্যাক্সেসযোগ্য এবং পুনরায় ব্যবহারযোগ্য হতে হবে।

ওপেন-সোর্স AI এর ভবিষ্যত এখনও তৈরি হচ্ছে, OSI সক্রিয়ভাবে এর প্যারামিটারগুলি সংজ্ঞায়িত করার চেষ্টা করছে। মাফুল্লি একটি উন্মুক্ত পদ্ধতির গুরুত্ব সম্পর্কে অনড় থাকেন, জোর দিয়ে বলেন যে AI শুধুমাত্র "বিশ্বস্ত, দায়িত্বশীল এবং জবাবদিহিমূলক" হতে পারে যদি এটি ওপেন-সোর্স নীতির সাথে সারিবদ্ধ হয়।

যদিও ওপেন সোর্স এআই নিয়ে বিতর্ক অনেক দূরে, একটি জিনিস পরিষ্কার: প্রযুক্তির দ্রুত অগ্রগতি অ্যাক্সেসযোগ্যতা এবং নিরাপত্তার মধ্যে একটি সতর্ক ভারসাম্যের দাবি করে। Meta-এর মতো কোম্পানিগুলি তাদের নীতিগুলি নিয়ে এগিয়ে যাওয়ার ফলে, প্রযুক্তি সম্প্রদায় এবং জনসাধারণ ওপেন-সোর্স AI এর চ্যালেঞ্জ এবং প্রভাবগুলির সাথে লড়াই চালিয়ে যাবে৷

সময় স্ট্যাম্প:

থেকে আরো মেটানিউজ