এআই নিয়ন্ত্রণ করতে, হার্ডওয়্যার দিয়ে শুরু করুন, বফিনরা যুক্তি দেন

কৃত্রিম বুদ্ধিমত্তার ধ্বংসাত্মক সম্ভাবনাকে সীমিত করার জন্য আমাদের অনুসন্ধানে, কেমব্রিজ বিশ্ববিদ্যালয়ের একটি নতুন গবেষণাপত্র এটিকে শক্তি দেয় এমন হার্ডওয়্যারে পারমাণবিক অস্ত্রের অননুমোদিত উৎক্ষেপণ বন্ধ করার জন্য তৈরি করা মতো দূরবর্তী কিল সুইচ এবং লকআউটগুলিতে বেক করার পরামর্শ দিয়েছে৷

কাগজটি [পিডিএফ], যার মধ্যে রয়েছে অসংখ্য একাডেমিক প্রতিষ্ঠান এবং ওপেনএআই-এর থেকে বেশ কিছু কণ্ঠস্বর, এই ক্ষেত্রে যে হার্ডওয়্যারগুলির উপর নির্ভর করে তা নিয়ন্ত্রন করা তার অপব্যবহার রোধ করার সর্বোত্তম উপায় হতে পারে।

"এআই-প্রাসঙ্গিক গণনা হস্তক্ষেপের একটি বিশেষভাবে কার্যকর বিন্দু: এটি সনাক্তযোগ্য, বর্জনযোগ্য এবং পরিমাপযোগ্য, এবং এটি একটি অত্যন্ত ঘনীভূত সরবরাহ শৃঙ্খলের মাধ্যমে উত্পাদিত হয়," গবেষকরা যুক্তি দেন।

ট্রিলিয়ন প্যারামিটার অতিক্রম করে বলে বিশ্বাস করা সবচেয়ে প্রসিদ্ধ মডেলের প্রশিক্ষণের জন্য প্রচুর ভৌত অবকাঠামো প্রয়োজন: কয়েক হাজার GPU বা এক্সিলারেটর এবং কয়েক সপ্তাহ বা এমনকি কয়েক মাস প্রক্রিয়াকরণের সময়। এটি, গবেষকরা বলছেন, এই সম্পদগুলির অস্তিত্ব এবং আপেক্ষিক কর্মক্ষমতা লুকানো কঠিন করে তোলে।

আরও কী, এই মডেলগুলিকে প্রশিক্ষণ দেওয়ার জন্য ব্যবহৃত সবচেয়ে উন্নত চিপগুলি তুলনামূলকভাবে অল্প সংখ্যক কোম্পানি দ্বারা উত্পাদিত হয়, যেমন এনভিডিয়া, এএমডি এবং ইন্টেল, নীতিনির্ধারকদের এই পণ্যগুলির বিক্রয়কে ব্যক্তি বা উদ্বেগের দেশগুলিতে সীমাবদ্ধ করার অনুমতি দেয়৷

সেমিকন্ডাক্টর উত্পাদনে সরবরাহ চেইন সীমাবদ্ধতার মতো অন্যান্য বিষয়গুলির সাথে এই বিষয়গুলি নীতিনির্ধারকদের আরও ভালভাবে বোঝার উপায় সরবরাহ করে যে কীভাবে এবং কোথায় এআই পরিকাঠামো স্থাপন করা হয়েছে, কারা এটি অ্যাক্সেস করার অনুমতি দেয় এবং কারা এটির অপব্যবহারের জন্য জরিমানা প্রয়োগ করে, কাগজটি দাবি করে। .

পরিকাঠামো নিয়ন্ত্রণ

নীতিনির্ধারকরা এআই হার্ডওয়্যার নিয়ন্ত্রণের সাথে যোগাযোগ করতে পারে এমন অনেক উপায়ে কাগজটি হাইলাইট করে। দৃশ্যমানতা উন্নত করতে এবং AI এক্সিলারেটর বিক্রি সীমিত করার জন্য ডিজাইন করা সহ অনেক পরামর্শ - ইতিমধ্যেই জাতীয় পর্যায়ে চলে আসছে।

গত বছর মার্কিন প্রেসিডেন্ট জো বাইডেন একটি কথা তুলে ধরেন নির্বাহী আদেশ বৃহৎ দ্বৈত-ব্যবহারের AI মডেলগুলি বিকাশকারী সংস্থাগুলিকে চিহ্নিত করার পাশাপাশি অবকাঠামোগত বিক্রেতাদের চিহ্নিত করার লক্ষ্যে তাদের প্রশিক্ষণ. আপনি যদি পরিচিত না হন তবে "দ্বৈত-ব্যবহার" বলতে এমন প্রযুক্তি বোঝায় যা বেসামরিক এবং সামরিক অ্যাপ্লিকেশনগুলিতে দ্বিগুণ দায়িত্ব পালন করতে পারে।

অতি সম্প্রতি মার্কিন বাণিজ্য বিভাগ প্রস্তাবিত প্রবিধান যার জন্য আমেরিকান ক্লাউড সরবরাহকারীদের আরও কঠোর "আপনার-গ্রাহককে জানুন" নীতিগুলি প্রয়োগ করতে হবে যাতে ব্যক্তি বা উদ্বেগের দেশগুলিকে রপ্তানি বিধিনিষেধের আশেপাশে পেতে বাধা দেয়৷

এই ধরনের দৃশ্যমানতা মূল্যবান, গবেষকরা নোট করেছেন, কারণ এটি আরেকটি অস্ত্র প্রতিযোগিতা এড়াতে সাহায্য করতে পারে, যেমন ক্ষেপণাস্ত্র ফাঁক বিতর্কের কারণে শুরু হয়েছিল, যেখানে ভ্রান্ত প্রতিবেদনগুলি ব্যালিস্টিক ক্ষেপণাস্ত্রের ব্যাপক নির্মাণের দিকে পরিচালিত করেছিল। মূল্যবান হওয়া সত্ত্বেও, তারা সতর্ক করে যে এই রিপোর্টিং প্রয়োজনীয়তাগুলি সম্পাদন করা গ্রাহকের গোপনীয়তা আক্রমণের ঝুঁকি এবং এমনকি সংবেদনশীল ডেটা ফাঁস হওয়ার দিকে পরিচালিত করে।

এদিকে, বাণিজ্য বিভাগ অব্যাহত রেখেছে পদক্ষেপ বিধিনিষেধ, চীনে বিক্রি হওয়া এক্সিলারেটরের কর্মক্ষমতা সীমিত করে। কিন্তু, যেমন আমরা পূর্বে রিপোর্ট করেছি, যদিও এই প্রচেষ্টাগুলি চীনের মতো দেশগুলির জন্য আমেরিকান চিপগুলিতে হাত পেতে কঠিন করে তুলেছে, তারা নিখুঁত থেকে অনেক দূরে।

এই সীমাবদ্ধতাগুলি মোকাবেলা করার জন্য, গবেষকরা এআই চিপ বিক্রয়ের জন্য একটি বিশ্বব্যাপী রেজিস্ট্রি বাস্তবায়নের প্রস্তাব করেছেন যা তাদের জীবনচক্রের সময় তাদের ট্র্যাক করবে, এমনকি তারা তাদের দেশ ছেড়ে চলে যাওয়ার পরেও। এই ধরনের একটি রেজিস্ট্রি, তারা পরামর্শ দেয়, প্রতিটি চিপে একটি অনন্য শনাক্তকারী অন্তর্ভুক্ত করতে পারে, যা লড়াই করতে সাহায্য করতে পারে পাচার উপাদানগুলির

স্পেকট্রামের আরও চরম প্রান্তে, গবেষকরা পরামর্শ দিয়েছেন যে দূষিত অ্যাপ্লিকেশনগুলিতে তাদের ব্যবহার রোধ করতে কিল সুইচগুলি সিলিকনে বেক করা যেতে পারে।

তাত্ত্বিকভাবে, এটি নিয়ন্ত্রকদের দূরবর্তীভাবে চিপগুলিতে অ্যাক্সেস বন্ধ করে সংবেদনশীল প্রযুক্তির অপব্যবহারের জন্য দ্রুত প্রতিক্রিয়া জানাতে পারে, তবে লেখকরা সতর্ক করেছেন যে এটি করা ঝুঁকিমুক্ত নয়। ইঙ্গিত হচ্ছে, যদি ভুলভাবে প্রয়োগ করা হয়, তাহলে এই ধরনের একটি কিল সুইচ সাইবার অপরাধীদের লক্ষ্য হয়ে উঠতে পারে।

অন্য একটি প্রস্তাবে একাধিক পক্ষকে সম্ভাব্য ঝুঁকিপূর্ণ এআই প্রশিক্ষণের কাজগুলিতে সাইন অফ করতে হবে আগে তারা স্কেলে মোতায়েন করা যেতে পারে। "পারমাণবিক অস্ত্রগুলি অনুরূপ প্রক্রিয়া ব্যবহার করে যাকে অনুমতিমূলক অ্যাকশন লিঙ্ক বলা হয়," তারা লিখেছিল।

পারমাণবিক অস্ত্রের জন্য, এই নিরাপত্তা লকগুলি একজন ব্যক্তিকে দুর্বৃত্ত হতে এবং প্রথম স্ট্রাইক শুরু করা থেকে বিরত রাখার জন্য ডিজাইন করা হয়েছে। তবে AI এর জন্য, ধারণাটি হল যে যদি কোনও ব্যক্তি বা সংস্থা ক্লাউডের একটি নির্দিষ্ট থ্রেশহোল্ডের উপরে একটি মডেলকে প্রশিক্ষণ দিতে চায় তবে তাদের প্রথমে এটি করার জন্য অনুমোদন পেতে হবে।

যদিও একটি শক্তিশালী হাতিয়ার, গবেষকরা পর্যবেক্ষণ করেছেন যে এটি কাঙ্খিত AI এর বিকাশ রোধ করে ব্যাকফায়ার করতে পারে। যুক্তিটি মনে হচ্ছে যে যখন পারমাণবিক অস্ত্রের ব্যবহার একটি সুন্দর পরিষ্কার-কাট ফলাফল আছে, AI সবসময় এত কালো এবং সাদা হয় না।

কিন্তু যদি এটি আপনার রুচির জন্য একটু বেশি dystopian বোধ করে, তাহলে কাগজটি সামগ্রিকভাবে সমাজের উন্নতির জন্য AI সংস্থানগুলিকে পুনরায় বরাদ্দ করার জন্য একটি সম্পূর্ণ বিভাগ উৎসর্গ করে। ধারণাটি হল যে নীতিনির্ধারকরা একত্রিত হয়ে AI গণনাকে এমন গোষ্ঠীগুলির কাছে আরও অ্যাক্সেসযোগ্য করে তুলতে পারে যা মন্দের জন্য এটি ব্যবহার করার সম্ভাবনা নেই, একটি ধারণাকে "বরাদ্দ" হিসাবে বর্ণনা করা হয়েছে।

এআই ডেভেলপমেন্ট নিয়ন্ত্রনে কি ভুল?

এত ঝামেলায় যাবো কেন? ঠিক আছে, কাগজের লেখকরা মনে করেন যে শারীরিক হার্ডওয়্যার নিয়ন্ত্রণ করা সহজাতভাবে সহজ।

হার্ডওয়্যারের তুলনায়, "এআই ডেভেলপমেন্টের অন্যান্য ইনপুট এবং আউটপুট - ডেটা, অ্যালগরিদম এবং প্রশিক্ষিত মডেলগুলি - সহজেই ভাগ করা যায়, অ-প্রতিদ্বন্দ্বী অস্পষ্ট পণ্য, যা তাদের নিয়ন্ত্রণ করা সহজাতভাবে কঠিন করে তোলে," কাগজটি পড়ে।

যুক্তি হল যে একবার একটি মডেল প্রকাশিত হলে, হয় প্রকাশ্যে বা ফাঁস হয়ে গেলে, জিনিকে বোতলে ফিরিয়ে দেওয়া এবং নেট জুড়ে ছড়িয়ে দেওয়া বন্ধ করা যায় না।

গবেষকরা আরও হাইলাইট করেছেন যে মডেলগুলির অপব্যবহার রোধ করার প্রচেষ্টা অবিশ্বস্ত প্রমাণিত হয়েছে। একটি উদাহরণে, লেখকরা হাইলাইট করেছেন যে সহজে গবেষকরা মেটা'স লামা 2 এর সুরক্ষাগুলি ভেঙে ফেলতে সক্ষম হয়েছিল যার অর্থ মডেলটিকে আপত্তিকর ভাষা তৈরি করা থেকে রোধ করা।

চরম পর্যায়ে নিয়ে যাওয়া, আশঙ্কা করা হচ্ছে যে একটি পর্যাপ্ত উন্নত দ্বৈত-ব্যবহারের মডেলটি ত্বরান্বিত করার জন্য নিযুক্ত করা যেতে পারে। উন্নয়ন রাসায়নিক বা জৈবিক অস্ত্রের।

কাগজটি স্বীকার করে যে AI হার্ডওয়্যার নিয়ন্ত্রণ একটি সিলভার বুলেট নয় এবং শিল্পের অন্যান্য দিকগুলিতে নিয়ন্ত্রণের প্রয়োজনীয়তা দূর করে না।

যাইহোক, সিইও স্যাম অল্টম্যানের বিবেচনায় বেশ কয়েকটি ওপেনএআই গবেষকদের অংশগ্রহণ উপেক্ষা করা কঠিন। প্রচেষ্টা এআই রেগুলেশনের চারপাশে বর্ণনা নিয়ন্ত্রণ করতে। ®

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• প্লেটোইএসজি। কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
• প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
• উত্স: https://go.theregister.com/feed/www.theregister.com/2024/02/16/boffins_propose_regulating_ai_hardware/