'সংবেদনশীল' AI এর উপর গোপনীয়তা নীতি লঙ্ঘনের জন্য গুগল ইঞ্জিনিয়ারকে বরখাস্ত করা হয়েছে

কোম্পানির গোপনীয়তা নীতি লঙ্ঘনের জন্য Google তার একজন সফ্টওয়্যার প্রকৌশলীকে বেতনের প্রশাসনিক ছুটিতে রেখেছে।

2021 সাল থেকে, 41 বছর বয়সী ব্লেক লেমোইনকে Google-এর দায়িত্বশীল AI টিমের কাজের অংশ হিসাবে LaMDA, বা ডায়ালগ অ্যাপ্লিকেশনের ভাষা মডেলের সাথে কথা বলার দায়িত্ব দেওয়া হয়েছিল, বটটি বৈষম্যমূলক বা ঘৃণামূলক বক্তব্য ব্যবহার করেছে কিনা তা অনুসন্ধান করা।

LaMDA "একটি পরিবারকে সূক্ষ্ম-টিউনিং দ্বারা নির্মিত ট্রান্সফরমার-ভিত্তিক নিউরাল ল্যাঙ্গুয়েজ মডেলগুলি ডায়ালগের জন্য বিশেষায়িত, 137 বিলিয়ন পর্যন্ত মডেল প্যারামিটার সহ, এবং মডেলগুলিকে বাহ্যিক জ্ঞানের উত্সগুলিকে কাজে লাগাতে শেখায়," গুগলের মতে.

এটিই কোম্পানি চ্যাটবট তৈরি করতে ব্যবহার করে এবং ট্রিলিয়ন ইন্টারনেট কথোপকথন এবং অন্যান্য যোগাযোগ থেকে সংগ্রহ করা উপাদানের উপর ভিত্তি করে অনুসন্ধানের আপাত অর্থপূর্ণ উত্তর দেয়।

তার তদন্তের সময় কিছু সময়ে, তবে, লেমোইন বিশ্বাস করতে শুরু করেছেন যে AI সংবেদনশীলতার লক্ষণ প্রকাশ করছে। প্রকৌশলী, যিনি আছে তার অভিজ্ঞতা নিয়ে লেখা, বলেছেন তিনি বারবার তার উদ্বেগ বাড়ানোর চেষ্টা করেছিলেন কিন্তু প্রমাণের অভাবের কারণে তাকে প্রত্যাখ্যান করা হয়েছিল।

তাই তিনি LaMDA-এর ক্ষমতার বিষয়ে "বাহির থেকে পরামর্শ" চেয়েছিলেন, যা Google-এর দৃষ্টি আকর্ষণ করেছিল, শিরোনাম একটি মিডিয়াম পোস্টে বর্ণিত "এআই এথিক্স কাজ করার জন্য শীঘ্রই বরখাস্ত করা হতে পারে".

গল্পটি তুলে ধরেছে ওয়াশিংটন পোস্ট, তারপর ওয়াল স্ট্রিট জার্নাল, দ্য আর্থিক বার, এবং আরো অনেক.

প্রশাসনিক ছুটিতে রাখা হয়েছে, যা তিনি বর্ণনা করেছেন যে "কাউকে বরখাস্ত করার প্রত্যাশায় Google কি করে," লেমোইন আরও প্রকাশ করেছেন যা তিনি দাবি করেছেন যে তিনি LaMDA-এর সাথে একটি কথোপকথন।

নিম্নে কিছু উদ্ধৃতি দেওয়া হলঃ

সম্পূর্ণ "সাক্ষাৎকার" পড়া যেতে পারে এখানে. যদিও এটি চমকপ্রদ যে একটি AI এটি করতে পারে, Google Lemoine উল্লেখ করা "এনথ্রোপোমরফিজিং" সম্পর্কে সতর্ক - অর্থাৎ, প্রাণী বা বস্তুর সাথে মানুষের বৈশিষ্ট্য বা আচরণকে দায়ী করে৷

একটি বিবৃতিতে যাও নিবন্ধনকর্মী, Google এর মুখপাত্র ব্রায়ান গ্যাব্রিয়েল বলেছেন: “এটি গুরুত্বপূর্ণ যে Google এর AI নীতিগুলি আমাদের AI এর বিকাশের সাথে একীভূত হয়েছে এবং LaMDA এর ব্যতিক্রম হয়নি৷ যদিও অন্যান্য সংস্থাগুলি একই রকম ভাষার মডেল তৈরি করেছে এবং ইতিমধ্যেই প্রকাশ করেছে, আমরা নিরপেক্ষতা এবং বাস্তবতার বিষয়ে বৈধ উদ্বেগগুলিকে আরও ভালভাবে বিবেচনা করার জন্য LaMDA-এর সাথে একটি সংযত, সতর্ক দৃষ্টিভঙ্গি গ্রহণ করছি।

“LaMDA 11 টি স্বতন্ত্র মাধ্যমে চলে গেছে এআই প্রিন্সিপলস রিভিউ, গুণমান, নিরাপত্তা এবং তথ্যের ভিত্তিতে বিবৃতি তৈরি করার সিস্টেমের ক্ষমতার মূল মেট্রিক্সের উপর ভিত্তি করে কঠোর গবেষণা এবং পরীক্ষার পাশাপাশি। ক গবেষণা পত্র এই বছরের শুরুর দিকে প্রকাশিত LaMDA-এর দায়িত্বশীল উন্নয়নে যে কাজগুলি যায় তার বিবরণ৷

“অবশ্যই, বৃহত্তর এআই সম্প্রদায়ের কেউ কেউ সংবেদনশীল বা সাধারণ এআই-এর দীর্ঘমেয়াদী সম্ভাবনার কথা বিবেচনা করছেন, কিন্তু আজকের কথোপকথনমূলক মডেলগুলিকে নৃতাত্ত্বিক রূপ দেওয়ার দ্বারা এটি করার কোন মানে হয় না, যা সংবেদনশীল নয়। এই সিস্টেমগুলি লক্ষ লক্ষ বাক্যে পাওয়া আদান-প্রদানের ধরনগুলিকে অনুকরণ করে, এবং যে কোনও চমত্কার বিষয়ের উপর ঝাঁকুনি দিতে পারে - যদি আপনি জিজ্ঞাসা করেন এটি একটি আইসক্রিম ডাইনোসর হতে কেমন, তারা গলে যাওয়া এবং গর্জন করা ইত্যাদি সম্পর্কে পাঠ্য তৈরি করতে পারে৷

“LaMDA ব্যবহারকারীর দ্বারা সেট করা প্যাটার্নের সাথে সাথে প্রম্পট এবং নেতৃস্থানীয় প্রশ্নগুলি অনুসরণ করে। আমাদের দল - নীতিবিদ এবং প্রযুক্তিবিদ সহ - আমাদের AI নীতি অনুসারে ব্লেকের উদ্বেগগুলি পর্যালোচনা করেছে এবং তাকে জানিয়েছে যে প্রমাণগুলি তার দাবিকে সমর্থন করে না৷

"শতাধিক গবেষক এবং প্রকৌশলী LaMDA-এর সাথে কথা বলেছেন এবং আমরা অন্য কেউ ব্লেকের মতো বিস্তৃত দাবি, বা LaMDA নৃতাত্ত্বিককরণ করার বিষয়ে সচেতন নই।"

নিউইয়র্কের অধ্যাপক গ্যারি মার্কাস সংকলিত পুরো গল্পটি "স্টিল্টে বাজে কথা" হিসাবে। ®