আমাকে বরখাস্ত করা হয়েছে, গুগল চ্যাটবটকে সংবেদনশীল বলে দাবি করা প্রকৌশলী বলেছেন

সংক্ষেপে গুগল ব্লেক লেমোইনকে বরখাস্ত করেছে, যে প্রকৌশলীকে ওয়েব জায়ান্টের LaMDA চ্যাটবট সংবেদনশীল বলে জোর দেওয়ার পরে প্রশাসনিক ছুটিতে রাখা হয়েছিল।

মডেল সম্পর্কে তার বিতর্কিত, ভ্রু-উত্থাপিত মতামত রাখার জন্য লেমোইন সমস্যায় পড়েননি। পরিবর্তে, Google এর গোপনীয়তা নীতি লঙ্ঘনের জন্য তাকে শাস্তি দেওয়া হয়েছিল। সে জানা LaMDA-এর সম্ভাব্য আইনি অধিকারগুলি মূল্যায়ন করার জন্য একজন আইনজীবীকে আমন্ত্রণ জানান এবং Google অনৈতিক বলে দাবি করে একজন হাউস রিপের সাথে কথা বলেছেন৷

গুগলের একজন মুখপাত্র বলা বিগ টেকনোলজি নিউজলেটার এটি তার কর্মসংস্থান বন্ধ করার সিদ্ধান্ত নিয়েছে যেহেতু লেমোইন বাণিজ্য গোপনীয়তাকে বিপন্ন করে "কর্মসংস্থান এবং ডেটা সুরক্ষা নীতি" লঙ্ঘন করে চলেছে।

“যদি কোনো কর্মচারী আমাদের কাজের বিষয়ে উদ্বেগ প্রকাশ করে, যেমনটি ব্লেক করেছিল, আমরা সেগুলো ব্যাপকভাবে পর্যালোচনা করি। আমরা ব্লেকের দাবিগুলি খুঁজে পেয়েছি যে LaMDA সম্পূর্ণ ভিত্তিহীন হওয়ার জন্য সংবেদনশীল এবং অনেক মাস ধরে তার সাথে এটি পরিষ্কার করার জন্য কাজ করেছে। এই আলোচনাগুলি ছিল উন্মুক্ত সংস্কৃতির অংশ যা আমাদের দায়িত্বশীলভাবে উদ্ভাবন করতে সহায়তা করে, "মুখপাত্র বলেছেন।

“সুতরাং, এটা দুঃখজনক যে এই বিষয়ে দীর্ঘ নিয়োজিত থাকা সত্ত্বেও, ব্লেক এখনও স্পষ্ট কর্মসংস্থান এবং ডেটা সুরক্ষা নীতিগুলিকে ক্রমাগতভাবে লঙ্ঘন করতে বেছে নিয়েছে যার মধ্যে পণ্যের তথ্য সুরক্ষিত করার প্রয়োজন রয়েছে৷ আমরা ভাষা মডেলের আমাদের যত্নশীল বিকাশ অব্যাহত রাখব এবং আমরা ব্লেকের মঙ্গল কামনা করি।"

Google এবং একাডেমিয়া এবং শিল্পের অনেক বিশেষজ্ঞ LaMDA বা যেকোন বিদ্যমান AI চ্যাটবট সংবেদনশীল কিনা তা নিয়ে সন্দেহ প্রকাশ করেছেন। ভাষার মডেলগুলি শব্দের মধ্যে গাণিতিক সম্পর্ক শিখে, এবং কোন বাস্তব বোঝা ছাড়াই মানুষের ভাষা অনুকরণ করতে ভাল। তাদের কেউই সত্যিই বুদ্ধিমান নয়, সচেতন হওয়া যাক।

কেন বিকাশকারীরা ওপেন সোর্স এআই কোড চালাতে পারে না

মেশিন-লার্নিং মডেলের জন্য কোড রিলিজ করার অর্থ কী যদি ডেভেলপারদের কাছে এটি চালানোর জন্য প্রয়োজনীয় সংস্থান না থাকে?

AI সফ্টওয়্যারটি ওপেন সোর্স থাকা সত্ত্বেও স্পিন আপ করা এবং নিজের জন্য চেষ্টা করা কুখ্যাতভাবে কঠিন। উৎসের বিট এবং টুকরা বাদ দেওয়া হয়, অথবা মডেলটি প্রশিক্ষণের জন্য প্রয়োজনীয় ডেটাসেটগুলি উপলব্ধ নেই৷ কখনও কখনও এই অংশগুলি অ্যাক্সেসযোগ্য, কিন্তু বিকাশকারীদের এত বড় সিস্টেমগুলি পরিচালনা করার জন্য গণনা করার ক্ষমতা নেই।

মেটা নিন প্রাক-প্রশিক্ষিত ট্রান্সফরমার খুলুন, উদাহরণ স্বরূপ. ভাষা মডেলের বৃহত্তম সংস্করণে 175 বিলিয়ন প্যারামিটার রয়েছে। যদিও বিজ্ঞাপন জায়ান্ট তার কোড প্রকাশ করেছে, অনেকের হাতে পর্যাপ্ত চিপ থাকবে না স্ক্র্যাচ থেকে মডেলটিকে প্রশিক্ষণ এবং ব্যবহার করার জন্য, ম্যাট অ্যাসে, যিনি MongoDB-তে অংশীদার বিপণন চালান, সুপরিচিত ব্যক্তিগত ক্ষমতায়।

“কীভাবে একটি নির্দিষ্ট AI মডেল কীভাবে কাজ করে তার সাফল্য এবং ব্যর্থতা পুনরুত্পাদন করতে সক্ষম হওয়ার জন্য গবেষকদের জন্য যথেষ্ট অ্যাক্সেস প্রদান করা…কোম্পানি এবং ব্যক্তি হিসাবে, আমাদের লক্ষ্য হওয়া উচিত এমনভাবে সফ্টওয়্যারে অ্যাক্সেস খোলা যা আমাদের গ্রাহকদের উপকার করে এবং তৃতীয়- পার্টি ডেভেলপাররা ক্লাউডে ওপেন সোর্স-এর এক দশক-পুরাতন ধারণাকে পুনরুদ্ধার করার চেষ্টা করার পরিবর্তে অ্যাক্সেস এবং বোঝাপড়াকে উৎসাহিত করবে,” তিনি যুক্তি দিয়েছিলেন।

OpenAI এর Dall-E বিটা মোডে প্রবেশ করে

OpenAI-এর বাণিজ্যিক টেক্সট-টু-ইমেজ জেনারেশন মডেল DALL·E 2 এর অপেক্ষা তালিকায় যোগদানকারী আরও এক মিলিয়ন লোকের জন্য উন্মুক্ত করা হচ্ছে।

অ্যাক্সেস পূর্বে তাদের মধ্যে সীমাবদ্ধ ছিল যারা নির্বাচিত শিল্পী, গবেষক এবং বিকাশকারী ছিলেন কারণ OpenAI সম্পূর্ণ বাণিজ্যিক প্রকাশের আগে এর সিস্টেমটি পরীক্ষা করতে চেয়েছিল। লোকেরা ইন্টারনেট মেম, কমিক বই বা ডিজিটাল আর্ট তৈরি করতে সমস্ত ধরণের ছবি তৈরি করার জন্য এই সরঞ্জামটি ব্যবহার করছে। 

ব্যবহারকারীরা তাদের ব্যবহারের প্রথম মাসে 50টি বিনামূল্যে ক্রেডিট এবং প্রতি মাসে 15টি বিনামূল্যে ক্রেডিট পাবেন৷ প্রতিটি ক্রেডিট একটি আসল ডাল-ই প্রম্পট জেনারেশন তৈরি করতে ব্যবহার করা যেতে পারে এবং তারা আগের ছয়টির পরিবর্তে চারটি ছবি পাবে। বিদ্যমান টেক্সট প্রম্পট সম্পাদনা করলে তিনটি ছবি ফিরে আসবে। যদি তারা আরও জেনারেট করতে চায়, তাহলে অতিরিক্ত 15টি ছবির জন্য আরও 115টি ক্রেডিট পেতে তাদের $460 দিতে হবে। 

তারা মডেলটি ব্যবহার করে তৈরি করা যেকোনো ছবিকেও বাণিজ্যিকীকরণ করতে পারবে, যার অর্থ ক্রিয়েটরদের তাদের ছবি বিক্রি এবং প্রিন্ট করার অধিকার রয়েছে পণ্যদ্রব্য এবং এর মতো। গবেষণা ল্যাবটি "DALL·E দিয়ে লোকেরা কী তৈরি করে তা দেখে আমরা উত্তেজিত এবং এই বিটা সময়ের মধ্যে ব্যবহারকারীদের প্রতিক্রিয়ার অপেক্ষায় আছি" বলেছেন এই সপ্তাহ. 

মুখের স্বীকৃতি সহ শিশুদের উপর স্নুপিং

বিতর্কিত বাণিজ্যিক অনলাইন ফেসিয়াল রিকগনিশন পরিষেবা PimEyes শিশুদের "সম্ভাব্যভাবে স্পষ্ট" ছবি অনুসন্ধান করতে ব্যবহার করা যেতে পারে।

PimEyes যে কাউকে একটি ফটো আপলোড করার অনুমতি দেয়, এটি সম্ভাব্য মিলগুলির জন্য অনুসন্ধান করে এবং ছবি এবং তাদের সংশ্লিষ্ট URLগুলি ফেরত দেয়৷ একটি গোপনীয়তা-সংরক্ষণ সরঞ্জাম হিসাবে বিপণন করা হয়েছে, যেখানে ব্যবহারকারীরা দেখতে পারে যে ইন্টারনেটে নিজেদের ছবিগুলি কোথায় পোস্ট করা হয়েছে, পরিষেবাটি বলেছে যে এটি প্রতিশোধ পর্নের মতো সমস্যাগুলির সাথে লড়াই করতে সহায়তা করেছে৷

কিন্তু একটা অন্ধকার দিকও আছে। যে কেউ তাদের পছন্দের, এমনকি শিশুদের ফটোগুলি অনুসন্ধান করতে ওয়েবসাইটটি ব্যবহার করতে পারে৷ একটি তদন্ত দ্য ইন্টারসেপ্ট দ্বারা দেখা গেছে যে অল্পবয়স্কদের ফটোগুলি খুঁজে পাওয়া সহজ ছিল এবং এই ছবিগুলির মধ্যে কিছুকে এমনকি "সম্ভাব্যভাবে স্পষ্ট" হিসাবে লেবেল করা হয়েছিল৷ পরীক্ষায় শিশুদের নকল এআই-জেনারেট করা ছবি ব্যবহার করা হয়েছিল, এবং PimEyes এখনও ম্যাচগুলি ফিরিয়ে দিয়েছে, যা প্রস্তাব করে যে এর সফ্টওয়্যার সম্ভবত খুব সঠিক নয়।

ইলেক্ট্রনিকের সার্ভিল্যান্স ওভারসাইট প্রজেক্টের ডিরেক্টর জেরামি স্কট, "বাচ্চাদের জন্য PimEyes-এর সুরক্ষার ব্যবস্থা নেই এবং শিশুদের জন্য কীভাবে সুরক্ষা প্রদান করা যায় তা স্পষ্টতই নিশ্চিত নয়, শুধুমাত্র এই ধরণের মুখের স্বীকৃতি পরিষেবার ঝুঁকিগুলিকে আন্ডারলাইন করে।" গোপনীয়তা তথ্য কেন্দ্র, বলে উদ্ধৃত করা হয়েছে. "জনসাধারণের মধ্যে অংশগ্রহণ করা, অনলাইন হোক বা অফলাইনে, নিজেকে PimEyes-এর মতো গোপনীয়তা-আক্রমণাত্মক পরিষেবার অধীন করা উচিত নয়।"

এআই-চালিত লেখার সরঞ্জামগুলি ইন্ডি লেখকদের আরও বই প্রকাশ করতে সহায়তা করে

বিষয়বস্তু তৈরি প্রায়ই একটি কঠিন ব্যবসা. শ্রোতাদের ধরে রাখতে এবং বাড়ানোর জন্য আপনাকে ঘন ঘন নতুন উপাদান নিয়ে আসতে হবে।

একজন স্বাধীন কথাসাহিত্যিক, যিনি আমাজনের কিন্ডল প্ল্যাটফর্মে লিয়েন লিডস নামে তার কাজ প্রকাশ করেন, তিনি লেখার অংশীদার হিসাবে একটি GPT-3-চালিত পাঠ্য-উত্পাদন সরঞ্জাম ব্যবহার করার ক্ষমতা এবং সীমাবদ্ধতা বর্ণনা করেছেন।

সুডোরাইট নামের সফ্টওয়্যারে বাক্যগুলি খাওয়ানোর মাধ্যমে, লিডসের মতো লেখকরা স্বয়ংক্রিয়ভাবে তৈরি করা পাঠ্যের প্যাসেজগুলি ফিরে পেতে পারেন; এটি একটি আরো বুদ্ধিমান স্বয়ংসম্পূর্ণ মত কাজ করে. লিডস বলা দ্য ভার্জ তার গদ্য তৈরিতে এটি ব্যবহার করার সময় তার উত্পাদনশীলতা 20 শতাংশেরও বেশি বেড়ে গিয়েছিল। তিনি সফ্টওয়্যারের আউটপুটগুলি সম্পাদনা করেন এবং অনুচ্ছেদগুলিকে তার বইগুলিতে স্লট করেন৷ সুডোরাইট তাকে পাঠকদের আরও আগ্রহী রাখতে দ্রুত হারে বই লিখতে সাহায্য করছে। 

কিন্তু লেখকরা এআই ব্যবহার নিয়ে ছিঁড়ে গেছেন। কেউ কেউ বিশ্বাস করেন যে এটি সাহিত্যের সৃজনশীলতা এবং জাদুর বিরুদ্ধে যায়, অন্যরা এটি গল্প বলার সম্ভাবনা দেখে। লেখকদের কি প্রকাশ করা উচিত যে তাদের বইগুলি অ্যালগরিদমের সাহায্যে লেখা হয়েছে? এবং আরও গুরুত্বপূর্ণ, এই স্বয়ংক্রিয়ভাবে তৈরি স্ক্রিবলিং কি কোন ভাল?

এই মুহুর্তে, মেশিনগুলি যথেষ্ট ভাল নয় এবং বর্ণনা এবং প্লট লাইনগুলিকে রেলের বাইরে যাওয়া থেকে রক্ষা করার জন্য সম্পাদনা প্রয়োজন। লিডস বিশ্বাস করে যে সুডোরাইটের মতো সরঞ্জামগুলি একদিন জেনেরিক ফিকশন লেখার জন্য যথেষ্ট ভাল হয়ে উঠবে। “আমি মনে করি এটিই আসল বিপদ, আপনি এটি করতে পারেন এবং তারপরে কিছুই আর আসল নয়। সবকিছু অন্য কিছুর একটি অনুলিপি, "তিনি বলেছিলেন। "সমস্যা হল, পাঠকরা এটাই পছন্দ করেন।" ®