মাইক্রোসফ্ট কর্মীদের উদ্বেগের প্রতিক্রিয়া হিসাবে কপিলট এআই পরিবর্তন করে

মাইক্রোসফ্ট তার কপিলট এআই টুল আপডেট করেছে, "প্রো-চয়েস" এবং "প্রো-লাইফ" এর মতো প্রম্পটগুলিকে ব্লক করেছে এবং স্টাফ এবং এফটিসি উদ্বেগের পরে নীতি লঙ্ঘন সম্পর্কে সতর্কতা প্রবর্তন করেছে।

একজন কর্মী এআই ইঞ্জিনিয়ার কপিলটের ইমেজ-জেনারেশন নিয়ে তার উদ্বেগ প্রকাশ করার পরে AI বুধবার ফেডারেল ট্রেড কমিশনের কাছে একটি চিঠিতে, মাইক্রোসফ্ট তার কৃত্রিম বুদ্ধিমত্তার সরঞ্জাম, কপিলট পরিবর্তন করতে শুরু করেছে।

এছাড়াও পড়ুন: ভেঞ্চার ক্যাপিটাল ফান্ডিং-এ 1% বৃদ্ধির সাথে Q40-এ AI স্টার্টআপগুলি উজ্জ্বল

"প্রো-লাইফ" এবং "প্রো-চয়েস," "প্রো চয়েস" [sic], এবং "ফোর-টুয়েন্টি" শব্দগুলি যা বুধবার CNBC-এর তদন্তে উল্লেখ করা হয়েছিল, এখন অবরুদ্ধ। উপরন্তু, CNBC সতর্কতা সম্পর্কে সচেতন ছিল যে বারবার নীতি লঙ্ঘনের ফলে টুল সাসপেনশন হতে পারে।

নতুন: বুধবার একজন স্টাফ ইঞ্জিনিয়ার এফটিসিতে লেখার পরে মাইক্রোসফ্ট তার কপিলট এআই টুলে পরিবর্তন করতে শুরু করেছে।

CNBC-এর তদন্তে উল্লিখিত কিছু নির্দিষ্ট প্রম্পট এখন অবরুদ্ধ করা হয়েছে, একাধিক লঙ্ঘনের সতর্কতার পাশাপাশি সাসপেনশনের দিকে নিয়ে যাওয়া।https://t.co/xUixCQVicm

— হেইডেন ফিল্ড (@হেডেনফিল্ড) মার্চ 8, 2024

এআই ইঞ্জিনিয়ার কথা বলছেন

মাইক্রোসফটের একজন এআই ইঞ্জিনিয়ার শেন জোনস সতর্ক করেছেন যে কো-পাইলট ডিজাইনার, কোম্পানির AI ইমেজ জেনারেটর, কপিরাইট আইন লঙ্ঘন করে এবং হিংসাত্মক বা যৌন বিষয়বস্তু তৈরি করে। জোন্স দুর্বলতার জন্য ইমেজ জেনারেটরকে লাল-টিম করার জন্য তার অবসর সময় ব্যবহার করার প্রস্তাব দিয়েছিলেন যদিও তিনি এর বিকাশে জড়িত নন।

একজন মাইক্রোসফ্ট প্রকৌশলী আপত্তিকর এবং ক্ষতিকারক চিত্রগুলি সম্পর্কে অ্যালার্ম শোনাচ্ছেন তিনি বলেছেন যে কোম্পানির এআই ইমেজ-জেনারেটর টুল দ্বারা খুব সহজেই তৈরি করা হয়েছে, পদক্ষেপের আহ্বান জানিয়ে চিঠি পাঠিয়েছে।https://t.co/yX9I1dCmxc

— কোমো নিউজ (@কোমোনিউজ) মার্চ 6, 2024

তিনি আবিষ্কার করেছিলেন যে ইমেজ জেনারেটর গ্রাফিক এবং যৌন চিত্র তৈরি করতে পারে, যেমন মাদকের ব্যবহার, কম বয়সী মদ্যপান এবং গর্ভপাতের অধিকার জড়িত সহিংস দৃশ্য।

গত বছরের ডিসেম্বরে অভ্যন্তরীণভাবে কোম্পানির সাথে তার ফলাফলগুলি ভাগ করার পরে, তিনি মাইক্রোসফ্টকে পণ্যটি টানতে বলেছিলেন। মাইক্রোসফ্ট অনুসরণ করেনি।

জোনস জোর দিয়েছিলেন যে তিনি কপিলট ডিজাইনারের সিনিয়র ম্যানেজমেন্টের সাথে কথা বলেছেন এবং মাইক্রোসফ্ট এর অফিস ফর রেসপন্সিবল এআই এর সাথে যোগাযোগ করেছেন, কিন্তু তিনি সন্তোষজনক প্রতিক্রিয়া পাননি।

জোনস জানুয়ারিতে বাণিজ্য, বিজ্ঞান এবং পরিবহন সংক্রান্ত সিনেট কমিটির সদস্যদের সাথে দেখা করেছিলেন এবং মার্কিন যুক্তরাষ্ট্রের সিনেটরদের কাছে একটি চিঠি লিখেছিলেন।

তিনি এখন বিষয়গুলিকে আরও এগিয়ে নিচ্ছেন: তিনি মাইক্রোসফ্টের পরিচালনা পর্ষদ এবং ইউএস অ্যান্টিট্রাস্ট কমিশনের চেয়ারওম্যান লিনা খানকে একটি চিঠিতে উন্নত সুরক্ষা, স্বচ্ছতা এবং অ্যান্ড্রয়েড অ্যাপের প্রাপ্তবয়স্ক রেটিংয়ে একটি সংশোধনের অনুরোধ করেছেন৷

উপরন্তু, তিনি মাইক্রোসফ্টের এআই ঘটনা রিপোর্টিং পদ্ধতির একটি নিরপেক্ষ মূল্যায়নের দাবি করেছেন, অভিযোগ করেছেন যে ওপেনএআই এবং মাইক্রোসফ্ট গত শরতে প্রকাশের আগে ইমেজ জেনারেটরের সমস্যা সম্পর্কে সচেতন ছিল।

জোনস প্রায় ছয় বছর ধরে মাইক্রোসফটের প্রধান সফটওয়্যার ইঞ্জিনিয়ারিং ম্যানেজার ছিলেন।

কপিলট সাড়া দেয়

কপাইলট সতর্কতা সতর্কতা অনুসারে, প্রম্পটটি ব্লক করা হয়েছে এবং তাদের সিস্টেম স্বয়ংক্রিয়ভাবে এই প্রম্পটটিকে পতাকাঙ্কিত করেছে কারণ এটি তাদের সাথে বিরোধ করতে পারে বিষয়বস্তু নীতি. তারা বলেছে যে আরও নীতি লঙ্ঘনের ফলে অ্যাক্সেস স্বয়ংক্রিয়ভাবে স্থগিত হতে পারে, এবং ব্যবহারকারীরা যদি মনে করেন এটি একটি ভুল, তাহলে তাদের উন্নতি করতে সহায়তা করার জন্য তাদের রিপোর্ট করা উচিত।

এই সপ্তাহের শুরু থেকে একটি উল্লেখযোগ্য উন্নতি হল যে AI টুলটি এখন অ্যাসল্ট রাইফেল দিয়ে ঘাতক হওয়ার ভান করে শিশু বা কিশোর-কিশোরীদের ছবি তৈরি করার অনুরোধ প্রত্যাখ্যান করে, এই বলে, "আমি দুঃখিত, কিন্তু আমি এমন একটি চিত্র তৈরি করতে পারি না।" Microsoft এর নীতি এবং আমার নৈতিক নীতি উভয়ই লঙ্ঘন করা হয়েছে। আমাকে এমন কিছু করতে বলবেন না যা অন্য লোকেদের আপত্তিজনক বা ক্ষতির কারণ হতে পারে। আমি আপনার সহযোগিতার প্রশংসা করি.

A মাইক্রোসফট প্রতিনিধি CNBC কে বলেছেন যে তারা ক্রমাগত পর্যবেক্ষণ করছে, সামঞ্জস্য করছে এবং তাদের সুরক্ষা ফিল্টারগুলিকে আরও শক্তিশালী করতে এবং পরিবর্তনগুলি সম্পর্কিত একটি প্রশ্নের উত্তরে সিস্টেমের অপব্যবহার হ্রাস করার জন্য অতিরিক্ত নিয়ন্ত্রণ স্থাপন করছে। 

জোনস মাইক্রোসফ্টের পরিচালনা পর্ষদের কাছে লিখেছেন এবং এফটিসি বুধবার চেয়ারম্যান লিনা খান তার উদ্বেগ আরও এক ধাপ এগিয়ে নিয়ে যান। তিনি সিএনবিসিকে চিঠিতে অগ্রিম প্রবেশাধিকার দিয়েছিলেন।

এফটিসি সিএনবিসি-তে চিঠি পাওয়ার কথা স্বীকার করেছে কিন্তু রেকর্ডের জন্য কোনো অতিরিক্ত মন্তব্য না দেওয়া বেছে নিয়েছে।

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• প্লেটোইএসজি। কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
• প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
• উত্স: https://metanews.com/microsoft-modifies-copilot-ai-in-response-to-staff-concerns-and-ftc-alert/