ChatGPT রাতারাতি ধাক্কা খেয়ে আজেবাজে কথা বলা শুরু করে

কখনও কখনও জেনারেটিভ AI সিস্টেমগুলি অবাস্তব কথা বলতে পারে, যেমনটি OpenAI এর ChatGPT চ্যাটবট ব্যবহারকারীরা গত রাতে আবিষ্কার করেছেন৷

OpenAI সুপরিচিত, "আমরা ChatGPT থেকে অপ্রত্যাশিত প্রতিক্রিয়ার রিপোর্ট তদন্ত করছি" 2340 সালের 20 ফেব্রুয়ারী 2024 UTC-তে, ব্যবহারকারীরা আনন্দের সাথে চ্যাটবটের ছবি পোস্ট করেছেন যা সম্পূর্ণ বাজে কথা প্রকাশ করছে।

যদিও কিছু স্পষ্টতই জাল ছিল, অন্যান্য প্রতিক্রিয়া ইঙ্গিত দেয় যে জনপ্রিয় চ্যাটবট সত্যিই খুব অদ্ভুত আচরণ করছে। Reddit-এ ChatGPT ফোরামে, একজন ব্যবহারকারী পোস্ট "কম্পিউটার কি?" প্রশ্নে চ্যাটবট থেকে একটি অদ্ভুত, বিভ্রান্তিকর প্রতিক্রিয়া।

প্রতিক্রিয়া শুরু হয়েছিল: "এটি দেশের জন্য শিল্পের একটি ওয়েবের ভাল কাজ, বিজ্ঞানের একটি ইঁদুর, দু: খিত কয়েকজনের একটি সহজ ড্র ​​হিসাবে এটি করে..." এবং ক্রমশ পরাবাস্তব হয়ে উঠতে থাকল।

অন্যান্য ব্যবহারকারীরা এমন উদাহরণ পোস্ট করেছেন যেখানে চ্যাটবট ভিন্ন ভাষায় সাড়া দিতে দেখা গেছে, অথবা কেবল অর্থহীন আবর্জনা দিয়ে প্রতিক্রিয়া জানিয়েছে।

কিছু ব্যবহারকারী বর্ণিত একটি "শব্দ সালাদ" হিসাবে আউটপুট।

সুস্বাদু।

গ্যারি মার্কাস, একজন জ্ঞানীয় বিজ্ঞানী এবং কৃত্রিম বুদ্ধিমত্তা পন্ডিত, লিখেছেন তার ব্লগে: "চ্যাটজিপিটি নিদারুণ হয়ে গেছে" এবং আচরণটিকে "একটি সতর্কতা" হিসাবে বর্ণনা করেছে।

ওপেনএআই ঠিক কী ঘটেছে সে সম্পর্কে বিস্তারিত জানায়নি, যদিও একটি যুক্তিযুক্ত তত্ত্ব হল যে এক বা একাধিক সেটিংস চ্যাটবটের প্রতিক্রিয়া পরিচালনা করার জন্য পর্দার আড়ালে ব্যবহার করা ভুলভাবে কনফিগার করা হয়েছে, যার ফলে ব্যবহারকারীদের কাছে বিভ্রান্তি উপস্থাপন করা হয়েছে।

প্রথমবার একটি সমস্যা স্বীকার করার সাত মিনিট পরে, ওপেনএআই বলেছিল, "সমস্যাটি চিহ্নিত করা হয়েছে এবং এখন প্রতিকার করা হচ্ছে," এবং এটি তখন থেকে পরিস্থিতি পর্যবেক্ষণ করছে। যখন আমরা চেষ্টা করেছি "কম্পিউটার কি?" আজ সকালে প্রশ্ন, ChatGPT অনেক বেশি যুক্তিসঙ্গত উত্তর দিয়েছিল "একটি কম্পিউটার হল একটি প্রোগ্রামযোগ্য ইলেকট্রনিক ডিভাইস যা ডেটা সংরক্ষণ, পুনরুদ্ধার এবং প্রক্রিয়া করতে পারে।"

আমরা এটা জিজ্ঞাসা করেছি কেন এটা গত রাতে নিঃশব্দ হয়ে গেছে.

এটি প্রতিক্রিয়া জানিয়েছে:

মার্কাস মতামত দিয়েছেন: "শেষ পর্যন্ত, জেনারেটিভ এআই হল এক ধরনের আলকেমি। লোকেরা তাদের পক্ষে সবচেয়ে বড় ডেটা সংগ্রহ করে এবং (স্পষ্টতই, যদি গুজব বিশ্বাস করা হয়) লুকানো প্রম্পটগুলির সাথে টিঙ্কার করে… এই আশায় যে সবকিছু ঠিকঠাক হয়ে যাবে।"

তিনি বলেন যে, বাস্তবে, সিস্টেমগুলি কখনই স্থিতিশীল ছিল না এবং নিরাপত্তার নিশ্চয়তা নেই। "সম্পূর্ণভাবে বিভিন্ন প্রযুক্তির প্রয়োজন যা কম অস্বচ্ছ, আরও ব্যাখ্যাযোগ্য, আরও রক্ষণাবেক্ষণযোগ্য এবং আরও ডিবাগযোগ্য - এবং তাই আরও ট্র্যাক্টেবল - সর্বোপরি রয়ে গেছে।"

আমরা কি ঘটেছে তার আরও বিস্তারিত ব্যাখ্যার জন্য OpenAI-এর সাথে যোগাযোগ করেছি এবং কোম্পানির প্রতিক্রিয়া জানালে এই নিবন্ধটি আপডেট করব। ®

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• প্লেটোইএসজি। কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
• প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
• উত্স: https://go.theregister.com/feed/www.theregister.com/2024/02/21/chatgpt_bug/