অলাভজনক AI দুর্ঘটনাগুলি ট্র্যাক করতে সাইট তৈরি করে৷

অলাভজনক AI দুর্ঘটনাগুলি ট্র্যাক করতে সাইট তৈরি করে৷

সময় স্ট্যাম্প: মার্চ 8, 2024 2:25 এএম
অলাভজনক সাইট তৈরি করে প্লাটোব্লকচেইন ডেটা ইন্টেলিজেন্সের ক্রমবর্ধমান AI দুর্ঘটনাগুলি ট্র্যাক করার জন্য৷ উল্লম্ব অনুসন্ধান. আ.

সাক্ষাত্কার মিথ্যা চিত্র ডোনাল্ড ট্রাম্পের সমর্থিত কালো ভোটাররা, মধ্যম-স্কুলরা তাদের মহিলা সহপাঠীদের অশ্লীল ডিপফেক তৈরি করে এবং গুগলের জেমিনি চ্যাটবট ব্যর্থতা সাদা মানুষের ছবি নির্ভুলভাবে তৈরি করতে।

এই তালিকাভুক্ত সর্বশেষ দুর্যোগ কিছু এআই ঘটনা ডেটাবেস - একটি ওয়েবসাইট প্রযুক্তির ভুল হওয়ার সমস্ত বিভিন্ন উপায়ে ট্যাব রাখে।

প্রাথমিকভাবে পার্টনারশিপ অন AI-এর পৃষ্ঠপোষকতায় একটি প্রকল্প হিসাবে চালু করা হয়েছিল, একটি গ্রুপ যা AI এর সুবিধা সমাজ নিশ্চিত করার চেষ্টা করে, AI ইনসিডেন্ট ডেটাবেস এখন একটি অলাভজনক সংস্থা যা আন্ডাররাইটার্স ল্যাবরেটরিজ দ্বারা অর্থায়ন করা হয়েছে - বৃহত্তম এবং প্রাচীনতম (আনুমানিক 1894) স্বাধীন। মার্কিন যুক্তরাষ্ট্রে পরীক্ষাগার। এটি আসবাবপত্র থেকে কম্পিউটার মাউস পর্যন্ত সমস্ত ধরণের পণ্য পরীক্ষা করে এবং এর ওয়েবসাইট এ পর্যন্ত 600 টিরও বেশি অনন্য অটোমেশন এবং এআই-সম্পর্কিত ঘটনাগুলি তালিকাভুক্ত করেছে৷

জর্জ ওয়াশিংটন ইউনিভার্সিটি স্কুল অফ বিজনেসের সহকারী অধ্যাপক প্যাট্রিক হল যুক্তি দিয়েছিলেন, "এআই সিস্টেমের নির্মাতা এবং পাবলিক ভোক্তাদের মধ্যে একটি বিশাল তথ্যের অসামঞ্জস্য রয়েছে - এবং এটি ন্যায্য নয়", যিনি বর্তমানে এআই ইনসিডেন্ট ডেটাবেসের পরিচালনা পর্ষদে দায়িত্ব পালন করছেন। . সে বলেছিল নিবন্ধনকর্মী: "আমাদের আরও স্বচ্ছতা দরকার, এবং আমরা মনে করি শুধুমাত্র সেই তথ্য শেয়ার করাই আমাদের কাজ।"

এআই ইনসিডেন্ট ডেটাবেস অলাভজনক দ্বারা সেট আপ করা CVE প্রোগ্রামের উপর মডেল করা হয়েছে পাগড়ি, অথবা ন্যাশনাল হাইওয়ে ট্রান্সপোর্ট সেফটি অ্যাডমিনিস্ট্রেশনের ওয়েবসাইট রিপোর্টিং প্রকাশ্যে সাইবার নিরাপত্তা দুর্বলতা এবং যানবাহন ক্র্যাশ প্রকাশ. "যে কোনো সময় বিমান দুর্ঘটনা, ট্রেন দুর্ঘটনা বা সাইবার নিরাপত্তার কোনো বড় ঘটনা ঘটে, যা ঘটেছিল তা রেকর্ড করা কয়েক দশক ধরে সাধারণ অভ্যাস হয়ে দাঁড়িয়েছে যাতে আমরা বোঝার চেষ্টা করতে পারি কী ভুল হয়েছে এবং তারপরে এটি পুনরাবৃত্তি করা যাবে না।"

ওয়েবসাইটটি বর্তমানে প্রায় দশজন লোক দ্বারা পরিচালিত হয়, এছাড়াও মুষ্টিমেয় স্বেচ্ছাসেবক এবং ঠিকাদার যারা অনলাইনে এআই-সম্পর্কিত ঘটনাগুলি পর্যালোচনা এবং পোস্ট করে। জর্জটাউনের সিনিয়র ফেলো হেদার ফ্রেস নিরাপত্তা এবং উদীয়মান প্রযুক্তি কেন্দ্র এআই অ্যাসেসমেন্ট এবং এআই ইনসিডেন্ট ডেটাবেস ডিরেক্টরের উপর দৃষ্টি নিবদ্ধ করে, দাবি করেছেন যে ওয়েবসাইটটি অনন্য যে এটি এআই-এর ঝুঁকি এবং ক্ষতি থেকে বাস্তব-বিশ্বের প্রভাবের উপর ফোকাস করে – কেবলমাত্র সফ্টওয়্যারের দুর্বলতা এবং বাগ নয়।

সংস্থাটি বর্তমানে মিডিয়া কভারেজ থেকে ঘটনা সংগ্রহ করে এবং টুইটারে লোকেদের দ্বারা রিপোর্ট করা সমস্যাগুলি পর্যালোচনা করে। 250 সালের নভেম্বরে ChatGPT প্রকাশের আগে AI ইনসিডেন্ট ডেটাবেস 2022টি অনন্য ঘটনা লগ করেছে এবং এখন 600 টিরও বেশি অনন্য ঘটনার তালিকা করেছে।

সময়ের সাথে সাথে AI এর সাথে সমস্যাগুলি নিরীক্ষণ করা আকর্ষণীয় প্রবণতা প্রকাশ করে এবং লোকেদের প্রযুক্তির বাস্তব, বর্তমান ক্ষতিগুলি বোঝার অনুমতি দেয়।

জর্জ ওয়াশিংটন বিশ্ববিদ্যালয়ের হল প্রকাশ করেছে যে ডাটাবেসের প্রায় অর্ধেক রিপোর্ট জেনারেটিভ এআই সম্পর্কিত। তাদের মধ্যে কিছু "মজার, মূর্খ জিনিস" মত চতুর পণ্য অ্যামাজনে বিক্রি হয়েছে শিরোনাম: "আমি সেই অনুরোধটি পূরণ করতে পারছি না" - একটি স্পষ্ট চিহ্ন যে বিক্রেতা বর্ণনা লিখতে একটি বড় ভাষা মডেল ব্যবহার করেছেন - বা এআই-জেনারেটেড স্প্যামের অন্যান্য উদাহরণ৷ কিন্তু কিছু কিছু "সত্যিই হতাশাজনক এবং গুরুতর" - যেমন একটি ক্রুজ রোবোট্যাক্সি ছুটে চলেছে এবং সান ফ্রান্সিসকোতে একটি দুর্ঘটনায় একজন মহিলাকে তার চাকার নীচে টেনে নিয়ে যাচ্ছে৷

"এআই এখন বেশিরভাগই একটি বন্য পশ্চিম, এবং মনোভাব হল দ্রুত যেতে এবং জিনিসগুলি ভেঙে ফেলা," তিনি দুঃখ প্রকাশ করেছিলেন। প্রযুক্তিটি কীভাবে সমাজকে রূপ দিচ্ছে তা স্পষ্ট নয়, এবং দলটি আশা করে যে AI ইনসিডেন্ট ডেটাবেস কীভাবে এটির অপব্যবহার হচ্ছে তার অন্তর্দৃষ্টি প্রদান করতে পারে এবং অনিচ্ছাকৃত ফলাফলগুলি তুলে ধরতে পারে - এই আশায় যে বিকাশকারী এবং নীতিনির্ধারকদের আরও ভালভাবে অবহিত করা হয়েছে যাতে তারা তাদের মডেলগুলি উন্নত করতে বা নিয়ন্ত্রণ করতে পারে। সবচেয়ে চাপা ঝুঁকি।

“চারপাশে অনেক হাইপ আছে। মানুষ অস্তিত্বের ঝুঁকি নিয়ে কথা বলে। আমি নিশ্চিত যে AI মানব সভ্যতার জন্য খুব গুরুতর ঝুঁকি তৈরি করতে পারে, কিন্তু এটা আমার কাছে স্পষ্ট যে এই বাস্তব জগতের কিছু ঝুঁকি – যেমন স্ব-চালিত গাড়ির সাথে যুক্ত প্রচুর আঘাত বা, আপনি জানেন, অ্যালগরিদমের মাধ্যমে পক্ষপাতিত্ব বজায় রাখা যা ব্যবহার করা হয় ভোক্তা অর্থ বা কর্মসংস্থানে। সেটাই আমরা দেখছি।”

"আমি জানি আমরা অনেক মিস করছি, তাই না? সবকিছু মিডিয়া দ্বারা রিপোর্ট করা বা ধরা হয় না। অনেক সময় লোকেরা বুঝতেও পারে না যে তারা যে ক্ষতির সম্মুখীন হচ্ছে তা একটি AI থেকে আসছে,” ফ্রেস পর্যবেক্ষণ করেছেন। “আমি আশা করি শারীরিক ক্ষতি অনেক বেড়ে যাবে। আমরা বৃহৎ ভাষার মডেলগুলি থেকে [বেশিরভাগ] মানসিক ক্ষতি এবং অন্যান্য অস্পষ্ট ক্ষতিগুলি দেখছি - কিন্তু একবার আমাদের জেনারেটিভ রোবোটিক্স থাকলে, আমি মনে করি শারীরিক ক্ষতি অনেক বেড়ে যাবে।"

ফ্রেস সবচেয়ে বেশি উদ্বিগ্ন যে এআই কীভাবে মানবাধিকার এবং নাগরিক স্বাধীনতাকে ক্ষুণ্ন করতে পারে। তিনি বিশ্বাস করেন যে AI ঘটনাগুলি সংগ্রহ করা দেখাবে যে নীতিগুলি সময়ের সাথে প্রযুক্তিকে আরও নিরাপদ করেছে কিনা৷

"আপনাকে জিনিসগুলি ঠিক করার জন্য জিনিসগুলি পরিমাপ করতে হবে," হল যোগ করেছেন।

সংস্থাটি সর্বদা স্বেচ্ছাসেবকদের সন্ধান করে এবং বর্তমানে আরও ঘটনা ক্যাপচার এবং সচেতনতা বৃদ্ধিতে মনোনিবেশ করছে। ফ্রেস জোর দিয়েছিলেন যে গ্রুপের সদস্যরা এআই লুডিট নয়: “আমরা সম্ভবত মোটামুটি এআই-বিরোধী হিসাবে চলে আসছি, কিন্তু আমরা তা নই। আমরা আসলে এটা ব্যবহার করতে চাই. আমরা শুধু ভালো জিনিস চাই।"

হল রাজি। "প্রযুক্তিটিকে এগিয়ে নিয়ে যাওয়ার জন্য, কাউকে এটিকে নিরাপদ করার জন্য কাজ করতে হবে," তিনি বলেছিলেন। ®

সময় স্ট্যাম্প:

থেকে আরো নিবন্ধনকর্মী