غیرانتفاعی سایتی را برای ردیابی حوادث ناگوار هوش مصنوعی می سازد

غیرانتفاعی سایتی را برای ردیابی حوادث ناگوار هوش مصنوعی می سازد

تمبر زمان: 8 مارس 2024، 2:25 صبح
Non-profit builds site to track surging AI mishaps PlatoBlockchain Data Intelligence. Vertical Search. Ai.

مصاحبه غلط تصاویر دونالد ترامپ که توسط رای دهندگان سیاهپوست ساخته شده حمایت می شود، دانش آموزان متوسطه ای که از همکلاسی های زن خود تصاویر مستهجن ایجاد می کنند و چت ربات جمینی گوگل عدم برای تولید تصاویر افراد سفیدپوست با دقت.

اینها برخی از آخرین بلایای ذکر شده در فهرست هستند پایگاه داده حوادث هوش مصنوعی - وب سایتی که تمام راه های مختلف اشتباه فناوری را بررسی می کند.

پایگاه داده رویدادهای هوش مصنوعی که در ابتدا به عنوان پروژه ای تحت حمایت Partnership On AI، گروهی که تلاش می کند از مزایای هوش مصنوعی برای جامعه اطمینان حاصل کند، راه اندازی شد، اکنون یک سازمان غیرانتفاعی است که توسط Underwriters Laboratories تأمین مالی می شود - بزرگترین و قدیمی ترین (تقریباً 1894) مستقل. آزمایشگاه تست در ایالات متحده این شرکت انواع محصولات - از مبلمان گرفته تا موس های کامپیوتری - را آزمایش می کند و وب سایت آن تاکنون بیش از 600 رویداد منحصر به فرد اتوماسیون و مرتبط با هوش مصنوعی را فهرست کرده است.

پاتریک هال، استادیار دانشکده بازرگانی دانشگاه جورج واشنگتن که در حال حاضر در هیئت مدیره پایگاه داده رویدادهای هوش مصنوعی مشغول به کار است، گفت: «عدم تقارن اطلاعاتی بزرگی بین سازندگان سیستم‌های هوش مصنوعی و مصرف‌کنندگان عمومی وجود دارد – و این منصفانه نیست». . او گفت ثبت نام: "ما به شفافیت بیشتری نیاز داریم و احساس می کنیم وظیفه ما به اشتراک گذاشتن این اطلاعات است."

پایگاه داده رویداد هوش مصنوعی بر اساس برنامه CVE که توسط سازمان غیرانتفاعی راه اندازی شده است، الگوبرداری شده است تاج، و یا اداره ملی ایمنی حمل و نقل بزرگراه وب سایتی که آسیب‌پذیری‌های امنیتی سایبری و تصادفات خودرو را به صورت عمومی گزارش می‌کند. هر زمان که یک سانحه هواپیما، تصادف قطار یا یک حادثه بزرگ امنیت سایبری رخ می دهد، در طول دهه ها ثبت آنچه اتفاق افتاده است به یک عادت معمول تبدیل شده است تا بتوانیم سعی کنیم اشتباه را بفهمیم و سپس آن را تکرار نکنیم.

این وب‌سایت در حال حاضر توسط حدود ده نفر مدیریت می‌شود، به‌علاوه تعداد انگشت شماری از داوطلبان و پیمانکارانی که رویدادهای مرتبط با هوش مصنوعی را به صورت آنلاین بررسی و ارسال می‌کنند. هدر فریس، یکی از همکاران ارشد در جورج تاون مرکز امنیت و فناوری های نوظهور با تمرکز بر ارزیابی هوش مصنوعی و مدیر پایگاه داده رویدادهای هوش مصنوعی، ادعا کرد که این وب سایت از این نظر منحصر به فرد است که بر تأثیرات دنیای واقعی ناشی از خطرات و مضرات هوش مصنوعی تمرکز دارد - نه فقط آسیب پذیری ها و باگ های نرم افزار.

این سازمان در حال حاضر حوادث را از پوشش رسانه ای جمع آوری می کند و مسائل گزارش شده توسط افراد در توییتر را بررسی می کند. پایگاه داده رویدادهای هوش مصنوعی قبل از انتشار ChatGPT در نوامبر 250، 2022 رویداد منحصر به فرد را ثبت کرده است و اکنون بیش از 600 رویداد منحصر به فرد را فهرست می کند.

نظارت بر مشکلات هوش مصنوعی در طول زمان روندهای جالبی را نشان می دهد و می تواند به مردم اجازه دهد آسیب های واقعی و فعلی این فناوری را درک کنند.

تالار دانشگاه جورج واشنگتن فاش کرد که تقریباً نیمی از گزارش‌های موجود در پایگاه داده مربوط به هوش مصنوعی مولد هستند. برخی از آنها "چیزهای خنده دار و احمقانه" هستند مانند محصولات نامطلوب در آمازون به فروش می رسد با عنوان: "من نمی توانم آن درخواست را برآورده کنم" - نشانه واضحی است که فروشنده از یک مدل زبان بزرگ برای نوشتن توضیحات استفاده کرده است - یا موارد دیگری از هرزنامه های تولید شده توسط هوش مصنوعی. اما برخی «واقعاً به نوعی افسرده‌کننده و جدی هستند» - مانند ربات‌اکسی کروز که در تصادفی در سانفرانسیسکو از روی آن می‌دود و زنی را زیر چرخ‌هایش می‌کشاند.

او اظهار تاسف کرد: «هوش مصنوعی در حال حاضر عمدتاً یک غرب وحشی است و نگرش این است که سریع برویم و چیزها را بشکنیم. مشخص نیست که این فناوری چگونه جامعه را شکل می دهد، و تیم امیدوار است که پایگاه داده رویدادهای هوش مصنوعی بتواند بینشی در مورد روش های سوء استفاده از آن ارائه دهد و پیامدهای ناخواسته را برجسته کند - به این امید که توسعه دهندگان و سیاست گذاران بهتر مطلع شوند تا بتوانند مدل های خود را بهبود بخشند یا تنظیم کنند. فوری ترین خطرات

هیاهوی زیادی در اطراف وجود دارد. مردم در مورد خطر وجودی صحبت می کنند. من مطمئن هستم که هوش مصنوعی می‌تواند خطرات بسیار شدیدی برای تمدن بشری ایجاد کند، اما برای من واضح است که برخی از این خطرات در دنیای واقعی‌تر - مانند صدمات زیاد مرتبط با اتومبیل‌های خودران یا، می‌دانید، تداوم تعصب از طریق الگوریتم‌های مورد استفاده در امور مالی مصرف کننده یا اشتغال. این چیزی است که ما می بینیم.»

"می دانم که ما چیزهای زیادی را از دست داده ایم، درست است؟ همه چیز توسط رسانه ها گزارش یا ضبط نمی شود. بسیاری از اوقات ممکن است مردم حتی متوجه نشوند که آسیبی که تجربه می‌کنند ناشی از هوش مصنوعی است. "من انتظار دارم که آسیب جسمی بسیار افزایش یابد. ما شاهد آسیب‌های روانی و سایر آسیب‌های نامشهود هستیم که از مدل‌های بزرگ زبانی اتفاق می‌افتد – اما زمانی که روباتیک مولد داشته باشیم، فکر می‌کنم آسیب‌های فیزیکی بسیار افزایش خواهد یافت.»

فریس بیشتر نگران راه هایی است که هوش مصنوعی می تواند حقوق بشر و آزادی های مدنی را از بین ببرد. او معتقد است که جمع آوری حوادث هوش مصنوعی نشان می دهد که آیا سیاست ها این فناوری را در طول زمان ایمن تر کرده است یا خیر.

هال افزود: "شما باید چیزها را اندازه بگیرید تا چیزها را اصلاح کنید."

این سازمان همیشه به دنبال داوطلبان است و در حال حاضر روی ثبت حوادث بیشتر و افزایش آگاهی متمرکز شده است. فریس تاکید کرد که اعضای این گروه از افراد علاقه مند به هوش مصنوعی نیستند. ما در واقع می خواهیم از آن استفاده کنیم. ما فقط چیزهای خوب را می خواهیم.»

هال موافقت کرد. او گفت: «برای اینکه فناوری به نوعی به جلو حرکت کند، کسی باید کار کند تا آن را ایمن تر کند. ®

تمبر زمان:

بیشتر از ثبت نام