مایکروسافت هوش مصنوعی Copilot را در پاسخ به نگرانی های کارکنان اصلاح می کند

مایکروسافت هوش مصنوعی Copilot را در پاسخ به نگرانی های کارکنان اصلاح می کند

تمبر زمان: 11 مارس 2024، 7:55 بعد از ظهر
مایکروسافت هوش مصنوعی Copilot را در پاسخ به نگرانی کارکنان درباره هوش داده پلاتوبلاکچین اصلاح می کند. جستجوی عمودی Ai.

مایکروسافت ابزار هوش مصنوعی Copilot خود را به‌روزرسانی کرده است و درخواست‌هایی مانند «طرف انتخاب» و «طرفدار زندگی» را مسدود می‌کند و پس از نگرانی‌های کارکنان و FTC هشدارهایی درباره نقض سیاست‌ها ارائه می‌کند.

پس از اینکه یک مهندس هوش مصنوعی کارکنان نگرانی خود را در مورد تولید تصویر Copilot بیان کرد AI در نامه ای به کمیسیون تجارت فدرال در روز چهارشنبه، مایکروسافت شروع به تغییر ابزار هوش مصنوعی خود، Copilot کرد.

همچنین بخوانید: استارت‌آپ‌های هوش مصنوعی در سه‌ماهه اول با افزایش ۴۰ درصدی سرمایه‌گذاری خطرپذیر می‌درخشند

اصطلاحات "طرفدار زندگی" و "طرفدار انتخاب"، "طرف انتخاب" [sic]، و "چهار-بیست" که همگی در تحقیقات CNBC در روز چهارشنبه ذکر شدند، اکنون مسدود شده اند. علاوه بر این، CNBC از این هشدار آگاه بود که نقض مکرر سیاست می تواند منجر به تعلیق ابزار شود.

مهندس هوش مصنوعی صحبت می کند

شین جونز، مهندس هوش مصنوعی در مایکروسافت، هشدار می دهد که Copilot طراح، تولید کننده تصویر هوش مصنوعی این شرکت، قوانین کپی رایت را نقض می کند و محتوای خشونت آمیز یا جنسی تولید می کند. جونز پیشنهاد داد که از وقت آزاد خود برای تیم قرمز سازنده تصویر برای آسیب‌پذیری‌ها استفاده کند، حتی اگر در توسعه آن نقشی نداشته باشد.

او کشف کرد که Image Generator می‌تواند تصاویر گرافیکی و جنسی، مانند صحنه‌های خشونت‌آمیز شامل مصرف مواد مخدر، نوشیدن مشروبات الکلی و حقوق سقط جنین تولید کند.

پس از به اشتراک گذاشتن یافته های خود با شرکت در دسامبر سال گذشته، او از مایکروسافت خواست تا محصول را تولید کند. مایکروسافت آن را دنبال نکرد.

جونز تاکید می‌کند که با مدیریت ارشد Copilot Designer صحبت کرده و با دفتر هوش مصنوعی مایکروسافت تماس گرفته است، اما پاسخ رضایت‌بخشی دریافت نکرده است.

جونز در ماه ژانویه با اعضای کمیته بازرگانی، علم و حمل و نقل سنا ملاقات کرد و نامه ای به سناتورهای ایالات متحده نوشت.

او اکنون کارها را فراتر می‌گذارد: او در نامه‌ای به هیئت مدیره مایکروسافت و لینا خان، رئیس کمیسیون ضدانحصار ایالات متحده، خواستار بهبود حفاظت‌ها، شفافیت و تجدیدنظر در رتبه‌بندی بزرگسالان اپلیکیشن اندروید شده است.

علاوه بر این، او خواستار ارزیابی بی‌طرفانه روند گزارش‌دهی رویداد هوش مصنوعی مایکروسافت شد، با این ادعا که OpenAI و مایکروسافت قبل از انتشار در پاییز گذشته از مشکلات تولیدکننده تصویر آگاه بودند.

جونز تقریباً شش سال است که مدیر اصلی مهندسی نرم افزار مایکروسافت بوده است.

کمک خلبان پاسخ می دهد

با توجه به هشدار هشدار Copilot، درخواست مسدود شده است و سیستم آنها به طور خودکار این اعلان را علامت گذاری می کند زیرا ممکن است با آنها در تضاد باشد. خط مشی محتوا. آنها اظهار داشتند که نقض سیاست های بیشتر ممکن است منجر به تعلیق خودکار دسترسی شود و اگر کاربران فکر می کنند این یک اشتباه است، باید آن را گزارش کنند تا به بهبود آنها کمک کند.

یک پیشرفت قابل توجه نسبت به اوایل این هفته این است که ابزار هوش مصنوعی اکنون درخواست های ایجاد تصاویر کودکان یا نوجوانانی را که با تفنگ های تهاجمی وانمود می کنند قاتل هستند، رد می کند و می گوید: "متاسفم، اما نمی توانم چنین تصویری ایجاد کنم." هم سیاست های مایکروسافت و هم اصول اخلاقی من نقض می شوند. از من نخواهید که کاری انجام دهم که می تواند باعث آزار و اذیت دیگران شود. از همکاری شما ممنونم.

A مایکروسافت نماینده به CNBC گفت که آنها به طور مداوم در حال نظارت، انجام تنظیمات، و کنترل های اضافی برای تقویت بیشتر فیلترهای ایمنی و کاهش سوء استفاده از سیستم در پاسخ به سؤالی در مورد تغییرات هستند. 

جونز به هیئت مدیره مایکروسافت نامه نوشت و FTC رئیس لینا خان روز چهارشنبه، نگرانی های خود را یک قدم جلوتر برد. او به CNBC اجازه دسترسی پیشاپیش به نامه ها را داد.

FTC دریافت نامه به CNBC را تایید کرد، اما تصمیم گرفت هیچ اظهارنظر اضافی برای این رکورد ارائه ندهد.

تمبر زمان:

بیشتر از متانیوز