AWS مجدداً تعهد خود را به هوش مصنوعی مولد مسئول تایید می کند

بازنشر افلاطون

دنبال: 0

به عنوان یک پیشگام در هوش مصنوعی و یادگیری ماشین، AWS متعهد به توسعه و استقرار هوش مصنوعی مولد به طور مسئولانه است.

به عنوان یکی از دگرگون‌کننده‌ترین نوآوری‌های زمان ما، هوش مصنوعی مولد همچنان تخیل جهان را تسخیر می‌کند و ما مثل همیشه متعهد به استفاده مسئولانه از آن هستیم. با تیمی از متخصصان متعهد هوش مصنوعی، که توسط سازمان مهندسی و توسعه ما تکمیل می‌شود، ما به طور مستمر محصولات و خدمات خود را آزمایش و ارزیابی می‌کنیم تا نگرانی‌های مربوط به دقت، انصاف، مالکیت معنوی، استفاده مناسب، سمیت و حریم خصوصی را تعریف، اندازه‌گیری و کاهش دهیم. و در حالی که ما امروز همه پاسخ ها را نداریم، در کنار دیگران برای ایجاد رویکردها و راه حل های جدید برای مقابله با این چالش های نوظهور کار می کنیم. ما معتقدیم که هم می‌توانیم نوآوری در هوش مصنوعی را به پیش ببریم و هم به اجرای پادمان‌های لازم برای محافظت از مشتریان و مصرف‌کنندگان خود ادامه می‌دهیم.

در AWS، ما می دانیم که فناوری هوش مصنوعی مولد و نحوه استفاده از آن به تکامل خود ادامه خواهد داد. چالش های جدید که نیاز به توجه و کاهش بیشتر دارد. به همین دلیل است که آمازون به طور فعال با سازمان‌ها و نهادهای استاندارد متمرکز بر توسعه مسئولانه سیستم‌های هوش مصنوعی نسل بعدی از جمله NIST، ISO، مؤسسه هوش مصنوعی مسئول و مشارکت در هوش مصنوعی درگیر است. در واقع، هفته گذشته در کاخ سفید، آمازون به صورت داوطلبانه امضا کرد تعهدات برای تقویت توسعه ایمن، مسئولانه و موثر فناوری هوش مصنوعی. ما مشتاق به اشتراک گذاشتن دانش با سیاست گذاران، دانشگاهیان و جامعه مدنی هستیم، زیرا می دانیم که چالش های منحصر به فرد ناشی از هوش مصنوعی مولد نیازمند همکاری مداوم است.

این تعهد با رویکرد ما برای توسعه خدمات هوش مصنوعی مولد خودمان، از جمله ساخت مدل‌های پایه (FM) با هوش مصنوعی مسئول در هر مرحله از فرآیند توسعه جامع ما سازگار است. در طول طراحی، توسعه، استقرار و عملیات، ما طیفی از عوامل از جمله 1/ دقت را در نظر می گیریم، به عنوان مثال، اینکه یک خلاصه چقدر با سند اصلی مطابقت دارد. آیا یک بیوگرافی از نظر واقعیات درست است یا خیر. 2/ انصاف، به عنوان مثال، اینکه آیا خروجی ها با گروه های جمعیتی به طور مشابه رفتار می کنند یا خیر. 3/ ملاحظات مالکیت معنوی و کپی رایت؛ 4/ استفاده مناسب، به عنوان مثال، فیلتر کردن درخواست های کاربر برای مشاوره حقوقی، تشخیص های پزشکی، یا فعالیت های غیرقانونی، 5/ سمیت، به عنوان مثال، سخنان نفرت انگیز، ناسزا، و توهین. و 6/ حریم خصوصی، به عنوان مثال، حفاظت از اطلاعات شخصی و درخواست های مشتری. ما راه‌حل‌هایی برای رسیدگی به این مسائل در فرآیندهای خود برای به دست آوردن داده‌های آموزشی، در خود FMها و فناوری‌هایی که برای پیش پردازش درخواست‌های کاربر و خروجی‌های پس از فرآیند استفاده می‌کنیم، ایجاد می‌کنیم. برای همه FM های خود، ما فعالانه سرمایه گذاری می کنیم تا ویژگی های خود را بهبود بخشیم و از مشتریان در حین آزمایش موارد استفاده جدید یاد بگیریم.

به عنوان مثال، Titan FM آمازون برای شناسایی و حذف محتوای مضر در داده‌هایی که مشتریان برای سفارشی‌سازی ارائه می‌کنند، رد کردن محتوای نامناسب در ورودی کاربر، و فیلتر کردن خروجی‌های مدل حاوی محتوای نامناسب (مانند سخنان نفرت‌انگیز، فحاشی، و خشونت) ساخته شده‌اند. .

برای کمک به توسعه دهندگان در ساخت برنامه های کاربردی مسئولانه، آمازون کد Whisperer یک ردیاب مرجع ارائه می دهد که اطلاعات مجوز را برای یک توصیه کد نمایش می دهد و در صورت لزوم پیوندی به مخزن منبع باز مربوطه ارائه می دهد. این باعث می‌شود توسعه‌دهندگان تصمیم بگیرند که آیا از کد در پروژه خود استفاده کنند یا نه و منابع کد منبع مربوطه را آن‌طور که می‌دانند آسان‌تر کنند. علاوه بر این، Amazon CodeWhisperer توصیه‌های کدی را که شامل عبارات سمی هستند و توصیه‌هایی که نشان‌دهنده سوگیری هستند را فیلتر می‌کند.

از طریق خدمات نوآورانه ای مانند این، ما همچنان به مشتریان خود کمک می کنیم تا مزایای هوش مصنوعی مولد را درک کنند، در حالی که در بخش های عمومی و خصوصی همکاری می کنیم تا اطمینان حاصل کنیم که این کار را مسئولانه انجام می دهیم. ما با هم، در میان مشتریان و عموم مردم اعتماد ایجاد خواهیم کرد، زیرا از این فناوری جدید متحول کننده به عنوان نیرویی برای خیر استفاده می کنیم.

درباره نویسنده

پیتر هالینان ابتکارات را در علم و عمل هوش مصنوعی مسئول در AWS AI، در کنار تیمی از کارشناسان مسئول هوش مصنوعی رهبری می کند. او تخصص عمیقی در هوش مصنوعی (دکتری، هاروارد) و کارآفرینی (Blindsight، فروخته شده به آمازون) دارد. فعالیت های داوطلبانه او شامل خدمت به عنوان استاد مشاور در دانشکده پزشکی دانشگاه استنفورد و رئیس اتاق بازرگانی آمریکا در ماداگاسکار بوده است. در صورت امکان، او با فرزندانش در کوهستان می رود: اسکی، کوهنوردی، پیاده روی و رفتینگ.