پیامدهای پرهزینه نجواگر هوش مصنوعی غیراخلاقی (پادما چوکا)

                         

بله.. من در مورد برنامه‌های هوش مصنوعی صحبت می‌کنم – برنامه‌های بی‌شمار هوش مصنوعی ما و برنامه‌های آتی که با انسان‌ها زمزمه می‌کنند که چه کاری انجام دهند…. چگونه این کار را انجام دهیم ... اما نه در مورد زمزمه کنندگانی که با چت ربات های هوش مصنوعی تعامل دارند.

مطابق با IDC پیش‌بینی‌ها، بازار جهانی هوش مصنوعی می‌تواند تا سال 500 به بیش از 2024 میلیارد دلار برسد - بیش از 50 درصد افزایش نسبت به سال 2021. این نشان می‌دهد که ما از آزمایش‌های تجاری به سمت پذیرش اینکه بخشی جدایی‌ناپذیر از استراتژی سازمانی برای همه اندازه‌ها است حرکت کرده‌ایم. این یک ابزار ضروری برای تبدیل داده ها به بینش برای جرقه زدن اقدام بر اساس تصمیمات بهتر است. هیچ کس در مورد مزایای هوش مصنوعی برای کاهش ریسک تجاری و تقویت بازگشت سرمایه با نوآوری بحث نمی کند. اما، مثل همیشه، یک ... اما... گفتن هوش مصنوعی بی طرف آسان تر از انجام دادن است.

این مدل‌های هوش مصنوعی که برای کسب‌وکار حیاتی است، باید به‌طور قابل‌اطمینانی با دید و مسئولیت‌پذیری عمل کنند. در غیر این صورت، شکست، در این مورد، عواقب ناگواری دارد که بر جریان نقدی هر شرکت تأثیر می گذارد و حتی ممکن است منجر به مسائل قانونی شود. تنها راه برای جلوگیری از این امر، اتوماسیون و شفافیت برای پاسخ به یک سوال است: "آیا می توانید ثابت کنید که این برنامه / حجم کاری هوش مصنوعی از نظر اخلاقی ساخته شده است." آکا ... چگونه حکومت می کنید؟ و آیا می توانید ثابت کنید که به طور مداوم اداره می شود؟

این جایی است که شرکت ها دوست دارند آی بی ام روی حاکمیت هوش مصنوعی سرمایه گذاری کرده اند تا فرآیند کلی هدایت، مدیریت و نظارت بر فعالیت های هوش مصنوعی سازمان را هماهنگ کنند. وظیفه اصلی این است که اطمینان حاصل شود که همه واحدهای تجاری فعال می مانند و چارچوب حاکمیتی را در ابتکارات برای تقویت توانایی رعایت اصول و مقررات اخلاقی القا می کنند. به ویژه، صنایع تحت نظارت مانند بانکداری و خدمات مالی از نظر قانونی ملزم به ارائه شواهدی برای جلب رضایت قانونگذاران هستند.

نفوذ هوش مصنوعی در بخش خدمات مالی به دلیل فشار عظیم تحول دیجیتال به طور تصاعدی در حال افزایش است. همانطور که گفته شد، گفتن آسانتر از انجام دادن است زیرا:

1. برنامه های هوش مصنوعی را با اطمینان عملیاتی کنید:

در برخی موارد، مدل ها بدون وضوح و فهرست نویسی ساخته می شوند. نیازی به گفتن نیست، نظارت در میان همه چیز برای ردیابی چرخه زندگی انتها به انتها از بین می رود. در حالی که بانک‌ها با برنامه‌های قدیمی دست و پنجه نرم می‌کنند، خودکار کردن فرآیندها برای ایجاد شفافیت و توضیح‌پذیری سخت‌تر شد و به نوبه خود یک جعبه سیاه شد. هیچ کس نمی داند چرا و چگونه تصمیمات گرفته شده است. برنامه‌های جدید که با برنامه‌های قدیمی درهم‌تنیده‌اند، هرگز نور روز را نمی‌بینند، اگرچه به دلیل کیفیت و خطرات غیرقابل درک، بازگشت سرمایه (ROI) عظیمی با آن همراه است.

این ما را به دومین نقطه می رساند - مدیریت ریسک شهرت

2. ریسک شهرت را همراه با ریسک کلی مدیریت کنید

من خواسته ام #chatGPT و #برد - پادما چوکا کیست. #ChatGPT حتی اگر سوال را چند جور تغییر دادم از پاسخ دادن امتناع کردم. با این حال، بارد به من پاسخ مفصلی داد، از جمله پروفایل لینکدین من... اما داده ها از سایت های مختلفی است که نمایه قدیمی من هنوز به عنوان بخشی از بایوس بلندگو وجود دارد. از آن نقطه به بعد، من هنوز بارد را باز نکرده ام. به سرعت، من خاموش شدم، با نام مستعار - خطر شهرت. فرض کنید می‌توانم یک چت بات ساده را خاموش کنم وقتی متوجه شدم که داده‌ها ممکن است ناسازگار باشند. چگونه می‌توانم قبل از تصمیم‌گیری برای خرید یک برنامه کاربردی مبتنی بر هوش مصنوعی برای انجام یک تجارت مهم مطمئن نباشم؟ ریسک شهرت یک عامل ضروری است که گاهی شرکت ها آن را فراموش می کنند. اگر ریسک شهرت را کمی بسنجید، می‌توانید تأثیر فوق‌العاده‌ای را بر کسب‌وکار ببینید، اگر فردی فعال نباشد.

برای افزودن به پیچیدگی، مورد سوم…

3. چگونه یک شرکت می تواند به تغییر مقررات هوش مصنوعی پاسخ دهد؟

برای جلوگیری از خطر شهرت، یک تیم هوش مصنوعی موفق و مسئول باید از همه مقررات محلی و جهانی آگاه باشد و مانند یک ویدیوی تیک تاک با یک لحظه منتشر شود. و عدم انطباق ممکن است در نهایت میلیون‌ها دلار جریمه برای یک سازمان تمام کند، مانند قانون پیشنهادی هوش مصنوعی اتحادیه اروپا. این ممکن است تا 30 میلیون یورو یا 6٪ از درآمد جهانی شرکت - OUCH.

خوب، لازم نیست همه چیز در شروع کار گلگون باشد ... تا زمانی که ما بدانیم چگونه از یک موقعیت ترسناک به یک موقعیت گلگون تبدیل کنیم.

بدون تعجب ... همیشه مردم، فرآیند و فناوری هستند. بنابراین ابتدا یک هیئت حاکمه متقابل برای آموزش، هدایت و نظارت بر ابتکارات بر اساس اهداف ایجاد کنید. سپس فناوری و فرآیندهای فعلی هوش مصنوعی را معیار قرار دهید، شکاف‌ها را درک کنید، سپس برای اثبات آینده اصلاح کنید. سپس به مجموعه‌ای از گردش‌های کاری حاکمیت خودکار مطابق با الزامات انطباق بازگردید. در نهایت، یک سیستم نظارتی راه‌اندازی کنید تا در صورت نزدیک شدن به آستانه قابل قبول، به مالکان هشدار دهد. و مطمئن شوید که برخی یا همه قابلیت ها را دارد:

· یکپارچگی داده ها در استقرارهای مختلف

· از ابزارهای موجود باز و منعطف که به حاکمیت هوش مصنوعی پایبند هستند استفاده کنید

· مطمئن شوید که دسترسی سلف سرویس را با کنترل های حریم خصوصی ارائه می دهید - راهی برای ردیابی

· طراحی با مدیریت اتوماسیون و هوش مصنوعی

· می تواند از طریق گردش کار قابل تنظیم برای چندین سهامدار متصل شود و قابل تنظیم باشد

هنگامی که برنامه را از ترسناک به Rosy تغییر دادیم ... سپس سؤال بعدی این است که چگونه ثابت کنید ...

ابتدا، به اصول هوش مصنوعی شرکت بازگردید - با آنها بسازید، و با این حال هنوز باید "نشان دهید" که سازگار هستید، به خصوص در محیط های تنظیم شده مانند خدمات مالی. از آنجایی که خدمات مالی باید از NIST 800-53 شکایت کنند، می توانند به این موضوع نگاه کنند چارچوب مدیریت ریسک هوش مصنوعی NIST (AI RMF). NIST کنترل‌ها را در چهار خانواده پیشنهاد کرد - Govern، Map، Measure و Manage. با استفاده از آن به عنوان یک عامل راهنما و تست استرس، برنامه ها برای شناسایی شکاف ها برای اصلاح و پایش.

آی‌بی‌ام می‌تواند مدل‌های شما را قبل از تولید آن‌ها اعتبارسنجی کند، و می‌تواند از نظر انصاف، کیفیت و رانش کنترل شود. همچنین می‌تواند مستنداتی را ارائه دهد که رفتار و پیش‌بینی‌های مدل را برای برآوردن نیازهای تنظیم‌کننده و حسابرسان توضیح می‌دهد. این توضیحات می تواند دید و درد حسابرسی را کاهش دهد و شفافیت و توانایی تعیین خطرات احتمالی را افزایش دهد.

 با اطمینان به آن زمزمه های هوش مصنوعی گوش دهید!

#خدمات مالی #مسئول #اخلاق #NISTAIRMF

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• پلاتوبلاک چین. Web3 Metaverse Intelligence. دانش تقویت شده دسترسی به اینجا.
• ضرب کردن آینده با آدرین اشلی. دسترسی به اینجا.
• منبع: https://www.finextra.com/blogposting/24053/the-costly-consequences-of-unethical-ai-whisperer?utm_medium=rssfinextra&utm_source=finextrablogs