قانون هوش مصنوعی اتحادیه اروپا – پیامدهای آن برای بانکداری و فین تک چیست؟

رای نهایی دیروز پارلمان اروپا در مورد قانون هوش مصنوعی، که قرار است در ماه مه اجرایی شود، خبر از جامع ترین قانون هوش مصنوعی در جهان می دهد. درست مانند GDPR، پیامدهای جهانی فراتر از اتحادیه اروپا خواهد داشت.

قانون هوش مصنوعی چارچوبی جامع برای حصول اطمینان از توسعه هوش مصنوعی قابل اعتماد و استفاده مسئولانه از ابزارهای هوش مصنوعی، به ویژه شفافیت، سوگیری، نقض حریم خصوصی، خطرات امنیتی، و پتانسیل انتشار اطلاعات نادرست ارائه می‌کند.
به عنوان نظارت انسانی در توسعه فناوری های هوش مصنوعی. 

در این دستورالعمل‌ها، از هفت اصل اخلاقی غیرالزام‌آور برای هوش مصنوعی استفاده می‌شود که به منظور کمک به اطمینان از قابل اعتماد بودن و از نظر اخلاقی صحیح هوش مصنوعی است. اصول شامل

- عاملیت و نظارت انسانی؛

- استحکام فنی و ایمنی؛

- حریم خصوصی و حاکمیت داده؛

- شفافیت؛

- تنوع، عدم تبعیض و انصاف؛

- رفاه اجتماعی و محیطی و مسئولیت پذیری.

با رویکرد مبتنی بر ریسک سطحی، سیستم‌های هوش مصنوعی پرخطر در بخش‌هایی مانند بانکداری و مراقبت‌های بهداشتی با تعهدات قانونی سختگیرانه و جریمه‌های قابل‌توجهی برای عدم انطباق مواجه خواهند شد. این قانون هوش مصنوعی را به چهار سطح ریسک، از حداقل تا غیرقابل قبول، طبقه‌بندی می‌کند
با افزایش تعهدات

قانون هوش مصنوعی اتحادیه اروپا توسعه، استقرار و استفاده از سیستم‌های هوش مصنوعی خاص را ممنوع می‌کند، از جمله:

- سیستم های نمره گذاری اجتماعی

- مهندسی اجتماعی

- شناسایی بیومتریک از راه دور در زمان واقعی در فضاهای عمومی

- نمایه سازی و پیش بینی رفتار مبتنی بر هوش مصنوعی

- خراش دادن و تقویت تصاویر صورت برای گسترش پایگاه های داده

- تکنیک های دستکاری مبتنی بر هوش مصنوعی استقلال و انتخاب آزاد را تضعیف می کند 

همه سیستم‌های هوش مصنوعی خطرات قابل‌توجهی ندارند، به‌ویژه اگر تأثیر مادی بر تصمیم‌گیری نداشته باشند یا به منافع قانونی محافظت‌شده آسیب جدی وارد نکنند. سیستم‌های هوش مصنوعی با کمترین تأثیر بر تصمیم‌گیری یا خطر برای منافع قانونی، مانند سیستم‌هایی که عملکرد دارند
وظایف محدود یا تقویت فعالیت های انسانی، کم خطر در نظر گرفته می شود. مستندسازی و ثبت نام برای این سیستم ها برای شفافیت مورد تاکید است. برخی از سیستم‌های هوش مصنوعی پرخطر شامل چندین بخش از جمله بانکداری و بیمه (و همچنین پزشکی) می‌شوند
دستگاه ها، منابع انسانی، آموزش، و موارد دیگر).

الزامات اجباری برای سیستم‌های هوش مصنوعی پرخطر با در نظر گرفتن هدف و زمینه استفاده از آنها، با هدف اطمینان از قابلیت اطمینان و کاهش خطرات است. برای شرکت‌های خدمات مالی و فین‌تک، به‌ویژه آن‌هایی که با داده‌های مشتریان سروکار دارند، حفظ این اطلاعات مهم است
در زیر این الزامات را برای سیستم های هوش مصنوعی پرخطر در نظر داشته باشید:

– مدیریت ریسک مستمر و تکراری برای هوش مصنوعی پرخطر، با تمرکز بر سلامت، ایمنی و حقوق، نیازمند به روز رسانی، مستندات و مشارکت ذینفعان.

- انجام ارزیابی تأثیر حقوق اساسی

- حکمرانی دقیق برای جلوگیری از تبعیض و اطمینان از رعایت قوانین حفاظت از داده ها

- مجموعه داده‌های آموزش و آزمایش باید معرف، دقیق و عاری از سوگیری باشد تا از اثرات نامطلوب بر سلامت، ایمنی و حقوق اساسی جلوگیری شود.

- تضمین نظارت و شفافیت انسانی

- اطمینان از تشخیص و تصحیح سوگیری

- اسناد قابل درک برای ردیابی، تأیید انطباق، نظارت عملیاتی، و نظارت پس از بازار، از جمله ویژگی‌های سیستم، الگوریتم‌ها، فرآیندهای داده و مدیریت ریسک در اسناد فنی شفاف و به‌روز شده، به علاوه
ثبت خودکار رویدادها در طول عمر هوش مصنوعی.

- سیستم‌های هوش مصنوعی پرخطر باید در طول چرخه عمر خود به طور مداوم عمل کنند و سطح مناسبی از دقت، استحکام و امنیت سایبری را رعایت کنند.

کسب‌وکارها باید توسعه هوش مصنوعی مسئولیت‌پذیر را در اولویت قرار دهند تا از مقررات اخیر پیروی کنند و از مجازات‌های سنگین برای عدم رعایت آن جلوگیری کنند. اینها برخی از مراحلی هستند که شرکت باید برای اطمینان از انطباق با آنها شروع کند:

1. حاکمیت هوش مصنوعی را ایجاد کنید در اوایل، اطمینان از مشارکت و خرید در بین سهامداران
2. آموزش دهید و آموزش دهید تیم شما در اصول اخلاقی هوش مصنوعی. مدیریت ریسک‌های هوش مصنوعی به مهارت‌های جدیدی نیاز دارد، از تجزیه و تحلیل داده‌ها گرفته تا امنیت/حریم خصوصی، حقوقی و خیلی چیزهای دیگر.
3. یک ممیزی هوش مصنوعی انجام دهید از سازمان (و نه فقط مهندسی)، بلکه حقوقی، منابع انسانی و غیره نیز برای به دست آوردن یک تصویر کامل از محل استفاده از هوش مصنوعی در سازمان
4. انطباق مداوم را بررسی کنید
5. اطمینان حاصل کنید که ارائه دهندگان SaaS شما به طور مسئولانه از هوش مصنوعی استفاده می کنند
6. از شفافیت، درک و توضیح مدل ها اطمینان حاصل کنید که در کسب و کار شما استفاده می شود

در حالی که گامی بسیار مورد نیاز در مسیر درست است، شیطان در جزئیات است و قانون هوش مصنوعی تأثیر قابل توجهی بر آینده سازمان‌ها، چه سنتی و چه مبتنی بر هوش مصنوعی، خواهد داشت. همانطور که ما در دوره ای حرکت می کنیم که در آن تأثیر هوش مصنوعی به طور فزاینده ای در حال افزایش است
عمیق، همسویی با استانداردهای اخلاقی و الزامات قانونی فقط یک موضوع انطباق قانونی نیست، بلکه یک ضرورت استراتژیک است. با تمرکز بر هوش مصنوعی مسئولیت پذیر، کسب و کارها نه تنها از خود در برابر جریمه های قابل توجه محافظت می کنند، بلکه موقعیت خود را نیز در اختیار دارند
به عنوان موجودیت های قابل اعتماد و آینده نگر در چشم انداز دیجیتال که به سرعت در حال تحول است. سفر به سمت هوش مصنوعی مسئولیت پذیر یک مسیر چالش برانگیز و در عین حال ضروری است که نوید تعریف مجدد آینده فناوری، حکومت و رفاه اجتماعی را می دهد.

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
• PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
• PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
• PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
• منبع: https://www.finextra.com/blogposting/25899/the-eu-ai-act—what-are-the-implications-for-banking-and-fintech?utm_medium=rssfinextra&utm_source=finextrablogs