अनैतिक एआई व्हिस्परर (पद्म चुक्का) के महंगे परिणाम

                         

हाँ.. मैं एआई अनुप्रयोगों के बारे में बात कर रहा हूँ - हमारे असंख्य एआई अनुप्रयोगों और आने वाले लोगों के बारे में फुसफुसाते हुए कि क्या करना है ...। इसे कैसे करना है...लेकिन कानाफूसी करने वालों के बारे में नहीं जो एआई चैटबॉट्स के साथ बातचीत करते हैं।

के अनुसार आईडीसी भविष्यवाणियों, वैश्विक एआई बाजार 500 तक $2024 बिलियन से अधिक तक पहुंच सकता है - 50 से 2021% से अधिक की वृद्धि। यह इंगित करता है कि हम व्यावसायिक प्रयोगों से यह स्वीकार करने के लिए चले गए कि यह सभी आकारों के लिए उद्यम रणनीति का एक अभिन्न अंग है। बेहतर निर्णयों के आधार पर कार्रवाई शुरू करने के लिए डेटा को अंतर्दृष्टि में बदलने के लिए यह एक आवश्यक उपकरण है। व्यावसायिक जोखिम को कम करने और नवाचार के साथ आरओआई को बढ़ाने के लिए कोई भी एआई के लाभों पर बहस नहीं कर रहा है। लेकिन, हमेशा की तरह, एक...लेकिन... निष्पक्ष एआई कहना आसान है करना मुश्किल।

व्यवसाय के लिए महत्वपूर्ण, इन एआई मॉडलों को दृश्यता और जवाबदेही के साथ मज़बूती से काम करने की आवश्यकता है। अन्यथा, इस मामले में विफलता के भयानक परिणाम होते हैं जो किसी भी कंपनी के नकदी प्रवाह को प्रभावित करते हैं और यहां तक ​​कि कानूनी मामले भी हो सकते हैं। इससे बचने का एकमात्र तरीका एक प्रश्न का उत्तर देने के लिए स्वचालन और पारदर्शिता है "क्या आप यह साबित कर सकते हैं कि यह एआई एप्लिकेशन/वर्कलोड नैतिक रूप से निर्मित है।" आका ... आप कैसे शासन करते हैं? और क्या आप यह साबित कर सकते हैं कि यह लगातार शासित हो रहा है?

यह वह जगह है जहां कंपनियां पसंद करती हैं आईबीएम संगठन की एआई गतिविधियों के निर्देशन, प्रबंधन और निगरानी की समग्र प्रक्रिया को ऑर्केस्ट्रेट करने के लिए एआई गवर्नेंस में निवेश किया है। प्राथमिक काम यह सुनिश्चित करना है कि सभी व्यावसायिक इकाइयां सक्रिय रहें और नैतिक सिद्धांतों और विनियमों को पूरा करने की क्षमता को मजबूत करने के लिए पहल में शासन ढांचे को शामिल करें। विशेष रूप से, बैंकिंग और वित्तीय सेवाओं जैसे विनियमित उद्योगों को नियामकों को संतुष्ट करने के लिए साक्ष्य प्रदान करने के लिए कानूनी रूप से आवश्यक है।

डिजिटल परिवर्तन के जबरदस्त दबाव के कारण एआई का प्रभाव वित्तीय सेवा क्षेत्र में तेजी से बढ़ रहा है। जैसा कि कहा गया है, करने से कहना आसान है क्योंकि:

1. एआई ऐप्स को आत्मविश्वास से संचालित करें:

कुछ मामलों में, मॉडल स्पष्टता और कैटलॉगिंग के बिना बनाए जाते हैं; कहने की जरूरत नहीं है, शुरू से अंत तक जीवन चक्र को ट्रैक करने के लिए हर चीज के बीच में निगरानी चली जाती है। जबकि बैंक विरासत अनुप्रयोगों के साथ संघर्ष कर रहे हैं, पारदर्शिता और व्याख्यात्मकता बनाने के लिए प्रक्रियाओं को स्वचालित करना कठिन हो गया है और बदले में, एक ब्लैक बॉक्स बन गया है। कोई नहीं जानता कि निर्णय क्यों/कैसे लिए गए। लीगेसी ऐप्स के साथ उलझे नए ऐप्स कभी भी दिन का उजाला नहीं देखते हैं, हालांकि गुणवत्ता और अप्रत्याशित जोखिमों के कारण इसके साथ एक बड़ा आरओआई जुड़ा हुआ है।

यह हमें हमारे दूसरे बिंदु पर लाता है - प्रतिष्ठा जोखिम का प्रबंधन

2. समग्र जोखिम के साथ-साथ प्रतिष्ठा संबंधी जोखिम का प्रबंधन करें

मैंने पूछा #चैटजीपीटी और #बार्ड - कौन हैं पद्मा चुक्का। #चैटजीपीटी अगर मैंने प्रश्न को कई तरीकों से बदल दिया तो भी जवाब देने से इंकार कर दिया। फिर भी, बार्ड ने मुझे एक विस्तृत उत्तर दिया, जिसमें मेरी लिंक्डइन प्रोफ़ाइल भी शामिल है...लेकिन डेटा विभिन्न साइटों से है जहां मेरी पुरानी प्रोफ़ाइल अभी भी स्पीकर बायोस के हिस्से के रूप में मौजूद है। उस समय से, मुझे बार्ड खोलना बाकी है। इतनी जल्दी, मुझे बंद कर दिया गया, उर्फ़ - प्रतिष्ठा जोखिम। मान लीजिए कि जब मुझे पता चलता है कि डेटा असंगत हो सकता है तो मैं एक साधारण चैटबॉट को बंद कर सकता हूं। महत्वपूर्ण व्यवसाय करने के लिए एआई-इन्फ्यूज्ड एप्लिकेशन खरीदने का निर्णय लेने से पहले मैं कैसे सुनिश्चित नहीं हो सकता था? प्रतिष्ठा जोखिम एक आवश्यक कारक है जिसे कभी-कभी कंपनियां भूल जाती हैं। यदि आप प्रतिष्ठित जोखिम की मात्रा निर्धारित करते हैं, तो कोई व्यवसाय पर जबरदस्त प्रभाव देख सकता है यदि कोई सक्रिय नहीं है।

जटिलता में जोड़ने के लिए, तीसरा है…

3. एआई नियमों को बदलने पर कंपनी कैसे प्रतिक्रिया दे सकती है?

प्रतिष्ठित जोखिम से बचने के लिए, एक सफल और जिम्मेदार एआई टीम को हर स्थानीय और वैश्विक नियमन के बारे में पता होना चाहिए, एक पल की सूचना के साथ टिक-टॉक वीडियो की तरह गिरना। और गैर-अनुपालन अंततः प्रस्तावित ईयू एआई अधिनियम जैसे काम के आसपास जुर्माना में एक संगठन को लाखों डॉलर खर्च कर सकता है। यह 30 मिलियन यूरो या कंपनी के वैश्विक राजस्व का 6% - OUCH तक हो सकता है।

ठीक है, शुरुआत में सब कुछ अच्छा नहीं होना चाहिए... जब तक हम जानते हैं कि एक डरावनी स्थिति से एक सुखद स्थिति में बदलाव कैसे करना है।

बिना किसी आश्चर्य के... यह हमेशा लोग, प्रक्रिया और तकनीक है। तो सबसे पहले, उद्देश्यों के आधार पर पहलों को शिक्षित करने, निर्देशित करने और निगरानी करने के लिए एक क्रॉस-फ़ंक्शनल गवर्निंग बॉडी बनाएं। फिर बेंचमार्क वर्तमान एआई प्रौद्योगिकी और प्रक्रियाओं, अंतराल को समझें, फिर भविष्य के प्रमाण के लिए उपाय करें। फिर अनुपालन आवश्यकताओं के अनुरूप स्वचालित शासन कार्यप्रवाहों के एक सेट पर वापस जाएं। अंत में, यदि स्वीकार्य सीमा समाप्त हो रही है तो मालिकों को सचेत करने के लिए एक निगरानी प्रणाली स्थापित करें। प्रौद्योगिकी की ओर से, एक अच्छी तरह से तैयार, अच्छी तरह से निष्पादित और अच्छी तरह से जुड़े एआई को कई बिल्डिंग ब्लॉक्स की आवश्यकता होती है। और सुनिश्चित करें कि इसमें कुछ या सभी क्षमताएँ हैं:

· विविध परिनियोजनों में डेटा अखंडता

· एआई गवर्नेंस का पालन करने वाले खुले, लचीले मौजूदा उपकरणों का उपयोग करें

· गोपनीयता नियंत्रणों के साथ स्वयं-सेवा पहुँच प्रदान करना सुनिश्चित करें - ट्रैक करने का एक तरीका

· ऑटोमेशन और एआई गवर्नेंस को ध्यान में रखते हुए डिजाइन

अनुकूलन योग्य कार्यप्रवाह के माध्यम से जुड़ सकते हैं और कई हितधारकों के लिए अनुकूलन योग्य हो सकते हैं

एक बार जब हम ऐप को डरावना से रोज़ी में बदल देते हैं ... तो अगला सवाल यह है कि आप कैसे साबित करते हैं ...

सबसे पहले, कंपनी के एआई सिद्धांतों पर वापस जाएं - उनके साथ निर्माण करें, और फिर भी आपको "दिखाने" की आवश्यकता है कि आप अनुपालन कर रहे हैं, विशेष रूप से वित्तीय सेवाओं जैसे विनियमित वातावरण में। चूंकि वित्तीय सेवाओं को एनआईएसटी 800-53 के साथ शिकायत करनी चाहिए, वे इसे देख सकते हैं एनआईएसटी एआई जोखिम प्रबंधन ढांचा (एआई आरएमएफ). एनआईएसटी ने चार परिवारों में नियंत्रण का सुझाव दिया - सरकार, मानचित्र, उपाय और प्रबंधन। एक मार्गदर्शक कारक के रूप में इसका उपयोग करना और सुधार और निगरानी के अंतराल की पहचान करने के लिए अनुप्रयोगों का परीक्षण करें।

आईबीएम आपके मॉडलों को उत्पादन में डालने से पहले उन्हें मान्य कर सकता है, और निष्पक्षता, गुणवत्ता और बहाव के लिए निगरानी की जा सकती है। यह नियामकों और लेखा परीक्षकों की आवश्यकताओं को पूरा करने के लिए मॉडल के व्यवहार और भविष्यवाणियों को समझाते हुए दस्तावेज भी प्रदान कर सकता है। ये स्पष्टीकरण दृश्यता प्रदान कर सकते हैं और ऑडिट दर्द को कम कर सकते हैं, और पारदर्शिता बढ़ा सकते हैं और संभावित जोखिमों को निर्धारित करने की क्षमता बढ़ा सकते हैं।

 उन एआई फुसफुसाहटों को विश्वास के साथ सुनें!

#वित्तीय सेवाएं #जिम्मेदार #नैतिकलाई #NISTAIRMF

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोब्लॉकचैन। Web3 मेटावर्स इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• मिंटिंग द फ्यूचर डब्ल्यू एड्रिएन एशले। यहां पहुंचें।
• स्रोत: https://www.finextra.com/blogposting/24053/the-costly-consequences-of-unethical-ai-whisperer?utm_medium=rssfinextra&utm_source=finextrablogs