हमारे समाज में प्रौद्योगिकी को अधिक व्यापक रूप से एकीकृत करने के प्रयासों में एआई सिस्टम में पूर्वाग्रह एक बड़ी बाधा साबित हो रहा है। एक नई पहल जो शोधकर्ताओं को किसी भी पूर्वाग्रह को खोजने के लिए पुरस्कृत करेगी एआई सिस्टम समस्या को हल करने में मदद कर सकता है।
यह प्रयास बग बाउंटी पर आधारित है जो सॉफ्टवेयर कंपनियां साइबर सुरक्षा विशेषज्ञों को भुगतान करती हैं जो उन्हें सतर्क करते हैंf उनके उत्पादों में कोई संभावित सुरक्षा खामियां। विचार नया नहीं है; "पूर्वाग्रह इनाम" थे पहले प्रस्तावित ए द्वारामैं 2018 में शोधकर्ता और उद्यमी जेबी रुबिनोवित्ज़ वापस आया, और विभिन्न संगठन पहले से ही ऐसी चुनौतियों का सामना कर चुके हैं।
लेकिन नया प्रयास पक्षपातपूर्ण प्रतियोगिताओं के लिए एक सतत मंच बनाने का प्रयास करता है जो किसी विशेष संगठन से स्वतंत्र हो। ट्विटर सहित कई कंपनियों के स्वयंसेवकों से बना, तथाकथित "बायस बुकेनियर्स" ने नियमित प्रतियोगिताओं, या "विद्रोह" आयोजित करने की योजना बनाई और इस महीने की शुरुआत में इस तरह की पहली चुनौती शुरू की।
"बग बाउंटी साइबर सुरक्षा में एक मानक अभ्यास है जिसे अभी तक एल्गोरिथम पूर्वाग्रह समुदाय में पैर जमाना है,"नीज़र्स उनकी वेबसाइट पर कहें. "जबकि शुरुआती एक बार की घटनाओं ने इनाम के लिए उत्साह का प्रदर्शन किया, बाईस बुकेनियर्स पहला गैर-लाभकारी संगठन है जिसका उद्देश्य चल रहे विद्रोहों को बनाना, प्रौद्योगिकी कंपनियों के साथ सहयोग करना और एआई सिस्टम के पारदर्शी और प्रतिलिपि प्रस्तुत करने योग्य मूल्यांकन का मार्ग प्रशस्त करना है।"
यह पहली प्रतियोगिता छवि पहचान एल्गोरिदम में पूर्वाग्रह से निपटने के उद्देश्य से है, लेकिन लोगों को विशिष्ट एआई सिस्टम को लक्षित करने के बजाय, प्रतियोगिता विल चूशोधकर्ताओं पर ऐसे उपकरण बनाने का आरोप लगाया जो पक्षपाती डेटासेट का पता लगा सकते हैं। विचार एक मशीन लर्निंग मॉडल बनाने का है जो प्रत्येक छवि को उसकी त्वचा की टोन, कथित लिंग और आयु समूह के साथ डेटासेट में सटीक रूप से लेबल कर सकता है। प्रतियोगिता का समापन 30 नवंबर को होगा और $6,000 का पहला पुरस्कार, $4,000 का दूसरा पुरस्कार और $2,000 का तीसरा पुरस्कार है।
चुनौती इस तथ्य पर आधारित है कि अक्सर एल्गोरिथम पूर्वाग्रह का स्रोत इतना एल्गोरिथम नहीं है, बल्कि उस डेटा की प्रकृति है जिस पर इसे प्रशिक्षित किया जाता है। स्वचालित उपकरण जो जल्दी से आकलन कर सकते हैं कि संग्रह कितना संतुलित है of छवियां उन विशेषताओं के संबंध में हैं जो अक्सर भेदभाव के स्रोत होते हैं जो एआई शोधकर्ताओं को स्पष्ट रूप से पक्षपाती डेटा स्रोतों से बचने में मदद कर सकते हैं।
लेकिन आयोजकों का कहना है कि डेटासेट, एल्गोरिदम और अनुप्रयोगों में पूर्वाग्रह का आकलन करने के लिए टूलकिट बनाने के प्रयास में यह पहला कदम है, और आखिरकार मानक कैसे बनाया जाए, इसके लिए मानक तैयार करें।एल एल्गोरिथम पूर्वाग्रह, निष्पक्षता और व्याख्यात्मकता के साथ।
आईटी इस इकलौता ऐसा प्रयास नहीं. नए के नेताओं में से एक पहल ट्विटर के रुम्मन चौधरी हैं, जिन्होंने पिछले साल पहली एआई पूर्वाग्रह बाउंटी प्रतियोगिता आयोजित करने में मदद की, एक एल्गोरिदम को लक्षित करते हुए मंच का उपयोग चित्रों को क्रॉप करने के लिए किया। उपयोगकर्ताओं ने शिकायत की श्वेत चमड़ी वाले और पुरुषों के चेहरों को काले और महिलाओं की तुलना में अधिक पसंद किया जाता है।
प्रतियोगिता ने हैकर्स को कंपनी के मॉडल तक पहुंच प्रदान की और उन्हें इसमें खामियां खोजने के लिए चुनौती दी। प्रवेशकों समस्याओं की एक विस्तृत श्रृंखला मिली, शामिलरूढ़िबद्ध रूप से सुंदर चेहरों के लिए प्राथमिकता में, करने के लिए एक घृणा सफेद बाल वाले लोग (उम्र का एक मार्कर), और memes के लिए एक प्राथमिकता अरबी लिपि के बजाय अंग्रेजी के साथ।
स्टैनफोर्ड यूनिवर्सिटी ने हाल ही में एक प्रतियोगिता का समापन किया है जिसने टीमों को भेदभाव के लिए व्यावसायिक रूप से तैनात या ओपन-सोर्स एआई सिस्टम का ऑडिट करने में मदद करने के लिए डिज़ाइन किए गए टूल के साथ आने के लिए चुनौती दी है। और वर्तमान और आगामी यूरोपीय संघ के कानून कंपनियों के लिए अपने डेटा और एल्गोरिदम का नियमित रूप से ऑडिट करना अनिवार्य बना सकते हैं।
लेकिन लेना एआई बग बाउंटी और एल्गोरिथम ऑडिटिंग मुख्यधारा में लाना और उन्हें प्रभावी बनाना कहा से आसान होगा। अनिवार्य रूप से, जो कंपनियां अपने एल्गोरिदम पर अपने व्यवसाय का निर्माण करती हैं, वे उन्हें बदनाम करने के किसी भी प्रयास का विरोध करने जा रही हैं।
ऑडिट सिस्टम से सबक पर निर्माण अन्य डोमेन में, जैसे कि वित्त और पर्यावरण और स्वास्थ्य विनियम, शोधकर्ता हाल ही में रेखांकित किया गया प्रभावी जवाबदेही के लिए कुछ महत्वपूर्ण तत्व। सबसे महत्वपूर्ण में से एक मापदंड उन्होंने स्वतंत्र तृतीय पक्षों की सार्थक भागीदारी की पहचान की।
शोधकर्ताओं ने बताया कि वर्तमान स्वैच्छिक एआई ऑडिट में अक्सर हितों के टकराव शामिल होते हैं, जैसे कि ऑडिट के लिए भुगतान करने वाला लक्ष्य संगठन, ऑडिट के दायरे को फ्रेम करने में मदद करना, या उनके प्रचारित होने से पहले निष्कर्षों की समीक्षा करने का अवसर होना। हाल ही में आई एक रिपोर्ट में इस चिंता को प्रतिबिंबित किया गया था एल्गोरिथम न्याय लीग, जोch ने नोट किया outsized वर्तमान साइबर सुरक्षा बग बाउंटी कार्यक्रमों में लक्षित संगठनों की भूमिका।
वास्तव में स्वतंत्र AI ऑडिटर्स और बग हंटर्स को फंड करने और समर्थन करने का तरीका खोजना एक महत्वपूर्ण चुनौती होगी, खासकर जब वे दुनिया की कुछ सबसे अच्छी तरह से रिसोर्स वाली कंपनियों के खिलाफ जा रहे होंगे। सौभाग्य से हालांकि, उद्योग के भीतर एक बढ़ती हुई भावना प्रतीत होती है कि इस समस्या से निपटना उनकी सेवाओं में उपयोगकर्ताओं के विश्वास को बनाए रखने के लिए महत्वपूर्ण होगा।
छवि क्रेडिट: जैकब रोसेनो / Unsplash
