साक्षात्कार झूठा छवियों डोनाल्ड ट्रम्प को काले मतदाताओं का समर्थन प्राप्त है, मिडिल-स्कूल के छात्र अपनी महिला सहपाठियों के अश्लील डीपफेक बना रहे हैं, और Google का जेमिनी चैटबॉट में नाकाम रहने श्वेत लोगों की सटीक तस्वीरें बनाने के लिए।
ये पर सूचीबद्ध कुछ नवीनतम आपदाएँ हैं एआई हादसा डेटाबेस - एक वेबसाइट जो प्रौद्योगिकी के गलत होने के सभी विभिन्न तरीकों पर नज़र रखती है।
प्रारंभ में पार्टनरशिप ऑन एआई के तत्वावधान में एक परियोजना के रूप में लॉन्च किया गया, एक समूह जो एआई से समाज को लाभ सुनिश्चित करने की कोशिश करता है, एआई इंसीडेंट डेटाबेस अब अंडरराइटर्स लेबोरेटरीज द्वारा वित्त पोषित एक गैर-लाभकारी संगठन है - सबसे बड़ा और सबसे पुराना (अनुमानित 1894) स्वतंत्र संयुक्त राज्य अमेरिका में परीक्षण प्रयोगशाला। यह सभी प्रकार के उत्पादों का परीक्षण करता है - फर्नीचर से लेकर कंप्यूटर माउस तक - और इसकी वेबसाइट ने अब तक 600 से अधिक अद्वितीय स्वचालन और एआई-संबंधित घटनाओं को सूचीबद्ध किया है।
"एआई सिस्टम के निर्माताओं और सार्वजनिक उपभोक्ताओं के बीच एक बड़ी सूचना विषमता है - और यह उचित नहीं है", जॉर्ज वॉशिंगटन यूनिवर्सिटी स्कूल ऑफ बिजनेस के सहायक प्रोफेसर पैट्रिक हॉल ने तर्क दिया, जो वर्तमान में एआई इंसीडेंट डेटाबेस के निदेशक मंडल में कार्यरत हैं। . उन्होंने बताया रजिस्टर: "हमें अधिक पारदर्शिता की आवश्यकता है, और हमें लगता है कि उस जानकारी को साझा करना हमारा काम है।"
एआई इंसीडेंट डेटाबेस गैर-लाभकारी संस्था द्वारा स्थापित सीवीई प्रोग्राम पर आधारित है मित्राया, राष्ट्रीय राजमार्ग परिवहन सुरक्षा प्रशासन वेबसाइट रिपोर्टिंग ने सार्वजनिक रूप से साइबर सुरक्षा कमजोरियों और वाहन दुर्घटनाओं का खुलासा किया। "जब भी कोई विमान दुर्घटना, ट्रेन दुर्घटना, या कोई बड़ी साइबर सुरक्षा घटना होती है, तो जो कुछ हुआ उसे रिकॉर्ड करना दशकों से आम बात हो गई है ताकि हम यह समझने की कोशिश कर सकें कि क्या गलत हुआ और फिर उसे दोहराना नहीं चाहिए।"
वेबसाइट को वर्तमान में लगभग दस लोगों द्वारा प्रबंधित किया जाता है, साथ ही मुट्ठी भर स्वयंसेवक और ठेकेदार भी हैं जो एआई से संबंधित घटनाओं की समीक्षा करते हैं और उन्हें ऑनलाइन पोस्ट करते हैं। हीथर फ्रेज़, जॉर्जटाउन के एक वरिष्ठ साथी सेंटर फॉर सिक्योरिटी एंड इमर्जिंग टेक्नोलॉजी एआई असेसमेंट पर केंद्रित और एआई इंसीडेंट डेटाबेस निदेशक ने दावा किया कि वेबसाइट इस मायने में अद्वितीय है कि यह एआई के जोखिमों और नुकसानों से वास्तविक दुनिया के प्रभावों पर ध्यान केंद्रित करती है - न कि केवल सॉफ्टवेयर में कमजोरियों और बगों पर।
संगठन वर्तमान में मीडिया कवरेज से घटनाएं एकत्र करता है और ट्विटर पर लोगों द्वारा रिपोर्ट किए गए मुद्दों की समीक्षा करता है। एआई इंसीडेंट डेटाबेस ने नवंबर 250 में चैटजीपीटी के रिलीज़ होने से पहले 2022 अद्वितीय घटनाओं को लॉग किया था, और अब 600 से अधिक अद्वितीय घटनाओं को सूचीबद्ध करता है।
समय के साथ एआई के साथ समस्याओं की निगरानी से दिलचस्प रुझान का पता चलता है, और लोगों को प्रौद्योगिकी के वास्तविक, वर्तमान नुकसान को समझने में मदद मिल सकती है।
जॉर्ज वॉशिंगटन यूनिवर्सिटी के हॉल ने खुलासा किया कि डेटाबेस में लगभग आधी रिपोर्ट जेनरेटिव एआई से संबंधित हैं। उनमें से कुछ "मज़ेदार, मूर्खतापूर्ण चीज़ें" जैसी हैं संदिग्ध उत्पाद अमेज़ॅन पर शीर्षक से बेचा गया: "मैं उस अनुरोध को पूरा नहीं कर सकता" - एक स्पष्ट संकेत है कि विक्रेता ने विवरण लिखने के लिए एक बड़े भाषा मॉडल का उपयोग किया - या एआई-जनित स्पैम के अन्य उदाहरण। लेकिन कुछ "वास्तव में निराशाजनक और गंभीर" हैं - जैसे सैन फ्रांसिस्को में एक दुर्घटना में क्रूज़ रोबोटैक्सी का दौड़ना और एक महिला को अपने पहियों के नीचे खींचना।
उन्होंने अफसोस जताया, "फिलहाल एआई ज्यादातर जंगली पश्चिम है, और रवैया तेजी से आगे बढ़ने और चीजों को तोड़ने का है।" यह स्पष्ट नहीं है कि तकनीक समाज को कैसे आकार दे रही है, और टीम को उम्मीद है कि एआई इंसीडेंट डेटाबेस इसके दुरुपयोग के तरीकों के बारे में जानकारी प्रदान कर सकता है और अनपेक्षित परिणामों को उजागर कर सकता है - इस उम्मीद में कि डेवलपर्स और नीति निर्माताओं को बेहतर जानकारी होगी ताकि वे अपने मॉडल में सुधार कर सकें या विनियमन कर सकें। सबसे गंभीर जोखिम.
“चारों ओर बहुत प्रचार है। लोग अस्तित्वगत जोखिम के बारे में बात करते हैं। मुझे यकीन है कि एआई मानव सभ्यता के लिए बहुत गंभीर जोखिम पैदा कर सकता है, लेकिन मेरे लिए यह स्पष्ट है कि इनमें से कुछ अधिक वास्तविक दुनिया के जोखिम हैं - जैसे सेल्फ ड्राइविंग कारों से जुड़ी बहुत सारी चोटें या, आप जानते हैं, उपयोग किए जाने वाले एल्गोरिदम के माध्यम से पूर्वाग्रह को बनाए रखना उपभोक्ता वित्त या रोजगार में। हम यही देखते हैं।”
“मुझे पता है कि हम बहुत कुछ खो रहे हैं, ठीक है? हर चीज़ को मीडिया द्वारा रिपोर्ट या कैप्चर नहीं किया जा रहा है। कई बार लोगों को यह एहसास भी नहीं होता कि उन्हें जो नुकसान हो रहा है वह एआई से आ रहा है,'' फ्रेज़ ने कहा। “मुझे उम्मीद है कि शारीरिक क्षति बहुत बढ़ जाएगी। हम बड़े भाषा मॉडलों से [ज्यादातर] मनोवैज्ञानिक नुकसान और अन्य अमूर्त नुकसान होते हुए देख रहे हैं - लेकिन एक बार जब हमारे पास जेनरेटिव रोबोटिक्स होगा, तो मुझे लगता है कि शारीरिक नुकसान बहुत बढ़ जाएगा।
फ्रेज़ इस बात को लेकर सबसे अधिक चिंतित हैं कि एआई किस तरह से मानवाधिकारों और नागरिक स्वतंत्रता को नष्ट कर सकता है। उनका मानना है कि एआई घटनाओं को एकत्रित करने से पता चलेगा कि क्या नीतियों ने समय के साथ प्रौद्योगिकी को सुरक्षित बना दिया है।
हॉल ने कहा, "आपको चीजों को ठीक करने के लिए चीजों को मापना होगा।"
संगठन हमेशा स्वयंसेवकों की तलाश में रहता है और वर्तमान में अधिक घटनाओं को पकड़ने और जागरूकता बढ़ाने पर ध्यान केंद्रित कर रहा है। फ्रेज़ ने इस बात पर जोर दिया कि समूह के सदस्य एआई लुडाइट नहीं हैं: “हम शायद काफी हद तक एआई विरोधी के रूप में सामने आ रहे हैं, लेकिन हम नहीं हैं। हम वास्तव में इसका उपयोग करना चाहते हैं. हम सिर्फ अच्छी चीज़ें चाहते हैं।”
हॉल सहमत हो गया. उन्होंने कहा, "प्रौद्योगिकी को आगे बढ़ाने के लिए, किसी को इसे सुरक्षित बनाने के लिए काम करना होगा।" ®
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
- प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
- प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
- स्रोत: https://go.theregister.com/feed/www.theregister.com/2024/03/08/ai_mishaps_are_surging_and/
- :हैस
- :है
- :नहीं
- $यूपी
- 2022
- 250
- 600
- 7
- a
- About
- दुर्घटना
- सही रूप में
- वास्तव में
- जोड़ा
- प्रशासन
- सहमत
- AI
- एआई सिस्टम
- एल्गोरिदम
- सब
- अनुमति देना
- हमेशा
- वीरांगना
- an
- और
- कोई
- हैं
- तर्क दिया
- चारों ओर
- AS
- मूल्यांकन
- सहायक
- जुड़े
- At
- रवैया
- स्वचालन
- जागरूकता
- बन
- से पहले
- जा रहा है
- का मानना है कि
- लाभ
- बेहतर
- के बीच
- पूर्वाग्रह
- बड़ा
- काली
- मंडल
- निदेशक मंडल
- टूटना
- कीड़े
- बनाता है
- व्यापार
- लेकिन
- by
- कर सकते हैं
- नही सकता
- पर कब्जा कर लिया
- कैप्चरिंग
- कारों
- chatbot
- ChatGPT
- नागरिक
- सभ्यता
- ने दावा किया
- स्पष्ट
- CO
- एकत्रित
- अ रहे है
- सामान्य
- कंप्यूटर
- चिंतित
- Consequences
- उपभोक्ता
- उपभोक्ताओं
- ठेकेदारों
- सका
- व्याप्ति
- Crash
- बनाना
- क्रूज
- वर्तमान
- वर्तमान में
- सीवीई
- साइबर
- साइबर सुरक्षा
- डाटाबेस
- दशकों
- deepfakes
- डेवलपर्स
- विभिन्न
- निदेशक
- निदेशकों
- आपदाओं
- do
- डोनाल्ड
- डोनाल्ड ट्रंप
- ड्राइविंग
- कस्र्न पत्थर
- रोजगार
- सुनिश्चित
- और भी
- सब कुछ
- अस्तित्व
- उम्मीद
- सामना
- निष्पक्ष
- काफी
- असत्य
- दूर
- फास्ट
- लग रहा है
- साथी
- महिला
- वित्त
- फिक्स
- ध्यान केंद्रित
- केंद्रित
- के लिए
- आगे
- फ्रांसिस्को
- से
- पूरा
- वित्त पोषित
- मजेदार
- मिथुन राशि
- उत्पन्न
- उत्पादक
- जनरेटिव एआई
- जॉर्ज
- जॉर्ज टाउन
- मिल रहा
- Go
- चला जाता है
- अच्छा
- गूगल
- समूह
- समूह की
- आधा
- हॉल
- मुट्ठी
- हुआ
- हो रहा है
- नुकसान
- हानि पहुँचाता
- है
- he
- हाइलाइट
- राजमार्ग
- आशा
- उम्मीद है
- कैसे
- HTTPS
- विशाल
- मानव
- मानव अधिकार
- प्रचार
- i
- if
- Impacts
- में सुधार
- in
- घटना
- बढ़ती
- स्वतंत्र
- करें-
- सूचित
- अंतर्दृष्टि
- अमूर्त
- दिलचस्प
- मुद्दों
- IT
- आईटी इस
- काम
- जेपीजी
- केवल
- रखना
- रखना
- बच्चा
- जानना
- लेबल
- प्रयोगशालाओं
- प्रयोगशाला
- भाषा
- बड़ा
- सबसे बड़ा
- ताज़ा
- शुभारंभ
- पसंद
- सूचीबद्ध
- सूचियाँ
- लॉग इन
- देख
- लॉट
- बहुत सारे
- बनाया गया
- बनाना
- निर्माताओं
- कामयाब
- मई..
- me
- माप
- मीडिया
- सदस्य
- लापता
- आदर्श
- मॉडल
- अधिक
- अधिकांश
- अधिकतर
- चलती
- आवश्यकता
- गैर लाभ
- गैर लाभ संगठन
- नवंबर
- अभी
- of
- बंद
- सबसे पुराना
- on
- एक बार
- ऑनलाइन
- or
- संगठन
- अन्य
- हमारी
- के ऊपर
- पार्टनर
- पैट्रिक
- स्टाफ़
- भौतिक
- तस्वीरें
- विमान
- प्लेटो
- प्लेटो डेटा इंटेलिजेंस
- प्लेटोडाटा
- प्लस
- नीतियाँ
- नीति
- ढोंग
- पद
- अभ्यास
- दबाव
- शायद
- समस्याओं
- उत्पाद
- प्रोफेसर
- कार्यक्रम
- परियोजना
- प्रदान करना
- मनोवैज्ञानिक
- सार्वजनिक
- सार्वजनिक रूप से
- RE
- वास्तविक
- असली दुनिया
- महसूस करना
- वास्तव में
- रिकॉर्ड
- विनियमित
- सम्बंधित
- और
- दोहराना
- की सूचना दी
- रिपोर्टिंग
- रिपोर्ट
- का अनुरोध
- प्रकट
- पता चलता है
- की समीक्षा
- समीक्षा
- सही
- अधिकार
- जोखिम
- जोखिम
- रोबोटक्सी
- रोबोटिक्स
- लगभग
- दौड़ना
- s
- सुरक्षित
- सुरक्षा
- कहा
- सेन
- सैन फ्रांसिस्को
- स्कूल के साथ
- सुरक्षा
- देखना
- देखकर
- स्व
- सेल्फ ड्राइविंग कार
- वरिष्ठ
- गंभीर
- सेवारत
- सेट
- गंभीर
- आकार देने
- Share
- वह
- दिखाना
- हस्ताक्षर
- साइट
- So
- अब तक
- समाज
- सॉफ्टवेयर
- बेचा
- कुछ
- स्पैम
- राज्य
- समर्थित
- निश्चित
- बढ़ती
- सिस्टम
- बातचीत
- टीम
- टेक्नोलॉजी
- प्रौद्योगिकी का
- दस
- परीक्षण
- परीक्षण
- कि
- RSI
- लेकिन हाल ही
- उन
- फिर
- वहाँ।
- इन
- वे
- चीज़ें
- सोचना
- यहाँ
- पहर
- बार
- शीर्षक से
- सेवा मेरे
- बोला था
- ट्रैक
- रेलगाड़ी
- ट्रांसपेरेंसी
- परिवहन
- रुझान
- तुस्र्प
- कोशिश
- के अंतर्गत
- समझना
- अद्वितीय
- यूनाइटेड
- संयुक्त राज्य अमेरिका
- विश्वविद्यालय
- उपयोग
- प्रयुक्त
- वाहन
- बहुत
- स्वयंसेवकों
- मतदाता
- कमजोरियों
- करना चाहते हैं
- वाशिंगटन
- तरीके
- we
- वेबसाइट
- चला गया
- पश्चिम
- क्या
- सफेद
- कौन
- जंगली
- जंगली पश्चिम
- मर्जी
- साथ में
- महिला
- काम
- विश्व
- लिखना
- गलत
- आप
- जेफिरनेट