کمپنیاں جنریٹو AI ٹولز کو محفوظ بنانے کے لیے متعدد طریقوں پر انحصار کرتی ہیں۔

As more organizations adopt generative AI technologies — to craft pitches, complete grant applications, and write بوائلر پلیٹ کوڈ - سیکیورٹی ٹیمیں ایک نئے سوال کو حل کرنے کی ضرورت کو محسوس کر رہی ہیں: آپ AI ٹولز کو کیسے محفوظ بناتے ہیں؟

گارٹنر کے ایک حالیہ سروے میں جواب دہندگان میں سے ایک تہائی نے یا تو رپورٹ کیا۔ AI پر مبنی ایپلیکیشن سیکیورٹی ٹولز کا استعمال یا ان پر عمل درآمد to address the risks posed by the use of generative AI in their organization.

Privacy-enhancing technologies (PETs) showed the greatest current use, at 7% of respondents, with a solid 19% of companies implementing it; this category includes ways to protect personal data, such as ہومومورفک خفیہ کاری, AI سے تیار کردہ مصنوعی ڈیٹا, محفوظ کثیر جماعتی حساب, وفاقی تعلیم، اور امتیازی رازداری. However, a solid 17% have no plans to impelment PETs in their environment.

Only 19% are using or implementing tools for model explainability, but there is significant interest (56%) among the respondents in exploring and understanding these tools to address generative AI risk. Explainability, model monitoring, and AI application security tools can all be used on open source or proprietary models to achieve trustworthiness and reliability enterprise users need, according to Gartner.

The risks the respondents are most concerned about include incorrect or biased outputs (58%) and vulnerabilities or leaked secrets in AI-generated code (57%). Significantly, 43% cited potential copyright or licensing issues arising from AI-generated content as top risks to their organization.

“There is still no transparency about data models are training on, so the risk associated with bias, and privacy is very difficult to understand and estimate,” a C-suite executive wrote in response to the Gartner survey.

جون میں، نیشنل انسٹی ٹیوٹ آف اسٹینڈرڈز اینڈ ٹیکنالوجی (NIST) نے ایک عوامی ورکنگ گروپ کا آغاز کیا۔ to help address that question, based on its AI Risk Management Framework from January. As the Gartner data shows, کمپنیاں انتظار نہیں کر رہی ہیں NIST ہدایات کے لیے۔

• SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
• پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
• پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
• پلیٹو ای ایس جی۔ کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
• پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
• ماخذ: https://www.darkreading.com/tech-talks/companies-rely-multiple-methods-secure-generative-ai