خطرہ بمقابلہ وعدہ: کمپنیاں، ڈیولپرز جنریٹو AI رسک پر پریشان ہیں

ڈویلپرز کی اکثریت کا خیال ہے کہ پیداواری صلاحیت کو بڑھانے اور سافٹ ویئر کے چیلنجوں سے نمٹنے کے لیے جنریٹیو AI سسٹمز کا استعمال ضروری ہو گا، لیکن املاک دانش کے مسائل اور سلامتی کے خدشات اپنانے کو روکے ہوئے ہیں۔

کچھ 83% ڈویلپرز کا خیال ہے کہ AI کو اپنانا ضروری ہے یا وہ پیچھے پڑنے کا خطرہ رکھتے ہیں، لیکن 32% اپنے عمل میں AI کو متعارف کرانے کے بارے میں فکر مند تھے۔ ان میں سے، تقریباً نصف (48٪) کو خدشہ ہے کہ AI ان کے کوڈ کے دانشورانہ املاک کے تحفظ کو آلودہ کر سکتا ہے، اور 39٪ نے خدشات کا حوالہ دیا کہ AI سے تیار کردہ کوڈ میں سیکیورٹی کے زیادہ خطرات ہوں گے، اس ہفتے ترقیاتی خدمات کی فرم GitLab کے شائع کردہ ایک سروے کے مطابق۔ . ایک تہائی سے زیادہ ڈویلپرز کو بھی خدشہ ہے کہ اے آئی سسٹم ان کی جگہ لے سکتا ہے یا ان کی ملازمتوں کو ختم کر سکتا ہے۔

مجموعی طور پر، ڈویلپرز دیکھتے ہیں کہ تخلیقی AI نظام انہیں زیادہ موثر بنا سکتے ہیں، لیکن حتمی اثرات پر فکر مند ہیں، GitLab کے CISO (مصنف سے کوئی تعلق نہیں) جوش لیموس کہتے ہیں۔

"[بڑے زبان کے ماڈلز] پر رازداری اور ڈیٹا کی حفاظت کے خدشات ابھی بھی داخلے کے لیے رکاوٹ ہیں، [نیز] کوڈ کی تجاویز کے معیار،" وہ کہتے ہیں۔ "یہ سمجھنا کہ تخلیقی AI خصوصیات کا بہترین فائدہ اٹھانا ہے، چاہے وہ کوڈ ہو یا آپ کے کام کے سلسلے میں دیگر افعال، لوگوں کے کام کرنے کے طریقے کو بدلنے والا ہے، اور انہیں اپنے کوڈ بیس کے ساتھ بات چیت کرنے کے لیے شعوری طور پر ایک نیا طریقہ اختیار کرنا ہوگا۔"

تخلیقی AI کی دوہری نوعیت پر صرف ڈویلپرز ہی فکر مند نہیں ہیں۔ رپورٹ کے مطابق کارپوریٹ بورڈز کے نصف سے زیادہ ممبران (59%) جنریٹیو AI کے بارے میں خدشات رکھتے ہیں، خاص طور پر ملازمین کی طرف سے ChatGPT جیسی خدمات پر اپ لوڈ کی جانے والی خفیہ معلومات کے لیک ہونے پر، رپورٹ کے مطابق۔سائبرسیکیوریٹی: 2023 بورڈ کا نقطہ نظر، "اس ہفتے پروفپوائنٹ کے ذریعہ شائع ہوا۔ اس کے علاوہ، حملہ آوروں کا اپنے فشنگ حملوں اور دیگر تکنیکوں کو بہتر بنانے کے لیے جنریٹو اے آئی سسٹمز کو اپنانا ایک تشویش کا باعث بن گیا ہے۔

پروف پوائنٹ پر CISO کے رہائشی ریان وٹ کا کہنا ہے کہ بورڈز CISOs سے اپنے دفاع کو مضبوط بنانے کا مطالبہ کر رہے ہیں۔

"محافظوں کے لیے ایک ٹول کے طور پر، پردے کے پیچھے کام کرنے کے لیے جنریٹو AI بہت اہم ہے، خاص طور پر ایسے معاملات میں جہاں آپ LLMs - بڑے لینگویج ماڈلز پر کام کر رہے ہیں،" وہ کہتے ہیں۔ "برے اداکاروں کے لیے، اچھی طرح سے لکھی ہوئی فشنگ اور کاروباری ای میل مہمات کو تیار کرنا بہت آسان اور توسیع پذیر ہو گیا ہے۔ آخری صارفین کو واضح گرائمیکل، سیاق و سباق اور نحو کی غلطیاں تلاش کرنے کا مشورہ دینے کے وہ دن گزر گئے۔

AI کا ٹکڑا اپنانا

کمپنیاں اپنے روزمرہ کے کاموں میں نالج ورکرز کو تیز کرنے کے طریقے کے طور پر جنریٹو AI کو دریافت کرنے کے لیے تیزی سے آگے بڑھی ہیں۔ مائیکروسافٹ اور کاسپرسکی جیسی متعدد کمپنیوں نے دوبارہ فروخت یا اندرونی طور پر استعمال کرنے کے لیے LLMs پر مبنی خدمات تخلیق کی ہیں۔ سیکیورٹی تجزیہ کاروں کو بڑھانے کے طریقے کے طور پر. GitHub، GitLab، اور ڈویلپر خدمات کے دیگر فراہم کنندگان نے اسی طرح کے نظام کو جاری کیا ہے جس کا مقصد ہے۔ کوڈ تیار کرنے میں پروگرامرز کی مدد کرنا زیادہ مؤثر طریقے سے.

مجموعی طور پر، ڈویلپرز نے AI کی وجہ سے کارکردگی میں اضافہ (55%) اور تیز تر ترقی کے چکر (44%) کو دیکھا ہے، یا دیکھنے کی امید ہے، GitLab کے حالیہ سروے کے مطابق. اس کے باوجود 40% AI کو اپنانے سے مزید محفوظ کوڈ آنے کی بھی توقع کرتے ہیں، جبکہ 39% AI سے تیار کردہ کوڈ میں مزید حفاظتی خطرات کی توقع کرتے ہیں۔

مجموعی طور پر، ڈویلپرز اپنے AI کو اپنانے کے بارے میں زیادہ دانے دار ہو جائیں گے، دوسروں کے خلاف مزاحمت کرتے ہوئے جنریٹو AI کی کچھ ایپلی کیشنز کو آسانی سے قبول کرتے ہیں۔ مثال کے طور پر GitLab کے Lemos کو کوڈ اپ ڈیٹ یا انضمام کی درخواست سے ایک مختصر خلاصہ بنانے کے لیے جنریٹو AI کی صلاحیت ملتی ہے، خاص طور پر جب اپ ڈیٹ پر موجود نوٹوں پر درجنوں یا سینکڑوں تبصرے ہوتے ہیں۔

وہ کہتے ہیں، "مجھے جو کچھ ہو رہا ہے اس کا ایک مختصر خلاصہ ملتا ہے۔ "میں پورے تھریڈ کو پڑھے بغیر اس مسئلے کے ساتھ کیا ہو رہا ہے اس کے بارے میں چند سیکنڈ میں اپ ٹو ڈیٹ ہو سکتا ہوں۔"

AI پہلے سے ہی ملازمتیں بنا رہا ہے؟

AI پر ایک وسیع تشویش یہ ہے کہ سسٹم ڈویلپرز کی جگہ لے لیں گے: 36% ڈویلپرز کو خدشہ ہے کہ ان کی جگہ AI سسٹم لے لیا جائے گا۔ اس کے باوجود GitLab سروے نے ان دلائل کو بھی زیادہ وزن دیا کہ خلل ڈالنے والی ٹیکنالوجیز لوگوں کے لیے زیادہ کام کرتی ہیں: تقریباً دو تہائی کمپنیوں نے AI کے نفاذ کو منظم کرنے میں مدد کے لیے ملازمین کی خدمات حاصل کیں۔

تشویش کا ایک حصہ نسل در نسل لگتا ہے۔ لیموس کا کہنا ہے کہ زیادہ تجربہ کار ڈویلپرز AI سسٹمز کی طرف سے دی گئی کوڈ کی تجاویز کو قبول نہیں کرتے ہیں، جبکہ زیادہ جونیئر ڈویلپرز ان کو قبول کرنے کا زیادہ امکان رکھتے ہیں۔ پھر بھی دونوں AI کی طرف دیکھ رہے ہیں تاکہ ان کی انتہائی بورنگ کاموں میں مدد کی جا سکے، جیسے دستاویزات اور یونٹ ٹیسٹ بنانا۔

"میں بہت زیادہ ڈویلپرز کو دیکھ رہا ہوں کہ وہ اپنی دستاویزات کو AI کے ذریعہ تحریر کرنے، یا AI کے ذریعہ ٹیسٹ کوریج لکھنے کے خیال کو بڑھا رہے ہیں، کیونکہ وہ اس کوڈ کے معیار کی کم پرواہ کرتے ہیں، لیکن صرف یہ کہ ٹیسٹ کام کرتا ہے،" وہ کہتے ہیں۔ "بہتر ٹیسٹ کوریج رکھنے میں سیکورٹی اور ترقی دونوں فوائد ہیں، اور یہ ایسی چیز ہے جس پر انہیں وقت گزارنے کی ضرورت نہیں ہے۔"

پروفپوائنٹ کے وٹ کا کہنا ہے کہ اگرچہ AI ڈویلپرز کی انتہائی غیرمعمولی کاموں میں مدد کر رہا ہے، حملہ آور بھی سیکھ رہے ہیں۔ انہوں نے زور دیا کہ کمپنیوں کو یہ توقع نہیں کرنی چاہئے کہ AI سے سائبرسیکیوریٹی مساوات کے ایک طرف یا دوسرے کو واضح طور پر فائدہ پہنچے گا۔

"یہ بلی اور چوہے کے کھیل میں تبدیل ہو سکتا ہے، جہاں AI کے بہتر دفاع کو مسلسل AI کے بہتر ہونے والے خطرات سے چیلنج کیا جاتا ہے، اور اس کے برعکس،" وہ کہتے ہیں۔ "ان سب کے لیے AI ٹیکنالوجی میں مسلسل سرمایہ کاری کی ضرورت ہوگی تاکہ سائبرسیکیوریٹی کے محافظ ورچوئل میدان جنگ میں اپنے حملہ آوروں کا مقابلہ کر سکیں۔"

• SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
• پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
• پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
• پلیٹو ای ایس جی۔ آٹوموٹو / ای وی، کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
• پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
• چارٹ پرائم۔ ChartPrime کے ساتھ اپنے ٹریڈنگ گیم کو بلند کریں۔ یہاں تک رسائی حاصل کریں۔
• بلاک آفسیٹس۔ ماحولیاتی آفسیٹ ملکیت کو جدید بنانا۔ یہاں تک رسائی حاصل کریں۔
• ماخذ: https://www.darkreading.com/application-security/peril-vs-promise-companies-developers-worry-over-generative-ai-risks