اگر AI چیٹ بوٹس حساس ہیں، تو وہ گلہری بھی ہو سکتے ہیں۔

مختصر میں نہیں، AI چیٹ بوٹس حساس نہیں ہیں۔

جیسے ہی کہانی گوگل کے ایک انجینئر پر، جس نے اس بات پر سیٹی بجائی کہ وہ ایک حساس زبان کا ماڈل تھا، وائرل ہو گیا، متعدد اشاعتوں نے یہ کہنے کے لیے قدم بڑھایا کہ وہ غلط ہے۔

۔ بحث کمپنی کی LaMDA چیٹ بوٹ ہوش میں ہے یا اس میں روح ہے یا نہیں یہ بہت اچھا نہیں ہے، صرف اس وجہ سے کہ اس طرف کو بند کرنا بہت آسان ہے جس کا یقین ہے کہ یہ کرتا ہے۔ سب سے بڑے زبان کے ماڈلز کی طرح، LaMDA کے پاس اربوں پیرامیٹرز ہیں اور اسے انٹرنیٹ سے سکریپ کیے گئے متن پر تربیت دی گئی تھی۔ ماڈل الفاظ کے درمیان تعلقات کو سیکھتا ہے، اور کون سے ایک دوسرے کے ساتھ ظاہر ہونے کا زیادہ امکان ہے۔

یہ کافی ذہین معلوم ہوتا ہے، اور بعض اوقات سوالات کا صحیح جواب دینے کے قابل ہوتا ہے۔ لیکن یہ اس کے بارے میں کچھ نہیں جانتا ہے کہ یہ کیا کہہ رہا ہے، اور اسے زبان یا کسی بھی چیز کی حقیقی سمجھ نہیں ہے۔ زبان کے ماڈل تصادفی طور پر برتاؤ کرتے ہیں۔ اس سے پوچھیں کہ کیا اس کے احساسات ہیں اور وہ ہاں یا کہہ سکتا ہے۔ نہیں. پوچھیں کہ کیا یہ ایک ہے۔ گلہری، اور یہ ہاں یا نہیں بھی کہہ سکتا ہے۔ کیا یہ ممکن ہے کہ AI چیٹ بوٹس اصل میں گلہری ہو؟

FTC مواد کی اعتدال کے لیے AI کے استعمال پر خطرے کی گھنٹی بجاتا ہے۔

AI انٹرنیٹ کو تبدیل کر رہا ہے۔ سوشل میڈیا پر جھوٹے اکاؤنٹس کے پروفائلز میں حقیقت پسندانہ نظر آنے والی تصاویر کا استعمال کیا جاتا ہے، خواتین کی فحش ڈیپ فیک ویڈیوز گردش کر رہی ہیں، الگورتھم کے ذریعے تیار کردہ تصاویر اور ٹیکسٹ آن لائن پوسٹ کیے جاتے ہیں۔

ماہرین نے خبردار کیا ہے کہ یہ صلاحیتیں فراڈ، بوٹس، غلط معلومات، ہراساں کرنے اور ہیرا پھیری کے خطرات کو بڑھا سکتی ہیں۔ خود بخود خراب مواد کا پتہ لگانے اور اسے ہٹانے کے لیے پلیٹ فارمز تیزی سے AI الگورتھمز کی طرف رجوع کر رہے ہیں۔

اب، FTC انتباہ کر رہا ہے کہ یہ طریقے مسائل کو مزید خراب کر سکتے ہیں۔ "ہماری رپورٹ اس بات پر زور دیتی ہے کہ کسی کو بھی AI کو نقصان دہ آن لائن مواد کے پھیلاؤ کا حل نہیں سمجھنا چاہیے،" سیموئیل لیوائن، FTC کے بیورو آف کنزیومر پروٹیکشن کے ڈائریکٹر، نے کہا ایک بیان میں.

بدقسمتی سے، ٹیکنالوجی "ڈیزائن کے لحاظ سے غلط، متعصب، اور امتیازی" ہو سکتی ہے۔ لیون نے کہا، "آن لائن نقصان کا مقابلہ کرنے کے لیے ایک وسیع سماجی کوشش کی ضرورت ہے، نہ کہ حد سے زیادہ پر امید یقین کہ نئی ٹیکنالوجی - جو مددگار اور خطرناک دونوں ہو سکتی ہے - ان مسائل کو ہمارے ہاتھوں سے دور کر دے گی۔"

Spotify نے ڈیپ فیک وائس اسٹارٹ اپ کو اسنیپ کیا۔

آڈیو سٹریمنگ کمپنی Spotify نے سونانٹک کو حاصل کر لیا ہے، جو لندن میں قائم ایک اپسٹارٹ ہے جس میں AI سافٹ ویئر بنانے پر توجہ دی گئی ہے جو مکمل طور پر بنائی گئی آوازیں پیدا کرنے کے قابل ہے۔

سونانٹک کی ٹیکنالوجی کو گیمنگ اور ہالی ووڈ فلموں میں استعمال کیا گیا ہے، جس سے اداکار ویل کلمر کو آواز دینے میں مدد ملتی ہے۔ اوپر گن: ماہی گیری. کلمر نے ایکشن فلم میں آئس مین کا کردار ادا کیا۔ گلے کے کینسر سے لڑنے کے بعد بولنے میں دشواری کی وجہ سے اس کی لائنیں مشین کے ذریعے بولی گئیں۔

اب، یہی ٹیکنالوجی Spotify پر بھی اپنا راستہ بناتی نظر آتی ہے۔ واضح ایپلی کیشن آڈیو بکس کو پڑھنے کے لیے AI آوازوں کا استعمال کرے گی۔ Spotify، سب کے بعد، حاصل Findaway، ایک آڈیو بک پلیٹ فارم، پچھلے سال نومبر میں۔ یہ دیکھنا دلچسپ ہوگا کہ آیا سامعین اپنی مرضی کے مطابق کرنے کے قابل ہوں گے کہ وہ کس طرح چاہتے ہیں کہ ان کے مشینی راویوں کی آواز آئے۔ ہو سکتا ہے کہ خوفناک کہانیوں کے مقابلے میں اونچی آواز میں بچوں کی کتابیں پڑھنے کے لیے مختلف آوازیں آئیں۔

"ہم واقعی Sonantic کی AI وائس ٹیکنالوجی کو Spotify پلیٹ فارم پر لانے اور اپنے صارفین کے لیے نئے تجربات پیدا کرنے کی صلاحیت کے بارے میں بہت پرجوش ہیں،" زیاد سلطان، Spotify کے پرسنلائزیشن کے نائب صدر، نے کہا ایک بیان میں "یہ انضمام ہمیں صارفین کو ایک نئے اور اس سے بھی زیادہ ذاتی نوعیت کے طریقے سے منسلک کرنے کے قابل بنائے گا،" انہوں نے اشارہ کیا۔

سامان کو خود بخود اسکین کرنے کے لیے TSA ٹیسٹنگ AI سافٹ ویئر

یو ایس ٹرانسپورٹیشن سیکیورٹی ایڈمنسٹریشن جانچ کرے گی کہ آیا کمپیوٹر ویژن سافٹ ویئر خود بخود سامان کی اسکریننگ کر سکتا ہے تاکہ ان اشیاء کو تلاش کیا جا سکے جو عجیب لگتی ہیں یا پروازوں میں اس کی اجازت نہیں ہے۔

ٹرائل ایک لیب میں ہوگا اور ابھی حقیقی ہوائی اڈوں کے لیے تیار نہیں ہے۔ یہ سافٹ ویئر پہلے سے موجود 3D کمپیوٹڈ ٹوموگرافی (CT) امیجنگ کے ساتھ کام کرتا ہے جسے TSA افسران فی الحال سیکیورٹی چوکیوں پر لوگوں کے تھیلوں سے جھانکنے کے لیے استعمال کرتے ہیں۔ اگر ایجنٹوں کو کوئی مشکوک چیز نظر آتی ہے، تو وہ سامان کو ایک طرف لے جائیں گے اور اس میں سے رائفل چلا دیں گے۔

AI الگورتھم اس عمل میں سے کچھ کو خودکار کر سکتے ہیں۔ وہ اشیاء کی شناخت کر سکتے ہیں اور ان واقعات کو جھنڈا لگا سکتے ہیں جہاں وہ مخصوص اشیاء کا پتہ لگاتے ہیں۔

"چونکہ TSA اور دیگر سیکورٹی ایجنسیاں CT کو اپناتی ہیں، AI کی یہ ایپلی کیشن ہوا بازی کی حفاظت میں ممکنہ طور پر تبدیلی کی چھلانگ کی نمائندگی کرتی ہے، ہوائی سفر کو محفوظ اور زیادہ مستقل بناتی ہے، جبکہ TSA کے اعلیٰ تربیت یافتہ افسران کو ایسے بیگز پر توجہ مرکوز کرنے کی اجازت دیتا ہے جو سب سے زیادہ خطرہ لاحق ہوتے ہیں۔" نے کہا انتظامیہ کے ساتھ کام کرنے والی ٹیکنالوجی کمپنی Pangiam میں پروڈکٹ ڈائریکٹر الیکسس لانگ۔

"ہمارا مقصد AI اور کمپیوٹر ویژن ٹیکنالوجیز کا استعمال کرتے ہوئے حفاظت کو بڑھانے کے لیے TSA اور سیکیورٹی افسران کو طاقتور ٹولز فراہم کرنا ہے تاکہ ممنوعہ اشیاء کا پتہ لگایا جا سکے جو ایوی ایشن سیکیورٹی کے لیے خطرہ بن سکتی ہیں، دنیا بھر میں مضمرات کے ساتھ ایک نیا سیکیورٹی معیار قائم کرنے کی جانب ایک اہم قدم ہے۔" ®