Amazon SageMaker JumpStart میں گراف مشین لرننگ کا استعمال کرتے ہوئے ایک کارپوریٹ کریڈٹ ریٹنگ کا درجہ بندی بنائیں

آج، ہم مالیاتی گراف مشین لرننگ (ML) کے لیے ایک نیا حل جاری کر رہے ہیں۔ ایمیزون سیج میکر جمپ اسٹارٹ. جمپ سٹارٹ آپ کو ML کے ساتھ جلدی شروع کرنے میں مدد کرتا ہے اور عام استعمال کے معاملات کے حل کا ایک سیٹ فراہم کرتا ہے جنہیں صرف چند کلکس کے ساتھ تربیت اور تعینات کیا جا سکتا ہے۔

نیا جمپ سٹارٹ حل (گراف پر مبنی کریڈٹ اسکورنگ) یہ ظاہر کرتا ہے کہ کس طرح SEC فائلنگ (طویل شکل کے ٹیکسٹ ڈیٹا) سے کارپوریٹ نیٹ ورک بنایا جائے، اسے مالیاتی تناسب (ٹیبلر ڈیٹا) کے ساتھ جوڑیں، اور کریڈٹ بنانے کے لیے گراف نیورل نیٹ ورکس (GNNs) کا استعمال کریں۔ درجہ بندی کی پیشن گوئی کے ماڈل اس پوسٹ میں، ہم وضاحت کرتے ہیں کہ آپ کریڈٹ سکورنگ کے لیے اس مکمل طور پر حسب ضرورت حل کیسے استعمال کر سکتے ہیں، تاکہ آپ اپنے گراف ML سفر کو تیز کر سکیں۔ گراف ایم ایل مالیاتی ایم ایل کے لیے ایک نتیجہ خیز علاقہ بن رہا ہے کیونکہ یہ روایتی ٹیبلولر ڈیٹاسیٹس کے ساتھ مل کر نیٹ ورک ڈیٹا کے استعمال کو قابل بناتا ہے۔ مزید معلومات کے لیے دیکھیں WSDM پر ایمیزون: گراف نیورل نیٹ ورکس کا مستقبل.

حل جائزہ

آپ کاروباری روابط پر ڈیٹا کا فائدہ اٹھا کر کریڈٹ اسکورنگ کو بہتر بنا سکتے ہیں، جس کے لیے آپ اس حل میں CorpNet (کارپوریٹ نیٹ ورک کے لیے مختصر) کے طور پر بیان کردہ ایک گراف بنا سکتے ہیں۔ اس کے بعد آپ اس گراف پر GNNs کا استعمال کرتے ہوئے گراف ML کی درجہ بندی کا اطلاق کر سکتے ہیں اور نوڈس کے لیے ایک ٹیبلر فیچر سیٹ کر سکتے ہیں، یہ دیکھنے کے لیے کہ کیا آپ نیٹ ورک تعلقات میں معلومات کا مزید فائدہ اٹھا کر ایک بہتر ML ماڈل بنا سکتے ہیں۔ لہذا، یہ حل کاروباری ماڈلز کے لیے ایک ٹیمپلیٹ پیش کرتا ہے جو نیٹ ورک ڈیٹا کا استحصال کرتا ہے، جیسے سپلائی چین ریلیشن شپ گرافس، سوشل نیٹ ورک گرافس، وغیرہ۔

یہ حل کارپوریٹ نیٹ ورک بنا کر اور مصنوعی مالیاتی ڈیٹا بنا کر کئی نئے نمونے تیار کرتا ہے، اور گراف ایم ایل کا استعمال کرتے ہوئے ماڈلز بنانے کے لیے ڈیٹا کی دونوں شکلوں کو یکجا کرتا ہے۔

حل دکھاتا ہے کہ SEC 10-K/Q فائلنگ سے MD&A سیکشن کا استعمال کرتے ہوئے منسلک کمپنیوں کا نیٹ ورک کیسے بنایا جائے۔ اسی طرح کے مستقبل کے بیانات والی کمپنیاں کریڈٹ ایونٹس کے لیے منسلک ہونے کا امکان ہے۔ ان کنکشنز کو گراف میں دکھایا گیا ہے۔ گراف نوڈ کی خصوصیات کے لیے، حل Altman Z-score ماڈل اور ہر فرم کے صنعتی زمرے میں متغیرات کا استعمال کرتا ہے۔ یہ ایک مصنوعی ڈیٹاسیٹ میں فراہم کیے گئے ہیں جو مظاہرے کے مقاصد کے لیے دستیاب ہیں۔ گراف ڈیٹا اور ٹیبلر ڈیٹا کا استعمال GNNs کا استعمال کرتے ہوئے درجہ بندی کی درجہ بندی کرنے کے لیے کیا جاتا ہے۔ مثالی مقاصد کے لیے، ہم گراف کی معلومات کے ساتھ اور اس کے بغیر ماڈلز کی کارکردگی کا موازنہ کرتے ہیں۔

گراف پر مبنی کریڈٹ اسکورنگ حل استعمال کریں۔

جمپ اسٹارٹ کا استعمال شروع کرنے کے لیے، دیکھیں ایمیزون سیج میکر کے ساتھ شروع کرنا. گراف پر مبنی کریڈٹ اسکورنگ حل کے لیے جمپ اسٹارٹ کارڈ کے ذریعے دستیاب ہے۔ ایمیزون سیج میکر اسٹوڈیو.

1. ماڈل کارڈ کا انتخاب کریں، پھر منتخب کریں۔ شروع حل شروع کرنے کے لئے.
   

حل ایک نوٹ بک کے ساتھ استعمال کرنے کے لیے اندازہ اور اختتامی نقطہ تیار کرتا ہے۔

2. اس وقت تک انتظار کریں جب تک کہ وہ تیار نہ ہوں اور اسٹیٹس اس طرح ظاہر ہو۔ Complete.
3. میں سے انتخاب کریں نوٹ بک کھولیں۔ پہلی نوٹ بک کھولنے کے لیے، جو کہ ٹریننگ اور اینڈ پوائنٹ کی تعیناتی کے لیے ہے۔
   

آپ اس حل کو استعمال کرنے کا طریقہ سیکھنے کے لیے اس نوٹ بک کے ذریعے کام کر سکتے ہیں اور پھر اپنے ڈیٹا پر دیگر ایپلیکیشنز کے لیے اس میں ترمیم کر سکتے ہیں۔ حل مصنوعی اعداد و شمار کے ساتھ آتا ہے اور ماڈل کو تربیت دینے کے لیے درکار اقدامات کی مثال دینے کے لیے اس کے ذیلی سیٹ کا استعمال کرتا ہے، اسے ایک اختتامی نقطہ پر تعینات کرتا ہے، اور پھر اختتامی نقطہ کو اندازہ لگانے کے لیے استعمال کرتا ہے۔ نوٹ بک میں آپ کا اپنا ایک اختتامی نقطہ تعینات کرنے کے لیے کوڈ بھی ہوتا ہے۔

4. دوسری نوٹ بک کھولنے کے لیے (تخلیق کے لیے استعمال کیا جاتا ہے)، منتخب کریں۔ نوٹ بک میں اینڈ پوائنٹ کا استعمال کریں۔ اختتامی نقطہ آرٹفیکٹ کے ساتھ۔

اس نوٹ بک میں، آپ دیکھ سکتے ہیں کہ مثال کے اختتامی نقطہ کو استعمال کرنے کے لیے ڈیٹا کو کیسے تیار کیا جائے تاکہ مثالوں کے بیچ کا اندازہ لگایا جا سکے۔

اختتامی نقطہ پیشن گوئی کی درجہ بندی واپس کرتا ہے، جو ماڈل کی کارکردگی کا اندازہ لگانے کے لیے استعمال ہوتی ہیں، جیسا کہ انفرنس نوٹ بک کے آخری کوڈ بلاک کے درج ذیل اسکرین شاٹ میں دکھایا گیا ہے۔

آپ اس حل کو گراف میں اضافہ شدہ کریڈٹ ریٹنگ ماڈل کے ٹیمپلیٹ کے طور پر استعمال کر سکتے ہیں۔ آپ اس مثال میں سیٹ کردہ خصوصیت تک محدود نہیں ہیں — آپ اپنے استعمال کے کیس کے لیے گراف ڈیٹا اور ٹیبلر ڈیٹا دونوں کو تبدیل کر سکتے ہیں۔ مطلوبہ کوڈ کی تبدیلیوں کی حد کم سے کم ہے۔ ہم حل کی ساخت کو سمجھنے کے لیے اپنی ٹیمپلیٹ مثال کے ذریعے کام کرنے کی تجویز کرتے ہیں، اور پھر ضرورت کے مطابق اس میں ترمیم کریں۔

یہ حل صرف نمائشی مقاصد کے لیے ہے۔ یہ مالی مشورہ نہیں ہے اور اس پر مالی یا سرمایہ کاری کے مشورے کے طور پر انحصار نہیں کیا جانا چاہئے۔ متعلقہ نوٹ بک، بشمول تربیت یافتہ ماڈل، مصنوعی ڈیٹا استعمال کرتی ہیں، اور پیداوار کے استعمال کے لیے نہیں ہیں۔ اگرچہ SEC فائلنگ سے متن استعمال کیا جاتا ہے، مالیاتی ڈیٹا مصنوعی طور پر اور تصادفی طور پر تیار کیا جاتا ہے اور اس کا کسی بھی کمپنی کے حقیقی مالیات سے کوئی تعلق نہیں ہے۔ لہذا، مصنوعی طور پر تیار کردہ درجہ بندی کا بھی کسی حقیقی کمپنی کی حقیقی درجہ بندی سے کوئی تعلق نہیں ہے۔

حل میں استعمال ہونے والا ڈیٹا

ڈیٹاسیٹ میں مصنوعی ٹیبلر ڈیٹا ہوتا ہے جیسے کہ مختلف اکاؤنٹنگ ریشوز (عددی) اور انڈسٹری کوڈز (قطعی)۔ ڈیٹاسیٹ کے پاس ہے۔ 𝑁=3286 قطاریں۔ درجہ بندی کے لیبل بھی شامل کیے گئے ہیں۔ یہ گراف ایم ایل کے ساتھ استعمال ہونے والی نوڈ خصوصیات ہیں۔

ڈیٹاسیٹ میں ایک کارپوریٹ گراف بھی ہوتا ہے، جو غیر مستقیم اور غیر وزنی ہوتا ہے۔ یہ حل آپ کو لنکس کو شامل کرنے کے طریقے کو مختلف کرکے گراف کی ساخت کو ایڈجسٹ کرنے کی اجازت دیتا ہے۔ ٹیبلولر ڈیٹاسیٹ میں ہر کمپنی کی نمائندگی کارپوریٹ گراف میں نوڈ کے ذریعے کی جاتی ہے۔ فنکشن construct_network_data() گراف کی تعمیر میں مدد کرتا ہے، جس میں سورس نوڈس اور ڈیسٹینیشن نوڈس کی فہرستیں شامل ہیں۔

درجہ بندی کے لیبلز کو GNNs کا استعمال کرتے ہوئے درجہ بندی کے لیے استعمال کیا جاتا ہے، جو تمام درجہ بندیوں یا بائنری کے لیے کثیر زمرہ جا سکتا ہے، سرمایہ کاری کے گریڈ (AAA، AA، A، BBB) اور غیر سرمایہ کاری گریڈ (BB, B, CCC, CC, C, ڈی)۔ ڈی کا مطلب یہاں ڈیفالٹ ہے۔

ڈیٹا میں پڑھنے اور حل چلانے کے لیے مکمل کوڈ حل نوٹ بک میں فراہم کیا گیا ہے۔ مندرجہ ذیل اسکرین شاٹ مصنوعی ٹیبلر ڈیٹا کی ساخت کو ظاہر کرتا ہے۔

گراف کی معلومات کو میں منتقل کیا جاتا ہے گہری گراف لائبریری اور گراف ML کو شروع کرنے کے لیے ٹیبلر ڈیٹا کے ساتھ مل کر۔ اگر آپ اپنا گراف لاتے ہیں تو اسے صرف سورس نوڈس اور ڈیسٹینیشن نوڈس کے سیٹ کے طور پر فراہم کریں۔

ماڈل ٹریننگ

مقابلے کے لیے، ہم سب سے پہلے صرف ٹیبلر ڈیٹا کا استعمال کرتے ہوئے ماڈل کو تربیت دیتے ہیں۔ آٹوگلونکمپنیوں کی کریڈٹ ریٹنگ کے لیے روایتی انداز کی نقل کرنا۔ پھر ہم گراف ڈیٹا میں شامل کرتے ہیں اور تربیت کے لیے GNNs استعمال کرتے ہیں۔ مکمل تفصیلات نوٹ بک میں فراہم کی گئی ہیں، اور اس پوسٹ میں ایک مختصر جائزہ پیش کیا گیا ہے۔ نوٹ بک منتخب حوالہ جات کے ساتھ گراف ایم ایل کا فوری جائزہ بھی پیش کرتی ہے۔

GNN کی تربیت مندرجہ ذیل ہے۔ ہم کی موافقت کا استعمال کرتے ہیں گراف سیج ماڈل ڈیپ گراف لائبریری میں لاگو کیا گیا ہے۔

1. سے گراف ڈیٹا میں پڑھیں ایمیزون سادہ اسٹوریج سروس (Amazon S3) اور CorpNet کے لیے ماخذ اور منزل نوڈ کی فہرستیں بنائیں۔
2. گراف نوڈ فیچر سیٹ (ٹرین اور ٹیسٹ) میں پڑھیں۔ ضرورت کے مطابق ڈیٹا کو معمول بنائیں۔
3. ٹیون ایبل ہائپرپیرامیٹر سیٹ کریں۔ ہائپر پیرامیٹر آپٹیمائزیشن (HPO) کے بغیر GNN کو فٹ کرنے کے لیے PyTorch چلانے والے خصوصی گراف ایم ایل کنٹینر کو کال کریں۔
4. HPO کے ساتھ گراف ML کو دہرائیں۔

عمل درآمد کو سیدھا اور مستحکم بنانے کے لیے، ہم مندرجہ ذیل کوڈ کا استعمال کرتے ہوئے ایک کنٹینر میں ماڈل ٹریننگ چلاتے ہیں (اس ٹریننگ کوڈ سے پہلے کا سیٹ اپ کوڈ سلوشن نوٹ بک میں ہے):

from sagemaker.pytorch import PyTorch
from time import strftime, gmtime training_job_name = sagemaker_config["SolutionPrefix"] + "-gcn-training"
print( f"You can go to SageMaker -> Training -> Hyperparameter tuning jobs -> a job name started with {training_job_name} to monitor training job status and details."
) estimator = PyTorch( entry_point='train_dgl_pytorch_entry_point.py', source_dir='graph_convolutional_network', role=role, instance_count=1, instance_type='ml.g4dn.xlarge', framework_version="1.9.0", py_version='py38', hyperparameters=hyperparameters, output_path=output_location, code_location=output_location, sagemaker_session=sess, base_job_name=training_job_name,
) estimator.fit({'train': input_location})

موجودہ تربیتی عمل ایک نقلی ترتیب میں شروع کیا جاتا ہے، جہاں ٹیسٹ ڈیٹاسیٹ کی خصوصیات (ٹارگٹ کالم شامل نہیں) کو گراف بنانے کے لیے استعمال کیا جاتا ہے اور اس لیے ٹیسٹ نوڈس کو تربیتی عمل میں شامل کیا جاتا ہے۔ تربیت کے اختتام پر، ٹیسٹ ڈیٹاسیٹ پر پیشین گوئیاں تیار اور محفوظ کی جاتی ہیں۔ output_location S3 بالٹی میں۔

اگرچہ تربیت نقلی ہے، ٹیسٹ ڈیٹاسیٹ کے لیبلز کو تربیت کے لیے استعمال نہیں کیا جاتا ہے، اور ہماری مشق کا مقصد ٹیسٹ ڈیٹاسیٹ نوڈس کے لیے نوڈ ایمبیڈنگ کا استعمال کرتے ہوئے ان لیبلز کی پیش گوئی کرنا ہے۔ GraphSAGE کی ایک اہم خصوصیت یہ ہے کہ نئے مشاہدات جو گراف کا حصہ نہیں ہیں ان پر دلکش سیکھنا بھی ممکن ہے، حالانکہ اس حل میں اس کا فائدہ نہیں اٹھایا گیا ہے۔

ہائپر پیرامیٹر کی اصلاح

اس حل کو GNN پر HPO کر کے مزید بڑھایا جاتا ہے۔ یہ سیج میکر کے اندر کیا جاتا ہے۔ درج ذیل کوڈ دیکھیں:

from sagemaker.tuner import ( IntegerParameter, CategoricalParameter, ContinuousParameter, HyperparameterTuner,
) # Static hyperparameters we do not tune
hyperparameters = { "n-layers": 2, "aggregator-type": "pool", "target-column": target_column
}
# Dynamic hyperparameters to tune and their searching ranges. # For demonstration purpose, we skip the architecture search by skipping # tuning the hyperparameters such as 'skip_rnn_num_layers', 'rnn_num_layers', etc.
hyperparameter_ranges = { "n-hidden": CategoricalParameter([32, 64, 128, 256, 512, 1024]), 'dropout': ContinuousParameter(0.0, 0.6), 'weight-decay': ContinuousParameter(1e-5, 1e-2), 'n-epochs': IntegerParameter(70, 120), #80, 160 'lr': ContinuousParameter(0.002, 0.02),
}

اس کے بعد ہم نے اس معاملے میں F1 سکور کو زیادہ سے زیادہ کرنے کے لیے تربیت کا مقصد ترتیب دیا:

objective_metric_name = "Validation F1"
metric_definitions = [{"Name": "Validation F1", "Regex": "Validation F1 (\S+)"}]
objective_type = "Maximize"

سیج میکر پر منتخب ماحول اور تربیتی وسائل قائم کریں:

estimator_tuning = PyTorch( entry_point='train_dgl_pytorch_entry_point.py', source_dir='graph_convolutional_network', role=role, instance_count=1, instance_type='ml.g4dn.xlarge', framework_version="1.9.0", py_version='py38', hyperparameters=hyperparameters, output_path=output_location, code_location=output_location, sagemaker_session=sess, base_job_name=training_job_name,
)

آخر میں، ہائپر پیرامیٹر آپٹیمائزیشن کے ساتھ تربیتی کام چلائیں:

import time tuning_job_name = sagemaker_config["SolutionPrefix"] + "-gcn-hpo"
print( f"You can go to SageMaker -> Training -> Hyperparameter tuning jobs -> a job name started with {tuning_job_name} to monitor HPO tuning status and details.n" f"Note. You will be unable to successfully run the following cells until the tuning job completes. This step may take around 2 hours."
) tuner = HyperparameterTuner( estimator_tuning, # using the estimator defined in previous section objective_metric_name, hyperparameter_ranges, metric_definitions, max_jobs=30, max_parallel_jobs=10, objective_type=objective_type, base_tuning_job_name = tuning_job_name,
) start_time = time.time() tuner.fit({'train': input_location}) hpo_training_job_time_duration = time.time() - start_time

نتائج کی نمائش

نیٹ ورک ڈیٹا کی شمولیت اور ہائپر پیرامیٹر کی اصلاح سے بہتر نتائج برآمد ہوتے ہیں۔ درج ذیل جدول میں کارکردگی کی پیمائشیں کریڈٹ اسکورنگ کے لیے استعمال ہونے والے معیاری ٹیبلر ڈیٹاسیٹس میں CorpNet میں شامل کرنے کے فائدے کو ظاہر کرتی ہیں۔

AutoGluon کے نتائج گراف استعمال نہیں کرتے، صرف ٹیبلر ڈیٹا۔ جب ہم گراف ڈیٹا میں اضافہ کرتے ہیں اور HPO استعمال کرتے ہیں، تو ہمیں کارکردگی میں مادی فائدہ ہوتا ہے۔

(نوٹ: MCC میتھیوز کوریلیشن گتانک ہے؛ https://en.wikipedia.org/wiki/Phi_coefficient.)

صاف کرو

اس نوٹ بک کو استعمال کرنے کے بعد، مزید چارجز سے بچنے کے لیے ماڈل کے نمونے اور دیگر وسائل کو حذف کر دیں۔ آپ کو دستی طور پر ان وسائل کو حذف کرنے کی ضرورت ہے جو آپ نے نوٹ بک چلانے کے دوران تخلیق کیے ہوں گے، جیسے ماڈل نمونے کے لیے S3 بالٹیاں، تربیتی ڈیٹا سیٹس، پروسیسنگ نمونے، اور ایمیزون کلاؤڈ واچ لاگ گروپس.

خلاصہ

اس پوسٹ میں، ہم نے جمپ اسٹارٹ میں گراف پر مبنی کریڈٹ اسکورنگ سلوشن متعارف کرایا ہے تاکہ آپ کو اپنے گراف ایم ایل کے سفر کو تیز کرنے میں مدد ملے۔ نوٹ بک ایک پائپ لائن فراہم کرتی ہے جسے آپ بہتر کارکردگی حاصل کرنے کے لیے موجودہ ٹیبلر ماڈلز کے ساتھ گراف میں ترمیم اور فائدہ اٹھا سکتے ہیں۔

شروع کرنے کے لیے، آپ JumpStart in میں گراف پر مبنی کریڈٹ اسکورنگ حل تلاش کر سکتے ہیں۔ سیج میکر اسٹوڈیو.

مصنفین کے بارے میں

ڈاکٹر سنجیو داس ایمیزون اسکالر اور سانتا کلارا یونیورسٹی میں فنانس اور ڈیٹا سائنس کے ٹیری پروفیسر ہیں۔ انہوں نے فنانس میں پوسٹ گریجویٹ ڈگریاں (نیویارک یونیورسٹی سے ایم فل اور پی ایچ ڈی) اور کمپیوٹر سائنس (یو سی برکلے سے ایم ایس) اور انڈین انسٹی ٹیوٹ آف مینجمنٹ، احمد آباد سے ایم بی اے کی ڈگریاں حاصل کیں۔ اکیڈمک ہونے سے پہلے، اس نے سٹی بینک میں نائب صدر کے طور پر ایشیا پیسیفک کے علاقے میں ڈیریویٹوز کے کاروبار میں کام کیا۔ وہ مالیاتی ایپلی کیشنز کے شعبے میں ملٹی موڈل مشین لرننگ پر کام کرتا ہے۔

ڈاکٹر ژن ہوانگ کے لیے ایک اپلائیڈ سائنٹسٹ ہے۔ ایمیزون سیج میکر جمپ اسٹارٹ اور ایمیزون سیج میکر بلٹ ان الگورتھم. وہ اسکیل ایبل مشین لرننگ الگورتھم تیار کرنے پر توجہ مرکوز کرتا ہے۔ اس کی تحقیقی دلچسپیاں قدرتی زبان کی پروسیسنگ، ٹیبلر ڈیٹا پر گہری سیکھنے، اور نان پیرامیٹرک اسپیس ٹائم کلسٹرنگ کے مضبوط تجزیہ کے شعبوں میں ہیں۔

سوجی ادیشینہ AWS میں ایک اپلائیڈ سائنٹسٹ ہے، جہاں وہ گرافس ٹاسک پر مشین لرننگ کے لیے گراف نیورل نیٹ ورک پر مبنی ماڈل تیار کرتا ہے جس میں فراڈ اور غلط استعمال کی ایپلی کیشنز، نالج گرافس، تجویز کنندہ سسٹمز، اور لائف سائنسز شامل ہیں۔ اپنے فارغ وقت میں، وہ پڑھنا اور کھانا پکانا پسند کرتا ہے۔

پیٹرک یانگ ایمیزون سیج میکر میں سافٹ ویئر ڈویلپمنٹ انجینئر ہے۔ وہ صارفین کے لیے مشین لرننگ ٹولز اور مصنوعات بنانے پر توجہ مرکوز کرتا ہے۔

• سکے سمارٹ۔ یورپ کا بہترین بٹ کوائن اور کرپٹو ایکسچینج۔
• پلیٹو بلاک چین۔ Web3 Metaverse انٹیلی جنس۔ علم میں اضافہ۔ مفت رسائی۔
• کرپٹو ہاک۔ Altcoin ریڈار. مفت جانچ.
• ماخذ: https://aws.amazon.com/blogs/machine-learning/build-a-corporate-credit-ratings-classifier-using-graph-machine-learning-in-amazon-sagemaker-jumpstart/