يسعدنا أن نعلن عن إصدار المصدر المفتوح من GraphStorm الإصدار 0.1 ، وهو إطار عمل للتعلم الآلي للرسم البياني للمؤسسات (ML) منخفض الكود لإنشاء حلول تعلم الرسم البياني للمؤسسات وتدريبها ونشرها على الرسوم البيانية المعقدة على مستوى المؤسسة في أيام بدلاً من شهور. باستخدام GraphStorm ، يمكنك إنشاء حلول تأخذ في الاعتبار بشكل مباشر بنية العلاقات أو التفاعلات بين مليارات الكيانات ، والتي تكون مضمنة بطبيعتها في معظم بيانات العالم الحقيقي ، بما في ذلك سيناريوهات اكتشاف الاحتيال والتوصيات واكتشاف المجتمع ومشكلات البحث / الاسترجاع.
حتى الآن ، كان من الصعب جدًا إنشاء حلول تعلم الرسم البياني وتدريبها ونشرها للرسوم البيانية المعقدة للمؤسسات التي تحتوي بسهولة على مليارات العقد ومئات المليارات من الحواف وعشرات السمات - ما عليك سوى التفكير في رسم بياني يلتقط منتجات Amazon.com وسمات المنتج والعملاء والمزيد. باستخدام GraphStorm ، نصدر الأدوات التي تستخدمها Amazon داخليًا لتقديم حلول ML للرسم البياني واسعة النطاق للإنتاج. لا تتطلب GraphStorm أن تكون خبيرًا في تعلم الرسم البياني ومتاح بموجب ترخيص Apache v2.0 على GitHub. لمعرفة المزيد حول GraphStorm ، قم بزيارة مستودع جيثب.
في هذا المنشور ، نقدم مقدمة إلى GraphStorm وبنيتها ومثال لحالة استخدام كيفية استخدامها.
تقديم GraphStorm
تظهر خوارزميات الرسم البياني والرسم البياني ML كحلول حديثة للعديد من مشاكل الأعمال المهمة مثل التنبؤ بمخاطر المعاملات ، وتوقع تفضيلات العملاء ، واكتشاف التدخلات ، وتحسين سلاسل التوريد ، وتحليل الشبكات الاجتماعية ، والتنبؤ بحركة المرور. على سبيل المثال، واجب الحرس الأمازون، خدمة AWS الأصلية للكشف عن التهديدات ، تستخدم رسمًا بيانيًا بمليارات الحواف لتحسين تغطية ودقة معلومات التهديدات. يسمح هذا لـ GuardDuty بتصنيف المجالات غير المرئية سابقًا على أنها من المحتمل جدًا أن تكون ضارة أو حميدة بناءً على ارتباطها بالمجالات الخبيثة المعروفة. باستخدام Graph Neural Networks (GNNs) ، تستطيع GuardDuty تعزيز قدرتها على تنبيه العملاء.
ومع ذلك ، فإن تطوير حلول ML للرسم البياني وإطلاقها وتشغيلها يستغرق شهورًا ويتطلب خبرة في تعلم الرسم البياني. كخطوة أولى ، يتعين على عالم الرسم البياني ML إنشاء نموذج ML للرسم البياني لحالة استخدام معينة باستخدام إطار عمل مثل مكتبة الرسم البياني العميق (DGL). يعد تدريب مثل هذه النماذج أمرًا صعبًا نظرًا لحجم الرسوم البيانية وتعقيدها في تطبيقات المؤسسة ، والتي تصل بشكل روتيني إلى مليارات العقد ، ومئات المليارات من الحواف ، وأنواع مختلفة من العقدة والحواف ، ومئات من سمات العقدة والحافة. يمكن أن تتطلب الرسوم البيانية للمؤسسة تيرابايت من تخزين الذاكرة ، مما يتطلب من علماء الرسم البياني ML بناء خطوط تدريب معقدة. أخيرًا ، بعد تدريب النموذج ، يجب نشرهم للاستدلال ، الأمر الذي يتطلب خطوط أنابيب استدلال يصعب بناؤها تمامًا مثل خطوط أنابيب التدريب.
GraphStorm 0.1 عبارة عن إطار عمل ML للرسم البياني للمؤسسات منخفض الكود يسمح لممارسي تعلم الآلة باختيار نماذج تعلم الرسم البياني المحددة مسبقًا بسهولة والتي أثبتت فعاليتها ، وتشغيل التدريب الموزع على الرسوم البيانية بمليارات العقد ، ونشر النماذج في الإنتاج. تقدم GraphStorm مجموعة من نماذج ML للرسم البياني المضمنة ، مثل الشبكات التلافيفية للرسم البياني (RGCN) ، وشبكات الاهتمام بالرسومات العلائقية (RGAT) ، ومحولات الرسم البياني غير المتجانسة (HGT) لتطبيقات المؤسسات ذات الرسوم البيانية غير المتجانسة ، والتي تسمح لمهندسي تعلم الآلة مع القليل من رسم بياني لخبرة ML لتجربة حلول نموذجية مختلفة لمهمتهم واختيار الحل المناسب بسرعة. التدريب الشامل الموزع وخطوط الاستدلال ، التي تتسع لمليارات المقاييس من الرسوم البيانية للمؤسسات ، تجعل من السهل تدريب ونشر وتشغيل الاستدلال. إذا كنت جديدًا في GraphStorm أو الرسم البياني ML بشكل عام ، فستستفيد من النماذج وخطوط الأنابيب المحددة مسبقًا. إذا كنت خبيرًا ، فلديك جميع الخيارات لضبط خط أنابيب التدريب وبنية النموذج للحصول على أفضل أداء. تم إنشاء GraphStorm أعلى DGL ، وهو إطار عمل شائع على نطاق واسع لتطوير نماذج GNN ، ومتوفر كرمز مفتوح المصدر بموجب ترخيص Apache v2.0.
يقول جورج كاريبيس ، كبير العلماء الرئيسيين في أبحاث Amazon AI / ML: "تم تصميم GraphStorm لمساعدة العملاء على تجربة طرق تعلم الرسم البياني وتشغيلها لتطبيقات الصناعة لتسريع اعتماد تعلم الرسم البياني". "منذ إطلاقها داخل Amazon ، قللت GraphStorm الجهود المبذولة لإنشاء حلول قائمة على الرسم البياني ML بما يصل إلى خمس مرات."
يقول هاينينغ يو ، العالم التطبيقي الرئيسي في Amazon Measurement و Ad Tech و Data Science: "تمكّن GraphStorm فريقنا من تدريب تضمين GNN بطريقة تخضع للإشراف الذاتي على رسم بياني مع 288 مليون عقدة و 2 مليار حافة". "تُظهر حفلات الزفاف المدربة مسبقًا على GNN تحسنًا بنسبة 24٪ في مهمة التنبؤ بنشاط المتسوق مقارنة بخط الأساس المتطور المستند إلى BERT ؛ كما أنه يتجاوز الأداء المعياري في تطبيقات الإعلانات الأخرى ".
يقول براد بيبي ، المدير العام لشركة Amazon Neptune و Amazon Timestream: "قبل GraphStorm ، كان بإمكان العملاء التوسع رأسيًا فقط للتعامل مع الرسوم البيانية ذات 500 مليون حافة". "تتيح GraphStorm للعملاء توسيع نطاق تدريب نموذج GNN على الرسوم البيانية الضخمة لـ Amazon Neptune مع عشرات المليارات من الحواف."
بنية تقنية GraphStorm
يوضح الشكل التالي البنية الفنية لـ GraphStorm.
تم إنشاء GraphStorm أعلى PyTorch ويمكن تشغيلها على وحدة معالجة رسومات واحدة ووحدات معالجة رسومات متعددة وأجهزة معالجة رسومات متعددة. يتكون من ثلاث طبقات (موضحة في المربعات الصفراء في الشكل السابق):
- الطبقة السفلية (Dist GraphEngine) - توفر الطبقة السفلية المكونات الأساسية لتمكين ML للرسم البياني الموزع ، بما في ذلك الرسوم البيانية الموزعة ، والموترات الموزعة ، والزخارف الموزعة ، وأخذ العينات الموزعة. توفر GraphStorm تطبيقات فعالة لهذه المكونات لتوسيع نطاق تدريب تعلم الرسم البياني إلى الرسوم البيانية لمليارات العقدة.
- الطبقة الوسطى (تدريب GS / خط أنابيب الاستدلال) - توفر الطبقة الوسطى المدربين والمقيمين والمتنبئين لتبسيط تدريب النموذج والاستدلال لكل من النماذج المضمنة والنماذج المخصصة الخاصة بك. في الأساس ، باستخدام API لهذه الطبقة ، يمكنك التركيز على تطوير النموذج دون القلق بشأن كيفية توسيع نطاق تدريب النموذج.
- الطبقة العليا (GS نموذج عام حديقة الحيوان) - الطبقة العليا عبارة عن حديقة حيوانات نموذجية بها نماذج GNN و non-GNN شائعة لأنواع مختلفة من الرسوم البيانية. حتى كتابة هذه السطور ، توفر RGCN و RGAT و HGT للرسوم البيانية غير المتجانسة و BERTGNN للرسوم البيانية النصية. في المستقبل ، سنضيف دعمًا لنماذج الرسم البياني الزمني مثل TGAT للرسوم البيانية الزمنية وكذلك TransE و DistMult للرسوم البيانية المعرفية.
كيفية استخدام GraphStorm
بعد تثبيت GraphStorm ، ما عليك سوى ثلاث خطوات لإنشاء نماذج GML وتدريبها لتطبيقك.
أولاً ، تقوم بمعالجة بياناتك مسبقًا (من المحتمل أن تتضمن هندسة الميزات المخصصة الخاصة بك) وتحويلها إلى تنسيق جدول مطلوب بواسطة GraphStorm. لكل نوع عقدة ، يمكنك تحديد جدول يسرد جميع العقد من هذا النوع وميزاتها ، مما يوفر معرفًا فريدًا لكل عقدة. بالنسبة لكل نوع حافة ، تقوم بالمثل بتعريف جدول يحتوي فيه كل صف على معرفات عقدة المصدر والوجهة لحافة من هذا النوع (لمزيد من المعلومات ، راجع استخدم دروس البيانات الخاصة بك). بالإضافة إلى ذلك ، يمكنك توفير ملف JSON يصف الهيكل العام للرسم البياني.
ثانيًا ، من خلال واجهة سطر الأوامر (CLI) ، يمكنك استخدام برنامج GraphStorm المدمج construct_graph
مكون لبعض عمليات معالجة البيانات الخاصة بـ GraphStorm ، والتي تتيح التدريب والاستدلال الموزعين بكفاءة.
ثالثًا ، تقوم بتكوين النموذج والتدريب في ملف YAML (مثال) ومرة أخرى باستخدام CLI ، استدعاء أحد المكونات الخمسة المضمنة (gs_node_classification
, gs_node_regression
, gs_edge_classification
, gs_edge_regression
, gs_link_prediction
) كخطوط أنابيب تدريب لتدريب النموذج. تؤدي هذه الخطوة إلى تشكيلات النموذج المدربة. للقيام بالاستدلال ، تحتاج إلى تكرار الخطوتين الأوليين لتحويل بيانات الاستدلال إلى رسم بياني باستخدام نفس مكون GraphStorm (construct_graph
) كما كان من قبل.
أخيرًا ، يمكنك استدعاء أحد المكونات الخمسة المضمنة ، وهو نفسه الذي تم استخدامه لتدريب النموذج ، كخط أنابيب للاستدلال لإنشاء عمليات التضمين أو نتائج التنبؤ.
يوضح الشكل التالي أيضًا التدفق الكلي.
في القسم التالي ، نقدم مثالاً لحالة الاستخدام.
قم بعمل تنبؤات بشأن بيانات OAG الأولية
بالنسبة لهذا المنشور ، نوضح مدى السهولة التي يمكن بها لـ GraphStorm تمكين تدريب ML على الرسم البياني والاستدلال على مجموعة بيانات أولية كبيرة. ال افتح الرسم البياني الأكاديمي (OAG) يحتوي على خمسة كيانات (أوراق ، مؤلفون ، أماكن ، انتماءات ، ومجال دراسة). يتم تخزين مجموعة البيانات الأولية في ملفات JSON تزيد عن 500 غيغابايت.
مهمتنا هي بناء نموذج للتنبؤ بمجال دراسة الورقة. للتنبؤ بمجال الدراسة ، يمكنك صياغته كمهمة تصنيف متعددة التسميات ، ولكن من الصعب استخدام ترميز واحد ساخن لتخزين الملصقات نظرًا لوجود مئات الآلاف من الحقول. لذلك ، يجب عليك إنشاء مجال عقد الدراسة وصياغة هذه المشكلة كمهمة توقع ارتباط ، والتنبؤ بمجال عقد الدراسة التي يجب أن تتصل بها العقدة الورقية.
لنمذجة مجموعة البيانات هذه بطريقة الرسم البياني ، فإن الخطوة الأولى هي معالجة مجموعة البيانات واستخراج الكيانات والحواف. يمكنك استخراج خمسة أنواع من الحواف من ملفات JSON لتحديد رسم بياني ، كما هو موضح في الشكل التالي. يمكنك استخدام دفتر Jupyter في GraphStorm رمز المثال لمعالجة مجموعة البيانات وإنشاء خمسة جداول كيانات لكل نوع كيان وخمسة جداول حافة لكل نوع حافة. يقوم دفتر Jupyter أيضًا بإنشاء حفلات زفاف BERT على الكيانات التي تحتوي على بيانات نصية ، مثل الأوراق.
بعد تحديد الكيانات والحواف بين الكيانات ، يمكنك إنشاء mag_bert.json
، الذي يحدد مخطط الرسم البياني ، ويستدعي خط أنابيب إنشاء الرسم البياني المدمج construct_graph
في GraphStorm لإنشاء الرسم البياني (انظر التعليمات البرمجية التالية). على الرغم من أن خط أنابيب إنشاء الرسم البياني GraphStorm يعمل في جهاز واحد ، إلا أنه يدعم المعالجة المتعددة لعقد المعالجة وميزات الحافة بالتوازي (--num_processes
) ويمكن تخزين الكيانات وميزات الحافة على الذاكرة الخارجية (--ext-mem-workspace
) للتوسع في مجموعات البيانات الكبيرة.
لمعالجة مثل هذا الرسم البياني الكبير ، تحتاج إلى مثيل CPU ذي ذاكرة كبيرة لإنشاء الرسم البياني. يمكنك استخدام ملف الأمازون الحوسبة المرنة السحابية (Amazon EC2) مثيل r6id.32xlarge (128 وحدة معالجة مركزية وذاكرة وصول عشوائي 1 تيرابايت) أو مثيلات r6a.48xlarge (192 وحدة المعالجة المركزية و 1.5 تيرابايت من ذاكرة الوصول العشوائي) لإنشاء الرسم البياني OAG.
بعد إنشاء الرسم البياني ، يمكنك استخدام gs_link_prediction
لتدريب نموذج توقع ارتباط على أربع مثيلات g5.48xlarge. عند استخدام النماذج المضمنة ، فأنت تستدعي سطر أوامر واحدًا فقط لبدء مهمة التدريب الموزعة. انظر الكود التالي:
بعد تدريب النموذج ، يتم حفظ الأداة النموذجية في المجلد /data/mag_lp_model
.
يمكنك الآن تشغيل استدلال التنبؤ بالرابط لإنشاء حفلات زفاف على GNN وتقييم أداء النموذج. توفر GraphStorm عدة مقاييس تقييم مدمجة لتقييم أداء النموذج. بالنسبة لمشكلات التنبؤ بالارتباط ، على سبيل المثال ، تقوم GraphStorm تلقائيًا بإخراج متوسط الترتيب المتبادل (MRR). يعد MRR مقياسًا قيمًا لتقييم نماذج تنبؤ ارتباط الرسم البياني لأنه يقيِّم مدى ارتفاع ترتيب الروابط الفعلية بين الروابط المتوقعة. هذا يجسد جودة التنبؤات ، والتأكد من أن نموذجنا يعطي الأولوية للاتصالات الحقيقية بشكل صحيح ، وهو هدفنا هنا.
يمكنك تشغيل الاستدلال باستخدام سطر أوامر واحد ، كما هو موضح في الكود التالي. في هذه الحالة ، يصل النموذج إلى MRR بمقدار 0.31 في مجموعة اختبار الرسم البياني المركب.
لاحظ أن خط أنابيب الاستدلال يولد التضمينات من نموذج توقع الارتباط. لحل مشكلة العثور على مجال الدراسة لأي ورقة معينة ، ما عليك سوى إجراء بحث عن أقرب جوار k على الزخارف.
وفي الختام
GraphStorm هو إطار عمل ML للرسم البياني جديد يجعل من السهل إنشاء نماذج تعلم الرسم البياني وتدريبها ونشرها على الرسوم البيانية الصناعية. يعالج بعض التحديات الرئيسية في الرسم البياني ML ، بما في ذلك قابلية التوسع وسهولة الاستخدام. إنه يوفر مكونات مضمنة لمعالجة الرسوم البيانية بمليارات الحجم من بيانات الإدخال الخام إلى التدريب النموذجي والاستدلال النموذجي ، وقد مكّن العديد من فرق Amazon من تدريب أحدث نماذج تعلم الرسم البياني في تطبيقات مختلفة. تحقق من مستودع جيثب للمزيد من المعلومات.
حول المؤلف
دا تشنغ هو عالم تطبيقي كبير في أبحاث AWS AI / ML يقود فريق التعلم الآلي للرسم البياني لتطوير التقنيات والأطر لوضع التعلم الآلي للرسم البياني في الإنتاج. حصل دا على درجة الدكتوراه في علوم الكمبيوتر من جامعة جونز هوبكنز.
فلوريان ساب هو مدير المنتج التقني الرئيسي في أبحاث AWS AI / ML التي تدعم فرق العلوم المتقدمة مثل مجموعة التعلم الآلي للرسم البياني وتحسين المنتجات مثل Amazon DataZone مع إمكانيات ML. قبل الانضمام إلى AWS ، كان فلوريان رائدًا في إدارة المنتجات الفنية للقيادة الآلية في Bosch ، وكان مستشارًا إستراتيجيًا في McKinsey & Company ، وعمل كعالم في أنظمة التحكم / الروبوتات - وهو مجال يحمل درجة الدكتوراه فيه.
- محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
- تمويل EVM. واجهة موحدة للتمويل اللامركزي. الوصول هنا.
- مجموعة كوانتوم ميديا. تضخيم IR / PR. الوصول هنا.
- أفلاطونايستريم. ذكاء بيانات Web3. تضخيم المعرفة. الوصول هنا.
- المصدر https://aws.amazon.com/blogs/machine-learning/fast-track-graph-ml-with-graphstorm-a-new-way-to-solve-problems-on-enterprise-scale-graphs/
- :لديها
- :يكون
- $ UP
- 1
- 1 تيرا بايت
- 100
- 16
- 31
- 500
- 7
- 8
- 9
- a
- ماهرون
- من نحن
- أكاديمي
- تسريع
- حسابي
- دقة
- نشاط
- يقدم
- Ad
- تضيف
- إضافة
- عناوين
- تبني
- متقدم
- الانتماءات
- بعد
- مرة أخرى
- AI / ML
- ملاحظه
- خوارزميات
- الكل
- السماح
- يسمح
- أيضا
- أمازون
- Amazon EC2
- أمازون نبتون
- توقيت أمازون
- أمازون ويب سيرفيسز
- Amazon.com
- من بين
- an
- تحليل
- و
- أعلن
- توقع
- أي وقت
- أباتشي
- API
- تطبيق
- التطبيقات
- تطبيقي
- هندسة معمارية
- هي
- AS
- جمعية
- At
- اهتمام
- سمات
- الكتاب
- الآلي
- تلقائيا
- متاح
- AWS
- على أساس
- خط الأساس
- الأساسية
- في الأساس
- BE
- لان
- كان
- قبل
- مؤشر
- تستفيد
- أفضل
- ما بين
- مليار
- المليارات
- على حد سواء
- الملابس السفلية
- مربعات
- براد
- جلب
- نساعدك في بناء
- بنيت
- مدمج
- الأعمال
- لكن
- by
- CAN
- قدرات
- يلتقط
- اسر
- حقيبة
- السلاسل
- التحديات
- تحدي
- التحقق
- تصنيف
- الكود
- مجموعة شتاء XNUMX
- COM
- مجتمع
- حول الشركة
- مجمع
- تعقيد
- عنصر
- مكونات
- إحصاء
- الكمبيوتر
- علوم الكمبيوتر
- التواصل
- التواصل
- يتكون
- بناء
- بناء
- إنشاء
- consultants
- يحتوي
- مراقبة
- استطاع
- تغطية
- خلق
- على
- زبون
- العملاء
- da
- البيانات
- معالجة المعلومات
- علم البيانات
- قواعد البيانات
- أيام
- عميق
- يعرف
- تحديد
- شرح
- نشر
- نشر
- تصميم
- افضل الرحلات السياحية
- كشف
- تطوير
- تطوير
- التطوير التجاري
- DGL
- مختلف
- صعبة
- مباشرة
- وزعت
- التدريب الموزع
- do
- لا
- المجالات
- عشرات
- قيادة
- اثنان
- كل
- بسهولة
- سهل
- حافة
- الطُرق الفعّالة
- فعال
- جهد
- جزءا لا يتجزأ من
- تضمين
- الناشئة
- تمكين
- تمكين
- تمكن
- النهائي إلى نهاية
- الهندسة
- المهندسين
- تعزيز
- مشروع
- الكيانات
- كيان
- تقييم
- تقييم
- تقييم
- حتى
- مثال
- يتجاوز
- متحمس
- تجربة
- خبير
- خبرة
- خارجي
- استخراج
- الميزات
- المميزات
- حقل
- مجال
- الشكل
- قم بتقديم
- ملفات
- أخيرا
- العثور على
- الاسم الأول
- تدفق
- تركز
- متابعيك
- في حالة
- شكل
- أربعة
- الإطار
- الأطر
- احتيال
- الكشف عن الغش
- تبدأ من
- مستقبل
- العلاجات العامة
- توليد
- يولد
- جورج
- دولار فقط واحصل على خصم XNUMX% على جميع
- GitHub جيثب:
- معطى
- GM
- وحدة معالجة الرسوميات:
- وحدات معالجة الرسومات
- رسم بياني
- الرسوم البيانية
- تجمع
- مقبض
- الثابت
- يملك
- he
- مساعدة
- هنا
- مرتفع
- جدا
- له
- يحمل
- كيفية
- كيف العليا
- كيفية
- HTTP
- HTTPS
- مئات
- ID
- IDS
- if
- أهمية
- تحسن
- تحسين
- تحسين
- in
- في أخرى
- بما فيه
- العالمية
- معلومات
- متأصل
- إدخال
- تركيب
- مثل
- بدلًا من ذلك
- رؤيتنا
- التفاعلات
- السطح البيني
- داخليا
- إلى
- المُقدّمة
- IT
- انها
- وظيفة
- جامعة جونز هوبكنز
- انضمام
- JPG
- جسون
- م
- القفل
- المعرفة
- معروف
- ملصقات
- كبير
- على نطاق واسع
- إطلاق
- إطلاق
- طبقة
- طبقات
- قيادة
- قيادة
- تعلم
- تعلم
- المكتبة
- حقوق الملكية الفكرية
- مثل
- على الأرجح
- خط
- LINK
- وصلات
- قوائم
- القليل
- آلة
- آلة التعلم
- الآلات
- معدة
- جعل
- يصنع
- القيام ب
- إدارة
- مدير
- أسلوب
- كثير
- ملحوظ
- هائل
- ماكينزي
- ماكينزي وشركاه
- تعني
- قياس
- مكبر الصوت : يدعم، مع دعم ميكروفون مدمج لمنع الضوضاء
- طريقة
- طرق
- متري
- المقاييس
- وسط
- مليون
- ML
- نموذج
- عارضات ازياء
- المقبلة.
- الأكثر من ذلك
- أكثر
- متعدد
- محلي
- حاجة
- نبتون
- شبكة
- الشبكات
- الشبكات العصبية
- جديد
- العقدة
- العقد
- مفكرة
- الآن
- موضوعي
- of
- عروض
- on
- ONE
- فقط
- المصدر المفتوح
- كود مفتوح المصدر
- تعمل
- تحسين
- مزيد من الخيارات
- or
- أخرى
- لنا
- خارج
- على مدى
- الكلي
- الخاصة
- ورق
- أوراق
- موازية
- نفذ
- أداء
- اختيار
- خط أنابيب
- أفلاطون
- الذكاء افلاطون البيانات
- أفلاطون داتا
- الرائج
- منشور
- يحتمل
- تنبأ
- وتوقع
- توقع
- تنبؤ
- تنبؤات
- التفضيلات
- سابقا
- رئيسي
- المشكلة
- مشاكل
- عملية المعالجة
- معالجة
- المنتج
- ادارة المنتج
- مدير المنتج
- الإنتــاج
- المنتجات
- ثبت
- تزود
- ويوفر
- توفير
- وضع
- pytorch
- جودة
- بسرعة
- رامات
- المرتبة
- الخام
- الوصول
- يصل
- العالم الحقيقي
- ساندي خ. ميليك
- عقار مخفض
- العلاقات
- الافراج عن
- كرر
- تطلب
- مطلوب
- يتطلب
- بحث
- النتائج
- حق
- المخاطر
- بصورة روتينية
- صف
- يجري
- نفسه
- يقول
- التدرجية
- حجم
- سيناريوهات
- علوم
- عالم
- العلماء
- بحث
- القسم
- انظر تعريف
- كبير
- الخدمة
- خدماتنا
- طقم
- ينبغي
- إظهار
- أظهرت
- يظهر
- وبالمثل
- تبسيط
- ببساطة
- عزباء
- المقاس
- العدالة
- الشبكة الاجتماعية
- الحلول
- حل
- بعض
- مصدر
- دولة من بين الفن
- خطوة
- خطوات
- تخزين
- متجر
- تخزين
- الإستراتيجيات
- بناء
- دراسة
- هذه
- تزويد
- سلاسل التوريد
- الدعم
- دعم
- الدعم
- جدول
- أخذ
- يأخذ
- مهمة
- فريق
- فريق
- التكنولوجيا
- تقني
- تقنيات
- عشرات
- تجربه بالعربي
- أن
- •
- المستقبل
- الرسم البياني
- المصدر
- من مشاركة
- هناك.
- وبالتالي
- تشبه
- هم
- اعتقد
- على الرغم من؟
- الآلاف
- التهديد
- ثلاثة
- مرات
- إلى
- أدوات
- تيشرت
- حركة المرور
- قطار
- متدرب
- قادة الإيمان
- صفقة
- تحول
- محول
- صحيح
- محاولة
- اثنان
- نوع
- أنواع
- مع
- فريد من نوعه
- جامعة
- قابليتها للاستخدام
- تستخدم
- حالة الاستخدام
- مستعمل
- يستخدم
- استخدام
- القيمة
- مختلف
- أماكن
- عموديا
- بواسطة
- قم بزيارتنا
- وكان
- طريق..
- we
- الويب
- خدمات ويب
- حسن
- متى
- التي
- على نحو واسع
- سوف
- مع
- بدون
- عمل
- جاري الكتابة
- يامل
- أنت
- حل متجر العقارات الشامل الخاص بك في جورجيا
- زفيرنت
- ZOO