اليوم، يسعدنا أن نعلن أن نموذج الأساس Falcon 180B الذي طوره معهد الابتكار التكنولوجي (TII) وتم تدريبه على Amazon SageMaker متاح للعملاء من خلال أمازون سيج ميكر جومب ستارت للنشر بنقرة واحدة لتشغيل الاستدلال. مع حجم يبلغ 180 مليار معلمة وتدريبه على مجموعة بيانات ضخمة تبلغ 3.5 تريليون رمز مميز، يعد Falcon 180B أكبر النماذج وأكثرها أداءً مع أوزان يمكن الوصول إليها بشكل مفتوح. يمكنك تجربة هذا النموذج باستخدام SageMaker JumpStart، وهو مركز التعلم الآلي (ML) الذي يوفر الوصول إلى الخوارزميات والنماذج وحلول تعلم الآلة حتى تتمكن من بدء استخدام تعلم الآلة بسرعة. في هذا المنشور، سنتعرف على كيفية اكتشاف نموذج Falcon 180B ونشره عبر SageMaker JumpStart.
ما هو فالكون 180ب
Falcon 180B هو نموذج تم إصداره بواسطة المستثمر الذي يتبع الإصدارات السابقة في عائلة Falcon. إنها نسخة موسعة من Falcon 40B، وتستخدم اهتمامًا متعدد الاستعلامات لتحسين قابلية التوسع. إنه نموذج لغة انحداري تلقائي يستخدم بنية محولات محسنة. تم تدريبه على 3.5 تريليون رمز من البيانات، تتكون بشكل أساسي من بيانات الويب من RefinedWeb (حوالي 85%). يحتوي النموذج على نسختين: 180B و180B-Chat. 180B هو نموذج أولي تم تدريبه مسبقًا، ويجب تحسينه بشكل أكبر ليناسب معظم حالات الاستخدام. يعد 180B-Chat أكثر ملاءمة لتلقي التعليمات العامة. تم ضبط نموذج الدردشة بشكل دقيق على مجموعات بيانات الدردشة والتعليمات بالإضافة إلى العديد من مجموعات بيانات المحادثة واسعة النطاق.
النموذج متاح تحت ترخيص Falcon-180B TII و سياسة الاستخدام المقبول.
تم تدريب Falcon 180B بواسطة TII الأمازون SageMaker، على مجموعة من وحدات معالجة الرسومات 4K A100 تقريبًا. لقد استخدمت قاعدة بيانات تدريب موزعة مخصصة تسمى Gigatron، والتي تستخدم التوازي ثلاثي الأبعاد مع Zero، ونواة Triton المخصصة عالية الأداء. بنية التدريب الموزعة المستخدمة خدمة تخزين أمازون البسيطة (Amazon S3) باعتبارها الخدمة الموحدة الوحيدة لتحميل البيانات وكتابة وقراءة نقاط التفتيش، مما ساهم بشكل خاص في موثوقية عبء العمل والبساطة التشغيلية.
ما هو برنامج SageMaker JumpStart
باستخدام SageMaker JumpStart، يمكن لممارسي تعلم الآلة الاختيار من قائمة متزايدة من نماذج الأساس الأفضل أداءً. يمكن لممارسي تعلم الآلة نشر النماذج الأساسية لمثيلات SageMaker المخصصة داخل بيئة شبكة معزولة، وتخصيص النماذج باستخدام Amazon SageMaker للتدريب على النماذج ونشرها.
يمكنك الآن اكتشاف Falcon 180B ونشره ببضع نقرات أمازون ساجميكر ستوديو أو برمجيًا من خلال SageMaker Python SDK ، مما يتيح لك اشتقاق أداء النموذج وعناصر تحكم MLOps باستخدام ميزات SageMaker مثل خطوط أنابيب Amazon SageMaker, الأمازون SageMaker المصححأو سجلات الحاوية. يتم نشر النموذج في بيئة AWS الآمنة وتحت ضوابط VPC الخاصة بك، مما يساعد على ضمان أمان البيانات. يمكن اكتشاف Falcon 180B ويمكن نشره في المناطق التي تتوفر فيها المثيلات المطلوبة. في الوقت الحاضر، تتوفر مثيلات ml.p4de في شرق الولايات المتحدة (شمال فرجينيا) وغرب الولايات المتحدة (أوريغون).
اكتشف الموديلات
يمكنك الوصول إلى نماذج الأساس من خلال SageMaker JumpStart في SageMaker Studio UI و SageMaker Python SDK. في هذا القسم ، ننتقل إلى كيفية اكتشاف النماذج في SageMaker Studio.
SageMaker Studio عبارة عن بيئة تطوير متكاملة (IDE) توفر واجهة مرئية واحدة قائمة على الويب حيث يمكنك الوصول إلى الأدوات المصممة لغرض تنفيذ جميع خطوات تطوير ML ، من إعداد البيانات إلى البناء والتدريب ونشر نماذج ML الخاصة بك. لمزيد من التفاصيل حول كيفية البدء وإعداد SageMaker Studio ، يرجى الرجوع إلى أمازون ساجميكر ستوديو.
في SageMaker Studio، يمكنك الوصول إلى SageMaker JumpStart، الذي يحتوي على نماذج ودفاتر ملاحظات وحلول تم إنشاؤها مسبقًا، ضمن حلول آلية ومبنية مسبقًا.
من الصفحة المقصودة لـ SageMaker JumpStart، يمكنك استعراض الحلول والنماذج ودفاتر الملاحظات والموارد الأخرى. يمكنك العثور على Falcon 180B في نماذج الأساس: إنشاء النص دائري.
يمكنك أيضًا العثور على متغيرات الطراز الأخرى عن طريق الاختيار استكشف جميع نماذج إنشاء النص أو البحث عن Falcon
.
يمكنك اختيار بطاقة النموذج لعرض تفاصيل حول النموذج مثل الترخيص والبيانات المستخدمة للتدريب وكيفية الاستخدام. ستجد أيضًا زرين، نشر و افتح المفكرة، مما سيساعدك على استخدام النموذج (تظهر لقطة الشاشة التالية نشر اختيار).
نشر النماذج
عندما تختار نشر، سيبدأ نشر النموذج. وبدلاً من ذلك، يمكنك النشر من خلال مثال دفتر الملاحظات الذي يظهر عن طريق الاختيار افتح المفكرة. يوفر نموذج دفتر الملاحظات إرشادات شاملة حول كيفية نشر النموذج لموارد الاستدلال والتنظيف.
للنشر باستخدام جهاز كمبيوتر محمول ، نبدأ باختيار نموذج مناسب ، محدد بواسطة model_id
. يمكنك نشر أي من النماذج المحددة على SageMaker باستخدام الكود التالي:
يؤدي هذا إلى نشر النموذج على SageMaker بالتكوينات الافتراضية، بما في ذلك نوع المثيل الافتراضي وتكوينات VPC الافتراضية. يمكنك تغيير هذه التكوينات عن طريق تحديد قيم غير افتراضية في JumpStartModel
. لمعرفة المزيد، راجع API الوثائق. بعد نشره، يمكنك تشغيل الاستدلال على نقطة النهاية المنشورة من خلال أداة توقع SageMaker. انظر الكود التالي:
تتحكم معلمات الاستدلال في عملية إنشاء النص عند نقطة النهاية. يشير الحد الأقصى للتحكم في الرموز المميزة الجديدة إلى حجم الإخراج الناتج عن النموذج. لاحظ أن هذا ليس هو نفس عدد الكلمات لأن مفردات النموذج ليست هي نفس مفردات اللغة الإنجليزية وكل رمز قد لا يكون كلمة لغة إنجليزية. تتحكم درجة الحرارة في العشوائية في الإخراج. يؤدي ارتفاع درجة الحرارة إلى المزيد من المخرجات الإبداعية والهلوسة. جميع معلمات الاستدلال اختيارية.
يبلغ حجم نموذج المعلمة 180B هذا 335 جيجابايت ويتطلب المزيد من ذاكرة GPU لإجراء الاستدلال بشكل كافٍ بدقة 16 بت. حاليًا، يدعم JumpStart هذا النموذج فقط في مثيلات ml.p4de.24xlarge. من الممكن نشر نموذج كمي 8 بت على مثيل ml.p4d.24xlarge من خلال توفير env={"HF_MODEL_QUANTIZE": "bitsandbytes"}
وسيطة الكلمة الرئيسية ل JumpStartModel
منشئ وتحديد instance_type="ml.p4d.24xlarge"
إلى طريقة النشر. ومع ذلك، يرجى ملاحظة أن زمن الاستجابة لكل رمز مميز يكون أبطأ بمقدار 5 مرات تقريبًا لهذا التكوين الكمي.
يسرد الجدول التالي جميع نماذج Falcon المتوفرة في SageMaker JumpStart بالإضافة إلى معرفات النموذج وأنواع المثيلات الافتراضية والحد الأقصى لعدد الرموز المميزة (مجموع عدد الرموز المميزة للإدخال وعدد الرموز المميزة التي تم إنشاؤها) وزمن الاستجابة النموذجي لكل رمز مميز لكل من هذه النماذج.
نموذج الاسم | معرف النموذج | نوع المثيل الافتراضي | ماكس إجمالي الرموز | الكمون لكل رمز* |
الصقر 7B | huggingface-llm- falcon-7b-bf16 |
ml.g5.2xlarge | 2048 | مللي 34 |
تعليمات الصقر 7B | huggingface-llm- falcon-7b-instruct-bf16 |
ml.g5.2xlarge | 2048 | مللي 34 |
الصقر 40B | huggingface-llm- falcon-40b-bf16 |
ml.g5.12xlarge | 2048 | مللي 57 |
تعليمات الصقر 40B | huggingface-llm- falcon-40b-instruct-bf16 |
ml.g5.12xlarge | 2048 | مللي 57 |
الصقر 180B | huggingface-llm- falcon-180b-bf16 |
ml.p4de.24xlarge | 2048 | مللي 45 |
دردشة فالكون 180 بي | huggingface-llm- falcon-180b-chat-bf16 |
ml.p4de.24xlarge | 2048 | مللي 45 |
*يتم توفير زمن الاستجابة لكل رمز مميز لمتوسط وقت الاستجابة لأمثلة المطالبات المقدمة في هذه المدونة؛ ستختلف هذه القيمة بناءً على طول تسلسل الإدخال والإخراج.
يطالب الاستدلال والمثال لفالكون 180B
يمكن استخدام نماذج Falcon لإكمال النص لأي جزء من النص. من خلال إنشاء النص، يمكنك تنفيذ مجموعة متنوعة من المهام، مثل الإجابة على الأسئلة وترجمة اللغة وتحليل المشاعر وغيرها الكثير. تقبل نقطة النهاية مخطط حمولة الإدخال التالي:
يمكنك استكشاف تعريف هذه معلمات العميل وقيمها الافتراضية داخل مستودع استنتاج إنشاء النص.
فيما يلي بعض نماذج المطالبات والنص الذي تم إنشاؤه بواسطة النموذج. يتم إنشاء جميع المخرجات هنا باستخدام معلمات الاستدلال {"max_new_tokens": 768, "stop": ["<|endoftext|>", "###"]}
.
يمكن إنشاء موقع ويب في 10 خطوات بسيطة:
قد تلاحظ أن هذا النموذج الذي تم تدريبه مسبقًا يقوم بإنشاء تسلسلات نصية طويلة ليست بالضرورة مثالية لحالات استخدام الحوار. قبل أن نعرض كيفية أداء نموذج الدردشة المضبوط بدقة لمجموعة أكبر من المطالبات المستندة إلى الحوار، يوضح المثالان التاليان كيفية استخدام نماذج Falcon مع لقطات قليلة للتعلم في السياق، حيث نقدم عينات تدريبية متاحة للنموذج. لاحظ أن "التعلم ببضع لقطات" لا يضبط أوزان النموذج - فنحن نقوم فقط بإجراء الاستدلال على النموذج المنشور أثناء هذه العملية مع تقديم بعض الأمثلة في سياق الإدخال للمساعدة في إخراج نموذج الجماعة.
الاستدلال والأمثلة يطالبان بـ Falcon 180B-Chat
مع نماذج Falcon 180B-Chat، المُحسّنة لحالات استخدام الحوار، قد يحتوي الإدخال إلى نقاط نهاية نموذج الدردشة على سجل سابق بين مساعد الدردشة والمستخدم. يمكنك طرح أسئلة سياقية للمحادثة التي حدثت حتى الآن. يمكنك أيضًا توفير تكوين النظام، مثل الشخصيات، التي تحدد سلوك مساعد الدردشة. حمولة الإدخال إلى نقطة النهاية هي نفس طراز Falcon 180B باستثناء inputs
يجب أن تستخدم قيمة السلسلة التنسيق التالي:
فيما يلي بعض نماذج المطالبات والنص الذي تم إنشاؤه بواسطة النموذج. يتم إنشاء جميع المخرجات باستخدام معلمات الاستدلال {"max_new_tokens":256, "stop": ["nUser:", "<|endoftext|>", " User:", "###"]}.
في المثال التالي ، أجرى المستخدم محادثة مع المساعد حول المواقع السياحية في باريس. بعد ذلك ، يستفسر المستخدم عن الخيار الأول الذي أوصى به مساعد الدردشة.
تنظيف
بعد الانتهاء من تشغيل دفتر الملاحظات، تأكد من حذف كافة الموارد التي قمت بإنشائها في العملية حتى يتم إيقاف الفوترة. استخدم الكود التالي:
وفي الختام
في هذا المنشور، أوضحنا لك كيفية البدء باستخدام Falcon 180B في SageMaker Studio ونشر النموذج للاستدلال. نظرًا لأن النماذج الأساسية تم تدريبها مسبقًا، فيمكنها المساعدة في تقليل تكاليف التدريب والبنية التحتية وتمكين التخصيص لحالة الاستخدام الخاصة بك. تفضل بزيارة SageMaker JumpStart في SageMaker Studio الآن للبدء.
الموارد
حول المؤلف
دكتور كايل أولريش هو عالم تطبيقي مع فريق Amazon SageMaker JumpStart. تشمل اهتماماته البحثية خوارزميات التعلم الآلي القابلة للتطوير ، والرؤية الحاسوبية ، والسلاسل الزمنية ، والمعاملات البايزية غير البارامترية ، والعمليات الغاوسية. حصل على درجة الدكتوراه من جامعة ديوك وقد نشر أبحاثًا في NeurIPS و Cell و Neuron.
د. أشيش خيتان هو عالم تطبيقي أقدم في Amazon SageMaker JumpStart ويساعد في تطوير خوارزميات التعلم الآلي. حصل على الدكتوراه من جامعة إلينوي في أوربانا شامبين. وهو باحث نشط في التعلم الآلي والاستدلال الإحصائي ، وقد نشر العديد من الأوراق البحثية في مؤتمرات NeurIPS و ICML و ICLR و JMLR و ACL و EMNLP.
أوليفييه كروشانهو مهندس رئيسي لحلول التعلم الآلي المتخصص في AWS، ومقره في فرنسا. يساعد Olivier عملاء AWS - من الشركات الناشئة الصغيرة إلى المؤسسات الكبيرة - على تطوير ونشر تطبيقات التعلم الآلي على مستوى الإنتاج. وفي أوقات فراغه، يستمتع بقراءة الأوراق البحثية واستكشاف البرية مع الأصدقاء والعائلة.
كارل البرتسن يقود مركز النموذج الأساسي والخوارزميات وفرق الشراكات في Amazon SageMaker.
- محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
- PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
- أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
- أفلاطون السيارات / المركبات الكهربائية ، كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
- أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
- تشارت بريم. ارفع مستوى لعبة التداول الخاصة بك مع ChartPrime. الوصول هنا.
- BlockOffsets. تحديث ملكية الأوفست البيئية. الوصول هنا.
- المصدر https://aws.amazon.com/blogs/machine-learning/falcon-180b-foundation-model-from-tii-is-now-available-via-amazon-sagemaker-jumpstart/
- :لديها
- :يكون
- :ليس
- :أين
- $ UP
- 1
- 10
- 100
- 11
- 12
- 13
- 14
- 150
- 20
- 25
- 26%
- 3d
- 4k
- 7
- 8
- 9
- a
- عن المبجلة
- يقبل
- الوصول
- يمكن الوصول
- التأهيل
- نشط
- تضيف
- وبالإضافة إلى ذلك
- العنوان
- بعد
- ضد
- خوارزميات
- الكل
- يسمح
- على طول
- أيضا
- دائما
- am
- أمازون
- الأمازون SageMaker
- أمازون سيج ميكر جومب ستارت
- أمازون ويب سيرفيسز
- an
- تحليل
- و
- والبنية التحتية
- أعلن
- آخر
- إجابة
- أي وقت
- أي شخص
- جذاب
- التطبيقات
- تطبيقي
- مناسب
- ما يقرب من
- هندسة معمارية
- هي
- حجة
- فنـون
- البند
- AS
- تطلب
- المساعد
- At
- اهتمام
- جذب
- جاذبية
- الآلي
- متاح
- السبل
- AWS
- على أساس
- بطارية
- بايزي
- BE
- جميل
- لان
- كان
- قبل
- سلوك
- أفضل
- ما بين
- الفواتير
- المدونة
- تفتخر
- المتصفح
- باني
- بناة
- ابني
- الأعمال
- لكن
- by
- المقاهي
- CAN
- قدرة
- فيزا وماستركارد
- دائري
- حقيبة
- الحالات
- تغيير
- التحقق
- اختار
- اختيار
- اختيار
- المدينة
- صنف
- كتلة
- سم
- الكود
- مصدر برنامج
- مجموعة شتاء XNUMX
- الأعمدة
- COM
- الجمع بين
- مشترك
- حول الشركة
- إكمال
- إكمال
- الكمبيوتر
- رؤية الكمبيوتر
- المؤتمرات
- الاعداد
- تتكون
- التواصل
- تحتوي على
- وعاء
- يحتوي
- محتوى
- سياق الكلام
- قريني
- بشكل متواصل
- ساهمت
- مراقبة
- ضوابط
- محادثة
- تحادثي
- التكاليف
- خلق
- خلق
- خلق
- الإبداع
- كوب
- حالياًّ
- حاليا
- على
- زبون
- دعم العملاء
- العملاء
- التخصيص
- تصميم
- البيانات
- أمن البيانات
- قواعد البيانات
- يوم
- القرار
- مخصصة
- الترتيب
- حدد
- تعريف
- شرح
- اعتمادا
- نشر
- نشر
- نشر
- نشر
- ينشر
- تصميم
- افضل الرحلات السياحية
- تفاصيل
- حدد
- تطوير
- المتقدمة
- التطوير التجاري
- حوار
- حوار
- مختلف
- اكتشف
- وزعت
- التدريب الموزع
- do
- هل
- نطاق
- اسم نطاق
- أسماء المجال
- فعل
- أحلام
- دوق
- جامعة ديوك
- أثناء
- كل
- سهولة
- بسهولة
- الشرق
- سهل
- البريد الإلكتروني
- تمكين
- تمكين
- النهائي إلى نهاية
- نقطة النهاية
- طاقة
- الهندسة
- انجليزي
- ضمان
- الشركات
- البيئة
- خاصة
- حتى
- مثال
- أمثلة
- إلا
- متحمس
- خبرة
- اكتشف
- استكشاف
- أعربت
- تمديد
- اضافات المتصفح
- واسع
- للعائلات
- مشهور
- بعيدا
- ساحر
- المميزات
- قليل
- الأول
- تطفو
- متابعيك
- متابعات
- في حالة
- شكل
- سابق
- دورة تأسيسية
- أربعة
- FRAME
- فرنسا
- الفرنسية
- الاصدقاء
- تبدأ من
- عمل
- إضافي
- حدائق
- جوهرة
- توليد
- ولدت
- يولد
- جيل
- دولار فقط واحصل على خصم XNUMX% على جميع
- زجاج
- Go
- هدف
- الأهداف
- الذهاب
- خير
- حصلت
- وحدة معالجة الرسوميات:
- وحدات معالجة الرسومات
- عظيم
- متزايد
- توجيه
- نقابة
- كان
- حدث
- كراهية
- يملك
- وجود
- he
- قلب
- مساعدة
- مفيد
- مساعدة
- يساعد
- هنا
- مخفي
- جوهرة مخفية
- أداء عالي
- أعلى
- له
- تاريخ
- الصفحة الرئيسية
- مضيف
- استضافة
- كيفية
- كيفية
- لكن
- HTML
- HTTPS
- محور
- i
- مبدع
- ID
- المثالي
- IDS
- if
- إلينوي
- صورة
- صور
- استيراد
- مثير للإعجاب
- in
- تتضمن
- بما فيه
- لا يصدق
- معلومات
- البنية التحتية
- الابتكار
- إدخال
- المدخلات
- مثل
- معهد
- تعليمات
- المتكاملة
- يستفد
- السريرية
- السطح البيني
- إلى
- معزول
- IT
- انها
- JPG
- معروف
- كايل
- هبوط
- لغة
- كبير
- الشركات الكبيرة
- على نطاق واسع
- أكبر
- أكبر
- كمون
- آخر
- إطلاق
- القوانين
- تصميم
- يؤدي
- تعلم
- تعلم
- الطول
- حقوق الملكية الفكرية
- ضوء
- مبطن
- LINK
- وصلات
- قائمة
- قوائم
- جار التحميل
- طويل
- خفض
- لوكسمبورغ
- آلة
- آلة التعلم
- صنع
- جعل
- القيام ب
- إدارة
- يدير
- كثير
- أعجوبة
- كتلة
- هائل
- ماكس
- أقصى
- مايو..
- معنى
- يعني
- الوسائط
- من القرون الوسطى
- مكبر الصوت : يدعم، مع دعم ميكروفون مدمج لمنع الضوضاء
- الرسالة
- طريقة
- ربما
- خلط
- مزيج
- ML
- MLOps
- نموذج
- عارضات ازياء
- الأكثر من ذلك
- أكثر
- اقتراح
- متحف
- موسيقى
- my
- الاسم
- عين
- أسماء
- التنقل
- قائمة الإختيارات
- بالضرورة
- حاجة
- سلبي
- صاف
- شبكة
- متعدد
- جديد
- التالي
- ليل
- لا
- مفكرة
- يلاحظ..
- الآن
- عدد
- المراقبين
- of
- عروض
- زيت
- أوليفييه
- on
- مرة
- ONE
- فقط
- بصراحة
- تشغيل
- الأمثل
- خيار
- مزيد من الخيارات
- or
- ولاية أوريغون
- أخرى
- خارج
- أوجز
- الناتج
- على مدى
- صفحة
- صفحات
- قصر
- أوراق
- المعلمة
- المعلمات
- باريس
- متنزهات
- خاصة
- شراكات
- وسائل الدفع
- طريقة الدفع او السداد
- مجتمع
- إلى
- نفذ
- أداء
- ينفذ
- رسالة دكتوراه
- للهواتف
- فيزياء
- قطعة
- خطة
- أفلاطون
- الذكاء افلاطون البيانات
- أفلاطون داتا
- من فضلك
- إيجابي
- ممكن
- منشور
- المنشورات
- دقة
- متنبئ
- إعداد
- يقدم
- سابق
- في المقام الأول
- رئيسي
- مشاكل
- عملية المعالجة
- العمليات
- المنتج
- تعزيز
- بصورة صحيحة
- تزود
- المقدمة
- مزود
- ويوفر
- توفير
- نشرت
- غرض
- وضع
- بايثون
- الأسئلة المتكررة
- بسرعة
- العشوائية
- الخام
- نادي القراءة
- وصفة
- موصى به
- الرجوع
- يشير
- بغض النظر
- المناطق
- تسجيل جديد
- تسجيل
- المسجل
- التسجيل
- نسبي
- نسبية
- صدر
- النشرات
- ذات الصلة
- الموثوقية
- الخدمة الموثوقة
- تذكر
- مستودع
- يمثل
- يتطلب
- مطلوب
- بحث
- الباحث
- الموارد
- استجابة
- النتائج
- النوادي الثرية
- Ride
- ملكية
- يجري
- تشغيل
- s
- sagemaker
- ملح
- نفسه
- التدرجية
- تحجيم
- حجم
- عالم
- الإستراحة
- SEA
- بحث
- البحث
- الموسم
- الثاني
- القسم
- تأمين
- أمن
- انظر تعريف
- بذرة
- مختار
- اختيار
- كبير
- عاطفة
- مسلسلات
- الخدمة
- خدماتنا
- طقم
- إعدادات
- عدة
- مشاركة
- المحلات التجارية
- قصير
- ينبغي
- إظهار
- أظهرت
- يظهر
- إشارة
- الاشارات
- بساطة
- ببساطة
- عزباء
- المواقع
- المقاس
- ببطء
- صغير
- So
- حتى الآن
- منصات التواصل
- وسائل التواصل الاجتماعي
- منشورات مواقع التواصل الاجتماعي
- الحلول
- بعض
- شيء
- مصدر
- الفضاء
- متخصص
- محدد
- سرعة
- بداية
- بدأت
- البدء
- المحافظة
- محطة
- إحصائي
- خطوات
- قلة النوم
- توقف
- تخزين
- متجر
- شارع
- خيط
- ستوديو
- مذهل
- هذه
- الدعم
- مدعومة
- الدعم
- بالتأكيد
- رمز
- نظام
- جدول
- أخذ
- مع الأخذ
- المهام
- ذوق
- فريق
- فريق
- تكنولوجيا
- تكنولوجيا الابتكار
- قالب
- تجربه بالعربي
- نص
- أن
- •
- العالم
- من مشاركة
- منهم
- موضوع
- then
- نظرية
- هناك.
- تشبه
- هم
- الثالث
- عبر
- الوقت
- السلاسل الزمنية
- إلى
- سويا
- رمز
- الرموز
- أداة
- أدوات
- الإجمالي
- برج
- قطار
- متدرب
- قادة الإيمان
- محول
- ترجمه
- خدمات ترجمة
- تريليون
- رحلة
- تريتون نصف إله عند الإغريق
- محاولة
- سقسقة
- اثنان
- نوع
- أنواع
- نموذجي
- ui
- مع
- موحد
- فريد من نوعه
- جامعة
- حتى
- تحميل
- us
- تستخدم
- حالة الاستخدام
- مستعمل
- مستخدم
- المستخدمين
- يستخدم
- استخدام
- أجهزة شفط هواء
- قيمنا
- القيم
- تشكيلة
- مختلف
- الإصدار
- الإصدارات
- بواسطة
- فيبي
- فيديو
- مقاطع فيديو
- المزيد
- الرؤى
- فرجينيا
- رؤيتنا
- قم بزيارتنا
- الزوار
- بصريا
- سير
- تريد
- وكان
- العلامة المائية
- we
- الويب
- خدمات ويب
- على شبكة الإنترنت
- الموقع الإلكتروني
- أسبوع
- أسابيع
- حسن
- West Side
- ابحث عن
- ما هي تفاصيل
- متى
- التي
- في حين
- سوف
- نوافذ
- مع
- في غضون
- بدون
- كلمة
- كلمات
- العالم
- جاري الكتابة
- نعم فعلا
- أنت
- حل متجر العقارات الشامل الخاص بك في جورجيا
- زفيرنت
- صفر