این یک پست وبلاگ مهمان است که با همکاری Vik Pant و Kyle Bassett از PwC نوشته شده است.
با سرمایه گذاری فزاینده سازمان ها در یادگیری ماشینی (ML)، پذیرش ML به بخشی جدایی ناپذیر از استراتژی های تحول کسب و کار تبدیل شده است. مدیر عامل اخیر PwC بررسی پرده برداری کرد که 84 درصد از مدیران اجرایی کانادا موافق هستند که هوش مصنوعی (AI) به طور قابل توجهی کسب و کار آنها را در 5 سال آینده تغییر خواهد داد و این فناوری را از همیشه حیاتی تر خواهد کرد. با این حال، پیاده سازی ML در تولید با ملاحظات مختلفی همراه است، به ویژه اینکه می توانید با خیال راحت، استراتژیک و مسئولانه در دنیای هوش مصنوعی حرکت کنید. یکی از اولین گامها و بهویژه یک چالش بزرگ برای بهرهمند شدن از هوش مصنوعی، توسعه مؤثر خطوط لوله ML است که میتوانند بهطور پایدار در فضای ابری مقیاس شوند. اندیشیدن به ML از نظر خطوط لوله ای که مدل ها را تولید و نگهداری می کنند به جای مدل ها به خودی خود، به ساختن سیستم های پیش بینی همه کاره و انعطاف پذیری کمک می کند که بهتر قادر به مقاومت در برابر تغییرات معنی دار در داده های مربوطه در طول زمان باشند.
بسیاری از سازمان ها سفر خود را به دنیای ML با دیدگاه مدل محور آغاز می کنند. در مراحل اولیه ساخت یک عمل ML، تمرکز بر آموزش مدلهای ML نظارت شده است، که نمایشهای ریاضی روابط بین ورودیها (متغیرهای مستقل) و خروجیها (متغیرهای وابسته) هستند که از دادهها (معمولاً تاریخی) آموخته میشوند. مدلها مصنوعات ریاضی هستند که دادههای ورودی را میگیرند، محاسبات و محاسبات را روی آنها انجام میدهند و پیشبینی یا استنتاج ایجاد میکنند.
اگرچه این رویکرد یک نقطه شروع منطقی و نسبتاً ساده است، اما به دلیل ماهیت دستی و موقتی فعالیتهای آموزش مدل، تنظیم، آزمایش و آزمایش، ذاتاً مقیاسپذیر یا ذاتاً پایدار نیست. سازمانهایی که بلوغ بیشتری در حوزه ML دارند، پارادایم عملیات ML (MLOps) را اتخاذ میکنند که شامل یکپارچگی مداوم، تحویل مستمر، استقرار مستمر و آموزش مداوم است. محور این پارادایم یک دیدگاه خط لوله محور برای توسعه و راه اندازی سیستم های ML با قدرت صنعتی است.
در این پست، با مروری بر MLO ها و مزایای آن شروع می کنیم، راه حلی برای ساده سازی پیاده سازی آن شرح می دهیم و جزئیاتی را در مورد معماری ارائه می دهیم. ما با یک مطالعه موردی پایان میدهیم که مزایایی را که توسط یک مشتری بزرگ AWS و PwC که این راهحل را پیادهسازی کرده است، برجسته میکند.
زمینه
خط لوله MLOps مجموعه ای از توالی مراحل مرتبط به هم است که برای ساخت، استقرار، بهره برداری و مدیریت یک یا چند مدل ML در تولید استفاده می شود. چنین خط لوله ای شامل مراحل مربوط به ساخت، آزمایش، تنظیم، و استقرار مدل های ML، از جمله اما نه محدود به آماده سازی داده ها، مهندسی ویژگی، آموزش مدل، ارزیابی، استقرار و نظارت است. به این ترتیب، یک مدل ML محصول خط لوله MLOps است و یک خط لوله یک گردش کار برای ایجاد یک یا چند مدل ML است. چنین خطوط لوله ای از فرآیندهای ساختاریافته و سیستماتیک برای ساخت، کالیبراسیون، ارزیابی و اجرای مدل های ML پشتیبانی می کنند و خود مدل ها پیش بینی ها و استنباط ها را تولید می کنند. با خودکارسازی توسعه و عملیاتی کردن مراحل خطوط لوله، سازمانها میتوانند زمان تحویل مدلها را کاهش دهند، ثبات مدلها را در تولید افزایش دهند و همکاری بین تیمهایی از دانشمندان داده، مهندسان نرمافزار و مدیران فناوری اطلاعات را بهبود بخشند.
بررسی اجمالی راه حل
AWS مجموعه ای جامع از خدمات بومی ابری را برای توسعه و اجرای خطوط لوله MLOps به شیوه ای مقیاس پذیر و پایدار ارائه می دهد. آمازون SageMaker شامل مجموعه ای جامع از قابلیت ها به عنوان یک سرویس MLOps کاملاً مدیریت شده است تا توسعه دهندگان را قادر می سازد تا مدل های ML را در ابر ایجاد، آموزش، استقرار، اجرا و مدیریت کنند. SageMaker کل گردش کار MLOps را پوشش میدهد، از جمعآوری گرفته تا آمادهسازی و آموزش دادهها با الگوریتمهای داخلی با کارایی بالا و آزمایشهای پیچیده خودکار ML (AutoML) به طوری که شرکتها بتوانند مدلهای خاصی را انتخاب کنند که با اولویتها و ترجیحات تجاریشان مطابقت داشته باشد. SageMaker سازمان ها را قادر می سازد تا اکثر چرخه عمر MLOs خود را بطور مشترک خودکار کنند تا بتوانند بدون به خطر انداختن تاخیر پروژه یا افزایش هزینه ها بر روی نتایج تجاری تمرکز کنند. به این ترتیب، SageMaker به کسبوکارها اجازه میدهد تا بدون نگرانی در مورد زیرساختها، توسعه و نگهداری مرتبط با تقویت خدمات پیشبینی قدرت صنعتی، روی نتایج تمرکز کنند.
SageMaker شامل Amazon SageMaker JumpStart، که الگوهای راه حل خارج از جعبه را برای سازمان هایی که به دنبال تسریع سفر MLOps خود هستند ارائه می دهد. سازمانها میتوانند با مدلهای از پیش آموزشدیده و منبع باز شروع کنند که میتوانند برای رفع نیازهای خاص آنها از طریق بازآموزی و انتقال یادگیری، به خوبی تنظیم شوند. علاوه بر این، JumpStart الگوهای راهحلی را ارائه میکند که برای مقابله با موارد استفاده رایج طراحی شدهاند، و همچنین نمونههایی از نوتبوکهای Jupyter با کد شروع از پیش نوشته شده را ارائه میدهد. با مراجعه به صفحه فرود JumpStart در داخل می توان به این منابع دسترسی داشت Amazon SageMaker Studio.
PwC یک شتاب دهنده MLOps از پیش بسته بندی شده ساخته است که زمان ارزش گذاری را افزایش می دهد و بازگشت سرمایه را برای سازمان هایی که از SageMaker استفاده می کنند افزایش می دهد. این شتاب دهنده MLOps قابلیت های بومی JumpStart را با ادغام خدمات مکمل AWS افزایش می دهد. شتابدهنده MLOps PwC با مجموعهای از مصنوعات فنی، از جمله زیرساختها بهعنوان اسکریپتهای کد (IaC)، جریانهای کاری پردازش داده، کد یکپارچهسازی سرویس، و الگوهای پیکربندی خط لوله، فرآیند توسعه و اجرای سیستمهای پیشبینی کلاس تولید را ساده میکند.
نمای کلی معماری
گنجاندن خدمات بدون سرور بومی ابری از AWS در معماری شتابدهنده PwC MLOps در اولویت قرار دارد. نقطه ورود به این شتاب دهنده، هر ابزار همکاری است، مانند Slack، که یک دانشمند داده یا مهندس داده می تواند از آن برای درخواست یک محیط AWS برای MLOps استفاده کند. چنین درخواستی تجزیه می شود و سپس به طور کامل یا نیمه خودکار با استفاده از ویژگی های گردش کار در آن ابزار همکاری تأیید می شود. پس از تایید درخواست، از جزئیات آن برای پارامترسازی الگوهای IaC استفاده می شود. کد منبع این الگوهای IaC در مدیریت می شود AWS CodeCommit. این الگوهای IaC پارامتر شده به ارسال می شوند AWS CloudFormation برای مدل سازی، تهیه و مدیریت پشته های AWS و منابع شخص ثالث.
نمودار زیر روند کار را نشان می دهد.
پس از اینکه AWS CloudFormation محیطی را برای MLOps در AWS فراهم کرد، محیط برای استفاده توسط دانشمندان داده، مهندسان داده و همکاران آنها آماده است. شتاب دهنده PWC شامل نقش های از پیش تعریف شده است هویت AWS و مدیریت دسترسی (IAM) که با فعالیت ها و وظایف MLOps مرتبط هستند. این نقشها خدمات و منابع موجود در محیط MLOps را مشخص میکنند که کاربران مختلف بر اساس مشخصات شغلی آنها میتوانند به آنها دسترسی داشته باشند. پس از دسترسی به محیط MLOps، کاربران می توانند برای انجام وظایف خود به هر یک از مدالیته های موجود در SageMaker دسترسی داشته باشند. این موارد شامل نمونه های نوت بوک SageMaker، Amazon SageMaker Autopilot آزمایشات و استودیو. شما می توانید از تمام ویژگی ها و عملکردهای SageMaker از جمله آموزش مدل، تنظیم، ارزیابی، استقرار و نظارت بهره مند شوید.
شتاب دهنده همچنین شامل اتصالات با Amazon DataZone برای به اشتراک گذاری، جستجو و کشف داده ها در مقیاس در سراسر مرزهای سازمانی برای تولید و غنی سازی مدل ها. به طور مشابه، دادههای مربوط به آموزش، آزمایش، اعتبارسنجی، و تشخیص انحراف مدل میتوانند خدمات مختلفی از جمله آمازون Redshift, سرویس پایگاه داده رابطه آمازون (آمازون RDS)، سیستم فایل الاستیک آمازون (Amazon EFS) و سرویس ذخیره سازی ساده آمازون (Amazon S3). سیستمهای پیشبینی را میتوان به روشهای مختلفی استقرار داد، از جمله به عنوان نقاط پایانی SageMaker به طور مستقیم، نقاط پایانی SageMaker که در AWS لامبدا توابع، و نقاط پایانی SageMaker که از طریق کد سفارشی فراخوانی می شوند سرویس الاستیک کوبرنتز آمازون (Amazon EKS) یا ابر محاسبه الاستیک آمازون (آمازون EC2). CloudWatch آمازون برای نظارت بر محیط MLOps در AWS به روشی جامع برای مشاهده آلارم ها، گزارش ها و داده های رویدادها از سراسر پشته کامل (برنامه ها، زیرساخت، شبکه و خدمات) استفاده می شود.
نمودار زیر این معماری را نشان می دهد.
بررسی موردی
در این بخش، یک مطالعه موردی گویا از یک شرکت بیمه بزرگ در کانادا را به اشتراک می گذاریم. این برنامه بر تأثیر تحولآفرین اجرای شتابدهنده MLOps PwC کانادا و قالبهای JumpStart تمرکز دارد.
این مشتری با PwC کانادا و AWS همکاری کرد تا چالشهای مربوط به توسعه مدل ناکارآمد و فرآیندهای استقرار ناکارآمد، عدم هماهنگی و همکاری، و مشکل در مقیاسبندی مدلهای ML را برطرف کند. اجرای این MLOps Accelerator در هماهنگی با قالب های JumpStart به موارد زیر دست یافت:
- اتوماسیون انتها به انتها - اتوماسیون مدت زمان پیش پردازش داده ها، آموزش مدل، تنظیم هایپرپارامتر و استقرار و نظارت مدل را تقریباً به نصف کاهش داد.
- همکاری و استانداردسازی - ابزارها و چارچوب های استاندارد برای ارتقای ثبات در سراسر سازمان، نرخ نوآوری مدل را تقریباً دو برابر کرد
- حاکمیت و انطباق مدل - آنها یک چارچوب حاکمیت مدل را اجرا کردند تا اطمینان حاصل شود که همه مدلهای ML الزامات قانونی را برآورده میکنند و از دستورالعملهای اخلاقی شرکت پیروی میکنند که هزینههای مدیریت ریسک را تا 40% کاهش میدهد.
- زیرساخت ابری مقیاس پذیر - آنها در زیرساخت های مقیاس پذیر سرمایه گذاری کردند تا به طور موثر حجم داده های عظیم را مدیریت کنند و چندین مدل ML را به طور همزمان اجرا کنند و هزینه های زیرساخت و پلت فرم را تا 50٪ کاهش دهند.
- استقرار سریع – محلول از پیش بسته بندی شده زمان تولید را تا 70 درصد کاهش می دهد.
با ارائه بهترین شیوههای MLOps از طریق بستههای استقرار سریع، مشتری ما میتوانست پیادهسازی MLOps خود را از خطر خارج کند و پتانسیل کامل ML را برای طیف وسیعی از عملکردهای تجاری، مانند پیشبینی ریسک و قیمتگذاری دارایی، باز کند. به طور کلی، هم افزایی بین شتاب دهنده PwC MLOps و JumpStart به مشتری ما امکان داد تا فعالیت های علم داده و مهندسی داده خود را ساده، مقیاس، ایمن و حفظ کند.
لازم به ذکر است که راه حل PwC و AWS مختص صنعت نیست و در بین صنایع و بخش ها مرتبط است.
نتیجه
SageMaker و شتاب دهنده های آن به سازمان ها اجازه می دهند تا بهره وری برنامه ML خود را افزایش دهند. مزایای زیادی وجود دارد که شامل موارد زیر می شود اما به آنها محدود نمی شود:
- به طور مشترک موارد استفاده IaC، MLOps و AutoML را ایجاد کنید تا مزایای کسب و کار از استانداردسازی را درک کنید
- نمونهسازی آزمایشی کارآمد را، با و بدون کد، فعال کنید تا هوش مصنوعی را از توسعه تا استقرار با IaC، MLOps و AutoML توربوشارژ کند.
- کارهای خسته کننده و وقت گیر مانند مهندسی ویژگی ها و تنظیم هایپرپارامتر را با AutoML به صورت خودکار انجام دهید.
- از یک الگوی نظارت مستمر مدل برای همسو کردن ریسک استفاده از مدل ML با ریسک ریسک سازمانی استفاده کنید.
لطفا با نویسندگان این پست تماس بگیرید AWS Advisory Canada، یا PwC کانادا برای کسب اطلاعات بیشتر در مورد Jumpstart و شتاب دهنده MLOps PwC.
درباره نویسنده
ویک یک شریک در زمینه ابر و داده در PwC کانادا است. وی مدرک دکترای خود را در رشته علوم اطلاعات از دانشگاه تورنتو دریافت کرد. او متقاعد شده است که یک ارتباط تله پاتیک بین شبکه عصبی بیولوژیکی او و شبکه های عصبی مصنوعی که در SageMaker آموزش می دهد وجود دارد. با او ارتباط برقرار کنید لینک.
کایل در PwC کانادا یک شریک در Cloud & Data است، همراه با تیم کرک خود از کیمیاگران فناوری، آنها راهحلهای افسونکننده MLOP را میبافند که مشتریان را با ارزش تجاری شتابدهی مسحور میکند. کایل با قدرت هوش مصنوعی و طغیان جادوگری، چالش های پیچیده را به افسانه های دیجیتال تبدیل می کند و غیرممکن ها را ممکن می کند. با او ارتباط برقرار کنید لینک.
فرانسوا مشاور اصلی مشاور AWS Professional Services Canada و مدیر اجرایی کانادایی برای مشاوره داده و نوآوری است. او مشتریان را راهنمایی میکند تا سفر کلی ابری و برنامههای دادهشان را با تمرکز بر چشمانداز، استراتژی، محرکهای کسبوکار، حاکمیت، مدلهای عملیاتی هدف و نقشههای راه، ایجاد و پیادهسازی کنند. با او ارتباط برقرار کنید لینک.
- محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
- PlatoAiStream. Web3 Data Intelligence دانش تقویت شده دسترسی به اینجا.
- ضرب کردن آینده با آدرین اشلی. دسترسی به اینجا.
- خرید و فروش سهام در شرکت های PRE-IPO با PREIPO®. دسترسی به اینجا.
- منبع: https://aws.amazon.com/blogs/machine-learning/accelerate-machine-learning-time-to-value-with-amazon-sagemaker-jumpstart-and-pwcs-mlops-accelerator/
- : دارد
- :است
- :نه
- $UP
- 100
- 7
- a
- قادر
- درباره ما
- شتاب دادن
- تسریع شد
- شتاب دهنده
- شتاب دهنده ها
- دسترسی
- قابل دسترسی است
- دسترسی
- دست
- در میان
- فعالیت ها
- Ad
- علاوه بر این
- نشانی
- مدیران
- اتخاذ
- اتخاذ
- مشاوره
- پس از
- AI
- الگوریتم
- تراز
- معرفی
- اجازه دادن
- اجازه می دهد تا
- در امتداد
- همچنین
- آمازون
- آمازون EC2
- آمازون RDS
- آمازون SageMaker
- Amazon SageMaker JumpStart
- آمازون خدمات وب
- مقدار
- an
- و
- هر
- برنامه های کاربردی
- روش
- تایید کرد
- معماری
- هستند
- مسلح
- مصنوعی
- هوش مصنوعی
- هوش مصنوعی (AI)
- AS
- ارزیابی
- دارایی
- مرتبط است
- At
- نویسندگان
- خودکار بودن
- خودکار
- اتوماسیون
- اتوماسیون
- خودکار کردن
- AWS
- AWS CloudFormation
- خدمات حرفه ای AWS
- مستقر
- BE
- شدن
- تبدیل شدن به
- بودن
- سود
- مزایای
- بهترین
- بهترین شیوه
- بهتر
- میان
- بلاگ
- مرز
- ساختن
- بنا
- ساخته
- ساخته شده در
- کسب و کار
- عملکرد کسب و کار
- تحول تجاری
- کسب و کار
- اما
- by
- محاسبات
- CAN
- Canada
- کانادایی
- قابلیت های
- مورد
- بررسی موردی
- موارد
- مرکزی
- مدیر عامل شرکت
- مدیران اجرائی
- به چالش
- چالش ها
- تغییر دادن
- تبادل
- را انتخاب کنید
- مشتری
- مشتریان
- ابر
- زیرساخت های ابری
- رمز
- همکاری
- جمع آوری
- COM
- می آید
- مشترک
- شرکت
- شرکت
- شرکت
- مکمل
- کامل
- پیچیده
- جامع
- شامل
- محاسبات
- محاسبه
- کنسرت
- پیکر بندی
- اتصال
- ارتباط
- اتصالات
- ملاحظات
- مشاور
- تماس
- مداوم
- هزینه
- را پوشش می دهد
- ترک
- ایجاد
- ایجاد
- بحرانی
- سفارشی
- مشتری
- مشتریان
- داده ها
- آماده سازی داده ها
- پردازش داده ها
- علم اطلاعات
- دانشمند داده
- پایگاه داده
- تاخیر
- تحویل
- تحویل
- وابسته
- گسترش
- مستقر
- استقرار
- گسترش
- توصیف
- طراحی
- جزئیات
- توسعه دهندگان
- در حال توسعه
- پروژه
- مشکل
- دیجیتال
- مستقیما
- کشف
- دامنه
- مضاعف
- درایور
- دو
- در اوایل
- به دست آورده
- به طور موثر
- موثر
- قادر ساختن
- فعال
- را قادر می سازد
- را در بر می گیرد
- مهندس
- مهندسی
- مورد تأیید
- بالا بردن
- افزایش می یابد
- غنی سازی
- اطمینان حاصل شود
- سرمایه گذاری
- تمام
- ورود
- محیط
- ایجاد
- اخلاقی
- ارزیابی
- حوادث
- تا کنون
- مثال
- آزمایش
- ویژگی
- امکانات
- پرونده
- پایان
- نام خانوادگی
- مراحل اول
- مناسب
- تمرکز
- تمرکز
- تمرکز
- پیروی
- برای
- چارچوب
- چارچوب
- از جانب
- کامل
- کاملا
- توابع
- بیشتر
- تولید می کنند
- حکومت
- بزرگ
- بیشتر
- مهمان
- دستورالعمل ها
- راهنما
- نصف
- he
- کمک می کند
- عملکرد بالا
- مشخص کردن
- او را
- خود را
- تاریخی
- اما
- HTML
- HTTP
- HTTPS
- تنظیم فراپارامتر
- هویت
- نشان می دهد
- تأثیر
- انجام
- پیاده سازی
- اجرا
- اجرای
- غیر ممکن
- بهبود
- in
- شامل
- شامل
- از جمله
- گنجاندن
- افزایش
- افزایش
- به طور فزاینده
- مستقل
- لوازم
- صنعت
- ناکارآمد
- اطلاعات
- اطلاعات
- شالوده
- ابداع
- ورودی
- ورودی
- بیمه
- انتگرال
- ادغام
- ادغام
- اطلاعات
- به
- ذاتا
- سرمایه گذاری
- سرمایه گذاری
- سرمایه گذاری
- استناد کرد
- گرفتار
- IT
- ITS
- کار
- سفر
- JPG
- عدم
- فرود
- بزرگ
- رهبری
- یاد گرفتن
- آموخته
- یادگیری
- wifecycwe
- محدود شده
- لینک
- دستگاه
- فراگیری ماشین
- حفظ
- نگهداری
- اکثریت
- ساخت
- مدیریت
- اداره می شود
- مدیریت
- مدیریت
- روش
- کتابچه راهنمای
- بسیاری
- عظیم
- ریاضی
- بلوغ
- معنی دار
- دیدار
- ML
- MLO ها
- مدل
- مدل
- مانیتور
- نظارت بر
- بیش
- چندگانه
- بومی
- طبیعت
- هدایت
- تقریبا
- نیازهای
- شبکه
- شبکه
- شبکه های عصبی
- شبکه های عصبی
- بعد
- به ویژه
- دفتر یادداشت
- اشاره کرد
- مشاهده کردن
- of
- پیشنهادات
- on
- ONE
- منبع باز
- کار
- عملیاتی
- عملیات
- or
- کدام سازمان ها
- سازمانی
- سازمان های
- ما
- روی
- به طور کلی
- مروری
- بسته
- با ما
- نمونه
- بخش
- شریک
- مشارکت کرد
- الگوهای
- انجام
- خط لوله
- سکو
- افلاطون
- هوش داده افلاطون
- PlatoData
- نقطه
- مقام
- ممکن
- پست
- پتانسیل
- قدرت
- صفحه اصلی
- برق
- تمرین
- شیوه های
- پیش گویی
- پیش بینی
- تنظیمات
- آماده
- قیمت گذاری
- اصلی
- اولویت بندی شده
- روند
- فرآیندهای
- در حال پردازش
- محصول
- تولید
- بهره وری
- حرفه ای
- پروفایل
- برنامه
- برنامه ها
- پروژه
- ترویج
- نمونه سازی
- ارائه
- فراهم می کند
- PWC
- محدوده
- سریع
- نرخ
- نسبتا
- اماده
- تحقق بخشیدن
- معقول
- اخیر
- كاهش دادن
- کاهش
- کاهش
- تنظیم کننده
- مربوط
- روابط
- نسبتا
- مربوط
- درخواست
- مورد نیاز
- انعطاف پذیر
- منابع
- نتایج
- برگشت
- خطر
- مدیریت ریسک
- خطرناک است
- نقشه های راه
- نقش
- در حال اجرا
- با خیال راحت
- حکیم ساز
- مقیاس پذیر
- مقیاس
- مقیاس گذاری
- علم
- دانشمند
- دانشمندان
- اسکریپت
- جستجو
- بخش
- بخش ها
- امن
- به دنبال
- بدون سرور
- سرویس
- خدمات
- تنظیم
- اشتراک گذاری
- اشتراک
- باید
- به طور قابل توجهی
- به طور مشابه
- ساده
- ساده کردن
- به سادگی
- به طور همزمان
- شل
- So
- نرم افزار
- راه حل
- مزایا
- مصنوعی
- منبع
- کد منبع
- خاص
- سرعت
- ثبات
- پشته
- پشته
- مراحل
- شروع
- راه افتادن
- مراحل
- ذخیره سازی
- استراتژیک
- استراتژی ها
- استراتژی
- ساده کردن
- ساخت یافته
- استودیو
- مهاجرت تحصیلی
- ارسال
- چنین
- دنباله
- پشتیبانی
- قابل تحمل
- همکاری
- سیستم های
- برخورد با
- گرفتن
- هدف
- وظایف
- تیم
- تیم ها
- فن آوری
- فنی
- پیشرفته
- قالب
- قوانین و مقررات
- تست
- نسبت به
- که
- La
- منبع
- جهان
- شان
- آنها
- خودشان
- سپس
- آنجا.
- اینها
- آنها
- تفکر
- شخص ثالث
- این
- از طریق
- زمان
- زمان بر
- به
- ابزار
- ابزار
- تورنتو
- قطار
- آموزش
- قطار
- انتقال
- دگرگونی
- دگرگونی
- تبدیل
- به طور معمول
- دانشگاه
- باز
- پرده برداری کرد
- استفاده
- استفاده کنید
- استفاده
- کاربران
- با استفاده از
- ارزش
- تنوع
- مختلف
- همه کاره
- دید
- جلد
- بود
- مسیر..
- راه
- we
- بافت
- وب
- خدمات وب
- خوب
- که
- WHO
- اراده
- با
- در داخل
- بدون
- گردش کار
- جهان
- پیچیده
- سال
- شما
- زفیرنت