پیشبینی سریهای زمانی به فرآیند پیشبینی مقادیر آینده دادههای سری زمانی (دادههایی که در فواصل زمانی منظم در طول زمان جمعآوری میشوند) اشاره دارد. روشهای ساده برای پیشبینی سریهای زمانی از مقادیر تاریخی همان متغیر استفاده میکنند که مقادیر آینده آن نیاز به پیشبینی دارد، در حالی که روشهای پیچیدهتر مبتنی بر یادگیری ماشین (ML) از اطلاعات اضافی مانند دادههای سری زمانی متغیرهای مرتبط استفاده میکنند.
پیش بینی آمازون یک سرویس پیشبینی سری زمانی مبتنی بر ML است که شامل الگوریتمهایی است که بر اساس بیش از 20 سال تجربه پیشبینی استفاده شده توسط Amazon.com، همان فناوری مورد استفاده در آمازون را به عنوان یک سرویس کاملاً مدیریت شده برای توسعه دهندگان آورده و نیاز به مدیریت منابع را از بین می برد. Forecast از ML استفاده می کند تا نه تنها بهترین الگوریتم برای هر آیتم را بیاموزد، بلکه بهترین مجموعه الگوریتم ها را برای هر آیتم نیز یاد بگیرد و به طور خودکار بهترین مدل را برای داده های شما ایجاد کند.
این پست نحوه استقرار بارهای کاری پیشبینی مکرر (بارهای کاری پیشبینی سری زمانی) بدون استفاده از کد را شرح میدهد. AWS CloudFormation, توابع مرحله AWSو مدیر سیستم های AWS. روش ارائه شده در اینجا به شما کمک می کند خط لوله ای بسازید که به شما امکان می دهد از همان گردش کار از اولین روز آزمایش پیش بینی سری های زمانی خود از طریق استقرار مدل در تولید استفاده کنید.
پیش بینی سری های زمانی با استفاده از Forecast
گردش کار برای Forecast شامل مفاهیم مشترک زیر است:
- وارد کردن مجموعه داده ها - در Forecast، الف گروه داده مجموعهای از مجموعه دادهها، طرحواره و نتایج پیشبینی است که با هم هستند. هر گروه داده می تواند حداکثر سه مجموعه داده، یکی از هر کدام داشته باشد مجموعه داده نوع: سری زمانی هدف (TTS)، سری زمانی مرتبط (RTS) و فراداده مورد. مجموعه داده مجموعه ای از فایل ها است که حاوی داده هایی است که برای یک کار پیش بینی مرتبط است. یک مجموعه داده باید با طرح تعریف شده در Forecast مطابقت داشته باشد. برای جزئیات بیشتر مراجعه کنید وارد کردن مجموعه داده ها.
- پیش بینی کننده های آموزشی - A پیشگو یک مدل آموزش دیده با پیش بینی است که برای انجام پیش بینی ها بر اساس داده های سری زمانی استفاده می شود. در طول آموزش، Forecast معیارهای دقت را محاسبه میکند که برای ارزیابی پیشبینیکننده و تصمیمگیری در مورد استفاده از پیشبینیکننده برای ایجاد پیشبینی استفاده میکنید. برای اطلاعات بیشتر مراجعه کنید پیش بینی کننده های آموزشی.
- ایجاد پیش بینی - سپس می توانید از مدل آموزش دیده برای ایجاد پیش بینی برای افق زمانی آینده استفاده کنید که به نام افق پیش بینی. Forecast پیش بینی هایی را در چندک های مشخص شده مختلف ارائه می دهد. به عنوان مثال، پیشبینی در 0.90/90 مقداری را تخمین میزند که 0.1 درصد مواقع کمتر از مقدار مشاهدهشده است. بهطور پیشفرض، Forecast از مقادیر زیر برای انواع پیشبینیکننده استفاده میکند: 10 (P0.5)، 50 (P0.9)، و 90 (PXNUMX). پیشبینیها در چندکهای مختلف معمولاً برای ارائه یک بازه پیشبینی (یک کران بالا و پایین برای پیشبینیها) برای محاسبه عدم قطعیت پیشبینی استفاده میشوند.
شما می توانید این گردش کار را در Forecast یا از قسمت پیاده سازی کنید کنسول مدیریت AWSاز رابط خط فرمان AWS (AWS CLI)، از طریق فراخوانی API با استفاده از نوت بوک پایتون، یا از طریق راه حل های اتوماسیون. را کنسول و AWS CLI روشها برای آزمایش سریع برای بررسی امکانسنجی پیشبینی سریهای زمانی با استفاده از دادههای شما مناسبتر هستند. روش نوت بوک پایتون برای دانشمندان داده که قبلاً با نوت بوک ها و کدنویسی Jupyter آشنا هستند عالی است و حداکثر کنترل و تنظیم را فراهم می کند. با این حال، عملیاتی کردن روش مبتنی بر نوت بوک دشوار است. رویکرد اتوماسیون ما آزمایش سریع را تسهیل میکند، وظایف تکراری را حذف میکند و امکان انتقال آسانتر بین محیطهای مختلف (توسعه، مرحلهبندی، تولید) را فراهم میکند.
در این پست، ما یک رویکرد اتوماسیون برای استفاده از Forecast را توضیح میدهیم که به شما امکان میدهد از دادههای خود استفاده کنید و گردش کار واحدی را فراهم میکند که میتوانید به طور یکپارچه در طول چرخه عمر توسعه راهحل پیشبینی خود، از اولین روزهای آزمایش تا زمان استقرار، از آن استفاده کنید. راه حل در محیط تولید شما
بررسی اجمالی راه حل
در بخشهای بعدی، یک گردش کار کامل را توصیف میکنیم که بهعنوان الگویی برای استقرار خودکار مدلهای پیشبینی سریهای زمانی با استفاده از Forecast عمل میکند. این گردش کار نقاط داده پیش بینی شده را از یک مجموعه داده ورودی منبع باز ایجاد می کند. با این حال، می توانید از همان گردش کار برای داده های خود استفاده کنید، تا زمانی که بتوانید داده های خود را مطابق با مراحل ذکر شده در این پست قالب بندی کنید. پس از آپلود دادهها، مراحل ایجاد گروههای داده پیشبینی، وارد کردن دادهها، آموزش مدلهای ML و تولید نقاط داده پیشبینیشده در افقهای زمانی نامعلوم آینده را از دادههای خام به شما آموزش میدهیم. همه اینها بدون نیاز به نوشتن یا کامپایل کد امکان پذیر است.
نمودار زیر روند کار پیش بینی را نشان می دهد.
راه حل با استفاده از دو الگوی CloudFormation مستقر شده است: الگوی وابستگی ها و الگوی بار کاری. CloudFormation شما را قادر می سازد تا با استفاده از الگوهایی که منابعی را که قرار است مستقر می شوند، استقرار زیرساخت AWS را به طور پیش بینی شده و مکرر انجام دهید. یک قالب مستقر شده به عنوان a نامیده می شود پشته. ما در دو قالب ارائه شده زیرساخت را در راه حل برای شما تعریف کرده ایم. الگوی وابستگی ها منابع پیش نیازی را که توسط قالب حجم کار استفاده می شود، تعریف می کند سرویس ذخیره سازی ساده آمازون (Amazon S3) سطل برای نگهداری اشیا و هویت AWS و مدیریت دسترسی مجوزهای (IAM) برای اقدامات AWS API. منابع تعریف شده در قالب وابستگی ها ممکن است توسط چندین الگوی حجم کاری به اشتراک گذاشته شوند. الگوی بار کاری منابعی را که برای دریافت داده ها، آموزش یک پیش بینی کننده و تولید پیش بینی استفاده می شود، تعریف می کند.
قالب CloudFormation وابستگی ها را مستقر کنید
ابتدا، اجازه دهید قالب وابستگی ها را برای ایجاد منابع پیش نیاز خود مستقر کنیم. الگوی وابستگی ها یک سطل اختیاری S3 را مستقر می کند، AWS لامبدا توابع و نقش های IAM. آمازون S3 یک سرویس ذخیره سازی اشیا کم هزینه، بسیار در دسترس، انعطاف پذیر است. ما از یک سطل S3 در این راه حل برای ذخیره داده های منبع و راه اندازی گردش کار استفاده می کنیم که در نتیجه یک پیش بینی ایجاد می شود. Lambda یک سرویس محاسباتی بدون سرور و رویداد محور است که به شما امکان می دهد کد را بدون تهیه یا مدیریت سرورها اجرا کنید. الگوی وابستگی ها شامل توابعی برای انجام کارهایی مانند ایجاد یک گروه داده در Forecast و پاکسازی اشیاء در سطل S3 قبل از حذف سطل است. نقشهای IAM مجوزها را در AWS برای کاربران و سرویسها تعریف میکنند. الگوی وابستگیها نقشی را برای استفاده توسط Lambda و دیگری برای Step Functions، یک سرویس مدیریت گردش کار که وظایف جذب و پردازش دادهها و همچنین آموزش پیشبینیکننده و استنتاج با استفاده از Forecast را هماهنگ میکند، به کار میگیرد.
مراحل زیر را برای استقرار الگوی وابستگی ها انجام دهید:
- در کنسول مورد نظر را انتخاب کنید منطقه پشتیبانی شده توسط Forecast برای استقرار راه حل
- در کنسول AWS CloudFormation، را انتخاب کنید پشته در صفحه ناوبری
- را انتخاب کنید پشته ایجاد کنید و انتخاب کنید با منابع جدید (استاندارد).
- برای منبع قالب، انتخاب کنید URL آمازون S3.
- آدرس قالب را وارد کنید:
https://amazon-forecast-samples.s3.us-west-2.amazonaws.com/ml_ops/forecast-mlops-dependency.yaml
. - را انتخاب کنید بعدی.
- برای نام پشته، وارد
forecast-mlops-dependency
. - تحت پارامترهای، انتخاب کنید از یک سطل S3 موجود استفاده کنید یا یک سطل جدید ایجاد کنید، سپس نام سطل را وارد کنید.
- را انتخاب کنید بعدی.
- را انتخاب کنید بعدی برای پذیرش گزینه های پیش فرض پشته.
- برای تأیید اینکه پشته منابع IAM را ایجاد می کند، کادر را انتخاب کنید، سپس انتخاب کنید پشته ایجاد کنید برای استقرار الگو
شما باید استقرار قالب را به عنوان مشاهده کنید forecast-mlops-dependency
پشته. وقتی وضعیت به CREATE_COMPLETE
، می توانید به مرحله بعدی بروید.
الگوی بار کاری CloudFormation را مستقر کنید
در مرحله بعد، بیایید الگوی بار کاری را برای ایجاد منابع پیش نیاز خود مستقر کنیم. الگوی حجم کار ماشین های حالت توابع مرحله را برای مدیریت گردش کار به کار می گیرد، AWS Systems Manager Parameter Store پارامترها برای ذخیره مقادیر پارامتر از AWS CloudFormation و اطلاع رسانی به گردش کار، سرویس اطلاع رسانی ساده آمازون موضوع (Amazon SNS) برای اعلانهای گردش کار، و نقش IAM برای مجوزهای سرویس گردش کار.
راه حل پنج ماشین حالت ایجاد می کند:
- CreateDatasetGroupStateMachine - یک گروه مجموعه داده Forecast برای وارد کردن داده ها ایجاد می کند.
- CreateImportDatasetStateMachine - داده های منبع را از آمازون S3 به یک گروه داده برای آموزش وارد می کند.
- CreateForecastStateMachine - وظایف مورد نیاز برای آموزش یک پیش بینی و ایجاد یک پیش بینی را مدیریت می کند.
- AthenaConnectorStateMachine - شما را قادر می سازد تا پرس و جوهای SQL را با آمازون آتنا اتصال دهنده به داده های زمین در آمازون S3. این یک فرآیند اختیاری برای به دست آوردن داده های تاریخی در قالب مورد نیاز برای Forecast با استفاده از Athena به جای قرار دادن فایل ها به صورت دستی در Amazon S3 است.
- StepFunctionWorkflowStateMachine - هماهنگی ها با چهار ماشین حالت دیگر تماس می گیرد و گردش کار کلی را مدیریت می کند.
Parameter Store، یکی از قابلیت های Systems Manager، ذخیره سازی ایمن، سلسله مراتبی و بازیابی برنامه ای مدیریت داده های پیکربندی و مدیریت اسرار را فراهم می کند. Parameter Store برای ذخیره پارامترهای تنظیم شده در پشته بار کاری و همچنین سایر پارامترهای مورد استفاده توسط گردش کار استفاده می شود.
مراحل زیر را برای استقرار قالب بار کاری انجام دهید:
- در کنسول AWS CloudFormation، را انتخاب کنید پشته در صفحه ناوبری
- را انتخاب کنید پشته ایجاد کنید و انتخاب کنید با منابع جدید (استاندارد).
- برای منبع قالب، انتخاب کنید URL آمازون S3.
- آدرس قالب را وارد کنید:
https://amazon-forecast-samples.s3.us-west-2.amazonaws.com/ml_ops/forecast-mlops-solution-guidance.yaml
. - را انتخاب کنید بعدی.
- برای نام پشته، یک نام وارد کنید.
- مقادیر پیش فرض را بپذیرید یا پارامترها را تغییر دهید.
مطمئن شوید که نام سطل S3 را از پشته وابستگی برای وارد کنید سطل S3 و یک آدرس ایمیل معتبر برای SNSendpoint حتی اگر مقادیر پارامتر پیش فرض را بپذیرید.
جدول زیر هر پارامتر را توضیح می دهد.
پارامتر | توضیحات: | اطلاعات بیشتر |
DatasetGroupFrequencyRTS |
فراوانی جمع آوری داده ها برای مجموعه داده RTS. | . |
DatasetGroupFrequencyTTS |
فراوانی جمع آوری داده ها برای مجموعه داده TTS. | . |
DatasetGroupName |
یک نام کوتاه برای گروه داده، یک حجم کاری مستقل. | CreateDatasetGroup |
DatasetIncludeItem |
مشخص کنید که آیا میخواهید فراداده مورد را برای این مورد استفاده ارائه کنید. | . |
DatasetIncludeRTS |
مشخص کنید که آیا می خواهید یک سری زمانی مرتبط برای این مورد استفاده ارائه دهید. | . |
ForecastForecastTypes |
هنگامی که یک کار CreateForecast اجرا می شود، این نشان می دهد که برای کدام چندک ها پیش بینی تولید شود. می توانید حداکثر پنج مقدار را در این آرایه انتخاب کنید. این مقدار را برای گنجاندن مقادیر بر اساس نیاز ویرایش کنید. | ایجاد پیش بینی |
PredictorAttributeConfigs |
برای متغیر هدف در TTS و هر فیلد عددی در مجموعه داده های RTS، برای هر بازه زمانی برای هر آیتم باید یک رکورد ایجاد شود. این پیکربندی به تعیین نحوه پر کردن رکوردهای از دست رفته کمک می کند: با 0، NaN یا موارد دیگر. توصیه میکنیم شکافهای TTS را به جای 0 با NaN ثبت کنید. با 0، مدل ممکن است به اشتباه یاد بگیرد که پیشبینیها را به سمت 0 سوگیری کند. NaN نحوه ارائه راهنمایی است. در مورد هر سوالی در این مورد با معمار راه حل های AWS خود مشورت کنید. | CreateAutoPredictor |
PredictorExplainPredictor |
مقادیر معتبر TRUE یا FALSE هستند. اینها تعیین می کنند که آیا توضیح پذیری برای پیش بینی کننده شما فعال است یا خیر. این می تواند به شما کمک کند تا درک کنید که چگونه مقادیر موجود در RTS و فراداده مورد بر مدل تأثیر می گذارد. | قابل توضیح |
PredictorForecastDimensions |
ممکن است بخواهید در یک دانه ریزتر از آیتم پیش بینی کنید. در اینجا می توانید ابعادی مانند موقعیت مکانی، مرکز هزینه یا هر آنچه که نیاز دارید را مشخص کنید. این باید با ابعاد موجود در RTS و TTS شما مطابقت داشته باشد. توجه داشته باشید که اگر بعد ندارید، پارامتر صحیح به خودی خود و با حروف کوچک null است. null یک کلمه رزرو شده است که به سیستم اجازه می دهد بداند هیچ پارامتری برای بعد وجود ندارد. | CreateAutoPredictor |
PredictorForecastFrequency |
مقیاس زمانی که در آن مدل و پیشبینیهای شما تولید میشود، مانند روزانه، هفتگی یا ماهانه را مشخص میکند. منوی کشویی به شما کمک می کند مقادیر مجاز را انتخاب کنید. اگر از RTS استفاده می کنید، این باید با مقیاس زمانی RTS شما مطابقت داشته باشد. | CreateAutoPredictor |
PredictorForecastHorizon |
تعداد مراحل زمانی که مدل پیش بینی می کند. افق پیش بینی نیز نامیده می شود طول پیش بینی. | CreateAutoPredictor |
PredictorForecastOptimizationMetric |
متریک دقت مورد استفاده برای بهینه سازی پیش بینی را تعریف می کند. منوی کشویی به شما کمک میکند تا ترازهای از دست دادن چندک وزنی را برای پیشبینی بیش از حد یا کمتر انتخاب کنید. RMSE مربوط به واحدها است و WAPE/MAPE با درصد خطاها مرتبط است. | CreateAutoPredictor |
PredictorForecastTypes |
هنگامی که یک CreateAutoPredictor کار اجرا می شود، این نشان می دهد که کدام چندک برای آموزش نقاط پیش بینی استفاده می شود. شما می توانید حداکثر پنج مقدار را در این آرایه انتخاب کنید که به شما امکان می دهد بین پیش بینی بیش از حد و کم پیش بینی تعادل ایجاد کنید. این مقدار را برای گنجاندن مقادیر بر اساس نیاز ویرایش کنید. |
CreateAutoPredictor |
S3Bucket |
نام سطل S3 که در آن داده های ورودی و خروجی برای این حجم کاری نوشته شده است. | . |
SNSEndpoint |
یک آدرس ایمیل معتبر برای دریافت اعلانها پس از تکمیل کارهای پیشبینی و پیشبینی. | . |
SchemaITEM |
این ترتیب فیزیکی، نام ستونها و انواع دادهها را برای مجموعه دادههای فراداده مورد شما تعریف میکند. این یک فایل اختیاری است که در مثال راه حل ارائه شده است. | CreateDataset |
SchemaRTS |
این ترتیب فیزیکی، نام ستون ها و انواع داده ها را برای مجموعه داده RTS شما تعریف می کند. ابعاد باید با TTS شما مطابقت داشته باشد. دانه زمانی این فایل بر میزان زمانی که میتوان پیشبینی کرد، کنترل میکند. این یک فایل اختیاری است که در مثال راه حل ارائه شده است. | CreateDataset |
SchemaTTS |
این ترتیب فیزیکی، نام ستون ها و انواع داده ها را برای مجموعه داده TTS شما، تنها مجموعه داده مورد نیاز، تعریف می کند. فایل باید حداقل دارای مقدار هدف، مهر زمانی و مورد باشد. | CreateDataset |
TimestampFormatRTS |
فرمت مهر زمانی ارائه شده در فایل RTS را تعریف می کند. | ایجاد شده |
TimestampFormatTTS |
فرمت مهر زمانی ارائه شده در فایل TTS را تعریف می کند. | ایجاد شده |
- را انتخاب کنید بعدی برای پذیرش گزینه های پیش فرض پشته.
- برای تأیید اینکه پشته منابع IAM را ایجاد می کند، کادر را انتخاب کنید، سپس انتخاب کنید پشته ایجاد کنید برای استقرار الگو
شما باید استقرار الگو را به عنوان نام پشته ای که قبلاً انتخاب کرده اید ببینید. وقتی وضعیت به CREATE_COMPLETE
، می توانید به مرحله آپلود داده ها بروید.
داده ها را آپلود کنید
در بخش قبل، یک نام پشته و یک سطل S3 ارائه کردید. این بخش نحوه واریز مجموعه داده های در دسترس عموم را شرح می دهد تقاضای غذا در این سطل اگر از مجموعه داده های خود استفاده می کنید، به آن مراجعه کنید مجموعه داده ها برای آماده سازی مجموعه داده خود در قالبی که استقرار انتظار می رود. مجموعه داده باید حداقل شامل سریهای زمانی هدف و در صورت تمایل، سریهای زمانی مرتبط و فراداده مورد باشد:
- TTS دادههای سری زمانی است که شامل فیلدی است که میخواهید برای آن پیشبینی ایجاد کنید. به این فیلد می گویند زمینه هدف
- RTS داده سری زمانی است که فیلد هدف را شامل نمی شود، اما شامل یک فیلد مرتبط است
- فایل داده مورد، داده سری زمانی نیست، بلکه شامل اطلاعات فراداده در مورد موارد موجود در مجموعه دادههای TTS یا RTS است.
مراحل زیر را انجام دهید:
- اگر از مجموعه داده نمونه ارائه شده استفاده می کنید، مجموعه داده را دانلود کنید تقاضای غذا به رایانه خود بروید و فایل را از حالت فشرده خارج کنید، که سه فایل در سه فهرست ایجاد می کند (
rts
,tts
,item
). - در کنسول آمازون S3، به سطلی که قبلا ایجاد کردید بروید.
- را انتخاب کنید ایجاد پوشه.
- از همان رشته ای که نام پشته بار کاری خود را برای نام پوشه استفاده می کنید.
- را انتخاب کنید بارگذاری.
- سه پوشه مجموعه داده را انتخاب کنید، سپس انتخاب کنید بارگذاری.
وقتی آپلود کامل شد، باید چیزی شبیه تصویر زیر را ببینید. برای این مثال، پوشه ما این است aiml42
.
یک گروه داده Forecast ایجاد کنید
مراحل این بخش را برای ایجاد یک گروه داده به عنوان یک رویداد یک بار برای هر بار کاری تکمیل کنید. در ادامه، باید برای اجرای دادههای واردات برنامهریزی کنید، پیشبینیکننده ایجاد کنید و مراحل پیشبینی را بهصورت مجموعهای، مطابق برنامه خود، که میتواند روزانه، هفتگی یا غیره باشد، ایجاد کنید.
- در کنسول Step Functions، ماشین حالت حاوی را پیدا کنید
Create-Dataset-Group
. - در صفحه جزئیات ماشین حالت، را انتخاب کنید شروع به اجرا کنید.
- را انتخاب کنید شروع به اجرا کنید دوباره تایید کنید
ماشین حالت حدود 1 دقیقه طول می کشد تا کار کند. وقتی کامل شد، مقدار زیر وضعیت اجرا باید از محل دویدن و پیاده روی به موفق
وارد کردن داده ها به Forecast
برای وارد کردن مجموعه داده ای که در سطل S3 خود آپلود کرده اید به گروه داده خود، مراحل این بخش را دنبال کنید:
- در کنسول Step Functions، ماشین حالت حاوی را پیدا کنید
Import-Dataset
. - در صفحه جزئیات ماشین حالت، را انتخاب کنید اجرا را شروع کنید.
- را انتخاب کنید شروع به اجرا کنید دوباره تایید کنید
مدت زمانی که ماشین حالت اجرا می کند به مجموعه داده در حال پردازش بستگی دارد.
- در حالی که این در حال اجرا است، در مرورگر خود، برگه دیگری را باز کنید و به کنسول Forecast بروید.
- در کنسول Forecast، را انتخاب کنید مشاهده گروه های داده و با نام مشخص شده به گروه مجموعه داده بروید
DataGroupName
از پشته حجم کاری شما - را انتخاب کنید مشاهده مجموعه داده ها.
باید مشاهده کنید که واردات داده در حال انجام است.
هنگامی که دستگاه دولت برای Import-Dataset
کامل است، می توانید برای ساخت مدل داده سری زمانی خود به مرحله بعدی بروید.
ایجاد پیش بینی خودکار (آموزش مدل سری زمانی)
این بخش نحوه آموزش یک پیش بینی کننده اولیه با Forecast را توضیح می دهد. میتوانید انتخاب کنید که یک پیشبینیکننده جدید (اولین پیشبینیکننده پایه شما) ایجاد کنید یا یک پیشبینیکننده را در طول هر چرخه تولید، که میتواند روزانه، هفتگی یا غیره باشد، دوباره آموزش دهید. همچنین ممکن است تصمیم بگیرید که در هر چرخه یک پیش بینی ایجاد نکنید و به نظارت پیش بینی کننده برای راهنمایی شما در زمان ایجاد آن تکیه کنید. شکل زیر روند ایجاد یک پیشبینیکننده پیشبینی آماده تولید را نشان میدهد.
برای ایجاد یک پیش بینی جدید، مراحل زیر را انجام دهید:
- در کنسول Step Functions، ماشین حالت حاوی را پیدا کنید
Create-Predictor
. - در صفحه جزئیات ماشین حالت، را انتخاب کنید اجرا را شروع کنید.
- را انتخاب کنید شروع به اجرا کنید دوباره تایید کنید
مقدار زمان اجرا می تواند به مجموعه داده در حال پردازش بستگی داشته باشد. تکمیل این کار ممکن است یک ساعت یا بیشتر طول بکشد. - در حالی که این در حال اجرا است، در مرورگر خود، برگه دیگری را باز کنید و به کنسول Forecast بروید.
- در کنسول Forecast، را انتخاب کنید مشاهده گروه های داده و با نام مشخص شده به گروه مجموعه داده بروید
DataGroupName
از پشته حجم کاری شما - را انتخاب کنید مشاهده پیش بینی ها.
شما باید آموزش پیش بینی کننده را در حال پیشرفت ببینید (وضعیت آموزش "ایجاد در حال پیشرفت..." را نشان می دهد).
هنگامی که دستگاه دولت برای Create-Predictor
کامل است، می توانید عملکرد آن را ارزیابی کنید.
به عنوان بخشی از ماشین حالت، سیستم یک پیش بینی ایجاد می کند و همچنین a را اجرا می کند BacktestExport
شغلی که معیارهای پیش بینی در سطح سری زمانی را در آمازون S3 می نویسد. اینها فایل هایی هستند که در دو پوشه S3 در زیر قرار دارند backtest-export
پوشه:
- دقت-متریک-مقادیر - محاسبات متریک با دقت در سطح آیتم را ارائه می دهد تا بتوانید عملکرد یک سری زمانی واحد را درک کنید. این به شما این امکان را می دهد که به جای تمرکز بر معیارهای جهانی، میزان گسترش را بررسی کنید.
- مقادیر پیش بینی شده - پیش بینی های سطح گام را برای هر سری زمانی در پنجره بک تست ارائه می دهد. این به شما امکان میدهد تا مقدار هدف واقعی را از یک مجموعه تست نگهدارنده با مقادیر کمیت پیشبینیشده مقایسه کنید. بررسی این موضوع به تدوین ایدههایی در مورد چگونگی ارائه ویژگیهای داده اضافی در RTS یا فراداده مورد کمک میکند تا به تخمین بهتر مقادیر آینده کمک کند و از دست دادن بیشتر کاهش یابد. می توانید دانلود کنید
backtest-export
فایل های آمازون S3 یا پرس و جو آنها در محل با Athena.
با دادههای خود، باید نتایج پیشبینیکننده را از نزدیک بررسی کنید و با استفاده از دادههای صادراتی از بکآست اطمینان حاصل کنید که معیارها نتایج مورد انتظار شما را برآورده میکنند. هنگامی که راضی بودید، می توانید پیش بینی های مربوط به آینده را همانطور که در بخش بعدی توضیح داده شد، شروع کنید.
ایجاد یک پیش بینی (استنتاج در مورد افق های زمانی آینده)
این بخش نحوه تولید نقاط داده پیش بینی با Forecast را شرح می دهد. در ادامه، باید داده های جدید را از سیستم منبع جمع آوری کنید، داده ها را به Forecast وارد کنید و سپس نقاط داده پیش بینی را ایجاد کنید. در صورت تمایل، میتوانید پس از وارد کردن و قبل از پیشبینی، یک پیشبینیکننده جدید نیز وارد کنید. شکل زیر روند ایجاد پیش بینی سری های زمانی تولید با استفاده از Forecast را به تصویر می کشد.
مراحل زیر را انجام دهید:
- در کنسول Step Functions، ماشین حالت حاوی را پیدا کنید
Create-Forecast
. - در صفحه جزئیات ماشین حالت، را انتخاب کنید اجرا را شروع کنید.
- را انتخاب کنید شروع به اجرا کنید دوباره تایید کنید
این ماشین حالت خیلی سریع تمام می شود زیرا سیستم برای ایجاد پیش بینی پیکربندی نشده است. نمی داند کدام مدل پیش بینی کننده را برای استنتاج تایید کرده اید.
بیایید سیستم را طوری پیکربندی کنیم که از پیش بینی آموزش دیده شما استفاده کند. - در کنسول Forecast، ARN را برای پیش بینی خود پیدا کنید.
- ARN را برای استفاده در مرحله بعد کپی کنید.
- در مرورگر خود، تب دیگری را باز کنید و به کنسول Systems Manager بروید.
- در کنسول Systems Manager، را انتخاب کنید فروشگاه پارامتر در صفحه ناوبری
- پارامتر مربوط به پشته خود را بیابید (
/forecast/<StackName>/Forecast/PredictorArn
). - ARN را که برای پیش بینی خود کپی کرده اید وارد کنید.
به این صورت است که یک پیشبین آموزشدیده را با تابع استنتاج Forecast مرتبط میکنید. - پارامتر را پیدا کنید
/forecast/<StackName>/Forecast/Generate
و مقدار را ویرایش کنید، جایگزین کنیدFALSE
باTRUE
.
اکنون شما آماده اجرای یک کار پیش بینی برای این گروه داده هستید. - در کنسول Step Functions، را اجرا کنید
Create-Forecast
ماشین حالت.
این بار، کار طبق انتظار اجرا می شود. به عنوان بخشی از ماشین حالت، سیستم یک پیش بینی و a ForecastExport
job، که پیش بینی های سری های زمانی را برای آمازون S3 می نویسد. این فایل ها در forecast
پوشه
در داخل forecast
بسته به انتخاب خود، پیشبینیهایی را برای آیتمهای خود پیدا خواهید کرد که در بسیاری از فایلهای CSV یا Parket قرار دارند. پیشبینیهای هر مرحله زمانی و سریهای زمانی انتخابی با تمام مقادیر کمیت انتخابی شما در هر رکورد وجود دارد. میتوانید این فایلها را از آمازون S3 دانلود کنید، آنها را با Athena پرس و جو کنید، یا استراتژی دیگری برای استفاده از دادهها انتخاب کنید.
این کل گردش کار را کامل می کند. اکنون می توانید خروجی خود را با استفاده از هر ابزار تجسمی که انتخاب می کنید، مانند آمازون QuickSight. روش دیگر، دانشمندان داده میتوانند از پانداها برای تولید نقشههای خود استفاده کنند. اگر انتخاب کنید از QuickSight استفاده کنید، می توانید نتایج پیش بینی خود را به QuickSight متصل کنید برای انجام تبدیل داده، ایجاد یک یا چند تجزیه و تحلیل داده، و تجسم ایجاد کنید.
این فرآیند الگویی برای دنبال کردن فراهم می کند. شما باید نمونه را با طرح خود تطبیق دهید، افق پیش بینی، وضوح زمانی و غیره را با توجه به مورد استفاده خود تنظیم کنید. همچنین باید یک برنامه زمانبندی تکراری تنظیم کنید که در آن دادهها از سیستم منبع جمعآوری میشوند، دادهها را وارد میکنند و پیشبینی تولید میکنند. در صورت تمایل، می توانید یک کار پیش بینی را بین مراحل واردات و پیش بینی قرار دهید.
پیش بینی کننده را دوباره آموزش دهید
ما روند آموزش یک پیش بینی کننده جدید را طی کرده ایم، اما در مورد آموزش مجدد یک پیش بینی کننده چطور؟ آموزش مجدد یک پیش بینی کننده یکی از راه های کاهش هزینه و زمان مربوط به آموزش یک پیش بینی بر روی آخرین داده های موجود است. به جای ایجاد یک پیشبینیکننده جدید و آموزش آن بر روی کل مجموعه داده، میتوانیم پیشبینیکننده موجود را با ارائه تنها دادههای افزایشی جدیدی که از آخرین آموزش پیشبینیکننده در دسترس است، دوباره آموزش دهیم. بیایید نحوه آموزش مجدد یک پیش بینی کننده با استفاده از راه حل اتوماسیون را مرور کنیم:
- در کنسول Forecast، را انتخاب کنید مشاهده گروه های داده.
- گروه داده مرتبط با پیشبینیکنندهای را که میخواهید دوباره آموزش دهید، انتخاب کنید.
- را انتخاب کنید مشاهده پیش بینی ها، سپس پیش بینی کننده ای را که می خواهید دوباره آموزش دهید انتخاب کنید.
- بر تنظیمات تب، پیش بینی ARN را کپی کنید.
ما باید پارامتری را که توسط گردش کار مورد استفاده قرار میگیرد بهروزرسانی کنیم تا پیشبینیکننده را برای آموزش مجدد شناسایی کنیم. - در کنسول Systems Manager، را انتخاب کنید فروشگاه پارامتر در صفحه ناوبری
- پارامتر را پیدا کنید
/forecast/<STACKNAME>/Forecast/Predictor/ReferenceArn
. - در صفحه جزئیات پارامتر، را انتخاب کنید ویرایش.
- برای ارزش، پیش بینی کننده ARN را وارد کنید.
این پیشبینیکننده صحیح گردش کار برای بازآموزی را مشخص میکند. در مرحله بعد، ما باید یک پارامتر مورد استفاده توسط گردش کار را برای تغییر استراتژی آموزش به روز کنیم. - پارامتر را پیدا کنید
/forecast/<STACKNAME>/Forecast/Predictor/Strategy
. - در صفحه جزئیات پارامتر، ویرایش را انتخاب کنید.
- برای مقدار، وارد کنید
RETRAIN
.
گردش کار به طور پیش فرض برای آموزش یک پیش بینی جدید است. با این حال، میتوانیم آن رفتار را تغییر دهیم تا یک پیشبینیکننده موجود را دوباره آموزش دهیم یا به سادگی از یک پیشبینیکننده موجود بدون آموزش مجدد با تنظیم این مقدار استفاده مجدد کنیم.NONE
. اگر داده های شما نسبتاً پایدار است یا در حال استفاده از آن هستید، ممکن است بخواهید از آموزش صرف نظر کنید نظارت خودکار پیش بینی تصمیم گیری در مورد زمانی که بازآموزی لازم است. - داده های آموزشی افزایشی را در سطل S3 آپلود کنید.
- در کنسول Step Functions، مکان ماشین حالت را پیدا کنید
<STACKNAME>-Create-Predictor
. - در صفحه جزئیات ماشین حالت، را انتخاب کنید شروع به اجرا کنید برای شروع بازآموزی
پس از اتمام دوره بازآموزی، گردش کار به پایان می رسد و شما یک اعلان ایمیل SNS به آدرس ایمیل ارائه شده در پارامترهای قالب کار دریافت خواهید کرد.
پاک کردن
پس از اتمام کار با این راه حل، مراحل این بخش را برای حذف منابع مرتبط دنبال کنید.
سطل S3 را حذف کنید
- در کنسول آمازون S3، را انتخاب کنید سطل در صفحه ناوبری
- سطلی که داده ها در آن آپلود شده اند را انتخاب کنید و انتخاب کنید خالی برای حذف تمام داده های مرتبط با راه حل، از جمله داده های منبع.
- وارد
permanently delete
برای حذف دائمی محتویات سطل - بر سطل صفحه، سطل را انتخاب کنید و انتخاب کنید حذف.
- نام سطل را برای تایید حذف وارد کنید و انتخاب کنید سطل را حذف کنید.
منابع پیش بینی را حذف کنید
- در کنسول Forecast، را انتخاب کنید مشاهده گروه های داده.
- نام گروه مجموعه داده مرتبط با راه حل را انتخاب کنید، سپس انتخاب کنید حذف.
- وارد
delete
برای حذف گروه مجموعه داده و پیشبینیکنندههای مرتبط، پیشبینیکننده پسآزمون کارهای صادراتی، پیشبینیها، و پیشبینی کارهای صادراتی. - را انتخاب کنید حذف برای تایید.
پشته های CloudFormation را حذف کنید
- در کنسول AWS CloudFormation، را انتخاب کنید پشته در صفحه ناوبری
- پشته بار کاری را انتخاب کنید و انتخاب کنید حذف.
- را انتخاب کنید پشته را حذف کنید برای تایید حذف پشته و تمام منابع مرتبط.
- هنگامی که حذف کامل شد، پشته وابستگی ها را انتخاب کنید و انتخاب کنید حذف.
- را انتخاب کنید حذف برای تایید.
نتیجه
در این پست، چند روش مختلف برای شروع استفاده از Forecast را مورد بحث قرار دادیم. ما از طریق یک راهحل پیشبینی خودکار مبتنی بر AWS CloudFormation برای استقرار راهحلهای سریع و قابل تکرار خط لوله پیشبینی از انتقال داده تا استنتاج، با دانش زیرساختی کمی مورد نیاز قرار گرفتیم. در نهایت، دیدیم که چگونه میتوانیم از لامبدا برای خودکارسازی بازآموزی مدل، کاهش هزینه و زمان آموزش استفاده کنیم.
هیچ زمانی بهتر از زمان حال برای شروع پیش بینی با Forecast وجود ندارد. برای شروع ساخت و استقرار یک گردش کار خودکار، به این سایت مراجعه کنید منابع پیش بینی آمازون. پیش بینی مبارک!
درباره نویسنده
هارون فاگان یک معمار راه حل متخصص اصلی در AWS مستقر در نیویورک است. او در کمک به مشتریان در راه حل های معمار در یادگیری ماشین و امنیت ابری تخصص دارد.
راجو پاتیل دانشمند داده در خدمات حرفه ای AWS است. او راه حل های AI/ML را برای کمک به مشتریان AWS در غلبه بر چالش های تجاری خود می سازد و به کار می گیرد. فعالیتهای AWS او طیف گستردهای از موارد استفاده از AI/ML مانند بینایی رایانه، پیشبینی سریهای زمانی، و تجزیه و تحلیل پیشبینیکننده و غیره را در صنایع متعدد، از جمله خدمات مالی، مخابرات، مراقبتهای بهداشتی و غیره پوشش داده است. پیش از این، او تیمهای علم داده در فناوری تبلیغات را رهبری میکرد و مشارکت قابل توجهی در طرحهای تحقیق و توسعه متعدد در بینایی کامپیوتر و روباتیک داشت. خارج از محل کار، او از عکاسی، پیاده روی، سفر و کاوش های آشپزی لذت می برد.
- محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
- PlatoAiStream. Web3 Data Intelligence دانش تقویت شده دسترسی به اینجا.
- ضرب کردن آینده با آدرین اشلی. دسترسی به اینجا.
- خرید و فروش سهام در شرکت های PRE-IPO با PREIPO®. دسترسی به اینجا.
- منبع: https://aws.amazon.com/blogs/machine-learning/automate-the-deployment-of-an-amazon-forecast-time-series-forecasting-model/
- : دارد
- :است
- :نه
- :جایی که
- $UP
- 1
- 10
- 100
- 11
- 20
- سال 20
- 2022
- 7
- 8
- 9
- a
- درباره ما
- پذیرفتن
- دسترسی
- مطابق
- حساب
- دقت
- اذعان
- در میان
- اقدامات
- وفق دادن
- اضافی
- اطلاعات اضافی
- نشانی
- تبلیغات
- پس از
- از نو
- AI / ML
- الگوریتم
- الگوریتم
- معرفی
- اجازه دادن
- اجازه می دهد تا
- تنها
- قبلا
- همچنین
- آمازون
- پیش بینی آمازون
- مقدار
- an
- تجزیه و تحلیل
- علم تجزیه و تحلیل
- و
- دیگر
- هر
- API
- روش
- مناسب
- تایید کرد
- هستند
- صف
- AS
- همکاری
- وابسته
- مرتبط است
- At
- خودکار بودن
- خودکار
- بطور خودکار
- اتوماسیون
- در دسترس
- AWS
- AWS CloudFormation
- خدمات حرفه ای AWS
- Backtest
- برج میزان
- تعادل
- مستقر
- خط مقدم
- BE
- زیرا
- قبل از
- شروع
- بودن
- بهترین
- بهتر
- میان
- تعصب
- کران
- جعبه
- آوردن
- مرورگر
- ساختن
- بنا
- می سازد
- کسب و کار
- اما
- by
- محاسبه می کند
- نام
- تماس ها
- CAN
- اهميت دادن
- مورد
- موارد
- مرکز
- چالش ها
- تغییر دادن
- تبادل
- بررسی
- انتخاب
- را انتخاب کنید
- را انتخاب
- برگزیده
- نزدیک
- ابر
- امنیت ابر
- رمز
- برنامه نویسی
- مجموعه
- ستون
- COM
- مشترک
- مقايسه كردن
- کامل
- پیچیده
- محاسبات
- محاسبه
- کامپیوتر
- چشم انداز کامپیوتر
- مفاهیم
- علاقمند
- پیکر بندی
- تکرار
- کنسول
- شامل
- محتویات
- مشارکت
- کنترل
- مختصات
- اصلاح
- هزینه
- میتوانست
- پوشش داده شده
- ایجاد
- ایجاد شده
- ایجاد
- ایجاد
- ایجاد
- مشتریان
- چرخه
- چرخه ای
- روزانه
- داده ها
- مدیریت اطلاعات
- نقاط داده
- علم اطلاعات
- دانشمند داده
- مجموعه داده ها
- مجموعه داده ها
- روز
- روز
- تصمیم گیری
- اعلام
- به طور پیش فرض
- پیش فرض
- مشخص
- تعریف می کند
- تعریف کردن
- تحویل داده
- بستگی دارد
- بستگی دارد
- گسترش
- مستقر
- استقرار
- گسترش
- اعزام ها
- مستقر می کند
- سپرده
- توصیف
- شرح داده شده
- مطلوب
- جزئیات
- جزئیات
- مشخص کردن
- توسعه دهندگان
- پروژه
- مختلف
- مشکل
- بعد
- ابعاد
- دایرکتوری
- بحث کردیم
- do
- نمی کند
- انجام شده
- دانلود
- در طی
- هر
- پیش از آن
- آسان تر
- هر دو
- حذف می شود
- پست الکترونیک
- فعال
- را قادر می سازد
- پایان
- پشت سر هم
- اطمینان حاصل شود
- وارد
- تمام
- محیط
- محیط
- خطاهای
- تخمین زدن
- و غیره
- ارزیابی
- حتی
- واقعه
- مثال
- اعدام
- وجود داشته باشد
- موجود
- انتظار می رود
- منتظر
- تجربه
- صادرات
- تسهیل می کند
- غلط
- آشنا
- امکانات
- رشته
- شکل
- پرونده
- فایل ها
- بایگانی
- پر شده
- سرانجام
- مالی
- خدمات مالی
- پیدا کردن
- نام خانوادگی
- تمرکز
- به دنبال
- پیروی
- برای
- پیش بینی
- پیش بینی
- قالب
- چهارم
- به جلو
- چهار
- فرکانس
- از جانب
- کاملا
- تابع
- توابع
- بیشتر
- آینده
- تولید می کنند
- تولید
- مولد
- دریافت کنید
- جهانی
- Go
- رفتن
- حکومت می کند
- گراف
- بزرگ
- گروه
- گروه ها
- راهنمایی
- راهنمایی
- خوشحال
- محصول
- آیا
- داشتن
- he
- سلامتی
- مراقبت های بهداشتی
- کمک
- کمک
- کمک می کند
- اینجا کلیک نمایید
- خیلی
- خود را
- تاریخی
- افق
- افق
- ساعت
- چگونه
- چگونه
- اما
- HTML
- HTTP
- HTTPS
- ایده ها
- شناسایی می کند
- شناسایی
- هویت
- if
- نشان می دهد
- انجام
- واردات
- واردات
- in
- شامل
- شامل
- از جمله
- لوازم
- نفوذ
- اطلاع دادن
- اطلاعات
- شالوده
- اول
- ابتکارات
- ورودی
- در عوض
- به
- بررسی
- گرفتار
- IT
- اقلام
- ITS
- خود
- کار
- شغل ها
- JPG
- دانستن
- دانش
- شناخته شده
- زمین
- نام
- بعد
- آخرین
- یاد گرفتن
- یادگیری
- کمترین
- رهبری
- داده های LED
- اجازه می دهد تا
- wifecycwe
- پسندیدن
- لاین
- کوچک
- واقع شده
- محل
- طولانی
- خاموش
- کم هزینه
- کاهش
- دستگاه
- فراگیری ماشین
- ماشین آلات
- ساخته
- ساخت
- مدیریت
- اداره می شود
- مدیریت
- مدیر
- مدیریت می کند
- مدیریت
- دستی
- بسیاری
- بیشترین
- ممکن است..
- دیدار
- فهرست
- متاداده
- روش
- روش
- متری
- متریک
- قدرت
- حد اقل
- دقیقه
- گم
- ML
- مدل
- مدل
- تغییر
- نظارت بر
- ماهیانه
- بیش
- حرکت
- چندگانه
- باید
- نام
- نام
- هدایت
- جهت یابی
- لازم
- نیاز
- نیازهای
- جدید
- نیویورک
- بعد
- نه
- دفتر یادداشت
- اخطار
- اطلاعیه ها
- اکنون
- عدد
- متعدد
- هدف
- اشیاء
- گرفتن
- of
- on
- ONE
- فقط
- باز کن
- منبع باز
- بهینه سازی
- گزینه
- or
- سفارش
- دیگر
- در غیر این صورت
- ما
- خارج
- نتایج
- مشخص شده
- تولید
- خارج از
- روی
- به طور کلی
- خود
- با ما
- پانداها
- قطعه
- پارامتر
- پارامترهای
- بخش
- در صد
- انجام
- کارایی
- به طور دائم
- مجوز
- عکاسی
- فیزیکی
- خط لوله
- محل
- دادن
- برنامه
- افلاطون
- هوش داده افلاطون
- PlatoData
- نقطه
- ممکن
- پست
- پیش بینی
- پیش بینی
- پیش گویی
- پیش بینی
- تجزیه و تحلیل پیش بینی
- پیشگو
- پیش بینی می کند
- آماده
- در حال حاضر
- ارائه شده
- قبلی
- اصلی
- قبلا
- روند
- فرآوری شده
- در حال پردازش
- تولید کردن
- تولید
- حرفه ای
- برنامه ریزی شده
- پیشرفت
- ارائه
- ارائه
- فراهم می کند
- ارائه
- عمومی
- پــایتــون
- نمایش ها
- سوالات
- سریع
- به سرعت
- محدوده
- سریع
- نسبتا
- خام
- اماده
- گرفتن
- توصیه
- رکورد
- سوابق
- مکرر
- كاهش دادن
- کاهش
- اشاره
- اشاره دارد
- منظم
- مربوط
- نسبتا
- مربوط
- تکیه
- از بین بردن
- قابل تکرار
- به طور مکرر
- تکراری
- ضروری
- تحقیق
- تحقیق و توسعه
- محفوظ می باشد
- انعطاف پذیر
- وضوح
- منابع
- نتیجه
- نتایج
- استفاده مجدد
- بازبینی
- رباتیک
- نقش
- نقش
- دویدن
- در حال اجرا
- همان
- مجموعه داده نمونه
- راضی
- مقیاس
- برنامه
- علم
- دانشمند
- دانشمندان
- یکپارچه
- بخش
- بخش
- امن
- تیم امنیت لاتاری
- دیدن
- انتخاب شد
- انتخاب
- سلسله
- بدون سرور
- سرور
- خدمت
- سرویس
- خدمات
- تنظیم
- محیط
- به اشتراک گذاشته شده
- کوتاه
- باید
- نشان می دهد
- قابل توجه
- ساده
- به سادگی
- پس از
- تنها
- So
- راه حل
- مزایا
- برخی از
- چیزی
- منبع
- متخصص
- تخصص دارد
- مشخص شده
- گسترش
- پایدار
- پشته
- استقرار
- استاندارد
- شروع
- آغاز شده
- راه افتادن
- دولت
- وضعیت
- گام
- مراحل
- ذخیره سازی
- opbevare
- استراتژی
- رشته
- ساختار
- چنین
- پشتیبانی
- سیستم
- سیستم های
- جدول
- گرفتن
- طول می کشد
- هدف
- کار
- وظایف
- تیم ها
- پیشرفته
- مخابراتی
- قالب
- قالب
- آزمون
- نسبت به
- که
- La
- منبع
- دولت
- شان
- آنها
- سپس
- آنجا.
- اینها
- اشیاء
- این
- سه
- از طریق
- سراسر
- زمان
- سری زمانی
- برچسب زمان
- به
- با هم
- ابزار
- موضوع
- نسبت به
- قطار
- آموزش دیده
- آموزش
- تحولات
- انتقال
- سفر
- ماشه
- درست
- دو
- نوع
- انواع
- به طور معمول
- تردید
- زیر
- فهمیدن
- واحد
- بروزرسانی
- آپلود شده
- URL
- استفاده کنید
- مورد استفاده
- استفاده
- کاربران
- با استفاده از
- ارزش
- ارزشها
- مختلف
- بسیار
- از طريق
- دید
- بازدید
- تجسم
- راه می رفت
- می خواهم
- بود
- مسیر..
- راه
- we
- هفتگی
- خوب
- چی
- چه زمانی
- چه
- که
- وسیع
- دامنه گسترده
- اراده
- با
- در داخل
- بدون
- کلمه
- مهاجرت کاری
- نوشتن
- کتبی
- سال
- نیویورک
- شما
- شما
- زفیرنت
- زیپ