در سالهای اخیر، پیشرفتها در بینایی کامپیوتر، محققان، اولین پاسخدهندگان و دولتها را قادر ساخته تا با مشکل چالش برانگیز پردازش تصاویر ماهوارهای جهانی برای درک سیاره ما و تأثیر ما بر آن مقابله کنند. AWS اخیرا منتشر شده است قابلیت های جغرافیایی Amazon SageMaker تا تصاویر ماهواره ای و مدل های پیشرفته یادگیری ماشینی (ML) را در اختیار شما قرار دهد و موانع را برای این نوع موارد استفاده کاهش دهد. برای اطلاعات بیشتر مراجعه کنید پیش نمایش: از Amazon SageMaker برای ساخت، آموزش و استقرار مدل های ML با استفاده از داده های مکانی استفاده کنید.
بسیاری از آژانسها، از جمله اولین واکنشدهندهها، از این پیشنهادها برای به دست آوردن آگاهی موقعیتی در مقیاس بزرگ و اولویتبندی تلاشهای امدادی در مناطق جغرافیایی که توسط بلایای طبیعی آسیب دیدهاند، استفاده میکنند. اغلب این آژانسها با تصاویر بلایا از ارتفاع کم و منابع ماهوارهای سروکار دارند و این دادهها اغلب بدون برچسب هستند و استفاده از آنها دشوار است. مدلهای بینایی کامپیوتری پیشرفته معمولاً هنگام تماشای تصاویر ماهوارهای شهری که طوفان یا آتشسوزی در آن واقع شده است، عملکرد ضعیفی دارند. با توجه به فقدان این مجموعه دادهها، حتی مدلهای پیشرفته ML اغلب قادر به ارائه دقت و دقت لازم برای پیشبینی طبقهبندی استاندارد فجایع FEMA نیستند.
مجموعه دادههای مکانی حاوی ابردادههای مفیدی مانند مختصات طول و عرض جغرافیایی و مهرهای زمانی هستند که میتوانند زمینه را برای این تصاویر فراهم کنند. این به ویژه در بهبود دقت ML مکانی برای صحنههای فاجعه مفید است، زیرا این تصاویر ذاتاً آشفته و آشفته هستند. ساختمان ها کمتر مستطیلی هستند، پوشش گیاهی آسیب دیده است، و جاده های خطی به دلیل سیل یا رانش گل قطع شده اند. از آنجایی که برچسبگذاری این مجموعه دادههای عظیم گران، دستی و زمانبر است، توسعه مدلهای ML که میتوانند برچسبگذاری و حاشیهنویسی تصویر را خودکار کنند، حیاتی است.
برای آموزش این مدل، ما به یک زیرمجموعه حقیقت پایه برچسب دار از the نیاز داریم مجموعه داده تصاویر بلایای کم ارتفاع (LADI).. این مجموعه داده شامل تصاویر هوابرد مشروح شده توسط انسان و ماشین است که توسط گشت هوایی غیرنظامی برای حمایت از واکنشهای مختلف در بلایا از سال 2015 تا 2019 جمعآوری شده است. این مجموعه داده های LADI بر فصول طوفان اقیانوس اطلس و ایالت های ساحلی در امتداد اقیانوس اطلس و خلیج مکزیک تمرکز دارند. دو تمایز کلیدی عبارتند از ارتفاع کم، چشمانداز مایل تصاویر و ویژگیهای مربوط به فاجعه، که به ندرت در معیارهای بینایی رایانه و مجموعه دادهها مشخص میشوند. تیمها از دستههای موجود FEMA برای آسیبهایی مانند سیل، آوار، آتشسوزی و دود یا رانش زمین استفاده کردند که دستهبندی برچسبها را استاندارد کرد. سپس راه حل می تواند پیش بینی هایی را در مورد بقیه داده های آموزشی انجام دهد و نتایج با اطمینان کمتر را برای بررسی انسانی هدایت کند.
در این پست، طراحی و پیاده سازی راه حل، بهترین روش ها و اجزای کلیدی معماری سیستم را شرح می دهیم.
بررسی اجمالی راه حل
به طور خلاصه، راه حل شامل ساخت سه خط لوله است:
- خط لوله داده – فراداده های تصاویر را استخراج می کند
- خط لوله یادگیری ماشین - تصاویر را طبقه بندی و برچسب گذاری می کند
- خط لوله بررسی انسان در حلقه - از یک تیم انسانی برای بررسی نتایج استفاده می کند
نمودار زیر معماری راه حل را نشان می دهد.
با توجه به ماهیت یک سیستم برچسبگذاری مانند این، ما یک معماری مقیاسپذیر افقی طراحی کردیم که با استفاده از معماری بدون سرور، جهشهای جذب را بدون تامین بیش از حد مدیریت میکند. ما از الگوی یک به چند از استفاده می کنیم سرویس صف ساده آمازون (Amazon SQS) به AWS لامبدا در نقاط متعدد برای حمایت از این سنبله های بلع، ارائه تاب آوری.
استفاده از صف SQS برای پردازش سرویس ذخیره سازی ساده آمازون رویدادهای (Amazon S3) به ما کمک می کند همزمانی پردازش های پایین دستی را کنترل کنیم (توابع لامبدا، در این مورد) و جهش های ورودی داده ها را مدیریت کنیم. صف بندی پیام های دریافتی همچنین به عنوان یک ذخیره سازی بافر در صورت بروز هر گونه خرابی در پایین دست عمل می کند.
با توجه به نیازهای بسیار موازی، ما Lambda را برای پردازش تصاویر خود انتخاب کردیم. Lambda یک سرویس محاسباتی بدون سرور است که به ما امکان می دهد کد را بدون تهیه یا مدیریت سرورها اجرا کنیم، منطق مقیاس بندی خوشه آگاه از بار کاری ایجاد کنیم، ادغام رویدادها را حفظ کنیم و زمان های اجرا را مدیریت کنیم.
استفاده می کنیم سرویس جستجوی باز آمازون به عنوان فروشگاه مرکزی داده ما برای استفاده از ابزار جستجوی بسیار مقیاس پذیر، سریع و تجسم یکپارچه آن، داشبوردهای OpenSearch. این ما را قادر می سازد تا به صورت مکرر زمینه را به تصویر اضافه کنیم، بدون اینکه نیاز به کامپایل مجدد یا مقیاس مجدد داشته باشیم، و تکامل طرحواره را مدیریت کنیم.
شناسایی آمازون با استفاده از فناوری یادگیری عمیق اثبات شده، بسیار مقیاس پذیر، افزودن تجزیه و تحلیل تصویر و ویدئو به برنامه های ما را آسان می کند. با آمازون Rekognition، ما یک خط پایه خوب از اشیاء شناسایی شده به دست می آوریم.
در بخش های بعدی، با جزئیات بیشتر به هر خط لوله می پردازیم.
خط لوله داده
نمودار زیر گردش کار خط لوله داده را نشان می دهد.
خط لوله داده LADI با هضم تصاویر داده خام از LADI شروع می شود پروتکل هشدار مشترک FEMA (CAP) در یک سطل S3. همانطور که تصاویر را وارد سطل داده خام می کنیم، آنها در زمان واقعی در دو مرحله پردازش می شوند:
- سطل S3 اعلانهای رویداد را برای همه ایجادشدهها ایجاد میکند و برای هر تصویر دریافت شده، پیامهایی را در صف SQS ایجاد میکند.
- صف SQS به طور همزمان توابع لامبدا را در حال پیش پردازش روی تصویر فراخوانی می کند.
توابع لامبدا مراحل پیش پردازش زیر را انجام می دهند:
- UUID را برای هر تصویر محاسبه کنید و برای هر تصویر یک شناسه منحصر به فرد ارائه دهید. این شناسه تصویر را برای کل چرخه عمر آن شناسایی می کند.
- فراداده هایی مانند مختصات GPS، اندازه تصویر، اطلاعات GIS و مکان S3 را از تصویر استخراج کنید و آن را در OpenSearch حفظ کنید.
- بر اساس جستجو در برابر کدهای FIPS، این تابع تصویر را به سطل داده های S3 منتقل می کند. ما داده ها را بر اساس FIPS-State-code/FIPS-County-code/Year/Month تصویر تقسیم می کنیم.
خط لوله یادگیری ماشین
خط لوله ML از تصاویری شروع می شود که در سطل داده S3 انتخاب شده در مرحله خط لوله داده فرود می آیند، که مراحل زیر را آغاز می کند:
- آمازون S3 برای هر شیء ایجاد شده در سطل داده S3، پیامی را در صف SQS دیگری ایجاد می کند.
- صف SQS به طور همزمان توابع Lambda را برای اجرای کار استنتاج ML روی تصویر فعال می کند.
توابع لامبدا اقدامات زیر را انجام می دهند:
- هر تصویر را برای تشخیص اشیا به آمازون Rekognition ارسال کنید، برچسب های برگشتی و امتیازات اطمینان مربوطه را ذخیره کنید.
- خروجی شناسایی آمازون را در پارامترهای ورودی برای ما بنویسید آمازون SageMaker نقطه پایانی چند مدلی این نقطه پایانی مجموعه طبقهبندیکنندههای ما را میزبانی میکند که برای مجموعههای خاصی از برچسبهای آسیب آموزش دیدهاند.
- نتایج نقطه پایانی SageMaker را به آن منتقل کنید هوش مصنوعی آمازون افزوده شده است (Amazon A2I).
نمودار زیر روند کار خط لوله را نشان می دهد.
خط لوله بررسی انسان در حلقه
نمودار زیر خط لوله انسان در حلقه (HIL) را نشان می دهد.
با آمازون A2I، میتوانیم آستانههایی را پیکربندی کنیم که وقتی یک مدل پیشبینی اعتماد پایینی را ارائه میدهد، بازبینی انسانی توسط یک تیم خصوصی را آغاز کند. ما همچنین می توانیم از Amazon A2I برای ارائه ممیزی مداوم از پیش بینی های مدل خود استفاده کنیم. مراحل گردش کار به شرح زیر است:
- Amazon A2I پیشبینیهای با اطمینان بالا را به سرویس OpenSearch هدایت میکند و دادههای برچسب تصویر را بهروزرسانی میکند.
- Amazon A2I پیشبینیهای کماعتماد را به تیم خصوصی برای حاشیهنویسی دستی تصاویر ارسال میکند.
- بازبین انسانی حاشیه نویسی را تکمیل می کند و یک فایل خروجی حاشیه نویسی انسانی ایجاد می کند که در سطل HIL Output S3 ذخیره می شود.
- سطل HIL Output S3 یک تابع Lambda را راه اندازی می کند که خروجی حاشیه نویسی انسانی را تجزیه می کند و داده های تصویر را در سرویس OpenSearch به روز می کند.
با مسیریابی نتایج حاشیه نویسی انسانی به ذخیرهگاه داده، میتوانیم مدلهای مجموعه را دوباره آموزش دهیم و دقت مدل را به طور مکرر بهبود دهیم.
با نتایج با کیفیت بالا که اکنون در سرویس OpenSearch ذخیره شده است، میتوانیم جستجوی مکانی و زمانی را از طریق REST API انجام دهیم. دروازه API آمازون و Geoserver. داشبورد OpenSearch همچنین کاربران را قادر می سازد تا تجزیه و تحلیل را با این مجموعه داده جستجو و اجرا کنند.
نتایج
کد زیر نمونه ای از نتایج ما را نشان می دهد.
با این خط لوله جدید، ما یک پشتیبان انسانی برای مدل هایی ایجاد می کنیم که هنوز به طور کامل کارایی ندارند. این خط لوله جدید ML برای استفاده با یک میکروسرویس فیلتر تصویر گشت هوایی غیرنظامی که امکان فیلتر کردن تصاویر گشت هوایی غیرنظامی در پورتوریکو را فراهم می کند. این به اولین پاسخ دهندگان امکان می دهد تا میزان آسیب را مشاهده کنند و تصاویر مربوط به آن آسیب را پس از طوفان مشاهده کنند. آزمایشگاه دادههای AWS، برنامه دادههای باز AWS، تیم پاسخگویی به بلایای آمازون، و تیم انسان در حلقه AWS با مشتریان کار کردند تا یک خط لوله منبع باز ایجاد کنند که میتواند برای تجزیه و تحلیل دادههای گشت هوایی غیرنظامی ذخیرهشده در Open Data استفاده شود. رجیستری برنامه در صورت تقاضا پس از هر بلای طبیعی. برای اطلاعات بیشتر در مورد معماری خط لوله و مروری بر همکاری و تاثیر، ویدیو را بررسی کنید تمرکز بر واکنش به بلایا با هوش مصنوعی آمازون، برنامه داده باز AWS و AWS Snowball.
نتیجه
همانطور که تغییرات آب و هوایی به افزایش فراوانی و شدت طوفان ها و آتش سوزی های جنگلی ادامه می دهد، ما همچنان اهمیت استفاده از ML را برای درک تأثیر این رویدادها بر جوامع محلی می بینیم. این ابزارهای جدید میتوانند تلاشهای واکنش به بلایا را تسریع کنند و به ما این امکان را میدهند که از دادههای این تحلیلهای پس از رویداد برای بهبود دقت پیشبینی این مدلها با یادگیری فعال استفاده کنیم. این مدلهای جدید ML میتوانند حاشیهنویسی دادهها را خودکار کنند، که ما را قادر میسازد تا میزان آسیب ناشی از هر یک از این رویدادها را هنگام پوشاندن برچسبهای آسیب با دادههای نقشه استنتاج کنیم. این دادههای انباشته همچنین میتواند به بهبود توانایی ما برای پیشبینی خسارت برای رویدادهای فاجعه آتی کمک کند، که میتواند استراتژیهای کاهش را اطلاعرسانی کند. این به نوبه خود میتواند انعطافپذیری جوامع، اقتصادها و اکوسیستمها را با دادن اطلاعاتی که تصمیمگیرندگان برای توسعه سیاستهای مبتنی بر دادهها برای مقابله با این تهدیدات زیستمحیطی در حال ظهور نیاز دارند، بهبود بخشد.
در این پست وبلاگ استفاده از بینایی کامپیوتر در تصاویر ماهواره ای را مورد بحث قرار دادیم. این راه حل به عنوان یک معماری مرجع یا یک راهنمای شروع سریع است که می توانید برای نیازهای خود سفارشی کنید.
به آن بپردازید و با گذاشتن بازخورد در بخش نظرات به ما اطلاع دهید که چگونه مورد استفاده شما را حل کرد. برای اطلاعات بیشتر ببین قابلیت های جغرافیایی Amazon SageMaker.
درباره نویسنده
وامشی کریشنا انابوتالا یک معمار متخصص هوش مصنوعی کاربردی در AWS است. او با مشتریانی از بخشهای مختلف کار میکند تا دادهها، تحلیلها و ابتکارات یادگیری ماشینی را تسریع بخشد. او علاقه زیادی به سیستم های توصیه، NLP و حوزه های بینایی کامپیوتر در هوش مصنوعی و ML دارد. خارج از محل کار، وامشی یک علاقهمند به RC است و تجهیزات RC (هواپیما، ماشین و هواپیماهای بدون سرنشین) میسازد و همچنین از باغبانی لذت میبرد.
مورگان داتون یک مدیر ارشد برنامه فنی با هوش مصنوعی آمازون و تیم آمازون SageMaker Ground Truth است. او با مشتریان سازمانی، دانشگاهی و بخش دولتی برای تسریع پذیرش یادگیری ماشین و خدمات ML انسانی در حلقه کار می کند.
ساندیپ ورما یک معمار نمونه اولیه با AWS است. او از غواصی عمیق در چالش های مشتری و ساختن نمونه های اولیه برای مشتریان برای سرعت بخشیدن به نوآوری لذت می برد. او پیشینه ای در AI/ML، بنیانگذار New Knowledge، و عموماً علاقه مند به فناوری دارد. او در اوقات فراغت خود عاشق سفر و اسکی با خانواده است.
- محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
- پلاتوبلاک چین. Web3 Metaverse Intelligence. دانش تقویت شده دسترسی به اینجا.
- منبع: https://aws.amazon.com/blogs/machine-learning/accelerate-disaster-response-with-computer-vision-for-satellite-imagery-using-amazon-sagemaker-and-amazon-augmented-ai/
- 100
- 7
- 98
- a
- توانایی
- قادر
- درباره ما
- دانشگاهی
- شتاب دادن
- دقت
- اقدامات
- فعال
- اعمال
- نشانی
- اتخاذ
- پیشرفت
- مزیت - فایده - سود - منفعت
- در برابر
- سازمان
- AI
- AI / ML
- AIR
- معرفی
- اجازه می دهد تا
- آمازون
- هوش مصنوعی آمازون افزوده شده است
- شناسایی آمازون
- آمازون SageMaker
- Amazon SageMaker Ground Truth
- تجزیه و تحلیل
- تحلیل
- علم تجزیه و تحلیل
- تحلیل
- و
- دیگر
- API
- برنامه های کاربردی
- اعمال می شود
- هوش مصنوعی کاربردی
- معماری
- مناطق
- مرتبط است
- حسابرسی
- افزوده شده
- خودکار بودن
- اطلاع
- AWS
- به عقب
- زمینه
- backstop
- موانع
- خط مقدم
- زیرا
- معیار
- بهترین
- بهترین شیوه
- بلاگ
- بافر
- ساختن
- بنا
- کلاه لبه دار
- اتومبیل
- مورد
- موارد
- دسته
- مرکزی
- چالش ها
- به چالش کشیدن
- تغییر دادن
- بررسی
- را انتخاب
- شهر:
- اقلیم
- تغییر آب و هوا
- خوشه
- رمز
- همکاری
- نظرات
- مشترک
- جوامع
- تکمیل شده
- اجزاء
- محاسبه
- کامپیوتر
- چشم انداز کامپیوتر
- اعتماد به نفس
- شامل
- زمینه
- ادامه دادن
- ادامه
- کنترل
- ایجاد
- ایجاد شده
- ایجاد
- خلاقیت
- بحرانی
- سرپرستی
- مشتری
- مشتریان
- سفارشی
- داشبورد
- داده ها
- داده محور
- مجموعه داده ها
- معامله
- تصمیم گیرندگان
- عمیق
- یادگیری عمیق
- ارائه
- تقاضا
- گسترش
- توصیف
- طرح
- طراحی
- جزئیات
- شناسایی شده
- کشف
- توسعه
- پروژه
- مختلف
- مشکل
- فاجعه
- حوادث
- بحث کردیم
- هواپیماهای بدون سرنشین
- هر
- اقتصاد
- اکوسیستم
- تلاش
- سنگ سنباده
- فعال
- را قادر می سازد
- نقطه پایانی
- سرمایه گذاری
- علاقهمند
- تمام
- محیطی
- تجهیزات
- به خصوص
- حتی
- واقعه
- حوادث
- تکامل
- مثال
- موجود
- گران
- عصاره ها
- خانواده
- FAST
- ویژه
- امکانات
- باز خورد
- پرونده
- فیلتر
- فیلتر
- آتش
- نام خانوادگی
- تمرکز
- پیروی
- به دنبال آن است
- موسس
- رایگان
- فرکانس
- از جانب
- کاملا
- تابع
- توابع
- آینده
- افزایش
- عموما
- تولید می کند
- مولد
- جغرافیایی
- زمین فضایی ML
- دریافت کنید
- داده
- دادن
- جهانی
- خوب
- دولت ها
- GPS
- زمین
- راهنمایی
- دسته
- داشتن
- کمک
- مفید
- کمک می کند
- زیاد
- با کیفیت بالا
- خیلی
- اصابت
- میزبان
- چگونه
- HTML
- HTTPS
- انسان
- طوفان
- ID
- شناسه
- شناسایی
- تصویر
- تصاویر
- تأثیر
- پیاده سازی
- اهمیت
- بهبود
- بهبود
- in
- از جمله
- وارد شونده
- افزایش
- اطلاعات
- ابتکارات
- ابداع
- ورودی
- یکپارچه
- یکپارچگی
- منقطع
- فراخوانی میکند
- گرفتار
- IT
- کار
- کلید
- دانستن
- دانش
- آزمایشگاه
- برچسب
- برچسب
- برچسب ها
- عدم
- فرود
- در مقیاس بزرگ
- یادگیری
- ترک
- اجازه می دهد تا
- wifecycwe
- محلی
- محل
- به دنبال
- مراجعه
- کم
- دستگاه
- فراگیری ماشین
- حفظ
- ساخت
- باعث می شود
- مدیر
- مدیریت
- کتابچه راهنمای
- دستی
- نقشه
- نقشه ها
- عظیم
- پیام
- پیام
- متاداده
- مکزیک
- کاهش
- ML
- مدل
- مدل
- بیش
- حرکت می کند
- نقطه پایانی چند مدل
- چندگانه
- طبیعی
- طبیعت
- نیاز
- نیازهای
- جدید
- nlp
- اطلاعیه ها
- هدف
- تشخیص شی
- اشیاء
- اقیانوس
- پیشنهادات
- مداوم
- باز کن
- داده های باز
- منبع باز
- خارج از
- مروری
- خود
- موازی
- پارامترهای
- احساساتی
- الگو
- انجام
- چشم انداز
- خط لوله
- سیاره
- افلاطون
- هوش داده افلاطون
- PlatoData
- پست
- شیوه های
- دقت
- پیش بینی
- پیش گویی
- پیش بینی
- اولویت بندی
- خصوصی
- مشکل
- روند
- فرآوری شده
- در حال پردازش
- تولید
- برنامه
- پروتکل
- نمونه
- نمونه سازی
- اثبات شده
- ارائه
- ارائه
- عمومی
- پورتو
- پورتوریکو
- قرار دادن
- سریع
- خام
- اخیر
- تازه
- توصیه
- کاهش
- رجیستری
- منتشر شد
- تسکین
- ضروری
- محققان
- حالت ارتجاعی
- قابل احترام
- پاسخ
- REST
- نتایج
- این فایل نقد می نویسید:
- ریکو
- مسیر
- مسیرها
- دویدن
- حکیم ساز
- ماهواره ای
- مقیاس پذیر
- مقیاس گذاری
- صحنه های
- جستجو
- فصل
- بخش
- بخش
- بخش
- بخش ها
- ارشد
- بدون سرور
- سرور
- سرویس
- خدمات
- مجموعه
- نشان می دهد
- ساده
- اندازه
- دود
- عکس فوری
- راه حل
- منابع
- متخصص
- خاص
- سنبله ها
- استاندارد
- شروع
- شروع می شود
- وضعیت هنر
- ایالات
- گام
- مراحل
- ذخیره سازی
- opbevare
- ذخیره شده
- طوفان
- استراتژی ها
- چنین
- پشتیبانی
- سیستم
- سیستم های
- گرفتن
- تیم
- تیم ها
- فن آوری
- فنی
- پیشرفته
- La
- اطلاعات
- تهدید
- سه
- زمان
- زمان بر
- به
- ابزار
- ابزار
- قطار
- آموزش دیده
- آموزش
- سفر
- ماشه
- دور زدن
- انواع
- فهمیدن
- منحصر به فرد
- به روز رسانی
- به روز رسانی
- us
- استفاده کنید
- مورد استفاده
- کاربران
- مختلف
- از طريق
- تصویری
- چشم انداز
- دید
- تجسم
- که
- اراده
- بدون
- مهاجرت کاری
- مشغول به کار
- با این نسخهها کار
- خواهد بود
- سال
- بازده
- شما
- شما
- یوتیوب
- زفیرنت