Setelah Anda membangun, melatih, dan mengevaluasi model pembelajaran mesin (ML) Anda untuk memastikannya memecahkan masalah bisnis yang diusulkan, Anda ingin menerapkan model tersebut untuk memungkinkan pengambilan keputusan dalam operasi bisnis. Model yang mendukung fungsi kritis bisnis disebarkan ke lingkungan produksi tempat strategi rilis model diterapkan. Mengingat sifat model ML, di mana data terus berubah, Anda juga ingin memastikan bahwa model yang di-deploy masih relevan dengan data baru dan model diperbarui saat tidak demikian. Ini termasuk memilih strategi penerapan yang meminimalkan risiko dan waktu henti. Strategi penerapan yang optimal ini harus mempertahankan ketersediaan model yang tinggi, mempertimbangkan biaya bisnis penerapan model yang lebih rendah daripada yang sudah diproduksi, dan berisi fungsionalitas untuk dengan mudah memutar kembali ke versi model sebelumnya. Banyak dari pertimbangan dan pola penyebaran yang direkomendasikan ini juga tercakup dalam Kerangka AWS Well Architected โ Lensa Pembelajaran Mesin.
Selain memilih strategi penyebaran yang tepat, strategi tersebut harus diimplementasikan menggunakan mekanisme yang andal yang mencakup praktik MLOps. MLOps mencakup praktik yang mengintegrasikan beban kerja ML ke dalam manajemen rilis, CI/CD, dan operasi, yang memperhitungkan aspek unik proyek ML, termasuk pertimbangan penerapan dan pemantauan model. Amazon SageMaker untuk MLOps menyediakan alat yang dibuat khusus untuk mengotomatiskan dan menstandarkan langkah-langkah di seluruh siklus hidup ML, termasuk kemampuan untuk menerapkan dan mengelola model baru menggunakan pola penerapan lanjutan.
Dalam postingan ini, kami membahas cara menggunakan model ML Amazon SageMaker dengan cara yang berulang dan otomatis, mengintegrasikan varian produksi dan pagar pembatas penyebaran kapabilitas SageMaker dengan solusi MLOps. Kami memberi Anda pengantar tentang cara mengintegrasikan alat MLOps SageMaker dengan pola penerapan model SageMaker, yang berfokus pada titik akhir model tunggal waktu nyata.
Ikhtisar solusi
Kami menjelajahi pengujian model dan pola pagar pembatas berikut serta integrasinya dengan alat MLOps SageMaker:
- pengujian model โ Kami membandingkan versi model yang berbeda dalam produksi sebelum mengganti versi model saat ini. Posting ini membandingkan kemampuan pengujian model berikut:
- Pengujian A / B โ Dengan pengujian A/B, Anda membandingkan berbagai versi model Anda dalam produksi dengan mendistribusikan lalu lintas titik akhir di antara varian model Anda. Pengujian A/B digunakan dalam skenario di mana umpan balik loop tertutup dapat secara langsung mengikat output model ke metrik bisnis hilir. Umpan balik ini kemudian digunakan untuk menentukan signifikansi statistik dari perubahan dari satu model ke model lainnya, membantu Anda memilih model terbaik melalui pengujian produksi langsung.
- Tes bayangan โ Dengan pengujian bayangan, Anda menguji versi baru model Anda dalam produksi dengan mengirimkan permintaan ke model produksi dan model baru secara paralel. Data respons prediksi dari model produksi disajikan ke aplikasi, sedangkan prediksi versi model baru disimpan untuk pengujian tetapi tidak disajikan ke aplikasi produksi. Pengujian bayangan digunakan dalam situasi di mana tidak ada umpan balik loop tertutup yang memetakan metrik bisnis kembali ke prediksi model. Dalam skenario ini, Anda menggunakan kualitas model dan metrik operasional untuk membandingkan beberapa model, bukan dampak apa pun pada metrik bisnis hilir.
- Pergeseran lalu lintas โ Setelah Anda menguji model versi baru dan puas dengan kinerjanya, langkah selanjutnya adalah mengalihkan lalu lintas dari model saat ini ke model baru. Itu pagar pembatas penyebaran biru / hijau di SageMaker memungkinkan Anda beralih dengan mudah dari model saat ini dalam produksi (armada biru) ke model baru (armada hijau) dengan cara yang terkontrol. Penerapan biru/hijau menghindari waktu henti selama pembaruan model Anda, seperti yang akan Anda alami dalam skenario penerapan di tempat. Untuk memaksimalkan ketersediaan model, saat tulisan ini dibuat, penerapan biru/hijau adalah opsi default untuk pembaruan model di SageMaker. Kami membahas metode pengalihan lalu lintas berikut dalam posting ini:
- Pergeseran lalu lintas sekaligus โ 100% lalu lintas titik akhir Anda dialihkan dari armada biru ke armada hijau setelah armada hijau tersedia. Kita gunakan alarm in amazoncloudwatch yang memantau armada hijau Anda selama jangka waktu tertentu (the periode pemanggangan) dan jika tidak ada alarm yang terpicu, armada biru akan dihapus oleh SageMaker setelah periode pemanggangan.
- Pergeseran lalu lintas Canary โ Armada hijau Anda pertama kali terpapar pada proporsi lalu lintas yang lebih kecil (a kenari) dan divalidasi untuk masalah apa pun yang menggunakan alarm CloudWatch selama periode pemanggangan sementara armada biru terus menerima sebagian besar lalu lintas titik akhir. Setelah armada hijau divalidasi, semua lalu lintas dialihkan ke armada baru dan armada biru kemudian dihapus oleh SageMaker.
- Pergeseran lalu lintas linier biru/hijau pagar pembatas โ Anda secara bertahap mengalihkan lalu lintas dari armada biru ke armada hijau Anda dalam pendekatan bertahap. Model Anda kemudian dipantau dengan alarm CloudWatch selama periode pemanggangan di setiap langkah sebelum armada Biru diganti seluruhnya.
Posting ini berfokus pada deskripsi arsitektur yang memanfaatkan fitur MLOps SageMaker untuk melakukan penerapan model yang terkontrol melalui pagar pembatas penerapan dan strategi pengujian pemodelan yang telah kami cantumkan. Untuk informasi umum tentang pola ini, lihat Manfaatkan strategi penerapan lanjutan menggunakan pagar pembatas penerapan Amazon SageMaker dan Pemasangan pagar pembatas.
Terapkan model dengan SageMaker
SageMaker menawarkan beragam opsi penempatan yang bervariasi dari latensi rendah dan throughput tinggi hingga tugas inferensi yang berjalan lama. Opsi ini mencakup pertimbangan untuk batch, real-time, atau dekat inferensi real-time. Setiap opsi menawarkan fitur lanjutan yang berbeda, seperti kemampuan untuk menjalankan beberapa model pada satu titik akhir. Namun, seperti yang disebutkan sebelumnya, untuk posting ini, kami hanya membahas pola penerapan MLOps menggunakan titik akhir model tunggal. Untuk mempelajari lebih lanjut fitur penerapan SageMaker yang lebih canggih untuk inferensi real-time, lihat Modelkan pola hosting di Amazon SageMaker, Bagian 2: Memulai penerapan model waktu nyata di SageMaker.
Untuk memahami implementasi pola penerapan lanjutan menggunakan pipeline continuous delivery (CD), pertama-tama mari kita bahas konsep utama dalam SageMaker yang disebut varian model.
Varian model SageMaker
Varian model memungkinkan Anda menerapkan beberapa versi model ke titik akhir yang sama untuk menguji model Anda. Varian model di-deploy ke instance terpisah, sehingga tidak ada dampak pada varian lain saat salah satunya diupdate. Di SageMaker, varian model diimplementasikan sebagai varian produksi dan bayangan.
Varian produksi memungkinkan Anda menguji A/B beberapa versi model Anda untuk membandingkan kinerjanya. Dalam skenario ini, semua versi model Anda mengembalikan respons ke permintaan model. Lalu lintas titik akhir Anda didistribusikan di antara varian yang ada baik menurut distribusi lalu lintas, tempat Anda menetapkan bobot untuk setiap varian, atau menurut varian target, tempat parameter tertentu (misalnya Wilayah atau pasar) memutuskan model mana yang harus dipanggil.
Varian bayangan memungkinkan Anda melakukan shadow test versi baru model Anda. Dalam skenario ini, model Anda memiliki varian produksi dan varian bayangan yang diterapkan secara paralel ke titik akhir yang sama. Varian bayangan menerima lalu lintas data lengkap (atau sampel) dari titik akhir Anda. Namun, hanya prediksi varian produksi yang dikirim kembali ke pengguna aplikasi Anda, dan prediksi dari varian bayangan dicatat untuk dianalisis. Karena varian bayangan diluncurkan pada instans terpisah dari varian produksi, tidak ada dampak performa pada varian produksi Anda dalam pengujian ini. Dengan opsi ini, Anda menguji model baru dan meminimalkan risiko model berperforma rendah, dan Anda dapat membandingkan performa kedua model dengan data yang sama.
Pagar pembatas penyebaran SageMaker
Pagar pembatas adalah bagian penting dari pengembangan perangkat lunak. Mereka melindungi aplikasi Anda dan meminimalkan risiko penerapan versi baru aplikasi Anda. Demikian pula, pagar pembatas penerapan SageMaker memungkinkan Anda beralih dari satu versi model ke versi lainnya dengan cara yang terkontrol. Mulai Desember 2022, pagar pembatas SageMaker menyediakan implementasi untuk opsi penyebaran perpindahan lalu lintas biru/hijau, kenari, dan linier. Saat digabungkan dengan varian model, penerapan pagar pengaman dapat diterapkan baik untuk produksi maupun varian bayangan model Anda, memastikan tidak ada waktu henti selama pembaruan varian baru, dengan pengalihan lalu lintas yang dikontrol sesuai dengan opsi yang dipilih.
Fondasi MLOps untuk penerapan model
Dalam konteks yang lebih luas dari pembuatan model ML dan menerapkan alur kerja, kami ingin menerapkan tujuan praktik CI/CD yang dibuat untuk alur kerja ML. Mirip dengan sistem CI/CD tradisional, kami ingin mengotomatiskan pengujian perangkat lunak, pengujian integrasi, dan penerapan produksi. Namun, kami juga perlu menyertakan operasi khusus seputar siklus hidup ML yang tidak ada dalam siklus hidup pengembangan perangkat lunak tradisional seperti pelatihan model, eksperimen model, pengujian model, dan pemantauan model.
Untuk mencapai kemampuan khusus ML tersebut, fondasi MLOps seperti pengujian model otomatis, penerapan pagar pembatas, penerapan multi-akun, dan rollback model otomatis ditambahkan ke proses penerapan model. Ini memastikan bahwa kemampuan yang telah dijelaskan memungkinkan pengujian model dan menghindari waktu henti selama proses pembaruan model. Ini juga memberikan keandalan dan ketertelusuran yang diperlukan untuk peningkatan berkelanjutan dari model siap produksi. Selain itu, kemampuan seperti kemampuan untuk mengemas solusi yang ada ke dalam template yang dapat digunakan kembali dan menerapkan model dalam pengaturan multi-akun memastikan skalabilitas pola penerapan model yang dibahas di pos ke beberapa model di seluruh organisasi.
Gambar berikut menunjukkan pola umum koneksi kemampuan SageMaker untuk membuat pembangunan model end-to-end dan pipeline penerapan. Dalam contoh ini, model dikembangkan menggunakan SageMaker Pekerjaan Pemrosesan SageMaker untuk menjalankan kode pemrosesan data yang digunakan untuk menyiapkan data untuk algoritme ML. Pekerjaan Pelatihan SageMaker kemudian digunakan untuk melatih model ML pada data yang dihasilkan oleh tugas pemrosesan. Artefak model dan metadata terkait disimpan di Registri Model SageMaker sebagai langkah terakhir dari proses pelatihan. Ini diatur oleh Pipa SageMaker, yang merupakan layanan CI/CD yang dibuat khusus untuk ML yang membantu mengotomatiskan dan mengelola alur kerja ML dalam skala besar.
Setelah disetujui, model diuji dalam produksi dengan pengujian A/B atau penerapan bayangan. Setelah model divalidasi dalam produksi, kami menggunakan registri model untuk menyetujui model peluncuran produksi ke titik akhir SageMaker menggunakan salah satu opsi pagar pembatas penerapan.
Ketika proses pembaruan model selesai, Monitor Model SageMaker terus memantau kinerja model untuk penyimpangan ke dalam model dan kualitas data. Proses ini otomatis untuk menggunakan beberapa kasus penggunaan Proyek SageMaker template memetakan penyebaran infrastruktur ke pengaturan multi-akun untuk memastikan isolasi sumber daya yang lengkap dan kontrol biaya yang lebih mudah.
Pola penyebaran titik akhir model tunggal
Saat men-deploy model ke lingkungan produksi untuk pertama kalinya, Anda tidak memiliki model yang berjalan untuk dibandingkan, dan model yang di-deploy akan digunakan oleh aplikasi bisnis Anda. Setelah model diterapkan dan dipantau di lingkungan produksi, Anda mungkin ingin memperbarui model, baik secara rutin atau sesuai permintaan, saat data baru tersedia atau saat model Anda mendeteksi kesenjangan performa. Saat memperbarui model yang ada, Anda ingin memastikan bahwa model baru berperforma lebih baik daripada model saat ini dan dapat menangani lalu lintas permintaan prediksi dari aplikasi bisnis Anda. Selama periode validasi ini, Anda ingin model saat ini tetap tersedia untuk kemungkinan rollback guna meminimalkan risiko downtime pada aplikasi Anda.
Dalam gambaran pengembangan model yang lebih luas, model biasanya dilatih dalam akun pengembangan ilmu data. Ini termasuk alur kerja eksperimen yang sering digunakan dalam pengembangan model serta alur kerja pelatihan ulang yang digunakan dalam pipeline siap produksi. Semua metadata untuk eksperimen ini dapat dilacak menggunakan Eksperimen Amazon SageMaker selama pengembangan. Setelah alur kerja dimasukkan ke dalam pipeline untuk penggunaan produksi, metadata secara otomatis dilacak melalui SageMaker Pipelines. Untuk melacak model produksi yang layak di satu tempat, setelah eksperimen membawa metrik kinerja model (presisi, daya ingat, dan seterusnya) ke tingkat yang dapat diterima untuk produksi, a langkah kondisi dalam pipeline SageMaker memungkinkan model untuk didaftarkan ke dalam registri model.
Registri model memungkinkan Anda memicu penerapan model ini dengan proses persetujuan manual atau otomatis. Penerapan ini berlangsung di akun pengujian ML tempat pengujian operasional seperti pengujian integrasi, pengujian unit, latensi model, dan validasi model tambahan apa pun dapat dilakukan terhadap versi model baru. Perhatikan bahwa pengujian A/B dan pengujian bayangan tidak dilakukan di akun pengujian ML, melainkan di akun produksi ML.
Setelah model melewati semua validasi di akun pengujian, model siap diterapkan ke lingkungan produksi. Proses persetujuan baru memicu penerapan ini, dan pagar pembatas penerapan SageMaker memungkinkan rilis terkontrol dan proses pembaruan model transparan sesuai dengan mode pengalihan lalu lintas yang dipilih.
Diagram berikut menggambarkan arsitektur solusi ini.
Pergeseran lalu lintas sekaligus
Grafik sekaligus modus pengalihan lalu lintas memungkinkan Anda memperbarui versi model baru (armada hijau) dengan sepenuhnya mengalihkan 100% lalu lintas dari model Anda saat ini (armada biru) ke model baru Anda. Dengan opsi ini, Anda dapat mengonfigurasi periode pemanggangan selama kedua versi model Anda masih berjalan, dan Anda dapat dengan cepat dan otomatis memutar kembali ke versi saat ini jika model baru Anda tidak berfungsi seperti yang diharapkan. Kelemahan dari opsi ini adalah semua lalu lintas data Anda terpengaruh sekaligus, jadi jika ada masalah dengan penerapan model Anda, semua pengguna yang menggunakan aplikasi selama proses penerapan akan terpengaruh. Arsitektur berikut menunjukkan bagaimana opsi pengalihan lalu lintas sekaligus menangani pembaruan model.
Pergeseran lalu lintas sekaligus dapat dimasukkan ke dalam perkakas MLOps Anda dengan menentukan konfigurasi penerapan titik akhir Kebijakan Pembaruan BiruHijau mulai ALL_AT_ONCE
. Di pipeline MLOps Anda, setelah model baru disetujui untuk diterapkan ke akun produksi ML, SageMaker akan memeriksa apakah titik akhir model Anda sudah ada. Jika demikian, ALL_AT_ONCE
konfigurasi memicu pembaruan titik akhir yang mengikuti arsitektur. Kembalikan titik akhir Anda dikontrol berdasarkan Alarm CloudWatch ditentukan oleh titik akhir Anda AutoRollbackConfiguration
, yang ketika dipicu secara otomatis memulai rollback model ke versi model Anda saat ini.
Pergeseran lalu lintas Canary
Grafik pengalihan lalu lintas kenari mode memungkinkan Anda menguji model baru (armada hijau) dengan sebagian kecil lalu lintas data sebelum memperbarui model yang sedang berjalan (armada biru) ke versi baru atau memutar kembali versi baru, bergantung pada hasil pengujian kenari. Porsi lalu lintas yang digunakan untuk menguji model baru disebut canary, dan dalam opsi ini risiko model baru yang bermasalah diminimalkan ke lalu lintas canary sementara waktu pembaruan masih diminimalkan.
Penerapan Canary memungkinkan Anda meminimalkan risiko penerapan versi model baru dengan memaparkan versi model baru ke grup pengguna yang lebih kecil untuk memantau keefektifan selama periode waktu tertentu. Kelemahannya adalah mengelola beberapa versi untuk jangka waktu tertentu yang memungkinkan untuk mengumpulkan metrik kinerja yang cukup berarti untuk menentukan dampak kinerja. Manfaatnya adalah kemampuan untuk mengisolasi risiko ke kelompok pengguna yang lebih kecil.
Pergeseran lalu lintas Canary dapat dimasukkan ke dalam alat MLOps Anda dengan menentukan konfigurasi penerapan titik akhir dengan a Kebijakan Pembaruan BiruHijau mulai CANARY
dan mendefinisikan CanarySize
untuk menentukan berapa banyak lalu lintas titik akhir Anda yang harus dialihkan ke versi model baru. Sama halnya dengan opsi sekaligus, di alur MLOps Anda, setelah model baru disetujui untuk diterapkan ke akun produksi ML, SageMaker akan memeriksa apakah titik akhir model Anda sudah ada. Jika demikian, CANARY
konfigurasi memicu pembaruan titik akhir yang mengikuti arsitektur yang diuraikan dalam diagram berikut. Rollback titik akhir Anda dikontrol berdasarkan alarm CloudWatch yang ditentukan oleh titik akhir Anda AutoRollbackConfiguration
bahwa ketika dipicu secara otomatis memulai rollback model ke versi model Anda saat ini. Jenis alarm yang berguna untuk diterapkan di sini adalah 500 kode status dan latensi model; namun, setelan alarm ini harus disesuaikan dengan kasus penggunaan bisnis dan teknologi ML khusus Anda.
Pergeseran lalu lintas linier
Dalam majalah perpindahan lalu lintas linier model, Anda secara bertahap mengubah lalu lintas dari model Anda saat ini (armada biru) ke versi model baru (armada hijau) dengan meningkatkan lalu lintas data yang dikirim ke model baru secara bertahap. Dengan cara ini, proporsi lalu lintas yang digunakan untuk menguji versi model baru Anda secara bertahap meningkat di setiap langkah, dan waktu pemanggangan untuk setiap langkah memastikan bahwa model Anda masih beroperasi dengan lalu lintas baru. Dengan opsi ini, Anda meminimalkan risiko penerapan model berperforma rendah dan secara bertahap memaparkan model baru ke lebih banyak lalu lintas data. Kelemahan dari pendekatan ini adalah waktu pembaruan Anda lebih lama dan biaya menjalankan kedua model secara paralel meningkat.
Pergeseran lalu lintas linier dapat dimasukkan ke dalam alat MLOps Anda dengan menentukan konfigurasi penerapan titik akhir dengan BlueGreenUpdatePolicy diatur ke LINEAR
dan mendefinisikan LinearStepSize
untuk menentukan berapa banyak lalu lintas Anda yang harus dialihkan ke model baru di setiap langkah. Sama halnya dengan opsi sekaligus, di alur MLOps Anda, setelah model baru disetujui untuk diterapkan ke akun produksi ML, SageMaker akan memeriksa apakah titik akhir model Anda sudah ada. Jika demikian, LINEAR
konfigurasi memicu pembaruan titik akhir yang mengikuti arsitektur yang ditunjukkan dalam diagram berikut. Rollback titik akhir Anda dikontrol berdasarkan alarm CloudWatch yang ditentukan oleh titik akhir Anda AutoRollbackConfiguration
bahwa ketika dipicu secara otomatis memulai rollback model ke versi model Anda saat ini.
Pola penerapan dengan varian produksi model
Terlepas dari pola penerapan yang Anda pilih untuk aplikasi, Anda juga dapat menggunakan varian produksi untuk memvalidasi performa model sebelum memperbarui titik akhir atau menerapkan pola penerapan tambahan seperti penerapan bayangan. Dalam hal ini, Anda ingin menambahkan proses manual atau otomatis untuk memilih model terbaik yang akan diterapkan sebelum memperbarui titik akhir Anda. Arsitektur berikut menunjukkan bagaimana lalu lintas dan respons titik akhir Anda berperilaku dalam skenario penyebaran bayangan. Dalam skenario ini, setiap permintaan prediksi dikirimkan ke model baru dan model yang diterapkan; namun, hanya model yang diterapkan saat ini yang melayani respons prediksi ke aplikasi bisnis, sementara prediksi yang disajikan dari model baru dipertahankan hanya untuk analisis kinerja terhadap model yang diterapkan saat ini. Setelah performa model dievaluasi, versi model baru dapat digunakan untuk lalu lintas respons prediksi layanan ke aplikasi bisnis.
Rollback
Terlepas dari strategi penerapan yang Anda pilih untuk penerapan model, Anda ingin dapat memutar kembali ke versi model sebelumnya jika kinerja model baru Anda lebih rendah dari kinerja model Anda saat ini. Untuk melakukannya sambil meminimalkan waktu henti aplikasi, Anda perlu menjaga model saat ini berjalan secara paralel dengan yang baru hingga Anda yakin bahwa model baru Anda berperforma lebih baik daripada model saat ini.
Pagar pembatas penerapan SageMaker memungkinkan Anda menyetel alarm dan memutar kembali secara otomatis ke versi model sebelumnya selama periode validasi model. Setelah periode validasi selesai, Anda mungkin masih perlu memutar kembali ke versi model sebelumnya untuk mengatasi masalah baru yang ditemukan setelah pembaruan model selesai. Untuk melakukannya, Anda dapat memanfaatkan registri model SageMaker untuk menolak dan menyetujui model dan memicu a proses pengembalian.
Kesimpulan
Dalam postingan ini, Anda mempelajari cara mengombinasikan varian model titik akhir SageMaker dan pagar pembatas penerapan dengan kemampuan MLOps untuk membuat pola end-to-end untuk pengembangan model. Kami memberikan contoh implementasi untuk pagar pembatas penyebaran canary dan pergeseran linier yang terhubung dengan pipeline SageMaker dan registri model melalui proyek kustom SageMaker. Sebagai langkah selanjutnya, coba sesuaikan yang berikut ini Template untuk menerapkan strategi penerapan organisasi Anda.
Referensi
Tentang penulis
Maira Ladeira Tanke adalah Arsitek Solusi Spesialis ML di AWS. Dengan latar belakang ilmu data, ia memiliki 9 tahun pengalaman dalam merancang dan membangun aplikasi ML dengan pelanggan di berbagai industri. Sebagai pemimpin teknis, dia membantu pelanggan mempercepat pencapaian nilai bisnis mereka melalui teknologi yang muncul dan solusi inovatif. Di waktu senggangnya, Maira senang bepergian dan menghabiskan waktu bersama keluarganya di tempat yang hangat.
Tanah Liat Elmore adalah Arsitek Solusi Spesialis AI/ML di AWS. Setelah menghabiskan berjam-jam di lab penelitian material, latar belakangnya di bidang teknik kimia segera ditinggalkan untuk mengejar minatnya dalam pembelajaran mesin. Dia telah mengerjakan aplikasi ML di berbagai industri mulai dari perdagangan energi hingga pemasaran perhotelan. Clay memiliki minat khusus dalam membawa praktik pengembangan perangkat lunak ke ML dan membimbing pelanggan menuju solusi yang dapat diulang dan diskalakan dengan menggunakan prinsip-prinsip ini. Di waktu luangnya, Clay menikmati bermain ski, memecahkan kubus Rubik, membaca, dan memasak.
Shelbee Eigenbrode adalah Arsitek Solusi Spesialis AI dan Pembelajaran Mesin Utama di AWS. Dia telah berada di bidang teknologi selama 24 tahun yang mencakup berbagai industri, teknologi, dan peran. Dia saat ini berfokus untuk menggabungkan latar belakang DevOps dan ML-nya ke dalam domain MLOps untuk membantu pelanggan mengirimkan dan mengelola beban kerja ML dalam skala besar. Dengan lebih dari 35 paten yang diberikan di berbagai domain teknologi, dia memiliki hasrat untuk inovasi berkelanjutan dan menggunakan data untuk mendorong hasil bisnis. Shelbee adalah co-creator dan instruktur spesialisasi Ilmu Data Praktis di Coursera. Dia juga Co-Director Women In Big Data (WiBD), cabang Denver. Di waktu luangnya, dia suka menghabiskan waktu bersama keluarga, teman, dan anjing yang terlalu aktif.
Qi Yun Zhao adalah Insinyur Pengembangan Perangkat Lunak Senior dengan tim Platform Inferensi Amazon SageMaker. Dia adalah pengembang utama pagar pembatas penerapan dan penerapan bayangan, dan dia berfokus untuk membantu pelanggan mengelola beban kerja dan penerapan ML dalam skala besar dengan ketersediaan tinggi. Dia juga mengerjakan evolusi arsitektur platform untuk penerapan pekerjaan ML yang cepat dan aman serta menjalankan eksperimen online ML dengan nyaman. Di waktu luangnya, ia senang membaca, bermain game, dan jalan-jalan.
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- Platoblockchain. Intelijen Metaverse Web3. Pengetahuan Diperkuat. Akses Di Sini.
- Sumber: https://aws.amazon.com/blogs/machine-learning/mlops-deployment-best-practices-for-real-time-inference-model-serving-endpoints-with-amazon-sagemaker/
- 100
- 2022
- 7
- 9
- a
- kemampuan
- Sanggup
- mempercepat
- diterima
- Menurut
- Akun
- akuntansi
- Mencapai
- prestasi
- di seluruh
- menambahkan
- tambahan
- Tambahan
- Selain itu
- maju
- Keuntungan
- Setelah
- terhadap
- AI
- AI / ML
- alarm
- algoritma
- Semua
- memungkinkan
- sudah
- Amazon
- Amazon SageMaker
- jumlah
- analisis
- dan
- Lain
- Aplikasi
- aplikasi
- terapan
- pendekatan
- persetujuan
- menyetujui
- disetujui
- arsitektur
- sekitar
- aspek
- terkait
- mengotomatisasikan
- Otomatis
- secara otomatis
- tersedianya
- tersedia
- AWS
- kembali
- latar belakang
- berdasarkan
- dasar
- karena
- menjadi
- sebelum
- di belakang
- makhluk
- manfaat
- TERBAIK
- Praktik Terbaik
- Lebih baik
- antara
- Besar
- Big data
- Biru
- Membawa
- luas
- lebih luas
- Terbawa
- membangun
- Bangunan
- dibangun di
- bisnis
- Aplikasi Bisnis
- bernama
- kemampuan
- kasus
- kasus
- CD
- tertentu
- perubahan
- mengubah
- Bab
- Cek
- kimia
- memilih
- memilih
- tertutup
- kode
- menggabungkan
- bergabung
- menggabungkan
- Umum
- membandingkan
- lengkap
- sama sekali
- konsep
- yakin
- konfigurasi
- terhubung
- koneksi
- Mempertimbangkan
- pertimbangan
- mengandung
- konteks
- terus-menerus
- kontinu
- terus menerus
- kontrol
- dikendalikan
- Biaya
- Biaya
- menutupi
- tercakup
- membuat
- terbaru
- Sekarang
- adat
- pelanggan
- disesuaikan
- data
- pengolahan data
- ilmu data
- Desember
- Pengambilan Keputusan
- Default
- didefinisikan
- mendefinisikan
- menyampaikan
- pengiriman
- Permintaan
- menunjukkan
- Denver
- Tergantung
- menyebarkan
- dikerahkan
- penggelaran
- penyebaran
- penyebaran
- dijelaskan
- terdeteksi
- Menentukan
- dikembangkan
- Pengembang
- Pengembangan
- berbeda
- langsung
- ditemukan
- membahas
- dibahas
- didistribusikan
- mendistribusikan
- distribusi
- Tidak
- domain
- domain
- Dont
- Kelemahan
- penghentian
- mendorong
- selama
- setiap
- mudah
- mudah
- efektivitas
- antara
- muncul
- aktif
- ujung ke ujung
- Titik akhir
- energi
- insinyur
- Teknik
- cukup
- memastikan
- Memastikan
- memastikan
- Lingkungan Hidup
- penting
- mengevaluasi
- dievaluasi
- evolusi
- contoh
- ada
- ada
- diharapkan
- pengalaman
- menyelidiki
- terkena
- keluarga
- FAST
- Fitur
- umpan balik
- Angka
- Pertama
- pertama kali
- ARMADA KAPAL
- berfokus
- berfokus
- berikut
- berikut
- Foundations
- Kerangka
- Gratis
- teman
- dari
- penuh
- fungsi
- fungsi
- lebih lanjut
- game
- celah
- pertemuan
- Umum
- mendapatkan
- Memberikan
- diberikan
- bertahap
- diberikan
- Hijau
- Kelompok
- menangani
- Menangani
- membantu
- membantu
- membantu
- di sini
- High
- keramahan
- tuan
- JAM
- Seterpercayaapakah Olymp Trade? Kesimpulan
- How To
- Namun
- HTML
- HTTPS
- Dampak
- melaksanakan
- implementasi
- diimplementasikan
- mengimplementasikan
- perbaikan
- in
- memasukkan
- termasuk
- Termasuk
- Tergabung
- Pada meningkat
- Meningkatkan
- meningkatkan
- industri
- informasi
- Infrastruktur
- Innovation
- inovatif
- contoh
- sebagai gantinya
- mengintegrasikan
- Mengintegrasikan
- integrasi
- bunga
- Pengantar
- isolasi
- isu
- masalah
- IT
- Pekerjaan
- Jobs
- Menjaga
- kunci
- laboratorium
- Terakhir
- Latensi
- diluncurkan
- memimpin
- belajar
- pengetahuan
- Tingkat
- siklus hidup
- Daftar
- hidup
- lagi
- Rendah
- mesin
- Mesin belajar
- memelihara
- mengelola
- pengelolaan
- pelaksana
- panduan
- banyak
- pemetaan
- Pasar
- Marketing
- bahan
- Maksimalkan
- berarti
- mekanisme
- tersebut
- Metadata
- metode
- metrik
- Metrik
- mungkin
- meminimalkan
- ML
- MLOps
- mode
- model
- Pengujian Model
- model
- Memantau
- dipantau
- pemantauan
- monitor
- lebih
- paling
- beberapa
- Alam
- perlu
- Perlu
- New
- berikutnya
- Penawaran
- ONE
- secara online
- operasional
- Operasi
- optimal
- pilihan
- Opsi
- urutan
- organisasi
- Lainnya
- Hasil
- diuraikan
- paket
- Paralel
- parameter
- bagian
- melewati
- gairah
- Paten
- pola
- pola
- Melakukan
- prestasi
- melakukan
- periode
- gambar
- pipa saluran
- Tempat
- Platform
- plato
- Kecerdasan Data Plato
- Data Plato
- mungkin
- Pos
- Praktis
- praktek
- Ketelitian
- ramalan
- Prediksi
- Mempersiapkan
- menyajikan
- sebelumnya
- sebelumnya
- Utama
- prinsip-prinsip
- Masalah
- proses
- pengolahan
- Diproduksi
- Produksi
- proyek
- memprojeksikan
- diusulkan
- melindungi
- memberikan
- disediakan
- menyediakan
- tujuan
- menempatkan
- kualitas
- segera
- jarak
- mulai
- Bacaan
- siap
- nyata
- real-time
- menerima
- menerima
- direkomendasikan
- wilayah
- terdaftar
- pendaftaran
- reguler
- melepaskan
- relevan
- keandalan
- dapat diandalkan
- berulang
- diganti
- permintaan
- permintaan
- penelitian
- sumber
- tanggapan
- kembali
- dapat digunakan kembali
- Risiko
- risiko
- peran
- Menggulung
- bergulir
- Run
- berjalan
- pembuat bijak
- Inferensi SageMaker
- Pipa SageMaker
- sama
- puas
- puas dengan
- Skalabilitas
- terukur
- Skala
- skenario
- skenario
- Ilmu
- aman
- terpilih
- mengirim
- senior
- terpisah
- melayani
- layanan
- porsi
- set
- pengaturan
- penyiapan
- beberapa
- bayangan
- Pengujian Bayangan
- bergeser
- PERGESERAN
- harus
- Pertunjukkan
- makna
- mirip
- Demikian pula
- tunggal
- situasi
- kecil
- lebih kecil
- So
- Perangkat lunak
- pengembangan perangkat lunak
- larutan
- Solusi
- MEMECAHKAN
- Memecahkan
- khusus
- spesialis
- tertentu
- menghabiskan
- Pengeluaran
- mulai
- dimulai
- statistik
- Status
- Langkah
- Tangga
- Masih
- tersimpan
- strategi
- Penyelarasan
- disampaikan
- seperti itu
- mendukung
- Beralih
- sistem
- Mengambil
- Dibutuhkan
- target
- tim
- Teknis
- Teknologi
- Teknologi
- template
- uji
- pengujian
- tes
- Grafik
- mereka
- Melalui
- keluaran
- TIE
- waktu
- untuk
- alat
- terhadap
- Lacak
- jalur
- Trading
- tradisional
- lalu lintas
- Pelatihan VE
- terlatih
- Pelatihan
- jelas
- Perjalanan
- memicu
- dipicu
- jenis
- khas
- memahami
- unik
- satuan
- Memperbarui
- diperbarui
- Pembaruan
- memperbarui
- menggunakan
- gunakan case
- Pengguna
- Penggunaan
- MENGESAHKAN
- divalidasi
- pengesahan
- nilai
- Varian
- berbagai
- versi
- melalui
- giat
- hangat
- berat
- Apa
- Apa itu
- yang
- sementara
- akan
- dalam
- Wanita
- bekerja
- Alur kerja
- bekerja
- akan
- penulisan
- tahun
- Kamu
- Anda
- zephyrnet.dll