Mulai Lompatan Amazon SageMaker adalah pusat pembelajaran mesin (ML) yang dapat membantu Anda mempercepat perjalanan ML Anda. Dengan SageMaker JumpStart, Anda dapat menemukan dan menerapkan model fondasi yang tersedia untuk umum dan berpemilik hingga khusus Amazon SageMaker instans untuk aplikasi AI generatif Anda. SageMaker JumpStart memungkinkan Anda menerapkan model dasar dari lingkungan yang terisolasi jaringan, dan tidak berbagi data pelatihan dan inferensi pelanggan dengan penyedia model.
Dalam postingan ini, kami membahas cara memulai dengan model berpemilik dari penyedia model seperti AI21, Cohere, dan LightOn dari Studio Amazon SageMaker. SageMaker Studio adalah lingkungan notebook tempat pelanggan ilmuwan data perusahaan SageMaker mengevaluasi dan membuat model untuk aplikasi AI generatif berikutnya.
Model fondasi di SageMaker
Model Foundation adalah model ML berskala besar yang berisi miliaran parameter dan dilatih sebelumnya pada terabyte data teks dan gambar sehingga Anda dapat melakukan berbagai tugas, seperti peringkasan artikel dan pembuatan teks, gambar, atau video. Karena model dasar telah dilatih sebelumnya, mereka dapat membantu menurunkan biaya pelatihan dan infrastruktur serta memungkinkan penyesuaian untuk kasus penggunaan Anda.
SageMaker JumpStart menyediakan dua jenis model pondasi:
- Model eksklusif โ Model ini berasal dari penyedia seperti AI21 dengan model Jurassic-2, Cohere dengan Cohere Command, dan LightOn dengan Mini yang terlatih dalam algoritme dan data berpemilik. Anda tidak dapat melihat artefak model seperti bobot dan skrip, tetapi Anda masih dapat menerapkan ke instans SageMaker untuk inferensi.
- Model yang tersedia untuk umum โ Ini berasal dari hub model populer seperti Hugging Face with Stable Diffusion, Falcon, dan FLAN yang dilatih pada algoritme dan data yang tersedia untuk umum. Untuk model ini, pengguna memiliki akses ke artefak model dan dapat menyesuaikan dengan data mereka sendiri sebelum diterapkan untuk inferensi.
Temukan model
Anda dapat mengakses model dasar melalui SageMaker JumpStart di SageMaker Studio UI dan SageMaker Python SDK. Di bagian ini, kita membahas cara menemukan model di UI SageMaker Studio.
SageMaker Studio adalah lingkungan pengembangan terintegrasi (IDE) berbasis web untuk ML yang memungkinkan Anda membuat, melatih, men-debug, menerapkan, dan memantau model ML Anda. Untuk detail selengkapnya tentang cara memulai dan menyiapkan SageMaker Studio, lihat Studio Amazon SageMaker.
Setelah Anda berada di UI SageMaker Studio, Anda dapat mengakses SageMaker JumpStart, yang berisi model terlatih, notebook, dan solusi bawaan, di bawah Solusi bawaan dan otomatis.
Dari halaman arahan SageMaker JumpStart, Anda dapat menelusuri solusi, model, buku catatan, dan sumber daya lainnya. Tangkapan layar berikut menunjukkan contoh halaman arahan dengan solusi dan model pondasi yang terdaftar.
Setiap model memiliki kartu model, seperti yang ditunjukkan pada tangkapan layar berikut, yang berisi nama model, apakah dapat disesuaikan atau tidak, nama penyedia, dan deskripsi singkat tentang model tersebut. Anda juga dapat membuka kartu model untuk mempelajari model lebih lanjut dan memulai pelatihan atau penerapan.
Berlangganan di AWS Marketplace
Model eksklusif di SageMaker JumpStart dipublikasikan oleh penyedia model seperti AI21, Cohere, dan LightOn. Anda dapat mengidentifikasi model berpemilik dengan tag โProprietaryโ pada kartu model, seperti yang ditunjukkan pada tangkapan layar berikut.
Kamu bisa memilih Lihat buku catatan pada kartu model untuk membuka notebook dalam mode hanya-baca, seperti yang ditunjukkan pada screenshot berikut. Anda dapat membaca notebook untuk informasi penting mengenai prasyarat dan instruksi penggunaan lainnya.
Setelah mengimpor notebook, Anda harus memilih lingkungan notebook yang sesuai (image, kernel, tipe instance, dan sebagainya) sebelum menjalankan kode. Anda juga harus mengikuti instruksi berlangganan dan penggunaan per notebook yang dipilih.
Sebelum menggunakan model berpemilik, Anda harus terlebih dahulu berlangganan model dari Pasar AWS:
- Buka halaman daftar model di AWS Marketplace.
URL disediakan di penting bagian buku catatan, atau Anda dapat mengaksesnya dari Halaman layanan SageMaker JumpStart. Halaman daftar menampilkan ikhtisar, harga, penggunaan, dan informasi dukungan tentang model.
- Di daftar AWS Marketplace, pilih Lanjutkan berlangganan.
Jika Anda tidak memiliki izin yang diperlukan untuk melihat atau berlangganan model tersebut, hubungi admin TI atau titik kontak pengadaan untuk berlangganan model tersebut untuk Anda. Banyak perusahaan mungkin membatasi izin AWS Marketplace untuk mengontrol tindakan yang dapat dilakukan seseorang dengan izin tersebut di Portal Manajemen AWS Marketplace.
- pada Berlangganan ke halaman perangkat lunak ini, tinjau detailnya dan pilih Terima penawaran jika Anda dan organisasi Anda setuju dengan persyaratan EULA, penetapan harga, dan dukungan.
Jika Anda memiliki pertanyaan atau permintaan untuk diskon volume, hubungi penyedia model secara langsung melalui email dukungan yang disediakan di halaman detail atau hubungi tim akun AWS Anda.
- Pilih Lanjutkan ke konfigurasi dan pilih Wilayah.
Anda akan melihat produk ARN ditampilkan. Ini adalah paket model ARN yang perlu Anda tentukan saat membuat model yang dapat diterapkan menggunakan Boto3.
- Salin ARN yang sesuai dengan Wilayah Anda dan tentukan yang sama di instruksi sel buku catatan.
Inferensi sampel dengan prompt sampel
Mari kita lihat beberapa contoh model fondasi dari A21 Labs, Cohere, dan LightOn yang dapat ditemukan dari SageMaker JumpStart di SageMaker Studio. Semuanya memiliki instruksi yang sama untuk berlangganan dari AWS Marketplace dan mengimpor serta mengonfigurasi notebook.
AI21 Ringkas
Model Ringkas oleh A121 Labs memadatkan teks panjang menjadi potongan pendek dan mudah dibaca yang tetap konsisten secara faktual dengan sumbernya. Model dilatih untuk menghasilkan ringkasan yang menangkap ide-ide kunci berdasarkan isi teks. Itu tidak memerlukan dorongan apa pun. Anda cukup menginput teks yang perlu diringkas. Teks sumber Anda dapat berisi hingga 50,000 karakter, diterjemahkan menjadi sekitar 10,000 kata, atau 40 halaman yang mengesankan.
Contoh notebook untuk model AI21 Summarize memberikan prasyarat penting yang perlu diikuti. Misalnya, model berlangganan dari AWS Marketplace , memiliki izin peran IAM yang sesuai, dan memerlukan versi boto3, dll. Ini memandu Anda melalui cara memilih paket model, membuat titik akhir untuk inferensi waktu nyata, lalu membersihkan.
Paket model yang dipilih berisi pemetaan ARN ke Wilayah. Ini adalah informasi yang Anda tangkap setelah memilih Lanjutkan ke konfigurasi di halaman langganan AWS Marketplace (di bagian Evaluasi dan berlangganan di Marketplace) lalu pilih Wilayah tempat Anda akan melihat ARN produk yang sesuai.
Notebook mungkin sudah memiliki ARN yang telah diisi sebelumnya.
Anda kemudian mengimpor beberapa pustaka yang diperlukan untuk menjalankan notebook ini dan menginstal wikipedia, yang merupakan pustaka Python yang memudahkan untuk mengakses dan mengurai data dari Wikipedia. Buku catatan menggunakan ini nanti untuk menunjukkan cara meringkas teks panjang dari Wikipedia.
Notebook juga mulai menginstal ai21
Python SDK, yang merupakan pembungkus dari API SageMaker seperti deploy
dan invoke endpoint
.
Beberapa sel buku catatan berikutnya berjalan melalui langkah-langkah berikut:
- Pilih Wilayah dan ambil ARN paket model dari peta paket model
- Buat titik akhir inferensi Anda dengan memilih jenis instans (bergantung pada kasus penggunaan Anda dan instans yang didukung untuk model tersebut; lihat Model khusus tugas untuk detail lebih lanjut) untuk menjalankan model
- Buat model yang dapat diterapkan dari paket model
Mari jalankan inferensi untuk menghasilkan ringkasan dari satu paragraf yang diambil dari artikel berita. Seperti yang Anda lihat di keluaran, teks yang dirangkum disajikan sebagai keluaran oleh model.
AI21 Summarize dapat menangani input hingga 50,000 karakter. Ini diterjemahkan menjadi sekitar 10,000 kata, atau 40 halaman. Sebagai demonstrasi perilaku model, kami memuat halaman dari Wikipedia.
Sekarang setelah Anda melakukan inferensi real-time untuk pengujian, Anda mungkin tidak memerlukan titik akhir lagi. Anda dapat menghapus titik akhir agar tidak dikenai biaya.
Komando Koheren
Cohere Command adalah model generatif yang merespons dengan baik dengan prompt seperti instruksi. Model ini memberi bisnis dan perusahaan dengan kualitas, kinerja, dan akurasi terbaik dalam semua tugas generatif. Anda dapat menggunakan model Perintah Cohere untuk memperkuat upaya copywriting, pengenalan entitas bernama, parafrase, atau peringkasan Anda dan membawanya ke tingkat berikutnya.
Contoh notebook untuk model Cohere Command memberikan prasyarat penting yang harus diikuti. Misalnya, model berlangganan dari AWS Marketplace, memiliki izin peran IAM yang sesuai, dan memerlukan versi boto3, dll. Ini memandu Anda melalui cara memilih paket model, membuat titik akhir untuk inferensi waktu nyata, lalu membersihkan.
Beberapa tugas serupa dengan yang tercakup dalam contoh notebook sebelumnya, seperti menginstal Boto3, menginstal cohere-sagemaker
(paket menyediakan fungsionalitas yang dikembangkan untuk menyederhanakan antarmuka dengan model Cohere), dan mendapatkan sesi dan Wilayah.
Mari jelajahi pembuatan titik akhir. Anda memberikan paket model ARN, nama titik akhir, jenis instans yang akan digunakan, dan jumlah instans. Setelah dibuat, titik akhir muncul di endpoint bagian SageMaker.
Sekarang mari jalankan inferensi untuk melihat beberapa output dari model Command.
Tangkapan layar berikut menunjukkan contoh contoh pembuatan posting pekerjaan dan outputnya. Seperti yang Anda lihat, model menghasilkan postingan dari prompt yang diberikan.
Sekarang mari kita lihat contoh berikut:
- Menghasilkan deskripsi produk
- Hasilkan paragraf tubuh dari posting blog
- Buat email penjangkauan
Seperti yang Anda lihat, model Cohere Command menghasilkan teks untuk berbagai tugas generatif.
Sekarang setelah Anda melakukan inferensi real-time untuk pengujian, Anda mungkin tidak memerlukan titik akhir lagi. Anda dapat menghapus titik akhir agar tidak dikenai biaya.
LightOn Mini-instruksikan
Mini-instruksikan, model AI dengan 40 miliar miliar parameter yang dibuat oleh LightOn, adalah sistem AI multibahasa yang kuat yang telah dilatih menggunakan data berkualitas tinggi dari berbagai sumber. Itu dibangun untuk memahami bahasa alami dan bereaksi terhadap perintah yang khusus untuk kebutuhan Anda. Performanya mengagumkan dalam produk konsumen seperti asisten suara, chatbots, dan peralatan pintar. Ini juga memiliki berbagai aplikasi bisnis, termasuk bantuan agen dan produksi bahasa alami untuk layanan pelanggan otomatis.
Notebook sampel untuk model instruksi LightOn Mini memberikan prasyarat penting yang perlu diikuti. Misalnya, model berlangganan dari AWS Marketplace, memiliki izin peran IAM yang sesuai, dan memerlukan versi boto3, dll. Ini memandu Anda melalui cara memilih paket model, membuat titik akhir untuk inferensi waktu nyata, lalu membersihkan.
Beberapa tugas serupa dengan yang tercakup dalam contoh notebook sebelumnya, seperti memasang Boto3 dan mendapatkan Wilayah sesi.
Mari kita lihat membuat titik akhir. Pertama, berikan paket model ARN, nama titik akhir, jenis instans yang akan digunakan, dan jumlah instans. Setelah dibuat, titik akhir muncul di bagian titik akhir SageMaker Anda.
Sekarang mari kita coba menyimpulkan model dengan memintanya untuk menghasilkan daftar ide artikel untuk suatu topik, dalam hal ini cat air.
Seperti yang Anda lihat, model instruksi LightOn Mini mampu menyediakan teks yang dihasilkan berdasarkan prompt yang diberikan.
Membersihkan
Setelah Anda menguji model dan membuat titik akhir di atas untuk contoh Model Foundation berpemilik, pastikan Anda menghapus titik akhir inferensi SageMaker dan menghapus model untuk menghindari biaya tambahan.
Kesimpulan
Dalam postingan ini, kami menunjukkan cara memulai model berpemilik dari penyedia model seperti AI21, Cohere, dan LightOn di SageMaker Studio. Pelanggan dapat menemukan dan menggunakan Model Foundation berpemilik di SageMaker JumpStart dari Studio, SageMaker SDK, dan SageMaker Console. Dengan ini, mereka memiliki akses ke model ML berskala besar yang berisi miliaran parameter dan dilatih sebelumnya pada terabyte data teks dan gambar sehingga pelanggan dapat melakukan berbagai tugas seperti peringkasan artikel dan pembuatan teks, gambar, atau video. Karena model dasar telah dilatih sebelumnya, mereka juga dapat membantu menurunkan biaya pelatihan dan infrastruktur serta memungkinkan penyesuaian untuk kasus penggunaan Anda.
Sumber
Tentang penulis
Juni Won adalah manajer produk dengan SageMaker JumpStart. Dia berfokus untuk membuat model fondasi mudah ditemukan dan digunakan untuk membantu pelanggan membangun aplikasi AI generatif.
Mani Khanuja adalah Spesialis Artificial Intelligence dan Machine Learning SA di Amazon Web Services (AWS). Dia membantu pelanggan menggunakan pembelajaran mesin untuk memecahkan tantangan bisnis mereka menggunakan AWS. Dia menghabiskan sebagian besar waktunya untuk menyelam lebih dalam dan mengajar pelanggan tentang proyek AI/ML yang terkait dengan visi komputer, pemrosesan bahasa alami, perkiraan, ML di edge, dan banyak lagi. Dia sangat menyukai ML di edge, oleh karena itu, dia telah membuat labnya sendiri dengan kit self-driving dan lini produksi manufaktur prototipe, di mana dia menghabiskan banyak waktu luangnya.
Nitin Eusebius adalah Sr. Enterprise Solutions Architect di AWS dengan pengalaman dalam Rekayasa Perangkat Lunak, Arsitektur Perusahaan, dan AI/ML. Dia bekerja dengan pelanggan untuk membantu mereka membangun aplikasi yang dirancang dengan baik di platform AWS. Dia bersemangat untuk memecahkan tantangan teknologi dan membantu pelanggan dalam perjalanan cloud mereka.
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
- PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
- PlatoESG. Otomotif / EV, Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
- BlockOffset. Modernisasi Kepemilikan Offset Lingkungan. Akses Di Sini.
- Sumber: https://aws.amazon.com/blogs/machine-learning/use-proprietary-foundation-models-from-amazon-sagemaker-jumpstart-in-amazon-sagemaker-studio/
- :memiliki
- :adalah
- :bukan
- :Di mana
- $NAIK
- 000
- 10
- 100
- 40
- 50
- 500
- 7
- 87
- a
- Sanggup
- Tentang Kami
- atas
- mempercepat
- mengakses
- Akun
- ketepatan
- tindakan
- admin
- Setelah
- Agen
- AI
- AI / ML
- algoritma
- Semua
- memungkinkan
- sudah
- juga
- Amazon
- Amazon SageMaker
- Mulai Lompatan Amazon SageMaker
- Studio Amazon SageMaker
- Amazon Web Services
- Layanan Web Amazon (AWS)
- an
- dan
- dan infrastruktur
- Apa pun
- lagi
- Lebah
- muncul
- peralatan
- aplikasi
- sesuai
- arsitektur
- ADALAH
- sekitar
- artikel
- artikel
- buatan
- kecerdasan buatan
- Kecerdasan Buatan dan Pembelajaran Mesin
- AS
- Bantuan
- asisten
- At
- Otomatis
- tersedia
- menghindari
- AWS
- Pasar AWS
- berdasarkan
- BE
- karena
- menjadi
- sebelum
- makhluk
- TERBAIK
- Milyar
- miliaran
- Blog
- tubuh
- membangun
- dibangun di
- bisnis
- Aplikasi Bisnis
- bisnis
- tapi
- by
- CAN
- menangkap
- ditangkap
- kartu
- Kartu-kartu
- yang
- kasus
- Sel
- tantangan
- karakter
- dibebankan
- beban
- chatbots
- Pilih
- memilih
- awan
- Kode
- komputer
- Visi Komputer
- konsisten
- konsul
- konsumen
- Produk konsumer
- kontak
- mengandung
- mengandung
- kontrol
- copywriting
- Sesuai
- Biaya
- tercakup
- membuat
- dibuat
- membuat
- pelanggan
- pelanggan
- kustomisasi
- data
- ilmuwan data
- dedicated
- mendalam
- Tergantung
- menyebarkan
- penggelaran
- penyebaran
- deskripsi
- rinci
- rincian
- dikembangkan
- Pengembangan
- Difusi
- langsung
- Diskon
- menemukan
- ditampilkan
- Tidak
- Dont
- mudah
- Mudah
- Tepi
- upaya
- aktif
- Titik akhir
- Teknik
- Enterprise
- perusahaan
- entitas
- Lingkungan Hidup
- dll
- mengevaluasi
- contoh
- contoh
- pengalaman
- menyelidiki
- Menghadapi
- beberapa
- Pertama
- berfokus
- mengikuti
- diikuti
- berikut
- Untuk
- Prinsip Dasar
- Gratis
- dari
- fungsi
- menghasilkan
- dihasilkan
- menghasilkan
- generasi
- generatif
- AI generatif
- mendapatkan
- mendapatkan
- diberikan
- Go
- menangani
- Memiliki
- he
- membantu
- membantu
- membantu
- dia
- berkualitas tinggi
- Seterpercayaapakah Olymp Trade? Kesimpulan
- How To
- HTML
- HTTPS
- Pusat
- ide-ide
- mengenali
- if
- gambar
- mengimpor
- penting
- pengimporan
- impresif
- in
- Termasuk
- informasi
- Infrastruktur
- memasukkan
- input
- install
- Instalasi
- contoh
- instruksi
- terpadu
- Intelijen
- ke
- terpencil
- IT
- NYA
- Pekerjaan
- perjalanan
- jpg
- kunci
- laboratorium
- Labs
- pendaratan
- bahasa
- besar-besaran
- kemudian
- BELAJAR
- pengetahuan
- Lets
- Tingkat
- perpustakaan
- Perpustakaan
- 'like'
- MEMBATASI
- baris
- Daftar
- Daftar
- daftar
- memuat
- Panjang
- melihat
- Lot
- menurunkan
- mesin
- Mesin belajar
- membuat
- MEMBUAT
- Membuat
- pengelolaan
- manajer
- pabrik
- banyak
- pemetaan
- pasar
- Mungkin..
- ML
- mode
- model
- model
- Memantau
- lebih
- paling
- nama
- Bernama
- Alam
- Pengolahan Bahasa alami
- perlu
- Perlu
- kebutuhan
- jaringan
- berita
- berikutnya
- buku catatan
- jumlah
- banyak sekali
- of
- on
- sekali
- Buka
- or
- organisasi
- Lainnya
- di luar
- keluaran
- penjangkauan
- lebih
- ikhtisar
- sendiri
- paket
- halaman
- parameter
- bergairah
- Melakukan
- prestasi
- dilakukan
- melakukan
- Izin
- Platform
- plato
- Kecerdasan Data Plato
- Data Plato
- Titik
- Populer
- Portal
- Pos
- kuat
- prasyarat
- disajikan
- sebelumnya
- di harga
- Sebelumnya
- hasil
- pengolahan
- pembelian
- Produk
- manajer produk
- Produksi
- Produk
- memprojeksikan
- hak milik
- prototipe
- memberikan
- disediakan
- pemberi
- penyedia
- menyediakan
- di depan umum
- diterbitkan
- Ular sanca
- kualitas
- Pertanyaan
- jarak
- mencapai
- Bereaksi
- Baca
- Mode Hanya-Baca
- real-time
- pengakuan
- mengenai
- wilayah
- daerah
- terkait
- tinggal
- permintaan
- membutuhkan
- wajib
- Sumber
- ulasan
- peran
- kira-kira
- Run
- berjalan
- SA
- pembuat bijak
- Inferensi SageMaker
- sama
- ilmuwan
- script
- SDK
- Bagian
- melihat
- terpilih
- memilih
- mengemudi sendiri
- layanan
- Layanan
- Sidang
- set
- Share
- dia
- Pendek
- harus
- menampilkan
- menunjukkan
- ditunjukkan
- Pertunjukkan
- mirip
- menyederhanakan
- hanya
- tunggal
- pintar
- So
- Perangkat lunak
- rekayasa Perangkat Lunak
- Solusi
- MEMECAHKAN
- Memecahkan
- beberapa
- Seseorang
- sumber
- sumber
- spesialis
- tertentu
- stabil
- awal
- mulai
- Tangga
- Masih
- studio
- berlangganan
- berlangganan
- seperti itu
- meringkaskan
- RINGKASAN
- mendukung
- Didukung
- sistem
- MENANDAI
- Mengambil
- diambil
- tugas
- Pengajaran
- tim
- Teknologi
- istilah
- diuji
- pengujian
- bahwa
- Grafik
- informasi
- Sumber
- mereka
- Mereka
- kemudian
- karena itu
- Ini
- mereka
- ini
- itu
- Melalui
- waktu
- untuk
- tema
- Pelatihan VE
- terlatih
- Pelatihan
- mencoba
- dua
- mengetik
- jenis
- ui
- bawah
- memahami
- URL
- dapat digunakan
- penggunaan
- menggunakan
- gunakan case
- bekas
- Pengguna
- kegunaan
- menggunakan
- berbagai
- versi
- melalui
- Video
- View
- penglihatan
- Suara
- volume
- adalah
- we
- jaringan
- layanan web
- berbasis web
- berat
- BAIK
- yang
- sementara
- lebar
- Rentang luas
- Wikipedia
- akan
- dengan
- kata
- bekerja
- Kamu
- Anda
- zephyrnet.dll