Diluncurkan pada 2021, Kanvas Amazon SageMaker adalah layanan visual, tunjuk dan klik untuk membuat dan menerapkan model pembelajaran mesin (ML) tanpa perlu menulis kode apa pun. Model Fondasi (FM) siap pakai yang tersedia di SageMaker Canvas memungkinkan pelanggan menggunakan AI generatif untuk tugas-tugas seperti pembuatan dan ringkasan konten.
Kami sangat senang mengumumkan pembaruan terkini pada Amazon SageMaker Canvas, yang menghadirkan kemampuan AI generatif baru yang menarik ke platform. Dengan dukungan untuk model Meta Llama 2 dan Mistral.AI serta peluncuran respons streaming, SageMaker Canvas terus memberdayakan semua orang yang ingin memulai AI generatif tanpa menulis satu baris kode pun. Dalam postingan kali ini, kami membahas pembaruan ini dan manfaatnya.
Memperkenalkan model Meta Llama 2 dan Mistral
Llama 2 adalah model fondasi mutakhir dari Meta yang menawarkan peningkatan skalabilitas dan keserbagunaan untuk berbagai tugas AI generatif. Pengguna telah melaporkan bahwa Llama 2 mampu terlibat dalam percakapan yang bermakna dan koheren, menghasilkan konten baru, dan mengekstraksi jawaban dari catatan yang ada. Llama 2 adalah salah satu model bahasa besar (LLM) tercanggih yang tersedia saat ini bagi komunitas sumber terbuka untuk membangun aplikasi bertenaga AI mereka sendiri.
Mistral.AI, perusahaan rintisan AI terkemuka di Prancis, telah mengembangkan Mistral 7B, model bahasa canggih dengan 7.3 miliar parameter. Model Mistral telah diterima dengan sangat baik oleh komunitas sumber terbuka berkat penggunaan Perhatian Kueri yang Dikelompokkan (GQA) untuk inferensi yang lebih cepat, menjadikannya sangat efisien dan memiliki kinerja yang sebanding dengan model dengan jumlah parameter dua atau tiga kali lipat.
Hari ini, kami sangat gembira mengumumkan bahwa SageMaker Canvas kini mendukung tiga varian model Llama 2 dan dua varian Mistral 7B:
Untuk menguji model ini, navigasikan ke SageMaker Canvas Model siap pakai halaman, lalu pilih Menghasilkan, mengekstrak, dan meringkas konten. Di sinilah Anda akan menemukan pengalaman obrolan SageMaker Canvas GenAI. Di sini, Anda dapat menggunakan model apa pun dari Amazon Bedrock atau SageMaker JumpStart dengan memilihnya di menu drop-down model.
Dalam kasus kami, kami memilih salah satu model Llama 2. Sekarang Anda dapat memberikan masukan atau pertanyaan Anda. Saat Anda mengirimkan masukan, SageMaker Canvas meneruskan masukan Anda ke model.
Memilih salah satu model yang tersedia di SageMaker Canvas yang paling cocok untuk kasus penggunaan Anda mengharuskan Anda mempertimbangkan informasi tentang model itu sendiri: model obrolan Llama-2-70B adalah model yang lebih besar (70 miliar parameter, dibandingkan dengan 13 miliar dengan Llama-2-13B-chat ), yang berarti bahwa kinerjanya secara umum lebih tinggi daripada yang lebih kecil, dengan mengorbankan latensi yang sedikit lebih tinggi dan peningkatan biaya per token. Mistral-7B memiliki performa yang sebanding dengan Llama-2-7B atau Llama-2-13B, namun dihosting di Amazon SageMaker. Artinya model penetapan harganya berbeda, beralih dari model penetapan harga dolar per token ke model dolar per jam. Hal ini bisa lebih hemat biaya dengan jumlah permintaan per jam yang signifikan dan penggunaan yang konsisten dalam skala besar. Semua model di atas dapat bekerja dengan baik pada berbagai kasus penggunaan, jadi saran kami adalah mengevaluasi model mana yang paling mampu memecahkan masalah Anda, dengan mempertimbangkan output, throughput, dan trade-off biaya.
Jika Anda mencari cara langsung untuk membandingkan perilaku model, SageMaker Canvas secara asli menyediakan kemampuan ini dalam bentuk perbandingan model. Anda dapat memilih hingga tiga model berbeda dan mengirimkan kueri yang sama ke semuanya sekaligus. SageMaker Canvas kemudian akan mendapatkan respons dari masing-masing model dan menampilkannya di UI obrolan berdampingan. Untuk melakukan ini, pilih Bandingkan dan pilih model lain untuk dibandingkan, seperti yang ditunjukkan di bawah ini:
Memperkenalkan streaming respons: Interaksi real-time dan peningkatan kinerja
Salah satu kemajuan penting dalam rilis ini adalah pengenalan tanggapan yang dialirkan. Streaming tanggapan memberikan pengalaman yang lebih kaya bagi pengguna dan mencerminkan pengalaman obrolan dengan lebih baik. Dengan respons streaming, pengguna dapat menerima masukan instan dan integrasi tanpa batas dalam aplikasi chatbot mereka. Hal ini memungkinkan pengalaman yang lebih interaktif dan responsif, sehingga meningkatkan kinerja keseluruhan dan kepuasan pengguna chatbot. Kemampuan untuk menerima tanggapan langsung seperti obrolan menciptakan alur percakapan yang lebih alami dan meningkatkan pengalaman pengguna.
Dengan fitur ini, kini Anda dapat berinteraksi dengan model AI Anda secara real-time, menerima respons instan, dan memungkinkan integrasi tanpa batas ke dalam berbagai aplikasi dan alur kerja. Semua model yang dapat ditanyakan di SageMaker Canvasโdari Amazon Bedrock dan SageMaker JumpStartโdapat mengalirkan respons ke pengguna.
Mulailah dari hari ini
Baik Anda membuat chatbot, sistem rekomendasi, atau asisten virtual, model Llama 2 dan Mistral yang dikombinasikan dengan respons yang dialirkan menghadirkan peningkatan kinerja dan interaktivitas pada proyek Anda.
Untuk menggunakan fitur terbaru SageMaker Canvas, pastikan untuk menghapus dan membuat ulang aplikasi. Untuk melakukan itu, keluar dari aplikasi dengan memilih Keluar, lalu buka SageMaker Canvas lagi. Anda akan melihat model-model baru dan menikmati rilis terbaru. Keluar dari aplikasi SageMaker Canvas akan melepaskan semua sumber daya yang digunakan oleh instans ruang kerja, sehingga menghindari timbulnya biaya tambahan yang tidak diinginkan.
Kesimpulan
Untuk memulai streaming tanggapan baru untuk model Llama 2 dan Mistral di SageMaker Canvas, kunjungi Konsol SageMaker dan jelajahi antarmuka intuitif. Untuk mempelajari lebih lanjut tentang bagaimana SageMaker Canvas dan AI generatif dapat membantu Anda mencapai tujuan bisnis Anda, lihat Berdayakan pengguna bisnis Anda untuk mengekstrak wawasan dari dokumen perusahaan menggunakan Amazon SageMaker Canvas dan Generative AI dan Mengatasi tantangan umum pusat kontak dengan AI generatif dan Amazon SageMaker Canvas.
Jika Anda ingin mempelajari lebih lanjut tentang fitur SageMaker Canvas dan mendalami kasus penggunaan ML lainnya, lihat postingan lain yang tersedia di Kategori Kanvas SageMaker dari Blog AWS ML. Kami tidak sabar untuk melihat aplikasi AI luar biasa yang akan Anda buat dengan kemampuan baru ini!
Tentang penulis
Davide Gallitelli adalah Arsitek Solusi Spesialis Senior untuk AI/ML. Dia berbasis di Brussels dan bekerja sama dengan pelanggan di seluruh dunia yang ingin mengadopsi teknologi Pembelajaran Mesin Kode Rendah/Tanpa Kode, dan AI Generatif. Dia telah menjadi seorang pengembang sejak masih sangat muda, mulai membuat kode pada usia 7 tahun. Dia mulai mempelajari AI/ML di universitas, dan mulai jatuh cinta padanya sejak saat itu.
Dan Sinnreich adalah Manajer Produk Senior di AWS, yang membantu mendemokratisasikan pembelajaran mesin berkode rendah/tanpa kode. Sebelum menggunakan AWS, Dan membangun dan mengkomersialkan platform SaaS perusahaan dan model rangkaian waktu yang digunakan oleh investor institusi untuk mengelola risiko dan membangun portofolio yang optimal. Di luar pekerjaan, dia sering bermain hoki, menyelam scuba, dan membaca fiksi ilmiah.
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
- PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
- PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
- PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
- Sumber: https://aws.amazon.com/blogs/machine-learning/announcing-support-for-llama-2-models-and-streaming-responses-in-amazon-sagemaker-canvas/
- :memiliki
- :adalah
- :Di mana
- $NAIK
- 100
- 13
- 2021
- 7
- 70
- a
- kemampuan
- Tentang Kami
- atas
- Akun
- Mencapai
- Tambahan
- mengambil
- kemajuan
- lagi
- terhadap
- usia
- AI
- Model AI
- Bertenaga AI
- AI / ML
- Semua
- memungkinkan
- menakjubkan
- Amazon
- Amazon SageMaker
- Kanvas Amazon SageMaker
- Amazon Web Services
- antara
- jumlah
- an
- dan
- Mengumumkan
- Mengumumkan
- jawaban
- Apa pun
- aplikasi
- Aplikasi
- aplikasi
- ADALAH
- sekitar
- AS
- Asisten
- At
- perhatian
- tersedia
- menghindari
- AWS
- berdasarkan
- BE
- menjadi
- di bawah
- Manfaat
- TERBAIK
- Lebih baik
- lebih besar
- Milyar
- Blog
- membawa
- Brussels
- membangun
- Bangunan
- dibangun di
- bisnis
- by
- CAN
- kanvas
- kemampuan
- kemampuan
- mampu
- kasus
- kasus
- pusat
- tantangan
- beban
- mengobrol
- ChatBot
- memeriksa
- Pilih
- memilih
- rapat
- kode
- KOHEREN
- bergabung
- Umum
- masyarakat
- perusahaan
- sebanding
- membandingkan
- dibandingkan
- perbandingan
- mengingat
- konsisten
- membangun
- kontak
- contact center
- Konten
- Pembuatan Konten
- terus
- Percakapan
- percakapan
- Biaya
- membuat
- menciptakan
- pelanggan
- canggih
- mendalam
- menyelam dalam
- mendemokrasikan
- penggelaran
- dikembangkan
- Pengembang
- berbeda
- membahas
- menyelam
- penyelaman
- do
- dokumen
- setiap
- Efektif
- efisien
- memberdayakan
- aktif
- memungkinkan
- menarik
- ditingkatkan
- meningkatkan
- menikmati
- Enterprise
- mengevaluasi
- semua orang
- gembira
- menarik
- ada
- pengalaman
- menyelidiki
- ekstrak
- Jatuh
- lebih cepat
- Fitur
- Fitur
- umpan balik
- Fiksi
- Menemukan
- cocok
- aliran
- Untuk
- bentuk
- ditemukan
- Prinsip Dasar
- Perancis
- dari
- genai
- umumnya
- menghasilkan
- generasi
- generatif
- AI generatif
- mendapatkan
- bumi
- Anda
- Memiliki
- he
- membantu
- membantu
- di sini
- lebih tinggi
- sangat
- host
- jam
- Seterpercayaapakah Olymp Trade? Kesimpulan
- Namun
- HTTPS
- Segera
- ditingkatkan
- meningkatkan
- in
- Pada meningkat
- informasi
- memasukkan
- wawasan
- contoh
- saat
- Kelembagaan
- investor institusi
- integrasi
- berinteraksi
- interaksi
- interaktif
- interaktivitas
- Antarmuka
- ke
- Pengantar
- intuitif
- Investor
- IT
- NYA
- jpg
- kunci
- bahasa
- besar
- Latensi
- Terbaru
- Latest Update
- jalankan
- terkemuka
- BELAJAR
- pengetahuan
- baris
- Llama
- mencatat
- penebangan
- mencari
- cinta
- mesin
- Mesin belajar
- membuat
- Membuat
- mengelola
- manajer
- cara
- berarti
- cara
- menu
- meta
- ML
- model
- model
- lebih
- bergerak
- secara asli
- Alam
- Arahkan
- Perlu
- New
- Catatan
- sekarang
- jumlah
- of
- Penawaran
- on
- sekali
- ONE
- Buka
- open source
- optimal
- or
- Lainnya
- kami
- di luar
- keluaran
- di luar
- secara keseluruhan
- sendiri
- halaman
- parameter
- untuk
- Melakukan
- prestasi
- pertunjukan
- melakukan
- gambar
- Platform
- Platform
- plato
- Kecerdasan Data Plato
- Data Plato
- bermain
- portofolio
- Pos
- Posts
- kuat
- sebelumnya
- di harga
- model penetapan harga
- Masalah
- Produk
- manajer produk
- memprojeksikan
- memberikan
- menyediakan
- pertanyaan
- jarak
- Bacaan
- nyata
- real-time
- menerima
- diterima
- menerima
- Rekomendasi
- lihat
- mencerminkan
- melepaskan
- Pers
- Dilaporkan
- permintaan
- membutuhkan
- Sumber
- tanggapan
- tanggapan
- responsif
- lebih kaya
- Risiko
- SaaS
- pembuat bijak
- sama
- kepuasan
- Skalabilitas
- Skala
- Ilmu
- Fiksi Ilmiah
- mulus
- melihat
- memilih
- memilih
- mengirim
- senior
- layanan
- Layanan
- harus
- Menunjukkan
- ditunjukkan
- penting
- sejak
- tunggal
- lebih kecil
- So
- Solusi
- Memecahkan
- sumber
- spesialis
- Start-up
- mulai
- Mulai
- state-of-the-art
- mudah
- aliran
- streaming
- Streaming
- seperti itu
- meringkaskan
- mendukung
- Mendukung
- yakin
- sistem
- Mengambil
- tugas
- Teknologi
- uji
- Terima kasih
- bahwa
- Grafik
- mereka
- Mereka
- diri
- kemudian
- karena itu
- Ini
- ini
- tiga
- senang
- keluaran
- waktu
- kali
- untuk
- hari ini
- token
- Dua kali
- dua
- ui
- universitas
- Pembaruan
- penggunaan
- menggunakan
- gunakan case
- bekas
- Pengguna
- Pengguna Pengalaman
- Pengguna
- menggunakan
- variasi
- fleksibilitas
- sangat
- maya
- Asisten virtual
- Mengunjungi
- visual
- menunggu
- ingin
- ingin
- adalah
- Cara..
- we
- jaringan
- layanan web
- BAIK
- yang
- lebar
- Rentang luas
- akan
- dengan
- tanpa
- Kerja
- Alur kerja
- bekerja
- menulis
- penulisan
- Kamu
- muda
- Anda
- zephyrnet.dll