Cohere menghadirkan AI bahasa ke Amazon SageMaker

Ini adalah posting tamu oleh Sudip Roy, Manajer Staf Teknis di Cohere.

Ini adalah hari yang menyenangkan bagi komunitas pengembangan. AI bahasa Cohere yang canggih sekarang tersedia melalui Amazon SageMaker. Hal ini memudahkan pengembang untuk menerapkan pra-pelatihan Cohere model bahasa generasi untuk Amazon SageMaker, layanan machine learning (ML) end-to-end. Pengembang, ilmuwan data, dan analis bisnis menggunakan Amazon SageMaker untuk membangun, melatih, dan menerapkan model ML dengan cepat dan mudah menggunakan infrastruktur, alat, dan alur kerja yang terkelola sepenuhnya.

Di Cohere, fokusnya adalah pada bahasa. Misi perusahaan adalah untuk memungkinkan pengembang dan bisnis menambahkan bahasa AI ke tumpukan teknologi mereka dan membangun aplikasi pengubah permainan dengannya. Cohere membantu pengembang dan bisnis mengotomatiskan berbagai tugas, seperti copywriting, pengenalan entitas bernama, parafrase, peringkasan teks, dan klasifikasi. Perusahaan membangun dan terus meningkatkan model bahasa besar tujuan umum (LLM), membuatnya dapat diakses melalui platform yang mudah digunakan. Perusahaan dapat menggunakan model di luar kotak atau menyesuaikannya dengan kebutuhan khusus mereka menggunakan data kustom mereka sendiri.

Pengembang yang menggunakan SageMaker akan memiliki akses ke model bahasa generasi Menengah Cohere. Model generasi menengah unggul dalam tugas-tugas yang membutuhkan respons cepat, seperti menjawab pertanyaan, copywriting, atau parafrase. Model Medium diterapkan dalam wadah yang memungkinkan inferensi latensi rendah pada beragam rangkaian akselerator perangkat keras yang tersedia di AWS, memberikan keunggulan biaya dan kinerja yang berbeda untuk pelanggan SageMaker.

“Amazon SageMaker menyediakan rangkaian layanan terluas dan terlengkap yang menghilangkan beban berat dari setiap langkah proses pembelajaran mesin. Kami senang menawarkan model bahasa besar tujuan umum Cohere dengan Amazon SageMaker. Pelanggan bersama kami sekarang dapat memanfaatkan berbagai layanan Amazon SageMaker dan mengintegrasikan model Cohere dengan aplikasi mereka untuk mempercepat nilai waktu dan inovasi yang lebih cepat.”

-Rajneesh Singh, Manajer Umum AI/ML di Amazon Web Services.

“Sementara Cohere terus mendorong batasan AI bahasa, kami bersemangat untuk bergabung dengan Amazon SageMaker. Kemitraan ini akan memungkinkan kami menghadirkan teknologi canggih dan pendekatan inovatif kami ke audiens yang lebih luas, memberdayakan pengembang dan organisasi di seluruh dunia untuk memanfaatkan kekuatan AI bahasa dan tetap berada di depan kurva di pasar yang semakin kompetitif.”

-Saurabh Baji, Wakil Presiden Senior Teknik di Cohere.

Model bahasa generasi Cohere Medium yang tersedia melalui SageMaker, memberi pengembang tiga manfaat utama:

• Build, iterate, dan deploy dengan cepat – Cohere memberdayakan pengembang mana pun (tidak memerlukan keahlian NLP, ML, atau AI) untuk dengan cepat mendapatkan akses ke model generasi pra-terlatih dan canggih yang memahami konteks dan semantik pada tingkat yang belum pernah terjadi sebelumnya. Model bahasa berkualitas tinggi dan besar ini mengurangi nilai waktu bagi pelanggan dengan memberikan solusi out-of-the-box untuk berbagai tugas pemahaman bahasa.
• Pribadi dan aman – Dengan SageMaker, pelanggan dapat memutar wadah yang melayani model Cohere tanpa harus khawatir data mereka meninggalkan wadah yang dikelola sendiri ini.
• Kecepatan dan akurasi - Model Medium Cohere menawarkan pelanggan keseimbangan yang baik dalam kualitas, biaya, dan latensi. Pengembang dapat dengan mudah mengintegrasikan titik akhir Cohere Generate ke dalam aplikasi menggunakan API dan SDK sederhana.

Mulailah dengan Cohere di SageMaker

Pengembang dapat menggunakan antarmuka visual model dasar SageMaker JumpStart untuk menguji model Cohere tanpa menulis satu baris kode pun. Anda dapat mengevaluasi model pada tugas pemahaman bahasa khusus Anda dan mempelajari dasar-dasar penggunaan model bahasa generatif. Lihat Cohere dokumentasi dan blog untuk berbagai tutorial dan tips-and-trick terkait pemodelan bahasa.

Terapkan titik akhir SageMaker menggunakan notebook

Cohere telah mengemas model Medium, beserta kerangka kerja inferensi latensi rendah yang dioptimalkan, dalam kontainer yang dapat diterapkan sebagai titik akhir inferensi SageMaker. Kontainer Cohere dapat diterapkan pada berbagai instans yang berbeda (termasuk ml.p3.2xlarge, ml.g5.xlarge, dan ml.g5.2xlarge) yang menawarkan kompromi biaya/kinerja yang berbeda. Kontainer ini saat ini tersedia di dua Wilayah: us-east-1 dan eu-west-1. Cohere bermaksud memperluas penawarannya dalam waktu dekat, termasuk menambah jumlah dan ukuran model yang tersedia, kumpulan tugas yang didukung (seperti titik akhir yang dibangun di atas model ini), instans yang didukung, dan Wilayah yang tersedia.

Untuk membantu pengembang memulai dengan cepat, Cohere telah menyediakan Notebook Jupyter yang memudahkan penerapan kontainer ini dan menjalankan inferensi pada titik akhir yang diterapkan. Dengan rangkaian konstanta yang telah dikonfigurasikan sebelumnya di notebook, menerapkan titik akhir dapat dilakukan dengan mudah hanya dengan beberapa baris kode seperti yang ditampilkan dalam contoh berikut:

Setelah titik akhir diterapkan, pengguna dapat menggunakan SDK Cohere untuk menjalankan inferensi. SDK dapat diinstal dengan mudah dari PyPI sebagai berikut:

Itu juga dapat diinstal dari kode sumber di Cohere repositori SDK GitHub publik.

Setelah titik akhir diterapkan, pengguna dapat menggunakan titik akhir Cohere Generate untuk menyelesaikan beberapa tugas generatif, seperti peringkasan teks, pembuatan konten bentuk panjang, ekstraksi entitas, atau penulisan salinan. Notebook Jupyter dan repositori GitHub menyertakan contoh yang menunjukkan beberapa kasus penggunaan ini.

Kesimpulan

Ketersediaan Cohere secara native di SageMaker melalui AWS Marketplace merupakan tonggak penting dalam bidang NLP. Kemampuan model Cohere untuk menghasilkan teks yang koheren dan berkualitas tinggi menjadikannya alat yang berharga bagi siapa pun yang bekerja dengan data teks.

Jika Anda tertarik menggunakan Cohere untuk proyek SageMaker Anda sendiri, kini Anda dapat mengaksesnya di SageMaker JumpStart. Selain itu, Anda dapat mereferensikan Cohere Buku catatan GitHub untuk petunjuk penerapan model dan mengaksesnya dari Cohere Hasilkan titik akhir.

---

Tentang penulis

Sudip Roy adalah Manajer Staf Teknis di Cohere, penyedia teknologi pemrosesan bahasa alami (NLP) mutakhir. Sudip adalah peneliti ulung yang telah menerbitkan dan bertugas di komite program untuk konferensi terkemuka seperti NeurIPS, MLSys, OOPSLA, SIGMOD, VLDB, dan SIGKDD, dan karyanya telah mendapatkan penghargaan Outstanding Paper dari SIGMOD dan MLSys.

Karthik Bharathy adalah pemimpin produk untuk tim Amazon SageMaker dengan pengalaman manajemen produk, strategi produk, eksekusi, dan peluncuran selama lebih dari satu dekade.

Karl Albertsen memimpin produk, teknik, dan sains untuk Algoritma Amazon SageMaker dan JumpStart, pusat pembelajaran mesin SageMaker. Dia bersemangat menerapkan pembelajaran mesin untuk membuka nilai bisnis.

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• Platoblockchain. Intelijen Metaverse Web3. Pengetahuan Diperkuat. Akses Di Sini.
• Sumber: https://aws.amazon.com/blogs/machine-learning/cohere-brings-language-ai-to-amazon-sagemaker/