Cohere apporte l'IA linguistique à Amazon SageMaker

Ceci est un article invité de Sudip Roy, responsable du personnel technique chez Cohere.

C'est une journée passionnante pour la communauté du développement. L'IA linguistique de pointe de Cohere est désormais disponible via Amazon Sage Maker. Cela permet aux développeurs de déployer plus facilement les outils pré-formés de Cohere modèle de langage de génération à Amazon Sage Maker, un service de machine learning (ML) de bout en bout. Les développeurs, les scientifiques des données et les analystes commerciaux utilisent Amazon SageMaker pour créer, former et déployer des modèles ML rapidement et facilement à l'aide de son infrastructure, de ses outils et de ses flux de travail entièrement gérés.

Chez Cohere, l'accent est mis sur la langue. La mission de l'entreprise est de permettre aux développeurs et aux entreprises d'ajouter l'IA linguistique à leur pile technologique et de créer avec elle des applications qui changent la donne. Cohere aide les développeurs et les entreprises à automatiser un large éventail de tâches, telles que la rédaction, la reconnaissance d'entités nommées, la paraphrase, la synthèse de texte et la classification. La société construit et améliore continuellement ses grands modèles de langage à usage général (LLM), les rendant accessibles via une plate-forme simple à utiliser. Les entreprises peuvent utiliser les modèles prêts à l'emploi ou les adapter à leurs besoins particuliers en utilisant leurs propres données personnalisées.

Les développeurs utilisant SageMaker auront accès au modèle de langage de génération moyenne de Cohere. Le modèle de génération moyenne excelle dans les tâches qui nécessitent des réponses rapides, telles que la réponse aux questions, la rédaction ou la paraphrase. Le modèle Medium est déployé dans des conteneurs qui permettent une inférence à faible latence sur un ensemble diversifié d'accélérateurs matériels disponibles sur AWS, offrant différents avantages en termes de coûts et de performances pour les clients SageMaker.

« Amazon SageMaker fournit l'ensemble de services le plus large et le plus complet qui élimine les tâches lourdes à chaque étape du processus d'apprentissage automatique. Nous sommes ravis d'offrir le grand modèle de langage à usage général de Cohere avec Amazon SageMaker. Nos clients communs peuvent désormais tirer parti de la large gamme de services Amazon SageMaker et intégrer le modèle de Cohere à leurs applications pour un retour sur investissement accéléré et une innovation plus rapide.

- Rajneesh Singh, directeur général IA/ML chez Amazon Web Services.

« Alors que Cohere continue de repousser les limites de l'IA linguistique, nous sommes ravis de nous associer à Amazon SageMaker. Ce partenariat nous permettra d'apporter notre technologie de pointe et notre approche innovante à un public encore plus large, permettant aux développeurs et aux organisations du monde entier d'exploiter la puissance de l'IA linguistique et de garder une longueur d'avance sur un marché de plus en plus concurrentiel.

-Saurabh Baji, vice-président principal de l'ingénierie chez Cohere.

Le modèle de langage de génération Cohere Medium disponible via SageMaker offre aux développeurs trois avantages clés :

• Créez, itérez et déployez rapidement – Cohere permet à tout développeur (aucune expertise en NLP, ML ou IA requise) d'accéder rapidement à un modèle de génération de pointe pré-formé qui comprend le contexte et la sémantique à des niveaux sans précédent. Ce grand modèle linguistique de haute qualité réduit le délai de rentabilité pour les clients en fournissant une solution prête à l'emploi pour un large éventail de tâches de compréhension linguistique.
• Privé et sécurisé – Avec SageMaker, les clients peuvent faire tourner des conteneurs servant les modèles de Cohere sans avoir à se soucier du fait que leurs données quittent ces conteneurs autogérés.
• Vitesse et précision - Le modèle Medium de Cohere offre aux clients un bon équilibre entre qualité, coût et latence. Les développeurs peuvent facilement intégrer le point de terminaison Cohere Generate dans les applications à l'aide d'une simple API et d'un SDK.

Démarrer avec Cohere dans SageMaker

Les développeurs peuvent utiliser l'interface visuelle des modèles de base SageMaker JumpStart pour tester les modèles de Cohere sans écrire une seule ligne de code. Vous pouvez évaluer le modèle sur votre tâche spécifique de compréhension du langage et apprendre les bases de l'utilisation de modèles de langage génératifs. Voir Cohere Documentation et les blogue pour divers tutoriels et trucs et astuces liés à la modélisation du langage.

Déployer le point de terminaison SageMaker à l'aide d'un bloc-notes

Cohere propose des modèles Medium, ainsi qu'un cadre d'inférence optimisé à faible latence, dans des conteneurs pouvant être déployés en tant que points de terminaison d'inférence SageMaker. Les conteneurs de Cohere peuvent être déployés sur une gamme d'instances différentes (y compris ml.p3.2xlarge, ml.g5.xlarge et ml.g5.2xlarge) qui offrent différents compromis coût/performance. Ces conteneurs sont actuellement disponibles dans deux régions : us-east-1 et les eu-west-1. Cohere a l'intention d'étendre son offre dans un avenir proche, notamment en ajoutant au nombre et à la taille des modèles disponibles, l'ensemble des tâches prises en charge (telles que les points de terminaison construits sur ces modèles), les instances prises en charge et les régions disponibles.

Pour aider les développeurs à démarrer rapidement, Cohere a fourni Cahiers Jupyter qui facilitent le déploiement de ces conteneurs et l'exécution de l'inférence sur les points de terminaison déployés. Avec l'ensemble préconfiguré de constantes dans le bloc-notes, le déploiement du point de terminaison peut être facilement effectué avec seulement quelques lignes de code, comme illustré dans l'exemple suivant :

Une fois le point de terminaison déployé, les utilisateurs peuvent utiliser le SDK de Cohere pour exécuter l'inférence. Le SDK peut être installé facilement à partir de PyPI comme suit :

Il peut également être installé à partir du code source dans Cohere's référentiel public SDK GitHub.

Une fois le point de terminaison déployé, les utilisateurs peuvent utiliser le point de terminaison Cohere Generate pour accomplir plusieurs tâches génératives, telles que la synthèse de texte, la génération de contenu long, l'extraction d'entités ou la rédaction. Le bloc-notes Jupyter et le référentiel GitHub incluent des exemples illustrant certains de ces cas d'utilisation.

Conclusion

La disponibilité de Cohere nativement sur SageMaker via AWS Marketplace représente une étape majeure dans le domaine du NLP. La capacité du modèle Cohere à générer un texte cohérent de haute qualité en fait un outil précieux pour quiconque travaille avec des données textuelles.

Si vous souhaitez utiliser Cohere pour vos propres projets SageMaker, vous pouvez désormais y accéder sur SageMaker JumpStart. De plus, vous pouvez référencer Cohere's Bloc-notes GitHub pour obtenir des instructions sur le déploiement du modèle et y accéder à partir de Cohere Générer un point de terminaison.

---

À propos des auteurs

Sudip Roy est responsable du personnel technique chez Cohere, un fournisseur de technologies de traitement du langage naturel (TAL) de pointe. Sudip est un chercheur accompli qui a publié et siégé à des comités de programme pour des conférences de premier plan telles que NeurIPS, MLSys, OOPSLA, SIGMOD, VLDB et SIGKDD, et son travail a remporté des prix Outstanding Paper de SIGMOD et MLSys.

Karthik Bharaty est le chef de produit de l'équipe Amazon SageMaker avec plus d'une décennie d'expérience dans la gestion de produits, la stratégie de produits, l'exécution et le lancement.

Karl Albertsen dirige les produits, l'ingénierie et la science pour les algorithmes Amazon SageMaker et JumpStart, le centre d'apprentissage automatique de SageMaker. Il est passionné par l'application de l'apprentissage automatique pour libérer de la valeur commerciale.

• Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
• Platoblockchain. Intelligence métaverse Web3. Connaissance Amplifiée. Accéder ici.
• La source: https://aws.amazon.com/blogs/machine-learning/cohere-brings-language-ai-to-amazon-sagemaker/