Cohere lleva la inteligencia artificial del lenguaje a Amazon SageMaker

Esta es una publicación invitada de Sudip Roy, gerente de personal técnico de Cohere.

Es un día emocionante para la comunidad de desarrollo. La IA de lenguaje de última generación de Cohere ahora está disponible a través de Amazon SageMaker. Esto hace que sea más fácil para los desarrolladores implementar el pre-entrenado de Cohere modelo de lenguaje de generación a Amazon SageMaker, un servicio de aprendizaje automático (ML) de extremo a extremo. Los desarrolladores, científicos de datos y analistas de negocios utilizan Amazon SageMaker para crear, entrenar e implementar modelos de aprendizaje automático de forma rápida y sencilla mediante su infraestructura, herramientas y flujos de trabajo completamente administrados.

En Cohere, la atención se centra en el lenguaje. La misión de la compañía es permitir que los desarrolladores y las empresas agreguen lenguaje AI a su pila de tecnología y construyan aplicaciones innovadoras con él. Cohere ayuda a los desarrolladores y las empresas a automatizar una amplia gama de tareas, como redacción, reconocimiento de entidades nombradas, paráfrasis, resumen de texto y clasificación. La empresa construye y mejora continuamente sus modelos de lenguaje extenso (LLM) de propósito general, haciéndolos accesibles a través de una plataforma fácil de usar. Las empresas pueden usar los modelos listos para usar o adaptarlos a sus necesidades particulares utilizando sus propios datos personalizados.

Los desarrolladores que utilicen SageMaker tendrán acceso al modelo de lenguaje de generación media de Cohere. El modelo de generación Media sobresale en tareas que requieren respuestas rápidas, como responder preguntas, redactar textos publicitarios o parafrasear. El modelo mediano se implementa en contenedores que permiten la inferencia de baja latencia en un conjunto diverso de aceleradores de hardware disponibles en AWS, lo que brinda diferentes ventajas de costo y rendimiento para los clientes de SageMaker.

“Amazon SageMaker proporciona el conjunto de servicios más amplio y completo que elimina el trabajo pesado de cada paso del proceso de aprendizaje automático. Nos complace ofrecer el modelo de lenguaje grande de propósito general de Cohere con Amazon SageMaker. Nuestros clientes conjuntos ahora pueden aprovechar la amplia gama de servicios de Amazon SageMaker e integrar el modelo de Cohere con sus aplicaciones para acelerar el tiempo de generación de valor y una innovación más rápida”.

-Rajneesh Singh, Gerente General AI/ML en Amazon Web Services.

“A medida que Cohere continúa ampliando los límites de la inteligencia artificial del lenguaje, estamos entusiasmados de unir fuerzas con Amazon SageMaker. Esta asociación nos permitirá llevar nuestra tecnología avanzada y enfoque innovador a una audiencia aún más amplia, lo que permitirá a los desarrolladores y organizaciones de todo el mundo aprovechar el poder de la inteligencia artificial del lenguaje y mantenerse a la vanguardia en un mercado cada vez más competitivo”.

-Saurabh Baji, vicepresidente senior de ingeniería de Cohere.

El modelo de lenguaje Cohere de generación media disponible a través de SageMaker proporciona a los desarrolladores tres beneficios clave:

• Cree, itere e implemente rápidamente: Cohere permite a cualquier desarrollador (no se requiere experiencia en NLP, ML o IA) para obtener acceso rápidamente a un modelo de generación de última generación preentrenado que comprende el contexto y la semántica a niveles sin precedentes. Este modelo lingüístico grande y de alta calidad reduce el tiempo de generación de valor para los clientes al proporcionar una solución lista para usar para una amplia gama de tareas de comprensión del idioma.
• Privado y seguro – Con SageMaker, los clientes pueden poner en marcha contenedores que sirvan a los modelos de Cohere sin tener que preocuparse de que sus datos abandonen estos contenedores autogestionados.
• Velocidad y precisión – El modelo Medium de Cohere ofrece a los clientes un buen equilibrio entre calidad, costo y latencia. Los desarrolladores pueden integrar fácilmente el punto final de Cohere Generate en las aplicaciones mediante una API y un SDK sencillos.

Comience con Cohere en SageMaker

Los desarrolladores pueden usar la interfaz visual de los modelos básicos de SageMaker JumpStart para probar los modelos de Cohere sin escribir una sola línea de código. Puede evaluar el modelo en su tarea específica de comprensión del lenguaje y aprender los conceptos básicos del uso de modelos de lenguaje generativo. Ver Cohere documentación y blog para varios tutoriales y consejos y trucos relacionados con el modelado del lenguaje.

Implemente el punto final de SageMaker mediante un cuaderno

Cohere ha empaquetado modelos medianos, junto con un marco de inferencia de baja latencia optimizado, en contenedores que se pueden implementar como extremos de inferencia de SageMaker. Los contenedores de Cohere se pueden implementar en una variedad de instancias diferentes (incluidas ml.p3.2xlarge, ml.g5.xlarge y ml.g5.2xlarge) que ofrecen diferentes compensaciones de costo/rendimiento. Estos contenedores están actualmente disponibles en dos Regiones: us-east-1 y eu-west-1. Cohere tiene la intención de expandir su oferta en un futuro próximo, lo que incluye aumentar la cantidad y el tamaño de los modelos disponibles, el conjunto de tareas admitidas (como los puntos finales construidos sobre estos modelos), las instancias admitidas y las regiones disponibles.

Para ayudar a los desarrolladores a comenzar rápidamente, Cohere ha proporcionado Cuadernos Jupyter que facilitan la implementación de estos contenedores y la ejecución de inferencias en los puntos finales implementados. Con el conjunto de constantes preconfiguradas en el cuaderno, la implementación del extremo se puede realizar fácilmente con solo un par de líneas de código, como se muestra en el siguiente ejemplo:

Una vez que se implementa el punto final, los usuarios pueden usar el SDK de Cohere para ejecutar la inferencia. El SDK se puede instalar fácilmente desde PyPI de la siguiente manera:

También se puede instalar desde el código fuente en Cohere's repositorio SDK GitHub público.

Una vez que se implementa el punto final, los usuarios pueden usar el punto final Cohere Generate para realizar múltiples tareas generativas, como resúmenes de texto, generación de contenido de formato largo, extracción de entidades o redacción de textos publicitarios. El repositorio de Jupyter Notebook y GitHub incluye ejemplos que demuestran algunos de estos casos de uso.

Conclusión

La disponibilidad de Cohere de forma nativa en SageMaker a través de AWS Marketplace representa un hito importante en el campo de la PNL. La capacidad del modelo Cohere para generar texto coherente y de alta calidad lo convierte en una herramienta valiosa para cualquier persona que trabaje con datos de texto.

Si está interesado en usar Cohere para sus propios proyectos de SageMaker, ahora puede acceder a él en Inicio rápido de SageMaker. Además, puede hacer referencia a Cohere Cuaderno de GitHub para obtener instrucciones sobre cómo implementar el modelo y acceder a él desde el Cohere Generar punto final.

---

Sobre los autores

Sudip Roy es gerente de personal técnico en Cohere, un proveedor de tecnología de procesamiento de lenguaje natural (NLP) de vanguardia. Sudip es un investigador consumado que ha publicado y formado parte de los comités de programa de las principales conferencias como NeurIPS, MLSys, OOPSLA, SIGMOD, VLDB y SIGKDD, y su trabajo ha ganado los premios Outstanding Paper de SIGMOD y MLSys.

Karthik Bharathy es el líder de producto del equipo de Amazon SageMaker con más de una década de experiencia en gestión de productos, estrategia de productos, ejecución y lanzamiento.

Carlos Albertsen lidera productos, ingeniería y ciencia para Amazon SageMaker Algorithms y JumpStart, el centro de aprendizaje automático de SageMaker. Le apasiona aplicar el aprendizaje automático para generar valor empresarial.

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• Platoblockchain. Inteligencia del Metaverso Web3. Conocimiento amplificado. Accede Aquí.
• Fuente: https://aws.amazon.com/blogs/machine-learning/cohere-brings-language-ai-to-amazon-sagemaker/