JumpStart de Amazon SageMaker es un centro de aprendizaje automático (ML) que puede ayudarlo a acelerar su viaje de ML. Con SageMaker JumpStart, puede descubrir e implementar modelos de base patentados y disponibles públicamente para Amazon SageMaker instancias para sus aplicaciones de IA generativa. SageMaker JumpStart le permite implementar modelos básicos desde un entorno de red aislado y no comparte los datos de formación e inferencia de los clientes con los proveedores de modelos.
En esta publicación, explicamos cómo comenzar con modelos patentados de proveedores de modelos como AI21, Cohere y LightOn de Estudio Amazon SageMaker. SageMaker Studio es un entorno de notebook donde los clientes científicos de datos empresariales de SageMaker evalúan y crean modelos para sus próximas aplicaciones de IA generativa.
Modelos de base en SageMaker
Los modelos básicos son modelos de aprendizaje automático a gran escala que contienen miles de millones de parámetros y se entrenan previamente en terabytes de datos de texto e imágenes para que pueda realizar una amplia gama de tareas, como resúmenes de artículos y generación de texto, imágenes o videos. Debido a que los modelos básicos se entrenan previamente, pueden ayudar a reducir los costos de capacitación e infraestructura y permitir la personalización para su caso de uso.
SageMaker JumpStart proporciona dos tipos de modelos básicos:
- Modelos propietarios – Estos modelos son de proveedores como AI21 con modelos Jurassic-2, Cohere con Cohere Command y LightOn con Mini capacitados en algoritmos y datos patentados. No puede ver los artefactos del modelo, como el peso y las secuencias de comandos, pero aún puede implementar instancias de SageMaker para realizar inferencias.
- Modelos disponibles públicamente – Estos son de centros de modelos populares como Hugging Face con Stable Diffusion, Falcon y FLAN entrenados en algoritmos y datos disponibles públicamente. Para estos modelos, los usuarios tienen acceso a los artefactos del modelo y pueden ajustarlos con sus propios datos antes de la implementación para la inferencia.
Descubre modelos
Puede acceder a los modelos básicos a través de SageMaker JumpStart en la interfaz de usuario de SageMaker Studio y SageMaker Python SDK. En esta sección, repasaremos cómo descubrir los modelos en la interfaz de usuario de SageMaker Studio.
SageMaker Studio es un entorno de desarrollo integrado (IDE) basado en la web para ML que le permite crear, entrenar, depurar, implementar y monitorear sus modelos de ML. Para obtener más detalles sobre cómo comenzar y configurar SageMaker Studio, consulte Estudio Amazon SageMaker.
Una vez que esté en la interfaz de usuario de SageMaker Studio, puede acceder a SageMaker JumpStart, que contiene modelos preentrenados, cuadernos y soluciones prediseñadas, en Soluciones preconstruidas y automatizadas.
Desde la página de inicio de SageMaker JumpStart, puede buscar soluciones, modelos, cuadernos y otros recursos. La siguiente captura de pantalla muestra un ejemplo de la página de destino con las soluciones y los modelos básicos enumerados.
Cada modelo tiene una tarjeta de modelo, como se muestra en la siguiente captura de pantalla, que contiene el nombre del modelo, si se puede ajustar con precisión o no, el nombre del proveedor y una breve descripción del modelo. También puede abrir la tarjeta del modelo para obtener más información sobre el modelo y comenzar a entrenarlo o implementarlo.
Suscríbete en AWS Marketplace
Los modelos patentados en SageMaker JumpStart son publicados por proveedores de modelos como AI21, Cohere y LightOn. Puede identificar los modelos patentados por la etiqueta "Propietario" en las tarjetas de modelo, como se muestra en la siguiente captura de pantalla.
Tu puedes elegir Ver libreta en la tarjeta del modelo para abrir el notebook en modo de solo lectura, como se muestra en la siguiente captura de pantalla. Puede leer el cuaderno para obtener información importante sobre los requisitos previos y otras instrucciones de uso.
Después de importar el cuaderno, debe seleccionar el entorno de cuaderno adecuado (imagen, kernel, tipo de instancia, etc.) antes de ejecutar los códigos. También debe seguir las instrucciones de suscripción y uso del cuaderno seleccionado.
Antes de usar un modelo propietario, primero debe suscribirse al modelo desde AWS Marketplace:
- Abra la página de listado de modelos en AWS Marketplace.
La URL se proporciona en el Importante: del bloc de notas, o puede acceder a él desde la Página del servicio SageMaker JumpStart. La página de listado muestra información general, precios, uso y soporte sobre el modelo.
- En la lista de AWS Marketplace, elija Continuar suscribiéndote.
Si no tiene los permisos necesarios para ver o suscribirse al modelo, comuníquese con su administrador de TI o punto de contacto de compras para suscribirse al modelo por usted. Muchas empresas pueden limitar los permisos de AWS Marketplace para controlar las acciones que alguien con esos permisos puede realizar en el Portal de administración de AWS Marketplace.
- En Suscríbete a esta página de software, revisa los detalles y elige Aceptar la oferta si usted y su organización están de acuerdo con el EULA, los precios y los términos de soporte.
Si tiene alguna pregunta o una solicitud de descuento por volumen, comuníquese con el proveedor del modelo directamente a través del correo electrónico de soporte que se proporciona en la página de detalles o comuníquese con su equipo de cuenta de AWS.
- Elige Continuar con la configuración y elige una Región.
Verá que se muestra un ARN de producto. Este es el ARN del paquete del modelo que debe especificar al crear un modelo desplegable con Boto3.
- Copie el ARN correspondiente a su Región y especifique el mismo en la instrucción de la celda del cuaderno.
Ejemplo de inferencia con indicaciones de ejemplo
Veamos algunos de los modelos básicos de muestra de A21 Labs, Cohere y LightOn que se pueden detectar desde SageMaker JumpStart en SageMaker Studio. Todos ellos tienen las mismas instrucciones para suscribirse desde AWS Marketplace e importar y configurar el cuaderno.
AI21 Resumir
El modelo Summarize de A121 Labs condensa textos extensos en fragmentos breves y fáciles de leer que se mantienen coherentes con la fuente. El modelo está entrenado para generar resúmenes que capturan ideas clave basadas en un cuerpo de texto. No requiere ninguna indicación. Simplemente ingrese el texto que necesita ser resumido. Su texto de origen puede contener hasta 50,000 10,000 caracteres, lo que se traduce en aproximadamente 40 XNUMX palabras o unas impresionantes XNUMX páginas.
El cuaderno de muestra para el modelo AI21 Summarize proporciona requisitos previos importantes que deben seguirse. Por ejemplo, el modelo está suscrito desde AWS Marketplace, tiene los permisos de roles de IAM apropiados y la versión boto3 requerida, etc. Lo guía a través de cómo seleccionar el paquete del modelo, crear puntos finales para la inferencia en tiempo real y luego limpiar.
El paquete de modelo seleccionado contiene la asignación de ARN a Regiones. Esta es la información que capturó después de elegir Continuar con la configuración en la página de suscripción de AWS Marketplace (en la sección Evalúa y suscríbete en Marketplace) y luego seleccionando una Región para la cual verá el ARN del producto correspondiente.
Es posible que el bloc de notas ya tenga el ARN rellenado previamente.
Luego, importa algunas bibliotecas necesarias para ejecutar este cuaderno e instalar wikipedia, que es una biblioteca de Python que facilita el acceso y el análisis de datos de Wikipedia. El cuaderno usa esto más tarde para mostrar cómo resumir un texto largo de Wikipedia.
El portátil también procede a instalar el ai21
Python SDK, que es un contenedor de las API de SageMaker como deploy
y invoke endpoint
.
Las siguientes celdas del cuaderno recorren los siguientes pasos:
- Seleccione la región y obtenga el ARN del paquete del modelo del mapa del paquete del modelo.
- Cree su punto final de inferencia seleccionando un tipo de instancia (según su caso de uso y la instancia admitida para el modelo; consulte Modelos específicos de tareas para obtener más detalles) para ejecutar el modelo en
- Cree un modelo desplegable a partir del paquete del modelo.
Ejecutemos la inferencia para generar un resumen de un solo párrafo tomado de un artículo de noticias. Como puede ver en la salida, el texto resumido se presenta como una salida del modelo.
AI21 Summarize puede manejar entradas de hasta 50,000 caracteres. Esto se traduce en aproximadamente 10,000 palabras o 40 páginas. Como demostración del comportamiento del modelo, cargamos una página de Wikipedia.
Ahora que ha realizado una inferencia en tiempo real para la prueba, es posible que ya no necesite el punto final. Puede eliminar el punto final para evitar que se le cobre.
Comando Coherencia
Cohere Command es un modelo generativo que responde bien con indicaciones similares a instrucciones. Este modelo brinda a las empresas y empresas la mejor calidad, rendimiento y precisión en todas las tareas generativas. Puede utilizar el modelo Command de Cohere para fortalecer sus esfuerzos de redacción publicitaria, reconocimiento de entidades nombradas, paráfrasis o resúmenes y llevarlos al siguiente nivel.
El cuaderno de muestra para el modelo Cohere Command proporciona requisitos previos importantes que deben seguirse. Por ejemplo, el modelo está suscrito desde AWS Marketplace, tiene los permisos de roles de IAM apropiados y la versión boto3 requerida, etc. Lo guía a través de cómo seleccionar el paquete del modelo, crear puntos finales para la inferencia en tiempo real y luego limpiar.
Algunas de las tareas son similares a las cubiertas en el ejemplo de notebook anterior, como instalar Boto3, instalar cohere-sagemaker
(el paquete proporciona una funcionalidad desarrollada para simplificar la interfaz con el modelo Cohere) y obtener la sesión y la Región.
Exploremos la creación del punto final. Usted proporciona el ARN del paquete del modelo, el nombre del punto final, el tipo de instancia que se usará y la cantidad de instancias. Una vez creado, el punto final aparece en su punto final sección de SageMaker.
Ahora ejecutemos la inferencia para ver algunos de los resultados del modelo Command.
La siguiente captura de pantalla muestra un ejemplo de cómo generar una publicación de trabajo y su salida. Como puede ver, el modelo generó una publicación desde el aviso dado.
Ahora veamos los siguientes ejemplos:
- Generar una descripción del producto
- Generar un párrafo de cuerpo de una publicación de blog
- Generar un correo electrónico de divulgación
Como puede ver, el modelo Cohere Command generó texto para varias tareas generativas.
Ahora que ha realizado la inferencia en tiempo real para la prueba, es posible que ya no necesite el punto final. Puede eliminar el punto final para evitar que se le cobre.
LightOn Mini-instrucción
Mini-instruct, un modelo de IA con 40 billones de billones de parámetros creado por LightOn, es un poderoso sistema de IA multilingüe que ha sido entrenado usando datos de alta calidad de numerosas fuentes. Está diseñado para comprender el lenguaje natural y reaccionar a los comandos que son específicos para sus necesidades. Funciona admirablemente en productos de consumo como asistentes de voz, chatbots y dispositivos inteligentes. También tiene una amplia gama de aplicaciones comerciales, incluida la asistencia de agentes y la producción de lenguaje natural para la atención al cliente automatizada.
El cuaderno de muestra para el modelo LightOn Mini-instruct proporciona requisitos previos importantes que deben seguirse. Por ejemplo, el modelo está suscrito desde AWS Marketplace, tiene los permisos de roles de IAM apropiados y la versión boto3 requerida, etc. Lo guía a través de cómo seleccionar el paquete del modelo, crear puntos finales para la inferencia en tiempo real y luego limpiar.
Algunas de las tareas son similares a las cubiertas en el ejemplo anterior del cuaderno, como instalar Boto3 y obtener la región de la sesión.
Veamos cómo crear el punto final. Primero, proporcione el ARN del paquete del modelo, el nombre del punto final, el tipo de instancia que se usará y la cantidad de instancias. Una vez creado, el terminal aparece en su sección de terminales de SageMaker.
Ahora intentemos inferir el modelo pidiéndole que genere una lista de ideas para artículos sobre un tema, en este caso, acuarela.
Como puede ver, el modelo LightOn Mini-instruct pudo proporcionar texto generado en función del aviso dado.
Limpiar
Una vez que haya probado los modelos y creado los puntos finales anteriores para los modelos Foundation Models patentados de ejemplo, asegúrese de eliminar los puntos finales de inferencia de SageMaker y los modelos para evitar incurrir en cargos.
Conclusión
En esta publicación, le mostramos cómo comenzar con modelos patentados de proveedores de modelos como AI21, Cohere y LightOn en SageMaker Studio. Los clientes pueden descubrir y utilizar Foundation Models patentados en SageMaker JumpStart desde Studio, SageMaker SDK y SageMaker Console. Con esto, tienen acceso a modelos ML a gran escala que contienen miles de millones de parámetros y están entrenados previamente en terabytes de datos de texto e imágenes para que los clientes puedan realizar una amplia gama de tareas, como resúmenes de artículos y generación de texto, imágenes o videos. Debido a que los modelos básicos están preentrenados, también pueden ayudar a reducir los costos de capacitación e infraestructura y permitir la personalización para su caso de uso.
Recursos
Sobre los autores
junio ganó es gerente de producto en SageMaker JumpStart. Se enfoca en hacer que los modelos básicos sean fácilmente detectables y utilizables para ayudar a los clientes a crear aplicaciones de IA generativa.
Mani Januja es Especialista en Inteligencia Artificial y Aprendizaje Automático SA en Amazon Web Services (AWS). Ella ayuda a los clientes a usar el aprendizaje automático para resolver sus desafíos comerciales usando AWS. Pasa la mayor parte de su tiempo profundizando y enseñando a los clientes sobre proyectos de IA/ML relacionados con la visión artificial, el procesamiento del lenguaje natural, la previsión, el ML en el perímetro y más. Le apasiona el aprendizaje automático en el borde, por lo que ha creado su propio laboratorio con un kit autónomo y una línea de producción de fabricación de prototipos, donde pasa gran parte de su tiempo libre.
Nitin Eusebio es arquitecto sénior de soluciones empresariales en AWS con experiencia en ingeniería de software, arquitectura empresarial y AI/ML. Trabaja con los clientes para ayudarlos a crear aplicaciones bien diseñadas en la plataforma de AWS. Le apasiona resolver desafíos tecnológicos y ayudar a los clientes con su viaje a la nube.
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Automoción / vehículos eléctricos, Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- Desplazamientos de bloque. Modernización de la propiedad de compensaciones ambientales. Accede Aquí.
- Fuente: https://aws.amazon.com/blogs/machine-learning/use-proprietary-foundation-models-from-amazon-sagemaker-jumpstart-in-amazon-sagemaker-studio/
- :posee
- :es
- :no
- :dónde
- $ UP
- 000
- 10
- 100
- 40
- 50
- 500
- 7
- 87
- a
- Poder
- Nuestra Empresa
- arriba
- acelerar
- de la máquina
- Mi Cuenta
- la exactitud
- acciones
- Admin
- Después
- Agente
- AI
- AI / ML
- algoritmos
- Todos
- permite
- ya haya utilizado
- también
- Amazon
- Amazon SageMaker
- JumpStart de Amazon SageMaker
- Estudio Amazon SageMaker
- Amazon Web Services
- Servicios Web de Amazon (AWS)
- an
- y
- e infraestructura
- cualquier
- nunca más
- API
- aparece
- accesorios
- aplicaciones
- adecuado
- arquitectura
- somos
- en torno a
- artículo
- artificial
- inteligencia artificial
- Inteligencia Artificial y Aprendizaje Automático
- AS
- Ayuda
- asistentes
- At
- Confirmación de Viaje
- Hoy Disponibles
- evitar
- AWS
- AWS Marketplace
- basado
- BE
- porque
- esto
- antes
- "Ser"
- MEJOR
- mil millones
- miles de millones
- Blog
- cuerpo
- build
- construido
- Aplicaciones empresariales
- negocios
- pero
- by
- PUEDEN
- capturar
- capturado
- tarjeta
- Tarjetas
- servicios sociales
- case
- Células
- retos
- personajes
- cargado
- cargos
- Chatbots
- Elige
- la elección de
- Soluciones
- los códigos de
- computadora
- Visión por computador
- consistente
- Consola
- consumidor
- Productos de consumo
- contacte
- que no contengo
- contiene
- control
- redacción publicitaria
- Correspondiente
- Precio
- cubierto
- Para crear
- creado
- Creamos
- cliente
- Clientes
- personalización
- datos
- científico de datos
- a dedicados
- profundo
- Dependiente
- desplegar
- Desplegando
- despliegue
- descripción
- detalle
- detalles
- desarrollado
- Desarrollo
- Difusión
- directamente
- El descuento
- descrubrir
- aquí
- No
- No
- pasan fácilmente
- de forma sencilla
- Southern Implants
- esfuerzos
- habilitar
- Punto final
- Ingeniería
- Empresa
- empresas
- entidad
- Entorno
- etc.
- evaluar
- ejemplo
- ejemplos
- experience
- explorar
- Cara
- pocos
- Nombre
- se centra
- seguir
- seguido
- siguiendo
- Fundación
- Gratis
- Desde
- a la fatiga
- generar
- generado
- la generación de
- generación de AHSS
- generativo
- IA generativa
- obtener
- conseguir
- dado
- Go
- encargarse de
- Tienen
- he
- ayuda
- ayudando
- ayuda
- aquí
- alta calidad
- Cómo
- Como Hacer
- HTML
- HTTPS
- Bujes
- ideas
- Identifique
- if
- imagen
- importar
- importante
- importador
- impresionante
- in
- Incluye
- información
- EN LA MINA
- Las opciones de entrada
- entradas
- instalar
- instalando
- ejemplo
- Instrucciones
- COMPLETAMENTE
- Intelligence
- dentro
- aislado
- IT
- SUS
- Trabajos
- jpg
- Clave
- el lab
- labs
- aterrizaje
- idioma
- Gran escala
- luego
- APRENDE:
- aprendizaje
- Permíteme
- Nivel
- bibliotecas
- Biblioteca
- como
- LIMITE LAS
- línea
- Lista
- Listado
- listado
- carga
- Largo
- Mira
- Lote
- inferior
- máquina
- máquina de aprendizaje
- para lograr
- HACE
- Realizar
- Management
- gerente
- Fabricación
- muchos
- cartografía
- mercado
- Puede..
- ML
- Moda
- modelo
- modelos
- Monitorear
- más,
- MEJOR DE TU
- nombre
- Llamado
- Natural
- Procesamiento natural del lenguaje
- necesario
- ¿ Necesita ayuda
- del sistema,
- noticias
- Next
- cuaderno
- número
- numeroso
- of
- on
- una vez
- habiertos
- or
- organización
- Otro
- salir
- salida
- alcance
- Más de
- visión de conjunto
- EL DESARROLLADOR
- paquete
- página
- parámetros
- apasionado
- Realizar
- actuación
- realizado
- realiza
- permisos
- plataforma
- Platón
- Inteligencia de datos de Platón
- PlatónDatos
- punto
- Popular
- Portal
- Publicación
- poderoso
- requisitos previos
- presentó
- anterior
- cotización
- Anterior
- producto
- tratamiento
- obtención
- Producto
- gerente de producto
- Producción
- Productos
- proyecta
- propietario
- prototipo
- proporcionar
- previsto
- proveedor
- los proveedores
- proporciona un
- en público
- publicado
- Python
- calidad
- Preguntas
- distancia
- en comunicarse
- Reaccionar
- Leer
- Modo de solo lectura
- en tiempo real
- reconocimiento
- con respecto a
- región
- regiones
- relacionado
- permanecer
- solicita
- exigir
- Requisitos
- Recursos
- una estrategia SEO para aparecer en las búsquedas de Google.
- También soy miembro del cuerpo docente de World Extreme Medicine (WEM) y embajadora europea de igualdad para The Transformational Travel Council (TTC). En mi tiempo libre, soy una incansable aventurera, escaladora, patrona de día, buceadora y defensora de la igualdad de género en el deporte y la aventura. En XNUMX, fundé Almas Libres, una ONG nacida para involucrar, educar y empoderar a mujeres y niñas a través del deporte urbano, la cultura y la tecnología.
- aproximadamente
- Ejecutar
- correr
- SA
- sabio
- Inferencia de SageMaker
- mismo
- Científico
- guiones
- Sdk
- Sección
- ver
- seleccionado
- seleccionar
- auto-manejo
- de coches
- Servicios
- Sesión
- set
- Compartir
- ella
- En Corto
- tienes
- mostrar
- mostró
- mostrado
- Shows
- similares
- simplificar
- simplemente
- soltero
- inteligente
- So
- Software
- Ingeniería de software
- Soluciones
- RESOLVER
- Resolver
- algo
- Alguien
- Fuente
- Fuentes
- especialista
- soluciones y
- estable
- comienzo
- fundó
- pasos
- Sin embargo
- estudio
- Suscríbase
- suscripción
- tal
- resumir
- RESUMEN
- SOPORTE
- Soportado
- te
- ETIQUETA
- ¡Prepárate!
- toma
- tareas
- Educación
- equipo
- Tecnología
- términos
- probado
- Pruebas
- esa
- La
- la información
- La Fuente
- su
- Les
- luego
- por lo tanto
- Estas
- ellos
- así
- aquellos
- A través de esta formación, el personal docente y administrativo de escuelas y universidades estará preparado para manejar los recursos disponibles que derivan de la diversidad cultural de sus estudiantes. Además, un mejor y mayor entendimiento sobre estas diferencias y similitudes culturales permitirá alcanzar los objetivos de inclusión previstos.
- equipo
- a
- tema
- Entrenar
- entrenado
- Formación
- try
- dos
- tipo
- tipos
- ui
- bajo
- entender
- Enlance
- usable
- Uso
- utilizan el
- caso de uso
- usado
- usuarios
- usos
- usando
- diversos
- versión
- vía
- Video
- Ver
- visión
- Voz
- volumen
- fue
- we
- web
- servicios web
- Basado en la Web
- peso
- WELL
- que
- mientras
- amplio
- Amplia gama
- Wikipedia
- seguirá
- palabras
- funciona
- Usted
- tú
- zephyrnet