Nuevo curso técnico de inmersión profunda: Fundamentos de IA generativa en AWS | Servicios web de Amazon

Nuevo curso técnico de inmersión profunda: Fundamentos de IA generativa en AWS | Servicios web de Amazon

Generative AI Foundations on AWS es un nuevo curso técnico de inmersión profunda que le brinda los fundamentos conceptuales, consejos prácticos y orientación práctica para entrenar previamente, ajustar e implementar modelos básicos de última generación en AWS y más allá de. Desarrollado por las fundaciones mundiales de IA generativa de AWS, Emily Webber, este curso práctico gratuito y el código fuente de soporte de GitHub se lanzaron a través de Youtube de AWS. Si está buscando una lista de reproducción seleccionada de los principales recursos, conceptos y orientación para ponerse al día con los modelos básicos, y especialmente aquellos que desbloquean capacidades generativas en sus proyectos de ciencia de datos y aprendizaje automático, entonces no busque más.

Durante esta inmersión profunda de 8 horas, se le presentarán las técnicas, los servicios y las tendencias clave que lo ayudarán a comprender los modelos básicos desde cero. Esto significa analizar la teoría, las matemáticas y los conceptos abstractos combinados con ejercicios prácticos para obtener una intuición funcional para la aplicación práctica. A lo largo del curso, nos enfocamos en un amplio espectro de técnicas de IA generativa progresivamente complejas, lo que le brinda una base sólida para comprender, diseñar y aplicar sus propios modelos para obtener el mejor rendimiento. Comenzaremos recapitulando los modelos básicos, comprendiendo de dónde provienen, cómo funcionan, cómo se relacionan con la IA generativa y qué puede hacer para personalizarlos. Luego aprenderá a elegir el modelo de base adecuado para su caso de uso.

Una vez que haya desarrollado una sólida comprensión contextual de los modelos básicos y cómo usarlos, se le presentará el tema central de este curso: el entrenamiento previo de nuevos modelos básicos. Aprenderá por qué querría hacer esto y cómo y dónde es competitivo. Incluso aprenderá a usar las leyes de escalado para elegir el modelo, el conjunto de datos y los tamaños de cálculo correctos. Cubriremos la preparación de conjuntos de datos de entrenamiento a escala en AWS, incluida la elección de las instancias y las técnicas de almacenamiento adecuadas. Cubriremos el ajuste fino de sus modelos básicos, la evaluación de técnicas recientes y la comprensión de cómo ejecutarlas con sus scripts y modelos. Nos sumergiremos en el aprendizaje de refuerzo con comentarios humanos, explorando cómo usarlo hábilmente y a escala para maximizar realmente el rendimiento de su modelo de base.

Por último, aprenderá a aplicar la teoría a la producción mediante la implementación de su nuevo modelo de base en Amazon SageMaker, incluso a través de múltiples GPU y utilizando patrones de diseño superiores como generación de recuperación aumentada y diálogo encadenado. Como beneficio adicional, lo guiaremos a través de una inmersión profunda en Difusión estable, las mejores prácticas de ingeniería rápidas, la implementación de LangChain y más.

¿Más lector que consumidor de videos? Puede consultar mi libro de 15 capítulos "Pretrain Vision and Large Language Models in Python: End-to-end technics for building and deployment Foundation models on AWS", que se publicó el 31 de mayo de 2023 con la publicación de Packt y está disponible ahora en Amazon. ¿Quieres saltar directamente al código? Estoy contigo: cada video comienza con una descripción general de 45 minutos de los conceptos y elementos visuales clave. Luego le daré un tutorial de 15 minutos de la parte práctica. Todos los cuadernos de ejemplo y el código de soporte se enviarán en un repositorio público, que puede usar para avanzar por su cuenta. Siéntete libre de contactarme en Medium, Etiqueta LinkedIn, GitHubo a través de sus equipos de AWS. Aprender más acerca de IA generativa en AWS.

¡Rastros felices!

Esquema del curso

1. Introducción a los modelos de cimentación

  • ¿Qué son los modelos de lenguaje grande y cómo funcionan?
  • ¿De dónde vienen?
  • ¿Cuáles son otros tipos de IA generativa?
  • ¿Cómo se personaliza un modelo de base?
  • ¿Cómo se evalúa un modelo generativo?
  • Recorrido práctico: Foundation Models en SageMaker

Diapositivas de la lección 1

Recursos de demostración práctica de la Lección 1

2. Elegir el modelo de base adecuado

  • Por qué es importante comenzar con el modelo de base correcto
  • Teniendo en cuenta el tamaño
  • Teniendo en cuenta la precisión
    • Teniendo en cuenta la facilidad de uso
  • Considerando la concesión de licencias
  • Teniendo en cuenta ejemplos anteriores de este modelo funcionando bien en su industria
    • Teniendo en cuenta los puntos de referencia externos

Diapositivas de la lección 2

Recursos de demostración práctica de la Lección 2

3. Uso de modelos de cimientos previamente entrenados: ingeniería rápida y ajuste fino

  • Los beneficios de comenzar con un modelo de base previamente entrenado
  • Ingeniería rápida:
    • Disparo cero
    • Un solo tiro
    • pocos disparos
    • Resumen
      • Clasificación
    • Traducción
  • Sintonia FINA
    • Puesta a punto clásica
    • Ajuste fino eficiente de parámetros
    • La nueva biblioteca de Hugging Face
    • Recorrido práctico: ingeniería rápida y ajuste fino en SageMaker

Diapositivas de la lección 3

Recursos de demostración práctica de la Lección 3

4. Preentrenamiento de un nuevo modelo básico

  • ¿Por qué querría o necesitaría crear un nuevo modelo de base?
    • Comparando el preentrenamiento con el ajuste fino
  • Preparación de su conjunto de datos para el preentrenamiento
  • Capacitación distribuida en SageMaker: bibliotecas, scripts, trabajos, recursos
  • Por qué y cómo adaptar un nuevo script a la formación distribuida de SageMaker

Diapositivas de la lección 4

Recursos de demostración práctica de la Lección 4

5. Preparación de datos y capacitación a escala

  • Opciones para preparar datos a escala en AWS
  • Explicar el paralelismo de trabajos de SageMaker en instancias de CPU
  • Explicar los modos de envío de datos a SageMaker Training
  • Introducción a FSx para Lustre
  • Uso de FSx for Lustre a escala para SageMaker Training
  • Tutorial práctico: configuración de Lustre para SageMaker Training

Diapositivas de la lección 5

Recursos de demostración práctica de la Lección 5

6. Aprendizaje por refuerzo con retroalimentación humana

  • ¿Qué es esta técnica y por qué nos importa?
  • Cómo soluciona los problemas de subjetividad y objetividad a través de la clasificación de las preferencias humanas a escala
  • ¿Cómo funciona?
  • Cómo hacer esto con SageMaker Ground Truth
  • Modelo de recompensa actualizado
  • Recorrido práctico: RLFH en SageMaker

Diapositivas de la lección 6

Recursos de demostración práctica de la Lección 6

7. Implementación de un modelo base

  • ¿Por qué queremos implementar modelos?
  • Diferentes opciones para implementar FM en AWS
  • Cómo optimizar su modelo para la implementación
  • Inmersión profunda en contenedores de despliegue de modelos grandes
  • Principales consejos de configuración para implementar FM en SageMaker
  • Sugerencias rápidas de ingeniería para invocar modelos de base
  • Uso de la generación aumentada de recuperación para mitigar las alucinaciones
  • Recorrido práctico: Implementación de un FM en SageMaker

Diapositivas de la lección 7

Recursos de demostración práctica de la Lección 7

Resumen

Fundamentos de IA generativa en AWS es uno de los siete nuevos cursos de AWS gratuitos y de bajo costo disponibles para ayudarlo a utilizar la IA generativa para personas de todos los roles y niveles de experiencia. Si es un líder empresarial interesado en cómo la IA generativa puede transformar su negocio o un desarrollador que busca utilizar la IA generativa para aumentar su productividad, tenemos capacitación para ayudarlo a desarrollar sus conocimientos y habilidades prácticas con los servicios de IA generativa de Amazon. Encuentre la capacitación adecuada para su nivel de habilidad y caso de uso en esta publicación de blog: 7 cursos de AWS gratuitos y de bajo costo que pueden ayudarlo a utilizar la IA generativa.


Acerca del autor.

Nuevo curso técnico de profundidad: Fundamentos de la IA generativa en AWS | Amazon Web Services PlatoBlockchain Inteligencia de datos. Búsqueda vertical. Ai.emilio webber se unió a AWS justo después del lanzamiento de SageMaker y ha estado tratando de contárselo al mundo desde entonces. Además de crear nuevas experiencias de aprendizaje automático para los clientes, a Emily le gusta meditar y estudiar el budismo tibetano.

Sello de tiempo:

Mas de Aprendizaje automático de AWS