Nouveau cours technique approfondi : Generative AI Foundations on AWS | Services Web Amazon

Generative AI Foundations on AWS est un nouveau cours technique approfondi qui vous donne les bases conceptuelles, des conseils pratiques et des conseils pratiques pour pré-former, affiner et déployer des modèles de base de pointe sur AWS et au-delà. Développé par les fondations mondiales d'IA générative d'AWS, Emily Webber, ce cours pratique gratuit et le code source GitHub de support lancé via AWS YouTube. Si vous recherchez une liste de lecture organisée des meilleures ressources, concepts et conseils pour vous familiariser avec les modèles de base, et en particulier ceux qui débloquent les capacités génératives de vos projets de science des données et d'apprentissage automatique, ne cherchez pas plus loin.

Au cours de cette plongée approfondie de 8 heures, vous découvrirez les techniques, services et tendances clés qui vous aideront à comprendre les modèles de base à partir de zéro. Cela signifie décomposer la théorie, les mathématiques et les concepts abstraits combinés à des exercices pratiques pour acquérir une intuition fonctionnelle pour une application pratique. Tout au long du cours, nous nous concentrons sur un large éventail de techniques d'IA générative progressivement complexes, vous donnant une base solide pour comprendre, concevoir et appliquer vos propres modèles pour les meilleures performances. Nous commencerons par récapituler les modèles de base, comprendre d'où ils viennent, comment ils fonctionnent, comment ils se rapportent à l'IA générative et ce que vous pouvez faire pour les personnaliser. Vous apprendrez ensuite à choisir le bon modèle de fondation en fonction de votre cas d'utilisation.

Une fois que vous aurez développé une solide compréhension contextuelle des modèles de base et comment les utiliser, vous serez initié au sujet central de ce cours : la pré-formation de nouveaux modèles de base. Vous apprendrez pourquoi vous voudriez faire cela ainsi que comment et où c'est compétitif. Vous apprendrez même à utiliser les lois de mise à l'échelle pour choisir le modèle, l'ensemble de données et les tailles de calcul appropriés. Nous couvrirons la préparation des ensembles de données de formation à grande échelle sur AWS, y compris la sélection des bonnes instances et des bonnes techniques de stockage. Nous couvrirons le réglage fin de vos modèles de base, l'évaluation des techniques récentes et la compréhension de la façon de les exécuter avec vos scripts et modèles. Nous plongerons dans l'apprentissage par renforcement avec des commentaires humains, en explorant comment l'utiliser habilement et à grande échelle pour vraiment maximiser les performances de votre modèle de base.

Enfin, vous apprendrez à appliquer la théorie à la production en déployant votre nouveau modèle de base sur Amazon Sage Maker, y compris sur plusieurs GPU et en utilisant les meilleurs modèles de conception tels que la génération augmentée de récupération et le dialogue enchaîné. En prime, nous vous guiderons à travers une plongée en profondeur sur la diffusion stable, les meilleures pratiques d'ingénierie rapide, la mise en place de LangChain, et plus encore.

Plutôt lecteur que consommateur de vidéo ? Vous pouvez consulter mon livre de 15 chapitres "Pretrain Vision and Large Language Models in Python: End-to-end techniques for building and deploying foundation models on AWS", qui a été publié le 31 mai 2023, avec les éditions Packt et est disponible dès maintenant sur Amazon. Vous voulez sauter directement dans le code ? Je suis avec vous - chaque vidéo commence par un aperçu de 45 minutes des principaux concepts et éléments visuels. Ensuite, je vous ferai une présentation de 15 minutes de la partie pratique. Tous les exemples de blocs-notes et le code de support seront livrés dans un référentiel public, que vous pouvez utiliser pour parcourir vous-même. N'hésitez pas à me contacter sur Medium, LinkedIn, GitHub, ou via vos équipes AWS. En savoir plus sur IA générative sur AWS.

Bonne route!

Plan de cours

1. Introduction aux modèles de base

Que sont les grands modèles de langage et comment fonctionnent-ils ? D'où viennent-ils? Quels sont les autres types d'IA générative ? Comment personnaliser un modèle de fondation ? Comment évaluez-vous un modèle génératif ? Visite pratique : Modèles de base sur SageMaker

Diapositives de la leçon 1 Ressources de démonstration pratique de la leçon 1

2. Choisir le bon modèle de fondation

Pourquoi commencer avec le bon modèle de fondation est important Compte tenu de la taille Compte tenu de la précision Considérant la facilité d'utilisation Considérer les licences Considérant les exemples précédents de ce modèle qui fonctionne bien dans votre secteur Prise en compte des benchmarks externes

Diapositives de la leçon 2 Ressources de démonstration pratique de la leçon 2

3. Utilisation de modèles de base pré-entraînés : ingénierie et ajustement rapides

Les avantages de commencer avec un modèle de base pré-formé Ingénierie rapide : Coup zéro Coup unique Peu de coups Récapitulation Classification Traduction Réglage fin Réglage fin classique Réglage fin efficace des paramètres La nouvelle bibliothèque de Hugging Face Visite pratique : ingénierie et mise au point rapides sur SageMaker

Diapositives de la leçon 3 Ressources de démonstration pratique de la leçon 3

4. Préformer un nouveau modèle de base

Pourquoi voudriez-vous ou auriez-vous besoin de créer un nouveau modèle de fondation ? Comparer la préformation à la mise au point Préparation de votre ensemble de données pour la pré-formation Formation distribuée sur SageMaker : librairies, scripts, jobs, ressources Pourquoi et comment adapter un nouveau script à la formation distribuée SageMaker

Diapositives de la leçon 4 Ressources de démonstration pratique de la leçon 4

5. Préparation des données et formation à grande échelle

Options de préparation des données à grande échelle sur AWS Expliquer le parallélisme des tâches SageMaker sur les instances CPU Expliquer les modes d'envoi de données à la formation SageMaker Introduction à FSx pour Lustre Utilisation de FSx for Lustre à grande échelle pour la formation SageMaker Procédure pratique : configuration de Lustre pour la formation SageMaker

Diapositives de la leçon 5 Ressources de démonstration pratique de la leçon 5

6. Apprentissage par renforcement avec rétroaction humaine

Quelle est cette technique et pourquoi nous en soucions-nous Comment il contourne les problèmes de subjectivité et d'objectivité en classant les préférences humaines à l'échelle Comment cela fonctionne ?  Comment faire cela avec SageMaker Ground Truth Modélisation des récompenses mise à jour Visite pratique : RLFH sur SageMaker

Diapositives de la leçon 6 Ressources de démonstration pratique de la leçon 6

7. Déploiement d'un modèle de base

Pourquoi voulons-nous déployer des modèles ? Différentes options pour déployer des FM sur AWS Comment optimiser votre modèle pour le déploiement Présentation détaillée du conteneur de déploiement de grands modèles Principaux conseils de configuration pour le déploiement de FM sur SageMaker Conseils d'ingénierie rapides pour invoquer des modèles de fondation Utilisation de la génération augmentée de récupération pour atténuer les hallucinations Procédure pratique : Déploiement d'un FM sur SageMaker

Diapositives de la leçon 7 Ressources de démonstration pratique de la leçon 7

Résumé

Generative AI Foundations on AWS est l'un des sept nouveaux cours AWS gratuits et peu coûteux disponibles pour vous aider à utiliser l'IA générative pour les personnes de tous rôles et niveaux d'expérience. Que vous soyez un chef d'entreprise intéressé par la façon dont l'IA générative peut transformer votre entreprise ou un développeur cherchant à utiliser l'IA générative pour augmenter votre productivité, nous proposons des formations pour vous aider à développer vos connaissances et vos compétences pratiques avec les services d'IA générative d'Amazon. Trouvez la formation adaptée à votre niveau de compétence et à votre cas d'utilisation dans cet article de blog : 7 cours AWS gratuits et peu coûteux qui peuvent vous aider à utiliser l'IA générative.

---

A propos de l'auteure

Emilie Webber a rejoint AWS juste après le lancement de SageMaker et essaie d'en parler au monde depuis ! En dehors de la création de nouvelles expériences ML pour les clients, Emily aime méditer et étudier le bouddhisme tibétain.

• Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
• PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
• PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
• PlatonESG. Automobile / VE, Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
• Décalages de bloc. Modernisation de la propriété des compensations environnementales. Accéder ici.
• La source: https://aws.amazon.com/blogs/machine-learning/new-technical-deep-dive-course-generative-ai-foundations-on-aws/