Nyt teknisk dyk-kursus: Generative AI Foundations på AWS | Amazon Web Services

Nyt teknisk dyk-kursus: Generative AI Foundations på AWS | Amazon Web Services

Generative AI Foundations på AWS er ​​et nyt teknisk dybt dykkekursus, der giver dig de konceptuelle grundprincipper, praktiske råd og praktisk vejledning til at fortræne, finjustere og implementere avancerede fundamentmodeller på AWS og ud over. Udviklet af AWS generative AI verdensomspændende fonde leder Emily Webber, dette gratis hands-on kursus og den understøttende GitHub kildekode lanceret via AWS Youtube. Hvis du leder efter en kurateret afspilningsliste med de bedste ressourcer, koncepter og vejledning til at komme op i gang med fundamentmodeller, og især dem, der låser op for generative muligheder i dine datavidenskab og maskinlæringsprojekter, så led ikke længere.

I løbet af dette 8-timers dyk vil du blive introduceret til de vigtigste teknikker, tjenester og trends, der vil hjælpe dig med at forstå fundamentmodeller fra bunden. Dette betyder at nedbryde teori, matematik og abstrakte begreber kombineret med praktiske øvelser for at få funktionel intuition til praktisk anvendelse. Gennem hele kurset fokuserer vi på et bredt spektrum af progressivt komplekse generative AI-teknikker, hvilket giver dig en stærk base til at forstå, designe og anvende dine egne modeller for den bedste ydeevne. Vi starter med at samle fundamentmodellerne sammen, forstå hvor de kommer fra, hvordan de fungerer, hvordan de relaterer til generativ AI, og hvad du kan gøre for at tilpasse dem. Du vil derefter lære at vælge den rigtige fundamentmodel, der passer til din brugssituation.

Når du har udviklet en stærk kontekstuel forståelse af fundamentmodeller og hvordan du bruger dem, vil du blive introduceret til kerneemnet i dette kursus: fortræning af nye fundamentmodeller. Du lærer, hvorfor du ønsker at gøre dette, samt hvordan og hvor det er konkurrencedygtigt. Du vil endda lære, hvordan du bruger skaleringslovene til at vælge den rigtige model, datasæt og beregningsstørrelser. Vi vil dække forberedelse af træningsdatasæt i stor skala på AWS, herunder valg af de rigtige forekomster og lagringsteknikker. Vi dækker finjustering af dine fundamentmodeller, evaluering af de seneste teknikker og forståelse af, hvordan du kører disse med dine scripts og modeller. Vi dykker ned i forstærkende læring med menneskelig feedback, og udforsker, hvordan du bruger det dygtigt og i skala for virkelig at maksimere din fundamentmodels ydeevne.

Endelig vil du lære, hvordan du anvender teori til produktion ved at implementere din nye fundamentmodel på Amazon SageMaker, herunder på tværs af flere GPU'er og ved hjælp af topdesignmønstre som forstærket genfinding og kædet dialog. Som en ekstra bonus vil vi guide dig gennem et stabilt diffusionsdyk, hurtige tekniske bedste praksisser, stand up LangChain og meget mere.

Mere en læser end en videoforbruger? Du kan tjekke min bog på 15 kapitler "Pretrain Vision and Large Language Models in Python: End-to-end techniques for building and deploying foundation models on AWS", som udkom 31. maj 2023 med Packt-udgivelse og er tilgængelig nu på Amazon. Vil du springe direkte ind i koden? Jeg er med dig – hver video starter med en 45-minutters oversigt over nøglebegreberne og det visuelle. Så vil jeg give dig en 15-minutters gennemgang af den praktiske del. Alle eksemplerne på notesbøger og understøttende kode sendes i et offentligt lager, som du kan bruge til at gå igennem på egen hånd. Du er velkommen til at kontakte mig på Medium, LinkedIn, GitHub, eller gennem dine AWS-teams. Lær mere om generativ AI på AWS.

Glade stier!

Kursusoversigt

1. Introduktion til fundamentmodeller

  • Hvad er store sprogmodeller, og hvordan fungerer de?
  • Hvor kommer de fra?
  • Hvad er andre typer generativ AI?
  • Hvordan tilpasser du en fundamentmodel?
  • Hvordan evaluerer man en generativ model?
  • Hands-on gennemgang: Foundation Models på SageMaker

Lektion 1 slides

Lektion 1 hands-on demo-ressourcer

2. Valg af den rigtige fundamentmodel

  • Hvorfor det er vigtigt at starte med den rigtige fundamentmodel
  • Størrelse taget i betragtning
  • I betragtning af nøjagtighed
    • Med tanke på brugervenlighed
  • Overvejer licens
  • I betragtning af tidligere eksempler på, at denne model fungerer godt i din branche
    • I betragtning af eksterne benchmarks

Lektion 2 slides

Lektion 2 hands-on demo-ressourcer

3. Brug af fortrænede fundamentmodeller: hurtig konstruktion og finjustering

  • Fordelene ved at starte med en præ-trænet fundamentmodel
  • Hurtig ingeniørarbejde:
    • Nulskud
    • Enkeltskud
    • Få-skudt
    • Resumé
      • Klassifikation
    • Oversættelse
  • Finjustering
    • Klassisk finjustering
    • Parameter effektiv finjustering
    • Hugging Faces nye bibliotek
    • Hands-on gennemgang: hurtig konstruktion og finjustering på SageMaker

Lektion 3 slides

Lektion 3 hands-on demo-ressourcer

4. Fortræning af en ny fundamentmodel

  • Hvorfor ønsker eller skal du oprette en ny fundamentmodel?
    • Sammenligning af fortræning med finjustering
  • Forberedelse af dit datasæt til fortræning
  • Distribueret træning på SageMaker: biblioteker, scripts, jobs, ressourcer
  • Hvorfor og hvordan man tilpasser et nyt script til SageMaker distribueret træning

Lektion 4 slides

Lektion 4 hands-on demo-ressourcer

5. Udarbejdelse af data og træning i skala

  • Muligheder for at forberede data i skala på AWS
  • Forklar SageMaker jobparallelisme på CPU-instanser
  • Forklar måder til at sende data til SageMaker Training
  • Introduktion til FSx for Luster
  • Brug af FSx til Luster i skala til SageMaker Training
  • Hands-on gennemgang: Konfiguration af Luster til SageMaker Training

Lektion 5 slides

Lektion 5 hands-on demo-ressourcer

6. Forstærkende læring med menneskelig feedback

  • Hvad er denne teknik, og hvorfor bekymrer vi os om det
  • Hvordan det kommer uden om problemer med subjektivitet og objektivitet ved at rangere menneskelige præferencer i skala
  • Hvordan virker det?
  • Sådan gør du dette med SageMaker Ground Truth
  • Opdateret belønningsmodellering
  • Hands-on walk through: RLFH på SageMaker

Lektion 6 slides

Lektion 6 hands-on demo-ressourcer

7. Implementering af en fundamentmodel

  • Hvorfor ønsker vi at implementere modeller?
  • Forskellige muligheder for at implementere FM'er på AWS
  • Sådan optimerer du din model til implementering
  • Dybdyk for containere med stor modelindsættelse
  • Top konfigurationstips til implementering af FM'er på SageMaker
  • Hurtige tekniske tips til at påberåbe sig fundamentmodeller
  • Brug af udvidet genfinding til at afbøde hallucinationer
  • Hands-on gennemgang: Implementering af en FM på SageMaker

Lektion 7 slides

Lektion 7 hands-on demo-ressourcer

Resumé

Generative AI Foundations på AWS er ​​et af syv nye gratis og billige AWS-kurser, der er tilgængelige for at hjælpe dig med at bruge generativ AI til folk i alle roller og erfaringsniveauer. Uanset om du er en virksomhedsleder, der er interesseret i, hvordan generativ AI kan transformere din virksomhed, eller en udvikler, der søger at bruge generativ AI til at øge din produktivitet, har vi træning til at hjælpe med at opbygge din viden og praktiske færdigheder med Amazons generative AI-tjenester. Find den rigtige træning til dit færdighedsniveau og use case i dette blogindlæg: 7 gratis og billige AWS-kurser, der kan hjælpe dig med at bruge generativ AI.


Om forfatteren

New technical deep dive course: Generative AI Foundations on AWS | Amazon Web Services PlatoBlockchain Data Intelligence. Vertical Search. Ai.Emily Webber sluttede sig til AWS lige efter SageMaker lancerede, og har forsøgt at fortælle verden om det lige siden! Ud over at bygge nye ML-oplevelser for kunder, nyder Emily at meditere og studere tibetansk buddhisme.

Tidsstempel:

Mere fra AWS maskinindlæring