AWS Deep Learning Challenge näkee Amazon EC2 DL1 -esiintymien innovatiivisen ja vaikuttavan käytön

In AWS Deep Learning Challenge 5–2022, osallistujat korkeakouluista, startupeista ja yritysorganisaatioista liittyivät testaamaan taitojaan ja kouluttamaan valitsemaansa syvän oppimismallin Amazonin elastinen laskentapilvi (Amazon EC2) DL1-esiintymiä ja Habanan SynapseAI SDK. Intel-yhtiön Habana Labsin Gaudin kiihdyttimillä toimivat EC2 DL1 -esiintymät on suunniteltu erityisesti syvän oppimismallien koulutukseen. Osallistujat pystyivät ymmärtämään DL1:n tarjoamat merkittävät hinta/suorituskykyedut GPU-pohjaisiin esiintymiin verrattuna.

Olemme innoissamme voidessamme julkistaa voittajat ja esitellä joitain koneoppimismalleista (ML), jotka on koulutettu tässä hackathonissa. Opit joistakin syvän oppimisen käyttötapauksista, joita EC2 DL1 -esiintymät tukevat, mukaan lukien tietokonenäkö, luonnollisen kielen käsittely ja akustinen mallinnus.

Voittaneet mallit

Ensimmäisen sijamme voittaja on a Gustavo Zomerin esittämä hanke. Se on monikielisyyden toteutus CLIP (Kontrastiivinen kielikuvan esikoulutus). OpenAI esitteli CLIP:n vuonna 2021 keinona kouluttaa yleistävämpi kuvaluokittelu suurempiin tietokokonaisuuksiin itseohjatun oppimisen avulla. Se on koulutettu suureen kuvasarjaan, jossa on laaja valikoima luonnollisen kielen valvontaa, joka on runsaasti saatavilla Internetissä, mutta rajoittuu englannin kieleen. Tämä projekti korvaa CLIP:n tekstienkooderin monikielisellä tekstienkooderilla nimeltä XLM-RoBERTa laajentaakseen mallin sovellettavuutta useille kielille. Tämä muokattu CLIP-toteutus pystyy yhdistämään kuvat ja kuvatekstejä useilla kielillä. Mallia opetettiin 16 kiihdyttimellä kahdessa DL1-instanssissa, mikä osoitti, kuinka ML-harjoittelu voidaan skaalata käyttämään useita Gaudin kiihdyttimiä useissa solmuissa koulutuksen tehokkuuden lisäämiseksi ja harjoitteluajan lyhentämiseksi. Tuomarit tekivät vaikutuksen syvän oppimisen vaikuttavasta käytöstä kielimuurien murtamiseen sekä teknisestä toteutuksesta, jossa käytettiin hajautettua koulutusta.

Toisella sijalla meillä on a Remco van Akkerin esittämä hanke. Se käyttää GAN-verkkoa (Generative Adversarial Network) synteettisten verkkokalvon kuvatietojen luomiseen lääketieteellisiin sovelluksiin. Synteettistä dataa käytetään mallikoulutuksessa lääketieteellisissä sovelluksissa, jotta voidaan voittaa selostettujen lääketieteellisten tietojen niukkuus, mikä on työvoimavaltaista ja kallista tuottaa. Synteettistä dataa voidaan käyttää osana datan lisäystä, jotta voidaan poistaa harhoja ja tehdä näkömalleista lääketieteellisissä sovelluksissa yleistettävimpiä. Tämä projekti erottui joukosta, koska se otti käyttöön generatiivisen mallin DL1:ssä ratkaisemaan todellisen ongelman, joka vaikuttaa tekoälyn ja ML:n soveltamiseen terveydenhuollossa.

Kolmikkomme päätti a Zohar Jacksonin esittämä hanke joka toteutti näkömuuntajamallin semanttista segmentointia varten. Tämä projekti käyttää Ray Tune -kirjastoa hyperparametrien hienosäätämiseen ja käyttää Horovodia rinnakkain harjoituksen 16 Gaudin kiihdyttimellä kahdessa DL1-instanssissa.

Kolmen parhaan voittajan lisäksi osallistujat voittivat useita muita palkintoja, mukaan lukien paras tekninen toteutus, suurin mahdollinen vaikutus ja luovin projekti. Onnittelemme kaikkia tämän hackathonin voittajia tällaisen hackathonin rakentamisesta monipuolinen joukko vaikuttavia projekteja Gaudin kiihdytinpohjaisiin EC2 DL1 -esiintymiin. Emme malta odottaa, mitä osallistujamme jatkavat DL1-esiintymien rakentamista jatkossa.

Aloita DL1-esiintymien käyttö

Kuten tämän hackathonin eri projektit osoittavat, voit käyttää EC2 DL1 -esiintymiä kouluttaaksesi syväoppimismalleja käyttötapauksiin, kuten luonnollisen kielen käsittelyyn, objektien havaitsemiseen ja kuvantunnistukseen. DL1-esiintymillä saat myös jopa 40 % paremman hinta/suorituskyvyn syväoppimismallien koulutukseen verrattuna nykyisen sukupolven GPU-pohjaisiin EC2-esiintymiin. Vierailla Amazon EC2 DL1 -esiintymät saadaksesi lisätietoja siitä, kuinka DL1-esiintymät voivat nopeuttaa harjoitteluasi.

Tietoja kirjoittajista

Dvij Bajpai on AWS:n tuotepäällikkö. Hän kehittää EC2-esiintymiä koneoppimisen ja tehokkaan laskennan työkuormille.

Amr Ragab on AWS:n pääratkaisuarkkitehti. Hän tarjoaa teknisiä ohjeita, joiden avulla asiakkaat voivat suorittaa monimutkaisia ​​laskennallisia työkuormia mittakaavassa.

Shruti Koparkar on AWS:n tuotemarkkinointipäällikkö. Hän auttaa asiakkaita tutkimaan, arvioimaan ja ottamaan käyttöön EC2-kiihdytettyä laskentainfrastruktuuria koneoppimistarpeisiinsa.