Kuinka CCC Intelligent Solutions loi mukautetun lähestymistavan monimutkaisten AI-mallien isännöintiin käyttämällä Amazon SageMakeria

Julkaissut Platon

seuraajia: 0

Tämän viestin ovat kirjoittaneet Christopher Diaz, Sam Kinard, Jaime Hidalgo ja Daniel Suarez CCC Intelligent Solutionsista.

Tässä viestissä keskustelemme kuinka CCC:n älykkäät ratkaisut (CCC) yhdistettynä Amazon Sage Maker muiden AWS-palvelujen kanssa luodakseen mukautetun ratkaisun, joka pystyy isännöimään kuviteltavia monimutkaisia tekoälymalleja. CCC on johtava ohjelmisto-as-a-service (SaaS) -alusta usean biljoonan dollarin omaisuus- ja vahinkovakuutustaloudelle, joka tehostaa vakuutusyhtiöiden, korjaamoiden, autonvalmistajien, osien toimittajien, lainanantajien ja muiden toimintoja. CCC-pilviteknologia yhdistää yli 30,000 XNUMX yritystä, jotka digitalisoivat kriittisiä työnkulkuja, kaupankäyntiä ja asiakaskokemuksia. Tekoälyn, esineiden Internetin (IoT), asiakaskokemuksen sekä verkon ja työnkulun hallinnan luotettu johtaja CCC tarjoaa innovaatioita, jotka pitävät ihmisten elämän eteenpäin silloin, kun se on tärkeintä.

Haaste

CCC käsittelee vuosittain yli 1 biljoonan dollarin korvaustapahtumat. Kun yritys jatkaa kehitystään integroidakseen tekoälyn olemassa olevaan ja uuteen tuoteluetteloonsa, tämä vaatii kehittyneitä lähestymistapoja multimodaalisten koneoppimismallien (ML) kouluttamiseen ja käyttöönottoon monimutkaisten liiketoimintatarpeiden ratkaisemiseksi. Nämä ovat mallien luokka, joka tiivistää patentoidut algoritmit ja aihealueen asiantuntemuksen, jota CCC on hionut vuosien varrella. Näiden mallien pitäisi pystyä nielemään uusia kerroksia vivahteikas dataa ja asiakassääntöjä yksittäisten ennustetulosten luomiseksi. Tässä blogiviestissä opimme, kuinka CCC hyödynsi Amazon SageMaker -isännöintiä ja muita AWS-palveluita useiden multimodaalisten mallien käyttöönottamiseksi tai isännöimiseksi kokonaispäätelmäputkeen.

Kuten seuraavassa kaaviossa näkyy, kokonaisuus on kokoelma kahdesta tai useammasta mallista, jotka on järjestetty toimimaan lineaarisesti tai epälineaarisesti yhden ennusteen tuottamiseksi. Lineaarisesti pinottuna kokonaisuuden yksittäisiä malleja voidaan kutsua suoraan ennusteita varten ja myöhemmin konsolidoida yhdistämistä varten. Toisinaan ensemble-malleja voidaan toteuttaa myös sarjapäätelmäliukuhihnana.

Meidän käyttötapauksessamme yhdistelmäliukulinja on ehdottomasti epälineaarinen, kuten seuraavassa kaaviossa esitetään. Epälineaariset ensemble-liukuhihnat ovat teoriassa suoraan asyklisiä kuvaajia (DAG). Meidän käyttötapauksessamme tässä DAG-liukuhihnassa oli sekä itsenäisiä malleja, joita ajetaan rinnakkain (palvelut B, C) että muita malleja, jotka käyttävät aiempien vaiheiden ennusteita (Palvelu D).

CCC:n tutkimusvetoisesta kulttuurista syntyvä käytäntö on sellaisten teknologioiden jatkuva tarkastelu, joita voidaan hyödyntää tuomaan lisäarvoa asiakkaille. Kun CCC kohtasi tämän kokonaishaasteen, johto käynnisti proof-of-concept (POC) -aloitteen arvioidakseen perusteellisesti AWS:n tarjontaa selvittääkseen erityisesti, pystyisivätkö Amazon SageMaker ja muut AWS-työkalut hallitsemaan yksittäisten tekoälymallien isännöintiä monimutkaisissa, epälineaarisissa olosuhteissa. yhtyeitä.

Ensemble selitti: Tässä yhteydessä kokonaisuus on kahden tai useamman tekoälymallin ryhmä, jotka toimivat yhdessä tuottaen yhden kokonaisennusteen.

Tutkimusta ohjaavat kysymykset

Voidaanko Amazon SageMakeria käyttää isännöimään monimutkaisia tekoälymallikokonaisuuksia, jotka toimivat yhdessä tarjotakseen yhden yleisen ennusteen? Jos on, voiko SageMaker tarjota muita etuja, kuten lisääntynyttä automaatiota, luotettavuutta, valvontaa, automaattista skaalausta ja kustannussäästöjä?

Vaihtoehtoisten tapojen löytäminen CCC:n tekoälymallien käyttöönottamiseksi pilvipalvelujen tarjoajien teknologisen kehityksen avulla antaa CCC:lle mahdollisuuden tuoda tekoälyratkaisuja markkinoille kilpailijoitaan nopeammin. Lisäksi useamman kuin yhden käyttöönottoarkkitehtuuri tarjoaa joustavuutta, kun löydetään tasapaino kustannusten ja suorituskyvyn välillä liiketoiminnan prioriteettien perusteella.

Vaatimuksiemme perusteella viimeistelimme seuraavan luettelon ominaisuuksista tarkistuslistaksi tuotantotason käyttöönottoarkkitehtuurille:

Tuki monimutkaisille kokoonpanoille
Taattu käyttöaika kaikille komponenteille
Muokattava automaattinen skaalaus käyttöönotetuille AI-malleille
AI-mallin syötteen ja lähdön säilyttäminen
Kaikkien komponenttien käyttömittarit ja lokit
Kustannussäästömekanismeja

Suurin osa CCC:n tekoälyratkaisuista perustui tietokonenäkömalleihin, joten uusi arkkitehtuuri vaadittiin tukemaan kuva- ja videotiedostoja, joiden resoluutio kasvaa jatkuvasti. Tarve suunnitella ja toteuttaa tämä arkkitehtuuri asynkronisena mallina oli vahva.

Tutkimussyklejen ja alustavien benchmarking-ponnistelujen jälkeen CCC päätti, että SageMaker sopi täydellisesti täyttämään suurimman osan heidän tuotantovaatimuksistaan, erityisesti taattu käyttöaika, jonka SageMaker tarjoaa suurimmalle osalle sen päättelykomponenteista. Amazon SageMaker Asynchronous Inference -päätepisteiden oletusominaisuus, joka tallentaa syötteen/tulosteen Amazon S3:ssa, yksinkertaistaa monimutkaisista kokoonpanoista luodun tiedon säilyttämistä. Lisäksi, kun jokaista tekoälymallia isännöi oma päätepiste, automaattisten skaalauskäytäntöjen hallinta malli- tai päätepistetasolla on helpompaa. Yksinkertaistamalla hallintaa, tästä saatava mahdollinen kustannussäästöetu on se, että kehitystiimit voivat käyttää enemmän aikaa skaalauskäytäntöjen hienosäätämiseen laskentaresurssien ylimäärittelyn minimoimiseksi.

Päätettyämme jatkaa SageMakerin käyttämistä arkkitehtuurin keskeisenä osana, ymmärsimme myös, että SageMaker voi olla osa vielä suurempaa arkkitehtuuria, jota täydennetään monilla muilla palvelimettomilla AWS-hallituilla palveluilla. Tätä valintaa tarvittiin helpottamaan tämän monimutkaisen arkkitehtuurin korkeamman asteen orkestrointi- ja havainnointitarpeita.

Ensinnäkin poistaakseen hyötykuorman kokorajoitukset ja vähentääkseen huomattavasti aikakatkaisuriskiä suuren liikenteen skenaarioissa CCC otti käyttöön arkkitehtuurin, joka suorittaa ennusteita asynkronisesti käyttämällä SageMaker Asynchronous Inference -päätepisteet yhdistettynä muihin AWS:n hallinnoimiin palveluihin ydinrakennuselementteinä. Lisäksi järjestelmän käyttöliittymä noudattaa tule ja unohda -suunnittelumallia. Toisin sanoen, kun käyttäjä on ladannut syötteensä järjestelmään, mitään muuta ei tarvitse tehdä. Heille ilmoitetaan, kun ennuste on saatavilla. Alla oleva kuva havainnollistaa korkean tason yleiskatsauksen asynkronisesta tapahtumapohjaisesta arkkitehtuuristamme. Tulevassa osiossa sukeltakaamme syvälle suunnitellun arkkitehtuurin toteutuskulkuun.

Vaiheittainen ratkaisu

Vaihe 1

Asiakas tekee pyynnön AWS API -yhdyskäytävä päätepiste. Pyynnön sisältö sisältää sen tekoälypalvelun nimen, josta he tarvitsevat ennusteen ja halutun ilmoitustavan.

Tämä pyyntö välitetään a Lambda toiminto kutsutaan Uusi ennustus, joiden päätehtävät ovat:

Tarkista, onko asiakkaan pyytämä palvelu saatavilla.
Määritä pyynnölle yksilöllinen ennustetunnus. Käyttäjä voi käyttää tätä ennustetunnusta tarkistaakseen ennusteen tilan koko prosessin ajan.
Luo Amazon S3 valmiiksi allekirjoitettu URL-osoite, jota käyttäjän on käytettävä seuraavassa vaiheessa ennustuspyynnön syöttösisällön lataamiseen.
Luo merkintä sisään Amazon DynamoDB vastaanotetun pyynnön tiedoilla.

Lambda-toiminto palauttaa sitten vastauksen API-yhdyskäytävän päätepisteen kautta sanomalla, joka sisältää pyynnölle määritetyn ennustetunnuksen ja Amazon S3:n valmiiksi allekirjoitetun URL-osoitteen.

Vaihe 2

Asiakas lataa ennustussyötesisällön turvallisesti S3-säilöyn käyttämällä edellisessä vaiheessa luotua esiallekirjoitettua URL-osoitetta. Syöttösisältö riippuu tekoälypalvelusta ja voi koostua kuvista, taulukkotiedoista tai molempien yhdistelmästä.

Vaihe 3

S3-säilö on määritetty käynnistämään tapahtuma, kun käyttäjä lataa syötetyn sisällön. Tämä ilmoitus lähetetään Amazon SQS -jonoon ja sitä käsittelee kutsuttu Lambda-toiminto Prosessin syöttö. Prosessin syöttö Lambda saa kyseiseen ennustetunnukseen liittyvät tiedot DynamoDB:ltä saadakseen sen palvelun nimen, jolle pyyntö tulee tehdä.

Tämä palvelu voi olla joko yksi AI-malli, jolloin Prosessin syöttö Lambda tekee pyynnön SageMaker-päätepisteelle, joka isännöi kyseistä mallia (vaihe 3-A), tai se voi olla ensemble AI -palvelu, jolloin Prosessin syöttö Lambda tekee pyynnön ensemblelogiikkaa isännöivälle vaihefunktioiden tilakoneelle (vaihe 3-B).

Kummassakin vaihtoehdossa (yksittäinen AI-malli tai ensemble AI -palvelu), kun lopullinen ennuste on valmis, se tallennetaan sopivaan S3-säilöyn ja soittajalle ilmoitetaan vaiheessa 1 määritetyllä tavalla (lisätietoja ilmoituksista vaiheessa 4).

Vaihe 3-A

Jos ennustetunnus liittyy yhteen tekoälymalliin, Prosessin syöttö Lambda tekee pyynnön mallia palvelevalle SageMaker-päätepisteelle. Tässä järjestelmässä tuetaan kahden tyyppisiä SageMaker-päätepisteitä:

asynkroninen: Prosessin syöttö Lambda tekee pyynnön SageMakerin asynkroniselle päätepisteelle. Välitön vastaus sisältää S3-paikan, johon SageMaker tallentaa ennusteen tulosteen. Tämä pyyntö on asynkroninen, ja se noudattaa tule ja unohda -mallia, eikä estä Lambda-funktion suorituskulkua.
Synkroninen: Prosessin syöttö Lambda tekee pyynnön SageMaker-synkroniselle päätepisteelle. Koska kyseessä on synkroninen pyyntö, Process Input odottaa vastausta, ja saatuaan se tallentaa sen S3:een samalla tavalla kuin SageMakerin asynkroniset päätepisteet tekisivät.

Molemmissa tapauksissa (synkroniset tai asynkroniset päätepisteet) ennuste käsitellään vastaavalla tavalla tallentamalla tulos S3-ämpäriin. Kun asynkroninen SageMaker-päätepiste suorittaa ennusteen, Amazon SNS -tapahtuma laukeaa. Tämä toiminta toistetaan myös synkronisille päätepisteille lisälogiikalla Lambda-funktiossa.

Vaihe 3-B

Jos ennustetunnus liittyy tekoälykokonaisuuteen, Prosessin syöttö Lambda tekee pyynnön kyseiseen AI Ensembleen liittyvälle askeltoiminnolle. Kuten edellä mainittiin, AI Ensemble on arkkitehtuuri, joka perustuu ryhmään tekoälymalleja, jotka työskentelevät yhdessä luodakseen yhden yleisen ennusteen. AI-yhtyeen orkestrointi tapahtuu askeltoiminnolla.

Askelfunktiossa on yksi askel per AI-palvelu, joka käsittää kokonaisuuden. Jokainen vaihe käynnistää Lambda-toiminnon, joka valmistelee sitä vastaavan AI-palvelun syötteen käyttämällä eri yhdistelmiä edellisten vaiheiden aiemmista tekoälypalvelukutsuista. Sitten se soittaa jokaiselle tekoälypalvelulle, joka tässä yhteydessä voi olla yksittäinen tekoälymalli tai toinen tekoälykokonaisuus.

Sama lambda-toiminto, ns HankiTransformCall käytetään käsittelemään AI Ensemblen väliennusteita, käytetään koko askelfunktiossa, mutta kullekin vaiheelle on eri syöttöparametrit. Tämä syöte sisältää kutsuttavan AI-palvelun nimen. Se sisältää myös kartoitusmäärityksen määritetyn AI-palvelun syötteen muodostamiseksi. Tämä tehdään käyttämällä mukautettua syntaksia, jonka Lambda voi purkaa. Yhteenvetona se on JSON-sanakirja, jossa arvot tulisi korvata aiempien tekoälyennusteiden sisällöllä. Lambda lataa nämä aiemmat ennusteet Amazon S3:sta.

Jokaisessa vaiheessa HankiTransformCall Lambda lukee Amazon S3:sta aiemmat lähdöt, joita tarvitaan määritellyn AI-palvelun tulon rakentamiseen. Sitten se kutsuu Uusi ennuste Vaiheessa 1 aiemmin käytetty lambda-koodi ja anna palvelun nimi, takaisinsoittomenetelmä ("vaihetoiminto") ja takaisinkutsuun tarvittava tunnus pyynnön hyötykuormassa, joka sitten tallennetaan DynamoDB:hen uutena ennustetietueena. Lambda tallentaa myös kyseisen vaiheen luodun syötteen S3-ämpäriin. Riippuen siitä, onko kyseinen vaihe yksittäinen tekoälymalli vai tekoälykokonaisuus, Lambda tekee pyynnön SageMaker-päätepisteelle tai eri vaihetoiminnolle, joka hallitsee emokokonaisuudesta riippuvaista tekoälykokonaisuutta.

Kun pyyntö on tehty, vaihetoiminto siirtyy odotustilaan, kunnes se vastaanottaa takaisinsoittotunnuksen, joka osoittaa, että se voi siirtyä seuraavaan vaiheeseen. Takaisinsoittotunnuksen lähettämisen suorittaa Lambda-toiminto, jota kutsutaan ilmoitukset (lisätietoja vaiheessa 4), kun väliennuste on valmis. Tämä prosessi toistetaan jokaiselle askelfunktiossa määritetylle vaiheelle, kunnes lopullinen ennuste on valmis.

Vaihe 4

Kun ennuste on valmis ja tallennettu S3-alueeseen, SNS-ilmoitus laukeaa. Tämä tapahtuma voidaan laukaista eri tavoilla kulusta riippuen:

Automaattisesti, kun SageMakerin asynkroninen päätepiste suorittaa ennusteen.
Askeltoiminnon viimeinen askel.
By Prosessin syöttö or HankiTransformCall Lambda, kun synkroninen SageMaker-päätepiste on palauttanut ennusteen.

Luomme B:lle ja C:lle SNS-viestin, joka on samanlainen kuin A lähettää automaattisesti.

Lambda-toiminto nimeltä ilmoitukset on tilattu tähän SNS-aiheeseen. Ilmoitukset Lambda saa ennustetunnukseen liittyvät tiedot DynamoDB:stä, päivittää merkinnän tila-arvolla "valmis" tai "virhe" ja suorittaa tarvittavat toimenpiteet tietokantatietueeseen tallennetun takaisinsoittotilan mukaan.

Jos tämä ennuste on tekoälykokonaisuuden väliennuste, kuten vaiheessa 3-B on kuvattu, tähän ennusteeseen liittyvä takaisinsoittotila on "vaihefunktio" ja tietokantatietueessa on takaisinsoittotunnus, joka liittyy tiettyyn vaiheeseen askeltoiminto. Ilmoitukset Lambda soittaa AWS Step Functions API:lle käyttämällä menetelmää "SendTaskSuccess" tai "SendTaskFailure". Tämä mahdollistaa askeltoiminnon jatkamisen seuraavaan vaiheeseen tai poistumiseen.

Jos ennuste on askelfunktion lopullinen tulos ja takaisinsoittotila on "Webhook" [tai sähköposti, viestinvälittäjät (Kafka) jne.], Lambda ilmoittaa asiakkaalle määritetyllä tavalla. Käyttäjä voi milloin tahansa pyytää ennusteensa tilan. Pyynnön on sisällettävä vaiheessa 1 määritetty ennustetunnus ja osoitettava oikeaan URL-osoitteeseen API-yhdyskäytävässä pyynnön reitittämiseksi Lambda-toimintoon nimeltä Tulokset.

Tulokset Lambda tekee pyynnön DynamoDB:lle, saa pyynnön tilan ja palauttaa tiedot käyttäjälle. Jos ennusteen tila on virhe, niin asiaankuuluvat tiedot virheestä sisällytetään vastaukseen. Jos ennusteen tila on menestys, S3-esiallekirjoitettu URL palautetaan, jotta käyttäjä voi ladata ennustesisällön.

tulokset

Alustavat suorituskykytestauksen tulokset ovat lupaavia ja tukevat CCC:n tarvetta laajentaa tämän uuden käyttöönottoarkkitehtuurin käyttöönottoa.

Merkittäviä havaintoja:

Testit paljastavat tehokkuuden erä- tai samanaikaisten pyyntöjen käsittelyssä suurella suorituskyvyllä ja 0 prosentin epäonnistumissuhteella suuren liikenteen skenaarioissa.
Viestijonot tarjoavat järjestelmän sisällä vakautta äkillisten pyyntöjen aikana, kunnes skaalauskäynnistimet voivat tarjota lisää laskentaresursseja. Kun liikennettä lisättiin kolme kertaa, keskimääräinen pyyntöviive kasvoi vain 3 prosenttia.
Vakauden hinta on lisääntynyt latenssi, joka johtuu järjestelmän eri komponenttien välisestä tiedonsiirrosta. Kun käyttäjäliikenne on perustason kynnyksen yläpuolella, lisättyä viivettä voidaan osittain lieventää tarjoamalla enemmän laskentaresursseja, jos suorituskyky on korkeampi prioriteetti kuin kustannukset.
SageMakerin asynkroniset päätepäätepisteet mahdollistavat ilmentymien määrän skaalauksen nollaan pitäen päätepisteen aktiivisena pyyntöjen vastaanottamista varten. Tämän toiminnon avulla käyttöönotot voivat jatkaa toimintaansa ilman laskentakustannuksia ja skaalautua nollasta tarvittaessa kahdessa skenaariossa: palveluiden käyttöönotot, joita käytetään alemmissa testiympäristöissä, ja sellaisissa, joissa on vähän liikennettä ilman välitöntä käsittelyä.

Yhteenveto

Kuten POC-prosessin aikana havaittiin, CCC:n ja AWS:n yhdessä luoma innovatiivinen suunnittelu tarjoaa vankan perustan Amazon SageMakerin käytölle muiden AWS-hallittujen palvelujen kanssa monimutkaisten multimodaalisten tekoälykokonaisuuksien isännöimiseksi ja päättelyputkien ohjaamiseksi tehokkaasti ja saumattomasti. Hyödyntämällä Amazon SageMakerin valmiita toimintoja, kuten Asynchronous Inferencea, CCC:llä on enemmän mahdollisuuksia keskittyä erikoistuneisiin liiketoimintakriittisiin tehtäviin. CCC:n tutkimusvetoisen kulttuurin hengessä tämä uusi arkkitehtuuri kehittyy edelleen, kun CCC näyttää tietä eteenpäin AWS:n ohella tehokkaiden uusien AI-ratkaisujen vapauttamisessa asiakkaille.

Katso yksityiskohtaiset vaiheet asynkronisten päätepisteiden luomiseen, kutsumiseen ja valvontaan dokumentointi, joka sisältää myös a muistikirjan näyte auttaa sinua pääsemään alkuun. Hintatiedot löydät osoitteesta Amazon SageMaker -hinnoittelu.

Esimerkkejä asynkronisen päättelyn käyttämisestä strukturoimattoman datan, kuten tietokonenäön ja luonnollisen kielen käsittelyn (NLP) kanssa, katso Suorita tietokonenäköpäätelmä suurissa videoissa Amazon SageMakerin asynkronisten päätepisteiden avulla ja Paranna arvokasta tutkimusta Hugging Facen ja Amazon SageMakerin asynkronisilla päätepäätepisteilläVastaavasti.

Tietoja Tekijät

Christopher Diaz on johtava T&K-insinööri CCC Intelligent Solutionsissa. T&K-tiimin jäsenenä hän on työskennellyt erilaisissa projekteissa ETL-työkaluista, taustaverkkokehityksestä, yhteistyössä tutkijoiden kanssa tekoälymallien kouluttamisesta hajautetuissa järjestelmissä sekä uusien tekoälypalvelujen toimittamisessa tutkimus- ja operaatiotiimien välillä. Hänen viime aikoina hän on keskittynyt pilvityökaluratkaisujen tutkimiseen yrityksen tekoälymallin kehittämisen elinkaaren eri näkökohtien parantamiseksi. Vapaa-ajallaan hän kokeilee uusia ravintoloita kotikaupungissaan Chicagossa ja kerää niin monta LEGO-settiä kuin kotiin mahtuu. Christopher suoritti tietojenkäsittelytieteen kandidaatin tutkinnon Northeastern Illinoisin yliopistosta.

Emmy-palkinnon voittaja Sam Kinard on CCC Intelligent Solutionsin ohjelmistosuunnittelun johtaja. Hän työskentelee Austinissa, Teksasissa, ja hän riitelee AI Runtime Teamin kanssa, joka vastaa CCC:n tekoälytuotteiden korkeasta saatavuudesta ja suuresta mittakaavasta. Vapaa-ajallaan Sam nauttii unen puutteesta kahden ihanan lapsensa vuoksi. Samilla on tietojenkäsittelytieteen kandidaatti ja matematiikan kandidaatti Texasin yliopistosta Austinissa.

Jaime Hidalgo on vanhempi järjestelmäinsinööri CCC Intelligent Solutionsissa. Ennen liittymistään tekoälytutkimustiimiin hän johti yrityksen globaalia siirtymistä Microservices Architectureen, suunnitteli, rakensi ja automatisoi AWS:n infrastruktuurin tukemaan pilvituotteiden ja -palvelujen käyttöönottoa. Tällä hetkellä hän rakentaa ja tukee paikan päällä olevaa palvelinkeskusklusteria, joka on rakennettu tekoälykoulutukseen, sekä suunnittelee ja rakentaa pilviratkaisuja yrityksen tulevaisuuden tekoälytutkimukseen ja -käyttöön.

Daniel Suárez on tietotekniikan insinööri CCC Intelligent Solutionsissa. AI Engineering -tiimin jäsenenä hän työskentelee tekoälymallien automatisoinnin ja valmistelun parissa mittareiden ja muiden ML-toiminnan näkökohtien tuotannossa, arvioinnissa ja seurannassa. Daniel suoritti tietojenkäsittelytieteen maisterin tutkinnon Illinois Institute of Technologysta ja maisterin ja kandidaatin tutkinnon tietoliikennetekniikassa Universidad Politecnica de Madridista.

Arunprasath Shankar on Senior AI/ML Specialist Solutions Architect, jolla on AWS ja joka auttaa globaaleja asiakkaita skaalaamaan tekoälyratkaisujaan tehokkaasti ja tehokkaasti pilvessä. Vapaa-ajallaan Arun katselee scifi-elokuvia ja kuuntelee klassista musiikkia.

Justin McWhirter on AWS:n ratkaisuarkkitehtipäällikkö. Hän työskentelee hämmästyttävien ratkaisuarkkitehtien tiimin kanssa, joka auttaa asiakkaita saamaan positiivisen kokemuksen AWS-alustan käyttöönotosta. Kun Justin ei ole töissä, hän nauttii videopelien pelaamisesta kahden poikansa kanssa, jääkiekkoa ja maastoajoa Jeepillä.