AWS firar 5 år av innovation med Amazon SageMaker

På bara 5 år har tiotusentals kunder avlyssnat Amazon SageMaker att skapa miljontals modeller, träna modeller med miljarder parametrar och generera hundratals miljarder månatliga förutsägelser.

Fröet till ett paradigmskifte för maskininlärning (ML) fanns där i årtionden, men med den lättillgängliga praktiskt taget oändliga beräkningskapaciteten, en massiv spridning av data och den snabba utvecklingen av ML-teknologier, har kunder inom olika branscher nu tillgång till dess transformation förmåner. För att utnyttja denna möjlighet och ta ML ur forskningslabbet och i händerna på organisationer skapade AWS Amazon SageMaker. I år firar vi 5-årsjubileet för Amazon SageMaker, vår flaggskepp helt hanterade ML-tjänst, som lanserades på AWS re:Invent 2017 och fortsatte med att bli en av de snabbast växande tjänsterna i AWS historia.

AWS lanserade Amazon SageMaker för att bryta ned barriärer för ML och demokratisera tillgången till spjutspetsteknologi. Idag kan den framgången ha verkat oundviklig, men 2017 krävde ML fortfarande specialiserade färdigheter som vanligtvis innehas av en begränsad grupp av utvecklare, forskare, doktorer eller företag som byggde sin verksamhet kring ML. Tidigare var utvecklare och datavetare tvungna att först visualisera, omvandla och förbearbeta data till format som algoritmer kunde använda för att träna modeller, vilket krävde enorma mängder datorkraft, långa träningsperioder och dedikerade team för att hantera miljöer som ofta sträckte sig över flera GPU- aktiverade servrar – och en sund mängd manuell prestandajustering. Dessutom krävde att distribuera en utbildad modell i en applikation en annan uppsättning specialiserade färdigheter i applikationsdesign och distribuerade system. När datauppsättningar och variabler växte, var företag tvungna att upprepa denna process för att lära sig och utvecklas från ny information när äldre modeller blev föråldrade. Dessa utmaningar och barriärer innebar att ML var utom räckhåll för de flesta utom för välfinansierade organisationer och forskningsinstitutioner.

Början av en ny era inom maskininlärning

Det är därför vi introducerade Amazon SageMaker, vår flaggskepp ML-hanterade tjänst som gör det möjligt för utvecklare, datavetare och affärsanalytiker att snabbt och enkelt förbereda data och bygga, träna och distribuera högkvalitativa ML-modeller i stor skala. Under de senaste 5 åren har vi lagt till mer än 250 nya funktioner och funktioner, inklusive världens första integrerade utvecklingsmiljö (IDE) för ML, debuggers, modellmonitorer, profilerare, AutoML, en funktionsbutik, no-code-funktioner och det första specialbyggda verktyget för kontinuerlig integration och kontinuerlig leverans (CI/CD) för att göra ML mindre komplex och mer skalbar i molnet och på kantenheter.

2021 drev vi demokratisering ytterligare för att göra ML inom räckhåll för fler användare. Amazon SageMaker gör det möjligt för fler grupper av människor att skapa ML-modeller, inklusive no-code-miljön i Amazon SageMaker Canvas för affärsanalytiker utan ML-erfarenhet, samt en kostnadsfri, konfigurerad ML-miljö där eleverna kan lära sig och experimentera med ML snabbare.

Idag kan kunder förnya sig med Amazon SageMaker genom ett urval av verktyg – IDE för datavetare och ett kodfritt gränssnitt för affärsanalytiker. De kan komma åt, märka och bearbeta stora mängder strukturerad data (tabelldata) och ostrukturerad data (foto, video och ljud) för ML. Med Amazon SageMaker kan kunder minska träningstiderna från timmar till minuter med optimerad infrastruktur. Slutligen, kunder kan du automatisera och standardisera metoder för maskininlärning (MLOps) i hela din organisation för att bygga, träna, distribuera och hantera modeller i stor skala.

Nya funktioner för nästa generations innovation

Framöver fortsätter AWS att aggressivt utveckla nya funktioner som kan hjälpa kunder att ta ML vidare. Till exempel tillåter Amazon SageMaker multi-model endpoints (MMEs) kunder att distribuera tusentals ML-modeller på en enda Amazon SageMaker-ändpunkt och sänka kostnaderna genom att dela instanser som tillhandahålls bakom en endpoint över alla modeller. Fram till nyligen stöddes MME:er endast på processorer, men Amazon SageMaker MME:er stöder nu GPU:er. Kunder kan använda Amazon SageMaker MME för att distribuera djupinlärningsmodeller på GPU-instanser och spara upp till 90 % av kostnaden genom att distribuera tusentals djupinlärningsmodeller till en enda flermodellslutpunkt. Amazon SageMaker har också utökat stödet för datoroptimerade Amazon Elastic Compute Cloud (Amazon EC2)-instanser drivs av AWS Graviton 2 och Graviton 3 processorer, som är väl lämpade för CPU-baserad ML-inferens, så att kunder kan distribuera modeller på den optimala instanstypen för deras arbetsbelastning.

Amazon SageMaker-kunder släpper lös kraften i maskininlärning

Varje dag vänder sig kunder av alla storlekar och inom alla branscher till Amazon SageMaker för att experimentera, förnya och distribuera ML-modeller på kortare tid och till lägre kostnad än någonsin. Som ett resultat skiftar konversationer nu från det möjligas konst till att släppa lös nya nivåer av produktivitet med ML. Idag finns kunder som Capital One och Fannie Mae inom finansiella tjänster, Philips och AstraZeneca inom hälsovård och biovetenskap, Conde Nast och Thomson Reuters inom media, NFL och Formel 1 inom sport, Amazon och Mercado Libre inom detaljhandeln och Siemens och Bayer inom industrisektorn använder ML-tjänster på AWS för att påskynda affärsinnovation. De går med tiotusentals andra Amazon SageMaker-kunder som använder tjänsten för att hantera miljontals modeller, träna modeller med miljarder parametrar och göra hundratals miljarder förutsägelser varje månad.

Fler innovationer väntar. Men under tiden pausar vi för att skåla för de många framgångar som våra kunder har uppnått.

Thomson Reuters

Thomson Reuters, en ledande leverantör av affärsinformationstjänster, utnyttjar kraften hos Amazon SageMaker för att skapa mer intuitiva tjänster för sina kunder.

"Vi letar ständigt efter solida AI-baserade lösningar som ger en långsiktig positiv avkastning på investeringen", säger Danilo Tommasina, Director of Engineering på Thomson Reuters Labs. "Amazon SageMaker är central för vårt AI FoU-arbete. Det tillåter oss att effektivt föra forskning till mogna och högautomatiserade lösningar. Med Amazon SageMaker Studio kan forskare och ingenjörer fokusera på att lösa affärsproblem med alla verktyg som behövs för deras ML-arbetsflöde i en enda IDE. Vi utför alla våra ML-utvecklingsaktiviteter, inklusive bärbara datorer, experimenthantering, ML pipelineautomation och felsökning direkt från Amazon SageMaker Studio.”

Salesforce

Salesforce, världens ledande CRM-plattform, tillkännagav nyligen nya integrationer som gör det möjligt att använda Amazon SageMaker tillsammans med Einstein, Salesforces AI-teknik.

"Salesforce Einstein är den första heltäckande AI för CRM och gör det möjligt för varje företag att bli smartare och mer förutsägande om sina kunder genom en integrerad uppsättning AI-tekniker för försäljning, marknadsföring, handel, service och IT", säger Rahul Auradkar, EVP för Einstein och Unified Data Services på Salesforce. "En av de största utmaningarna som företag står inför idag är att deras data är silo. Det är svårt att sammanföra data för att leverera kundengagemang i realtid över alla beröringspunkter och få fram meningsfulla affärsinsikter. Drivs av Genie, Salesforces kunddataplattform i realtid, integreringen av Salesforce och Amazon SageMaker möjliggör datateam med sömlös tillgång till enhetlig och harmoniserad kunddata för att bygga och träna ML-modeller i Amazon SageMaker. Och när de väl har implementerats kan dessa Amazon SageMaker-modeller användas med Einstein för att driva förutsägelser och insikter över Salesforce-plattformen. När AI utvecklas fortsätter vi att förbättra Einstein med bring-your-own-modeling (BYOM) för att möta utvecklare och datavetare där de arbetar.”

Meta ai

Meta AI är ett laboratorium för artificiell intelligens som tillhör Meta Platforms Inc.

"Meta AI har samarbetat med AWS för att förbättra torch.distributed för att hjälpa utvecklare att skala sin utbildning med Amazon SageMaker och Trainium-baserade instanser", säger Geeta Chauhan, Applied AI Engineering Manager på Meta AI. "Med dessa förbättringar har vi sett en minskning av träningstiden för stora modeller baserat på våra tester. Vi är glada över att se Amazon SageMaker stödja PyTorch distribuerad utbildning för att påskynda ML-innovation.”

Tyson Foods Inc.

Tyson Foods Inc., en av världens största köttförädlare och marknadsförare, förlitar sig på Amazon SageMaker, Amazon SageMaker Ground Sannhetoch AWS Panorama att förbättra effektiviteten.

"Operational excellence är en nyckelprioritet hos Tyson Foods", säger Barret Miller, Senior Manager of Emerging Technology på Tyson Foods Inc. "Vi använder datorseende som drivs av ML på AWS för att förbättra produktionseffektiviteten, automatisera processer och förbättra tidskrävande eller felbenägna uppgifter. Vi samarbetade med Amazon Machine Learning Solutions Lab för att skapa en toppmodern objektdetekteringsmodell med hjälp av Amazon SageMaker Ground Truth och AWS Panorama. Med den här lösningen får vi insikter i nästan realtid som hjälper oss att producera det lager vi behöver samtidigt som vi minimerar avfallet."

Autodesk

AutoCAD är en kommersiell datorstödd design- och ritprogram från Autodesk. AutoCAD förlitar sig på Amazon SageMaker för att optimera sin generativa designprocess.

"Vi ville ge AutoCAD-kunder möjlighet att bli mer effektiva genom att tillhandahålla personliga, aktuella användningstips och insikter, för att säkerställa att tiden de spenderar i AutoCAD är så produktiv som möjligt", säger Dania El Hassan, direktör för produkthantering för AutoCAD , på Autodesk. "Amazon SageMaker var ett viktigt verktyg som hjälpte oss att ge proaktiva kommandon och genvägsrekommendationer till våra användare, så att de kunde uppnå kraftfulla nya designresultat."

Torc.ai

Med hjälp av Amazon SageMaker och Amazon SageMakers distribuerade data parallella (SMDDP) bibliotek, Torc.ai, en ledare för autonoma fordon sedan 2005, kommersialiserar självkörande lastbilar för säker, uthållig långdistanstransport inom fraktbranschen.

"Mitt team kan nu enkelt köra distribuerade utbildningsjobb i stor skala med hjälp av Amazon SageMaker modellträning och Amazon SageMaker distributed data parallel (SMDDP) bibliotek, som involverar terabyte av träningsdata och modeller med miljontals parametrar", säger Derek Johnson, vice President of Engineering på Torc.ai. "Amazon SageMaker distribuerade modellträning och SMDDP har hjälpt oss att skala sömlöst utan att behöva hantera utbildningsinfrastruktur. Det minskade vår tid att träna modeller från flera dagar till några timmar, vilket gjorde det möjligt för oss att komprimera vår designcykel och tillföra nya autonoma fordonskapaciteter till vår flotta snabbare än någonsin."

LG AI Research

LG AI Research siktar på att leda nästa era av AI genom att använda Amazon SageMaker för att träna och distribuera ML-modeller snabbare.

"Vi debuterade nyligen med Tilda, AI-konstnären som drivs av EXAONE, ett supergigantiskt AI-system som kan bearbeta 250 miljoner högupplösta bild-text-pardatauppsättningar", säger Seung Hwan Kim, Vice President och Vision Lab Leader på LG AI Research. "Den multimodala AI gör det möjligt för Tilda att skapa en ny bild på egen hand, med dess förmåga att utforska bortom språket den uppfattar. Amazon SageMaker var avgörande för att utveckla EXAONE på grund av dess skalningsmöjligheter och distribuerade träningsmöjligheter. Specifikt, på grund av den massiva beräkning som krävs för att träna denna supergigantiska AI, är effektiv parallell bearbetning mycket viktig. Vi behövde också kontinuerligt hantera storskalig data och vara flexibla för att svara på nyinhämtad data. Genom att använda Amazon SageMaker modellträning och distribuerade träningsbibliotek optimerade vi distribuerad utbildning och tränade modellen 59 % snabbare – utan större ändringar av vår träningskod.”

Muellers vattenprodukter

Mueller Water Products tillverkar tekniska ventiler, brandposter, röranslutnings- och reparationsprodukter, mätprodukter, lösningar för läcksökning och mer. Den använde Amazon SageMaker för att utveckla en innovativ ML-lösning för att upptäcka vattenläckor snabbare.

"Vi är på ett uppdrag att spara 7.7 miljarder liter vattenförlust till 2027", säger Dave Johnston, chef för Smart Infrastructure på Mueller Water Products. "Tack vare ML-modeller byggda på Amazon SageMaker har vi förbättrat precisionen hos EchoShore-DX, vårt akustiskt baserade system för avvikelsedetektering. Som ett resultat kan vi snabbare informera elnätskunder när en läcka inträffar. Den här lösningen har sparat uppskattningsvis 675 miljoner liter vatten 2021. Vi är glada över att fortsätta använda AWS ML-tjänster för att ytterligare förbättra vår teknologiportfölj och fortsätta driva effektivitet och hållbarhet med våra allmännyttiga kunder.”

canva

Canva, tillverkare av det populära onlinedesign- och publiceringsverktyget, förlitar sig på kraften hos Amazon SageMaker för snabb implementering.

"För att Canva skulle växa i skala behövde vi ett verktyg som hjälper oss att lansera nya funktioner utan några förseningar eller problem", säger Greg Roodt, chef för dataplattformar på Canva. “Amazon SageMakers anpassningsförmåga gjorde att vi kunde hantera fler uppgifter med färre resurser, vilket resulterade i en snabbare och effektivare arbetsbelastning. Det gav vårt ingenjörsteam förtroende för att funktionerna de lanserar kommer att anpassas till deras användningsfall. Med Amazon SageMaker implementerade vi vår text-till-bild-modell på två veckor med kraftfull hanterad infrastruktur, och vi ser fram emot att utöka den här funktionen till våra miljontals användare inom en snar framtid.”

Inspirera

Inspire, en konsumentcentrerad hälsoinformationstjänst, förlitar sig på Amazon SageMaker för att leverera handlingskraftiga insikter för bättre vård, behandlingar och resultat.

"Vår innehållsrekommendationsmotor är en viktig drivkraft för vårt värdeerbjudande", säger Brian Loew, verkställande direktör och grundare av Inspire. "Vi använder det för att rikta våra användare (som lever med särskilda villkor) till relevanta och specifika inlägg eller artiklar. Med Amazon SageMaker kan vi enkelt bygga, träna och distribuera modeller för djupinlärning. Vår sofistikerade ML-lösning – baserad på Amazon SageMaker – hjälper oss att förbättra vår innehållsrekommendationsmotors förmåga att föreslå relevant innehåll till 2 miljoner registrerade användare, hämta från vårt bibliotek med 1.5 miljarder ord på 3,600 XNUMX villkor. Amazon SageMaker har gjort det möjligt för oss att exakt koppla samman patienter och vårdgivare med mer personligt innehåll och resurser – inklusive information om sällsynta sjukdomar och behandlingsvägar.”

ResMed

ResMed är en ledande leverantör av molnanslutna lösningar för personer med sömnapné, KOL, astma och andra kroniska tillstånd. Under 2014 lanserade ResMed MyAir, en personlig plattform och applikation för terapihantering, för patienter att spåra sömnterapi.

"Före Amazon SageMaker fick alla MyAir-användare samma meddelanden från appen samtidigt, oavsett deras tillstånd", säger Badri Raghavan, Vice President of Data Science på ResMed. "Amazon SageMaker har gjort det möjligt för oss att interagera med patienter via MyAir baserat på den specifika ResMed-enhet de använder, deras vakna timmar och annan kontextuell data. Vi drar fördel av flera Amazon SageMaker-funktioner för att träna modellpipelines och välja distributionstyper, inklusive nästan realtid och batch slutsatser, för att leverera skräddarsytt innehåll. Amazon SageMaker har gjort det möjligt för oss att uppnå vårt mål att bädda in ML-funktioner över hela världen genom att distribuera modeller på dagar eller veckor istället för månader."

Verisk

Verisk tillhandahåller expertdatadrivna analytiska insikter som hjälper företag, människor och samhällen att bli starkare, mer motståndskraftiga och hållbara. Den använder Amazon SageMaker för att effektivisera ML-arbetsflöden.

"Verisk och Vexcel arbetar nära tillsammans för att lagra och bearbeta enorma mängder data på AWS, inklusive Vexcels ultrahögupplösta flygbilder som fångas i 26 länder över hela världen", säger Jeffrey C. Taylor, VD på Verisk 3D Visual Intelligens. "Amazon SageMaker hjälper oss att effektivisera det arbete som ML- och MLOps-teamen gör, så att vi kan fokusera på att tillgodose behoven hos våra kunder, inklusive fastighetsintressenter inom försäkring, fastigheter, konstruktion och vidare."

Smartocto BV

Med hjälp av Amazon SageMaker tillhandahåller Smartocto BV innehållsanalys driven av ML till 350 nyhetsredaktioner och medieföretag runt om i världen.

"I takt med att verksamheten skulle skalas behövde vi förenkla implementeringen av våra ML-modeller, minska tiden till marknaden och utöka vårt produkterbjudande", säger Ilija Susa, Chief Data Officer på Smartocto. "Men kombinationen av öppen källkod och molnlösningar för att själva hosta våra ML-arbetsbelastningar blev alltmer tidskrävande att hantera. Vi migrerade våra ML-modeller till Amazon SageMaker-slutpunkter och på mindre än 3 månader lanserade vi Smartify, en ny AWS-inbyggd lösning. Smartify använder Amazon SageMaker för att tillhandahålla prediktiv redaktionell analys i nästan realtid, vilket hjälper kunder att förbättra sitt innehåll och utöka sin publik."

Visualfabriq

Visualfabriq erbjuder en intäktshanteringslösning med tillämpad artificiell intelligens till några av världens ledande företag för konsumentförpackade varor. Den använder Amazon SageMaker för att förbättra prestandan och noggrannheten hos ML-modeller i stor skala.

"Vi ville anpassa vår teknikstack för att förbättra prestanda och skalbarhet och göra modeller lättare att lägga till, uppdatera och omskola", säger Jelle Verstraaten, Team Lead for Demand Forecast, Artificial Intelligence och Revenue Growth Management på Visualfabriq. "Den största effekten av migreringen till Amazon SageMaker har varit en betydande prestandaförbättring för vår lösning. Genom att köra slutsatser på dedikerade servrar, istället för webbservrar, är vår lösning mer effektiv och kostnaderna är konsekventa och transparenta. Vi förbättrade svarstiden för vår efterfrågeprognostjänst – som förutsäger effekten av en reklamåtgärd på en återförsäljares försäljningsvolym – med 200 % och implementerade en skalbar lösning som kräver mindre manuella ingrepp och påskyndar introduktionen av nya kunder.”

Sophos

Sophos, en världsomspännande ledare inom nästa generations cybersäkerhetslösningar och tjänster, använder Amazon SageMaker för att träna sina ML-modeller mer effektivt.

"Vår kraftfulla teknik upptäcker och eliminerar filer som är listigt spetsade med skadlig programvara", säger Konstantin Berlin, chef för artificiell intelligens på Sophos. "Att använda XGBoost-modeller för att bearbeta uppsättningar av flera terabyte-storlekar var dock extremt tidskrävande - och ibland helt enkelt inte möjligt med begränsat minnesutrymme. Med Amazon SageMaker distribuerad träning kan vi framgångsrikt träna en lätt XGBoost-modell som är mycket mindre på disken (upp till 25 gånger mindre) och i minnet (upp till fem gånger mindre) än sin föregångare. Genom att använda Amazon SageMaker automatisk modellinställning och distribuerad utbildning på Spot Instances kan vi snabbt och mer effektivt modifiera och omskola modeller utan att justera den underliggande träningsinfrastrukturen som krävs för att skala ut till så stora datamängder.”

Northwestern University

Studenter från Northwestern University i Master of Science in Artificial Intelligence (MSAI)-programmet fick en rundtur i Amazon SageMaker Studio Lab innan du använder den under ett hackathon.

"Amazon SageMaker Studio Labs användarvänlighet gjorde det möjligt för studenter att snabbt tillämpa sina lärdomar för att bygga kreativa lösningar", säger Mohammed Alam, biträdande direktör för MSAI-programmet. "Vi förväntade oss att eleverna naturligt skulle stöta på några hinder under den korta 5-timmarstävlingen. Istället överträffade de våra förväntningar genom att inte bara slutföra alla projekt utan också ge imponerande presentationer där de tillämpade komplexa ML-koncept på viktiga verkliga problem.”

Rensselaer Polytechnic Institute

Rensselaer Polytechnic Institute (RPI), ett tekniskt forskningsuniversitet i New York, använder Amazon SageMaker Studio för att hjälpa studenter att snabbt lära sig ML-koncept.

"RPI äger en av de mest kraftfulla superdatorerna i världen, men AI har en brant inlärningskurva", säger Mohammed J. Zaki, professor i datavetenskap. ”Vi behövde ett sätt för studenter att börja kostnadseffektivt. Amazon SageMaker Studio Labs intuitiva gränssnitt gjorde det möjligt för våra elever att komma igång snabbt och gav en kraftfull GPU, som gjorde det möjligt för dem att arbeta med komplexa djupinlärningsmodeller för sina slutstensprojekt.”

Hong Kong Institute of Vocational Education

IT-avdelningen vid Hong Kong Institute of Vocational Education (Lee Wai Lee) använder Amazon SageMaker Studio Lab för att erbjuda studenter möjligheter att arbeta med verkliga ML-projekt.

"Vi använder Amazon SageMaker Studio Lab i grundläggande ML- och Python-relaterade kurser som ger studenterna en solid grund i många molnteknologier", säger Cyrus Wong, universitetslektor. "Amazon SageMaker Studio Lab gör det möjligt för våra studenter att få praktisk erfarenhet av datavetenskapliga projekt i verkliga världen, utan att fastna i inställningar eller konfigurationer. Till skillnad från andra leverantörer är detta en Linux-maskin för studenter som gör det möjligt för dem att göra många fler kodningsövningar."

MapmyIndien

MapmyIndia, Indiens ledande leverantör av digitala kartor, geospatial programvara och platsbaserad Internet of Things (IoT)-teknik, använder Amazon SageMaker för att bygga, träna och distribuera sina ML-modeller.

"MapmyIndia och vår globala plattform, Mappls, erbjuder robusta, mycket exakta och världsomspännande AI- och datorvisionsdrivna satellit- och gatubilder-baserade analyser för en mängd användningsfall, som att mäta ekonomisk utveckling, befolkningstillväxt, jordbruk. produktion, byggaktivitet, gatuskyltsdetektering, marksegmentering och vägändringsdetektering”, säger Rohan Verma, verkställande direktör och verkställande direktör på MapmyIndia. "Vår förmåga att skapa, träna och distribuera modeller med snabbhet och precision skiljer oss åt. Vi är glada över att samarbeta med AWS för våra AI/ML-erbjudanden och är glada över Amazon SageMakers förmåga att skala detta snabbt.”

SatSure

SatSure, en Indien-baserad ledare inom beslutsunderrättelselösningar som använder jordobservationsdata för att generera insikter, förlitar sig på Amazon SageMaker för att förbereda och träna petabyte av ML-data.

"Vi använder Amazon SageMaker för att knäcka petabyte av EO-, GIS-, finansiella, text- och affärsdatauppsättningar, och använder dess AI/ML-kapacitet för att snabbt förnya och skala våra modeller", säger Prateep Basu, verkställande direktör på SatSure. "Vi har använt AWS sedan 2017, och vi har hjälpt finansinstitutioner att låna ut till mer än 2 miljoner bönder i Indien, Nigeria och Filippinerna, samtidigt som vi övervakar 1 miljon kvadratkilometer på veckobasis."

Slutsats

För att komma igång med Amazon SageMaker, besök aws.amazon.com/sagemaker.

---

Om författaren

Ankur Mehrotra började på Amazon redan 2008 och är för närvarande General Manager för Amazon SageMaker. Innan Amazon SageMaker arbetade han med att bygga Amazon.coms reklamsystem och automatiserade prissättningsteknik.