Vi introducerar AWS AI Service Cards: En ny resurs för att öka transparensen och främja ansvarsfull AI

Artificiell intelligens (AI) och maskininlärning (ML) är några av de mest transformativa teknikerna vi kommer att stöta på i vår generation – för att ta itu med affärs- och samhällsproblem, förbättra kundupplevelser och stimulera innovation. Tillsammans med den utbredda användningen och den växande omfattningen av AI kommer insikten att vi alla måste bygga ansvarsfullt. På AWS tror vi att ansvarsfull AI omfattar ett antal kärndimensioner inklusive:

• Rättvisa och partiskhet– Hur ett system påverkar olika delpopulationer av användare (t.ex. efter kön, etnicitet)
• Förklarbarhet– Mekanismer för att förstå och utvärdera resultatet av ett AI-system
• Integritet och säkerhet– Data skyddade från stöld och exponering
• Robusthet– Mekanismer för att säkerställa att ett AI-system fungerar tillförlitligt
• Bolagsstyrning– Processer för att definiera, implementera och genomdriva ansvarsfull AI-praxis inom en organisation
• Öppenhet– Kommunicera information om ett AI-system så att intressenter kan göra välgrundade val om hur de använder systemet

Vårt engagemang för att utveckla AI och ML på ett ansvarsfullt sätt är en integrerad del av hur vi bygger våra tjänster, engagerar oss med kunder och driver innovation. Vi är också engagerade i att ge kunderna verktyg och resurser för att utveckla och använda AI/ML på ett ansvarsfullt sätt, från att ge ML-byggare en helt hanterad utvecklingsmiljö till att hjälpa kunder att bädda in AI-tjänster i vanliga affärsanvändningsfall.

Ge kunderna mer insyn

Våra kunder vill veta att tekniken de använder har utvecklats på ett ansvarsfullt sätt. De vill ha resurser och vägledning för att implementera den tekniken ansvarsfullt i sin egen organisation. Och viktigast av allt, de vill säkerställa att tekniken de rullar ut är till allas fördel, särskilt deras slutanvändare. På AWS vill vi hjälpa dem att förverkliga denna vision.

För att leverera den transparens som kunderna efterfrågar är vi glada över att lansera AWS AI servicekort, en ny resurs för att hjälpa kunder att bättre förstå våra AWS AI-tjänster. AI Service Cards är en form av ansvarsfull AI-dokumentation som ger kunderna en enda plats för att hitta information om avsedda användningsfall och begränsningar, ansvarsfulla AI-designval och bästa praxis för implementering och prestandaoptimering för våra AI-tjänster. De är en del av en omfattande utvecklingsprocess som vi åtar oss att bygga våra tjänster på ett ansvarsfullt sätt som tar itu med rättvisa och partiskhet, förklarabarhet, robusthet, styrning, transparens, integritet och säkerhet. På AWS re:Invent 2022 gör vi de tre första AI-servicekorten tillgängliga: Amazon Rekognition – Face Matching, Amazon Textract – AnalyzeIDoch Amazon Transcribe – Batch (engelska-US).

Komponenter i AI Service Cards

Varje AI-servicekort innehåller fyra sektioner som täcker:

• Grundläggande koncept för att hjälpa kunder att bättre förstå tjänsten eller tjänstens funktioner
• Avsedda användningsfall och begränsningar
• Ansvarsfulla AI-designöverväganden
• Vägledning om implementering och prestandaoptimering

Innehållet i AI-tjänstkorten vänder sig till en bred publik av kunder, teknologer, forskare och andra intressenter som försöker bättre förstå viktiga överväganden i den ansvarsfulla designen och användningen av en AI-tjänst.

Våra kunder använder AI i en allt mer mångsidig uppsättning applikationer. De avsnitt om avsedd användning och begränsningar ger information om vanliga användningsområden för en tjänst och hjälper kunder att bedöma om en tjänst passar deras applikation. Till exempel, i Amazon Transcribe – Batch (engelska-US)-kortet beskriver vi tjänsteanvändningsfallet med att transkribera allmänt ordförråd som talas på amerikansk engelska från en ljudfil. Om ett företag vill ha en lösning som automatiskt transkriberar en domänspecifik händelse, till exempel en internationell neurovetenskapskonferens, kan de lägga till anpassade vokabulärer och språkmodeller för att inkludera vetenskaplig vokabulär för att öka noggrannheten i transkriptionen.

I design avsnitt för varje AI-servicekort förklarar vi viktiga ansvarsfulla AI-designöverväganden inom viktiga områden, såsom vår testdrivna metodik, rättvisa och partiskhet, förklarabarhet och prestandaförväntningar. Vi tillhandahåller exempel på prestandaresultat på en utvärderingsdatauppsättning som är representativ för ett vanligt användningsfall. Det här exemplet är dock bara en utgångspunkt, eftersom vi uppmuntrar kunder att testa på sina egna datauppsättningar för att bättre förstå hur tjänsten kommer att fungera på deras eget innehåll och användningsfall för att leverera den bästa upplevelsen för sina slutkunder. Och detta är inte en engångsutvärdering. För att bygga på ett ansvarsfullt sätt rekommenderar vi ett iterativt tillvägagångssätt där kunder med jämna mellanrum testar och utvärderar sina applikationer för noggrannhet eller potentiell bias.

I bästa praxis för distribution och prestandaoptimering, lägger vi ut nyckelspakar som kunder bör överväga för att optimera prestandan för sin applikation för implementering i verkligheten. Det är viktigt att förklara hur kunder kan optimera prestandan för ett AI-system som fungerar som en komponent i deras övergripande applikation eller arbetsflöde för att få maximal nytta. Till exempel, i Amazon Rekognition Face Matching Card som täcker att lägga till ansiktsigenkänningsfunktioner till identitetsverifieringsapplikationer, delar vi steg som kunder kan vidta för att öka kvaliteten på ansiktsmatchningsförutsägelser som ingår i deras arbetsflöde.

Leverera ansvarsfulla AI-resurser och kapaciteter

Att erbjuda våra kunder de resurser och verktyg de behöver för att omvandla ansvarsfull AI från teori till praktik är en ständigt prioriterad prioritet för AWS. Tidigare i år lanserade vi vår Ansvarsfull användning av maskininlärningsguide som ger överväganden och rekommendationer för en ansvarsfull användning av ML i alla faser av MLs livscykel. AI Service Cards kompletterar våra befintliga utvecklarguider och blogginlägg, som ger byggare beskrivningar av tjänstefunktioner och detaljerade instruktioner för att använda våra tjänste-API:er. Och med Amazon SageMaker Clarify och Amazon SageMaker modellmonitor, erbjuder vi möjligheter att hjälpa till att upptäcka bias i datauppsättningar och modeller och bättre övervaka och granska modellförutsägelser genom automatisering och mänsklig tillsyn.

Samtidigt fortsätter vi att främja ansvarsfull AI över andra nyckeldimensioner, såsom styrning. På re:Invent lanserade vi idag en ny uppsättning specialbyggda verktyg för att hjälpa kunder att förbättra styrningen av sina ML-projekt med Amazon SageMaker Role Manager, Amazon SageMaker Model Cards och Amazon SageMaker Model Dashboard. Läs mer på AWS News blogg och webbplats om hur dessa verktyg hjälper till att effektivisera ML-styrningsprocesser.

Utbildning är en annan nyckelresurs som hjälper till att främja ansvarsfull AI. På AWS är vi fast beslutna att bygga nästa generation av utvecklare och datavetare inom AI med AI och ML Scholarship Program och AWS Machine Learning University (MLU). Den här veckan på re:Invent lanserade vi en ny, offentlig MLU-kurs om rättvisa överväganden och bias mildring över ML livscykel. Undervisad av samma Amazon-dataforskare som utbildar AWS-anställda i ML, den här gratiskursen innehåller 9 timmars föreläsningar och praktiska övningar och det är lätt att komma igång.

AI Service Cards: En ny resurs – och ett pågående engagemang

Vi är glada över att kunna erbjuda en ny transparensresurs till våra kunder och det bredare samhället och tillhandahålla ytterligare information om de avsedda användningarna, begränsningarna, designen och optimeringen av våra AI-tjänster, informerade av vårt rigorösa tillvägagångssätt för att bygga AWS AI-tjänster på ett ansvarsfullt sätt . Vår förhoppning är att AI Service Cards kommer att fungera som en användbar transparensresurs och ett viktigt steg i det utvecklande landskapet för ansvarsfull AI. AI Service Cards kommer att fortsätta att utvecklas och expandera när vi engagerar oss med våra kunder och det bredare samhället för att samla feedback och ständigt upprepa vårt tillvägagångssätt.

Kontakta vår grupp av ansvariga AI-experter för att starta en konversation.

---

Om författarna

Vasi Philomin är för närvarande vicepresident i AWS AI-teamet för tjänster inom språk- och talteknologiområdena som Amazon Lex, Amazon Polly, Amazon Translate, Amazon Transcribe/Transcribe Medical, Amazon Comprehend, Amazon Kendra, Amazon Code Whisperer, Amazon Monitron, Amazon Håll utkik efter utrustning och kontaktlins/röst-ID för Amazon Connect samt Machine Learning Solutions Lab och Responsible AI.

Peter Hallinan leder initiativ inom vetenskapen och praktiken av Responsible AI på AWS AI, tillsammans med ett team av ansvariga AI-experter. Han har djup expertis inom AI (PhD, Harvard) och entreprenörskap (Blindsight, såld till Amazon). Hans volontärverksamhet har inkluderat att tjänstgöra som konsultprofessor vid Stanford University School of Medicine och som president för American Chamber of Commerce på Madagaskar. När det är möjligt är han iväg i bergen med sina barn: skidor, klättring, vandring och forsränning