Introductie van AWS AI-servicekaarten: een nieuwe bron om de transparantie te vergroten en verantwoorde AI te bevorderen

Kunstmatige intelligentie (AI) en machine learning (ML) zijn enkele van de meest transformerende technologieën die we in onze generatie zullen tegenkomen - om zakelijke en maatschappelijke problemen aan te pakken, klantervaringen te verbeteren en innovatie te stimuleren. Samen met het wijdverbreide gebruik en de groeiende schaal van AI komt de erkenning dat we allemaal verantwoord moeten bouwen. Bij AWS denken we dat verantwoorde AI een aantal kerndimensies omvat, waaronder:

• Eerlijkheid en vooringenomenheid– Hoe een systeem verschillende subpopulaties van gebruikers beïnvloedt (bijv. op geslacht, etniciteit)
• Uitlegbaarheid– Mechanismen om de output van een AI-systeem te begrijpen en te evalueren
• Privacy en Beveiliging– Gegevens beschermd tegen diefstal en blootstelling
• robuustheid– Mechanismen om ervoor te zorgen dat een AI-systeem betrouwbaar werkt
• Bestuur– Processen om verantwoorde AI-praktijken binnen een organisatie te definiëren, te implementeren en af ​​te dwingen
• Transparantie– Het communiceren van informatie over een AI-systeem, zodat belanghebbenden weloverwogen keuzes kunnen maken over hun gebruik van het systeem

Onze toewijding om AI en ML op een verantwoorde manier te ontwikkelen, is een integraal onderdeel van de manier waarop we onze services bouwen, met klanten omgaan en innovatie stimuleren. We zijn ook toegewijd om klanten tools en middelen te bieden om AI/ML op een verantwoorde manier te ontwikkelen en te gebruiken, van het bieden van een volledig beheerde ontwikkelomgeving aan ML-bouwers tot het helpen van klanten bij het integreren van AI-services in veelvoorkomende zakelijke use-cases.

Klanten meer transparantie bieden

Onze klanten willen weten dat de technologie die ze gebruiken op een verantwoorde manier is ontwikkeld. Ze willen middelen en begeleiding om die technologie op een verantwoorde manier in hun eigen organisatie te implementeren. En het allerbelangrijkste: ze willen ervoor zorgen dat de technologie die ze uitrollen in het voordeel is van iedereen, vooral van hun eindgebruikers. Bij AWS willen we hen helpen deze visie tot leven te brengen.

Om de transparantie te bieden waar klanten om vragen, zijn we verheugd om te lanceren AWS AI-servicekaarten, een nieuwe bron om klanten te helpen onze AWS AI-services beter te begrijpen. AI-servicekaarten zijn een vorm van verantwoorde AI-documentatie waarmee klanten op één plek informatie kunnen vinden over de beoogde use-cases en beperkingen, verantwoorde AI-ontwerpkeuzes en best practices voor implementatie en prestatie-optimalisatie voor onze AI-services. Ze maken deel uit van een veelomvattend ontwikkelingsproces dat we ondernemen om onze services op een verantwoorde manier op te bouwen, waarbij rekening wordt gehouden met eerlijkheid en vooringenomenheid, uitlegbaarheid, robuustheid, bestuur, transparantie, privacy en veiligheid. Bij AWS re:Invent 2022 stellen we de eerste drie AI Service Cards beschikbaar: Amazon-herkenning - Gezichtsherkenning, Amazon Textract - AnalyseID en Amazon Transcribe – Batch (Engels-VS).

Onderdelen van de AI-servicekaarten

Elke AI-servicekaart bevat vier secties die betrekking hebben op:

• Basisconcepten om klanten te helpen de service of servicefuncties beter te begrijpen
• Beoogde use cases en beperkingen
• Overwegingen bij verantwoord AI-ontwerp
• Begeleiding bij implementatie en optimalisatie van prestaties

De inhoud van de AI-servicekaarten is gericht op een breed publiek van klanten, technologen, onderzoekers en andere belanghebbenden die de belangrijkste overwegingen bij het verantwoord ontwerpen en gebruiken van een AI-service beter willen begrijpen.

Onze klanten gebruiken AI in een steeds diverser wordende reeks toepassingen. De sectie met beoogde gebruiksgevallen en beperkingen biedt informatie over algemeen gebruik van een service en helpt klanten te beoordelen of een service geschikt is voor hun toepassing. In de Amazon Transcribe – Batch (English-US) Card beschrijven we bijvoorbeeld het servicegebruik van het transcriberen van algemene woordenschat die in het Amerikaans-Engels wordt gesproken vanuit een audiobestand. Als een bedrijf een oplossing wil die automatisch een domeinspecifiek evenement transcribeert, zoals een internationale neurowetenschappelijke conferentie, kunnen ze aangepaste woordenlijsten en taalmodellen toevoegen om wetenschappelijke woordenschat op te nemen om de nauwkeurigheid van de transcriptie te vergroten.

In het ontwerp gedeelte van elke AI-servicekaart leggen we de belangrijkste overwegingen bij verantwoord AI-ontwerp uit op belangrijke gebieden, zoals onze testgestuurde methodologie, eerlijkheid en vooringenomenheid, verklaarbaarheid en prestatieverwachtingen. We geven voorbeelden van prestatieresultaten op een evaluatiedataset die representatief is voor een algemeen gebruik. Dit voorbeeld is echter slechts een beginpunt, aangezien we klanten aanmoedigen om op hun eigen datasets te testen om beter te begrijpen hoe de service zal presteren op hun eigen inhoud en gebruiksscenario's om de beste ervaring voor hun eindklanten te bieden. En dit is geen eenmalige evaluatie. Om op een verantwoorde manier te bouwen, raden we een iteratieve aanpak aan waarbij klanten periodiek hun applicaties testen en evalueren op nauwkeurigheid of mogelijke bias.

In het sectie best practices voor implementatie en optimalisatie van prestaties, leggen we de belangrijkste hefbomen uit die klanten zouden moeten overwegen om de prestaties van hun applicatie te optimaliseren voor real-world implementatie. Het is belangrijk om uit te leggen hoe klanten de prestaties kunnen optimaliseren van een AI-systeem dat fungeert als onderdeel van hun algehele toepassing of workflow om het maximale voordeel te behalen. In de Amazon Rekognition Face Matching Card, die betrekking heeft op het toevoegen van gezichtsherkenningsmogelijkheden aan toepassingen voor identiteitsverificatie, delen we bijvoorbeeld de stappen die klanten kunnen nemen om de kwaliteit van de voorspellingen voor gezichtsherkenning die in hun workflow zijn opgenomen, te verbeteren.

Het leveren van verantwoorde AI-middelen en -mogelijkheden

Onze klanten de middelen en tools bieden die ze nodig hebben om verantwoorde AI van theorie naar praktijk te transformeren, is een voortdurende prioriteit voor AWS. Begin dit jaar lanceerden we onze Gids voor verantwoord gebruik van machine learning die overwegingen en aanbevelingen biedt voor verantwoord gebruik van ML in alle fasen van de ML-levenscyclus. AI-servicekaarten vormen een aanvulling op onze bestaande handleidingen voor ontwikkelaars en blogposts, die bouwers beschrijvingen van servicefuncties en gedetailleerde instructies voor het gebruik van onze service-API's bieden. En met Amazon SageMaker verduidelijken en Amazon SageMaker-modelmonitor, bieden we mogelijkheden om bias in datasets en modellen te detecteren en modelvoorspellingen beter te monitoren en te beoordelen door middel van automatisering en menselijk toezicht.

Tegelijkertijd blijven we verantwoorde AI bevorderen in andere belangrijke dimensies, zoals governance. Bij re:Invent hebben we vandaag een nieuwe set speciaal gebouwde tools gelanceerd om klanten te helpen het beheer van hun ML-projecten te verbeteren met Amazon SageMaker Role Manager, Amazon SageMaker Model Cards en Amazon SageMaker Model Dashboard. Meer informatie over de AWS Nieuwsblog en van de over hoe deze tools helpen om ML-governanceprocessen te stroomlijnen.

Onderwijs is een andere belangrijke hulpbron die verantwoorde AI helpt bevorderen. Bij AWS zetten we ons in om de volgende generatie ontwikkelaars en datawetenschappers in AI op te bouwen met het AI and ML Scholarship Program en AWS Machine Learning-universiteit (MLU). Deze week lanceerden we bij re:Invent een nieuwe, openbare MLU-cursus over overwegingen van eerlijkheid en beperking van vooringenomenheid gedurende de ML-levenscyclus. Deze gratis cursus wordt gegeven door dezelfde datawetenschappers van Amazon die AWS-medewerkers trainen in ML en bevat 9 uur aan lezingen en praktische oefeningen. begin.

AI-servicekaarten: een nieuwe hulpbron en een voortdurende inzet

We zijn verheugd om onze klanten en de bredere gemeenschap een nieuwe transparantiebron te bieden en aanvullende informatie te verstrekken over het beoogde gebruik, de beperkingen, het ontwerp en de optimalisatie van onze AI-services, op basis van onze rigoureuze aanpak om AWS AI-services op een verantwoorde manier te bouwen. . We hopen dat AI-servicekaarten zullen fungeren als een nuttig hulpmiddel voor transparantie en een belangrijke stap in het zich ontwikkelende landschap van verantwoorde AI. AI-servicekaarten zullen blijven evolueren en uitbreiden naarmate we met onze klanten en de bredere gemeenschap in gesprek gaan om feedback te verzamelen en onze aanpak voortdurend te herhalen.

Neem contact op met onze groep verantwoordelijke AI-experts om een ​​gesprek te beginnen.

---

Over de auteurs

Vasi Philomin is momenteel Vice President in het AWS AI-team voor diensten op het gebied van taal- en spraaktechnologieën, zoals Amazon Lex, Amazon Polly, Amazon Translate, Amazon Transcribe/Transcribe Medical, Amazon Comprehend, Amazon Kendra, Amazon Code Whisperer, Amazon Monitron, Amazon Zoek naar apparatuur en contactlens-/spraak-ID voor Amazon Connect, evenals Machine Learning Solutions Lab en Responsible AI.

Peter Hallinan leidt initiatieven in de wetenschap en praktijk van Responsible AI bij AWS AI, samen met een team van verantwoordelijke AI-experts. Hij heeft diepgaande expertise in AI (PhD, Harvard) en ondernemerschap (Blindsight, verkocht aan Amazon). Zijn vrijwilligersactiviteiten omvatten onder meer het dienen als adviserend professor aan de Stanford University School of Medicine en als president van de Amerikaanse Kamer van Koophandel in Madagaskar. Als het even kan, gaat hij met zijn kinderen de bergen in: skiën, klimmen, wandelen en raften