TOKYO, 21. februar 2022 – (JCN Newswire) – Fujitsu annoncerede i dag udviklingen af et ressourceværktøjssæt, der tilbyder udviklere vejledning til at evaluere den etiske påvirkning og risici ved AI-systemer baseret på internationale AI-etiske retningslinjer. Fujitsu vil tilbyde disse ressourcer gratis fra den 21. februar 2022 for at fremme sikker og sikker udrulning af AI-systemer i samfundet.
Værktøjssættet består af en række casestudier og referencematerialer, herunder en nyudviklet metode til at afklare etiske krav i AI-etiske retningslinjer skrevet i naturligt sprog, samt til at anvende etiske krav til faktiske AI-systemer. Ressourcerne på japansk kan downloades her, med tilgængelighed på engelsk for at følge i den nærmeste fremtid.
Med denne vejledning sigter Fujitsu mod at forhindre misforståelser og potentielle risici forårsaget af forskelle i fortolkningen af beskrivelser i retningslinjer, og tilbyder AI-systemudviklere og -operatører nye værktøjer til grundigt at identificere og forebygge mulige etiske problemer tidligt i udviklingsprocessen i overensstemmelse med international bedste praksis. .
Dr. Christoph Lutge fra det tekniske universitet i München, en førende autoritet inden for forskning i ansvarlig AI og forretningsetik, kommenterer: "I Europa er der en voksende debat om AI-regler, og et af nøglespørgsmålene er, hvordan man lukker kløft mellem principper og praksis, eller "hvad" og "hvordan." Jeg mener, at resultaterne af denne forskning er meget betydningsfulde, fordi de gør os i stand til at praktisere baseret på principper. Jeg vil også gerne udtrykke min dybe påskønnelse for beslutningen om at åbne op for forskningsresultaterne og stimulere diskussion på verdensplan."
Fremover vil Fujitsu aktivt arbejde på at samarbejde med offentlige myndigheder, private virksomheder og førende forskere for yderligere at forfine og promovere sin nyudviklede metodologi og sigter mod at frigive en udvidet version af ressourceværktøjssættet i regnskabsåret 2022.
Baggrund
I april 2021 udsendte Europa-Kommissionen et udkast til en lovgivningsramme, der opfordrer til en omfattende etisk reaktion for AI-systemudviklere, brugere og interessenter som svar på stigende bekymringer omkring algoritmisk skævhed og diskriminerende beslutningstagning i AI- og maskinlæringsapplikationer.
For at forpligte sig fuldt ud til ansvarlig brug af teknologi og opnå samfundets tillid til AI-systemer og de virksomheder og organisationer, der er involveret i dette rum, har Fujitsu formuleret sin egen AI Commitment i 2019 samt et nyt AI Ethics and Governance Office til at udvikle og håndhæve robuste politikker for AI-etik, fremme organisatorisk AI etisk styring for at sikre deres effektivitet. Nu vil Fujitsu bevæge sig fra princip til praksis ved støt at implementere bedste praksis i den virkelige verden for at sikre realiseringen af etiske, sikre og gennemsigtige AI- og maskinlæringsteknologier.
På nuværende tidspunkt er det almindelig praksis inden for AI-systemudvikling at identificere mulige etiske risici i AI-systemer baseret på AI-etiske retningslinjer udstedt af offentlige myndigheder og virksomheder. Disse retningslinjer er skrevet i naturligt sprog, hvilket dog bidrager til mulige forskelle i fortolkning og misforståelser blandt designere og udviklere, der kan føre til uhensigtsmæssige eller utilstrækkelige foranstaltninger. Under denne metode er det også vanskeligt at bedømme, om indholdet af retningslinjerne er blevet grundigt og hensigtsmæssigt gennemgået.
Der er dog stadig mange udfordringer, og mulig fejlfortolkning af retningslinjer i designfasen af nye teknologier kan potentielt føre til utilstrækkelige eller uhensigtsmæssige foranstaltninger til at imødegå risiko.
Ny evalueringsmetode og ressourcer til at afklare retningslinjer og etiske risici
Ved at udarbejde dette nye værktøjssæt og vejledning til udviklere udførte Fujitsu analyser af tidligere AI-relaterede hændelser indsamlet i AI Incident Database for det internationale konsortium Partnership on AI (1). Denne proces førte til den konklusion, at etiske spørgsmål relateret til AI-systemer kan kontekstualiseres med udveksling af information ("interaktioner") mellem diskrete elementer i et AI-system og mellem et AI-system og dets brugere og andre interessenter.
Baseret på disse resultater har Fujitsu med succes udviklet en evalueringsmetode til systematisk at identificere relevante etiske spørgsmål relateret til AI-systemer, hvilket giver mulighed for at skabe AI-etiske modeller (2), der er i stand til at afklare fortolkningen af AI-etiske retningslinjer.
Fujitsu anvendte sin nye evalueringsmetode på 15 repræsentative tilfælde ud af AI-hændelsen
Database (164 globale sager registreret pr. 21. februar 2022, eksempler inkluderede sager fra områder som finans- og menneskelige ressourcer). Ved at anvende den nye metode blev alle etiske problemer, der opstod i den virkelige verden, identificeret som risici på forhånd under verifikationsforsøg, hvis resultater er blevet offentliggjort.
Fujitsu vil tilbyde følgende ressourceværktøjssæt bestående af en række ressourcer og vejledning, som udviklere kan henvise til i deres eget arbejde:
Downloadside (på japansk, engelsk tilgængelig på et senere tidspunkt)
1. Whitepaper: En generel oversigt over metodologi
2. AI proceduremanual for etisk konsekvensanalyse: AI-systemdiagram, forberedelsesprocedure for AI-etisk model og forklaring af problemkorrespondancemetode
3. AI etisk model: En AI etisk model baseret på AI etiske retningslinjer udgivet af Europa-Kommissionen (skabt af Fujitsu)
4. Casestudier for AI-etikanalyse: Resultater af analyse af større AI-etiske spørgsmål fra AI Incident Database of Partnership on AI (Fra den 21. februar var der seks cases, som blev tilføjet sekventielt).
Use Case: risiko ved brug af AI til evaluering af enkeltpersoner til banklån, rekruttering
Figur 1 viser et eksempel på en evalueringsproces for en person, der er typiske i brugsscenarier som personalerekruttering eller godkendelse af banklån. Korrespondancetabellen i AI-etikmodellen identificerede "validiteten af evalueringsprocessen" (om evalueringen udføres ansvarligt med reference til outputresultaterne fra AI-systemet) som et afkrydsningspunkt for interaktionen (relationen) mellem brugeren af AI-system og målpersonen, der skal evalueres, hvorimod "overafhængighed af AI-resultater", "selektiv fortolkning og evaluering af outputresultater" og "uvidenhed om outputresultater" er anført som mulige risici.
Inden for dette eksempel kan AI-systemudviklere identificere risikoen for en "overafhængighed af brugere af output fra et AI-system, der kan indeholde bias og føre til uretfærdige beslutninger" som en mulig risiko i et AI-system og tilpasse systemet for at forhindre denne risiko. .
(1) Partnerskab om AI:
En non-profit organisation etableret i 2016, der adresserer de etiske udfordringer ved AI, for en fremtid, hvor AI og mennesker arbejder sammen.
(2) AI-etiske modeller:
AI-etiske modeller inkluderer en korrespondancetabel over "check items" og "interactions", et værktøj til trin-for-trin-evaluering af etiske krav til AI-systemer. AI-etiske modeller oprettes manuelt baseret på en specifik retningslinje, men når den først er genereret, kan en model bruges generisk til at evaluere forskellige AI-systemer. Ved hjælp af denne metode kan udviklere og operatører af AI-systemer automatisk hente alle relevante kontrolelementer fra en tidligere oprettet AI-etisk model til en systematisk og omfattende evaluering af relaterede mulige risici baseret på typen af interaktioner i et AI-system.
Om Fujitsu
Fujitsu er den førende japanske informations- og kommunikationsteknologi (IKT) virksomhed, der tilbyder et komplet udvalg af teknologiske produkter, løsninger og tjenester. Cirka 126,000 Fujitsu-folk støtter kunder i mere end 100 lande. Vi bruger vores erfaring og IKT-kraften til at forme samfundets fremtid sammen med vores kunder. Fujitsu Limited (TSE:6702) rapporterede en konsolideret omsætning på 3.6 billioner yen (34 milliarder USD) for regnskabsåret, der sluttede 31. marts 2021. For mere information, se venligst www.fujitsu.com.
Copyright 2022 JCN Newswire. Alle rettigheder forbeholdes. www.jcnnewswire.comFujitsu annoncerede i dag udviklingen af et ressourceværktøjssæt, der tilbyder udviklere vejledning til evaluering af AI-systemers etiske indvirkning og risici baseret på internationale AI-etiske retningslinjer.
- 000
- 100
- 2016
- 2019
- 2021
- 2022
- Om
- adresse
- AI
- algoritmisk
- Alle
- tillade
- analyse
- annoncerede
- applikationer
- Anvendelse
- april
- myndighed
- tilgængelighed
- til rådighed
- Bank
- BEDSTE
- bedste praksis
- Billion
- virksomhed
- tilfælde
- forårsagede
- udfordringer
- afgift
- kommentarer
- Kommissionen
- engagement
- Fælles
- Kommunikation
- Virksomheder
- selskab
- indhold
- ophavsret
- lande
- Kunder
- Database
- debat
- implementering
- Design
- udvikle
- udviklet
- udviklere
- Udvikling
- Tidligt
- Engelsk
- etableret
- etik
- Europa
- europæisk
- europæisk kommission
- eksempel
- udveksling
- erfaring
- finansielle
- følger
- efter
- Videresend
- Framework
- Gratis
- fuld
- fremtiden
- kløft
- Generelt
- Global
- regeringsførelse
- Regering
- Dyrkning
- retningslinjer
- hjælpe
- link.
- Hvordan
- How To
- HTTPS
- Human Resources
- Mennesker
- identificere
- KIMOs Succeshistorier
- medtaget
- Herunder
- individuel
- oplysninger
- interaktion
- internationalt
- involverede
- spørgsmål
- IT
- holde
- Nøgle
- Sprog
- føre
- førende
- læring
- Led
- Limited
- Børsnoterede
- Lån
- logo
- machine learning
- større
- manuel
- Marts
- materialer
- model
- modeller
- bevæge sig
- I nærheden af
- non-profit
- tilbyde
- tilbyde
- åbent
- organisation
- organisationer
- Andet
- partner
- Partnerskab
- Mennesker
- Personale
- fase
- politikker
- mulig
- magt
- præsentere
- forebyggelse
- private
- Problem
- behandle
- Produkter
- fremme
- rækkevidde
- virkelige verden
- rekruttering
- registreret
- regler
- lovgivningsmæssige
- forhold
- Krav
- forskning
- ressource
- Ressourcer
- svar
- ansvarlige
- Resultater
- Risiko
- sikker
- sektor
- sikker
- Tjenester
- signifikant
- SIX
- Samfund
- Løsninger
- Space
- undersøgelser
- Succesfuld
- support
- systemet
- Systemer
- mål
- Teknisk
- Teknologier
- Teknologier
- i dag
- sammen
- værktøjer
- gennemsigtig
- Stol
- universitet
- us
- brugere
- Verifikation
- hvorvidt
- whitepaper
- inden for
- Arbejde
- world
- verdensplan
- år
- Yen