Microsoft lover at stramme adgangen til kunstig intelligens, som det nu anser for at være for risikabelt for nogle udviklere

Microsoft har lovet at begrænse adgangen til AI-værktøjer designet til at forudsige følelser, køn og alder fra billeder og vil begrænse brugen af ​​dets ansigtsgenkendelse og generative lydmodeller i Azure.

Windows-giganten afgav løftet i tirsdags, mens den også delte sin såkaldte Responsible AI Standard, en dokumentet [PDF] hvori det amerikanske selskab lovede at minimere enhver skade påført af dets maskinlæringssoftware. Dette løfte indeholdt forsikringer om, at biz vil vurdere virkningen af ​​sine teknologier, dokumentere modellernes data og muligheder og håndhæve strengere brugsretningslinjer.

Dette er nødvendigt, fordi – og lad os lige tjekke noterne her – der tilsyneladende ikke er nok love endnu, der regulerer brug af maskinlæringsteknologi. I mangel af denne lovgivning vil Microsoft altså bare tvinge sig selv til at gøre det rigtige.

"Behovet for denne type praktisk vejledning vokser," Microsofts Chief Responsible AI Officer Natasha Crampton sagde i en udtalelse. "AI bliver mere og mere en del af vores liv, og alligevel halter vores love bagefter. De har ikke indhentet AI's unikke risici eller samfundets behov. Selvom vi ser tegn på, at regeringens indsats for kunstig intelligens udvides, anerkender vi også vores ansvar for at handle. Vi mener, at vi skal arbejde for at sikre, at AI-systemer er ansvarlige ved design."

Vi mener, at vi skal arbejde for at sikre, at AI-systemer er ansvarlige ved design

Og så, i et forsøg på at styre maskinlærende udviklere væk fra at forårsage strid og elendighed ved hjælp af deres teknologier, afvikler Microsoft adgangen til værktøjer, der er trænet til at klassificere folks køn, alder og følelser og analysere deres smil, ansigtshår, hår, og makeup, via dets Face API i Azure. Nye kunder vil ikke kunne bruge denne API i Microsofts sky, og eksisterende kunder har indtil 30. juni 2023 til at migrere til andre tjenester, før softwaren officielt trækkes tilbage.

Selvom disse muligheder ikke vil blive tilbudt via deres API-platform, vil de stadig blive brugt i andre dele af Microsofts imperium. For eksempel vil funktionerne blive integreret i Seeing AI, en app, der identificerer og fortæller beskrivelser af mennesker og objekter for dem med synshandicap.

Eksperter har længe diskuteret nøjagtigheden og værdien af ​​maskinlæringsmodeller, der bruges til at forudsige folks følelser og køn, og citerer også privatlivsproblemer. Det frygtes, at AI-drevne softwareprogrammer, gennem forkerte eller uretfærdige klassificeringer, automatisk vil gøre nogle menneskers liv vanskeligt, og derfor bør brugen af ​​denne teknologi reguleres eller begrænses.

Adgang til andre typer Microsoft-værktøjer, der anses for risikable, såsom generering af realistisk lyd (at lægge ord i en andens mund) og ansigtsgenkendelse (nyttigt til overvågning) vil være begrænset. Nye kunder skal ansøge om at bruge værktøjerne; Microsoft vil vurdere, om de applikationer, de ønsker at udvikle, er passende eller ej. Eksisterende kunder skal også indhente tilladelse til at fortsætte med at bruge disse værktøjer til deres produkter fra den 30. juni 2023. 

At efterligne lyden af ​​en andens stemme ved hjælp af generative AI-modeller er nu ikke tilladt uden talerens samtykke. Produkter og tjenester bygget ved hjælp af Microsofts Custom Neural Voice-software skal afsløre, at stemmerne også er falske. Brugsretningslinjer for virksomhedens ansigtsgenkendelsesværktøjer er også strengere, hvis de anvendes i offentlige rum og ikke kan bruges til at spore enkeltpersoner til overvågningsformål.

I 2020 Microsoft lovede at stoppe med at sælge ansigtsgenkendelsessoftware til det statslige og lokale politi i USA, indtil teknologien er reguleret af føderal lov. To år senere, og virksomheden holder stadig sit løfte. Den føderale regering kan dog stadig bruge disse værktøjer, men bliver nødt til at overholde de opdaterede retningslinjer for brug, fortalte en talsmand for Microsoft.

"Dette er en kritisk normgivende periode for kunstig intelligens," Crampton tilføjet til New York Times. "Vi håber at kunne bruge vores standard til at forsøge at bidrage til den lyse, nødvendige diskussion, der skal føres om de standarder, som teknologivirksomheder skal holdes til." ®