EU skal vedta verdens første AI-lovgivning som vil forby ansiktsgjenkjenning på offentlige steder

Den europeiske union (EU) leder kampen for å regulere kunstig intelligens (AI). For å sette en stopper for tre dager med forhandlinger, nådde Det europeiske råd og Europaparlamentet tidligere i dag en foreløpig avtale om det som er satt til å bli verdens første omfattende regulering av AI.

Carme Artigas, den spanske utenriksministeren for digitalisering og kunstig intelligens, kalte avtalen en "historisk prestasjon" i en pressemelding. Artigas sa at reglene fant en "ekstremt delikat balanse" mellom å oppmuntre til trygg og pålitelig AI-innovasjon og -adopsjon over hele EU og beskyttelse av borgernes "grunnleggende rettigheter".

Lovutkastet — den Lov om kunstig intelligens— ble først foreslått av EU-kommisjonen i april 2021. Parlamentet og EUs medlemsland vil stemme for å godkjenne lovutkastet neste år, men reglene trer ikke i kraft før i 2025.

En risikobasert tilnærming til å regulere AI

AI-loven er utformet med en risikobasert tilnærming, der jo høyere risiko et AI-system utgjør, desto strengere er reglene. For å oppnå dette vil forskriften klassifisere AI-er for å identifisere de som utgjør "høyrisiko".

AI-ene som anses å være ikke-truende og med lav risiko vil være underlagt "veldig lette åpenhetsforpliktelser." For eksempel vil slike AI-systemer bli pålagt å avsløre at innholdet deres er AI-generert for å gjøre det mulig for brukere å ta informerte beslutninger.

For høyrisiko-AIer vil lovgivningen legge til en rekke forpliktelser og krav, inkludert:

Menneskelig tilsyn: Loven krever en menneskesentrert tilnærming, som legger vekt på klare og effektive menneskelige tilsynsmekanismer for høyrisiko AI-systemer. Dette betyr å ha mennesker i løkken, aktivt overvåke og overvåke AI-systemets drift. Deres rolle inkluderer å sikre at systemet fungerer etter hensikten, identifisere og adressere potensielle skader eller utilsiktede konsekvenser, og til slutt å holde ansvar for dets beslutninger og handlinger.

Åpenhet og forklaring: Å avmystifisere den indre funksjonen til høyrisiko AI-systemer er avgjørende for å bygge tillit og sikre ansvarlighet. Utviklere må gi klar og tilgjengelig informasjon om hvordan systemene deres tar avgjørelser. Dette inkluderer detaljer om de underliggende algoritmene, treningsdata og potensielle skjevheter som kan påvirke systemets utdata.

Datastyring: AI-loven legger vekt på ansvarlig datapraksis, med sikte på å forhindre diskriminering, skjevhet og brudd på personvernet. Utviklere må sikre at dataene som brukes til å trene og drifte høyrisiko AI-systemer er nøyaktige, fullstendige og representative. Dataminimeringsprinsipper er avgjørende, idet man kun samler inn nødvendig informasjon for systemets funksjon og minimerer risikoen for misbruk eller brudd. Videre må enkeltpersoner ha klare rettigheter til å få tilgang til, korrigere og slette dataene deres brukt i AI-systemer, slik at de kan kontrollere informasjonen deres og sikre den etiske bruken.

Risikostyring: Proaktiv risikoidentifikasjon og reduksjon vil bli et nøkkelkrav for høyrisiko-AIer. Utviklere må implementere robuste rammeverk for risikostyring som systematisk vurderer potensielle skader, sårbarheter og utilsiktede konsekvenser av systemene deres.

• SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
• PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
• PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
• PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
• PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
• kilde: https://cryptoslate.com/eu-set-to-adopt-worlds-first-ai-legislation-that-will-ban-facial-recognition-in-public-places/