EU kommer att anta världens första AI-lagstiftning som kommer att förbjuda ansiktsigenkänning på offentliga platser

Europeiska unionen (EU) leder kapplöpningen för att reglera artificiell intelligens (AI). Som ett slut på tre dagars förhandlingar nådde Europeiska rådet och Europaparlamentet en provisorisk överenskommelse tidigare i dag om vad som kommer att bli världens första heltäckande reglering av AI.

Carme Artigas, den spanska utrikesministern för digitalisering och AI, kallade avtalet en "historisk bedrift" i en pressmeddelande. Artigas sa att reglerna var en "extremt känslig balans" mellan att uppmuntra säker och pålitlig AI-innovation och adoption i hela EU och att skydda medborgarnas "grundläggande rättigheter".

Lagförslaget — den Artificiell intelligenslag— föreslogs först av EU-kommissionen i april 2021. Parlamentet och EU:s medlemsländer kommer att rösta för att godkänna lagförslaget nästa år, men reglerna träder i kraft först 2025.

En riskbaserad strategi för att reglera AI

AI-lagen är utformad med ett riskbaserat tillvägagångssätt, där ju högre risk ett AI-system utgör, desto strängare är reglerna. För att uppnå detta kommer förordningen att klassificera AI:er för att identifiera de som utgör "högrisk".

De AI:er som anses vara icke-hotande och med låg risk kommer att omfattas av "mycket lätta transparenskrav." Till exempel kommer sådana AI-system att behöva avslöja att deras innehåll är AI-genererat för att göra det möjligt för användare att fatta välgrundade beslut.

För högrisk-AI kommer lagstiftningen att lägga till ett antal skyldigheter och krav, inklusive:

Mänsklig tillsyn: Lagen kräver ett människocentrerat tillvägagångssätt, som betonar tydliga och effektiva mänskliga tillsynsmekanismer för högrisk-AI-system. Det innebär att ha människor i kretsen, aktivt övervaka och övervaka AI-systemets funktion. Deras roll inkluderar att se till att systemet fungerar som avsett, att identifiera och åtgärda potentiella skador eller oavsiktliga konsekvenser, och i slutändan att hålla ansvar för dess beslut och handlingar.

Transparens och förklaring: Att avmystifiera de inre funktionerna i högrisk-AI-system är avgörande för att bygga förtroende och säkerställa ansvarsskyldighet. Utvecklare måste tillhandahålla tydlig och tillgänglig information om hur deras system fattar beslut. Detta inkluderar detaljer om de underliggande algoritmerna, träningsdata och potentiella fördomar som kan påverka systemets utdata.

Datastyrning: AI-lagen betonar ansvarsfull datapraxis, som syftar till att förhindra diskriminering, partiskhet och integritetskränkningar. Utvecklare måste säkerställa att data som används för att träna och driva högrisk-AI-system är korrekta, fullständiga och representativa. Dataminimeringsprinciper är avgörande, samlar endast in nödvändig information för systemets funktion och minimerar risken för missbruk eller intrång. Dessutom måste individer ha tydliga rättigheter att få tillgång till, korrigera och radera sina data som används i AI-system, vilket ger dem möjlighet att kontrollera sin information och säkerställa dess etiska användning.

Riskhantering: Proaktiv riskidentifiering och begränsning kommer att bli ett nyckelkrav för högrisk-AI:er. Utvecklare måste implementera robusta ramverk för riskhantering som systematiskt bedömer potentiella skador, sårbarheter och oavsiktliga konsekvenser av deras system.

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
• PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
• Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
• PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
• Källa: https://cryptoslate.com/eu-set-to-adopt-worlds-first-ai-legislation-that-will-ban-facial-recognition-in-public-places/