UE se pregătește să adopte prima legislație AI din lume care va interzice recunoașterea facială în locuri publice

Uniunea Europeană (UE) conduce cursa pentru reglementarea inteligenței artificiale (AI). Punând capăt la trei zile de negocieri, Consiliul European și Parlamentul European au ajuns astăzi la un acord provizoriu cu privire la ceea ce va deveni prima reglementare cuprinzătoare a IA din lume.

Carme Artigas, secretarul de stat spaniol pentru digitalizare și inteligență artificială, a numit acordul o „realizare istorică” într-un comunicatul de presă. Artigas a spus că regulile au realizat un „echilibru extrem de delicat” între încurajarea inovării și adoptării IA sigure și demne de încredere în UE și protejarea „drepturilor fundamentale” ale cetățenilor.

Proiectul de lege — cel Legea inteligenței artificiale— a fost propus pentru prima dată de Comisia Europeană în aprilie 2021. Parlamentul și statele membre UE vor vota pentru aprobarea proiectului de legislație anul viitor, dar regulile nu vor intra în vigoare decât în ​​2025.

O abordare bazată pe risc pentru reglementarea AI

Actul AI este conceput utilizând o abordare bazată pe risc, în care cu cât riscul îl prezintă un sistem AI, cu atât regulile sunt mai stricte. Pentru a realiza acest lucru, regulamentul va clasifica AI pentru a le identifica pe cele care prezintă „risc ridicat”.

AI care sunt considerate a fi neamenințătoare și cu risc scăzut vor fi supuse unor „obligații de transparență foarte ușoare”. De exemplu, astfel de sisteme AI vor fi obligate să dezvăluie că conținutul lor este generat de AI pentru a permite utilizatorilor să ia decizii în cunoștință de cauză.

Pentru IA cu risc ridicat, legislația va adăuga o serie de obligații și cerințe, inclusiv:

Supravegherea umană: Actul impune o abordare centrată pe om, subliniind mecanismele clare și eficiente de supraveghere umană a sistemelor AI cu risc ridicat. Aceasta înseamnă să aveți oameni în buclă, să monitorizați și să supravegheați în mod activ funcționarea sistemului AI. Rolul lor include să se asigure că sistemul funcționează așa cum s-a prevăzut, să identifice și să abordeze potențialele daune sau consecințe neintenționate și, în cele din urmă, să dețină responsabilitatea pentru deciziile și acțiunile sale.

Transparență și explicabilitate: Demistificarea funcționării interioare a sistemelor AI cu risc ridicat este crucială pentru construirea încrederii și asigurarea răspunderii. Dezvoltatorii trebuie să ofere informații clare și accesibile despre modul în care sistemele lor iau decizii. Aceasta include detalii despre algoritmii de bază, datele de antrenament și potențialele părtiniri care pot influența rezultatele sistemului.

Guvernarea datelor: Legea AI pune accent pe practicile responsabile de date, cu scopul de a preveni discriminarea, părtinirea și încălcările confidențialității. Dezvoltatorii trebuie să se asigure că datele utilizate pentru instruirea și operarea sistemelor AI cu risc ridicat sunt exacte, complete și reprezentative. Principiile minimizării datelor sunt cruciale, culegând doar informațiile necesare pentru funcționarea sistemului și minimizând riscul de utilizare greșită sau încălcări. În plus, persoanele trebuie să aibă drepturi clare de a accesa, rectifica și șterge datele lor utilizate în sistemele AI, dându-le putere să-și controleze informațiile și să asigure utilizarea etică a acestora.

Managementul riscurilor: Identificarea și atenuarea proactivă a riscurilor vor deveni o cerință cheie pentru AI cu risc ridicat. Dezvoltatorii trebuie să implementeze cadre solide de gestionare a riscurilor care să evalueze sistematic potențialele daune, vulnerabilități și consecințe nedorite ale sistemelor lor.

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
• PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
• PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
• PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
• Sursa: https://cryptoslate.com/eu-set-to-adopt-worlds-first-ai-legislation-that-will-ban-facial-recognition-in-public-places/