EU se strinja z zakonom, ki prepoveduje nekatere umetne inteligence

Evropska unija (EU) je v soboto dosegla začasni dogovor o zakonu o AI – širokem pravnem okviru, ki omejuje uporabo umetne inteligence.

"Zakon EU o AI je prvi celovit pravni okvir o umetni inteligenci po vsem svetu," trdil, Predsednica Evropske komisije Ursula von der Leyen.

Po besedah ​​von der Leyen se sporazum osredotoča na prepoznavna tveganja, s čimer ustvarja pravno varnost za industrijo in razvoj tehnologije.

Komisija je opis člena zakona opisuje stopenjski sistem obvladovanja tveganja z različnimi AI, razvrščenimi glede na njihov vpliv na pravice.

Večina sistemov umetne inteligence spada v kategorijo »minimalno tveganje«, klasifikacijo, ki se uporablja za sisteme samodejnih priporočil, filtre neželene pošte in podobno. Sodelovanje pri kodeksih ravnanja AI za ponudnike takih storitev bo prostovoljno.

Za sisteme umetne inteligence, za katere velja, da so »visoko tvegani« – kot so tisti, povezani s kritičnimi infrastrukturami, oceno dostopa do izobraževanja, kazenskim pregonom ali biometrično identifikacijo – bodo veljale strožje zahteve.

Predpisi bi lahko zahtevali podrobno dokumentacijo, nize podatkov višje kakovosti, človeški nadzor in sisteme za zmanjšanje tveganja.

Vse, kar očitno ogroža temeljne pravice, spada v kategorijo "nesprejemljivo tveganje" in ni dovoljeno.

Umetne inteligence v tej kategoriji vključujejo prediktivno policijo, sisteme za prepoznavanje čustev na delovnem mestu, manipulacijo človeškega vedenja za izogibanje svobodni volji ali kategorizacijo ljudi na podlagi lastnosti, vključno s političnim ali verskim prepričanjem, raso ali spolno usmerjenostjo.

Zakon bo zahteval tudi označevanje globokih ponaredkov in vsebine, ustvarjene z umetno inteligenco, medtem ko morajo biti uporabniki chatbotov obveščeni, da se pogovarjajo s strojem.

Medtem pa temeljni modeli, ki se uporabljajo v AI, zahtevajo usposabljanje več kot 10²⁵ flops se bodo čez 12 mesecev soočili z dodatno regulacijo.

S šestmesečnim rokom za doseganje skladnosti bodo morali razvijalci AI zagotoviti, da se vsaka funkcija, ki spada v kategorijo nesprejemljivega tveganja, hitro odstrani iz njihovih izdelkov. Skladnost s predpisi za umetno inteligenco z visokim tveganjem mora biti vzpostavljena tudi v pol leta po sprejetju zakona.

Ugotovljeno kršenje zakona prinaša znatne denarne kazni, ki jih je strokovnjak za pravo umetne inteligence Barry Scannell ocenil kot "veliko finančno tveganje" za podjetja.

Te kazni znašajo od 1.5 odstotka njihovega svetovnega prometa ali 8 milijonov dolarjev do sedem odstotkov ali 37.7 milijona dolarjev – odvisno od kršitve in zmogljivosti razvijalca.

Komisija je namignila, da bi lahko raziskala "sorazmernejše zgornje meje" glob za novoustanovljena podjetja in MSP.

Glede na Scanell, morajo podjetja upoštevati marsikaj. Tisti, ki vlagajo v biometrično prepoznavanje in prepoznavanje čustev, bodo morda potrebovali "velike strateške premike."

"Poleg tega bi lahko povečane zahteve glede preglednosti ogrozile zaščito intelektualne lastnine, kar bi zahtevalo ravnotežje med razkritjem in ohranjanjem poslovnih skrivnosti," je zapisal odvetnik s sedežem v Dublinu.

Ocenil je tudi, da bi nadgradnja kakovosti podatkov in pridobitev naprednih orodij za upravljanje pristranskosti lahko povečala operativne stroške. Povečana dokumentacija in človeški nadzor bi lahko predstavljala tudi poslovno nadlogo v obliki časa in denarja.

Sporazum je bil podpisan po 38 urah pogajanj. Evropska poslanka Svenja Hahn pohvalil rezultat kot preprečevanje množične prekomerne regulacije, vendar je izrazil zaskrbljenost, da bi lahko uporabil "večjo odprtost za inovacije in še večjo zavezanost državljanskim pravicam."

Zakonodajalec je bil razočaran nad neuspehom pri preprečevanju dovoljenja biometrične identifikacije v realnem času "proti ogromnemu vetru iz držav članic", vendar je izrazila zadovoljstvo nad preprečevanjem biometričnega množičnega nadzora.

Big Tech tudi ni bil povsem zadovoljen z zakonom. Združenje računalniške in komunikacijske industrije (CCIA) poševno da "izid kaže, da je bila zakonodaja o umetni inteligenci, ki je pripravljena na prihodnost, žrtvovana zaradi hitrega dogovora" in "bo verjetno upočasnila inovacije v Evropi."

Člani CCIA predstavljajo kdo je kdo med podjetji za internetne storitve, programsko opremo in telekomunikacijami – vključno z imeni, kot so Amazon, Apple, Cloudflare, Intel, Google, Samsung in Red Hat.

CCIA se je v svoji pripravljeni izjavi pritožil zaradi povečanih zahtev za nekatere tehnologije in popolne prepovedi za tiste, ki se štejejo za "nesprejemljivo tveganje".

"To bi lahko povzročilo odseljevanje evropskih podjetij z umetno inteligenco in talente, ki iščejo rast drugje," je zatrdila CCIA.

Čeprav je dogovor pošteno določen, ni popolnoma sklenjen dogovor. Uradno ga morata potrditi še Evropski parlament in Svet. Veljati bo začel 20 dni po objavi v Uradnem listu.

Von der Leyen je obljubila, da bo nadaljevala delo na področju regulacije umetne inteligence na mednarodni ravni – s sodelovanjem v G7, OECD, Svetu Evrope, G20 in ZN. ®

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
• PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
• PlatoESG. Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
• PlatoHealth. Obveščanje o biotehnologiji in kliničnih preskušanjih. Dostopite tukaj.
• vir: https://go.theregister.com/feed/www.theregister.com/2023/12/11/eu_agrees_ai_act/