Katsed vältida tehisintellekti kaitsepiirdeid, mida süüdistatakse kiiretes sügavvõltsingutes

Taasavaldanud Platon

järgijaid: 0

Katsed vältida tehisintellekti kaitsepiirdeid, mida süüdistatakse Swifti süvavõltsingutes PlatoBlockchain Data Intelligence. Vertikaalne otsing. Ai.

Väidetavalt tulenesid popstaar Taylor Swifti viiruslikud nilgad sügavalt võltsitud pildid 4chani võrguvõistlusest, mis kutsus võistlejaid üles murdma tehisintellekti tarkvara sisufiltreid.

New Yorgi sotsiaalmeedia analüütikafirma Graphika töötajad on jälginud pilte otse 4chanile. Inimestel paluti välja mõelda nippe, et vältida turvapiirdeid sellistes rakendustes nagu Microsofti Designer või OpenAI DALL-E, et luua naiskuulsustest NSFW-pilte. Graphika sõnul loodi Taylor Swifti pildid Microsoft Designeri abil ja neid jagati hiljem Telegrami grupivestluses, enne kui need postitati X-i.

"Jätkame nende piltide uurimist ja oleme tugevdanud oma olemasolevaid turvasüsteeme, et veelgi vältida meie teenuste väärkasutamist, et aidata luua selliseid pilte," ütles Microsofti pressiesindaja. Register avalduses.

Sügavad võltsitud pildid Kiire kogus X-is miljoneid vaatamisi, enne kui sotsiaalmeedia platvorm need eemaldas ja ajutiselt blokeeris mõned laulukirjutajaga seotud otsingusõnad. Graphika ütles aga, et konkursi sihtmärgiks olid teised tuntud naisfiguurid, ja hoiatas, et tehnoloogiat võidakse kuritarvitada, et kedagi sihtida.

"Kuigi Taylor Swifti viiruslikud pornograafilised pildid on juhtinud peavoolu tähelepanu tehisintellekti loodud mittekonsensuslike intiimpiltide probleemile, pole ta kaugeltki ainus ohver," ütles Graphika vanemanalüütik Cristina López G. ütles Bloomberg. "4chani kogukonnas, kust need pildid pärinevad, pole ta isegi kõige sagedamini sihitud avaliku elu tegelane. See näitab, et sel viisil saab sihikule võtta igaüks, alates ülemaailmsetest kuulsustest kuni koolilasteni välja.

Swifti seksuaalselt sugestiivsetes poosides kujutavate võltspiltide viiruslikkus näib aga olevat seadusandjad hoo sisse pannud. Valge Maja pressisekretär Karine Jean-Pierre kutsus Kongressi üles võtma "seadusandlikke meetmeid" vastuseks "ärevaks tegevatele" piltidele.

Eelmisel nädalal tutvustasid USA senaatorid 2024. aasta seadust Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE) kahepoolne arve mis võimaldaks ohvritel kohtusse kaevata inimesed, kes loovad ja jagavad AI-ga loodud süvavõltsinguid. Seadus, mille eestvedajaks olid senaatorid Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN) ja Josh Hawley (R-MO), viitas uuringule, mis väitis 96 protsenti sügavvõltsitud videotest. olid pornograafilised ja loodud ilma sellel kujutatud naiste loata või nõusolekuta.

DEFIANCE'i seadus käivitati ajal, mil sotsiaalmeedia platvormide tippjuhte küsitleti kongressi istungil. ärakuulamine laste seksuaalse ärakasutamise ja kaitse puudumise üle.

Register on Graphikalt lisakommentaari küsinud. ®