Teknologifirmaer lover at stoppe billeder af seksuelt misbrug af børn fremstillet af AI

Teknologifirmaer lover at stoppe billeder af seksuelt misbrug af børn fremstillet af AI

Tidsstempel: 2. november 2023 kl. 12:22
Tech Firms Vow to Stop AI-Made Child Sexual Abuse Images PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Teknikfirmaer har med støtte fra forskellige regeringer underskrevet et løfte om en samarbejdsindsats for at stoppe spredningen af ​​indhold af seksuelt misbrug af børn skabt af AI.

Firmaer som TikTok, Snapchat, Stability AI og andre har underskrevet et fælles løfte om at stoppe spredningen af ​​AI-genererede billeder af seksuelt misbrug af børn, der har været voldsomt på det seneste efter boomet i generativ AI.

De afgav løftet ved en begivenhed arrangeret af indenrigsminister Suella Braverman i samarbejde med Internet Watch Foundation (IWF) i mandags.

Læs også: Ai Pin – Hvad er den nye GPT-4-enhed fra Humane?

Regeringer vægter ind

Ifølge en Reuters indberette, annoncerede Storbritannien løftet, som opregner de amerikanske, tyske og australske regeringer blandt de 27 underskrivere.

"Vi beslutter at opretholde dialogen og den tekniske innovation omkring bekæmpelse af seksuelt misbrug af børn i en alder af AI," lyder en del af erklæringen.

"Vi beslutter at arbejde sammen om at bruge ansvarlig AI til at tackle truslen om seksuelt misbrug af børn og forpligter os til at fortsætte med at arbejde sammen for at sikre, at de risici, som AI udgør ved at tackle seksuelt misbrug af børn, ikke bliver uoverstigelige."

Løftet kommer, da den britiske regering også kigger på yderligere investeringer i brugen af ​​kunstig intelligens til at tackle seksuelt misbrug af børn online efter en stigning i AI-genererede billeder, der afbilder seksuel vold mod børn.

"Vi kan ikke lade dette gå ukontrolleret," sagde Braverman og tilføjede, at "hastigheden, hvormed disse billeder har spredt sig online, er chokerende, og det er derfor, vi har indkaldt en så bred gruppe af organisationer for at tackle dette problem direkte."

Braverman sagde spredningen af ​​billeder af seksuelt misbrug af børn genereret af AI er nu "en online plage."

"Det er grunden til, at teknologigiganter skal arbejde sammen med retshåndhævelsen for at begrænse deres spredning. Billederne er computergenererede, men de viser ofte rigtige mennesker; det ødelægger og ødelægger liv,” tilføjede hun.

Chokerende AI-billeder af seksuelt misbrug af børn

IWF har udgivet chokerende statistikker over AI-genererede billeder af seksuelt misbrug af børn, hvilket øger frygten for, at samfundet normaliserer vold mod børn.

Alene på en måned undersøgte IWF mere end 11,000 AI-billeder delt på et mørkt webforum for børnemisbrug.

Af disse tal blev næsten 3,000 bekræftet i strid med den britiske lov ved at afbilde seksuelt misbrug af børn, ifølge IWF.

»Vi slog først alarm om dette i juli. I løbet af nogle få måneder har vi set al vores værste frygt realiseret,” sagde IWFs administrerende direktør Susie Hargreaves.

"Realismen i disse billeder er forbløffende og forbedres hele tiden. Størstedelen af ​​det, vi ser, er nu så virkeligt og så alvorligt, at det ville skulle behandles nøjagtigt, som om det var ægte billeder i henhold til britisk lov,” tilføjede Hargreaves.

Flere underskrivere involveret

Andre underskrivere til løftet omfattede National Society for Prevention of Cruelty to Children (NSPCC), National Police Chiefs' Council og National Crime Agency.

NSPCC CEO Peter Wanless sagde: "AI udvikles med en sådan hastighed, at det er afgørende, at børns sikkerhed betragtes eksplicit og ikke som en eftertanke i kølvandet på undgåelig tragedie."

"Vi ser allerede billeder af AI-børnemisbrug have en forfærdelig indvirkning på børn, traumatiserende og retraumatiserende ofre, der ser billeder af deres lighed blive skabt og delt," tilføjede Wanless.

Ifølge NCA er der anslået 680,000 til 830,000 voksne i Det Forenede Kongerige, hvilket er omkring 1.3 % til 1.6 % af den voksne befolkning, hvilket udgør "en vis grad af seksuel risiko for børn, hvilket er grunden til at tackling af seksuelt misbrug er en prioritet for NCA."

"Vi vil efterforske og retsforfølge personer, der skaber, deler, besidder, får adgang til eller ser AI-genereret materiale om seksuelt misbrug af børn på samme måde, som hvis billedet var af et rigtigt barn," sagde Chris Farrimond, direktør for trusselsledelse hos NCA .

Meddelelsen kommer, mens Storbritannien forbereder sig på at være vært for AI Safety Summit. Topmødet forventes at drøfte ansvarlig AI-udvikling.

Tidsstempel:

Mere fra MetaNews