Teknikföretag lovar att stoppa AI-tillverkade bilder av sexuella övergrepp mot barn

Teknikföretag lovar att stoppa AI-tillverkade bilder av sexuella övergrepp mot barn

Tidsstämpel: 2 november 2023 12:22
Teknikföretag lovar att stoppa AI-tillverkade sexuella övergrepp på barn Bilder PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

Teknikföretag, med stöd av olika regeringar, har undertecknat ett löfte om ett samarbete för att stoppa spridningen av innehåll om sexuella övergrepp mot barn skapat av AI.

Företag som TikTok, Snapchat, Stability AI och andra har skrivit på ett gemensamt löfte om att stoppa spridningen av AI-genererade bilder av sexuella övergrepp mot barn som har florerat på sistone efter boomen inom generativ AI.

De gjorde löftet vid ett evenemang som inrikesminister Suella Braverman arrangerade i samarbete med Internet Watch Foundation (IWF) i måndags.

Läs också: Ai Pin – Vad är den nya GPT-4-enheten från Humane?

Regeringar väger in

Enligt en Reuters rapport, tillkännagav Storbritannien löftet, som listar de amerikanska, tyska och australiensiska regeringarna bland de 27 undertecknarna.

"Vi beslutar att upprätthålla dialogen och den tekniska innovationen kring att ta itu med sexuella övergrepp mot barn i en ålder av AI", står det i en del av uttalandet.

"Vi bestämmer oss för att arbeta tillsammans för att använda ansvarsfull AI för att hantera hotet om sexuella övergrepp mot barn och förbinder oss att fortsätta att samarbeta för att säkerställa att riskerna med AI för att hantera sexuella övergrepp mot barn inte blir oöverstigliga."

Löftet kommer när den brittiska regeringen också tittar på ytterligare investeringar i användningen av AI för att hantera sexuella övergrepp mot barn på nätet efter en ökning av AI-genererade bilder som skildrar sexuellt våld mot barn.

"Vi kan inte låta det här gå okontrollerat", sa Braverman och tillade att "takten med vilken dessa bilder har spridits på nätet är chockerande, och det är därför vi har sammankallat en så bred grupp av organisationer för att ta itu med den här frågan direkt."

Braverman sade spridningen av bilder på sexuella övergrepp mot barn som genereras av AI är nu "ett gissel online."

"Det är därför teknikjättar måste arbeta tillsammans med brottsbekämpande myndigheter för att begränsa deras spridning. Bilderna är datorgenererade men de visar ofta riktiga människor; det fördärvar och skadar liv”, tillade hon.

Chockerande AI-bilder av sexuella övergrepp mot barn

Smakämnen IMF har släppt chockerande statistik över AI-genererade bilder av sexuella övergrepp mot barn, vilket ökar rädslan för att samhället ska normalisera våld mot barn.

Bara under en månad undersökte IWF mer än 11,000 ​​XNUMX AI-bilder som delas på ett mörkt webbforum för övergrepp mot barn.

Av dessa siffror bekräftades nästan 3,000 XNUMX bryta mot den brittiska lagen genom att avbilda sexuella övergrepp mot barn, enligt IWF.

”Vi slog först larm om detta i juli. På några korta månader har vi sett alla våra värsta farhågor förverkligas”, säger IWF:s vd Susie Hargreaves.

"Realismen i dessa bilder är häpnadsväckande och förbättras hela tiden. Majoriteten av det vi ser är nu så verkligt och så allvarligt att det skulle behöva behandlas exakt som om det vore riktiga bilder enligt brittisk lag”, tillade Hargreaves.

Fler undertecknare inblandade

Andra undertecknare till löftet ingick National Society for the Prevention of Cruelty to Children (NSPCC), National Police Chiefs' Council och National Crime Agency.

NSPCC:s VD Peter Wanless sa: "AI utvecklas med sådan hastighet att det är viktigt att barns säkerhet betraktas explicit och inte som en eftertanke i kölvattnet av undvikbar tragedi."

"Redan ser vi bilder av AI-barnmisshandel som har en fruktansvärd inverkan på barn, traumatiserande och retraumatiserande offer som ser bilder av deras likhet skapas och delas", tillade Wanless.

Enligt NCA finns det uppskattningsvis 680,000 830,000 till 1.3 1.6 vuxna i Storbritannien, vilket är cirka XNUMX % till XNUMX % av den vuxna befolkningen, vilket utgör "en viss grad av sexuell risk för barn, vilket är anledningen till att hanteringen av sexuella övergrepp är en prioritet för NCA."

"Vi kommer att utreda och åtala individer som skapar, delar, äger, har tillgång till eller ser AI-genererat material för sexuella övergrepp mot barn på samma sätt som om bilden var av ett riktigt barn", säger Chris Farrimond, chef för hotledarskap på NCA .

Tillkännagivandet kommer när Storbritannien förbereder sig för att vara värd för AI Safety Summit. Toppmötet förväntas diskutera ansvarsfull AI-utveckling.

Tidsstämpel:

Mer från MetaNews