Ugotovljeno je bilo, da ogromen javni nabor podatkov, ki je služil kot podatki za usposabljanje za priljubljene generatorje slik z umetno inteligenco, vključno s Stable Diffusion, vsebuje na tisoče primerkov gradiva o spolni zlorabi otrok (CSAM).
V študija objavljeno danes, je Stanford Internet Observatory (SIO) povedal, da je preučil več kot 32 milijonov podatkovnih točk v naboru podatkov LAION-5B in je lahko z orodjem PhotoDNA, ki ga je razvil Microsoft, preveril 1,008 slik CSAM – nekatere so bile vključene večkrat. Ta številka je verjetno "znatno premajhna", so povedali raziskovalci v svojem prispevku.
LAION-5B ne vključuje samih slik, ampak je namesto tega zbirka metapodatkov, vključno z zgoščeno vrednostjo identifikatorja slike, opisom, jezikovnimi podatki, ali morda ni varen, in URL-jem, ki kaže na sliko. Številne fotografije CSAM, ki so bile najdene povezane v LAION-5B, so gostovale na spletnih mestih, kot so Reddit, Twitter, Blogspot in WordPress, pa tudi na spletnih mestih za odrasle, kot sta XHamster in XVideos.
Da bi našel slike v naboru podatkov, vredne testiranja, se je SIO osredotočil na slike, ki jih je varnostni klasifikator LAION označil kot "nevarne". Te slike so bile skenirane s PhotoDNA, da bi odkrili CSAM, in ujemanja so bila poslana Kanadskemu centru za zaščito otrok (C3P), da jih preveri.
"Odstranjevanje identificiranega izvornega materiala je trenutno v teku, saj so raziskovalci URL-je slik prijavili Nacionalnemu centru za pogrešane in izkoriščane otroke (NCMEC) v ZDA in C3P," SIO je dejal.
LAION-5B je bil uporabljen za usposabljanje priljubljenega generatorja slik AI Stable Diffusion, katerega različica 1.5 je v nekaterih delih interneta dobro znana po svoji zmožnosti ustvarjanja eksplicitnih slik. Čeprav ni neposredno povezan s primeri, kot je otroški psihiater uporabo AI za ustvarjanje pornografskih slik mladoletnikov, je to vrsta tehnologije, ki je narejena deepfake sextortion in druga kazniva dejanja lažje.
Po navedbah SIO je Stable Diffusion 1.5 še vedno priljubljen na spletu za ustvarjanje eksplicitnih fotografij po "široko razširjenem nezadovoljstvu skupnosti" z izdajo Stable Diffusion 2.0, ki je dodal dodatne filtre za preprečevanje, da bi nevarne slike zdrsnile v nabor podatkov za usposabljanje.
Ni jasno, ali je Stability AI, ki je razvil Stable Diffusion, vedel za prisotnost potencialnega CSAM v svojih modelih zaradi uporabe LAION-5B; podjetje na naša vprašanja ni odgovorilo.
Ups, spet jim je uspelo
Medtem ko je bilo prvič, da so bili podatki o usposabljanju AI nemške neprofitne organizacije LAION obtoženi skrivanja otroške pornografije, je bila organizacija že prej ulovljena zaradi vključevanja vprašljive vsebine v svoje podatke o usposabljanju.
Google, ki je za usposabljanje svojega generatorja Imagen AI uporabil predhodnika LAION-2B, znanega kot LAION-400M, se je odločil, da orodja nikoli ne izda zaradi več pomislekov, vključno s tem, ali so mu podatki o usposabljanju LAION pomagali zgraditi pristranski in problematičen model.
Po mnenju ekipe Imagen, je generator pokazal »splošno nagnjenost k ustvarjanju podob ljudi s svetlejšimi toni kože in … upodabljanju različnih poklicev za uskladitev z zahodnimi spolnimi stereotipi«. Modeliranje stvari, ki niso ljudje, ni izboljšalo situacije, zaradi česar je Imagen "kodiral vrsto družbenih in kulturnih pristranskosti pri ustvarjanju podob dejavnosti, dogodkov in predmetov."
Revizija samega LAION-400M je "odkrila široko paleto neprimerne vsebine, vključno s pornografskimi posnetki, rasističnimi žalitvami in škodljivimi družbenimi stereotipi."
Nekaj mesecev po tem, ko se je Google odločil, da bo Imagen javno objavil, umetnik opažen medicinske slike iz operacije, ki jo je prestala leta 2013, prisotne v LAION-5B, za katere nikoli ni dala dovoljenja za vključitev.
LAION ni odgovoril na naša vprašanja o tej zadevi, je pa ustanovitelj Christoph Schuhmann za Bloomberg v začetku tega leta povedal, da je ne vem katerega koli CSAM-a, ki je prisoten v LAION-5B, hkrati pa je priznal, da "podatkov ni pregledal zelo poglobljeno."
Naključje ali ne – študija SIO ni omenjena – je LAION včeraj izbral uvesti načrtuje "redne vzdrževalne postopke", ki se začnejo takoj, za odstranitev "povezav v nizih podatkov LAION, ki še vedno kažejo na sumljivo, potencialno nezakonito vsebino na javnem internetu."
"LAION ima politiko ničelne tolerance do nezakonitih vsebin," so sporočili iz podjetja. »Javni nabori podatkov bodo začasno odstranjeni, da se vrnejo nazaj po filtriranju posodobitev.« LAION načrtuje vrnitev svojih podatkovnih nizov javnosti v drugi polovici januarja. ®
- Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
- PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
- PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
- PlatoESG. Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
- PlatoHealth. Obveščanje o biotehnologiji in kliničnih preskušanjih. Dostopite tukaj.
- vir: https://go.theregister.com/feed/www.theregister.com/2023/12/20/csam_laion_dataset/
- :ima
- : je
- :ne
- 1
- 2013
- 32
- 7
- a
- sposobnost
- Sposobna
- O meni
- zloraba
- obtožen
- dejavnosti
- dodano
- Dodatne
- Izobraževanje odraslih
- po
- AI
- AI usposabljanje
- uskladiti
- Prav tako
- an
- in
- kaj
- umetnik
- AS
- Revizija
- nazaj
- BE
- bilo
- pred
- Začetek
- pristranskosti
- pristranski
- pristranskosti
- Bloomberg
- izgradnjo
- vendar
- by
- Kanadski
- primeri
- ujete
- povzroča
- center
- center
- nekatere
- otrok
- Varstvo otrok
- Otroci
- izbral
- CO
- zbirka
- skupnost
- podjetje
- Skrbi
- vsebujejo
- vsebina
- vogali
- ustvarjajo
- Zločini
- kulturne
- Trenutno
- datum
- podatkovne točke
- nabor podatkov
- odločil
- globina
- opis
- odkrivanje
- razvili
- DID
- ni
- drugačen
- Difuzija
- neposredno
- ne
- navzdol
- 2
- prej
- lažje
- dogodki
- Exploited
- Nekaj
- filtriranje
- Filtri
- Najdi
- prva
- prvič
- osredotočena
- za
- je pokazala,
- Ustanovitelj
- iz
- dal
- Spol
- ustvarjajo
- ustvarjajo
- generator
- generatorji
- nemški
- veliko
- imel
- Pol
- škodljiva
- hash
- he
- pomagal
- gostila
- HTTPS
- Ljudje
- identificirati
- identifikator
- if
- nezakonito
- slika
- slike
- takoj
- izboljšanje
- in
- vključujejo
- vključeno
- Vključno
- Namesto
- Internet
- v
- isn
- IT
- ITS
- sam
- januar
- jpg
- znano
- jezik
- velika
- lažji
- kot
- Verjeten
- povezane
- Povezave
- je
- vzdrževanje
- Izdelava
- ogromen
- tekme
- Material
- Matter
- Maj ..
- medicinski
- omenjeno
- metapodatki
- milijonov
- manjka
- Model
- modeliranje
- modeli
- mesecev
- več
- več
- nacionalni
- nikoli
- neprofitna
- Številka
- predmeti
- Opazovalnica
- of
- on
- na spletu
- or
- Organizacija
- Ostalo
- naši
- več
- Splošni
- Papir
- mimo
- ljudje
- Dovoljenje
- slike
- načrti
- platon
- Platonova podatkovna inteligenca
- PlatoData
- Točka
- točke
- politika
- Popular
- potencial
- potencialno
- predhodnik
- Prisotnost
- predstaviti
- preprečiti
- problematično
- Postopki
- Napredek
- zaščita
- javnega
- objavljeno
- vprašanja
- rasistični
- območje
- redni
- sprostitev
- ostanki
- odstranitev
- odstrani
- Prijavljeno
- raziskovalci
- Odzove
- vrnitev
- pregleda
- s
- Varnost
- Je dejal
- drugi
- poslan
- služil
- več
- Spolno
- je
- je pokazala,
- pomemben
- Razmere
- Skin
- zdrsa
- socialna
- nekaj
- vir
- Stabilnost
- stabilna
- Stanford
- Še vedno
- študija
- Surgery
- sumljiv
- sprejeti
- tech
- povej
- Testiranje
- kot
- da
- O
- njihove
- sami
- jih
- stvari
- ta
- letos
- tisti,
- tisoče
- čas
- krat
- do
- danes
- toleranca
- orodje
- proti
- Vlak
- usposabljanje
- nepokrite
- doživel
- nezakonito
- Nadgradnja
- URL
- us
- uporaba
- Rabljeni
- uporabo
- POTRDI
- preverjeno
- različica
- je
- spletne strani
- Dobro
- so bili
- Zahodna
- kdaj
- ali
- ki
- medtem
- široka
- Širok spekter
- razširjen
- bo
- z
- WordPress
- vredno
- leto
- včeraj
- zefirnet
- nič