Microsoft, Adobe og andre store navn lovet denne uken å legge til metadata til sine AI-genererte bilder slik at fremtidige kompatible apper vil flagge dem som maskinlagde ved hjelp av et spesielt symbol.
Du har kanskje sett noen rapporter om dette, kanskje beskrevet som et slags AI-vannmerke. Vi tok en nærmere titt.
Symbolet - beskrevet som et "gjennomsiktighetsikon" - viser de små bokstavene "cr" inne i et talemerke som en boble.
Den ble opprettet av koalisjonen for innholdsopprinnelse og autentisitet (C2PA), en gruppe organisasjoner på tvers av bransjer, inkludert teknologi og journalistikk. C2PA har eksistert i omtrent et par år; drives av Adobe, Arm, Intel, Microsoft og Truepic; og spesifiserer i detalj hvordan metadata i et bilde på en sikker måte digitalt kan sertifisere kilden og redigeringshistorikken til det bildet. Det finnes alternative tilnærminger så vel som tradisjonelle bildemetadata; C2PA gir en tilnærming presset av de ovennevnte store navnene.
Faktisk kan du bruke C2PAs Content Credentials-metadata for ethvert bilde – det trenger ikke å være AI-generert. Eksemplene gitt på innholdslegitimasjonen nettsted ble laget ved hjelp av Adobes Photoshop og Firefly AI-verktøy, og kan identifiseres som sådan gjennom deres metadata. Det Microsoft, Adobe og andre har lovet å gjøre er å sikre at deres AI-generatorer på et tidspunkt i fremtiden vil inkludere disse kryptografisk signerte metadataene i de maskinlagde bildene deres. Målet er å gi folk en måte å se om et bilde var modell eller menneskeskapt og hvordan.
For eksempel sa Microsoft at kunstverk produsert av tekst-til-bilde Bing Image Creator og Bing AI chatbot vil inneholde disse metadataene på et tidspunkt.
Her er den vanskelige delen, forutsatt at spesifikasjonen er sikker og robust. Det er én ting å lagre metadataene i et bilde. Hvordan finner brukeren ut av det uten å grave i filinnholdet?
Vel, du trenger en kompatibel applikasjon, en som forstår metadataene for innholdslegitimasjon. Hvis en app gjenkjenner disse dataene i en fil, bør den legge "cr"-symbolet over bildet i et øvre hjørne. Når du klikker på det symbolet, skal det vises en widget som beskriver kilden til bildet og andre detaljer fra metadataene for innholdslegitimasjon - for eksempel hvis det ble laget via Bing eller Photoshop.
Slik kan folk enkelt inspisere opprinnelsen til snappen. Men selvfølgelig, hvis filen åpnes i en applikasjon som ikke støtter innholdslegitimasjon, vises ingen symbol: appen vil ikke forstå dataene og vil ikke vise et symbol.
Du kan se hva vi mener fra det nevnte nettstedet for innholdslegitimasjon. Åpne den og bla ned til AI-laget sommerfugleksempel. Nettsiden lurer på hvordan bildet skal se ut i en applikasjon som kan analysere bildets metadata: symbolet vises i det øverste hjørnet, og når du klikker eller trykker på det, vises en etikett som sier at det er AI-generert. Bildet ser slik ut på siden, uten etiketten åpen:
Hvis du høyreklikker over det, på Content Credentials-nettstedet, og lagrer det sommerfuglbildet på disk, og deretter åpner det i noe som Chrome i dag, vil det se slik ut:
Bare et enkelt bilde, ikke noe symbol. Chrome vet ikke om metadataene for innholdslegitimasjon som er til stede i det AI-genererte snappet, og har uansett ikke ikonet for å overlegge. Hvis du går til Innholdslegitimasjonen bekreftelsesside, og slipp inn det nedlastede sommerfuglbildet, vil det fortelle deg at det ble laget av Adobes Firefly 1.0 AI-pakke.
Denne teknologien – og spesifikasjonene for den er detaljerte og imponerende – er avhengig av at applikasjoner forstår og støtter metadataene, ellers kan eller vil ingen symbol bli vist. Så er det det faktum at noen kan fjerne metadataene, eller eksportere filen til et annet format uten metadataene, eller skjermdumpe den fra et program som ikke overlapper symbolet, og deretter distribuere det metadataløse bildet. Hvis det fjernede bildet senere åpnes i en app som forstår innholdslegitimasjon, vil ingen symbol vises.
Det betyr at du ikke bare trenger apper, sosiale nettverk, generatorer og så videre, som kan legge til og lese innholdslegitimasjonsdata, du trenger også at folk er oppmerksomme på ikonet slik at de kan se etter det. Hvis de mottar eller ser et bilde og det ikke har et symbol for innholdslegitimasjon, kan de være tilbøyelige til å mistro det. Det kommer til å kreve en enorm mengde merkevarebevissthet for å fungere.
Når alt er sagt, fortalte Adobe oss at den har en Innholdslegitimasjonssky, og det ser ut til å fungere slik: du laster opp bildefilenes metadata til Adobes sky; hvis en av filene dine senere blir delt av noen uten dens identifiserende metadata, kan det de bruker til å distribuere snappen kjøre bildet av Adobes sky og gjenopprette metadataene hvis det er en visuell match.
Tenk: noe sånt som Google omvendt bildesøk, og det returnerer de originale metadataene. På den måten hvis noen prøver å legge ut bildet ditt på nettet eller via en app, og alt klikker på plass, bør opprinnelsen til bildet være tydelig, selv om metadataene gikk tapt før de ble lagt ut – det ville bli gjenopprettet fra innholdslegitimasjonen Sky.
"Når digitalt innhold er signert med innholdslegitimasjon (på en plattform som har utnyttet C2PA åpne standarder og innholdslegitimasjon), legges det ved forfalskede metadata, slik at det kan følge med innholdet uansett hvor det går," sa en talsperson for Adobe. Registeret.
"Selv om denne informasjonen har blitt fjernet med ondsinnet eller ved et uhell når som helst i innholdets livssyklus, kan den gjenopprettes via Content Credentials Cloud."
Adobe har i hvert fall tenkt på det. Så nå trenger vi at folk er klar over symbolet; for deres applikasjoner for å støtte symbolet; for artister og generatorer for å levere metadata til Adobes sky; og for nettutgivere, sosiale nettverk og andre innholdsverter å koble til Adobes sky og gjenopprette eventuelle manglende metadata for innholdslegitimasjon slik at bilder uten metadata kan identifiseres. Puh!
Vi antar også at du kan bruke en kompatibel metadataviser, eller verifiseringsverktøyet ovenfor for innholdslegitimasjon, for å sjekke et bilde selv hvis du ikke har en bildeapp for hånden som kan håndtere det ennå.
"Alle AI-genererte bilder i Bing Image Creator identifiseres ved hjelp av innholdslegitimasjon," sa en Microsoft-talsperson Registeret. "Hvis innholdslegitimasjon vises ved siden av et bilde, kan brukere raskt bekrefte klokkeslett og dato for det originale bildet gjennom et usynlig digitalt vannmerke.
"Denne prosessen skjer automatisk under opprettelsesprosessen og er basert på C2PA tekniske krav. Ikonet fungerer som en enkel måte for forbrukere å gjenkjenne innholdet. For Bing Image Creator tror vi at ikonet vil være på plass før slutten av året og vises ved siden av ordene «Innholdslegitimasjon».
Andre organisasjoner, som Publicis Groupe, et fransk PR- og reklameselskap, forventes å forhåndsvise hvordan det vil bruke Content Credentials-metadata med Adobe i fremtiden. I mellomtiden vil kameraprodusentene Leica Camera og Nikon demonstrere hvordan spesifikasjonen vil bli brukt av fremtidig utstyr til å bake inn opprinnelsen til bildene til fotografenes snaps.
Gode intensjoner
Koalisjonen mener at alt dette kan hjelpe til med å takle AI-genererte dype forfalskninger som sprer feilinformasjon for å lure nettbrukere. Det kan oppnås hvis, etter vårt syn, "cr"-ikonet blir like allestedsnærværende som copyright-symbolet.
Metadataene kan i det minste gjøre det lettere for merkevarer og virksomheter å være transparente om deres bruk av syntetiske bilder i reklame- og markedsføringskampanjer, org. sa, hvis nevnte virksomheter er villige til å avsløre det. Andy Parsons, seniordirektør for Content Authenticity Initiative (CAI) hos Adobe, sa at den medfølgende info-widgeten fungerer som en "digital ernæringsetikett" for brukere.
"Gjennom historien har visuell ikonografi fungert som en kraftig betegnelse for kommunikasjon og kultur," sa han.
«Vi er utrolig begeistret for potensialet til det offisielle innholdslegitimasjonens «icon of transparens» til å bli en universell standard og forventning på tvers av kultur på nettet – og bidra til å gjøre tillit til et grunnleggende prinsipp i denne nye digitale verdenen. Vi ser frem til å fortsette å inkorporere innholdslegitimasjon og det nye ikonet på tvers av våre Adobe-produkter og -løsninger.»
Selv om det uten tvil er et skritt i riktig retning, er ikonet en lang vei fra å være en oppsamlende løsning til å autentisere innhold på internett og fortelle AI-forfalskninger fra den virkelige varen. Adopsjon så langt er bare lovet og begrenset til støtte fra noen få om enn veldig store navn. Og som vi sa, det krever mange flere plattformer – inkludert generative AI-utviklere, sosiale medier, appprodusenter og utgivere – for å støtte det for at det skal være effektivt. ®
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
- kilde: https://go.theregister.com/feed/www.theregister.com/2023/10/15/microsoft_adobe_ai_watermark/
- : har
- :er
- :ikke
- $OPP
- 1
- 7
- a
- Om oss
- ovenfor
- oppnådd
- tvers
- handlinger
- legge til
- Adobe
- Adopsjon
- Annonsering
- AI
- AI chatbot
- Alle
- også
- alternativ
- beløp
- an
- og
- En annen
- noen
- app
- vises
- vises
- Søknad
- søknader
- tilnærming
- tilnærminger
- apps
- ER
- antageligvis
- ARM
- rundt
- Artister
- kunstverk
- AS
- At
- autentisitet
- automatisk
- klar
- bevissthet
- basert
- BE
- bli
- blir
- vært
- før du
- være
- tro
- mener
- Stor
- Bing
- merke
- merker
- boble
- bedrifter
- men
- by
- rom
- Kampanjer
- CAN
- saken
- sertifisere
- chatbot
- sjekk
- Chrome
- fjerne
- klikk
- nærmere
- Cloud
- CO
- koalisjon
- Kommunikasjon
- Selskapet
- kompatibel
- Bekrefte
- Forbrukere
- innhold
- innhold
- fortsetter
- copyright
- Corner
- kunne
- Par
- Kurs
- opprettet
- skaperverket
- skaperen
- Credentials
- kryptografisk
- Kultur
- dato
- Dato
- deepfakes
- demonstrere
- beskrevet
- detaljert
- detaljer
- utviklere
- digitalt
- Digitalt innhold
- digital verden
- digitalt
- retning
- Regissør
- Avsløre
- vises
- distribuere
- mistro
- do
- gjør
- doesn
- Don
- ned
- drevet
- Drop
- under
- enklere
- lett
- Effektiv
- slutt
- sikre
- utstyr
- Selv
- alt
- eksempel
- eksempler
- opphisset
- forventning
- forventet
- eksportere
- Faktisk
- langt
- Trekk
- Noen få
- filet
- Filer
- Finn
- Til
- For forbrukere
- format
- Forward
- Fransk
- fra
- fundamental
- framtid
- generert
- generative
- Generativ AI
- generatorer
- gitt
- Go
- mål
- Går
- skal
- Gruppe
- hånd
- håndtere
- skjer
- Ha
- he
- hjelpe
- hjelpe
- her.
- historie
- Vertskapet
- Hvordan
- HTML
- HTTPS
- stort
- ICON
- identifisert
- identifisering
- if
- bilde
- Bildesøk
- bilder
- imponerende
- in
- skråstilt
- inkludere
- Inkludert
- innlemme
- utrolig
- bransjer
- info
- informasjon
- Initiative
- innsiden
- f.eks
- Intel
- Internet
- inn
- usynlig
- IT
- DET ER
- journalistikk
- jpg
- Type
- Vet
- Etiketten
- seinere
- minst
- utnytter
- Livssyklus
- i likhet med
- Begrenset
- ll
- Lang
- Se
- ser ut som
- UTSEENDE
- tapte
- lavere
- laget
- gjøre
- Makers
- mange
- Marketing
- Match
- Kan..
- bety
- midler
- Mellomtiden
- Media
- bare
- metadata
- Microsoft
- feil~~POS=TRUNC
- mangler
- modell
- mer
- navn
- Trenger
- nettverk
- Ny
- neste
- Nei.
- nå
- of
- off
- offisiell
- on
- gang
- ONE
- på nett
- bare
- åpen
- åpnet
- or
- rekkefølge
- organisasjoner
- opprinnelse
- original
- Annen
- andre
- vår
- ut
- enn
- side
- del
- Ansatte
- kanskje
- bilde
- Bilder
- Sted
- Plain
- plattform
- Plattformer
- plato
- Platon Data Intelligence
- PlatonData
- støpsel
- Point
- Post
- potensiell
- kraftig
- pr
- presentere
- Forhåndsvisning
- prinsipp
- Før
- prosess
- produsert
- Produkter
- lovet
- proveniens
- gi
- gir
- utgivere
- Skyv
- presset
- raskt
- Lese
- ekte
- motta
- gjenkjenne
- gjenkjenner
- Gjenopprette
- Rapporter
- Krav
- Krever
- avkastning
- reversere
- ikke sant
- Høyreklikk
- robust
- Kjør
- s
- Sa
- Spar
- sier
- bla
- Søk
- sikre
- sikkert
- se
- synes
- sett
- senior
- serverer
- delt
- bør
- Vis
- vist
- signert
- Enkelt
- Snap
- So
- så langt
- selskap
- sosiale medier
- sosiale nettverk
- løsning
- Solutions
- noen
- Noen
- noe
- kilde
- spesiell
- spesifikasjon
- specs
- talsperson
- spre
- Standard
- Trinn
- oppbevare
- slik
- suite
- støtte
- Støtte
- symbol
- syntetisk
- takle
- Ta
- Pek
- tech
- Teknisk
- Teknologi
- fortelle
- fortelle
- Det
- De
- Fremtiden
- Kilden
- deres
- Dem
- deretter
- Der.
- de
- ting
- denne
- denne uka
- trodde
- Gjennom
- hele
- tid
- til
- i dag
- fortalte
- tok
- verktøy
- verktøy
- topp
- tradisjonelle
- Åpenhet
- gjennomsiktig
- reiser
- Stol
- allestedsnærværende
- forstå
- forståelse
- forstår
- Universell
- us
- bruke
- brukt
- Bruker
- Brukere
- ved hjelp av
- verifisere
- veldig
- av
- Se
- var
- vannmerke
- Vei..
- we
- web
- Nettsted
- uke
- VI VIL
- var
- Hva
- uansett
- når
- vil
- villig
- med
- uten
- Vant
- ord
- Arbeid
- verden
- ville
- år
- år
- ennå
- Du
- Din
- deg selv
- zephyrnet