Bilder som sendes ut av OpenAIs generative modeller vil inkludere metadata som avslører deres opprinnelse, som igjen kan brukes av applikasjoner for å varsle folk om det maskinlagde innholdet.
Nærmere bestemt tar det Microsoft-forkjempede superlaboratoriet, som forventet, i bruk innholdslegitimasjonsspesifikasjonen, som ble utviklet av Coalition for Content Provenance and Authenticity (C2PA), et bransjeorgan støttet av Adobe, Arm, Microsoft, Intel og flere.
Innholdslegitimasjon er ganske enkelt og spesifisert i sin helhet her: det bruker standard dataformater å lagre i mediefiler detaljer om hvem som har laget materialet og hvordan. Disse metadataene er ikke direkte synlige for brukeren og er kryptografisk beskyttet slik at eventuelle uautoriserte endringer er åpenbare.
Programmer som støtter disse metadataene, når de oppdager det i en fils innhold, forventes å vise en liten "cr"-logo over innholdet for å indikere at det er innholdslegitimasjonsinformasjon i den filen. Hvis du klikker på den logoen, åpnes en popup som inneholder den informasjonen, inkludert eventuelle avsløringer om at tingene ble laget av AI.
Ideen er her at det umiddelbart skal være åpenbart for folk som ser på eller redigerer ting i støtteapplikasjoner – fra bilderedigerere til nettlesere, ideelt sett – om innholdet på skjermen er AI laget eller ikke.
Å hjelpe folk med å skille mellom ekte og falske bilder vil uten tvil bli stadig viktigere ettersom AI-generert innhold forbedres til et punkt der det ikke åpenbart er resultatet av en maskin. Eksperter frykter at slike syntetiske medier vil villede nettbrukere og brukes til å så feilinformasjon eller støtte desinformasjonskampanjer. Teknologiselskaper trapper opp innsatsen for å minimere risikoen når for det første det amerikanske presidentvalget i 2024 nærmer seg.
Likevel er ikke innholdslegitimasjonsstrategien idiotsikker slik vi har gjort tidligere rapportert. Metadataene kan enkelt fjernes eller eksporteres uten, eller "cr" beskjæres ut av skjermbilder, så ingen "cr"-logo vil vises på materialet i fremtiden i noen applikasjoner. Den er også avhengig av apper og tjenester for å støtte spesifikasjonen, enten de lager eller viser medier.
For å jobbe i stor skala og få adopsjon, trenger den også et slags skysystem som kan brukes til å gjenopprette fjernede metadata, som Adobe tilfeldigvis presser på, samt en markedsføringskampanje for å spre merkekjennskap. Øk merkebredden, om du vil.
OpenAI erkjente så mye denne uken da kunngjøringen denne uken ChatGPT og DALL-E 3 API vil inkludere C2PAs innholdslegitimasjon i produksjonen.
"Metadata som C2PA er ikke en sølvkule for å løse problemer med herkomst," OpenAI innrømmet. "Det kan enkelt fjernes enten ved et uhell eller med vilje. For eksempel fjerner de fleste sosiale medieplattformer i dag metadata fra opplastede bilder, og handlinger som å ta et skjermbilde kan også fjerne det. Derfor kan et bilde som mangler disse metadataene ha blitt generert med ChatGPT eller vår API.»
Når det gjelder innvirkning på filstørrelse, insisterte OpenAI på at en 3.1 MB PNG-fil generert av DALL-E API vokser med omtrent tre prosent (eller omtrent 90 KB) når metadataene inkluderes. En 287K WebP-fil vil i mellomtiden hoppe med omtrent 32 prosent med den 90KB nyttelasten.
C2PA vinner frem: Etter hvert som flere apper og tjenester lover å støtte det, kan mer programvare bruke det, flere bør se det, og så vokser det. Meta annonsert det var å bygge verktøy for å støtte industrigruppens spesifikasjon denne uken.
"Vi tror at å ta i bruk disse metodene for å fastslå herkomst og oppmuntre brukere til å gjenkjenne disse signalene er nøkkelen til å øke påliteligheten til digital informasjon," erklærte OpenAI.
Vi blir fortalt ChatGPT via nettet og DALL-E 3-modellen via API-en vil nå inkludere C2PA-metadata, og mobilbrukere vil få det innen 12. februar. ®
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
- kilde: https://go.theregister.com/feed/www.theregister.com/2024/02/08/openai_is_adding_a_watermark/
- :er
- :ikke
- $OPP
- 12
- 2024
- 32
- 400
- 7
- a
- Om oss
- erkjente
- handlinger
- legge til
- adresse
- Adobe
- vedta
- Adopsjon
- AI
- Varsle
- også
- an
- og
- Kunngjøring
- noen
- api
- app
- vises
- søknader
- anvendt
- apps
- ER
- ARM
- AS
- At
- autentisitet
- bevissthet
- Backed
- BE
- bli
- vært
- være
- tro
- mellom
- kroppen
- grensen
- merke
- nettlesere
- Bygning
- by
- Kampanje
- Kampanjer
- CAN
- Endringer
- ChatGPT
- Cloud
- CO
- koalisjon
- Selskaper
- innhold
- innhold
- Opprette
- Credentials
- kryptografisk
- dall sin
- dato
- erklærte
- detaljer
- oppdage
- digitalt
- direkte
- Å avsløre
- desinformasjon
- Vise
- visning
- skille
- tviler
- lett
- redaktører
- innsats
- enten
- Valg
- oppmuntrende
- etablere
- eksempel
- forventet
- eksperter
- frykt
- Februar
- filet
- Filer
- Til
- fra
- fullt
- framtid
- Gevinst
- få
- generert
- generative
- få
- Gruppe
- Vokser
- skjer
- Ha
- her.
- Hvordan
- HTML
- HTTPS
- Tanken
- ideelt sett
- if
- bilde
- bilder
- umiddelbart
- Påvirkning
- viktig
- forbedrer
- in
- inkludere
- Inkludert
- Øke
- økende
- stadig
- indikerer
- industri
- informasjon
- Intel
- med hensikt
- er n
- saker
- IT
- DET ER
- jpg
- hoppe
- nøkkel
- Type
- lab
- mangler
- siste
- i likhet med
- lite
- logo
- maskin
- laget
- merke
- Marketing
- materiale
- Kan..
- Mellomtiden
- Media
- Meta
- metadata
- metoder
- Microsoft
- kunne
- feil~~POS=TRUNC
- Mobil
- modell
- modeller
- mer
- mest
- mye
- Natur
- behov
- Nei.
- nå
- Åpenbare
- of
- on
- ONE
- åpen
- OpenAI
- or
- opprinnelse
- vår
- ut
- produksjon
- enn
- Ansatte
- prosent
- Plattformer
- plato
- Platon Data Intelligence
- PlatonData
- Løfte
- Point
- pop-up
- presentere
- presidentvalget
- presidentvalg
- beskyttet
- proveniens
- Skyver
- RE
- ekte
- gjenkjenne
- fjerne
- fjernet
- gjenopprette
- risikoer
- s
- Skala
- Skjerm
- skjermbilder
- se
- Tjenester
- bør
- signaler
- Sølv
- So
- selskap
- sosiale medier
- sosiale medieplattformer
- Software
- noen
- kilde
- purke
- spesifikasjon
- spesifisert
- spre
- spring
- oppbevare
- Strategi
- slik
- Super
- støtte
- Støtte
- syntetisk
- system
- ta
- tech
- tech selskaper
- vilkår
- Det
- De
- deres
- Der.
- derfor
- Disse
- de
- ting
- denne
- denne uka
- tre
- til
- i dag
- fortalte
- verktøy
- trekkraft
- troverdighet
- SVING
- uautorisert
- lastet opp
- us
- bruke
- brukt
- Bruker
- Brukere
- bruker
- Ve
- av
- ser
- synlig
- var
- we
- web
- Nettlesere
- webp
- uke
- VI VIL
- når
- om
- hvilken
- HVEM
- vil
- med
- innenfor
- uten
- Arbeid
- Du
- zephyrnet