Billeder udsendt af OpenAI's generative modeller vil inkludere metadata, der afslører deres oprindelse, som igen kan bruges af applikationer til at advare folk om den maskinfremstillede natur af dette indhold.
Specifikt vedtager det Microsoft-forkæmpede superlaboratorium, som forventet, indholdslegitimationsspecifikationen, som blev udtænkt af Coalition for Content Provenance and Authenticity (C2PA), en brancheorganisation støttet af Adobe, Arm, Microsoft, Intel og flere.
Indholdsoplysninger er ret simpelt og specificeret i sin helhed her: den bruger standard dataformater at gemme i mediefiler detaljer om, hvem der har lavet materialet og hvordan. Disse metadata er ikke direkte synlige for brugeren og er kryptografisk beskyttet, så eventuelle uautoriserede ændringer er indlysende.
Programmer, der understøtter disse metadata, forventes, når de registrerer det i en fils indhold, at vise et lille "cr"-logo over indholdet for at angive, at der er indholdslegitimationsoplysninger til stede i den fil. Hvis du klikker på det logo, skulle der åbnes en pop-up, der indeholder disse oplysninger, inklusive eventuelle afsløringer om, at tingene er lavet af AI.
Hvordan C2PA 'cr'-logoet kan vises på et OpenAI-genereret billede i en understøttende app. Kilde: OpenAI
Ideen er her, at det skal være umiddelbart indlysende for folk, der ser eller redigerer ting i understøttende applikationer - fra billedredigeringsværktøjer til webbrowsere, ideelt set - uanset om indholdet på skærmen er AI lavet eller ej.
At hjælpe folk med at skelne mellem ægte og falske billeder vil uden tvivl blive stadig vigtigere, efterhånden som AI-genereret indhold forbedres til det punkt, hvor det ikke åbenlyst er output fra en maskine. Eksperter frygter, at sådanne syntetiske medier vil vildlede netbrugere og blive brugt til at så misinformation eller støtte desinformationskampagner. Teknikvirksomheder optrapper indsatsen for at minimere risici, da det amerikanske præsidentvalg i 2024 nærmer sig.
Alligevel er Content Credentials-strategien ikke idiotsikker, som vi har gjort tidligere rapporteret. Metadataene kan nemt fjernes eller eksporteres uden det, eller "cr" beskåret ud af skærmbilleder, så der vil ikke fremkomme noget "cr"-logo på materialet i fremtiden i nogen applikationer. Den er også afhængig af apps og tjenester til at understøtte specifikationen, uanset om de opretter eller viser medier.
For at arbejde i stor skala og opnå adoption har det også brug for en form for cloud-system, der kan bruges til at gendanne fjernede metadata, som Adobe tilfældigvis presser på, samt en marketingkampagne for at sprede brandbevidsthed. Øg dens brandwidth, hvis du vil.
OpenAI anerkendte så meget i denne uge, da ChatGPT og DALL-E 3 API i denne uge annoncerede, vil inkludere C2PAs indholdsoplysninger i deres output.
"Metadata som C2PA er ikke en sølvkugle til at løse problemer med herkomst," OpenAI indrømmede. “Det kan nemt fjernes enten ved et uheld eller med vilje. For eksempel fjerner de fleste sociale medieplatforme i dag metadata fra uploadede billeder, og handlinger som at tage et skærmbillede kan også fjerne det. Derfor kan et billede, der mangler disse metadata, muligvis være blevet genereret med ChatGPT eller vores API."
Med hensyn til filstørrelsespåvirkning insisterede OpenAI på, at en 3.1 MB PNG-fil genereret af dens DALL-E API vokser med omkring tre procent (eller omkring 90 KB), når metadata inkluderes. En 287K WebP-fil vil i mellemtiden springe med omkring 32 procent med den 90KB nyttelast.
C2PA vinder indpas: Efterhånden som flere apps og tjenester lover at understøtte det, kan mere software bruge det, flere mennesker burde se det, og så vokser det. Meta annoncerede det byggede værktøjer til at understøtte industrigruppens specifikation i denne uge.
"Vi mener, at det er nøglen til at øge troværdigheden af digital information at anvende disse metoder til at fastslå herkomst og opmuntre brugerne til at genkende disse signaler," erklærede OpenAI.
Vi får at vide, at ChatGPT via nettet, og DALL-E 3-modellen via dens API nu vil inkludere C2PA-metadata, og mobilbrugere vil få det inden den 12. februar. ®
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
- PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
- PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
- PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
- Kilde: https://go.theregister.com/feed/www.theregister.com/2024/02/08/openai_is_adding_a_watermark/
- :er
- :ikke
- $OP
- 12
- 2024
- 32
- 400
- 7
- a
- Om
- erkendte
- aktioner
- tilføje
- adresse
- Adobe
- Vedtagelsen
- Vedtagelse
- AI
- Alert
- også
- an
- ,
- Annoncerer
- enhver
- api
- app
- vises
- applikationer
- anvendt
- apps
- ER
- ARM
- AS
- At
- ægthed
- bevidsthed
- Backed
- BE
- bliver
- været
- være
- Tro
- mellem
- krop
- grænse
- brand
- browsere
- Bygning
- by
- Kampagne
- Kampagner
- CAN
- Ændringer
- ChatGPT
- Cloud
- CO
- koalition
- Virksomheder
- indhold
- indhold
- Oprettelse af
- Legitimationsoplysninger
- kryptografisk
- dalls
- data
- erklærede
- detaljer
- opdage
- digital
- direkte
- Offentliggørelse
- misinformation
- Skærm
- visning
- skelne
- tvivler
- nemt
- redaktører
- indsats
- enten
- Valg
- tilskynde
- oprettelse
- eksempel
- forventet
- eksperter
- frygt
- februar
- File (Felt)
- Filer
- Til
- fra
- fuld
- fremtiden
- Gevinst
- vinder
- genereret
- generative
- få
- gruppe
- Vokser
- sker
- Have
- link.
- Hvordan
- HTML
- HTTPS
- idé
- ideelt
- if
- billede
- billeder
- straks
- KIMOs Succeshistorier
- vigtigt
- forbedrer
- in
- omfatter
- Herunder
- Forøg
- stigende
- stigende
- angiver
- industrien
- oplysninger
- Intel
- med vilje
- isn
- spørgsmål
- IT
- ITS
- jpg
- hoppe
- Nøgle
- Venlig
- lab
- mangler
- seneste
- ligesom
- lidt
- logo
- maskine
- lavet
- markere
- Marketing
- materiale
- Kan..
- I mellemtiden
- Medier
- Meta
- Metadata
- metoder
- microsoft
- måske
- misinformation
- Mobil
- model
- modeller
- mere
- mest
- meget
- Natur
- behov
- ingen
- nu
- Obvious
- of
- on
- ONE
- åbent
- OpenAI
- or
- oprindelse
- vores
- ud
- output
- i løbet af
- Mennesker
- procent
- Platforme
- plato
- Platon Data Intelligence
- PlatoData
- Løfte
- Punkt
- pop-up
- præsentere
- præsidentkandidat
- præsidentvalg
- beskyttet
- herkomst
- Pushing
- RE
- ægte
- genkende
- Fjern
- fjernet
- genoprette
- risici
- s
- Scale
- Skærm
- screenshots
- se
- Tjenester
- bør
- signaler
- Sølv
- So
- Social
- sociale medier
- sociale medieplatforme
- Software
- nogle
- Kilde
- so
- specifikation
- specificeret
- spredes
- springbræt
- butik
- Strategi
- sådan
- Super
- support
- Støtte
- syntetisk
- systemet
- tager
- tech
- tech virksomheder
- vilkår
- at
- deres
- Der.
- derfor
- Disse
- de
- ting
- denne
- denne uge
- tre
- til
- i dag
- fortalt
- værktøjer
- trækkraft
- troværdighed
- TUR
- uberettiget
- uploadet
- us
- brug
- anvendte
- Bruger
- brugere
- bruger
- Ve
- via
- visning
- synlig
- var
- we
- web
- Webbrowsere
- WebP
- uge
- GODT
- hvornår
- hvorvidt
- som
- WHO
- vilje
- med
- inden for
- uden
- Arbejde
- Du
- zephyrnet