Microsoft, Adobe og andre store navne lovede i denne uge at tilføje metadata til deres AI-genererede billeder, så fremtidige kompatible apps vil markere dem som maskinfremstillede ved hjælp af et særligt symbol.
Du har måske set nogle rapporter om dette, måske beskrevet som en slags AI-vandmærke. Vi kiggede nærmere.
Symbolet - beskrevet som et "gennemsigtighedsikon" - viser de små bogstaver "cr" inde i et talemærke som en boble.
Det blev oprettet af Coalition for Content Provenance and Authenticity (C2PA), en gruppe af organisationer på tværs af brancher, herunder teknologi og journalistik. C2PA har eksisteret i omkring et par år; drives af Adobe, Arm, Intel, Microsoft og Truepic; og specificerer i detaljer hvordan metadata i et billede sikkert digitalt kan certificere kilden og redigeringshistorikken for det billede. Der er alternative tilgange såvel som traditionelle billedmetadata; C2PA giver en tilgang skubbet af ovenstående store navne.
Faktisk kan du bruge C2PA's Content Credentials-metadata til ethvert billede – det behøver ikke at være AI-genereret. Eksemplerne givet på indholdsoplysningerne hjemmeside blev lavet ved hjælp af Adobes Photoshop- og Firefly AI-værktøjer og kan identificeres som sådan gennem deres metadata. Hvad Microsoft, Adobe og andre har lovet at gøre, er at sikre, at deres AI-generatorer på et tidspunkt i fremtiden vil inkludere disse kryptografisk signerede metadata i deres maskinlavede billeder. Målet er at give folk mulighed for at se, om et billede var model eller menneskeskabt og hvordan.
For eksempel sagde Microsoft, at kunstværker produceret af dets tekst-til-billede Bing Image Creator og Bing AI chatbot vil indeholde disse metadata på et tidspunkt.
Her er nu den vanskelige del, forudsat at specifikationen er sikker og robust. Det er én ting at gemme de metadata i et billede. Hvordan finder brugeren ud af det uden at grave i filens indhold?
Nå, du skal bruge en kompatibel applikation, en der forstår metadataene for indholdslegitimationsoplysninger. Hvis en app genkender disse data i en fil, skal den placere "cr"-symbolet over billedet i et øverste hjørne. Når du klikker på dette symbol, skulle der vises en widget, der beskriver kilden til billedet og andre detaljer fra metadataene for indholdslegitimationsoplysninger - for eksempel hvis det blev lavet via Bing eller Photoshop.
Det er sådan, folk nemt kan inspicere snappens oprindelse. Men hvis filen åbnes i et program, der ikke understøtter indholdsoplysninger, vises der selvfølgelig intet symbol: appen forstår ikke dataene og viser ikke et symbol.
Du kan se, hvad vi mener, fra det førnævnte indholdslegitimationswebsted. Åbn det og rul ned til AI-fremstillede sommerfugleksempler. Websiden håner, hvordan billedet skal se ud i et program, der kan analysere billedets metadata: Symbolet vises i øverste hjørne, og når du klikker eller trykker på det, vises en etiket, der siger, at det er AI-genereret. Billedet ser sådan ud på siden uden etiketten åben:
Hvis du højreklikker på det på webstedet Content Credentials og gemmer det sommerfuglebillede på disken og derefter åbner det i noget som Chrome i dag, vil det se sådan ud:
Bare et almindeligt billede, intet symbol. Chrome kender ikke til metadataene med indholdslegitimationsoplysninger, der er til stede i det AI-genererede snap, og har alligevel ikke ikonet til at overlejre. Hvis du går til indholdsoplysningerne verifikationsside, og fald i det downloadede sommerfuglbillede, vil det fortælle dig, at det er lavet af Adobes Firefly 1.0 AI-suite.
Denne teknologi – og specifikationerne for den er detaljerede og imponerende – er afhængige af, at applikationer forstår og understøtter metadataene, eller intet symbol kan eller vil blive vist. Så er der det faktum, at nogen kunne fjerne metadataene, eller eksportere filen til et andet format uden metadataene, eller screenshotte den fra et program, der ikke overlejrer symbolet, og derefter distribuere det metadataløse billede. Hvis det fjernede billede senere åbnes i en app, der forstår indholdsoplysninger, vil der ikke blive vist noget symbol.
Det betyder, at du ikke kun har brug for apps, sociale netværk, generatorer og så videre, som kan tilføje og læse indholdslegitimationsdata, du har også brug for, at folk er opmærksomme på ikonet, så de kan se efter det. Hvis de modtager eller ser et billede, og det ikke har et indholdslegitimationssymbol på det, kan de være tilbøjelige til at mistro det. Det vil kræve en enorm mængde brandbevidsthed for at fungere.
Når alt er sagt, fortalte Adobe os, at den har en Cloud Credentials for indhold, og det ser ud til at virke sådan her: du uploader dine billedfilers metadata til Adobes sky; hvis en af dine filer senere deles af nogen uden dens identificerende metadata, kan det, de bruger til at distribuere snappet, køre billedet af Adobes sky og gendanne metadataene, hvis der er et visuelt match.
Tænk: noget som Google omvendt billedsøgning, og det returnerer de originale metadata. På den måde, hvis nogen forsøger at poste dit billede på nettet eller via en app, og alt klikker på plads, bør oprindelsen af billedet være klart, selvom metadataene gik tabt før udsendelsen - det ville blive gendannet fra indholdsoplysningerne Sky.
"Når digitalt indhold er underskrevet med indholdslegitimationsoplysninger (på en platform, der har udnyttet C2PA's åbne standarder og indholdslegitimationsoplysninger), vedhæftes manipulationssikrede metadata, så det rejser med indholdet, uanset hvor det går," fortalte en talsmand for Adobe. Registret.
"Selv hvis disse oplysninger er blevet fjernet med ondsindethed eller ved et uheld på et hvilket som helst tidspunkt i indholdets livscyklus, kan de gendannes via Content Credentials Cloud."
Det har Adobe i hvert fald tænkt på. Så nu har vi brug for, at folk er opmærksomme på symbolet; for deres applikationer til at understøtte symbolet; for kunstnere og generatorer til at levere metadata til Adobes sky; og for onlineudgivere, sociale netværk og andre indholdsværter til at tilslutte sig Adobes sky og gendanne eventuelle manglende indholdslegitimationsmetadata, så billeder uden metadata kan identificeres. Pyha!
Vi antager også, at du kan bruge en kompatibel metadatafremviser eller ovenstående værktøj til verificering af indholdslegitimationsoplysninger til selv at kontrollere et billede, hvis du endnu ikke har en billedapp ved hånden, der kan håndtere det.
"Alle AI-genererede billeder i Bing Image Creator identificeres ved hjælp af indholdsoplysninger," fortalte en talsmand for Microsoft Registret. "Hvis indholdsoplysningerne vises ved siden af et billede, kan brugere hurtigt bekræfte tidspunktet og datoen for det originale billede gennem et usynligt digitalt vandmærke.
“Denne proces sker automatisk under oprettelsesprocessen og er baseret på C2PA tekniske krav. Ikonet fungerer som en enkel måde for forbrugerne at genkende indholdet. For Bing Image Creator tror vi, at ikonet vil være på plads inden årets udgang og vises ved siden af ordene 'Indholdsoplysninger'."
Andre organisationer, såsom Publicis Groupe, et fransk PR- og reklamefirma, forventes at se et eksempel på, hvordan det vil bruge Content Credentials-metadata med Adobe i fremtiden. I mellemtiden vil kameraproducenterne Leica Camera og Nikon demonstrere, hvordan specifikationen vil blive brugt af fremtidigt udstyr til at bage billedernes oprindelse ind i fotografers snaps.
Gode intentioner
Koalitionen mener, at alt dette kan hjælpe med at tackle AI-genererede deepfakes, der spreder misinformation for at narre netbrugere. Det kunne opnås, hvis "cr"-ikonet efter vores mening bliver lige så allestedsnærværende som copyright-symbolet.
Metadataene kunne i det mindste gøre det lettere for brands og virksomheder at være gennemsigtige omkring deres brug af syntetiske billeder i reklame- og marketingkampagner. sagde, hvis nævnte virksomheder er villige til at oplyse det. Andy Parsons, seniordirektør for Content Authenticity Initiative (CAI) hos Adobe, sagde, at den medfølgende info-widget fungerer som en "digital ernæringsetiket" for brugerne.
"Gennem historien har visuel ikonografi fungeret som en stærk betegnelse for kommunikation og kultur," sagde han.
"Vi er utroligt begejstrede for potentialet i det officielle indholdslegitimations-'icon of transparency' til at blive en universel standard og forventning på tværs af kultur online - og hjælpe med at gøre tillid til et grundlæggende princip i denne nye digitale verden. Vi ser frem til at fortsætte med at inkorporere indholdsoplysninger og det nye ikon på tværs af vores Adobe-produkter og -løsninger."
Selvom det uden tvivl er et skridt i den rigtige retning, er ikonet langt fra at være en samlet løsning til at autentificere indhold på internettet og fortælle AI-forfalskninger fra den ægte vare. Adoption indtil videre er blot lovet og begrænset til støtte fra nogle få omend meget store navne. Og som vi sagde, kræver det mange flere platforme – inklusive generative AI-udviklere, sociale medier, app-producenter og udgivere – at understøtte det, for at det kan være effektivt. ®
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
- PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
- PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
- PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
- Kilde: https://go.theregister.com/feed/www.theregister.com/2023/10/15/microsoft_adobe_ai_watermark/
- :har
- :er
- :ikke
- $OP
- 1
- 7
- a
- Om
- over
- opnået
- tværs
- handlinger
- tilføje
- Adobe
- Vedtagelse
- Reklame
- AI
- AI chatbot
- Alle
- også
- alternativ
- beløb
- an
- ,
- En anden
- enhver
- app
- vises
- kommer til syne
- Anvendelse
- applikationer
- tilgang
- tilgange
- apps
- ER
- velsagtens
- ARM
- omkring
- Artister
- kunstværk
- AS
- At
- ægthed
- automatisk
- opmærksom på
- bevidsthed
- baseret
- BE
- bliver
- bliver
- været
- før
- være
- Tro
- mener
- Big
- Bing
- brand
- brands
- boble
- virksomheder
- men
- by
- værelse
- Kampagner
- CAN
- tilfælde
- attestere
- chatbot
- kontrollere
- Chrome
- klar
- klik
- tættere
- Cloud
- CO
- koalition
- Kommunikation
- selskab
- kompatibel
- Bekræfte
- Forbrugere
- indhold
- indhold
- fortsættende
- ophavsret
- Corner
- kunne
- Par
- Kursus
- oprettet
- skabelse
- skaberen
- Legitimationsoplysninger
- kryptografisk
- Medarbejder kultur
- data
- Dato
- deepfakes
- demonstrere
- beskrevet
- detaljeret
- detaljer
- udviklere
- digital
- Digitalt indhold
- digital verden
- digitalt
- retning
- Direktør
- offentliggøre
- vises
- distribuere
- mistillid
- do
- gør
- gør ikke
- Don
- ned
- drevet
- Drop
- i løbet af
- lettere
- nemt
- Effektiv
- ende
- sikre
- udstyr
- Endog
- at alt
- eksempel
- eksempler
- ophidset
- forventning
- forventet
- eksport
- Faktisk
- langt
- Feature
- få
- File (Felt)
- Filer
- Finde
- Til
- For forbrugere
- format
- Videresend
- Fransk
- fra
- fundamental
- fremtiden
- genereret
- generative
- Generativ AI
- generatorer
- given
- Go
- mål
- Goes
- gå
- gruppe
- hånd
- håndtere
- sker
- Have
- he
- hjælpe
- hjælpe
- link.
- historie
- værter
- Hvordan
- HTML
- HTTPS
- kæmpe
- ICON
- identificeret
- identificere
- if
- billede
- Billedsøgning
- billeder
- imponerende
- in
- skrå
- omfatter
- Herunder
- indarbejde
- utroligt
- industrier
- info
- oplysninger
- initiativ
- indvendig
- instans
- Intel
- Internet
- ind
- usynlige
- IT
- ITS
- journalistik
- jpg
- Venlig
- Kend
- etiket
- senere
- mindst
- Udnytter
- livscyklus
- ligesom
- Limited
- ll
- Lang
- Se
- ligner
- UDSEENDE
- tabte
- lavere
- lavet
- lave
- Makers
- mange
- Marketing
- Match
- Kan..
- betyde
- midler
- I mellemtiden
- Medier
- blot
- Metadata
- microsoft
- misinformation
- mangler
- model
- mere
- navne
- Behov
- net
- Ny
- næste
- ingen
- nu
- of
- off
- officiel
- on
- engang
- ONE
- online
- kun
- åbent
- åbnet
- or
- ordrer
- organisationer
- oprindelse
- original
- Andet
- Andre
- vores
- ud
- i løbet af
- side
- del
- Mennesker
- måske
- billede
- Billeder
- Place
- Almindeligt
- perron
- Platforme
- plato
- Platon Data Intelligence
- PlatoData
- stik
- Punkt
- Indlæg
- potentiale
- vigtigste
- pr
- præsentere
- Eksempel
- princippet
- Forud
- behandle
- produceret
- Produkter
- lovede
- herkomst
- give
- giver
- udgivere
- Skub ud
- skubbet
- hurtigt
- Læs
- ægte
- modtage
- genkende
- anerkender
- Recover
- Rapporter
- Krav
- Kræver
- afkast
- vende
- højre
- Højreklik
- robust
- Kør
- s
- Said
- Gem
- siger
- rulle
- Søg
- sikker
- sikkert
- se
- synes
- set
- senior
- tjener
- delt
- bør
- Vis
- vist
- underskrevet
- Simpelt
- Snap
- So
- indtil nu
- Social
- sociale medier
- sociale netværk
- løsninger
- Løsninger
- nogle
- Nogen
- noget
- Kilde
- særligt
- specifikation
- specs
- talsmand
- spredes
- standard
- Trin
- butik
- sådan
- suite
- support
- Støtte
- symbol
- syntetisk
- tackle
- Tag
- Tryk på
- tech
- Teknisk
- Teknologier
- fortælle
- fortæller
- at
- Fremtiden
- The Source
- deres
- Them
- derefter
- Der.
- de
- ting
- denne
- denne uge
- tænkte
- Gennem
- hele
- tid
- til
- i dag
- fortalt
- tog
- værktøj
- værktøjer
- top
- traditionelle
- Gennemsigtighed
- gennemsigtig
- rejser
- Stol
- allestedsnærværende
- forstå
- forståelse
- forstår
- Universal
- us
- brug
- anvendte
- Bruger
- brugere
- ved brug af
- verificere
- meget
- via
- Specifikation
- var
- vandmærke
- Vej..
- we
- web
- Hjemmeside
- uge
- GODT
- var
- Hvad
- uanset
- hvornår
- vilje
- villig
- med
- uden
- Vandt
- ord
- Arbejde
- world
- ville
- år
- år
- endnu
- Du
- Din
- dig selv
- zephyrnet