Microsoft, Adobe och andra stora namn lovade den här veckan att lägga till metadata till sina AI-genererade bilder så att framtida kompatibla appar kommer att flagga upp dem som maskintillverkade med en speciell symbol.
Du kanske har sett några rapporter om detta som kanske beskrivs som någon form av AI-vattenstämpel. Vi tog en närmare titt.
Symbolen – beskriven som en ”transparensikon” – avbildar de gemena bokstäverna ”cr” inuti ett talmärke som en bubbla.
Det skapades av koalitionen för innehållets ursprung och äkthet (C2PA), en grupp organisationer över branscher inklusive teknik och journalistik. C2PA har funnits i ungefär ett par år; drivs av Adobe, Arm, Intel, Microsoft och Truepic; och specificerar i detalj hur metadata i en bild säkert digitalt kan certifiera källan och redigeringshistoriken för den bilden. Det finns alternativa tillvägagångssätt såväl som traditionell bildmetadata; C2PA tillhandahåller ett tillvägagångssätt som drivs av ovanstående stora namn.
Faktum är att du kan använda C2PA:s Content Credentials-metadata för vilken bild som helst – det behöver inte vara AI-genererat. Exemplen som ges på innehållsuppgifterna webbplats gjordes med Adobes Photoshop- och Firefly AI-verktyg och kan identifieras som sådana genom deras metadata. Vad Microsoft, Adobe och andra har lovat att göra är att säkerställa att deras AI-generatorer någon gång i framtiden kommer att inkludera denna kryptografiskt signerade metadata i sina maskingjorda bilder. Målet är att tillhandahålla ett sätt för människor att se om en bild var modell eller människagjord och hur.
Till exempel sa Microsoft att konstverk som producerats av dess text-till-bild Bing Image Creator och Bing AI chatbot kommer att innehålla den metadatan någon gång.
Nu är här den knepiga delen, förutsatt att specifikationen är säker och robust. Det är en sak att lagra den metadatan i en bild. Hur tar användaren reda på det utan att gräva i filens innehåll?
Tja, du behöver en kompatibel applikation, en som förstår metadata för innehållsreferenser. Om en app känner igen data i en fil bör den lägga "cr"-symbolen över bilden i det övre hörnet. När du klickar på den symbolen bör en widget dyka upp som beskriver källan till bilden och andra detaljer från metadata för innehållsreferenser – till exempel om den gjordes via Bing eller Photoshop.
Det är så folk enkelt kan inspektera snappens ursprung. Men naturligtvis om filen öppnas i en applikation som inte stöder innehållsuppgifter, visas ingen symbol: appen kommer inte att förstå data och kommer inte att visa en symbol.
Du kan se vad vi menar från ovannämnda Content Credentials-webbplats. Öppna den och scrolla ner till AI-tillverkade fjärilsexemplet. Webbsidan hånar hur den bilden ska se ut i ett program som kan analysera bildens metadata: symbolen visas i det övre hörnet och när du klickar eller trycker på den visas en etikett som säger att den är genererad av AI. Bilden ser ut så här på sidan, utan etiketten öppen:
Om du högerklickar på den på webbplatsen för innehållsreferenser och sparar den fjärilsavbildningen på disken och sedan öppnar den i något som Chrome idag, kommer den att se ut så här:
Bara en vanlig bild, ingen symbol. Chrome känner inte till metadata för innehållsreferenser som finns i det AI-genererade snapet och har inte ikonen att överlappa ändå. Om du går till innehållsuppgifterna verifieringssida, och släpp in den nedladdade fjärilsbilden, den kommer att berätta att den gjordes av Adobes Firefly 1.0 AI-svit.
Denna teknik – och specifikationerna för den är detaljerade och imponerande – är beroende av att applikationer förstår och stöder metadata, eller så kan eller kommer ingen symbol att visas. Sedan finns det det faktum att någon kan ta bort metadata, eller exportera filen till ett annat format utan metadata, eller skärmdumpa den från ett program som inte överlagrar symbolen, och sedan distribuera den metadatafria bilden. Om den avskalade bilden senare öppnas i en app som förstår innehållsuppgifter, kommer ingen symbol att visas.
Det betyder att du inte bara behöver appar, sociala nätverk, generatorer och så vidare, som kan lägga till och läsa innehållsuppgifter, du behöver också att folk är medvetna om ikonen så att de kan hålla utkik efter den. Om de tar emot eller ser en bild och den inte har en symbol för innehållsuppgifter kan de vara benägna att misstro den. Det kommer att kräva en enorm mängd varumärkesmedvetenhet för att fungera.
Som allt sagt, Adobe berättade för oss att den har en Moln för innehållsuppgifter, och det verkar fungera så här: du laddar upp dina bildfilers metadata till Adobes moln; om en av dina filer senare delas av någon utan dess identifierande metadata, kan vad de än använder för att distribuera snappen köra bilden av Adobes moln och återställa metadata om det finns en visuell matchning.
Tänk: något som Google omvänd bildsökning, och det returnerar den ursprungliga metadatan. På det sättet om någon försöker lägga upp din bild på webben eller via en app, och allt klickar på plats, bör bildens ursprung vara tydligt, även om metadatan gick förlorad före postningen – den skulle återställas från innehållsuppgifterna moln.
"När digitalt innehåll har signerats med innehållsuppgifter (i en plattform som använder C2PA:s öppna standarder och innehållsuppgifter), bifogas manipuleringssäker metadata, så att det följer med innehållet vart det än går", säger en talesperson för Adobe. Registret.
"Även om den informationen med uppsåt eller av misstag har tagits bort vid någon punkt i innehållets livscykel, kan den återställas via Content Credentials Cloud."
Det har åtminstone Adobe tänkt på. Så nu behöver vi människor att vara medvetna om symbolen; för deras applikationer för att stödja symbolen; för artister och generatorer att tillhandahålla metadata till Adobes moln; och för onlinepublicister, sociala nätverk och andra innehållsvärdar att ansluta till Adobes moln och återställa eventuell saknad innehållsreferens metadata så att bilder utan metadata kan identifieras. Puh!
Vi antar också att du kan använda en kompatibel metadatavisare, eller ovanstående verifieringsverktyg för innehållsreferenser, för att kontrollera en bild själv om du inte har en bildapp till hands som kan hantera den.
"Alla AI-genererade bilder i Bing Image Creator identifieras med hjälp av innehållsuppgifter", sa en talesperson för Microsoft Registret. "Om innehållsuppgifter visas bredvid en bild kan användare snabbt bekräfta tid och datum för originalbilden genom en osynlig digital vattenstämpel.
"Denna process sker automatiskt under skapandeprocessen och är baserad på C2PA tekniska krav. Ikonen fungerar som ett enkelt sätt för konsumenter att känna igen innehållet. För Bing Image Creator tror vi att ikonen kommer att finnas på plats före årets slut och visas bredvid orden "Innehållsuppgifter".
Andra organisationer, som Publicis Groupe, ett franskt PR- och reklamföretag, förväntas förhandsgranska hur det kommer att använda Content Credentials-metadata med Adobe i framtiden. Samtidigt kommer kameratillverkarna Leica Camera och Nikon att visa hur specifikationen kommer att användas av framtida utrustning för att baka in bilders ursprung i fotografers snaps.
Goda avsikter
Koalitionen tror att allt detta kan hjälpa till att tackla AI-genererade deepfakes som sprider desinformation för att lura nätanvändare. Det skulle kunna uppnås om, enligt vår uppfattning, "cr"-ikonen blir lika allmänt förekommande som copyright-symbolen.
Metadata kan åtminstone göra det lättare för varumärken och företag att vara transparenta om sin användning av syntetiska bilder i reklam- och marknadsföringskampanjer, org. sade, om nämnda företag är villiga att avslöja det. Andy Parsons, senior chef för Content Authenticity Initiative (CAI) på Adobe, sa att den medföljande infowidgeten fungerar som en "digital näringsetikett" för användare.
"Genom historien har visuell ikonografi fungerat som en kraftfull betecknare för kommunikation och kultur," sa han.
"Vi är otroligt glada över potentialen hos den officiella Content Credentials "ikonen för transparens" att bli en universell standard och förväntningar över hela kulturen online - och hjälpa till att göra förtroende till en grundläggande princip i denna nya digitala värld. Vi ser fram emot att fortsätta att införliva innehållsuppgifter och den nya ikonen i våra Adobe-produkter och lösningar."
Även om det utan tvekan är ett steg i rätt riktning, är ikonen långt ifrån att vara en övergripande lösning till att autentisera innehåll på internet och berätta om AI-förfalskningar från den äkta varan. Adoption hittills är bara utlovat och begränsat till stöd från ett fåtal om än mycket stora namn. Och som vi sa, det kräver många fler plattformar – inklusive generativa AI-utvecklare, sociala medier, apptillverkare och utgivare – för att stödja det för att det ska vara effektivt. ®
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
- PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
- Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
- PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
- Källa: https://go.theregister.com/feed/www.theregister.com/2023/10/15/microsoft_adobe_ai_watermark/
- : har
- :är
- :inte
- $UPP
- 1
- 7
- a
- Om Oss
- ovan
- uppnås
- tvärs
- handlingar
- lägga till
- Adobe
- Antagande
- reklam
- AI
- AI chatbot
- Alla
- också
- alternativ
- mängd
- an
- och
- Annan
- vilken som helst
- app
- visas
- visas
- Ansökan
- tillämpningar
- tillvägagångssätt
- tillvägagångssätt
- appar
- ÄR
- det kan argumenteras att
- ARM
- runt
- Artister
- konstverk
- AS
- At
- äktheten
- automatiskt
- medveten
- medvetenhet
- baserat
- BE
- blir
- blir
- varit
- innan
- Där vi får lov att vara utan att konstant prestera,
- tro
- tror
- Stor
- bing
- varumärke
- varumärken
- bubbla
- företag
- men
- by
- rum
- Kampanjer
- KAN
- Vid
- intyga
- chatbot
- ta
- krom
- klar
- klick
- närmare
- cloud
- CO
- koalition
- Kommunikation
- företag
- kompatibel
- Bekräfta
- konsumenter
- innehåll
- innehåll
- fortsätter
- upphovsrätt
- Corner
- kunde
- Par
- Kurs
- skapas
- skapande
- skaparen
- referenser
- kryptografiskt
- kultur
- datum
- Datum
- deepfakes
- demonstrera
- beskriven
- detaljerad
- detaljer
- utvecklare
- digital
- Digital Content
- digital värld
- digitalt
- riktning
- Direktör
- Avslöja
- visas
- distribuera
- misstro
- do
- gör
- doesn
- donation
- ner
- driven
- Drop
- under
- lättare
- lätt
- Effektiv
- änden
- säkerställa
- Utrustning
- Även
- allt
- exempel
- exempel
- exciterade
- förväntan
- förväntat
- export
- Faktum
- långt
- Leverans
- få
- Fil
- Filer
- hitta
- För
- För konsumenterna
- format
- Framåt
- franska
- från
- grundläggande
- framtida
- genereras
- generativ
- Generativ AI
- generatorer
- ges
- Go
- Målet
- Går
- kommer
- Grupp
- sidan
- hantera
- händer
- Har
- he
- hjälpa
- hjälpa
- här.
- historia
- värdar
- Hur ser din drömresa ut
- html
- HTTPS
- stor
- IKON
- identifierade
- identifiera
- if
- bild
- Sök
- bilder
- imponerande
- in
- lutande
- innefattar
- Inklusive
- införliva
- oerhört
- industrier
- info
- informationen
- Initiativ
- inuti
- exempel
- Intel
- Internet
- in
- osynlig
- IT
- DESS
- journalistik
- jpg
- Snäll
- Vet
- etikett
- senare
- t minst
- hävstångs
- livscykel
- tycka om
- Begränsad
- ll
- Lång
- se
- ser ut som
- UTSEENDE
- förlorat
- lägre
- gjord
- göra
- Beslutsfattare
- många
- Marknadsföring
- Match
- Maj..
- betyda
- betyder
- Samtidigt
- Media
- endast
- metadata
- Microsoft
- desinformation
- saknas
- modell
- mer
- namn
- Behöver
- nätverk
- Nya
- Nästa
- Nej
- nu
- of
- sänkt
- tjänsteman
- on
- gång
- ONE
- nätet
- endast
- öppet
- öppnade
- or
- beställa
- organisationer
- ursprung
- ursprungliga
- Övriga
- Övrigt
- vår
- ut
- över
- sida
- del
- Personer
- kanske
- Bild
- Bilder
- Plats
- Enkel
- plattform
- Plattformar
- plato
- Platon Data Intelligence
- PlatonData
- kontakt
- Punkt
- Inlägg
- potentiell
- den mäktigaste
- pr
- presentera
- Förhandsvisning
- Principen
- Innan
- process
- producerad
- Produkter
- utlovade
- härkomst
- ge
- ger
- förlag
- Tryck
- sköt
- snabbt
- Läsa
- verklig
- motta
- känner igen
- erkänner
- Recover
- Rapport
- Krav
- Kräver
- återgår
- vända
- höger
- Högerklicka
- robusta
- Körning
- s
- Nämnda
- Save
- säger
- rulla
- Sök
- säkra
- säkert
- se
- verkar
- sett
- senior
- serverar
- delas
- skall
- show
- visas
- signerad
- Enkelt
- snap
- So
- än så länge
- Social hållbarhet
- sociala medier
- sociala nätverk
- lösning
- Lösningar
- några
- någon
- något
- Källa
- speciell
- specifikation
- specifikationer
- talesman
- spridning
- standard
- Steg
- lagra
- sådana
- svit
- stödja
- Stödjande
- Symbolen
- syntetisk
- tackla
- Ta
- Tryck
- tech
- Teknisk
- Teknologi
- tala
- tala
- den där
- Smakämnen
- Framtiden
- källan
- deras
- Dem
- sedan
- Där.
- de
- sak
- detta
- denna vecka
- trodde
- Genom
- hela
- tid
- till
- i dag
- berättade
- tog
- verktyg
- verktyg
- topp
- traditionell
- Öppenhet
- transparent
- reser
- Litar
- allmänt förekommande
- förstå
- förståelse
- förstår
- Universell
- us
- användning
- Begagnade
- Användare
- användare
- med hjälp av
- verifiera
- mycket
- via
- utsikt
- var
- vattenmärke
- Sätt..
- we
- webb
- Webbplats
- vecka
- VÄL
- były
- Vad
- oberoende
- när
- kommer
- beredd
- med
- utan
- Vann
- ord
- Arbete
- världen
- skulle
- år
- år
- ännu
- Om er
- Din
- själv
- zephyrnet