Bilder som sänds ut av OpenAI:s generativa modeller kommer att inkludera metadata som avslöjar deras ursprung, som i sin tur kan användas av applikationer för att uppmärksamma människor på det maskintillverkade innehållet.
Specifikt antar det Microsoft-mästarade superlabbet, som väntat, innehållsreferensspecifikationen, som utarbetades av Coalition for Content Provenance and Authenticity (C2PA), en branschorganisation som stöds av Adobe, Arm, Microsoft, Intel med flera.
Innehållsuppgifter är ganska enkelt och specificeras i sin helhet här: det använder standarddataformat att lagra information i mediafiler om vem som gjort materialet och hur. Denna metadata är inte direkt synlig för användaren och är kryptografiskt skyddad så att alla obehöriga ändringar är uppenbara.
Applikationer som stöder denna metadata, när de upptäcker den i en fils innehåll, förväntas visa en liten "cr"-logotyp över innehållet för att indikera att det finns innehållsreferensinformation i den filen. Om du klickar på den logotypen bör ett popup-fönster öppnas som innehåller den informationen, inklusive eventuella avslöjanden om att sakerna gjordes av AI.
Tanken är här att det ska vara omedelbart uppenbart för människor som tittar på eller redigerar saker i stödjande applikationer – från bildredigerare till webbläsare, helst – om innehållet på skärmen är AI-tillverkat eller inte.
Att hjälpa människor att skilja mellan verkliga och fejkade bilder kommer utan tvekan att bli allt viktigare när AI-genererat innehåll förbättras till en punkt där det inte uppenbarligen är resultatet av en maskin. Experter fruktar att sådana syntetiska medier kommer att vilseleda nätanvändare och användas för att så desinformation eller stödja desinformationskampanjer. Teknikföretagen intensifierar ansträngningarna för att minimera riskerna när bland annat det amerikanska presidentvalet 2024 närmar sig.
Ändå är strategin för innehållsreferenser inte idiotsäker som vi har gjort tidigare rapporterad. Metadata kan enkelt tas bort eller exporteras utan den, eller "cr" beskäras ur skärmdumpar, så ingen "cr"-logotyp kommer att visas på materialet i framtiden i några applikationer. Den förlitar sig också på appar och tjänster för att stödja specifikationen, oavsett om de skapar eller visar media.
För att arbeta i stor skala och få användning behöver det också någon form av molnsystem som kan användas för att återställa borttagen metadata, vilket Adobe råkar driva på, samt en marknadsföringskampanj för att sprida varumärkeskännedom. Öka dess varumärkesbredd, om du vill.
OpenAI erkände så mycket den här veckan när ChatGPT och DALL-E 3 API tillkännagav denna vecka kommer att inkludera C2PA:s innehållsuppgifter i sin produktion.
"Metadata som C2PA är inte en silverkula för att ta itu med frågor om härkomst," OpenAI medgav. "Det kan lätt tas bort antingen av misstag eller avsiktligt. Till exempel tar de flesta sociala medieplattformar idag bort metadata från uppladdade bilder, och åtgärder som att ta en skärmdump kan också ta bort den. Därför kan en bild som saknar denna metadata ha genererats med ChatGPT eller vårt API eller inte."
När det gäller påverkan på filstorleken insisterade OpenAI på att en 3.1 MB PNG-fil som genereras av dess DALL-E API växer med cirka tre procent (eller cirka 90 KB) när metadata tas med. En 287K WebP-fil kommer under tiden att hoppa med cirka 32 procent med den 90KB nyttolasten.
C2PA vinner dragkraft: när fler appar och tjänster lovar att stödja det, kan mer programvara använda det, fler människor borde se det, och så växer det. Meta meddelade det byggde verktyg för att stödja industrigruppens specifikation denna vecka.
"Vi tror att att anta dessa metoder för att fastställa härkomst och uppmuntra användare att känna igen dessa signaler är nyckeln till att öka tillförlitligheten hos digital information," förklarade OpenAI.
Vi får veta ChatGPT via webben och DALL-E 3-modellen via dess API kommer nu att inkludera C2PA-metadata, och mobilanvändare kommer att få det senast den 12 februari. ®
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
- PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
- Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
- PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
- Källa: https://go.theregister.com/feed/www.theregister.com/2024/02/08/openai_is_adding_a_watermark/
- :är
- :inte
- $UPP
- 12
- 2024
- 32
- 400
- 7
- a
- Om Oss
- medgav
- åtgärder
- lägga till
- adress
- Adobe
- Anta
- Antagande
- AI
- Varna
- också
- an
- och
- Vi presenterar
- vilken som helst
- api
- app
- visas
- tillämpningar
- tillämpas
- appar
- ÄR
- ARM
- AS
- At
- äktheten
- medvetenhet
- dragen tillbaka
- BE
- blir
- varit
- Där vi får lov att vara utan att konstant prestera,
- tro
- mellan
- kropp
- gränsen
- varumärke
- webbläsare
- Byggnad
- by
- Kampanj
- Kampanjer
- KAN
- Förändringar
- ChatGPT
- cloud
- CO
- koalition
- Företag
- innehåll
- innehåll
- Skapa
- referenser
- kryptografiskt
- dalls
- datum
- deklarerade
- detaljer
- upptäcka
- digital
- direkt
- Avslöjar
- desinformation
- Visa
- visning
- skilja på
- tvivlar
- lätt
- redaktörer
- ansträngningar
- antingen
- Val
- uppmuntra
- upprättandet
- exempel
- förväntat
- experter
- rädsla
- Februari
- Fil
- Filer
- För
- från
- full
- framtida
- Få
- få
- genereras
- generativ
- skaffa sig
- Grupp
- Växer
- händer
- Har
- här.
- Hur ser din drömresa ut
- html
- HTTPS
- Tanken
- idealt
- if
- bild
- bilder
- blir omedelbart
- Inverkan
- med Esport
- förbättrar
- in
- innefattar
- Inklusive
- Öka
- ökande
- alltmer
- indikerar
- industrin
- informationen
- Intel
- avsiktligt
- isn
- problem
- IT
- DESS
- jpg
- hoppa
- Nyckel
- Snäll
- lab
- saknas
- senaste
- tycka om
- liten
- logotyp
- Maskinen
- gjord
- markera
- Marknadsföring
- Materialet
- Maj..
- Samtidigt
- Media
- meta
- metadata
- metoder
- Microsoft
- kanske
- desinformation
- Mobil
- modell
- modeller
- mer
- mest
- mycket
- Natur
- behov
- Nej
- nu
- Uppenbara
- of
- on
- ONE
- öppet
- OpenAI
- or
- ursprung
- vår
- ut
- produktion
- över
- Personer
- procent
- Plattformar
- plato
- Platon Data Intelligence
- PlatonData
- Lova
- Punkt
- pop-up
- presentera
- president-
- presidentval
- skyddad
- härkomst
- Tryckande
- RE
- verklig
- känner igen
- ta bort
- avlägsnas
- återställa
- risker
- s
- Skala
- screen
- skärmdumpar
- se
- Tjänster
- skall
- signaler
- Silver
- So
- Social hållbarhet
- sociala medier
- sociala medierna
- Mjukvara
- några
- Källa
- SUGGA
- specifikation
- specificerade
- spridning
- kliva
- lagra
- Strategi
- sådana
- super
- stödja
- Stödjande
- syntetisk
- system
- tar
- tech
- Tech företag
- villkor
- den där
- Smakämnen
- deras
- Där.
- därför
- Dessa
- de
- sak
- detta
- denna vecka
- tre
- till
- i dag
- berättade
- verktyg
- dragkraft
- trovärdighet
- SVÄNG
- obehörig
- uppladdad
- us
- användning
- Begagnade
- Användare
- användare
- användningar
- Ve
- via
- visning
- synlig
- var
- we
- webb
- webbläsare
- webp
- vecka
- VÄL
- när
- om
- som
- VEM
- kommer
- med
- inom
- utan
- Arbete
- Om er
- zephyrnet