Imaginile emise de modelele generative OpenAI vor include metadate care dezvăluie originea lor, care, la rândul lor, pot fi folosite de aplicații pentru a alerta oamenii asupra naturii create de mașini a acelui conținut.
În mod specific, super-laboratorul susținut de Microsoft adoptă, așa cum era de așteptat, specificația Content Credentials, care a fost concepută de Coaliția pentru Proveniența și Autenticitatea conținutului (C2PA), un organism industrial susținut de Adobe, Arm, Microsoft, Intel și altele.
Acreditările de conținut este destul de simplu si specificate pe deplin aici: folosește formate standard de date pentru a stoca în fișierele media detalii despre cine a realizat materialul și cum. Aceste metadate nu sunt direct vizibile pentru utilizator și sunt protejate criptografic, astfel încât orice modificări neautorizate să fie evidente.
Aplicațiile care acceptă aceste metadate, atunci când le detectează în conținutul unui fișier, se așteaptă să afișeze un mic logo „cr” peste conținut pentru a indica faptul că există informații despre acreditările de conținut în acel fișier. Făcând clic pe acel logo, ar trebui să se deschidă o fereastră pop-up care să conțină informațiile respective, inclusiv orice dezvăluiri conform cărora lucrurile au fost făcute de AI.
Cum ar putea apărea sigla C2PA „cr” pe o imagine generată de OpenAI într-o aplicație de suport. Sursa: OpenAI
Ideea fiind aici că ar trebui să fie imediat evident pentru oamenii care vizionează sau editează lucruri în aplicații de sprijin – de la editori de imagini la browsere web, în mod ideal – dacă conținutul de pe ecran este sau nu creat de AI.
A ajuta oamenii să facă distincția între imaginile reale și cele false va deveni, fără îndoială, din ce în ce mai important, pe măsură ce conținutul generat de AI se îmbunătățește până la punctul în care nu este evident rezultatul unei mașini. Experții se tem că astfel de mass-media sintetice vor induce în eroare internauții și vor fi folosite pentru a semăna dezinformare sau pentru a sprijini campanii de dezinformare. Companiile tehnologice își intensifică eforturile pentru a minimiza riscurile pe măsură ce, în primul rând, se apropie alegerile prezidențiale din 2024 din SUA.
Cu toate acestea, strategia de acreditări de conținut nu este sigură ca noi raportate anterior. Metadatele pot fi eliminate sau exportate cu ușurință fără ele, sau „cr” decupat din capturi de ecran, astfel încât nicio siglă „cr” nu va apărea pe material în viitor în nicio aplicație. De asemenea, se bazează pe aplicații și servicii pentru a susține specificația, indiferent dacă acestea creează sau afișează media.
Pentru a funcționa la scară și pentru a obține adoptarea, are nevoie, de asemenea, de un tip de sistem cloud care să poată fi utilizat pentru a restabili metadatele eliminate, pe care Adobe se întâmplă să le împingă, precum și de o campanie de marketing pentru a răspândi cunoașterea mărcii. Mărește-i lățimea mărcii, dacă vrei.
OpenAI a recunoscut acest lucru săptămâna aceasta când a anunțat săptămâna aceasta ChatGPT și DALL-E 3 API vor include acreditările de conținut C2PA în rezultatele lor.
„Metadatele precum C2PA nu sunt un glonț de argint pentru a aborda problemele de proveniență”, OpenAI admise. „Poate fi îndepărtat cu ușurință fie accidental, fie intenționat. De exemplu, majoritatea platformelor de rețele sociale de astăzi elimină metadatele din imaginile încărcate, iar acțiuni precum realizarea unei capturi de ecran le pot elimina și ele. Prin urmare, este posibil ca o imagine fără aceste metadate să fi fost generată sau nu cu ChatGPT sau API-ul nostru.”
În ceea ce privește impactul asupra dimensiunii fișierului, OpenAI a insistat că un fișier PNG de 3.1 MB generat de API-ul său DALL-E crește cu aproximativ trei procente (sau aproximativ 90KB) când include metadatele. Între timp, un fișier WebP de 287K va crește cu aproximativ 32% cu acea sarcină utilă de 90KB.
C2PA câștigă teren: pe măsură ce mai multe aplicații și servicii se angajează să-l susțină, mai multe software-uri îl pot folosi, mai mulți oameni ar trebui să îl vadă și astfel crește. Meta a anunțat construia instrumente care să susțină specificațiile grupului industrial săptămâna aceasta.
„Credem că adoptarea acestor metode pentru stabilirea provenienței și încurajarea utilizatorilor să recunoască aceste semnale sunt cheia pentru creșterea fiabilității informațiilor digitale”, a declarat OpenAI.
Ni sa spus că ChatGPT prin web și modelul DALL-E 3 prin intermediul API-ului său vor include acum metadatele C2PA, iar utilizatorii de telefonie mobilă le vor primi până pe 12 februarie. ®
- Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
- PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
- PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
- PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
- PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
- Sursa: https://go.theregister.com/feed/www.theregister.com/2024/02/08/openai_is_adding_a_watermark/
- :este
- :nu
- $UP
- 12
- 2024
- 32
- 400
- 7
- a
- Despre Noi
- recunoscut
- acțiuni
- adăuga
- adresa
- chirpici
- Adoptarea
- Adoptare
- AI
- Alerta
- de asemenea
- an
- și
- anunțare
- Orice
- api
- aplicaţia
- apărea
- aplicatii
- aplicat
- Apps
- SUNT
- ARM
- AS
- At
- autenticitate
- gradului de conştientizare
- sprijinit
- BE
- deveni
- fost
- fiind
- Crede
- între
- corp
- frontieră
- marca
- browsere
- Clădire
- by
- Campanie
- Campanii
- CAN
- Modificări
- Chat GPT
- Cloud
- CO
- coaliţie
- Companii
- conţinut
- conținut
- Crearea
- scrisori de acreditare
- criptografic
- dall-e
- de date
- declarat
- detalii
- detecta
- digital
- direct
- Dezvăluirea
- dezinformare
- Afişa
- afișarea
- distinge
- îndoială
- cu ușurință
- editori
- Eforturile
- oricare
- Alegere
- Fii încurajator.
- stabilirea
- exemplu
- de aşteptat
- experți
- frică
- februarie
- Fișier
- Fişiere
- Pentru
- din
- Complet
- viitor
- Câştig
- câștigă
- generată
- generativ
- obține
- grup
- creste
- se întâmplă
- Avea
- aici
- Cum
- HTML
- HTTPS
- idee
- ideal
- if
- imagine
- imagini
- imediat
- Impactul
- important
- îmbunătăţeşte
- in
- include
- Inclusiv
- Crește
- crescând
- tot mai mult
- indica
- industrie
- informații
- Intel
- intentionat
- ISN
- probleme de
- IT
- ESTE
- jpg
- a sari
- Cheie
- Copil
- de laborator
- lipsit
- Ultimele
- ca
- mic
- siglă
- maşină
- făcut
- marca
- Marketing
- material
- Mai..
- Între timp
- Mass-media
- meta
- Metadata
- Metode
- Microsoft
- ar putea
- Dezinformare
- Mobil
- model
- Modele
- mai mult
- cele mai multe
- mult
- Natură
- nevoilor
- Nu.
- acum
- evident
- of
- on
- ONE
- deschide
- OpenAI
- or
- origine
- al nostru
- afară
- producție
- peste
- oameni
- la sută
- Platforme
- Plato
- Informații despre date Platon
- PlatoData
- Angajament
- Punct
- pop-up
- prezenta
- prezidenţial
- alegeri prezidentiale
- protejat
- proveniență
- împingerea
- RE
- real
- recunoaște
- scoate
- îndepărtat
- restabili
- Riscurile
- s
- Scară
- Ecran
- capturi de ecran
- vedea
- Servicii
- să
- semnalele
- Silver
- So
- Social
- social media
- platforme de socializare
- Software
- unele
- Sursă
- SOW
- specificație
- specificată
- răspândire
- pas cu pas
- stoca
- Strategie
- astfel de
- Super
- a sustine
- De sprijin
- sintetic
- sistem
- luare
- tech
- tech
- termeni
- acea
- lor
- Acolo.
- prin urmare
- Acestea
- ei
- lucru
- acest
- în această săptămână
- trei
- la
- astăzi
- a spus
- Unelte
- tracțiune
- De incredere
- ÎNTORCĂ
- neautorizat
- încărcat
- us
- utilizare
- utilizat
- Utilizator
- utilizatorii
- utilizări
- Ve
- de
- vizionează
- vizibil
- a fost
- we
- web
- Browsere web
- WebP
- săptămână
- BINE
- cand
- dacă
- care
- OMS
- voi
- cu
- în
- fără
- Apartamente
- Tu
- zephyrnet