Obrazy emitowane przez modele generatywne OpenAI będą zawierać metadane ujawniające ich pochodzenie, które z kolei mogą zostać wykorzystane przez aplikacje do ostrzegania ludzi o maszynowym charakterze tych treści.
W szczególności super laboratorium wspierane przez firmę Microsoft, zgodnie z oczekiwaniami, przyjmuje specyfikację poświadczeń treści opracowaną przez Koalicję na rzecz pochodzenia i autentyczności treści (C2PA), organizacja branżowa wspierana przez Adobe, Arm, Microsoft, Intel i inne.
Poświadczenia treści są dość proste i określone w całości tutaj: to używa standardowe formaty danych do przechowywania w plikach multimedialnych szczegółowych informacji o tym, kto i w jaki sposób stworzył materiał. Metadane te nie są bezpośrednio widoczne dla użytkownika i są chronione kryptograficznie, dzięki czemu wszelkie nieautoryzowane zmiany są widoczne.
Oczekuje się, że aplikacje obsługujące te metadane, gdy wykryją je w zawartości pliku, wyświetlą nad zawartością małe logo „cr”, wskazujące, że w pliku znajdują się informacje dotyczące poświadczeń treści. Kliknięcie tego logo powinno otworzyć wyskakujące okienko zawierające te informacje, w tym wszelkie informacje, że dane zostały stworzone przez sztuczną inteligencję.
Jak logo C2PA „cr” może pojawić się na obrazie wygenerowanym przez OpenAI w aplikacji pomocniczej. Źródło: OpenAI
Pomysł polega na tym, że dla osób przeglądających lub edytujących treści w aplikacjach pomocniczych powinno być od razu oczywiste – od edytorów obrazów po przeglądarki internetowe – w idealnym przypadku – niezależnie od tego, czy treść na ekranie została stworzona przez sztuczną inteligencję.
Pomaganie ludziom w odróżnianiu obrazów prawdziwych od fałszywych będzie bez wątpienia coraz ważniejsze, w miarę jak treści generowane przez sztuczną inteligencję udoskonalą się do tego stopnia, że nie będą już w oczywisty sposób efektem działania maszyny. Eksperci obawiają się, że takie syntetyczne media wprowadzą internautów w błąd i zostaną wykorzystane do siania dezinformacji lub wspierania kampanii dezinformacyjnych. Firmy technologiczne wzmagają wysiłki, aby zminimalizować ryzyko, między innymi w obliczu zbliżających się wyborów prezydenckich w USA w 2024 roku.
Jednak strategia dotycząca danych uwierzytelniających nie jest tak niezawodna, jak my wcześniej informowaliśmy. Metadane można łatwo usunąć lub bez nich wyeksportować, a także wyciąć „cr” ze zrzutów ekranu, dzięki czemu logo „cr” nie będzie w przyszłości pojawiać się na materiale w żadnych aplikacjach. Opiera się również na aplikacjach i usługach wspierających specyfikację, niezależnie od tego, czy tworzą, czy wyświetlają multimedia.
Aby działać na dużą skalę i zyskać popularność, potrzebny jest także jakiś system w chmurze, który można wykorzystać do przywrócenia usuniętych metadanych, na co nalega Adobe, a także kampanii marketingowej mającej na celu szerzenie świadomości marki. Jeśli chcesz, zwiększ szerokość marki.
OpenAI przyznało to w tym tygodniu, ogłaszając, że w tym tygodniu ChatGPT i DALL-E 3 API będą zawierać w swoich wynikach dane uwierzytelniające C2PA.
„Metadane takie jak C2PA nie są lekarstwem na problemy związane z pochodzeniem” – OpenAI Przyznał. „Można go łatwo usunąć przypadkowo lub celowo. Na przykład większość platform mediów społecznościowych usuwa obecnie metadane z przesłanych obrazów, a czynności takie jak wykonanie zrzutu ekranu również mogą je usunąć. Dlatego obraz pozbawiony tych metadanych mógł zostać wygenerowany za pomocą ChatGPT lub naszego API lub nie.
Jeśli chodzi o wpływ rozmiaru pliku, OpenAI nalegało, aby plik PNG o wielkości 3.1 MB wygenerowany przez interfejs API DALL-E wzrósł o około trzy procent (czyli około 90 KB) po uwzględnieniu metadanych. Tymczasem plik WebP o wielkości 287 KB wzrośnie o około 32 procent przy ładunku wynoszącym 90 KB.
C2PA zyskuje na popularności: w miarę jak coraz więcej aplikacji i usług deklaruje jego obsługę, więcej oprogramowania może z niego korzystać, więcej osób powinno z niego korzystać, dzięki czemu rozwija się. Meta ogłosił w tym tygodniu budował narzędzia wspierające specyfikację grupy branżowej.
„Wierzymy, że przyjęcie tych metod ustalania pochodzenia i zachęcania użytkowników do rozpoznawania tych sygnałów jest kluczem do zwiększenia wiarygodności informacji cyfrowych” – oświadczyło OpenAI.
Powiedziano nam, że ChatGPT za pośrednictwem Internetu, a model DALL-E 3 za pośrednictwem interfejsu API będzie teraz zawierać metadane C2PA, a użytkownicy mobilni otrzymają je do 12 lutego. ®
- Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
- PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
- PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
- PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
- Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
- Źródło: https://go.theregister.com/feed/www.theregister.com/2024/02/08/openai_is_adding_a_watermark/
- :Jest
- :nie
- $W GÓRĘ
- 12
- 2024
- 32
- 400
- 7
- a
- O nas
- przyznał
- działania
- Dodaj
- adres
- Adobe
- Przyjęcie
- Przyjęcie
- AI
- Alarm
- również
- an
- i
- Ogłaszając
- każdy
- api
- Aplikacja
- zjawić się
- aplikacje
- stosowany
- mobilne i webowe
- SĄ
- ARM
- AS
- At
- autentyczność
- świadomość
- poparła
- BE
- stają się
- być
- jest
- uwierzyć
- pomiędzy
- ciało
- granica
- marka
- przeglądarki
- Budowanie
- by
- Kampania
- Kampanie
- CAN
- Zmiany
- ChatGPT
- Chmura
- CO
- koalicja
- Firmy
- zawartość
- treść
- Tworzenie
- Listy uwierzytelniające
- kryptograficznie
- Dall's
- dane
- Deklarowana
- detale
- wykryć
- cyfrowy
- bezpośrednio
- Ujawnianie
- dezinformacja
- Wyświetlacz
- wyświetlanie
- rozróżniać
- wątpić
- z łatwością
- redaktorzy
- starania
- bądź
- Wyborczy
- zachęcający
- ustanowienie
- przykład
- spodziewany
- eksperci
- strach
- luty
- filet
- Akta
- W razie zamówieenia projektu
- od
- pełny
- przyszłość
- Wzrost
- zyskuje
- wygenerowane
- generatywny
- otrzymać
- Zarządzanie
- Rośnie
- dzieje
- Have
- tutaj
- W jaki sposób
- HTML
- HTTPS
- pomysł
- idealnie
- if
- obraz
- zdjęcia
- natychmiast
- Rezultat
- ważny
- poprawia
- in
- zawierać
- Włącznie z
- Zwiększać
- wzrastający
- coraz bardziej
- wskazać
- przemysł
- Informacja
- Intel
- celowo
- ISN
- problemy
- IT
- JEGO
- jpg
- skok
- Klawisz
- Uprzejmy
- laboratorium
- brak
- firmy
- lubić
- mało
- logo
- maszyna
- zrobiony
- znak
- Marketing
- materiał
- Może..
- W międzyczasie
- Media
- Meta
- Metadane
- metody
- Microsoft
- może
- Mylna informacja
- Aplikacje mobilne
- model
- modele
- jeszcze
- większość
- dużo
- Natura
- wymagania
- Nie
- już dziś
- oczywista
- of
- on
- ONE
- koncepcja
- OpenAI
- or
- pochodzenie
- ludzkiej,
- na zewnątrz
- wydajność
- koniec
- Ludzie
- procent
- Platformy
- plato
- Analiza danych Platona
- PlatoDane
- Zastaw
- punkt
- pop-up
- teraźniejszość
- prezydencki
- wybory prezydenckie
- chroniony
- pochodzenie
- Popychanie
- RE
- real
- rozpoznać
- usunąć
- Usunięto
- przywracać
- ryzyko
- s
- Skala
- Ekran
- screeny
- widzieć
- Usługi
- powinien
- Sygnały
- Srebro
- So
- Obserwuj Nas
- Media społecznościowe
- platform społecznych mediów
- Tworzenie
- kilka
- Źródło
- SOW
- specyfikacja
- określony
- rozpiętość
- stepping
- sklep
- Strategia
- taki
- Wspaniały
- wsparcie
- Wspierający
- syntetyczny
- system
- biorąc
- tech
- tech
- REGULAMIN
- że
- Połączenia
- ich
- Tam.
- w związku z tym
- Te
- one
- rzecz
- to
- w tym tygodniu
- trzy
- do
- już dziś
- powiedział
- narzędzia
- trakcja
- solidność
- SKRĘCAĆ
- Nieupoważniony
- przesłanych
- us
- posługiwać się
- używany
- Użytkownik
- Użytkownicy
- zastosowania
- Ve
- przez
- wejść
- widoczny
- była
- we
- sieć
- Przeglądarki internetowe
- webp
- tydzień
- DOBRZE
- jeśli chodzi o komunikację i motywację
- czy
- który
- KIM
- będzie
- w
- w ciągu
- bez
- Praca
- You
- zefirnet