Meta bygger verktøy for å oppdage, identifisere og merke AI-genererte bilder som deles via sosiale medieplattformer. Den tester også store språkmodeller for å automatisk moderere innhold på nettet.
Tirsdag kunngjorde Metas president for globale anliggender (og tidligere visestatsminister i Storbritannia) Nick Clegg planer om å flagge opp på Facebook, Instagram og Threads-materiale laget ikke bare av den amerikanske gigantens egne tekst-til-bilde AI-modeller, men også ting laget av eksterne maskinlæringsapplikasjoner. Ideen er å advare nettbrukere om at ting på nettet kanskje ikke er som det ser ut til, og kan ha blitt oppfunnet ved å bruke AI-verktøy for å lure folk, uavhengig av kilden.
Clegg sa ingeniører hos Meta utvikler akkurat nå verktøy for å merke fotorealistisk AI-laget innhold med bildeteksten «Imagined with AI» på appene sine, og vil vise denne etiketten etter behov i løpet av de kommende månedene.
Fotorealistiske bilder laget av den innebygde Meta AI-assistenten er allerede automatisk merket som sådan, ved hjelp av synlige og usynlige markører, blir vi fortalt. Det er AI-laget av høy kvalitet som sendes inn fra utsiden som også må oppdages på en eller annen måte og merkes som sådan i Facebook-gigantens appimperium.
På kort sikt har Facebook til hensikt å stole på vannmerker inne i innsendte filer som deklarerer kilden til innholdet – som er avhengig av eksterne AI-innholdsgeneratorer, inkludert disse merkingene eller metadataene, uten at det blir strippet ut – og ber også folk om å ærlig deklarere ting som AI-generert ved deling av media.
På lang sikt har Meta til hensikt å bruke klassifikatorer som automatisk kan se om materialet ble laget av et nevralt nettverk eller ikke, og dermed unngå denne avhengigheten av brukerinnsendt merking og generatorer inkludert støttede markeringer. Dette behovet for brukere å "fete opp når de bruker falske medier - hvis de i det hele tatt er klar over at det er falskt - i tillegg til å stole på eksterne apper for å korrekt merke ting som datamaskinlaget uten at det blir strippet bort av folk, som de si i programvareteknikk, sprø. Disse automatiserte klassifisere, hvis de noen gang fungerer så godt som ønsket, trengs mest.
For nå i det minste, vil folk som laster opp lyd og video definitivt måtte erklære om materialet er dypt forfalsket eller ekte, ettersom Meta sier at det ennå ikke er en konsistent måte for det å identifisere AI-laget opptak og lyd; og bilder er enten automatisk merket av Meta AI, inkluderer vannmerker som avslører den sanne kilden, eller antagelig kan flagges opp manuelt av folk. Og senere kan alt bli automatisert.
"Vi vil kreve at folk bruker dette avslørings- og merkeverktøyet når de legger ut organisk innhold med en fotorealistisk video eller realistisk lyd som er digitalt opprettet eller endret, og vi kan ilegge straff hvis de ikke gjør det," Clegg sa.
Når det gjelder vannmerkingen som Meta støtter, inkluderer det de fra Coalition for Content Provenance and Authenticity (C2PA) og International Press Telecommunications Council (IPTC). Dette er bransjeinitiativer støttet av teknologi- og mediegrupper som prøver å gjøre det lettere å identifisere maskingenerert innhold. De er ikke idiotsikre og kan beseires som vi tidligere har rapportert.
Metas siste strategier for å takle AI-innhold kommer like etter at Oversight Board, et panel av uavhengige eksperter som gransker retningslinjene for innholdsmoderering, klaget over at gjeldende regler for manipulerte medier var «usammenhengende». Styret lanserte en probe i fjor hvorfor Meta bestemte seg for å tillate en falsk video av president Biden som hadde blitt digitalt endret for å hevde at han var en pedofil, å bli på sitt sosiale nettverk imperium.
I tillegg til C2PA- og IPTC-støttede verktøy, tester Meta evnen til store språkmodeller for automatisk å avgjøre om et innlegg bryter retningslinjene.
Social media biz trener disse systemene på sine egne data, og tror programvare kan kutte ned innholdet som må vurderes av menneskelige anmeldere, slik at de kan fokusere på vanskeligere saker.
"Når forskjellen mellom menneskelig og syntetisk innhold blir uskarp, vil folk vite hvor grensen går," sa Clegg.
«Folk kommer ofte over AI-generert innhold for første gang, og brukerne våre har fortalt oss at de setter pris på åpenhet rundt denne nye teknologien. Vi tar denne tilnærmingen gjennom det neste året, der en rekke viktige valg finner sted rundt om i verden.» ®
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
- kilde: https://go.theregister.com/feed/www.theregister.com/2024/02/06/meta_ai_label/
- :er
- :ikke
- :hvor
- $OPP
- 7
- a
- evne
- tvers
- tillegg
- Affairs
- Etter
- AI
- AI-assistent
- AI-modeller
- Alle
- tillate
- tillate
- allerede
- også
- endret
- og
- annonsert
- søknader
- Påfør
- verdsette
- tilnærming
- apps
- ER
- rundt
- AS
- spør
- vurderes
- Assistent
- At
- lyd
- autentisitet
- Automatisert
- automatisk
- unngå
- klar
- borte
- Backed
- BE
- vært
- være
- tro
- mellom
- Biden
- biz
- borde
- grense
- Bygning
- innebygd
- men
- by
- CAN
- saker
- hevder
- CO
- koalisjon
- Kom
- kommer
- konsistent
- innhold
- riktig
- kunne
- Råd
- utformet
- opprettet
- Gjeldende
- Kutt
- skjæring
- dato
- besluttet
- erklærer
- helt sikkert
- nestleder
- ønsket
- oppdage
- oppdaget
- Gjenkjenning
- Bestem
- utvikle
- forskjell
- digitalt
- skjelne
- avsløring
- do
- ned
- under
- enklere
- Edge
- enten
- Valg
- Empire
- Ingeniørarbeid
- Ingeniører
- Selv
- NOEN GANG
- eksperter
- utvendig
- FAIL
- forfalskning
- FB
- Filer
- Først
- første gang
- flaggede
- Fokus
- Til
- Tidligere
- fra
- generatorer
- blir
- giganten
- Global
- Gruppens
- HAD
- Ha
- he
- høykvalitets
- Ærlig talt
- HTTPS
- menneskelig
- Tanken
- identifisere
- if
- bilde
- bilder
- trodd
- viktig
- in
- inkludere
- inkluderer
- Inkludert
- uavhengig
- industri
- initiativer
- innsiden
- hensikt
- internasjonalt
- inn
- Oppfunnet
- usynlig
- er n
- IT
- DET ER
- jpg
- bare
- Vet
- Etiketten
- merking
- Språk
- stor
- Siste
- I fjor
- seinere
- siste
- lansert
- minst
- ligger
- ll
- Lang
- laget
- gjøre
- manipulert
- manuelt
- merket
- materiale
- Kan..
- Media
- Meta
- metadata
- modeller
- moderat
- moderasjon
- måneder
- mest
- nødvendig
- Trenger
- nødvendig
- behov
- nettverk
- nevrale
- nevrale nettverket
- Ny
- neste
- nick
- nå
- Antall
- of
- ofte
- on
- på nett
- bare
- or
- organisk
- vår
- ut
- utenfor
- enn
- oppsyn
- egen
- panel
- straffer
- Ansatte
- Bilder
- Sted
- planer
- Plattformer
- plato
- Platon Data Intelligence
- PlatonData
- Politikk
- Post
- president
- president biden
- trykk
- tidligere
- Prime
- proveniens
- RE
- ekte
- Uansett
- avhengighet
- avhengige
- avhengig
- rapportert
- krever
- avsløre
- ikke sant
- regler
- s
- Sa
- sier
- sier
- synes
- delt
- deling
- Kort
- Vis
- So
- selskap
- sosiale medier
- sosiale medieplattformer
- sosiale nettverk
- Software
- software engineering
- noen
- Lyd
- kilde
- opphold
- strategier
- innsendt
- slik
- Støttes
- Støtter
- syntetisk
- Systemer
- takling
- TAG
- ta
- Teknologi
- telekommunikasjon
- begrep
- Testing
- Det
- De
- Kilden
- verden
- Dem
- Der.
- Disse
- de
- denne
- De
- Gjennom
- Dermed
- tid
- til
- fortalte
- verktøy
- verktøy
- Kurs
- Åpenhet
- sant
- prøve
- prøver
- tirsdag
- Uk
- Opplasting
- us
- bruke
- Brukere
- ved hjelp av
- Ve
- av
- video
- synlig
- ønsker
- var
- Vannmerking
- vannmerker
- Vei..
- we
- VI VIL
- var
- Hva
- når
- om
- hvilken
- hvorfor
- vil
- med
- uten
- Arbeid
- verden
- år
- ennå
- zephyrnet