Meta bygger værktøjer til at opdage, identificere og mærke AI-genererede billeder, der deles via dets sociale medieplatforme. Det tester også store sprogmodeller for automatisk at moderere indhold online.
Tirsdag annoncerede Metas præsident for globale anliggender (og tidligere britiske vicepremierminister) Nick Clegg planer om at markere materiale på Facebook, Instagram og Threads, der ikke kun er skabt af den amerikanske gigants egne tekst-til-billede AI-modeller, men også ting, der er lavet af eksterne maskinlæringsapplikationer. Ideen er at advare netbrugere om, at ting online måske ikke er, hvad det ser ud til, og kan være blevet opfundet ved hjælp af AI-værktøjer til at lure folk, uanset dets kilde.
Clegg sagde ingeniører hos Meta udvikler lige nu værktøjer til at tagge fotorealistisk AI-fremstillet indhold med billedteksten "Imagined with AI" på sine apps, og vil vise denne etiket efter behov i løbet af de kommende måneder.
Fotorealistiske billeder skabt af den indbyggede Meta AI-assistent er allerede automatisk mærket som sådan ved hjælp af synlige og usynlige markører, får vi at vide. Det er de højkvalitets AI-fremstillede ting, der er indsendt udefra, som også skal opdages på en eller anden måde og markeres som sådan i Facebook-gigantens imperium af apps.
På kort sigt har Facebook til hensigt at stole på vandmærker inde i indsendte filer, der angiver kilden til indholdet – som er afhængigt af eksterne AI-indholdsgeneratorer, herunder disse markeringer eller metadata, uden at det fjernes – og beder også folk om ærligt at erklære ting som AI-genereret ved deling af medier.
På lang sigt har Meta til hensigt at bruge klassifikatorer, der automatisk kan skelne, om materialet er lavet af et neuralt netværk eller ej, og dermed undgå denne afhængighed af brugerindsendt mærkning og generatorer inklusive understøttede markeringer. Dette behov for brugere til at "nørde op, når de bruger falske medier - hvis de overhovedet er klar over, at det er forfalsket - såvel som at stole på eksterne apps til korrekt at mærke ting som computerlavet, uden at det bliver strippet væk af folk, som de sige i software engineering, sprød. Disse automatiserede klassificerere, hvis de nogensinde fungerer så godt som ønsket, er der mest brug for.
Indtil videre skal folk, der uploader lyd og video, helt sikkert erklære, om materialet er dybt forfalsket eller ægte, da Meta siger, at der endnu ikke er en konsekvent måde for det at identificere AI-fremstillede optagelser og lyd; og billeder er enten automatisk markeret af Meta AI, inkluderer vandmærker, der afslører den sande kilde, eller kan formodentlig markeres manuelt af folk. Og senere kan det hele blive automatiseret.
"Vi vil kræve, at folk bruger dette afslørings- og etiketværktøj, når de poster organisk indhold med en fotorealistisk video eller realistisk lyd, der er digitalt oprettet eller ændret, og vi kan pålægge bøder, hvis de undlader at gøre det," Clegg sagde.
Hvad angår vandmærkningen, som Meta understøtter, inkluderer det dem fra Coalition for Content Provenance and Authenticity (C2PA) og International Press Telecommunications Council (IPTC). Det er industriinitiativer, der understøttes af teknologi- og mediegrupper, der forsøger at gøre det nemmere at identificere maskingenereret indhold. De er ikke idiotsikre og kan besejres, som vi tidligere har rapporteret.
Metas seneste strategier til at tackle AI-indhold kommer lige efter, at dets Oversight Board, et panel af uafhængige eksperter, der granskede dets indholdsmodereringspolitikker, klagede over, at de nuværende regler om manipulerede medier var "usammenhængende." Bestyrelsen lancerede en sonde sidste år, hvorfor Meta besluttede at tillade en falsk video af præsident Biden, der var blevet digitalt ændret for at hævde, at han var en pædofil, at blive på sit sociale netværk imperium.
Ud over de C2PA- og IPTC-støttede værktøjer tester Meta evnen af store sprogmodeller til automatisk at afgøre, om et indlæg overtræder dets politikker.
Social media biz træner disse systemer på sine egne data og mener, at software kunne skære ned på det indhold, der skal vurderes af menneskelige anmeldere, hvilket giver dem mulighed for at fokusere på vanskeligere sager.
"Efterhånden som forskellen mellem menneskeligt og syntetisk indhold bliver sløret, vil folk gerne vide, hvor grænsen går," sagde Clegg.
"Folk støder ofte på AI-genereret indhold for første gang, og vores brugere har fortalt os, at de sætter pris på gennemsigtighed omkring denne nye teknologi. Vi tager denne tilgang gennem det næste år, hvor en række vigtige valg finder sted rundt om i verden." ®
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
- PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
- PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
- PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
- Kilde: https://go.theregister.com/feed/www.theregister.com/2024/02/06/meta_ai_label/
- :er
- :ikke
- :hvor
- $OP
- 7
- a
- evne
- tværs
- Desuden
- Anliggender
- Efter
- AI
- AI assistent
- AI modeller
- Alle
- tillade
- tillade
- allerede
- også
- ændret
- ,
- annoncerede
- applikationer
- Indløs
- værdsætter
- tilgang
- apps
- ER
- omkring
- AS
- spørge
- vurderes
- Assistant
- At
- lyd
- ægthed
- Automatiseret
- automatisk
- undgå
- opmærksom på
- væk
- Backed
- BE
- været
- være
- Tro
- mellem
- Biden
- biz
- board
- grænse
- Bygning
- indbygget
- men
- by
- CAN
- tilfælde
- krav
- CO
- koalition
- Kom
- kommer
- konsekvent
- indhold
- korrekt
- kunne
- Rådet
- udformet
- oprettet
- Nuværende
- Klip
- skære
- data
- besluttede
- erklærer
- definitivt
- stedfortræder
- ønskes
- opdage
- opdaget
- Detektion
- Bestem
- udvikling
- forskel
- digitalt
- skelne
- videregivelse
- do
- ned
- i løbet af
- lettere
- Edge
- enten
- Valg
- Empire
- Engineering
- Ingeniører
- Endog
- NOGENSINDE
- eksperter
- ekstern
- FAIL
- falsk
- FB
- Filer
- Fornavn
- første gang
- Markeret
- Fokus
- Til
- Tidligere
- fra
- generatorer
- får
- kæmpe
- Global
- Gruppens
- havde
- Have
- he
- høj kvalitet
- Ærligt talt
- HTTPS
- menneskelig
- idé
- identificere
- if
- billede
- billeder
- forestillet
- vigtigt
- in
- omfatter
- omfatter
- Herunder
- uafhængig
- industrien
- initiativer
- indvendig
- hensigt
- internationalt
- ind
- Opfundet
- usynlige
- isn
- IT
- ITS
- jpg
- lige
- Kend
- etiket
- mærkning
- Sprog
- stor
- Efternavn
- Sidste år
- senere
- seneste
- lanceret
- mindst
- ligger
- ll
- Lang
- lavet
- lave
- manipuleret
- manuelt
- markeret
- materiale
- Kan..
- Medier
- Meta
- Metadata
- modeller
- moderat
- mådehold
- måned
- mest
- nødvendig
- Behov
- behov
- behov
- netværk
- neurale
- neurale netværk
- Ny
- næste
- Nick
- nu
- nummer
- of
- tit
- on
- online
- kun
- or
- organisk
- vores
- ud
- uden for
- i løbet af
- Tilsyn
- egen
- panel
- sanktioner
- Mennesker
- Billeder
- Place
- planer
- Platforme
- plato
- Platon Data Intelligence
- PlatoData
- politikker
- Indlæg
- præsident
- præsident biden
- trykke
- tidligere
- Prime
- herkomst
- RE
- ægte
- Uanset
- afhængighed
- stole
- stole
- rapporteret
- kræver
- afsløre
- højre
- regler
- s
- Said
- siger
- siger
- synes
- delt
- deling
- Kort
- Vis
- So
- Social
- sociale medier
- sociale medieplatforme
- sociale netværk
- Software
- software Engineering
- nogle
- Lyd
- Kilde
- forblive
- strategier
- indsendt
- sådan
- Understøttet
- Understøtter
- syntetisk
- Systemer
- tackle
- TAG
- tager
- Teknologier
- telekommunikation
- semester
- Test
- at
- The Source
- verdenen
- Them
- Der.
- Disse
- de
- denne
- dem
- Gennem
- Dermed
- tid
- til
- fortalt
- værktøj
- værktøjer
- Kurser
- Gennemsigtighed
- sand
- prøv
- forsøger
- Tirsdag
- Uk
- Uploading
- us
- brug
- brugere
- ved brug af
- Ve
- via
- video
- synlig
- ønsker
- var
- vandmærkning
- vand varemærker
- Vej..
- we
- GODT
- var
- Hvad
- hvornår
- hvorvidt
- som
- hvorfor
- vilje
- med
- uden
- Arbejde
- world
- år
- endnu
- zephyrnet