Meta bygger verktyg för att upptäcka, identifiera och märka AI-genererade bilder som delas via dess sociala medieplattformar. Det testar också stora språkmodeller för att automatiskt moderera innehåll online.
På tisdagen tillkännagav Metas president för globala angelägenheter (och tidigare brittiska vice premiärministern) Nick Clegg planer på att flagga upp material på Facebook, Instagram och Threads som skapats inte bara av den amerikanska jättens egna text-till-bild AI-modeller utan också grejer skapade genom externa maskininlärningsapplikationer. Tanken är att varna nätanvändare för att saker online kanske inte är vad det verkar, och kan ha uppfunnits med hjälp av AI-verktyg för att lura människor, oavsett källan.
Clegg sade ingenjörer på Meta utvecklar just nu verktyg för att tagga fotorealistiskt AI-tillverkat innehåll med bildtexten "Imagined with AI" på sina appar, och kommer att visa denna etikett vid behov under de kommande månaderna.
Fotorealistiska bilder skapade av den inbyggda Meta AI-assistenten är redan automatiskt märkta som sådana, med hjälp av synliga och osynliga markörer, får vi veta. Det är de högkvalitativa AI-gjorda prylarna som skickas in utifrån som också måste upptäckas på något sätt och märkas upp som sådana i Facebook-jättens appimperium.
På kort sikt har Facebook för avsikt att förlita sig på vattenstämplar i inlämnade filer som deklarerar källan till innehållet – vilket förlitar sig på externa AI-innehållsgeneratorer inklusive dessa markeringar eller metadata, utan att det tas bort – och även be folk att ärligt deklarera saker som AI-genererad vid delning av media.
På lång sikt avser Meta att använda klassificerare som automatiskt kan urskilja om material har gjorts av ett neuralt nätverk eller inte, och på så sätt undvika detta beroende av användarinlämnade märkningar och generatorer inklusive stödda markeringar. Detta behov för användare att "skämta sig när de använder falska media – om de ens är medvetna om att det är fejkat - samt att förlita sig på externa appar för att korrekt märka saker som datortillverkade utan att det ska tas bort av människor, eftersom de säg i mjukvaruteknik, spröd. Dessa automatiserade klassificerare, om de någonsin fungerar så bra som önskat, behövs mest.
Åtminstone för närvarande kommer personer som laddar upp ljud och video definitivt att behöva deklarera om det materialet är djupt förfalskat eller verkligt eftersom Meta säger att det ännu inte finns ett konsekvent sätt för det att identifiera AI-tillverkade filmer och ljud; och bilder är antingen automatiskt markerade av Meta AI, inkluderar vattenstämplar som avslöjar den sanna källan, eller antagligen kan flaggas upp manuellt av människor. Och senare kan allt bli automatiserat.
"Vi kommer att kräva att folk använder det här verktyget för avslöjande och etikett när de lägger upp organiskt innehåll med en fotorealistisk video eller ett realistiskt ljud som har skapats eller ändrats digitalt, och vi kan tillämpa straff om de inte gör det," Clegg sa.
När det gäller vattenmärkningen som Meta stöder, inkluderar det de från Coalition for Content Provenance and Authenticity (C2PA) och International Press Telecommunications Council (IPTC). Dessa är branschinitiativ som backas upp av teknik- och mediegrupper som försöker göra det lättare att identifiera maskingenererat innehåll. De är inte idiotsäkra och kan besegras som vi tidigare har rapporterat.
Metas senaste strategier för att ta itu med AI-innehåll kommer precis efter att dess Oversight Board, en panel av oberoende experter som granskar dess policy för innehållsmoderering, klagade över att de nuvarande reglerna för manipulerade medier var "osammanhängande". Styrelsen lanserade en sond förra året till varför Meta beslutade att tillåta en falsk video av president Biden som hade ändrats digitalt för att hävda att han var en pedofil att stanna kvar på dess sociala nätverk imperium.
Utöver de C2PA- och IPTC-stödda verktygen testar Meta förmågan hos stora språkmodeller att automatiskt avgöra om ett inlägg bryter mot dess policyer.
Social media biz tränar dessa system på sin egen data och tror att programvara kan minska innehållet som behöver bedömas av mänskliga granskare, vilket gör att de kan fokusera på svårare fall.
"När skillnaden mellan mänskligt och syntetiskt innehåll blir suddig, vill folk veta var gränsen går", sa Clegg.
"Människor stöter ofta på AI-genererat innehåll för första gången och våra användare har berättat för oss att de uppskattar transparens kring denna nya teknik. Vi tar detta tillvägagångssätt under nästa år, då ett antal viktiga val äger rum runt om i världen.” ®
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
- PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
- Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
- PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
- Källa: https://go.theregister.com/feed/www.theregister.com/2024/02/06/meta_ai_label/
- :är
- :inte
- :var
- $UPP
- 7
- a
- förmåga
- tvärs
- Dessutom
- Affairs
- Efter
- AI
- AI-assistent
- AI-modeller
- Alla
- tillåter
- tillåta
- redan
- också
- förändrad
- och
- meddelade
- tillämpningar
- Ansök
- uppskatta
- tillvägagångssätt
- appar
- ÄR
- runt
- AS
- be
- bedömas
- Assistent
- At
- audio
- äktheten
- Automatiserad
- automatiskt
- undvika
- medveten
- bort
- dragen tillbaka
- BE
- varit
- Där vi får lov att vara utan att konstant prestera,
- tro
- mellan
- biden
- biz
- ombord
- gräns
- Byggnad
- inbyggd
- men
- by
- KAN
- fall
- patentkrav
- CO
- koalition
- komma
- kommande
- konsekvent
- innehåll
- korrekt
- kunde
- Rådet
- tillverkad
- skapas
- Aktuella
- Klipp
- skärning
- datum
- beslutade
- deklarerar
- definitivt
- biträdande
- önskas
- upptäcka
- detekterad
- Detektering
- Bestämma
- utveckla
- Skillnaden
- digitalt
- urskilja
- avslöjande
- do
- ner
- under
- lättare
- kant
- antingen
- Val
- Empire
- Teknik
- Ingenjörer
- Även
- NÅGONSIN
- experter
- extern
- MISSLYCKAS
- fejka
- FB
- Filer
- Förnamn
- första gången
- flaggad
- Fokus
- För
- Tidigare
- från
- generatorer
- blir
- jätte
- Välgörenhet
- Gruppens
- hade
- Har
- he
- hög kvalitet
- Ärligt
- HTTPS
- humant
- Tanken
- identifiera
- if
- bild
- bilder
- inbillade
- med Esport
- in
- innefattar
- innefattar
- Inklusive
- oberoende
- industrin
- initiativ
- inuti
- avser
- Internationell
- in
- uppfann
- osynlig
- isn
- IT
- DESS
- jpg
- bara
- Vet
- etikett
- märkning
- språk
- Large
- Efternamn
- Förra året
- senare
- senaste
- lanserades
- t minst
- ligger
- ll
- Lång
- gjord
- göra
- manipuleras
- manuellt
- markant
- Materialet
- Maj..
- Media
- meta
- metadata
- modeller
- måttlig
- måttfullhet
- månader
- mest
- nödvändigt för
- Behöver
- behövs
- behov
- nät
- neurala
- neurala nätverk
- Nya
- Nästa
- nick
- nu
- antal
- of
- Ofta
- on
- nätet
- endast
- or
- ekologisk
- vår
- ut
- utanför
- över
- Tillsyn
- egen
- panel
- påföljder
- Personer
- Bilder
- Plats
- planer
- Plattformar
- plato
- Platon Data Intelligence
- PlatonData
- Strategier
- Inlägg
- VD
- president biden
- tryck
- tidigare
- Prime
- härkomst
- RE
- verklig
- Oavsett
- tillit
- förlita
- förlita
- Rapporterad
- kräver
- avslöjar
- höger
- regler
- s
- Nämnda
- säga
- säger
- verkar
- delas
- delning
- Kort
- show
- So
- Social hållbarhet
- sociala medier
- sociala medierna
- sociala nätverk
- Mjukvara
- mjukvaruutveckling
- några
- ljud
- Källa
- bo
- strategier
- lämnats
- sådana
- Som stöds
- Stöder
- syntetisk
- System
- tackling
- MÄRKA
- tar
- Teknologi
- telekommunikationer
- termin
- Testning
- den där
- Smakämnen
- källan
- världen
- Dem
- Där.
- Dessa
- de
- detta
- de
- Genom
- Således
- tid
- till
- berättade
- verktyg
- verktyg
- Utbildning
- Öppenhet
- sann
- prova
- försöker
- Tisdag
- Uk
- uppladdning
- us
- användning
- användare
- med hjälp av
- Ve
- via
- Video
- synlig
- vill
- var
- vattenmärkning
- vattenmärken
- Sätt..
- we
- VÄL
- były
- Vad
- när
- om
- som
- varför
- kommer
- med
- utan
- Arbete
- världen
- år
- ännu
- zephyrnet