Meta bouwt tools voor het detecteren, identificeren en labelen van door AI gegenereerde afbeeldingen die worden gedeeld via zijn sociale-mediaplatforms. Het test ook grote taalmodellen om inhoud online automatisch te modereren.
Dinsdag kondigde Meta's president van mondiale zaken (en voormalig vice-premier van het Verenigd Koninkrijk) Nick Clegg plannen aan om op Facebook, Instagram en Threads materiaal te markeren dat niet alleen is gemaakt door de eigen tekst-naar-beeld AI-modellen van de Amerikaanse gigant, maar ook door dingen die zijn vervaardigd door externe machine-learning-toepassingen. Het idee is om internetgebruikers te waarschuwen dat dingen online misschien niet zijn wat het lijkt, en dat ze misschien zijn uitgevonden met behulp van AI-tools om mensen te misleiden, ongeacht de bron ervan.
Clegg zei ingenieurs bij Meta ontwikkelen momenteel tools om fotorealistische, door AI gemaakte inhoud te taggen met het onderschrift 'Imagined with AI' in hun apps, en zullen dit label de komende maanden indien nodig tonen.
Fotorealistische afbeeldingen gemaakt door de ingebouwde Meta AI-assistent worden al automatisch als zodanig gelabeld, met behulp van zichtbare en onzichtbare markeringen, zo wordt ons verteld. Het zijn de hoogwaardige, door AI gemaakte dingen die van buitenaf worden ingediend en die ook op de een of andere manier moeten worden gedetecteerd en als zodanig moeten worden gemarkeerd in het apps-imperium van de Facebook-gigant.
Op de korte termijn is Facebook van plan te vertrouwen op watermerken in ingediende bestanden die de bron van de inhoud aangeven – die afhankelijk zijn van externe AI-inhoudgeneratoren, inclusief die markeringen of metagegevens, zonder dat deze worden verwijderd – en ook mensen te vragen dingen eerlijk aan te geven als AI-gegenereerd bij het delen van media.
Op de lange termijn is Meta van plan classificaties te gebruiken die automatisch kunnen onderscheiden of materiaal door een neuraal netwerk is gemaakt of niet, waardoor deze afhankelijkheid van door de gebruiker ingediende labels en generatoren inclusief ondersteunde markeringen wordt vermeden. Deze behoefte aan gebruikers om 'te bekennen als ze vervalste media gebruiken - als ze zich er zelfs maar van bewust zijn dat het nep is - en om te vertrouwen op apps van buitenaf om dingen correct te bestempelen als door de computer gemaakt zonder dat die door mensen worden weggenomen, is, zoals ze doen'. zeg maar in software-engineering, broos. Deze geautomatiseerde classificaties zijn, als ze ooit zo goed werken als gewenst, het meest nodig.
Voorlopig zullen mensen die audio en video uploaden zeker moeten aangeven of dat materiaal deepfaked of echt is, aangezien Meta zegt dat er nog geen consistente manier is om door AI gemaakt beeldmateriaal en geluid te identificeren; en afbeeldingen worden automatisch gemarkeerd door Meta AI, bevatten watermerken die de ware bron onthullen, of kunnen vermoedelijk handmatig door mensen worden gemarkeerd. En later kan dit allemaal geautomatiseerd worden.
“We eisen van mensen dat ze deze openbaarmakings- en labeltool gebruiken wanneer ze organische inhoud plaatsen met een fotorealistische video of realistisch klinkende audio die digitaal is gemaakt of gewijzigd, en we kunnen boetes opleggen als ze dat niet doen”, zegt Clegg. gezegd.
Wat betreft de watermerken die Meta ondersteunt, dat omvat die van de Coalition for Content Provenance and Authenticity (C2PA) en de International Press Telecommunications Council (IPTC). Dit zijn branche-initiatieven die worden ondersteund door technologie- en mediagroepen die het gemakkelijker willen maken om door machines gegenereerde inhoud te identificeren. Ze zijn niet onfeilbaar en kunnen worden verslagen, zoals we eerder hebben gemeld.
De nieuwste strategieën van Meta om AI-inhoud aan te pakken komen vlak nadat de Oversight Board, een panel van onafhankelijke experts die het beleid inzake inhoudsmoderatie onder de loep nemen, klaagde dat de huidige regels voor gemanipuleerde media ‘onsamenhangend’ waren. Het bestuur lanceerde een sonde vorig jaar waarom Meta besloot een nepvideo van president Biden, die digitaal was aangepast om te beweren dat hij een pedofiel was, toe te staan om op zijn sociale netwerkimperium te blijven.
Naast de door C2PA en IPTC ondersteunde tools test Meta het vermogen van grote taalmodellen om automatisch te bepalen of een bericht zijn beleid schendt.
De sociale media-industrie traint deze systemen op basis van zijn eigen gegevens en is van mening dat software de inhoud die door menselijke reviewers moet worden beoordeeld, kan verminderen, waardoor ze zich kunnen concentreren op lastiger gevallen.
“Naarmate het verschil tussen menselijke en synthetische inhoud vervaagt, willen mensen weten waar de grens ligt”, aldus Clegg.
“Mensen komen vaak voor het eerst door AI gegenereerde inhoud tegen en onze gebruikers hebben ons verteld dat ze transparantie rond deze nieuwe technologie op prijs stellen. Deze aanpak hanteren we het komende jaar, waarin er over de hele wereld een aantal belangrijke verkiezingen plaatsvinden.” ®
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
- PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
- PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
- Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
- Bron: https://go.theregister.com/feed/www.theregister.com/2024/02/06/meta_ai_label/
- :is
- :niet
- :waar
- $UP
- 7
- a
- vermogen
- over
- toevoeging
- Zaken
- Na
- AI
- AI-assistent
- AI-modellen
- Alles
- toelaten
- Het toestaan
- al
- ook
- gewijzigd
- en
- aangekondigd
- toepassingen
- Solliciteer
- waarderen
- nadering
- apps
- ZIJN
- rond
- AS
- vragen
- geëvalueerd
- Assistent
- At
- audio
- echtheid
- geautomatiseerde
- webmaster.
- het vermijden van
- bewust
- weg
- met een rug
- BE
- geweest
- wezen
- geloofd wie en wat je bent
- tussen
- biden
- biz
- boord
- grens
- Gebouw
- ingebouwd
- maar
- by
- CAN
- gevallen
- aanspraak maken op
- CO
- coalitie
- hoe
- komst
- consequent
- content
- correct
- kon
- Raad
- bewerkte
- aangemaakt
- Actueel
- Snijden
- snijdend
- gegevens
- beslist
- verklaart
- definitief
- plaatsvervanger
- gewenste
- opsporen
- gedetecteerd
- Opsporing
- Bepalen
- het ontwikkelen van
- verschil
- digitaal
- onderscheiden
- onthulling
- do
- beneden
- gedurende
- gemakkelijker
- rand
- beide
- verkiezingen
- Empire
- Engineering
- Ingenieurs
- Zelfs
- OOIT
- deskundigen
- extern
- FAIL
- nep
- FB
- Bestanden
- Voornaam*
- eerste keer
- markeerde
- Focus
- Voor
- Voormalig
- oppompen van
- generatoren
- krijgt
- reus
- Globaal
- Groep
- HAD
- Hebben
- he
- hoogwaardige
- Eerlijk
- HTTPS
- menselijk
- idee
- identificeren
- if
- beeld
- afbeeldingen
- ingebeeld
- belangrijk
- in
- omvatten
- omvat
- Inclusief
- onafhankelijk
- -industrie
- initiatieven
- binnen
- op instagram
- voornemens
- Internationale
- in
- Uitgevonden
- onzichtbaar
- isn
- IT
- HAAR
- jpg
- voor slechts
- blijven
- label
- etikettering
- taal
- Groot
- Achternaam*
- Afgelopen jaar
- later
- laatste
- gelanceerd
- minst
- ligt
- ll
- lang
- gemaakt
- maken
- gemanipuleerd
- handmatig
- gemarkeerd
- materiaal
- Mei..
- Media
- meta
- Metadata
- modellen
- matig
- gematigdheid
- maanden
- meest
- noodzakelijk
- Noodzaak
- nodig
- behoeften
- netwerk
- neurale
- neuraal netwerk
- New
- volgende
- inkeping
- nu
- aantal
- of
- vaak
- on
- online.
- Slechts
- or
- organisch
- onze
- uit
- buiten
- over
- Toezicht
- het te bezitten.
- paneel
- sancties
- Mensen
- Foto's
- plaats
- plannen
- platforms
- Plato
- Plato gegevensintelligentie
- PlatoData
- beleidsmaatregelen door te lezen.
- Post
- president
- voorzitter bidden
- pers
- die eerder
- Prime
- herkomst
- RE
- vast
- achteloos
- vertrouwen
- vertrouwen
- te vertrouwen
- gemeld
- vereisen
- onthullen
- rechts
- reglement
- s
- Zei
- ervaren
- zegt
- lijkt
- gedeeld
- delen
- Bermuda's
- tonen
- So
- Social
- social media
- social media platforms
- sociaal netwerk
- Software
- software engineering
- sommige
- Geluid
- bron
- blijven
- strategieën
- ingediend
- dergelijk
- ondersteunde
- steunen
- synthetisch
- Systems
- aanpakken
- TAG
- het nemen
- Technologie
- telecommunicatie
- termijn
- Testen
- dat
- De
- De Bron
- de wereld
- Ze
- Er.
- Deze
- ze
- dit
- die
- Door
- Dus
- niet de tijd of
- naar
- vertelde
- tools
- tools
- Trainingen
- Transparantie
- waar
- proberen
- proberen
- dinsdag
- Uk
- Uploaden
- us
- .
- gebruikers
- gebruik
- Ve
- via
- Video
- zichtbaar
- willen
- was
- watermerken
- watermerken
- Manier..
- we
- GOED
- waren
- Wat
- wanneer
- of
- welke
- Waarom
- wil
- Met
- zonder
- Mijn werk
- wereld
- jaar
- nog
- zephyrnet