Meta crée des outils pour détecter, identifier et étiqueter les images générées par l'IA et partagées via ses plateformes de médias sociaux. Il teste également de grands modèles linguistiques pour modérer automatiquement le contenu en ligne.
Mardi, le président des affaires mondiales de Meta (et ancien vice-premier ministre britannique), Nick Clegg, a annoncé son intention de signaler sur Facebook, Instagram et Threads le matériel créé non seulement par les propres modèles d'IA de synthèse texte-image du géant américain, mais également par des éléments conçus par des applications externes d’apprentissage automatique. L’idée est d’avertir les internautes que les contenus en ligne ne sont peut-être pas ce qu’ils semblent être et qu’ils ont peut-être été inventés à l’aide d’outils d’IA pour tromper les gens, quelle que soit leur source.
Clegg a affirmé Valérie Plante. Les ingénieurs de Meta développent actuellement des outils pour étiqueter le contenu photoréaliste créé par l'IA avec la légende « Imaginé avec l'IA » sur ses applications, et afficheront cette étiquette si nécessaire au cours des prochains mois.
Les images photoréalistes créées par l'assistant Meta AI intégré sont déjà automatiquement étiquetées comme telles, à l'aide de marqueurs visibles et invisibles, nous dit-on. Ce sont les éléments de haute qualité créés par l'IA et soumis de l'extérieur qui doivent également être détectés d'une manière ou d'une autre et marqués comme tels dans l'empire d'applications du géant Facebook.
À court terme, Facebook a l'intention de s'appuyer sur des filigranes à l'intérieur des fichiers soumis qui déclarent la source du contenu – qui s'appuie sur des générateurs de contenu IA externes incluant ces marquages ou métadonnées, sans que cela soit supprimé – et de demander également aux gens de déclarer honnêtement les éléments comme tels. Généré par l'IA lors du partage de médias.
À long terme, Meta a l'intention d'utiliser des classificateurs capables de discerner automatiquement si le matériel a été créé par un réseau neuronal ou non, évitant ainsi cette dépendance à l'égard des étiquetages soumis par les utilisateurs et des générateurs incluant les marquages pris en charge. Ce besoin des utilisateurs de « avouer » lorsqu'ils utilisent des médias falsifiés – s'ils sont même conscients qu'ils sont truqués – ainsi que de s'appuyer sur des applications extérieures pour étiqueter correctement les éléments comme étant créés par ordinateur sans que cela soit dépouillé par les gens est, comme ils le font. disons en génie logiciel, fragile. Ces classificateurs automatisés, s’ils fonctionnent aussi bien que souhaité, sont les plus nécessaires.
Pour l'instant au moins, les personnes qui téléchargent de l'audio et de la vidéo devront certainement déclarer si ce matériel est falsifié ou réel, car Meta dit qu'il n'existe pas encore de moyen cohérent pour identifier les images et le son créés par l'IA ; et les images sont soit automatiquement marquées par Meta AI, incluent des filigranes qui révèlent la véritable source, ou peuvent vraisemblablement être signalées manuellement par des personnes. Et plus tard, tout cela pourrait être automatisé.
"Nous exigerons que les gens utilisent cet outil de divulgation et d'étiquetage lorsqu'ils publient du contenu organique avec une vidéo photoréaliste ou un audio réaliste qui a été créé ou modifié numériquement, et nous pourrons leur appliquer des sanctions s'ils ne le font pas", a déclaré Clegg. dit.
Quant aux métasupports de filigrane, cela inclut ceux de la Coalition for Content Provenance and Authenticity (C2PA) et le Conseil international des télécommunications de presse (IPTC). Il s’agit d’initiatives industrielles soutenues par des groupes technologiques et médiatiques qui tentent de faciliter l’identification du contenu généré automatiquement. Ils ne sont pas infaillibles et peuvent être vaincus comme nous l’avons déjà signalé.
Les dernières stratégies de Meta concernant le contenu de l'IA surviennent juste après que son Conseil de surveillance, un groupe d'experts indépendants examinant ses politiques de modération de contenu, se soit plaint que les règles actuelles sur les médias manipulés étaient « incohérentes ». Le conseil d'administration a lancé une sonde l'année dernière, pourquoi Meta a décidé d'autoriser une fausse vidéo du président Biden qui avait été modifiée numériquement pour prétendre qu'il était pédophile à rester sur son empire de réseaux sociaux.
En plus des outils soutenus par C2PA et IPTC, Meta teste la capacité de grands modèles linguistiques à déterminer automatiquement si une publication enfreint ses politiques.
Le secteur des médias sociaux entraîne ces systèmes sur ses propres données et pense que les logiciels pourraient réduire le contenu qui doit être évalué par des évaluateurs humains, leur permettant ainsi de se concentrer sur des cas plus délicats.
"À mesure que la différence entre contenu humain et synthétique s'estompe, les gens veulent savoir où se situe la frontière", a déclaré Clegg.
« Les gens découvrent souvent du contenu généré par l’IA pour la première fois et nos utilisateurs nous ont dit qu’ils appréciaient la transparence autour de cette nouvelle technologie. Nous suivrons cette approche au cours de l'année prochaine, au cours de laquelle se dérouleront un certain nombre d'élections importantes dans le monde entier.» ®
- Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
- PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
- PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
- PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
- PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
- La source: https://go.theregister.com/feed/www.theregister.com/2024/02/06/meta_ai_label/
- :est
- :ne pas
- :où
- $UP
- 7
- a
- capacité
- à travers
- ajout
- Affaires
- Après
- AI
- Assistant IA
- Modèles AI
- Tous
- permettre
- Permettre
- déjà
- aussi
- modifié
- ainsi que
- annoncé
- applications
- Appliquer
- apprécier
- une approche
- applications
- SONT
- autour
- AS
- demandant
- évalué
- Assistante gérante
- At
- acoustique
- authenticité
- Automatisation
- automatiquement
- en évitant
- conscients
- et
- soutenu
- BE
- était
- va
- CROYONS
- jusqu'à XNUMX fois
- biden
- biz
- planche
- limite
- Développement
- intégré
- mais
- by
- CAN
- cas
- réclamer
- CO
- coalition
- comment
- Venir
- cohérent
- contenu
- correctement
- pourriez
- Conseil
- Fabriqué
- créée
- Courant
- Cut/Taille
- Coupe
- données
- décidé
- déclare
- certainement, vraiment, définitivement
- adjoint
- voulu
- détecter
- détecté
- Détection
- Déterminer
- développement
- différence
- numériquement
- discerner
- divulgation
- do
- down
- pendant
- plus facilement
- Edge
- non plus
- Élections
- Empire
- ENGINEERING
- Les ingénieurs
- Pourtant, la
- JAMAIS
- de santé
- externe
- FAIL
- faux
- FB
- Fichiers
- Prénom
- première fois
- marqué
- Focus
- Pour
- Ancien
- De
- générateurs
- obtient
- géant
- Global
- Groupes
- ait eu
- Vous avez
- he
- de haute qualité
- Honnêtement
- HTTPS
- humain
- idée
- identifier
- if
- image
- satellite
- imaginé
- important
- in
- comprendre
- inclut
- Y compris
- indépendant
- industrie
- les initiatives
- à l'intérieur
- a l'intention
- International
- développement
- A inventé
- invisible
- ISN
- IT
- SES
- jpg
- juste
- Savoir
- Libellé
- l'étiquetage
- langue
- gros
- Nom de famille
- L'année dernière
- plus tard
- Nouveautés
- lancé
- au
- se trouve
- ll
- Location
- LES PLANTES
- a prendre une
- manipulé
- manuellement
- marqué
- Matériel
- Mai..
- Médias
- Meta
- Métadonnées
- numériques jumeaux (digital twin models)
- modérée
- modération
- mois
- (en fait, presque toutes)
- nécessaire
- Besoin
- nécessaire
- Besoins
- réseau et
- neural
- Réseau neuronal
- Nouveauté
- next
- entaille
- maintenant
- nombre
- of
- souvent
- on
- en ligne
- uniquement
- or
- biologique
- nos
- ande
- au contrôle
- plus de
- Surveillance
- propre
- panneau
- sanctions
- Personnes
- PHOTOS
- Place
- plans
- Plateformes
- Platon
- Intelligence des données Platon
- PlatonDonnées
- politiques
- Post
- président
- président biden
- Press
- précédemment
- Prime
- provenance
- RE
- réal
- Indépendamment
- dépendance
- compter
- s'appuyer
- Signalé
- exigent
- révéler
- bon
- s
- Saïd
- dire
- dit
- semble
- commun
- partage
- Shorts
- montrer
- So
- Réseaux sociaux
- réseaux sociaux
- plateformes de médias sociaux
- réseaux sociaux
- Logiciels
- génie logiciel
- quelques
- Son
- Identifier
- rester
- les stratégies
- soumis
- tel
- Appareils
- Les soutiens
- haute
- Système
- s'attaquer
- TAG
- prise
- Technologie
- monde de télécommunications
- terme
- Essais
- qui
- La
- La Source
- le monde
- Les
- Là.
- Ces
- l'ont
- this
- ceux
- Avec
- Ainsi
- fiable
- à
- dit
- outil
- les outils
- Formation
- Transparence
- oui
- Essai
- essayer
- Mardi
- Uk
- Téléchargement
- us
- utilisé
- utilisateurs
- en utilisant
- Ve
- via
- Vidéo
- visible
- souhaitez
- était
- tatouage
- filigranes
- Façon..
- we
- WELL
- ont été
- Quoi
- quand
- que
- qui
- why
- sera
- comprenant
- sans
- activités principales
- world
- an
- encore
- zéphyrnet