Meta entwickelt Tools zur Erkennung, Identifizierung und Kennzeichnung von KI-generierten Bildern, die über seine Social-Media-Plattformen geteilt werden. Außerdem werden große Sprachmodelle getestet, um Online-Inhalte automatisch zu moderieren.
Am Dienstag kündigte Metas Präsident für globale Angelegenheiten (und ehemalige stellvertretende britische Premierminister) Nick Clegg Pläne an, auf Facebook, Instagram und Threads Material anzuzeigen, das nicht nur von den eigenen Text-zu-Bild-KI-Modellen des US-Riesen erstellt wurde, sondern auch selbst erstelltes Material durch externe maschinelle Lernanwendungen. Die Idee besteht darin, die Internetnutzer zu warnen, dass Online-Inhalte möglicherweise nicht das sind, was sie scheinen, und möglicherweise mithilfe von KI-Tools erfunden wurden, um Menschen zu täuschen, unabhängig von der Quelle.
Clegg sagte Die Ingenieure von Meta entwickeln derzeit Tools, um fotorealistische, von KI erstellte Inhalte mit der Überschrift „Imagined with AI“ in ihren Apps zu kennzeichnen, und werden diese Kennzeichnung in den kommenden Monaten bei Bedarf anzeigen.
Fotorealistische Bilder, die vom integrierten Meta-KI-Assistenten erstellt wurden, werden bereits automatisch als solche gekennzeichnet, wobei sichtbare und unsichtbare Markierungen verwendet werden, heißt es. Es sind die hochwertigen, von der KI erstellten Inhalte, die von außen übermittelt werden und auch auf irgendeine Weise erkannt und im App-Imperium des Facebook-Riesen als solche gekennzeichnet werden müssen.
Kurzfristig beabsichtigt Facebook, sich auf Wasserzeichen in eingereichten Dateien zu verlassen, die die Quelle des Inhalts angeben – was auf externen KI-Inhaltsgeneratoren basiert, die diese Markierungen oder Metadaten enthalten, ohne dass diese entfernt werden – und die Leute auch dazu auffordern, Dinge ehrlich als zu deklarieren KI-generiert beim Teilen von Medien.
Langfristig beabsichtigt Meta, Klassifikatoren zu verwenden, die automatisch erkennen können, ob Material von einem neuronalen Netzwerk erstellt wurde oder nicht, und so die Abhängigkeit von vom Benutzer übermittelten Kennzeichnungen und Generatoren einschließlich unterstützter Markierungen vermeiden. Das Bedürfnis der Benutzer, „zuzugeben, wenn sie gefälschte Medien verwenden – wenn sie sich überhaupt bewusst sind, dass es sich um eine Fälschung handelt“ – und sich auf externe Apps zu verlassen, um Inhalte korrekt als computergemacht zu kennzeichnen, ohne dass dies von anderen entfernt wird, ist so, wie sie es tun sagen wir in der Softwareentwicklung, spröde. Diese automatisierten Klassifikatoren werden am meisten benötigt, wenn sie jemals so gut funktionieren wie gewünscht.
Zumindest vorerst müssen Personen, die Audio- und Videoinhalte hochladen, auf jeden Fall angeben, ob das Material gefälscht oder echt ist, da es laut Meta noch keine einheitliche Möglichkeit gibt, von der KI erstelltes Film- und Tonmaterial zu identifizieren; und Bilder werden entweder automatisch von Meta AI markiert, enthalten Wasserzeichen, die die wahre Quelle offenbaren, oder können vermutlich manuell von Personen gekennzeichnet werden. Und später könnte das alles automatisiert werden.
„Wir werden von den Menschen verlangen, dieses Offenlegungs- und Kennzeichnungstool zu verwenden, wenn sie organische Inhalte mit einem fotorealistischen Video oder realistisch klingenden Audio veröffentlichen, das digital erstellt oder verändert wurde, und wir können Strafen verhängen, wenn sie dies nicht tun“, Clegg sagte.
Zu den von Meta unterstützten Wasserzeichen gehören auch die der Coalition for Content Provenance and Authenticity (C2PA) und dem International Press Telecommunications Council (IPTC). Hierbei handelt es sich um Brancheninitiativen, die von Technologie- und Mediengruppen unterstützt werden und versuchen, die Identifizierung maschinell generierter Inhalte zu erleichtern. Sie sind nicht narrensicher und können, wie wir bereits berichtet haben, besiegt werden.
Metas neueste Strategien zum Umgang mit KI-Inhalten kommen kurz nachdem sich das Oversight Board, ein Gremium unabhängiger Experten, das seine Richtlinien zur Inhaltsmoderation prüft, darüber beschwert hat, dass die aktuellen Regeln für manipulierte Medien „inkohärent“ seien. Der Vorstand startete eine Sonde letztes Jahr darüber, warum Meta beschlossen hat, ein gefälschtes Video von Präsident Biden, das digital verändert wurde, um zu behaupten, dass er ein Pädophiler sei, in seinem sozialen Netzwerkimperium zuzulassen.
Zusätzlich zu den von C2PA und IPTC unterstützten Tools testet Meta die Fähigkeit großer Sprachmodelle, automatisch festzustellen, ob ein Beitrag gegen seine Richtlinien verstößt.
Das Social-Media-Unternehmen trainiert diese Systeme anhand seiner eigenen Daten und geht davon aus, dass Software den Inhalt reduzieren könnte, der von menschlichen Prüfern bewertet werden muss, sodass sie sich auf schwierigere Fälle konzentrieren können.
„Da der Unterschied zwischen menschlichen und synthetischen Inhalten verschwimmt, wollen die Menschen wissen, wo die Grenze liegt“, sagte Clegg.
„Menschen stoßen oft zum ersten Mal auf KI-generierte Inhalte und unsere Benutzer haben uns gesagt, dass sie die Transparenz dieser neuen Technologie schätzen. Diesen Ansatz verfolgen wir auch im nächsten Jahr, in dem weltweit eine Reihe wichtiger Wahlen stattfinden.“ ®
- SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
- PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
- PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
- PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
- PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
- Quelle: https://go.theregister.com/feed/www.theregister.com/2024/02/06/meta_ai_label/
- :Ist
- :nicht
- :Wo
- $UP
- 7
- a
- Fähigkeit
- über
- Zusatz
- Angelegenheiten
- Nach der
- AI
- AI-Assistent
- KI-Modelle
- Alle
- erlauben
- Zulassen
- bereits
- ebenfalls
- verändert
- und
- angekündigt
- Anwendungen
- Bewerben
- schätzen
- Ansatz
- Apps
- SIND
- um
- AS
- fragen
- bewertet
- Assistentin
- At
- Audio-
- Authentizität
- Automatisiert
- Im Prinzip so, wie Sie es von Google Maps kennen.
- Vermeidung von
- bewusst
- ein Weg
- unterstützt
- BE
- war
- Sein
- Glauben
- zwischen
- Biden
- biz
- Tafel
- Grenze
- Building
- eingebaut
- aber
- by
- CAN
- Fälle
- Anspruch
- CO
- Koalition
- wie die
- Kommen
- konsistent
- Inhalt
- korrekt
- könnte
- Rat
- Gefertigt
- erstellt
- Strom
- Schneiden
- Schneiden
- technische Daten
- entschieden
- erklärt
- definitiv
- Stellvertreter
- erwünscht
- entdecken
- erkannt
- Entdeckung
- Bestimmen
- Entwicklung
- Unterschied
- digital
- erkennen
- Bekanntgabe
- do
- nach unten
- im
- einfacher
- Edge
- entweder
- Wahlen
- Empire
- Entwicklung
- Ingenieure
- Sogar
- ÜBERHAUPT
- Experten
- extern
- FAIL
- Fälschung
- FB
- Mappen
- Vorname
- erstes Mal
- markiert
- Setzen Sie mit Achtsamkeit
- Aussichten für
- Früher
- für
- Generatoren
- bekommt
- Riese
- Global
- Gruppen
- hätten
- Haben
- he
- hochwertige
- Ehrlich
- HTTPS
- human
- Idee
- identifizieren
- if
- Image
- Bilder
- vorgestellt
- wichtig
- in
- das
- Dazu gehören
- Einschließlich
- unabhängig
- Energiegewinnung
- Initiativen
- innerhalb
- beabsichtigt
- International
- in
- Erfunden
- unsichtbar
- isn
- IT
- SEINE
- jpg
- nur
- Wissen
- Label
- Beschriftung
- Sprache
- grosse
- Nachname
- Letztes Jahr
- später
- neueste
- ins Leben gerufen
- am wenigsten
- liegt
- ll
- Lang
- gemacht
- um
- manipuliert
- manuell
- markiert
- Ihres Materials
- Kann..
- Medien
- Meta
- Metadaten
- für
- moderieren
- Mäßigung
- Monat
- vor allem warme
- notwendig,
- Need
- erforderlich
- Bedürfnisse
- Netzwerk
- Nerven-
- neuronale Netzwerk
- Neu
- weiter
- Kerbe
- jetzt an
- Anzahl
- of
- vorgenommen,
- on
- Online
- einzige
- or
- bio
- UNSERE
- aussen
- übrig
- Aufsicht
- besitzen
- Tafel
- Strafen
- Personen
- Fotos
- Ort
- Pläne
- Plattformen
- Plato
- Datenintelligenz von Plato
- PlatoData
- Politik durchzulesen
- Post
- Präsident
- Präsident Biden
- Presse
- vorher
- Prime
- Herkunft
- RE
- echt
- Ungeachtet
- Vertrauen
- verlassen
- sich auf
- Berichtet
- erfordern
- zeigen
- Recht
- Ohne eine erfahrene Medienplanung zur Festlegung von Regeln und Strategien beschleunigt der programmatische Medieneinkauf einfach die Rate der verschwenderischen Ausgaben.
- s
- Said
- sagt
- scheint
- von Locals geführtes
- ,,teilen"
- Short
- erklären
- So
- Social Media
- Social Media
- Social-Media-Plattformen
- Social Network
- Software
- Softwareentwicklung
- einige
- Klingen
- Quelle
- bleiben
- Strategien
- eingereicht
- so
- Unterstützte
- Unterstützt
- synthetisch
- Systeme und Techniken
- anpacken
- TAG
- Einnahme
- Technologie
- Telekommunikation
- Begriff
- Testen
- zur Verbesserung der Gesundheitsgerechtigkeit
- Das
- Die Quelle
- die Welt
- Sie
- Dort.
- Diese
- vom Nutzer definierten
- fehlen uns die Worte.
- diejenigen
- Durch
- So
- Zeit
- zu
- sagte
- Werkzeug
- Werkzeuge
- Ausbildung
- Transparenz
- was immer dies auch sein sollte.
- versuchen
- Versuch
- Dienstag
- Uk
- Uploading
- us
- -
- Nutzer
- Verwendung von
- Ve
- Video
- sichtbar
- wollen
- wurde
- Watermarking
- Wasserzeichen
- Weg..
- we
- GUT
- waren
- Was
- wann
- ob
- welche
- warum
- werden wir
- mit
- ohne
- Arbeiten
- weltweit wie ausgehandelt und gekauft ausgeführt wird.
- Jahr
- noch
- Zephyrnet