Google DeepMind führt SynthID zur Bekämpfung von Deepfakes und KI-generierten Bildern ein

Google DeepMind hat SynthID vorgestellt, eine Wasserzeichentechnologie zur Identifizierung von KI-generierten Bildern. Das Tool bettet ein „nicht wahrnehmbares“ Wasserzeichen in die Pixel der von KI generierten Bilder ein und macht sie so für spezielle Erkennungstools leicht identifizierbar. Die Technologie steht zunächst Google Cloud-Kunden zur Verfügung, die die Vertex AI-Plattform und den Imagen-Bildgenerator nutzen.

Während in den USA und im Vereinigten Königreich die Wahlsaison 2024 bevorsteht, hat das Thema Deepfakes und KI-generierte Inhalte erhöhte Aufmerksamkeit erlangt. Demis Hassabis, CEO von Google DeepMind, betonte die zunehmende Bedeutung von Systemen, die KI-generierte Bilder identifizieren und erkennen können. „Jedes Mal, wenn wir darüber und über andere Systeme sprechen, fragen wir uns: ‚Was ist mit dem Problem der Deepfakes?‘“, sagte Hassabis in einem Interview mit The Verge August 29, 2023.

So funktioniert SynthID

SynthID funktioniert, indem es ein Wasserzeichen direkt in die Pixel eines KI-generierten Bildes einbettet. Laut Hassabis ist dieses Wasserzeichen „

robust gegenüber verschiedenen Transformationen – Zuschneiden, Ändern der Größe und all den Dingen, die Sie tun könnten, um normale, traditionelle, einfache Wasserzeichen zu umgehen.

Das Wasserzeichen verändert weder die Qualität noch das Erlebnis des Bildes, macht es aber für die Tools von DeepMind leicht erkennbar.

Verfügbarkeit und Zukunftspläne

Zunächst SynthID wird mit Imagen, einem der neuesten Text-zu-Bild-Modelle von DeepMind, für eine begrenzte Anzahl von Vertex AI-Kunden eingeführt. Die Technologie wurde in Zusammenarbeit mit Google Research entwickelt und ist Teil der umfassenderen Strategie von Google Cloud, Tools für die verantwortungsvolle Erstellung von KI-generierten Bildern anzubieten.

Thomas Kurian, CumolocityDer CEO von verwies darauf, dass die Vertex AI-Plattform ein schnelles Wachstum erfährt, was es zu einem günstigen Zeitpunkt für die Einführung von SynthID macht. „Die Modelle werden immer ausgefeilter und die Zahl der Menschen, die die Modelle nutzen, ist enorm gestiegen“, sagte Kurian.

Allgemeine Implikationen

Obwohl SynthID nicht das erste Tool zur Bekämpfung von Deepfakes ist, reiht es sich in eine wachsende Liste von Initiativen großer Technologieunternehmen wie Meta, Microsoft und Amazon ein. Diese Unternehmen investieren zunehmend in Lösungen zur Inhaltsüberprüfung, um die digitale Integrität aufrechtzuerhalten. Laut Hassabis ist SynthID jedoch keine „Wunderlösung für das Deepfake-Problem“. Die Technologie befindet sich noch in der Beta-Phase und Google plant, sie auf der Grundlage realer Tests und Nutzer-Feedback zu verfeinern.

Bildquelle: Shutterstock

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Automobil / Elektrofahrzeuge, Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• ChartPrime. Verbessern Sie Ihr Handelsspiel mit ChartPrime. Hier zugreifen.
• BlockOffsets. Modernisierung des Eigentums an Umweltkompensationen. Hier zugreifen.
• Quelle: https://Blockchain.News/news/google-deepmind-introduces-synthid-to-combat-deepfakes-and-ai-generated-imagery