Google DeepMind introducerer SynthID for at bekæmpe Deepfakes og AI-genereret billeder

Google DeepMind introducerer SynthID for at bekæmpe Deepfakes og AI-genereret billeder

Tidsstempel: 3. september 2023 kl. 11
Google DeepMind Introduces SynthID to Combat Deepfakes and AI-Generated Imagery PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Google DeepMind har afsløret SynthID, en vandmærketeknologi, der har til formål at identificere AI-genererede billeder. Værktøjet indlejrer et "umærkeligt" vandmærke i pixels på billeder genereret af AI, hvilket gør dem let identificerbare med specialiserede detektionsværktøjer. Teknologien er i første omgang tilgængelig for Google Cloud-kunder ved hjælp af Vertex AI-platformen og Imagen-billedgeneratoren.

Mens valgsæsonen 2024 nærmer sig i USA og Storbritannien, har spørgsmålet om deepfakes og AI-genereret indhold fået øget opmærksomhed. Google DeepMinds administrerende direktør, Demis Hassabis, understregede den stigende betydning af systemer, der kan identificere og detektere AI-genererede billeder. "Hver gang vi taler om det og andre systemer, er det, 'Hvad med problemet med deepfakes?'" sagde Hassabis i et interview med The Verge August 29, 2023.

Sådan virker SynthID

SynthID fungerer ved at indlejre et vandmærke direkte i pixels på et AI-genereret billede. Ifølge Hassabis er dette vandmærke "

robust til forskellige transformationer - beskæring, ændring af størrelse, alle de ting, du kan gøre for at prøve at komme uden om normale, traditionelle, enkle vandmærker.

Vandmærket ændrer ikke på kvaliteten eller oplevelsen af ​​billedet, men gør det let genkendeligt af DeepMinds værktøjer.

Tilgængelighed og fremtidsplaner

Oprindeligt SynthID bliver rullet ud til et begrænset antal Vertex AI-kunder ved hjælp af Imagen, en af ​​DeepMinds seneste tekst-til-billede-modeller. Teknologien er udviklet i samarbejde med Google Research og er en del af Google Clouds bredere strategi om at tilbyde værktøjer til ansvarligt at skabe AI-genererede billeder.

Thomas Kurian, Google Cloud's CEO, bemærkede, at Vertex AI-platformen oplever hurtig vækst, hvilket gør det til et passende tidspunkt at lancere SynthID. "Modellerne bliver mere og mere sofistikerede, og vi har haft en enorm, enorm stigning i antallet af mennesker, der bruger modellerne," sagde Kurian.

Bredere implikationer

Selvom SynthID ikke er det første værktøj designet til at bekæmpe deepfakes, slutter det sig til en voksende liste af initiativer fra store teknologivirksomheder som Meta, Microsoft og Amazon. Disse virksomheder investerer i stigende grad i indholdsverifikationsløsninger for at opretholde digital integritet. SynthID er dog ikke en "sølvkugle til deepfake-problemet", ifølge Hassabis. Teknologien er stadig i sin betafase, og Google planlægger at forfine den baseret på test i den virkelige verden og brugerfeedback.

Billedkilde: Shutterstock

Tidsstempel:

Mere fra Blockchain News