A Microsoft bemutatja a mélyhamisítású technológiát, amely túl jó ahhoz, hogy kiadja

A Microsoft bemutatja a mélyhamisítású technológiát, amely túl jó ahhoz, hogy kiadja

Időbélyeg: 20. április 2024. 11:13
A Microsoft bemutatja a mélyhamisítású technológiát, amely túl jó a PlatoBlockchain Data Intelligence kiadásához. Függőleges keresés. Ai.

A Microsoft ezen a héten bemutatta a VASA–1-et, egy olyan keretrendszert, amely állóképből, hangmintából és szöveges forgatókönyvből beszélgető videók készítésére szolgál, és azt állítja – jogosan – túl veszélyes ahhoz, hogy nyilvánosságra hozzák.

Ezek a mesterséges intelligencia által generált videók, amelyekben az embereket meggyőzően animálni lehet, hogy forgatókönyvezett szavakat mondanak ki klónozott hangon, az Egyesült Államok Szövetségi Kereskedelmi Bizottságának a fajtája. figyelmeztetett múlt hónapban, az előző után szabályt javasol hogy megakadályozzák a mesterséges intelligencia technológiájának megszemélyesítési csaláshoz való felhasználását.

A Microsoft csapata ezt elismeri közlemény, ami azt magyarázza, hogy a technológiát etikai megfontolások miatt nem adják ki. Ragaszkodnak ahhoz, hogy kutatásokat mutassanak be virtuális interaktív karakterek generálására, és ne mások megszemélyesítésére. Mint ilyen, nincs tervben termék vagy API.

„Kutatásunk a virtuális mesterséges intelligencia avatárok vizuális affektív képességeinek generálására összpontosít, pozitív alkalmazásokra törekedve” – állítja redmondi boffins. „Nem célja félrevezetésre vagy megtévesztésre használt tartalom létrehozása.

„Azonban, más kapcsolódó tartalomgenerálási technikákhoz hasonlóan, továbbra is visszaélhető emberekkel. Ellenzünk minden olyan magatartást, amely valós személyekről félrevezető vagy káros tartalmat hoz létre, és érdekeltek vagyunk technikánk alkalmazásában a hamisítások felderítésének elősegítésére.”

Kevin Surace, a Token, egy biometrikus hitelesítési üzletág elnöke, és gyakori előadó a generatív mesterséges intelligencia témakörében, elmondta. A regisztráció egy e-mailben, amely szerint bár korábban is voltak technológiai bemutatók állóképből és klónozott hangfájlból animált arcokról, a Microsoft bemutatója a technika legkorszerűbb szintjét tükrözi.

"Az e-mailek személyre szabásának és más üzleti tömegkommunikációnak mesés következményei vannak" - vélekedett. „Még régebbi képek animálása is. Bizonyos mértékig ez csak szórakoztató, másrészt szilárd üzleti alkalmazásai vannak, amelyeket mindannyian használni fogunk a következő hónapokban és években.”

A mélyhamisítások „mókája” 96 százalékban nem konszenzusos pornó volt, amikor értékelni [PDF] 2019-ben a Deeptrace kiberbiztonsági cégtől.

Mindazonáltal a Microsoft kutatói azt sugallják, hogy a valósághű emberek létrehozásának és a szavak szájába vételének pozitív haszna van.

„Az ilyen technológia a digitális kommunikáció gazdagításának, a kommunikációs fogyatékkal élők hozzáférhetőségének növelésének, az oktatás átalakításának, az interaktív mesterséges intelligencia oktatási módszereinek, valamint a terápiás támogatásnak és a szociális interakciónak az egészségügyben való biztosítását ígéri” – javasolják a közleményben. kutatási papír amely nem tartalmazza a „pornó” vagy a „félretájékoztatás” szavakat.

Bár vitatható, hogy a mesterséges intelligencia által generált videó nem teljesen ugyanaz, mint egy mélyhamisítás, az utóbbi meghatározott a generatív módszerrel szemben a digitális manipulációval a megkülönböztetés lényegtelenné válik, ha meggyőző hamisítványt lehet varázsolni vágott és beillesztett oltás nélkül.

Arra a kérdésre, hogy mit szól ahhoz, hogy a Microsoft nem hozza nyilvánosságra ezt a technológiát a visszaéléstől való félelem miatt, Surace kétségét fejezte ki a korlátozások életképességével kapcsolatban.

"A Microsoft és mások egyelőre visszatartanak, amíg ki nem dolgozzák az adatvédelmi és használati problémákat" - mondta. "Hogyan szabályozza bárki, hogy ki használja ezt a megfelelő okokból?"

Surace hozzátette, hogy vannak már nyílt forráskódú modellek, amelyek hasonlóan kifinomultak, rámutatva EMO. „A forráskódot a GitHubból ki lehet húzni, és köré lehet építeni egy olyan szolgáltatást, amely vitathatatlanul vetekedne a Microsoft kimenetével” – jegyezte meg. "A tér nyílt forráskódú jellege miatt ennek szabályozása minden esetben lehetetlen lesz."

Ennek ellenére a világ országai megpróbálják szabályozni a mesterséges intelligencia által kitalált embereket. Kanada, Kína, És a UKA többi nemzet mellett mindegyik rendelkezik olyan szabályozással, amely alkalmazható a mélyhamisításokra, amelyek közül néhány szélesebb politikai célokat szolgál. Nagy-Britannia csak ezen a héten törvénytelenné tette nyíltan szexuálisan hamisított képet készíteni beleegyezés nélkül. Az ilyen képek megosztását az Egyesült Királyság 2023-as online biztonságáról szóló törvénye már tiltotta.

Januárban az amerikai törvényhozók kétpárti csoportja Bevezetett a 2024. évi Disrupt Explicit Forged Images and Non-Consensual Edits Act (DEFIANCE Act) törvényjavaslat, amely lehetőséget teremt a nem konszenzusos mélyhamisított képek áldozatai számára, hogy polgári jogi keresetet nyújtsanak be a bíróságon.

Április 16-án, kedden pedig az Egyesült Államok Szenátusa Igazságügyi Bizottsága, Adatvédelmi, Technológiai és Jogi Albizottsága tartotta meghallgatás „Az AI felügyelete: Választási mélyhamisítások” címmel.

Rijul Gupta, a DeepMedia, a mélyhamisítás-észlelő cég vezérigazgatója ezt mondta:

[A] mélyhamisítások legriasztóbb aspektusa az, hogy a rossz színészeket hihetően letagadják, lehetővé téve számukra, hogy a valódi tartalmat hamisnak minősítsék. A közbizalomnak ez az eróziója társadalmi szövetünk magvát és demokráciánk alapjait érinti. Az emberi agy, amely arra van kötve, hogy elhiggye, amit lát és hall, különösen ki van téve a mélyhamisítások megtévesztésének. Ahogy ezek a technológiák egyre kifinomultabbakká válnak, azzal fenyegetnek, hogy aláássák a társadalmunk alapját képező közös valóságérzetet, és a bizonytalanság és a szkepticizmus légkörét teremtik meg, ahol a polgárok megkérdőjelezik minden információ valódiságát, amellyel találkoznak.

De gondoljon a marketing alkalmazásokra. ®

Időbélyeg:

Még több A regisztráció