Nehezebb lesz a mélyhamisítások észlelése: Secta Labs vezérigazgatója – Decrypt

Ahogy az AI képgenerátorok egyre fejlettebbek, a mélyhamisítások észlelése egyre nagyobb kihívást jelent, mint valaha. A bűnüldöző szervek és a globális vezetők továbbra is kongatják a vészharangot az MI által generált veszélyekkel kapcsolatban deepfakes a közösségi médiában és a konfliktusövezetekben.

„Egy olyan korszakba lépünk, amikor már nem hisszük el, amit látunk” – mondta Marko Jak, a Secta Labs társalapítója és vezérigazgatója. visszafejtése egy interjúban. "Jelenleg könnyebb, mert a mély hamisítványok még nem olyan jók, és néha láthatod, hogy ez nyilvánvaló."

Jak szerint még nem vagyunk olyan messze – talán egy éven belül – attól a ponttól, amikor a hamis kép első látásra való felismerése már nem lehetséges. És tudnia kell: Jak egy MI-képgenerátor cég vezérigazgatója.

Jak társalapító Secta Labs 2022-ben; az austini székhelyű generatív AI startup a kiváló minőségű AI által generált képek létrehozására összpontosít. A felhasználók feltölthetnek képeket magukról, és mesterséges intelligencia által generált fejlövésekké és avatarokká alakíthatják őket.

Ahogy Jak elmagyarázza, a Secta Labs a felhasználókat az adataikból generált mesterséges intelligencia-modellek tulajdonosainak tekinti, míg a vállalat csupán őrző, aki segít a képek létrehozásában ezekből a modellekből. 

A fejlettebb mesterségesintelligencia-modellek esetleges visszaélése arra késztette a világ vezetőit, hogy azonnali intézkedést kérjenek akció a mesterséges intelligencia szabályozásáról, és arra késztette a vállalatokat, hogy úgy döntsenek, nem teszik közzé fejlett eszközeiket a nyilvánosság számára.

Múlt héten az új bejelentése után Hangposta A mesterséges intelligencia által generált hangplatform, a Meta azt mondta, hogy nem adja ki az AI-t a nyilvánosság számára.

"Miközben úgy gondoljuk, fontos, hogy nyitottak legyünk a mesterséges intelligencia közösségével, és megosszuk kutatásainkat az AI legkorszerűbb fejlesztése érdekében" - mondta a Meta szóvivője. visszafejtése egy e-mailben. „Az is szükséges, hogy megtaláljuk a megfelelő egyensúlyt a nyitottság és a felelősség között.”

A hónap elején az amerikai Szövetségi Nyomozó Iroda figyelmeztetett AI mélyhamisított zsaroló csalások és bűnözők, akik a közösségi médiából vett fényképeket és videókat hamis tartalom létrehozására használnak.

A mélyhamisítás elleni küzdelemben Jak szerint a válasz nem abban rejlik, hogy felismerjük a mélyhamisítást, hanem abban, hogy leleplezzük a mélyhamisítást.

"A mesterséges intelligencia az első módja annak, hogy észrevegyenek egy mélyhamisítványt" - mondta Jak. "Vannak olyan emberek, akik mesterséges intelligenciát építenek, és így videóba tud illeszteni egy képet, és a mesterséges intelligencia meg tudja mondani, hogy a mesterséges intelligencia hozta-e létre."

A generatív mesterséges intelligencia és a mesterséges intelligencia által generált képek filmes és televíziós felhasználása heves téma a szórakoztatóiparban. SAG-AFTRA A tagok a szerződéses tárgyalások megkezdése előtt megszavazták a sztrájkot, amely jelentős aggodalomra ad okot, a mesterséges intelligenciát.

Jak hozzátette, hogy a kihívás a mesterséges intelligencia fegyverkezési versenyének kibontakozása, ahogy a technológia egyre fejlettebb, a rossz szereplők pedig fejlettebb mélyhamisításokat készítenek az észlelésükre tervezett technológia ellen.

Elismerve, hogy a blokkláncot túlzottan használták – egyesek szerint túlzásba vitték – valós problémák megoldásaként, Jak szerint a technológia és a kriptográfia megoldhatja a mélyhamisítási problémát.

De míg a technológia sok problémát megoldhat a mélyhamisításokkal, Jak szerint egy alacsony technológiájú megoldás, a tömeg bölcsessége lehet a kulcs.

"Az egyik dolog, amit láttam, hogy a Twitter csinált, ami szerintem jó ötlet volt, a közösségi jegyzetek, ahol az emberek megjegyzéseket fűzhetnek hozzá, hogy kontextust adjanak valaki tweetjéhez" - mondta Jak. „Egy tweet lehet félretájékoztatás, akárcsak egy mélyhamisítás” – mondta. Jak hozzátette, hogy a közösségimédia-vállalatok számára előnyös lenne, ha olyan módokon gondolkodnának, amelyek segítségével közösségeiket fel lehet használni annak ellenőrzésére, hogy a terjesztett tartalom hiteles-e.

"A blokklánc képes megoldani bizonyos problémákat, de a kriptográfia segíthet a kép eredetének hitelesítésében" - mondta. "Ez praktikus megoldás lehet, mivel a forrásellenőrzéssel foglalkozik, nem pedig a képtartalommal, függetlenül attól, hogy mennyire kifinomult a mélyhamisítás."

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
• PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
• PlatoESG. Autóipar / elektromos járművek, Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
• BlockOffsets. A környezetvédelmi ellentételezési tulajdon korszerűsítése. Hozzáférés itt.
• Forrás: https://decrypt.co/146066/it-will-get-harder-to-detect-deepfakes-secta-labs-ceo