AI süvavõltsingud ohustavad ka ettevõtteid – siin on põhjus – dekrüpteerige

AI süvavõltsingud ohustavad ka ettevõtteid – miks – dekrüpteerige

Ajatempel: 25. august 2023 3:50
Tehisintellekti süvavõltsingud ohustavad ka ettevõtteid – siin on põhjus – PlatoBlockchaini andmeluure dekrüpteerimine. Vertikaalne otsing. Ai.

Samal ajal kui tehnoloogiahiiglased võistlevad tehisintellekti massidesse toomise ja kasvava turu omamise nimel, soodustab AI võidurelvastumine süvavõltsitud videote ja heli – sisu, mis sageli näib või kõlab veenvalt legitiimne, kuid mis on tegelikult petturlik valeandmete esitamine. Uue aruande kohaselt mõjutavad need ka ettevõtteid.

Süvavõltsingud on tehisintellekti loodud looming, nagu pildid, videod ja heli, mida manipuleeritakse inimeste petmiseks. Petturid kasutavad pettusteks süvavõltsinguid, väljapressiminevõi mainet kahjustada. Levik generatiivne AI tööriistad on muutnud petturite jaoks võltssisu loomise lihtsamaks kui kunagi varem.

Kuulsusi ja teisi avaliku elu tegelasi sisestatakse ilma nende nõusolekuta kunstlikesse ja mõnikord selgesõnalistesse kaadritesse viisil, mis mõnikord levib või võib sotsiaalmeedias paanikat tekitada. Aruandes, mis on esitatud Avaldage lahti, ülemaailmne raamatupidamisfirma KPMG kirjutas, et ka ärisektor pole kaitstud deepfake-ohu eest.

KPMG kirjutas, et võltsitud sisu saab kasutada sotsiaalse manipuleerimise rünnakutes ja muud tüüpi küberrünnakutes, mis on suunatud ettevõtetele, samas võib selline sisu mõjutada ka ettevõtete ja nende juhtide mainet. Ettevõtte esindajate valeandmeid saab kasutada ka skeemides, mille eesmärk on klientide petmine või töötajate veenmine ebaseaduslikele isikutele teavet andma või raha üle kandma.

KPMG tõi näite 2020 Hongkongi ettevõtte filiaali juhist, kes sai petta, et ta kandis petturitele üle 35 miljoni dollari väärtuses ettevõtte raha, kuna arvas, et tema ülemus oli telefoni teel ja käskis tal seda teha. Selle asemel oli tegemist AI-ga kloonitud juhendaja hääle taasesitusega – kõik osa keerukast skeemist, mille eesmärk oli ettevõttelt raha välja petta.

„Sünteetilist sisu – pahatahtlikel eesmärkidel loodud või manipuleeritud digitaalset sisu – kasutavate küberrünnakute tagajärjed võivad olla ulatuslikud, kulukad ja neil võib olla mitmesuguseid sotsiaalmajanduslikke mõjusid, sealhulgas rahalisi, maine-, teenuse- ja geopoliitilisi mõjusid,” aruandes on kirjas.

Deepfake kaadrid Donald Trumpi olemusest arreteeriti varem sel aastal, Franciscus kandes Balenciaga luksusrõivaid ja Elon Musk Krüptopettuste propageerimine on viimasel aastal levinud, kuna sügavvõltsimistehnoloogia on tänu arenevatele tehisintellekti tööriistadele paranenud.

"Olgu tegemist odavate või sügavate võltsingutega, majandusmudel on generatiivsete AI mudelite tõttu oluliselt muutunud," kirjutas KPMG.

Lisaks ülalmainitud avaliku elu tegelastele on prominentsed kuulsused, kelle sarnasused on varastatud ja võltsitud kaadrites kasutatud, näitlejanna Emma Watson ja muusik Taylor Swift. Kuid KPMG tõstab häiret võimaliku mõju pärast ettevõtetele ja nende mõnikord silmapaistvatele juhtidele.

"Osategurina ei ole sügavvõltsitud sisu mureks ainult sotsiaalmeedia, tutvumissaitide ja meelelahutustööstuse jaoks – see on nüüd koosolekuruumi probleem," ütles KPMG. "Näiteks on peaaegu kõik vastajad (92%) hiljutises KPMG generatiivse tehisintellekti uuringus, milles osales 300 juhti erinevatest tööstusharudest ja geograafilistest piirkondadest, et nende mure generatiivse tehisintellekti rakendamisega seotud riskide pärast on mõõdukalt kuni väga oluline."

Internetis levivate sügavvõltsitud videote kvaliteedi ja arvu kasvuga ei tegele ainult ettevõtted ja kuulsused. Valitsused ja reguleerivad asutused arvestavad ka võimaliku mõjuga ühiskonnale ja valimistele, samas kui selliste tehisintellekti tööriistade loojad kaaluvad nende võimalikku negatiivset mõju.

Eelmisel nädalal astus USA föderaalne valimiskomisjon, eeldades süvavõltsingute kasutamist 2024. aasta valimistel, petitsioon keelata tehisintellekti kasutamine kampaaniareklaamides.

Kui see heaks kiidetakse, muudaks agentuur kehtivaid eeskirju, mis käsitlevad "kampaania asutuse" petturlikku valeandmete esitamist, ja täpsustab, et keeld kehtib tahtlikult petlike tehisintellekti kampaaniate reklaamide kohta.

"Reguleerivad asutused peaksid jätkuvalt mõistma ja arvestama arenevate ohtude mõju olemasolevatele eeskirjadele," ütles KPMG küberturbeteenuste direktor Matthew Miller. Avaldage lahti. Tehisintellekti loodud sisu märgistamise ja vesimärgistamise kavandatavad nõuded võivad avaldada positiivset mõju.

Juulis MIT-i teadlased pakutud koodimuudatuste lisamine suurele hajutusega mudelitele, et vähendada sügavvõltsingute ohtu, lisades pisikesi muudatusi, mida on raske näha, kuid mis lõpuks muudavad mudelite toimimist, pannes need genereerima pilte, mis ei tundu tõelised. Meta vahepeal hiljuti hoidis AI tööriista tagasi selle sügava võltsimise potentsiaali tõttu.

Põnevust generatiivsete AI-tööriistade loomingulise potentsiaali ümber on leevendanud mõistmine, et need võivad samamoodi luua võimalusi pahatahtlikule sisule. Lõppkokkuvõttes kutsus Miller pärast selliste tööriistade kiiret täiustamist kõiki üles olema valvsad võltssisu võimalikkuse suhtes.

"Avalikkus peab digitaalsete kanalite kaudu suhtlemisel säilitama pideva valvsuse," ütles ta Lahtikrüptimine. „Olukorrateadlikkus ja terve mõistus aitavad intsidendi ära hoida. Kui miski ei tundu õige, on see suure tõenäosusega pahatahtlik.

Olge kursis krüptouudistega, saate oma postkasti igapäevaseid värskendusi.

Ajatempel:

Veel alates Avaldage lahti