Recente gebeurtenissen, waaronder een door kunstmatige intelligentie (AI) gegenereerde deepfake robocall die zich voordoet als president Biden Door er bij de kiezers in New Hampshire op aan te dringen zich te onthouden van de voorverkiezingen, dient dit als een grimmige herinnering dat kwaadwillende actoren moderne generatieve AI (GenAI)-platforms steeds meer zien als een krachtig wapen om zich op Amerikaanse verkiezingen te richten.
Platforms zoals ChatGPT, Google's Gemini (voorheen Bard) of een aantal speciaal gebouwde Dark Web-grote taalmodellen (LLM's) zouden een rol kunnen spelen bij het verstoren van het democratische proces, met aanvallen die massa-invloedcampagnes, geautomatiseerd trollen en de proliferatie van massa-invloedcampagnes omvatten. deepfake-inhoud.
Sterker nog, FBI-directeur Christopher Wray onlangs hun zorgen geuit over de voortdurende informatieoorlog waarbij gebruik wordt gemaakt van deepfakes die desinformatie zouden kunnen zaaien tijdens de komende presidentiรซle campagne, zoals door de staat gesteunde actoren proberen het geopolitieke evenwicht te beรฏnvloeden.
GenAI zou ook de opkomst van โgecoรถrdineerd niet-authentiek gedragโnetwerken die proberen een publiek te ontwikkelen voor hun desinformatiecampagnes via nepnieuws, overtuigende socialemediaprofielen en andere wegen โ met als doel verdeeldheid te zaaien en het vertrouwen van het publiek in het verkiezingsproces te ondermijnen.
Verkiezingsinvloed: aanzienlijke risico's en nachtmerriescenario's
Vanuit het perspectief van Padraic O'Reilly, hoofd innovatie bij CyberSaint, is het risico โsubstantieelโ omdat de technologie zo snel evolueert.
โHet belooft interessant en misschien ook een beetje alarmerend te worden, omdat we nieuwe varianten van desinformatie zien die gebruik maken van deepfake-technologieโ, zegt hij.
Concreet, zegt O'Reilly, is het โnachtmerriescenarioโ dat microtargeting met door AI gegenereerde inhoud zich zal verspreiden op sociale-mediaplatforms. Dat is een bekende tactiek van de Cambridge Analytica-schandaal, waar het bedrijf psychologische profielgegevens verzamelde van 230 miljoen Amerikaanse kiezers, om via Facebook zeer op maat gemaakte berichten aan individuen te kunnen aanbieden in een poging hun overtuigingen โ en stemmen โ te beรฏnvloeden. Maar GenAI zou dat proces op grote schaal kunnen automatiseren en zeer overtuigende inhoud kunnen creรซren die weinig of geen โbotโ-kenmerken zou hebben die mensen zouden kunnen afschrikken.
โGestolen targetinggegevens [persoonlijkheidsmomentopnamen van wie een gebruiker is en zijn interesses] gecombineerd met door AI gegenereerde inhoud vormen een reรซel risicoโ, legt hij uit. โDe Russische desinformatiecampagnes van 2013-2017 suggereren wat er nog meer zou kunnen en zullen gebeuren, en we kennen deepfakes die zijn gegenereerd door Amerikaanse burgers [zoals die] met Biden, en Elizabeth Warren. '
De mix van sociale media en gemakkelijk beschikbare deepfake-technologie zou een doemscenario kunnen zijn voor de polarisatie van Amerikaanse burgers in een toch al diep verdeeld land, voegt hij eraan toe.
โDemocratie is gebaseerd op bepaalde gedeelde tradities en informatie, en het gevaar hier is een toegenomen balkanisering onder burgers, wat leidt tot wat de Stanford-onderzoeker Renรฉe DiResta โop maat gemaakte realiteitenโ noemdeโ, zegt OโReilly, oftewel mensen die in โalternatieve feitenโ geloven.
De platforms die bedreigingsactoren gebruiken om verdeeldheid te zaaien zullen waarschijnlijk weinig helpen: hij voegt eraan toe dat bijvoorbeeld het sociale mediaplatform X, voorheen bekend als Twitter, zijn kwaliteitsborging (QA) op inhoud heeft gestript.
โDe andere platforms hebben de standaardgarantie gegeven dat ze desinformatie zullen aanpakken, maar de bescherming van de vrijheid van meningsuiting en het gebrek aan regulering laten het veld nog steeds wijd open voor slechte actorenโ, waarschuwt hij.
AI versterkt bestaande phishing-TTP's
GenAI wordt al gebruikt om geloofwaardigere, gerichte phishing-campagnes op grote schaal te ontwikkelen โ maar in de context van verkiezingsveiligheid is dit fenomeen zorgwekkender, aldus Scott Small, directeur cyberdreigingsinformatie bij Tidal Cyber.
โWe verwachten dat cyber-tegenstanders generatieve AI zullen adopteren om phishing- en social engineering-aanvallen โ de belangrijkste vormen van verkiezingsgerelateerde aanvallen in termen van consistent volume gedurende vele jaren โ overtuigender te maken, waardoor het waarschijnlijker wordt dat doelen zullen interageren met kwaadaardige inhoud. " hij legt uit.
Small zegt dat de adoptie van AI ook de toegangsdrempel voor het lanceren van dergelijke aanvallen verlaagt, een factor die dit jaar waarschijnlijk het aantal campagnes zal vergroten die proberen campagnes te infiltreren of kandidaat-accounts over te nemen voor onder meer imitatiedoeleinden.
โCriminele tegenstanders en tegenstanders van de natiestaten passen phishing- en social engineering-lokmiddelen regelmatig aan op actuele gebeurtenissen en populaire themaโs, en deze actoren zullen vrijwel zeker proberen te profiteren van de hausse aan verkiezingsgerelateerde digitale inhoud die dit jaar algemeen wordt verspreid, om te proberen kwaadwillige inhoud aan nietsvermoedende gebruikersโ, zegt hij.
Verdedigen tegen AI-verkiezingsbedreigingen
Om zich tegen deze bedreigingen te verdedigen, moeten verkiezingsfunctionarissen en campagnes zich bewust zijn van de door GenAI aangedreven risico's en hoe ze zich daartegen kunnen verdedigen.
โVerkiezingsfunctionarissen en kandidaten geven voortdurend interviews en persconferenties waaruit bedreigingsactoren soundbites kunnen halen voor op AI gebaseerde deepfakesโ, zegt James Turgal, vice-president cyberrisico bij Optiv. โDaarom is het hun taak om ervoor te zorgen dat ze een persoon of team hebben dat verantwoordelijk is voor het waarborgen van de controle over de inhoud.โ
Ze moeten er ook voor zorgen dat vrijwilligers en werknemers worden getraind in AI-aangedreven bedreigingen, zoals verbeterde social engineering, de dreigingsactoren erachter en hoe te reageren op verdachte activiteiten.
Daartoe moet het personeel deelnemen aan social engineering- en deepfake-videotrainingen die informatie bevatten over alle vormen en aanvalsvectoren, inclusief elektronische (e-mail-, tekst- en sociale-mediaplatforms), persoonlijke en telefonische pogingen.
โDit is zo belangrijk โ vooral als het om vrijwilligers gaat โ omdat niet iedereen over een goede cyberhygiรซne beschiktโ, zegt Turgal.
Bovendien moeten campagne- en verkiezingsvrijwilligers worden getraind in het veilig verstrekken van informatie online en aan externe entiteiten, inclusief berichten op sociale media, en moeten ze daarbij voorzichtig zijn.
โActeurs van cyberbedreigingen kunnen deze informatie verzamelen om sociaal ontworpen kunstaas op specifieke doelen af โโte stemmenโ, waarschuwt hij.
O'Reilly zegt dat regelgeving op de lange termijn omvat watermerken voor deepfakes van audio en video zal een belangrijke rol spelen, waarbij wordt opgemerkt dat de federale overheid samenwerkt met de eigenaren van LLMโs om bescherming te bieden.
In feite is de Dat heeft de Federal Communications Commission (FCC) zojuist verklaard Door AI gegenereerde spraakoproepen worden als โkunstmatigโ beschouwd onder de Telephone Consumer Protection Act (TCPA), waardoor het gebruik van spraakkloontechnologie illegaal is en procureurs-generaal in het hele land nieuwe instrumenten krijgen om dergelijke frauduleuze activiteiten te bestrijden.
โAI ontwikkelt zich zo snel dat er een inherent gevaar bestaat dat voorgestelde regels ineffectief worden naarmate de technologie zich verder ontwikkelt, waardoor ze mogelijk hun doel missenโ, zegt O'Reilly. โIn sommige opzichten is het het Wilde Westen en komt AI op de markt met heel weinig waarborgen.โ
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
- PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
- PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
- Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
- Bron: https://www.darkreading.com/application-security/deepfake-democracy-ai-technology-election-security
- : heeft
- :is
- :niet
- :waar
- $UP
- 7
- a
- Over
- Volgens
- accounts
- Handelen
- activiteiten
- activiteit
- actoren
- aanpassen
- adres
- Voegt
- De goedkeuring van
- Adoptie
- voorschotten
- tegen
- AI
- AI-powered
- aka
- Alles
- bijna
- al
- ook
- alternatief
- vergaard
- onder
- versterkt
- an
- en
- elke
- ZIJN
- kunstmatig
- kunstmatige intelligentie
- AS
- zekerheid
- At
- aanvallen
- Aanvallen
- poging
- pogingen
- hoorzittingen
- audio
- automatiseren
- geautomatiseerde
- Beschikbaar
- wegen
- bewust
- slecht
- saldi
- barriรจre
- BE
- omdat
- worden
- achter
- wezen
- overtuigingen
- geloven
- op maat
- biden
- Beetje
- boom
- Bot
- maar
- by
- Dit betekent dat we onszelf en onze geliefden praktisch vergiftigen.
- oproepen
- Campagne
- Campagnes
- CAN
- kandidaat
- kandidaten
- kapitaliseren
- voorzichtigheid
- waarschuwt
- zeker
- zeker
- kenmerken
- ChatGPT
- chef
- Christopher
- burgers
- tegen te gaan
- komst
- commissie
- Communicatie
- afstand
- betreffende
- conferenties
- consequent
- permanent
- consument
- Consumentenbescherming
- content
- verband
- onder controle te houden
- kon
- Land
- ambachtelijke
- en je merk te creรซren
- Crimineel
- Actueel
- cyber
- GEVAAR
- Donker
- Dark Web
- gegevens
- deepfakes
- diep
- Verdedigen
- leveren
- Democratie
- democratisch
- ontwikkelen
- digitaal
- Digitale inhoud
- Director
- onenigheid
- disinformatie
- verdeeld
- Verdeeld
- Divisie
- doen
- dag des oordeels
- gedurende
- Verkiezing
- verkiezingen
- elektronisch
- anders
- allesomvattende
- einde
- ontworpen
- Engineering
- verbeterde
- zorgen
- entiteiten
- toegang
- vooral
- Event
- EVENTS
- iedereen
- evoluerende
- bestaand
- verwachten
- Verklaart
- feit
- factor
- feiten
- nep
- nep-nieuws
- vertrouwd
- SNELLE
- fbi
- FCC
- Met
- Federaal
- Federale overheid
- weinig
- veld-
- Voor
- Forbes
- vroeger
- formulieren
- frauduleus
- Gratis
- Vrijheid van mening
- oppompen van
- verzamelen
- Gemini
- genai
- Algemeen
- algemeen
- gegenereerde
- generatief
- generatieve AI
- geopolitiek
- Vrijgevigheid
- doel
- goed
- Kopen Google Reviews
- Overheid
- Hampshire
- Hebben
- he
- hulp
- hier
- zeer
- Hoe
- How To
- HTTPS
- if
- Onwettig
- belangrijk
- in
- persoonlijk
- omvat
- Inclusief
- Laat uw omzet
- meer
- in toenemende mate
- zittende
- individuen
- beรฏnvloeden
- informatie
- inherent
- Innovatie
- instantie
- instrumentaal
- Intelligentie
- interactie
- interessant
- belangen
- Interviews
- in
- IT
- HAAR
- james
- jpg
- voor slechts
- blijven
- bekend
- Gebrek
- gebrek aan regelgeving
- taal
- Groot
- lancering
- leidend
- Verlof
- leveraging
- als
- Waarschijnlijk
- Elke kleine stap levert grote resultaten op!
- lang
- maken
- maken
- kwaadaardig
- veel
- Markt
- Massa
- Mei..
- Media
- messaging
- miljoen
- vermist
- mengen
- modellen
- Modern
- meer
- bewegend
- Dan moet je
- Landelijk
- netwerken
- New
- nieuws
- opmerkend
- aantal
- zich voordoen
- of
- korting
- Officier
- ambtenaren
- on
- EEN
- lopend
- online.
- open
- or
- bestellen
- Overige
- Verkooppunten
- buiten
- over
- eigenaren
- deelnemen
- Mensen
- misschien
- persoon
- persoonlijkheid
- perspectief
- een fenomeen
- Phishing
- plaats
- platform
- platforms
- Plato
- Plato gegevensintelligentie
- PlatoData
- Spelen
- Populair
- Berichten
- krachtig
- mogelijk
- mogelijkheden
- president
- presidents-
- pers
- primair
- Profiel
- Profielen
- Beloften
- voorgestelde
- bescherming
- zorgen voor
- mits
- het verstrekken van
- psychologisch
- publiek
- vertrouwen van het publiek
- doeleinden
- zetten
- Q & A
- kwaliteit
- snel
- vast
- realiteit
- regelmatig
- Regulatie
- herinnering
- onderzoeker
- Reageren
- verantwoordelijk
- Stijgen
- Risico
- risico's
- Rol
- reglement
- Russisch
- s
- waarborgen
- veilig
- zegt
- Scale
- scenario
- scenario's
- scott
- veiligheid
- zien
- dienen
- gedeeld
- moet
- Klein
- So
- Social
- Social engineering
- social media
- social media platforms
- Posts op sociale media
- maatschappelijk
- sommige
- Geluid
- zeug
- specifiek
- toespraak
- Gesponsorde
- Medewerkers
- stanford
- sterk
- Land
- Still
- gestolen
- wezenlijk
- dergelijk
- zeker
- verdacht
- Zwaaien
- kleermaker
- op maat gemaakt
- Nemen
- doelwit
- doelgerichte
- targeting
- doelen
- team
- tech
- Technologie
- termijn
- termen
- tekst
- dat
- De
- hun
- Ze
- thema's
- Er.
- daarom
- Deze
- ze
- dit
- dit jaar
- bedreiging
- bedreigingsactoren
- bedreigingen
- Door
- naar
- ook
- tools
- getraind
- Trainingen
- trolling
- Trust
- proberen
- BEURT
- X
- voor
- komende
- op
- aandringen
- us
- Amerikaanse verkiezingen
- Amerikaanse kiezers
- .
- gebruikt
- Gebruiker
- gebruikers
- gebruik
- zeer
- via
- vice
- Vice President
- Video
- Bekijk
- Stem
- volume
- vrijwilligers
- kiezers
- stemmen
- Manier..
- manieren
- we
- web
- West
- Wat
- wanneer
- WIE
- breed
- Wild
- wild west
- wil
- Met
- werknemers
- werkzaam
- zou
- X
- jaar
- jaar
- zephyrnet