Digitale beveiliging
AI-gestuurd stemklonen kan het voor oplichters veel te gemakkelijk maken. Ik weet het omdat ik het heb getest, zodat je de risico's niet op de harde manier hoeft te leren kennen.
22 november 2023 • , 6 minuut. lezen
De recente diefstal van mijn stem bracht mij op een nieuwe splitsing in de zin dat AI nu al het potentieel heeft om sociale ontwrichting te veroorzaken. Ik was zo verrast door de kwaliteit van de gekloonde stem (en in die uiterst slimme, maar komische stijl van een van mijn collega's) dat ik besloot dezelfde software voor 'snode' doeleinden te gebruiken en te kijken hoe ver ik daarin kon gaan. om te stelen van een klein bedrijf – met toestemming uiteraard! Spoiler alert: het was verrassend eenvoudig uit te voeren en kostte nauwelijks tijd.
“AI zal waarschijnlijk het beste of het slechtste zijn dat de mensheid kan overkomen.” –Stefan Hawking
Sinds het concept van AI meer mainstream werd in fictiefilms als Blade Runner en The Terminator, hebben mensen vraagtekens gezet bij de meedogenloze mogelijkheden van wat de technologie zou kunnen voortbrengen. Maar nu pas met krachtige databases, toenemende computerkracht en media-aandacht hebben we gezien dat AI een wereldwijd publiek heeft bereikt op manieren die zowel angstaanjagend als opwindend zijn. Nu technologie zoals AI onder ons rondsluipt, is de kans groot dat er creatieve en tamelijk geavanceerde aanvallen plaatsvinden met schadelijke gevolgen.
Een escapade voor het klonen van stemmen
Mijn vorige functies bij de politie heeft mij de mentaliteit bijgebracht om te proberen te denken als een crimineel. Deze aanpak heeft een aantal zeer tastbare en toch ondergewaardeerde voordelen: hoe meer men nadenkt en zelfs Handelingen zoals een crimineel (zonder er daadwerkelijk een te worden), hoe beter beschermd men kan zijn. Dit is absoluut essentieel om op de hoogte te blijven van de nieuwste bedreigingen en om toekomstige trends te kunnen voorspellen.
Om een aantal van de huidige capaciteiten van AI te testen, heb ik dus opnieuw de mentaliteit van een digitale crimineel moeten aannemen en een bedrijf op ethische wijze moeten aanvallen!
Ik vroeg onlangs aan een contactpersoon van mij – laten we hem Harry noemen – of ik zijn stem kon klonen en deze kon gebruiken om zijn bedrijf aan te vallen. Harry was het daarmee eens en stond mij toe het experiment te starten door een kloon van zijn stem te maken met behulp van gemakkelijk verkrijgbare software. Gelukkig voor mij was het relatief eenvoudig om Harry's stem te pakken te krijgen. Hij neemt vaak korte video's op om zijn bedrijf te promoten op zijn YouTube-kanaal, dus ik kon een paar van deze video's aan elkaar plakken om een goed audiotestbed te maken. Binnen een paar minuten had ik een kloon van Harry's stem gegenereerd, die voor mij net zo klonk als hij, en toen kon ik alles opschrijven en het in zijn stem laten afspelen.
Als extraatje besloot ik ook om authenticiteit aan de aanval toe te voegen door Harry's WhatsApp-account stelen met behulp van een SIM-swap-aanval – nogmaals, met toestemming. Vervolgens stuurde ik een spraakbericht vanaf zijn WhatsApp-account naar de financieel directeur van zijn bedrijf – laten we haar Sally noemen – met het verzoek om een betaling van £ 250 aan een “nieuwe aannemer”. Op het moment van de aanval wist ik dat hij op een nabijgelegen eiland was voor een zakenlunch, wat mij het perfecte verhaal en de gelegenheid gaf om toe te slaan.
Het gesproken bericht vermeldde waar hij was en dat hij de 'plattegrondman' moest laten betalen, en zei dat hij de bankgegevens meteen daarna apart zou sturen. Dit voegde de verificatie toe aan de hand van het geluid van zijn stem bovenop het gesproken bericht dat werd toegevoegd aan Sally's WhatsApp-thread, wat voldoende was om haar ervan te overtuigen dat het verzoek echt was. Binnen 16 minuten na het eerste bericht had ik £ 250 naar mijn persoonlijke account gestuurd.
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
- PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
- PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
- Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
- Bron: https://www.welivesecurity.com/en/cybersecurity/your-voice-is-my-password/
- : heeft
- :is
- :niet
- :waar
- $UP
- 118
- 16
- 2FA
- 7
- a
- capaciteiten
- in staat
- Over
- absoluut
- Account
- accounts
- werkelijk
- Ad
- toevoegen
- toegevoegd
- toe te voegen
- Extra
- adres
- toegeven
- Na
- weer
- leeftijd
- afgesproken
- AI
- streven
- Alarm
- Alles
- naar verluidt
- toegestaan
- al
- ook
- Hoewel
- am
- onder
- onder ons
- an
- en
- elke
- iets
- gebruiken
- Apple
- Apple Card
- nadering
- ZIJN
- aangekomen
- kunstmatig
- kunstmatige intelligentie
- AS
- uitgegaan van
- At
- aanvallen
- Aanvallen
- poging
- pogingen
- aandacht
- gehoor
- audio
- authenticatie
- echtheid
- Beschikbaar
- vermijd
- bewustzijn
- terug
- Bank
- basis-
- BE
- werd
- omdat
- worden
- geweest
- vaardigheden
- wezen
- betekent
- BEST
- Betere
- BLAD
- BOSS
- bounds
- bracht
- bedrijfsdeskundigen
- ondernemers
- maar
- by
- Bellen
- kwam
- CAN
- kan niet
- kaart
- Kaarten
- dragen
- Categorie
- veroorzakend
- Kanaal
- code
- collega's
- hoe
- algemeen
- afstand
- dwingende
- computer
- computerkracht
- concept
- zeker
- gekoppeld blijven
- contact
- contacten
- overtuigt
- kon
- Type cursus
- Wij creëren
- Creatieve
- Crimineel
- criminelen
- Actueel
- cybercriminelen
- te beschadigen
- gegevens
- databanken
- Datum
- debrief
- beslist
- defensief
- detail
- gegevens
- DEED
- digitaal
- Director
- Ontwrichting
- Dont
- dynamisch
- e
- En het is heel gemakkelijk
- efficiënt
- beide
- in staat stellen
- maakt
- genoeg
- ingevoerd
- gelijk
- EVENTS
- OOIT
- voorbeeld
- opwindend
- uitvoerend
- bestaand
- experiment
- experimenten
- uiterst
- Gezicht
- factoren
- nep
- Vallen
- Vallend
- ver
- vilt
- weinig
- fictief
- Figuur
- films
- Financiën
- financieel
- Voor
- voorzien
- vork
- formulier
- vriend
- oppompen van
- gaf
- gegenereerde
- generatie
- echt
- het krijgen van
- Globaal
- wereldwijd publiek
- Go
- goed
- HAD
- gebeuren
- gebeurt
- Hard
- Hardware
- Hebben
- met
- he
- hulp
- haar
- hier
- hem
- zijn
- Hit
- houden
- Hoe
- Echter
- HTTPS
- Mensheid
- i
- identiteiten
- if
- beeld
- per direct
- belang
- het verbeteren van
- in
- inclusief
- Inclusief
- meer
- in toenemende mate
- informatie
- eerste
- verkrijgen in plaats daarvan
- Intelligentie
- belang
- interessant
- in
- eiland
- IT
- jpg
- voor slechts
- Houden
- houden
- blijven
- laatste
- leiden
- sprongen
- LEARN
- leren
- Niveau
- leveraging
- als
- Waarschijnlijk
- gekoppeld
- Lijst
- Kijk
- keek
- lunch
- machine
- machine learning
- Hoofdstroom
- maken
- maken
- Manipulatie
- veel
- veel mensen
- massa
- op elkaar afgestemd
- materiaal
- max-width
- me
- maatregel
- maatregelen
- Media
- Bericht
- macht
- Min
- Mindset
- minuten
- Mobile
- geld
- meer
- bewegend
- meerlaags
- Dan moet je
- my
- naam
- nodig
- Onnodig
- New
- volgende
- november
- nu
- aantal
- of
- korting
- bieden
- Aanbod
- vaak
- on
- eens
- EEN
- online.
- Slechts
- kansen
- or
- bestellen
- Overige
- onze
- uit
- Resultaat
- eigenaren
- betaald
- Wachtwoord
- betaling
- Mensen
- toestemming
- persoon
- persoonlijk
- persoonlijke gegevens
- Phishing
- phishing-aanvallen
- phone
- foto
- plaats
- plan
- Plato
- Plato gegevensintelligentie
- PlatoData
- gespeeld
- Politie
- mogelijkheden
- mogelijk
- Berichten
- potentieel
- energie
- krachtige
- Vooruitbetaald
- processen
- produceren
- vordert
- Het bevorderen van
- beschermd
- bescherming
- leverancier
- het verstrekken van
- doeleinden
- kwaliteit
- Ondervraagd
- snel
- liever
- gemakkelijk
- vast
- onlangs
- archief
- afspiegeling
- relatief
- los
- meedogenloos
- te vragen
- verzoeken
- Resultaten
- risico's
- weg
- loper
- veilig
- waarborgen
- Zei
- dezelfde
- gered
- ervaren
- Oplichterij
- Oplichters
- veiligheid
- zien
- gezien
- sturen
- gevoelig
- verzonden
- apart
- Delen
- ze
- geschokt
- Bermuda's
- moet
- tonen
- Gesigneerd
- SIM
- JA ruilen
- Eenvoudig
- eenvoudigweg
- sinds
- Klein
- kleine bedrijven
- So
- Social
- Software
- sommige
- Iemand
- geraffineerd
- Geluid
- klonk
- special
- specifiek
- begin
- Start
- bepaald
- verblijven
- Stephen
- Still
- Verhaal
- recht
- slaan
- stijl
- dergelijk
- zeker
- ruilen
- Nemen
- ingenomen
- tastbaar
- doelgerichte
- Technologie
- termen
- angstaanjagend
- proef
- getest
- neem contact
- dat
- De
- hun
- harte
- Deze
- ze
- ding
- spullen
- denken
- denkt
- dit
- bedreigingen
- niet de tijd of
- tips
- Titel
- naar
- samen
- ook
- nam
- tools
- top
- Trainingen
- Transacties
- transfers
- Trends
- twee
- Tenslotte
- bijwerken
- bijgewerkt
- us
- .
- gebruikt
- gebruik
- Verificatie
- geverifieerd
- het verifiëren
- zeer
- via
- Slachtoffer
- Video's
- vitaal
- Stem
- willen
- was
- Manier..
- manieren
- we
- GOED
- Wat
- welke
- WIE
- Breedte
- Met
- binnen
- zonder
- werkte
- Slechtst
- zou
- schrijven
- nog
- You
- Your
- youtube
- zephyrnet