Digital sikkerhed
AI-drevet stemmekloning kan gøre tingene alt for nemme for svindlere – jeg ved det, fordi jeg har testet det, så du ikke behøver at lære om risiciene på den hårde måde.
November 22 2023 • , 6 min. Læs
Den nylige tyveri af min stemme bragte mig til en ny vej i forhold til, hvordan AI allerede har potentialet til at forårsage social forstyrrelse. Jeg blev så overrasket over kvaliteten af den klonede stemme (og i den ekstremt kloge, dog komiske, stil af en af mine kolleger), at jeg besluttede at bruge den samme software til "nærske" formål og se, hvor langt jeg kunne gå ind. for at stjæle fra en lille virksomhed – med tilladelse, selvfølgelig! Spoiler-alarm: det var overraskende nemt at udføre og tog næsten ikke tid overhovedet.
"AI er sandsynligvis enten det bedste eller værste, der kan ske for menneskeheden." – Stephen Hawking
Faktisk, siden begrebet AI blev mere mainstream i fiktionsfilm som Blade Runner og The Terminator, har folk stillet spørgsmålstegn ved de ubarmhjertige muligheder for, hvad teknologien kunne fortsætte med at producere. Men først nu med kraftfulde databaser, stigende computerkraft og medieopmærksomhed har vi set AI ramme et globalt publikum på måder, der er både skræmmende og spændende. Med teknologi såsom kunstig intelligens, der strejfer blandt os, er det yderst sandsynligt, at vi ser kreative og ret sofistikerede angreb finde sted med skadelige resultater.
Stemmekloning eskapade
Min tidligere roller i politiet indpodede mig tankegangen til at forsøge at tænke som en kriminel. Denne tilgang har nogle meget håndgribelige og alligevel undervurderede fordele: Jo mere man tænker og endda handlinger ligesom en kriminel (uden faktisk at blive det), jo bedre beskyttet kan man være. Dette er helt afgørende for at holde sig ajour med de seneste trusler samt forudse de kommende tendenser.
Så for at teste nogle af AI's nuværende evner, har jeg igen været nødt til at påtage mig en digital kriminel tankegang og etisk angribe en virksomhed!
Jeg spurgte for nylig en kontaktperson – lad os kalde ham Harry – om jeg kunne klone hans stemme og bruge den til at angribe hans firma. Harry accepterede og lod mig starte eksperimentet ved at lave en klon af hans stemme ved hjælp af let tilgængelig software. Heldigvis for mig var det relativt enkelt at få fat i Harrys stemme – han optager ofte korte videoer, der promoverer sin virksomhed på sin YouTube-kanal, så jeg var i stand til at sammensætte et par af disse videoer for at lave en god lydtestseng. Inden for et par minutter havde jeg genereret en klon af Harrys stemme, som lød ligesom ham for mig, og jeg var derefter i stand til at skrive hvad som helst og få det afspillet i hans stemme.
For at øge ante, besluttede jeg også at tilføje ægthed til angrebet af stjæler Harrys WhatsApp-konto ved hjælp af en SIM swap angreb – igen med tilladelse. Jeg sendte derefter en talebesked fra hans WhatsApp-konto til økonomidirektøren for hans virksomhed – lad os kalde hende Sally – og anmodede om en betaling på £250 til en "ny entreprenør". På tidspunktet for angrebet vidste jeg, at han var på en nærliggende ø og spiste en forretningsfrokost, hvilket gav mig den perfekte historie og mulighed for at slå til.
Talebeskeden indeholdt, hvor han var, og at han havde brug for "gulvplanfyren" betalt, og sagde, at han ville sende bankoplysningerne separat med det samme. Dette tilføjede bekræftelsen fra lyden af hans stemme oven på den stemmebesked, der blev tilføjet til Sallys WhatsApp-tråd, hvilket var nok til at overbevise hende om, at anmodningen var ægte. Inden for 16 minutter efter den første besked havde jeg sendt 250 £ til min personlige konto.
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
- PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
- PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
- PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
- Kilde: https://www.welivesecurity.com/en/cybersecurity/your-voice-is-my-password/
- :har
- :er
- :ikke
- :hvor
- $OP
- 118
- 16
- 2FA
- 7
- a
- evner
- I stand
- Om
- absolut
- Konto
- Konti
- faktisk
- Ad
- tilføje
- tilføjet
- tilføje
- Yderligere
- adresse
- indrømme
- Efter
- igen
- alder
- aftalt
- AI
- sigte
- Alert
- Alle
- angiveligt
- tilladt
- allerede
- også
- Skønt
- am
- blandt
- blandt os
- an
- ,
- enhver
- noget
- app
- Apple
- Apple Card
- tilgang
- ER
- ankom
- kunstig
- kunstig intelligens
- AS
- antaget
- At
- angribe
- Angreb
- forsøg
- Forsøg på
- opmærksomhed
- publikum
- lyd
- Godkendelse
- ægthed
- til rådighed
- undgå
- bevidsthed
- tilbage
- Bank
- grundlæggende
- BE
- blev
- fordi
- blive
- været
- før
- være
- fordele
- BEDSTE
- Bedre
- KLINGE
- BOSS
- bounds
- bragte
- virksomhed
- virksomhedsejere
- men
- by
- ringe
- kom
- CAN
- kan ikke
- kort
- Kort
- bære
- Boligtype
- forårsager
- Kanal
- kode
- kolleger
- Kom
- almindeligt
- selskab
- overbevisende
- computer
- computerkraft
- Konceptet
- sikker
- tilsluttet
- kontakt
- kontakter
- overbevise
- kunne
- Kursus
- Oprettelse af
- Kreativ
- Criminal
- Kriminelle
- Nuværende
- cyberkriminelle
- beskadige
- data
- databaser
- Dato
- debriefing
- besluttede
- defensiv
- detail
- detaljer
- DID
- digital
- Direktør
- Forstyrrelse
- Dont
- dynamisk
- e
- let
- effektivt
- enten
- muliggøre
- muliggør
- nok
- indtastet
- lige
- begivenheder
- NOGENSINDE
- eksempel
- spændende
- udøvende
- eksisterende
- eksperiment
- eksperimenter
- ekstremt
- Ansigtet
- faktorer
- falsk
- Fall
- Faldende
- langt
- fejl
- få
- fiktive
- Figur
- film
- økonomi
- finansielle
- Til
- forudse
- gaffel
- formular
- ven
- fra
- gav
- genereret
- generation
- ægte
- få
- Global
- globalt publikum
- Go
- godt
- havde
- ske
- sker
- Hård Ost
- Hardware
- Have
- have
- he
- hjælpe
- hende
- link.
- ham
- hans
- Hit
- hold
- Hvordan
- Men
- HTTPS
- Menneskelighed
- i
- identiteter
- if
- billede
- straks
- betydning
- forbedring
- in
- medtaget
- Herunder
- stigende
- stigende
- oplysninger
- initial
- i stedet
- Intelligens
- interesse
- interessant
- ind
- ø
- IT
- jpg
- lige
- Holde
- holde
- Kend
- seneste
- føre
- spring
- LÆR
- læring
- Niveau
- løftestang
- ligesom
- Sandsynlig
- forbundet
- Liste
- Se
- kiggede
- frokost
- maskine
- machine learning
- Mainstream
- lave
- Making
- Håndtering
- mange
- mange mennesker
- masserne
- matchede
- materiale
- max-bredde
- me
- måle
- foranstaltninger
- Medier
- besked
- måske
- minut
- Mindset
- minutter
- Mobil
- penge
- mere
- flytning
- flerlagede
- skal
- my
- navn
- behov
- Unødvendig
- Ny
- næste
- november
- nu
- nummer
- of
- off
- tilbyde
- Tilbud
- tit
- on
- engang
- ONE
- online
- kun
- Opportunity
- or
- ordrer
- Andet
- vores
- ud
- Resultat
- ejere
- betalt
- Adgangskode
- betaling
- Mennesker
- perfekt
- tilladelse
- person,
- personale
- Personlig data
- Phishing
- phishing-angreb
- telefon
- foto
- Place
- fly
- plato
- Platon Data Intelligence
- PlatoData
- spillet
- Police
- muligheder
- mulig
- Indlæg
- potentiale
- magt
- vigtigste
- Prepaid
- Processer
- producere
- skrider frem
- Fremme
- beskyttet
- beskyttelse
- udbyder
- leverer
- formål
- kvalitet
- Adspurgt
- hurtigt
- hellere
- let
- ægte
- for nylig
- optegnelser
- refleksion
- relativt
- frigive
- ubarmhjertig
- anmode
- anmodninger
- Resultater
- risici
- vej
- runner
- sikker
- sikkerhedsforanstaltninger
- Said
- samme
- gemt
- siger
- Fup
- Snydere
- sikkerhed
- se
- set
- send
- følsom
- sendt
- adskille
- Del
- hun
- chokeret
- Kort
- bør
- Vis
- underskrevet
- JA
- SIM-swap
- Simpelt
- ganske enkelt
- siden
- lille
- Small Business
- So
- Social
- Software
- nogle
- Nogen
- sofistikeret
- Lyd
- lød
- særligt
- specifikt
- starte
- Starter
- erklærede
- opholder
- Stephen
- Stadig
- Story
- lige
- strejke
- stil
- sådan
- sikker
- bytte
- Tag
- taget
- materielle
- målrettet
- Teknologier
- vilkår
- skræmmende
- prøve
- afprøvet
- end
- at
- deres
- derefter
- Disse
- de
- ting
- ting
- tror
- tænker
- denne
- trusler
- tid
- tips
- Titel
- til
- sammen
- også
- tog
- værktøjer
- top
- Kurser
- Transaktioner
- overførsler
- Tendenser
- to
- Ultimativt
- Opdatering
- opdateret
- us
- brug
- anvendte
- ved brug af
- Verifikation
- verificeres
- verificere
- meget
- via
- Victim
- Videoer
- afgørende
- Voice
- ønsker
- var
- Vej..
- måder
- we
- GODT
- Hvad
- som
- WHO
- bredde
- med
- inden for
- uden
- arbejdede
- Værst
- ville
- skriver
- endnu
- Du
- Din
- youtube
- zephyrnet