Digital sikkerhet
AI-drevet stemmekloning kan gjøre ting altfor enkelt for svindlere – jeg vet det fordi jeg har testet det slik at du ikke trenger å lære om risikoene på den harde måten.
22 november 2023 • , 6 min. lese
den nylige tyveri av stemmen min brakte meg til et nytt veiskille når det gjelder hvordan AI allerede har potensialet til å forårsake sosial forstyrrelse. Jeg ble så overrasket over kvaliteten på den klonede stemmen (og i den ekstremt smarte, men likevel komiske, stilen av en av mine kolleger) at jeg bestemte meg for å bruke den samme programvaren til "ondsinnede" formål og se hvor langt jeg kunne gå inn. for å stjele fra en liten bedrift – med tillatelse, selvfølgelig! Spoilervarsel: det var overraskende enkelt å gjennomføre og tok nesten ikke tid i det hele tatt.
"AI er sannsynligvis enten det beste eller verste som kan skje med menneskeheten." – Stephen Hawking
Faktisk, siden konseptet AI ble mer mainstream i fiksjonsfilmer som Blade Runner og The Terminator, har folk stilt spørsmål ved de ubarmhjertige mulighetene for hva teknologien kunne fortsette å produsere. Men først nå med kraftige databaser, økende datakraft og medieoppmerksomhet har vi sett AI treffe et globalt publikum på måter som er både skremmende og spennende på samme måte. Med teknologi som AI som vandrer blant oss, er det ekstremt sannsynlig at vi vil se kreative og ganske sofistikerte angrep finne sted med skadelige resultater.
Stemmekloningseskapade
Min forrige roller i politiet innpodet i meg tankegangen til å forsøke å tenke som en kriminell. Denne tilnærmingen har noen veldig håndgripelige og likevel undervurderte fordeler: jo mer man tenker og til og med handlinger som en kriminell (uten faktisk å bli det), jo bedre beskyttet kan man være. Dette er helt avgjørende for å holde deg oppdatert med de siste truslene, samt forutse trendene som kommer.
Så for å teste noen av AIs nåværende evner, har jeg nok en gang måttet ta på meg tankegangen til en digital kriminell og etisk angripe en bedrift!
Jeg spurte nylig en kontakt av meg – la oss kalle ham Harry – om jeg kunne klone stemmen hans og bruke den til å angripe selskapet hans. Harry gikk med på det og lot meg starte eksperimentet ved å lage en klone av stemmen hans ved å bruke lett tilgjengelig programvare. Heldigvis for meg var det relativt enkelt å få tak i Harrys stemme – han spiller ofte inn korte videoer som promoterer virksomheten sin på YouTube-kanalen sin, så jeg var i stand til å sy sammen noen av disse videoene for å lage en god lydprøveseng. I løpet av noen få minutter hadde jeg generert en klone av Harrys stemme, som hørtes akkurat ut som ham for meg, og jeg var da i stand til å skrive hva som helst og få det spilt av i stemmen hans.
For å øke ante, bestemte jeg meg også for å legge til autentisitet til angrepet av stjele Harrys WhatsApp-konto ved hjelp av en SIM-bytteangrep – igjen, med tillatelse. Jeg sendte deretter en talemelding fra WhatsApp-kontoen hans til finansdirektøren i selskapet hans – la oss kalle henne Sally – og ba om en betaling på £250 til en "ny entreprenør". På tidspunktet for angrepet visste jeg at han var på en nærliggende øy og spiste en forretningslunsj, noe som ga meg den perfekte historien og muligheten til å slå til.
Talemeldingen inkluderte hvor han var og at han trengte at «plane-fyren» ble betalt, og sa at han ville sende bankopplysningene separat rett etterpå. Dette la til bekreftelsen fra lyden av stemmen hans på toppen av talemeldingen som ble lagt til Sallys WhatsApp-tråd, noe som var nok til å overbevise henne om at forespørselen var ekte. Innen 16 minutter etter den første meldingen hadde jeg £250 sendt til min personlige konto.
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
- kilde: https://www.welivesecurity.com/en/cybersecurity/your-voice-is-my-password/
- : har
- :er
- :ikke
- :hvor
- $OPP
- 118
- 16
- 2FA
- 7
- a
- evner
- I stand
- Om oss
- absolutt
- Logg inn
- kontoer
- faktisk
- Ad
- legge til
- la til
- legge
- Ytterligere
- adresse
- innrømme
- Etter
- en gang til
- alder
- avtalte
- AI
- sikte
- Varsle
- Alle
- angivelig
- tillatt
- allerede
- også
- Selv
- am
- blant
- blant oss
- an
- og
- noen
- hva som helst
- app
- eple
- Apple-kort
- tilnærming
- ER
- kom frem
- kunstig
- kunstig intelligens
- AS
- antatt
- At
- angripe
- Angrep
- forsøk
- forsøk
- oppmerksomhet
- publikum
- lyd
- Autentisering
- autentisitet
- tilgjengelig
- unngå
- bevissthet
- tilbake
- Bank
- grunnleggende
- BE
- ble
- fordi
- bli
- vært
- før du
- være
- Fordeler
- BEST
- Bedre
- BLAD
- SJEF
- grensene
- brakte
- virksomhet
- bedriftseiere
- men
- by
- ring
- kom
- CAN
- kan ikke
- kort
- Kort
- bære
- Kategori
- forårsaker
- Kanal
- kode
- kollegaer
- Kom
- vanligvis
- Selskapet
- overbevisende
- datamaskin
- datamaskinens strøm
- konsept
- trygg
- tilkoblet
- kontakt
- kontakter
- overbevise
- kunne
- Kurs
- Opprette
- Kreativ
- Criminal
- kriminelle
- Gjeldende
- nettkriminelle
- skade
- dato
- databaser
- Dato
- debrief
- besluttet
- defensiv
- detalj
- detaljer
- gJORDE
- digitalt
- Regissør
- Avbrudd
- ikke
- dynamisk
- e
- lett
- effektivt
- enten
- emalje
- muliggjøre
- muliggjør
- nok
- kom inn
- lik
- hendelser
- NOEN GANG
- eksempel
- spennende
- utøvende
- eksisterende
- eksperiment
- eksperimenter
- ekstremt
- Face
- faktorer
- forfalskning
- Fall
- Falling
- langt
- feil
- Noen få
- fiktiv
- Figur
- filmer
- økonomi
- finansiell
- Til
- forutse
- gaffel
- skjema
- venn
- fra
- ga
- generert
- generasjonen
- ekte
- få
- Global
- globalt publikum
- Go
- god
- HAD
- skje
- skjer
- Hard
- maskinvare
- Ha
- å ha
- he
- hjelpe
- her
- her.
- ham
- hans
- hit
- hold
- Hvordan
- Men
- HTTPS
- Menneskeheten
- i
- identiteter
- if
- bilde
- umiddelbart
- betydning
- bedre
- in
- inkludert
- Inkludert
- økende
- stadig
- informasjon
- innledende
- i stedet
- Intelligens
- interesse
- interessant
- inn
- Øya
- IT
- jpg
- bare
- Hold
- holde
- Vet
- siste
- føre
- sprang
- LÆRE
- læring
- Nivå
- utnytte
- i likhet med
- Sannsynlig
- knyttet
- Liste
- Se
- så
- lunsj
- maskin
- maskinlæring
- Mainstream
- gjøre
- Making
- Manipulasjon
- mange
- mange folk
- massene
- matchet
- materiale
- max bredde
- me
- måle
- målinger
- Media
- melding
- kunne
- minutter
- Tankesett
- minutter
- Mobil
- penger
- mer
- flytting
- flerlags
- må
- my
- navn
- nødvendig
- Unødvendig
- Ny
- neste
- november
- nå
- Antall
- of
- off
- tilby
- Tilbud
- ofte
- on
- gang
- ONE
- på nett
- bare
- Opportunity
- or
- rekkefølge
- Annen
- vår
- ut
- Utfallet
- eiere
- betalt
- Passord
- betaling
- Ansatte
- perfekt
- tillatelse
- person
- personlig
- personlig informasjon
- phishing
- phishing-angrep
- telefon
- bilde
- Sted
- fly
- plato
- Platon Data Intelligence
- PlatonData
- spilt
- Politiet
- muligheter
- mulig
- innlegg
- potensiell
- makt
- kraftig
- Prepaid
- Prosesser
- produsere
- framdrift
- fremme
- beskyttet
- beskyttelse
- leverandør
- gi
- formål
- kvalitet
- avhørt
- raskt
- heller
- lett
- ekte
- nylig
- poster
- refleksjon
- relativt
- slipp
- nådeløse
- anmode
- forespørsler
- Resultater
- risikoer
- vei
- runner
- trygge
- sikringstiltak
- Sa
- samme
- lagret
- sier
- Svindel
- svindlere
- sikkerhet
- se
- sett
- send
- sensitive
- sendt
- separat
- Del
- hun
- sjokkert
- Kort
- bør
- Vis
- signert
- JA
- JA bytte
- Enkelt
- ganske enkelt
- siden
- liten
- småbedrifter
- So
- selskap
- Software
- noen
- Noen
- sofistikert
- Lyd
- hørtes
- spesiell
- spesielt
- Begynn
- Start
- uttalte
- blir
- Stephen
- Still
- Story
- rett
- streik
- stil
- slik
- sikker
- swap
- Ta
- tatt
- håndgripelig
- målrettet
- Teknologi
- vilkår
- skremmende
- test
- testet
- enn
- Det
- De
- deres
- deretter
- Disse
- de
- ting
- ting
- tror
- tenker
- denne
- trusler
- tid
- tips
- Tittel
- til
- sammen
- også
- tok
- verktøy
- topp
- Kurs
- Transaksjoner
- overføringer
- Trender
- to
- Til syvende og sist
- Oppdater
- oppdatert
- us
- bruke
- brukt
- ved hjelp av
- Verifisering
- verifisert
- verifisere
- veldig
- av
- Offer
- videoer
- vital
- Voice
- ønsker
- var
- Vei..
- måter
- we
- VI VIL
- Hva
- hvilken
- HVEM
- bredde
- med
- innenfor
- uten
- arbeidet
- verste
- ville
- skrive
- ennå
- Du
- Din
- youtube
- zephyrnet