COMENTARIU
Ca experți în securitate cibernetică prezis acum un an, inteligența artificială (AI) a fost un jucător central în peisajul criminalității cibernetice din 2023, conducând la o creștere a atacurilor, contribuind și la îmbunătățirea apărării împotriva viitoarelor atacuri. Acum, îndreptându-se spre 2024, experții din industrie se așteaptă ca AI să exercite și mai multă influență în securitatea cibernetică.
Google Cloud Cybersecurity Forecast 2024 vede inteligența artificială generativă și modelele de limbaj mari contribuind la o creștere a diferitelor forme de atacuri cibernetice. Peste 90% dintre directorii executivi canadieni în un sondaj KPMG cred că AI generativă îi va face mai vulnerabili la încălcări. Iar un raport al guvernului Regatului Unit spune că AI pune a amenințare pentru următoarele alegeri din țară.
În timp ce amenințările legate de inteligența artificială sunt încă în stadiile incipiente, volumul și sofisticarea atacurilor determinate de inteligența artificială cresc în fiecare zi. Organizațiile trebuie să se pregătească pentru ceea ce urmează.
4 moduri în care criminalii cibernetici folosesc AI
Există patru moduri principale prin care adversarii folosesc instrumentele AI disponibile în mod obișnuit, cum ar fi ChatGPT, Dall-E și Midjourney: atacuri automate de phishing, atacuri de uzurpare a identității, atacuri de inginerie socială și chatbot falși de asistență pentru clienți.
Atacurile spear-phishing primesc un impuls major din partea AI. În trecut, era mai ușor să identifici încercările de phishing doar pentru că multe erau pline de greșeli de gramatică și ortografie slabe. Cititorii exigenți ar putea observa o astfel de comunicare ciudată, nesolicitată, presupunând că probabil a fost generată dintr-o țară în care engleza nu este limba principală.
ChatGPT a eliminat aproape informația. Cu ajutorul ChatGPT, un criminal cibernetic poate scrie un e-mail cu o gramatică perfectă și o utilizare a limbii engleze, stilat în limba unei surse legitime. Infractorii cibernetici pot trimite comunicații automate imitând, de exemplu, o autoritate de la o bancă care solicită utilizatorilor să se conecteze și să furnizeze informații despre conturile lor 401(k). Când un utilizator face clic pe un link pentru a începe să furnizeze informații, hackerul preia controlul asupra contului.
Cât de popular este acest truc? SlashNext Raport privind starea de phishing 2023 a atribuit o creștere cu 1,265% a e-mailurilor de phishing rău intenționate din al patrulea trimestru din 2022, în mare parte, compromisuri de e-mailuri de afaceri folosind instrumente AI.
Atacurile de uzurpare a identității sunt, de asemenea, în creștere. Folosind ChatGPT și alte instrumente, escrocii se uită la persoane și organizații reale, comit furturi de identitate și fraude. La fel ca și în cazul atacurilor de tip phishing, aceștia folosesc chatboți pentru a trimite mesaje vocale pretinzând a fi un prieten de încredere, un coleg sau un membru al familiei în încercarea de a obține informații sau de a accesa un cont.
Un exemplu a avut loc în Saskatchewan, Canada, la începutul anului 2023. Un cuplu în vârstă a primit un apel de la cineva care își făcea identitate nepotul, susținând că acesta a avut un accident de mașină și că este ținut în închisoare. Apelantul a transmis o poveste că a fost rănit, și-a pierdut portofelul și a avut nevoie de 9,400 de dolari în numerar pentru a se înțelege cu proprietarul celeilalte mașini pentru a evita acuzațiile. Bunicii au mers la banca lor pentru a retrage banii, dar au evitat să fie înșelați când un funcționar al băncii i-a convins că cererea nu este legitimă.
În timp ce experții din industrie credeau că această utilizare sofisticată a tehnologiei de clonare a vocii AI se va dezvolta în câțiva ani, puțini se așteptau ca aceasta să devină atât de eficientă atât de repede.
Criminalii cibernetici folosesc ChatGPT și alți chatbot AI pentru a efectua atacuri de inginerie socială care stimulează haosul. Ei folosesc o combinație de clonare a vocii și tehnologie deepfake pentru a face să pară că cineva spune ceva incendiar.
Acest lucru s-a întâmplat în noaptea dinaintea alegerilor pentru primarul din Chicago, în februarie. Un hacker a creat un videoclip deepfake și l-a postat pe X, cunoscut anterior sub numele de Twitter, arătându-l pe candidatul Paul Vallas că ar fi făcut comentarii false incendiare și rostind puncte de vedere politice controversate. Videoclipul a generat mii de vizualizări înainte de a fi eliminat de pe platformă.
Ultima tactică, chatbot-uri falși pentru serviciul clienți, există, dar probabil că sunt la un an sau doi de a câștiga o mare popularitate. Un site bancar fraudulos ar putea fi creat folosind un chatbot de serviciu pentru clienți care pare uman. Chatbot-ul poate fi folosit pentru a manipula victimele nebănuitoare pentru a le oferi informații personale și de cont sensibile.
Cum se luptă securitatea cibernetică
Vestea bună este că AI este folosită și ca instrument de securitate pentru a combate înșelătoriile bazate pe inteligență artificială. Iată trei moduri în care industria securității cibernetice ripostează.
Dezvoltându-și propriul AI adversar
În esență, aceasta creează „IA bună” și o antrenează pentru a combate „AI proastă”. Dezvoltându-și propriile rețele generative adversarial (GAN), firmele cibernetice pot afla la ce să se aștepte în cazul unui atac. GAN-urile constau din două rețele neuronale: un generator care creează noi mostre de date și un discriminator, care distinge mostrele generate de mostrele originale.
Folosind aceste tehnologii, GAN-urile pot genera noi modele de atac care seamănă cu modelele de atac văzute anterior. Prin antrenarea unui model pe aceste modele, sistemele pot face predicții despre tipul de atacuri pe care ne putem aștepta să le vedem și despre modurile în care infractorii cibernetici exploatează aceste amenințări.
Detectarea anomaliilor
Aceasta înseamnă înțelegerea liniei de bază a comportamentului normal și apoi identificarea când cineva se abate de la acel comportament. Când cineva se conectează la un cont dintr-o locație diferită decât de obicei sau dacă departamentul de contabilitate folosește în mod misterios un sistem PowerShell utilizat în mod normal de dezvoltatorii de software, acesta ar putea fi un indicator al unui atac. În timp ce sistemele de securitate cibernetică au folosit de mult acest model, modelele tehnologice suplimentare pe care le posedă AI pot semnala mai eficient mesajele care sunt potențial suspecte.
Răspuns de detectare
Folosind sisteme AI, instrumente și servicii de securitate cibernetică, cum ar fi detectarea și răspunsul gestionat (MDR), pot detecta mai bine amenințările și pot comunica informații despre acestea echipelor de securitate. AI ajută echipele de securitate să identifice și să abordeze mai rapid amenințările legitime prin primirea de informații succinte și relevante. Mai puțin timp petrecut urmărind false pozitive și încercând să descifreze jurnalele de securitate ajută echipele să lanseze răspunsuri mai eficiente.
Concluzie
Instrumentele AI deschid ochii societății către noi posibilități în aproape fiecare domeniu de activitate. Pe măsură ce hackerii profită din plin de tehnologiile mari model de limbaj, industria va trebui să țină pasul pentru a menține amenințarea AI sub control.
- Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
- PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
- PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
- PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
- PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
- Sursa: https://www.darkreading.com/vulnerabilities-threats/how-ai-shaping-future-cybercrime
- :are
- :este
- :Unde
- 1
- 2022
- 2023
- 2024
- 400
- 7
- a
- Despre Noi
- acces
- accident
- Cont
- Contabilitate
- Conturi
- peste
- adăugat
- adresa
- Avantaj
- contradictorialității
- împotriva
- înainte
- AI
- Modele AI
- Sisteme AI
- de asemenea
- an
- și
- apare
- SUNT
- artificial
- inteligență artificială
- Inteligența artificială (AI)
- AS
- At
- ataca
- Atacuri
- încercare
- încercarea
- Încercările
- autoritate
- Automata
- disponibil
- evita
- evitat
- departe
- înapoi
- Rău
- Bancă
- De bază
- BE
- deoarece
- deveni
- fost
- înainte
- comportament
- fiind
- credea
- Mai bine
- a stimula
- încălcări
- dar
- by
- apel
- apelant
- CAN
- Canada
- canadian
- candidat
- mașină
- transporta
- purtător
- Bani gheata
- central
- directori generali
- Haos
- taxe
- chatbot
- chatbots
- Chat GPT
- Chicago
- revendicare
- Cloud
- coleg
- combaterea
- combinaţie
- în mod obișnuit
- comunica
- Comunicare
- Comunicații
- contribuind
- Control
- controversat
- convins
- ar putea
- ţară
- Cuplu
- a creat
- creează
- Crearea
- client
- Serviciu clienți
- Relații Clienți
- Cyber
- atacuri cibernetice
- criminalităţii cibernetice
- CYBERCRIMINAL
- cybercriminals
- Securitate cibernetică
- dall-e
- de date
- zi
- Descifra
- Apărare
- Departament
- detecta
- Detectare
- dezvolta
- Dezvoltatorii
- în curs de dezvoltare
- diferit
- do
- conducere
- Devreme
- mai ușor
- Eficace
- în mod eficient
- Vârstnici
- Alegere
- eliminat
- e-mailuri
- Inginerie
- Engleză
- Erori
- Chiar
- eveniment
- Fiecare
- in fiecare zi
- exemplu
- exista
- aștepta
- de aşteptat
- experți
- exploatând
- Ochi
- cu care se confruntă
- fals
- fals
- familie
- februarie
- puțini
- camp
- luptă
- firme
- Pentru
- Prognoză
- anterior
- formulare
- patru
- Al patrulea
- fraudă
- necinstit
- prieten
- din
- Fuller,
- viitor
- câștigă
- genera
- generată
- generativ
- AI generativă
- generator
- obține
- obtinerea
- bine
- Guvern
- gramatică
- hacker
- hackeri
- HAD
- remitere
- sa întâmplat
- Avea
- he
- Rubrică
- Held
- ajutor
- ajută
- aici
- lui
- Cum
- HTML
- HTTPS
- uman
- Rănit
- identifica
- identificarea
- Identitate
- if
- îmbunătățiri
- in
- Crește
- crescând
- Indicator
- persoane fizice
- industrie
- experți în industrie
- influență
- informații
- Inteligență
- în
- ISN
- IT
- închisoare
- jpg
- doar
- A pastra
- Copil
- cunoscut
- KPMG
- peisaj
- limbă
- mare
- în mare măsură
- Nume
- lansa
- AFLAȚI
- legitim
- mai puțin
- efectului de pârghie
- ca
- Probabil
- LINK
- locaţie
- log
- Lung
- Uite
- arată ca
- pierdut
- Principal
- major
- face
- rău
- gestionate
- multe
- MDR
- membru
- mesaje
- MidJourney
- model
- Modele
- bani
- mai mult
- mult
- Nevoie
- necesar
- rețele
- neural
- rețele neuronale
- Nou
- ştiri
- următor
- noapte
- normală.
- în mod normal
- acum
- of
- oficial
- on
- de deschidere
- or
- organizații
- original
- Altele
- afară
- peste
- propriu
- proprietar
- Pace
- trecut
- modele
- Paul
- Perfect
- personal
- Phishing
- atacuri de phishing
- Loc
- platformă
- Plato
- Informații despre date Platon
- PlatoData
- player
- Politica
- sărac
- Popular
- popularitate
- ridică
- poseda
- posibilităţile de
- postat
- potenţial
- PowerShell
- Predictii
- Pregăti
- destul de
- în prealabil
- primar
- probabil
- furniza
- Trimestru
- repede
- repede
- RE
- cititori
- real
- primit
- primire
- îndepărtat
- raportează
- solicita
- solicitând
- răspuns
- răspunsuri
- ghicită
- Ridica
- s
- spunând
- spune
- Escrocii
- escrocherii
- securitate
- vedea
- văzut
- vede
- trimite
- sensibil
- serviciu
- Servicii
- rezolva
- fasonarea
- întrucât
- teren
- Cer
- Social
- Inginerie sociala
- Societate
- Software
- Dezvoltatori de software
- Numai
- Cineva
- ceva
- sofisticat
- rafinament
- Sursă
- ortografie
- uzat
- Loc
- Stadiile
- Începe
- Încă
- Poveste
- astfel de
- a sustine
- suspicios
- sistem
- sisteme
- Lua
- ia
- echipe
- tehnologic
- Tehnologii
- Tehnologia
- decât
- acea
- Viitorul
- furturi
- lor
- Lor
- se
- apoi
- Acestea
- ei
- crede
- acest
- aceste
- mii
- amenințare
- amenințări
- trei
- timp
- la
- a luat
- instrument
- Unelte
- Pregătire
- de încredere
- stare de nervozitate
- Două
- Uk
- Guvernul britanic
- în
- înţelegere
- nesolicitat
- Folosire
- utilizare
- utilizat
- Utilizator
- utilizatorii
- folosind
- ca de obicei
- diverse
- victime
- Video
- vizualizari
- practic
- Voce
- volum
- vulnerabil
- Portofel
- a fost
- nu a fost
- modalități de
- we
- a mers
- au fost
- Ce
- cand
- care
- în timp ce
- larg
- voi
- cu
- retrage
- Apartamente
- ar
- scrie
- X
- an
- ani
- zephyrnet