O Epocă de Aur a AI... sau amenințări de securitate?

O Epocă de Aur a AI... sau amenințări de securitate?

Marca temporală: 5 iulie 2023, ora 1:00
A Golden Age of AI … or Security Threats? PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Ne aflăm într-o epocă de aur a inteligenței artificiale? Este greu să faci predicții – și probabil prost sfătuit. Cine vrea să prezică viitorul unei astfel de noi tehnologii?

Putem, totuși, să spunem unele lucruri cu certitudine. Se face o mare parte din aplicarea AI pentru lucrări creative, de la actorie vocală la primele schițe de scenarii. Dar AI este probabil să fie cel mai util atunci când ai de-a face cu corvoadă. Aceasta este o veste bună pentru dezvoltatori, dacă promisiunea corespunde experimentelor timpurii - primele schițe de cod pot fi create cu ușurință și gata pentru ca dezvoltatorii să le modifice și să repete.

Cu toate acestea, este important să ne amintim acest lucru nu orice programator lucrează pentru o afacere legitimă. Așa cum actorii amenințărilor de securitate cibernetică și-au emulat țintele devenind mai profesioniști, ei adoptă și noi tehnologii și tehnici. Ne putem aștepta ca AI să ajute la dezvoltarea programelor malware și a altor amenințări în următorii ani, indiferent dacă intrăm sau nu într-o epocă de aur a AI.

Cod de redactare și escrocherii

O tendință pe care am văzut-o în ultimii ani este o creștere a ofertelor „ca serviciu”. Primii hackeri au fost chiroși și făcători de răutăți, păcălind sistemele telefonice sau provocând haos mai ales ca un exercițiu de distracție. Acest lucru s-a schimbat fundamental. Actorii de amenințări sunt profesioniști și adesea își vând produsele pentru ca alții să le folosească.

AI se va potrivi foarte bine în acest mod de lucru. Capabil să creeze cod pentru a rezolva probleme specifice, AI poate modifica codul pentru a viza vulnerabilități sau poate lua codul existent și îl poate schimba, astfel încât să nu fie detectat atât de ușor de măsurile de securitate care caută modele specifice.

Dar posibilitățile de utilizare greșită a AI nu se opresc aici. Multe e-mailuri de tip phishing sunt detectate de instrumente eficiente de filtrare și ajung în dosare nedorite. Cei care ajung în căsuța de e-mail sunt adesea înșelătorii foarte evidente, scrise atât de rău încât sunt la limită de neînțeles. Dar AI ar putea sparge acest tipar, creând mii de e-mailuri plauzibile care pot evita detectarea și pot fi suficient de bine scrise pentru a păcăli atât filtrele, cât și utilizatorii finali.

Spear-phishingul, forma mai țintită a acestui atac, ar putea fi, de asemenea, revoluționată de această tehnologie. Sigur, este ușor să ignorați un e-mail de la șeful dvs. prin care vă cere să transferați numerar sau să cumpărați urgent carduri cadou - instruirea în domeniul securității cibernetice îi ajută pe angajați să evite acest tip de escrocherie. Dar ce zici de un apel telefonic sau un chat video fals profund? AI are potențialul de a prelua apariții transmise și podcasturi și de a le transforma într-un simulacru convingător, ceva mult mai greu de ignorat.

Luptă împotriva atacurilor cibernetice AI

Există două modalități principale de a lupta împotriva beneficiilor pe care AI le va conferi inamicului - o IA mai bună și un antrenament mai bun — Și ambele vor fi necesare.

Apariția acestei noi generații de IA a început o nouă cursă înarmărilor. Pe măsură ce infractorii cibernetici îl folosesc pentru a-și evolua atacurile, echipele de securitate vor trebui să-l folosească pentru a-și dezvolta apărarea.

Fără AI, apărarea se bazează pe oameni suprasolicitați și pe monitorizarea anumitor modele preprogramate pentru a preveni atacurile. Instrumentele defensive AI vor fi capabile să prezică vectorii de atac și să identifice zonele sensibile ale rețelei și ale sistemelor. De asemenea, vor putea analiza codul rău intenționat, permițând o mai bună înțelegere a modului în care funcționează noile atacuri și cum pot fi prevenite.

Inteligența artificială ar putea funcționa, de asemenea, într-un caz de urgență, ca o oprire de urgență - dezactivând rețeaua la detectarea unei breșe și blocând întregul sistem. Deși nu este ideal din perspectiva continuității afacerii, acest lucru ar putea fi mult mai puțin dăunător decât o încălcare a datelor.

Dar lupta împotriva AI cu AI nu este singurul răspuns. Avem nevoie și de inteligență umană. Indiferent cât de inteligent și țintit, cea mai bună apărare împotriva unui atac de tip phishing este un angajat sau un client care știe ce să caute și este suficient de suspicios pentru a nu lua momeala. Implementarea politicilor de securitate solide și a celor mai bune practici de igienă cibernetică va rămâne esențială pentru apărarea împotriva atacurilor.

Aceasta înseamnă că antrenamentul va trebui actualizat pentru a include semnele unui atac AI... oricare ar fi acestea. Formarea va trebui să evolueze cu AI – un singur curs de formare la fiecare câțiva ani nu va mai reduce situația atunci când formarea respectivă este rapid depășită.

În timp ce posibilele semne ale unui atac cibernetic condus de AI se schimbă rapid, în general, atacurile sunt:

  • Rapid și scalabil, exploatând mai multe vulnerabilități într-un interval de timp scurt.
  • Adaptiv și evaziv, schimbarea tacticilor și tehnicilor pentru a evita detectarea și răspunsul.
  • Dirijate și personalizate, folosind AI pentru a crea e-mailuri convingătoare de phishing sau campanii de inginerie socială.
  • Înșelător și manipulator, folosind AI pentru a crea conținut fals sau modificat, cum ar fi deepfakes, clonarea vocii sau generarea de text.
  • Ascuns și persistent, ascunzându-se în infrastructura de rețea pentru o lungă perioadă de timp fără a fi observat.

Aceste semne nu sunt exhaustive și este posibil ca unele atacuri bazate pe inteligență artificială să nu le arate pe toate. Cu toate acestea, ele indică nivelul de amenințare pe care AI îl reprezintă pentru securitatea cibernetică.

Pentru a lupta eficient împotriva atacurilor cibernetice determinate de inteligență artificială, întreprinderile trebuie să gândească dincolo de actorii răi individuali și să se pregătească pentru atacuri coordonate din partea unor actori sponsorizați de stat sau organizații criminale care pot folosi inteligența artificială pentru a lansa campanii sofisticate folosind o abordare bazată pe risc. Ar trebui să aibă și un strategie proactivă care include audituri regulate de securitate, backup-uri, criptare și planuri de răspuns la incident. Acest lucru se realizează cel mai ușor prin obținerea unei certificări de securitate binecunoscute, cum ar fi PCI-DSS.

În cele din urmă, este imperativ ca organizațiile să îmbunătățească securitatea cibernetică a propriilor sisteme AI prin asigurarea integrității, confidențialității și disponibilității acestora și prin atenuarea riscurilor de atacuri adverse, otrăvire a datelor și furt de modele.

Aceste strategii vor ajuta la protejarea afacerilor, dar nu ar trebui să fie de sine stătătoare – securitatea ar trebui să fie colaborativă. Colaborând cu alte organizații, cercetători și autorități pentru a împărtăși informații, bune practici și eșecuri din care pot fi învățate, companiile vor fi mai bine pregătite pentru noul val de amenințări de securitate AI.

AI este atât o nouă amenințare, cât și o continuare a amenințărilor mai vechi. Companiile vor trebui să evolueze modul în care abordează amenințările cibernetice, pe măsură ce aceste amenințări devin mai sofisticate și mai numeroase, dar multe dintre elementele fundamentale rămân aceleași. Obținerea corectă a acestora rămâne critică. Echipele de securitate nu trebuie să se îndepărteze de ideile vechi, ci să se bazeze pe ele pentru a-și menține afacerile în siguranță.

Timestamp-ul:

Mai mult de la Lectură întunecată