Teadlased loovad AI küberkaitsja, mis reageerib ründajatele

Äsja loodud tehisintellekti (AI) süsteem, mis põhineb sügaval tugevdamisel õppimisel (DRL) suudab reageerida ründajatele simuleeritud keskkonnas ja blokeerida 95% küberrünnakutest enne nende eskaleerumist.

Nii ütlesid energeetikaministeeriumi Vaikse ookeani loodeosa riikliku labori teadlased, kes koostasid võrgus ründajate ja kaitsjate vahelise digitaalse konflikti abstraktse simulatsiooni ning koolitasid nelja erinevat DRL-närvivõrku, et maksimeerida hüvesid, mis põhinevad kompromisside vältimisel ja võrguhäirete minimeerimisel.

Simuleeritud ründajad kasutasid mitmeid taktikaid, mis põhinesid MITER ATT&CK raamistiku klassifikatsiooni, et liikuda esialgsest juurdepääsu- ja luurefaasist teistesse rünnakufaasidesse, kuni nad saavutavad oma eesmärgi: löögi ja väljafiltreerimise faasi.

Tehisintellektisüsteemi edukas väljaõpe lihtsustatud ründekeskkonna alal näitab, et kaitsereaktsioone rünnakutele reaalajas saab käsitleda tehisintellekti mudeli abil, ütles Samrat Chatterjee, andmeteadlane, kes tutvustas meeskonna tööd Assotsiatsiooni aastakoosolekul. Tehisintellekti arendamine Washingtonis 14. veebruaril.

"Te ei taha liikuda keerukamatesse arhitektuuridesse, kui te ei suuda isegi näidata nende tehnikate lubadust," ütleb ta. "Tahtsime kõigepealt näidata, et suudame DRL-i edukalt treenida ja näidata häid testitulemusi, enne kui edasi liigume."

Masinõppe ja tehisintellekti tehnikate rakendamine küberturvalisuse erinevates valdkondades on viimase kümnendi jooksul muutunud kuumaks trendiks, alates masinõppe varasest integreerimisest e-posti turvaväravatesse. 2010ndate alguses viimastele jõupingutustele kasutage koodi analüüsimiseks ChatGPT-d või teha kohtuekspertiisi analüüse. Nüüd enamikul turbetoodetel on – või väidavad, et neil on – mõned funktsioonid, mida toidavad suurtel andmekogumitel treenitud masinõppealgoritmid.

Kuid ennetava kaitsevõimega tehisintellektisüsteemi loomine on jätkuvalt pigem püüdlik kui praktiline. Kuigi teadlastel on veel mitmesuguseid takistusi, näitavad PNNL-i uuringud, et tehisintellekti kaitsja võib tulevikus olla võimalik.

"Mitme DRL-algoritmi hindamine, mis on koolitatud erinevates konkureerivates tingimustes, on oluline samm praktiliste autonoomsete küberkaitselahenduste suunas," ütles PNNL-i uurimisrühm. märkis oma paberil. "Meie katsed näitavad, et mudelivabu DRL-algoritme saab tõhusalt treenida mitmeastmeliste rünnakuprofiilide all, millel on erinevad oskused ja püsivus, mis annab vaidlustatud seadetes soodsaid kaitsetulemusi."

Kuidas süsteem MITER ATT&CK kasutab

Uurimisrühma esimene eesmärk oli luua kohandatud simulatsioonikeskkond, mis põhineb avatud lähtekoodiga tööriistakomplektil Avage AI jõusaal. Seda keskkonda kasutades lõid teadlased erineva oskuste ja püsivuse tasemega ründajaüksused, mis suutsid kasutada MITER ATT&CK raamistiku 7 taktikat ja 15 tehnikat.

Ründajaagentide eesmärgid on liikuda läbi ründeahela seitsme etapi, alates esialgsest juurdepääsust kuni täitmiseni, püsivusest käsu ja kontrollini ning kogumisest kuni löögini.

Ründaja jaoks võib oma taktika kohandamine keskkonnaseisundi ja kaitsja praeguste tegevustega olla keeruline, ütleb PNNL-i Chatterjee.

"Vastane peab liikuma esialgsest uurimisseisundist kuni eksfiltratsiooni või löögi olekuni," ütleb ta. "Me ei püüa luua mudelit vastase peatamiseks enne, kui nad keskkonda jõuavad - eeldame, et süsteem on juba ohustatud."

Teadlased kasutasid nelja lähenemist närvivõrkudele, mis põhinesid tugevdusõppel. Tugevdusõpe (RL) on masinõppe lähenemisviis, mis jäljendab inimaju tasustamissüsteemi. Närvivõrk õpib, tugevdades või nõrgendades üksikute neuronite teatud parameetreid, et premeerida paremaid lahendusi, mida mõõdetakse süsteemi toimimist näitava skooriga.

Tugevdusõpe võimaldab arvutil luua hea, kuid mitte täiusliku lähenemisviisi käsilolevale probleemile, ütleb PNNL-i teadlane ja artikli autor Mahantesh Halappanavar.

"Ilma tugevdusõpet kasutamata saaksime seda siiski teha, kuid see oleks tõesti suur probleem, millel pole piisavalt aega ühegi hea mehhanismi väljamõtlemiseks," ütleb ta. "Meie uurimus … annab meile selle mehhanismi, kus sügav tugevdusõpe jäljendab teatud määral inimese käitumist ennast ja suudab seda väga suurt ruumi väga tõhusalt uurida."

Pole peamiseks ajaks valmis

Katsete käigus leiti, et spetsiifiline tugevdamisõppe meetod, mida tuntakse Deep Q Networkina, lõi tugeva lahenduse kaitseprobleemile, tabades 97% ründajatest testimise andmekogumis. Kuid uurimine on alles algus. Turvaspetsialistid ei peaks otsima tehisintellekti kaaslast, kes aitaks neil niipea intsidentidele reageerida ja kohtuekspertiisi teha.

Paljude lahendamist vajavate probleemide hulgas on armeerimisõppe ja sügavate närvivõrkude hankimine, et selgitada nende otsuseid mõjutanud tegureid – uurimisvaldkonda, mida nimetatakse seletatavaks tugevdamiseks õppimiseks (XRL).

Lisaks on AI-algoritmide töökindlus ja närvivõrkude treenimise tõhusate viiside leidmine mõlemad probleemid, mis tuleb lahendada, ütleb PNNL-i Chatterjee.

"Toote loomine - see ei olnud selle uurimistöö peamine motivatsioon, " ütleb ta. "See puudutas rohkem teaduslikke eksperimente ja algoritmilisi avastusi."

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• Platoblockchain. Web3 metaversiooni intelligentsus. Täiustatud teadmised. Juurdepääs siia.
• Allikas: https://www.darkreading.com/emerging-tech/researchers-create-ai-cyber-defender-that-reacts-to-attackers