Kuidas tehisintellektiga täiendatud ohuteave lahendab turvapuudused

Taasavaldanud Platon

järgijaid: 0

Kuidas tehisintellektiga täiendatud ohuluure lahendab turvapuudujäägid PlatoBlockchaini andmeluure. Vertikaalne otsing. Ai.

Turvaoperatsioonide ja ohtude luuremeeskondadel on pidevalt vähe töötajaid, nad on ülekoormatud andmetega ja tegelevad konkureerivate nõudmistega – kõik probleemid, mida suure keelemudeli (LLM) süsteemid võivad aidata lahendada. Kuid kogemuste puudumine süsteemidega takistab paljudel ettevõtetel tehnoloogia kasutuselevõttu.

LLM-e rakendavad organisatsioonid suudavad paremini sünteesida luureandmeid toorandmetest ja süvendada oma ohuluurevõimet, kuid sellised programmid vajavad õigesti keskendumiseks turvalisuse juhtkonna tuge. Meeskonnad peaksid rakendama LLM-e lahendatavate probleemide jaoks ja enne seda peavad nad hindama LLM-ide kasulikkust organisatsiooni keskkonnas, ütleb Mandianti luureanalüüsi rühma juht John Miller.

"Meie eesmärk on aidata organisatsioonidel ebakindlusest üle saada, sest edulugusid ega ebaõnnestumiste lugusid pole veel palju," ütleb Miller. "Praegu pole veel vastuseid, mis põhineksid tavapäraselt saadaolevatel kogemustel, ja tahame luua raamistiku, mille abil mõelda, kuidas seda tüüpi mõju puudutavaid küsimusi kõige paremini oodata."

Esitluses kl Must müts USA augusti alguses pealkirjaga "Kuidas näeb välja LLM-põhise ohuteabe programm?”, Miller ja Ron Graf, Mandianti Google Cloudi luure-analüütika meeskonna andmeteadlane, demonstreerivad valdkondi, kus LLM-id saavad turvatöötajaid täiendada, et kiirendada ja süvendada küberturvalisuse analüüsi.

Kolm ohuteabe koostisosa

Turbespetsialistid, kes soovivad luua oma organisatsiooni jaoks tugeva ohuanalüüsi võime, vajavad sisemise ohuluure funktsiooni edukaks loomiseks kolme komponenti, ütleb Miller Dark Readingile. Nad vajavad andmeid asjakohaste ohtude kohta; võime neid andmeid töödelda ja standardida, et need oleksid kasulikud; ja võime tõlgendada, kuidas need andmed on seotud turvaprobleemidega.

Seda on lihtsam öelda kui teha, sest ohuluure meeskonnad või ohuluure eest vastutavad isikud on sageli andmete või sidusrühmade päringutega üle koormatud. Kuid LLM-id võivad aidata lõhet ületada, võimaldades teistel organisatsiooni rühmadel taotleda andmeid loomuliku keele päringute abil ja saada teavet mittetehnilises keeles, ütleb ta. Levinud küsimused hõlmavad suundumusi konkreetsetes ohuvaldkondades, nagu lunavara, või kui ettevõtted soovivad teada saada ohtudest konkreetsetel turgudel.

"Juhid, kellel õnnestub suurendada oma ohuteavet LLM-põhiste võimalustega, saavad põhimõtteliselt planeerida oma ohuanalüüsi funktsioonilt suuremat investeeringutasuvust," ütleb Miller. "Mida juht võib tulevikku mõeldes oodata ja mida nende praegune luurefunktsioon saab teha, on samade ressurssidega suurema võimekuse loomine, et neile küsimustele vastata."

AI ei saa asendada inimanalüütikuid

Organisatsioonid, mis kasutavad LLM-e ja tehisintellektiga täiustatud ohuteavet, saavad paremini ümber kujundada ja kasutada ettevõtte turbeandmekogumeid, mis muidu jääksid kasutamata. Siiski on lõkse. LLM-idele toetumine sidusa ohuanalüüsi koostamisel võib säästa aega, kuid võib ka näiteks põhjustada võimalikud "hallutsinatsioonid" - LLM-ide puudus kus süsteem loob ühendusi, kus neid pole, või valmistab vastused täielikult, tänu koolitamisele valede või puuduvate andmete osas.

"Kui tuginete oma ettevõtte turvalisuse kohta otsuse tegemisel mudeli väljundile, siis soovite saada kinnitust, et keegi on seda vaadanud ja suudab tuvastada, kas selles on põhimõttelisi vigu, "ütleb Google Cloudi Miller. "Peate olema kindel, et teil on kvalifitseeritud eksperdid, kes saavad rääkida nendele küsimustele vastamisel või nende otsuste tegemisel saadud ülevaate kasulikkusest."

Sellised probleemid ei ole ületamatud, ütleb Google Cloudi Graf. Organisatsioonid võiksid ühendada konkureerivad mudelid, et sisuliselt kontrollida terviklikkust ja vähendada hallutsinatsioonide esinemissagedust. Lisaks võib küsimuste esitamine optimeeritud viisil – nn kiire insenerina – anda paremaid vastuseid või vähemalt selliseid, mis on tegelikkusega kõige paremini kooskõlas.

Graf ütleb, et tehisintellekti hoidmine inimesega paaris on aga parim viis.

"Meie arvamus on, et parim lähenemisviis on lihtsalt inimeste kaasamine ahelasse," ütleb ta. "Ja see toob igal juhul kaasa allavoolu jõudluse paranemise, nii et organisatsioonid saavad sellest endiselt kasu."

See suurendamisviis on kogunud tõmbejõudu, nagu liitunud on küberturvafirmad teised ettevõtted, kes uurivad võimalusi oma põhivõimaluste muutmiseks suurte LLM-idega. Märtsis näiteks Microsoft käivitas Security Copilot aidata küberturvameeskondadel rikkumisi uurida ja ohte otsida. Ja aprillis tutvustas ohuluurefirma Recorded Future LLM-i täiustatud võimalust, leides, et süsteemi võime muuta tohutud andmed või põhjalik otsing lihtsaks kahe- või kolmelauseliseks koondaruandeks analüütiku jaoks on säästnud märkimisväärselt aega. selle turvaspetsialistid.

"Põhimõtteliselt on ohuluure minu arvates "suurte andmete" probleem ja teil peab olema laialdane nähtavus rünnaku kõikidel tasanditel ründajale, infrastruktuurile ja inimestele, keda nad sihivad," ütleb Jamie Zajac. Recorded Future tooteosakonna asepresident, kelle sõnul võimaldab tehisintellekt inimestel selles keskkonnas lihtsalt tõhusam olla. "Kui teil on kõik need andmed olemas, on teil probleem, kuidas te sellest tegelikult millekski kasulikuks sünteesidate?" ja avastasime, et kasutades meie luureandmeid ja suuri keelemudeleid … hakkasid [meie analüütikud] säästma tunde ja tunde. aeg."