Vil ChatGPT begynde at skrive dræber malware?

ChatGPT skrev ikke denne artikel – det gjorde jeg. Jeg bad den heller ikke for at besvare spørgsmålet fra titlen - det vil jeg. Men det er vel bare hvad ChatGPT kan sige. Heldigvis er der nogle grammatikfejl tilbage for at bevise, at jeg ikke er en robot. Men det er netop den slags ting, ChatGPT også kan gøre for at virke ægte.

Denne nuværende robot-hipster-teknologi er en fancy autoresponder, der er god nok til at producere lektiesvar, forskningspapirer, juridiske svar, medicinske diagnoser og en lang række andre ting, der har bestået "lugtetesten", når de behandles, som om de er et værk af menneskelige aktører. Men vil det føje meningsfuldt til de hundredtusindvis af malware-prøver, vi ser og behandler dagligt, eller vil det være en let opdaget falsk?

I en maskine-på-maskine duel, som teknoraterne har begæret efter i årevis, fremstår ChatGPT lidt "for godt" til ikke at blive opfattet som en seriøs udfordrer, der kan forstyrre det modsatte maskineri. Da både angriberen og forsvareren brugte de nyeste maskinlæringsmodeller (ML), måtte dette ske.

Bortset fra, at bygge gode antimalware-maskineri, er det ikke kun robot-på-robot. En vis menneskelig indgriben har altid været påkrævet: det besluttede vi for mange år siden, til ærgrelse for de ML-forhandlere, der går ind i markedsføringskampen – alt imens de insisterede på at mudre vandet ved at henviser til deres ML-only produkter som bruger "AI".

Mens ML-modeller er blevet brugt til grove triage-frontends til mere komplekse analyser, mangler de at være en stor rød "dræb malware"-knap. Malware er bare ikke så simpelt.

Men for at være sikker har jeg aflyttet nogle af ESETs egne ML-guruer og spurgt:

Q. Hvor god vil ChatGPT-genereret malware være, eller er det overhovedet muligt?

A. Vi er ikke rigtig tæt på "fuld AI-genereret malware", selvom ChatGPT er ret gode til kodeforslag, generere kodeeksempler og uddrag, fejlfinding og optimering af kode og endda automatisering af dokumentation.

Q. Hvad med mere avancerede funktioner?

A. Vi ved ikke, hvor god den er til sløring. Nogle af eksemplerne relatere til scriptsprog som Python. Men vi så ChatGPT "vende" betydningen af ​​adskilt kode tilsluttet IDA Pro, hvilket er interessant. Alt i alt er det sandsynligvis et praktisk værktøj til at hjælpe en programmør, og måske er det et første skridt i retning af at opbygge mere fuld-featured malware, men ikke endnu.

Q. Hvor godt er det lige nu?

A. ChatGPT er meget imponerende i betragtning af, at det er en stor sprogmodel, og dens muligheder overrasker selv skaberne af sådanne modeller. Men i øjeblikket er det meget lavvandet, laver fejl, skaber svar, der er tættere på hallucinationer (dvs. opdigtede svar), og er ikke rigtig pålidelige for noget alvorligt. Men det ser ud til at vinde frem hurtigt, at dømme efter sværmen af ​​teknologer, der stikker tæerne i vandet.

Q. Hvad kan det gøre lige nu - hvad er den "lavthængende frugt" for platformen?

A. Indtil videre ser vi tre sandsynlige områder med ondsindet adoption og brug:

• Out-phishing af phisherne

Hvis du synes, at phishing så overbevisende ud tidligere, så vent bare. Fra at undersøge flere datakilder og maske dem problemfrit til at kaste op specifikt udformede e-mails, der vil være meget svære at opdage baseret på deres indhold, og succesrater lover at være bedre til at få klik. Og du vil ikke være i stand til hastigt at aflive dem på grund af sjuskede sprogfejl; deres kendskab til dit modersmål er sandsynligvis bedre end dit. Da en lang række af de grimmeste angreb starter med, at nogen klikker på et link, kan du forvente, at den relaterede effekt bliver større.

• Automatisering af løsepengeforhandling

Glattalende ransomware-operatører er sandsynligvis sjældne, men at tilføje lidt ChatGPT-glans til kommunikationen kan sænke arbejdsbyrden for angribere, der synes legitime under forhandlinger. Dette vil også betyde færre fejl, der kan give forsvarere mulighed for at finde ud af operatørernes sande identiteter og placeringer.

• Telefonsvindel bliver bedre

Når naturlig sproggenerering bliver flere, vil naturlige, grimme svindlere lyde, som om de er fra dit område og har dine bedste interesser i tankerne. Dette er et af de første onboarding-trin i en tillidsfidus: at lyde mere selvsikker ved at lyde, som om de er en af ​​dine folk.

Hvis alt dette lyder som om det kan være en måde i fremtiden, skal du ikke satse på det. Det hele vil ikke ske på én gang, men kriminelle er ved at få det meget bedre. Vi må se, om forsvaret er op til udfordringen.

• SEO Powered Content & PR Distribution. Bliv forstærket i dag.
• Platoblokkæde. Web3 Metaverse Intelligence. Viden forstærket. Adgang her.
• Kilde: https://www.welivesecurity.com/2023/02/20/will-chatgpt-start-writing-killer-malware/