Va începe ChatGPT să scrie malware ucigaș?

ChatGPT nu a scris acest articol - eu am scris. Nici nu i-am cerut să răspundă la întrebarea din titlu – voi face. Dar cred că asta ar putea spune ChatGPT. Din fericire, au mai rămas câteva erori gramaticale pentru a dovedi că nu sunt un robot. Dar acesta este exact genul de lucru pe care ChatGPT ar putea să-l facă și pentru a părea real.

Această tehnologie actuală a robotului hipster este un răspuns automat elegant care este suficient de bun pentru a produce răspunsuri la teme, lucrări de cercetare, răspunsuri legale, diagnostice medicale și o mulțime de alte lucruri care au trecut „testul mirosului” atunci când sunt tratate ca și cum ar fi opera lui. actori umani. Dar se va adăuga semnificativ la sutele de mii de mostre de malware pe care le vedem și procesăm zilnic sau va fi un fals ușor de identificat?

Într-un duel mașină pe mașină după care tehnoratii au poftit de ani de zile, ChatGPT pare puțin „prea bun” pentru a nu fi văzut ca un concurent serios care ar putea bloca mașina opusă. Cu atât atacatorul, cât și apărătorul folosind cele mai recente modele de învățare automată (ML), acest lucru trebuia să se întâmple.

Cu excepția faptului că pentru a construi mașini antimalware bune, nu este doar robot-pe-robot. A fost întotdeauna necesară o intervenție umană: am stabilit acest lucru în urmă cu mulți ani, spre supărarea furnizorilor exclusiv de ML care intră în lupta de marketing - toate în timp ce insistau să tulbure apele prin referindu-se la produsele lor numai ML ca folosind „AI”.

În timp ce modelele ML au fost folosite pentru front-end-uri de triaj grosier până la analize mai complexe, ele nu sunt un buton roșu mare de „omorâre malware”. Malware-ul pur și simplu nu este atât de simplu.

Dar, pentru a fi sigur, am accesat câțiva dintre guru ML ai ESET și am întrebat:

Î. Cât de bun va fi malware-ul generat de ChatGPT sau este chiar posibil?

R. Nu suntem foarte aproape de „malware complet generat de AI”, deși ChatGPT este destul de bun la sugestiile de cod, la generarea de exemple și fragmente de cod, la depanare și optimizare a codului și chiar la automatizarea documentației.

Î. Cum rămâne cu funcțiile mai avansate?

A. Nu știm cât de bun este la ofuscare. Câteva dintre exemple raporta la limbaje de scripting precum Python. Dar am văzut ChatGPT „inversând” sensul codului dezasamblat conectat la IDA Pro, ceea ce este interesant. Una peste alta, este probabil un instrument la îndemână pentru a ajuta un programator și poate că acesta este un prim pas către construirea de mai multe programe malware cu funcții complete, dar nu încă.

Î. Cât de bun este acum?

A. ChatGPT este foarte impresionant, având în vedere că este un Model de Limbă Mare, iar capacitățile sale surprind chiar și creatorii a unor astfel de modele. Cu toate acestea, în prezent este foarte superficial, face erori, creează răspunsuri care sunt mai aproape de halucinații (adică răspunsuri fabricate) și nu este cu adevărat de încredere pentru nimic serios. Dar pare să câștige teren rapid, judecând după roiul de tehnicieni care își înfig degetele în apă.

Î. Ce poate face în acest moment – ​​care este „fructul de jos” pentru platformă?

R. Pentru moment, vedem trei zone probabile de adoptare și utilizare rău intenționată:

• Depășirea phishing-urilor

Dacă credeți că phishingul arăta convingător în trecut, așteptați. De la sondarea mai multor surse de date și amestecarea lor fără probleme până la voma e-mailuri special concepute, care vor fi foarte greu de detectat pe baza conținutului lor, iar ratele de succes promit să fie mai bune la obținerea de clicuri. Și nu veți putea să le eliminați în grabă din cauza unor greșeli de limbaj neglijentă; cunoștințele lor despre limba ta maternă sunt probabil mai bune decât ale tale. Deoarece o gamă largă de atacuri neplăcute încep cu cineva care dă clic pe un link, așteptați-vă ca impactul aferent să se extindă.

• Automatizarea negocierii răscumpărării

Operatorii ransomware care vorbesc ușor sunt probabil rari, dar adăugarea unui pic de strălucire ChatGPT la comunicații ar putea reduce volumul de lucru al atacatorilor care par legitimi în timpul negocierilor. Acest lucru va însemna, de asemenea, mai puține greșeli care le-ar putea permite apărătorilor să găsească adevăratele identități și locații ale operatorilor.

• Escrocherii la telefon se îmbunătățesc

Odată cu generarea limbajului natural din ce în ce mai mult, ei bine, escrocii naturali și urâți vor suna ca și cum ar fi din zona ta și vor avea în vedere interesele tale cele mai bune. Acesta este unul dintre primii pași de integrare într-o înșelătorie a încrederii: să sune mai încrezător, părând că ar fi unul dintre oamenii tăi.

Dacă toate acestea sună ca și cum ar putea fi în viitor, nu pariați pe ele. Nu se vor întâmpla toate odată, dar criminalii sunt pe cale să se îmbunătățească mult. Vom vedea dacă apărarea face față provocării.

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• Platoblockchain. Web3 Metaverse Intelligence. Cunoștințe amplificate. Accesați Aici.
• Sursa: https://www.welivesecurity.com/2023/02/20/will-chatgpt-start-writing-killer-malware/