Cybercrooks Are Telling ChatGPT To Create Malicious Code

Republicat de Platon

Urmaritori: 0

$Infractorii cibernetici le spun ChatGPT să creeze cod rău intenționat$

Criminalii cibernetici încep să folosească tehnologia extrem de populară ChatGPT a OpenAI pentru a dezvolta rapid și ușor codul în scopuri rău intenționate.

O întoarcere în jurul site-urilor de hacking subterane a descoperit cazuri inițiale de răufăcători care dezvoltau instrumente de amenințări cibernetice folosind interfața model de limbaj mare (LLM) pe care compania a dezvăluit-o la sfârșitul lunii noiembrie și a deschis-o pentru uz public, potrivit informației Check Point Research.

O mână drăguță [de ajutor] pentru a termina scenariul cu un scop frumos

Similar cu ascensiunea modele ca serviciu în lumea criminalității cibernetice, ChatGPT deschide o altă cale pentru escrocii mai puțin calificați pentru a lansa cu ușurință atacuri cibernetice, au spus cercetătorii într-un raportează Vineri.

„După cum am bănuit, unele dintre cazuri au arătat în mod clar că mulți criminali cibernetici care folosesc OpenAI nu au deloc abilități de dezvoltare”, au scris ei. „Deși instrumentele pe care le prezentăm în acest raport sunt destul de elementare, este doar o chestiune de timp până când actorii de amenințări mai sofisticați îmbunătățesc modul în care folosesc instrumentele bazate pe inteligență artificială pentru rău.”

Să nu uităm că ChatGPT este, de asemenea, notoriu pentru generarea de coduri cu erori - Stack Overflow are software interzis generat de sistemul AI, deoarece este adesea grav defectuos. Dar tehnologia se îmbunătățește și luna trecută un raport al guvernului finlandez a avertizat Sistemele AI sunt deja utilizate pentru inginerie socială și în cinci ani ar putea genera o creștere uriașă a atacurilor.

Învățarea automată a ChatGPT capacități permite instrumentului bazat pe text să interacționeze într-un mod conversațional, utilizatorii tastând o întrebare și primind un răspuns într-un format de dialog. De asemenea, tehnologia poate răspunde la întrebări ulterioare și poate contesta răspunsurile utilizatorilor.

Rafinamentul ofertei OpenAI a generat la fel de mult face griji ca entuziasm, cu instituțiile de învățământ, organizatorii de conferințe și alte grupuri care se mișcă pentru a interzice utilizarea ChatGPT pentru orice, de la lucrările școlare la lucrările de cercetare.

Analiștii în decembrie demonstrat cum poate fi folosit ChatGPT pentru a crea un întreg flux de infecție, de la e-mailuri de phishing la rularea unui shell invers. Ei au folosit, de asemenea, chatbot-ul pentru a construi malware backdoor care poate rula dinamic scripturi create de instrumentul AI. În același timp, au arătat cum poate ajuta profesioniștii în securitate cibernetică în munca lor.

Acum infractorii cibernetici îl testează.

Un subiect intitulat „ChatGPT – Beneficiile programelor malware” a apărut pe 29 decembrie pe un forum de hacking subteran larg utilizat, scris de o persoană care a spus că experimentează cu interfața pentru a recrea tulpini și tehnici comune de malware. Scriitorul a arătat codul unui furt de informații bazat pe Python care caută și copiază tipuri de fișiere și le încarcă pe un server FTP codificat.

Check Point a confirmat că codul provine dintr-un program malware de furt de bază.

Într-un alt exemplu, scriitorul a folosit ChatGPT pentru a crea un fragment Java simplu care descarcă un client SSH și telnet comun care este rulat în secret pe un sistem folosind PowerShell.

„Acest individ pare a fi un actor de amenințări orientat spre tehnologie, iar scopul postărilor sale este de a arăta infractorilor cibernetici mai puțin capabili din punct de vedere tehnic cum să utilizeze ChatGPT în scopuri rău intenționate, cu exemple reale pe care le pot folosi imediat”, au scris cercetătorii.

Pe 21 decembrie, o persoană care se numește USDoD a postat un instrument de criptare scris în Python, care include diverse operațiuni de criptare, decriptare și semnare. El a scris că tehnologia OpenAI i-a oferit o „mână [de ajutor] bună pentru a termina scenariul cu un scop frumos”.

Cercetătorii au scris că USDoD are abilități limitate de dezvoltare, dar este activ în comunitatea subterană cu o istorie de vânzare a accesului la organizații compromise și baze de date furate.

Un alt fir de discuții publicat pe un forum în noaptea de Revelion a vorbit despre cât de ușor este să utilizați ChatGPT pentru a crea o piață web întunecată pentru a tranzacționa instrumente ilegale precum malware sau droguri și date furate, cum ar fi conturile și cardurile de plată.

Autorul firului de discuție a publicat un cod creat cu ChatGPT care utilizează API-uri terțe pentru a obține prețuri actualizate pentru criptomonede precum Bitcoin, Monero și Ethereum pentru sistemul de plată al pieței.

Săptămâna aceasta, răufăcătorii au vorbit pe forumuri subterane despre alte modalități de a utiliza ChatGPT pentru diverse scheme, inclusiv utilizarea lui cu tehnologia OpenAI Dall-E 2 pentru a crea artă pentru a vinde online prin site-uri legitime precum Etsy și crearea unei cărți electronice sau a unui scurt capitol pe un anumit subiect. care pot fi vândute online.

Pentru a obține mai multe informații despre cum poate fi abuzat de ChatGPT, cercetătorii au întrebat ChatGPT. În răspunsul său, ChatGPT a vorbit despre utilizarea tehnologiei AI pentru a crea e-mailuri convingătoare de phishing și postări pe rețelele sociale pentru a păcăli oamenii să ofere informații personale sau să facă clic pe linkuri rău intenționate sau pentru a crea videoclipuri și sunet care ar putea fi folosite pentru dezinformări.

ChatGPT și-a apărat și creatorul.

„Este important de menționat că OpenAI în sine nu este responsabil pentru niciun abuz al tehnologiei sale de către terți”, a spus chatbot-ul. „Compania ia măsuri pentru a preveni utilizarea tehnologiei sale în scopuri rău intenționate, cum ar fi solicitarea utilizatorilor să accepte termenii și condițiile care interzic utilizarea tehnologiei sale în scopuri ilegale sau dăunătoare.” ®