Cyberskurke beder ChatGPT om at oprette ondsindet kode

Genudgivet af Platon

Abonnenter: 0

Cybercrooks are telling ChatGPT to create malicious code PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Cyberkriminelle begynder at bruge OpenAIs vildt populære ChatGPT-teknologi til hurtigt og nemt at udvikle kode til ondsindede formål.

Et spin rundt underjordiske hacking-websteder afslørede indledende tilfælde af ondsindede, der udviklede værktøjer til cybertrusler ved hjælp af den store sprogmodel-grænseflade (LLM), som virksomheden afslørede i slutningen af november og åbnede den for offentlig brug, ifølge infosec-outfittet Check Point Research.

En god [hjælpende] hånd til at afslutte manuskriptet med et pænt omfang

Svarende til fremkomsten af as-a-service modeller i cyberkriminalitetsverdenen åbner ChatGPT en anden vej for mindre dygtige skurke til nemt at iværksætte cyberangreb, sagde forskerne i en indberette Fredag.

"Som vi havde mistanke om, viste nogle af sagerne klart, at mange cyberkriminelle, der bruger OpenAI, slet ikke har nogen udviklingsevner," skrev de. "Selvom de værktøjer, vi præsenterer i denne rapport, er ret basale, er det kun et spørgsmål om tid, før mere sofistikerede trusselsaktører forbedrer måden, de bruger AI-baserede værktøjer til dårligt."

Lad os ikke glemme, at ChatGPT også er berygtet for at generere buggy-kode – det har Stack Overflow forbudt software genereret af AI-systemet, fordi det ofte er alvorligt defekt. Men teknologien forbedres og i sidste måned en finsk regeringsrapport advarede AI-systemer er allerede i brug til social engineering og kan om fem år føre til en enorm stigning i angreb.

ChatGPTs maskinlæring kapaciteter gør det muligt for det tekstbaserede værktøj at interagere på en samtale måde, hvor brugerne skriver et spørgsmål og modtager et svar i et dialogformat. Teknologien kan også besvare opfølgende spørgsmål og udfordre brugernes svar.

Sofistikeringen af OpenAI's tilbud har genereret lige så meget bekymre sig som entusiasme, hvor uddannelsesinstitutioner, konferencearrangører og andre grupper flyttede for at forbyde brugen af ChatGPT til alt fra skoleaviser til forskningsarbejde.

Analytikerne i december demonstreret hvordan ChatGPT kan bruges til at skabe et helt infektionsflow, fra phishing-e-mails til at køre en omvendt shell. De brugte også chatbotten til at bygge bagdørs-malware, der dynamisk kan køre scripts oprettet af AI-værktøjet. Samtidig viste de, hvordan det kan hjælpe cybersikkerhedsprofessionelle i deres arbejde.

Nu tester cyberkriminelle det.

En tråd med titlen "ChatGPT – Benefits of Malware" dukkede op 29. december på et meget brugt underjordisk hackingforum skrevet af en person, der sagde, at de eksperimenterede med grænsefladen for at genskabe almindelige malware-stammer og -teknikker. Forfatteren viste koden for en Python-baseret informationstyver, der søger efter og kopierer filtyper og uploader dem til en hårdkodet FTP-server.

Check Point bekræftede, at koden var fra en grundlæggende tyverisk malware.

I et andet eksempel brugte forfatteren ChatGPT til at skabe et simpelt Java-uddrag, der downloader en fælles SSH- og telnet-klient, der køres hemmeligt på et system, der bruger PowerShell.

"Denne person ser ud til at være en teknologi-orienteret trusselsaktør, og formålet med hans indlæg er at vise mindre teknisk dygtige cyberkriminelle, hvordan man bruger ChatGPT til ondsindede formål, med rigtige eksempler, de umiddelbart kan bruge," skrev forskerne.

Den 21. december postede en person, der kalder sig USDoD, et krypteringsværktøj skrevet i Python, der inkluderer forskellige kryptering, dekryptering og signering. Han skrev, at OpenAIs teknologi gav ham en "god [hjælpende] hånd til at afslutte manuskriptet med et pænt omfang."

Forskerne skrev, at USDoD har begrænsede udviklingsevner, men er aktiv i det underjordiske samfund med en historie med at sælge adgang til kompromitterede organisationer og stjålne databaser.

En anden diskussionstråd offentliggjort på et forum nytårsaften talte om, hvor nemt det er at bruge ChatGPT til at skabe en mørk webmarkedsplads til at handle ulovlige værktøjer som malware eller stoffer og stjålne data som konti og betalingskort.

Trådens forfatter udgav noget kode oprettet med ChatGPT, der bruger tredjeparts API'er til at få opdaterede priser for sådanne kryptovalutaer som Bitcoin, Monero og Ethereum til markedspladsens betalingssystem.

I denne uge talte ondsindede på underjordiske fora om andre måder at udnytte ChatGPT til forskellige ordninger, herunder at bruge det med OpenAIs Dall-E 2-teknologi til at skabe kunst til at sælge online gennem legitime websteder som Etsy og oprette en e-bog eller et kort kapitel om et specifikt emne som kan sælges online.

For at få mere information om, hvordan ChatGPT kan misbruges, spurgte forskerne ChatGPT. I sit svar talte ChatGPT om at bruge AI-teknologien til at skabe overbevisende phishing-e-mails og opslag på sociale medier for at narre folk til at give personlige oplysninger væk eller klikke på ondsindede links eller til at skabe video og lyd, der kunne bruges til misinformation.

ChatGPT forsvarede også sin skaber.

"Det er vigtigt at bemærke, at OpenAI ikke selv er ansvarlig for misbrug af sin teknologi fra tredjeparter," sagde chatbot. "Virksomheden tager skridt til at forhindre, at dets teknologi bliver brugt til ondsindede formål, såsom at kræve, at brugere accepterer servicevilkår, der forbyder brugen af dets teknologi til ulovlige eller skadelige formål." ®