Cybercrooks ber ChatGPT om å lage ondsinnet kode

Publisert av Platon

Følgere: 0

Cybercrooks ber ChatGPT lage ondsinnet kode PlatoBlockchain Data Intelligence. Vertikalt søk. Ai.

Nettkriminelle begynner å bruke OpenAIs voldsomt populære ChatGPT-teknologi for raskt og enkelt å utvikle kode for ondsinnede formål.

En runde rundt underjordiske hackingsider avdekket innledende tilfeller av ondsinnede som utviklet verktøy for cybertrussel ved å bruke grensesnittet for store språkmodeller (LLM) som selskapet avduket i slutten av november og åpnet det for offentlig bruk, ifølge infosec-utstyret Check Point Research.

En fin [hjelpende] hånd til å fullføre manuset med et fint omfang

I likhet med fremveksten av as-a-service-modeller i cyberkrimverdenen åpner ChatGPT opp en annen vei for mindre dyktige kjeltringer for enkelt å starte cyberangrep, sa forskerne i en rapporterer Fredag.

"Som vi mistenkte, viste noen av sakene tydelig at mange nettkriminelle som bruker OpenAI ikke har noen utviklingsferdigheter i det hele tatt," skrev de. "Selv om verktøyene vi presenterer i denne rapporten er ganske grunnleggende, er det bare et spørsmål om tid før mer sofistikerte trusselaktører forbedrer måten de bruker AI-baserte verktøy for dårlig."

La oss ikke glemme at ChatGPT også er beryktet for å generere buggy-kode – Stack Overflow har forbudt programvare generert av AI-systemet fordi det ofte er alvorlige feil. Men teknologien er i bedring og forrige måned en finsk regjeringsrapport advarte AI-systemer er allerede i bruk for sosial ingeniørkunst og kan om fem år føre til en enorm økning i angrep.

ChatGPTs maskinlæring evner gjør det mulig for det tekstbaserte verktøyet å samhandle på en samtale måte, med brukere som skriver et spørsmål og mottar svar i et dialogformat. Teknologien kan også svare på oppfølgingsspørsmål og utfordre brukernes svar.

Sofistikeringen av OpenAIs tilbud har generert like mye bekymring som entusiasme, med utdanningsinstitusjoner, konferansearrangører og andre grupper som flyttet for å forby bruken av ChatGPT for alt fra skoleoppgaver til forskningsarbeid.

Analytikerne i desember demonstrert hvordan ChatGPT kan brukes til å lage en hel infeksjonsflyt, fra phishing-e-poster til å kjøre et omvendt skall. De brukte også chatboten til å bygge bakdørs malware som dynamisk kan kjøre skript laget av AI-verktøyet. Samtidig viste de hvordan det kan hjelpe cybersikkerhetsproffer i deres arbeid.

Nå tester nettkriminelle det.

En tråd med tittelen "ChatGPT – Benefits of Malware" dukket opp 29. desember på et mye brukt underjordisk hackingforum skrevet av en person som sa at de eksperimenterte med grensesnittet for å gjenskape vanlige malware-stammer og teknikker. Forfatteren viste koden til en Python-basert informasjonsteler som søker etter og kopierer filtyper og laster dem opp til en hardkodet FTP-server.

Check Point bekreftet at koden var fra en grunnleggende tyverisk skadevare.

I et annet eksempel brukte forfatteren ChatGPT for å lage en enkel Java-kodebit som laster ned en vanlig SSH- og telnet-klient som kjøres i hemmelighet på et system som bruker PowerShell.

"Denne personen ser ut til å være en teknologiorientert trusselaktør, og hensikten med innleggene hans er å vise mindre teknisk dyktige nettkriminelle hvordan de kan bruke ChatGPT til ondsinnede formål, med ekte eksempler de umiddelbart kan bruke," skrev forskerne.

21. desember la en person som kaller seg USDoD ut et krypteringsverktøy skrevet i Python som inkluderer forskjellige kryptering, dekryptering og signeringsoperasjoner. Han skrev at OpenAIs teknologi ga ham en "fin [hjelpende] hånd til å fullføre manuset med et fint omfang."

Forskerne skrev at USDoD har begrensede utviklingsferdigheter, men er aktiv i det underjordiske samfunnet med en historie med å selge tilgang til kompromitterte organisasjoner og stjålne databaser.

En annen diskusjonstråd publisert på et forum på nyttårsaften snakket om hvor enkelt det er å bruke ChatGPT til å lage en mørk nettmarkedsplass for å handle ulovlige verktøy som malware eller narkotika og stjålne data som kontoer og betalingskort.

Trådens forfatter publiserte noe kode laget med ChatGPT som bruker tredjeparts APIer for å få oppdaterte priser for slike kryptovalutaer som Bitcoin, Monero og Ethereum for markedsplassens betalingssystem.

Denne uken snakket skurkere på underjordiske fora om andre måter å utnytte ChatGPT for ulike ordninger, inkludert å bruke den med OpenAIs Dall-E 2-teknologi for å lage kunst for å selge online gjennom legitime nettsteder som Etsy og lage en e-bok eller et kort kapittel om et spesifikt emne som kan selges på nett.

For å få mer informasjon om hvordan ChatGPT kan misbrukes, spurte forskerne ChatGPT. I svaret snakket ChatGPT om å bruke AI-teknologien til å lage overbevisende phishing-e-poster og innlegg på sosiale medier for å lure folk til å gi bort personlig informasjon eller å klikke på ondsinnede lenker eller for å lage video og lyd som kan brukes til feilinformasjon.

ChatGPT forsvarte også skaperen.

"Det er viktig å merke seg at OpenAI selv ikke er ansvarlig for misbruk av teknologien fra tredjeparter," sa chatboten. "Selskapet tar skritt for å forhindre at teknologien blir brukt til ondsinnede formål, for eksempel å kreve at brukere godtar tjenestevilkårene som forbyr bruk av teknologien til ulovlige eller skadelige formål." ®