Les cybercriminels demandent à ChatGPT de créer du code malveillant

Republié par Platon

Suiveurs: 0

Les cybercriminels demandent à ChatGPT de créer du code malveillant PlatoBlockchain Data Intelligence. Recherche verticale. Aï.

Les cybercriminels commencent à utiliser la très populaire technologie ChatGPT d'OpenAI pour développer rapidement et facilement du code à des fins malveillantes.

Une rotation autour de sites de piratage souterrains a révélé des exemples initiaux de malfaiteurs développant des outils de cybermenace à l'aide de l'interface de modèle de langage étendu (LLM) que la société a dévoilée fin novembre et l'a ouverte au public, selon l'équipe d'infosec Check Point Research.

Un bon coup de main pour finir le script avec une belle portée

Semblable à la montée de modèles en tant que service Dans le monde de la cybercriminalité, ChatGPT ouvre une autre voie aux escrocs moins qualifiés pour lancer facilement des cyberattaques, ont déclaré les chercheurs dans un rapport Vendredi.

"Comme nous le soupçonnions, certains des cas ont clairement montré que de nombreux cybercriminels utilisant OpenAI n'ont aucune compétence en développement", ont-ils écrit. "Bien que les outils que nous présentons dans ce rapport soient assez basiques, ce n'est qu'une question de temps avant que des acteurs de la menace plus sophistiqués améliorent la façon dont ils utilisent les outils basés sur l'IA pour le mal."

N'oublions pas que ChatGPT est également connu pour générer du code bogué - Stack Overflow a logiciel interdit généré par le système d'IA car il est souvent gravement défectueux. Mais la technologie s'améliore et le mois dernier, un rapport du gouvernement finlandais averti Les systèmes d'IA sont déjà utilisés pour l'ingénierie sociale et dans cinq ans, ils pourraient entraîner une énorme augmentation des attaques.

Apprentissage automatique de ChatGPT capacités permettent à l'outil textuel d'interagir de manière conversationnelle, les utilisateurs tapant une question et recevant une réponse sous forme de dialogue. La technologie peut également répondre aux questions de suivi et défier les réponses des utilisateurs.

La sophistication de l'offre d'OpenAI a généré autant s'inquiéter avec enthousiasme, les établissements d'enseignement, les organisateurs de conférences et d'autres groupes interdisant l'utilisation de ChatGPT pour tout, des travaux scolaires aux travaux de recherche.

Les analystes en décembre démontré comment ChatGPT peut être utilisé pour créer un flux d'infection complet, des e-mails de phishing à l'exécution d'un reverse shell. Ils ont également utilisé le chatbot pour créer des logiciels malveillants de porte dérobée capables d'exécuter dynamiquement des scripts créés par l'outil d'IA. En même temps, ils ont montré comment cela peut aider les professionnels de la cybersécurité dans leur travail.

Maintenant, les cybercriminels le testent.

Un fil de discussion intitulé "ChatGPT - Avantages des logiciels malveillants" est apparu le 29 décembre sur un forum de piratage souterrain largement utilisé, écrit par une personne qui a déclaré qu'elle expérimentait l'interface pour recréer des souches et des techniques de logiciels malveillants courantes. L'auteur a montré le code d'un voleur d'informations basé sur Python qui recherche et copie les types de fichiers et les télécharge sur un serveur FTP codé en dur.

Check Point a confirmé que le code provenait d'un logiciel malveillant voleur de base.

Dans un autre exemple, l'auteur a utilisé ChatGPT pour créer un simple extrait de code Java qui télécharge un client SSH et telnet commun exécuté secrètement sur un système utilisant PowerShell.

"Cet individu semble être un acteur menaçant axé sur la technologie, et le but de ses messages est de montrer aux cybercriminels moins compétents techniquement comment utiliser ChatGPT à des fins malveillantes, avec des exemples réels qu'ils peuvent immédiatement utiliser", ont écrit les chercheurs.

Le 21 décembre, une personne se faisant appeler USDoD a publié un outil de chiffrement écrit en Python qui comprend diverses opérations de chiffrement, de déchiffrement et de signature. Il a écrit que la technologie d'OpenAI lui a donné "un bon coup de main pour terminer le script avec une belle portée".

Les chercheurs ont écrit que l'USDoD a des compétences de développement limitées mais est actif dans la communauté clandestine avec une histoire de vente d'accès à des organisations compromises et à des bases de données volées.

Un autre fil de discussion publié sur un forum le jour de la Saint-Sylvestre a expliqué à quel point il est facile d'utiliser ChatGPT pour créer un marché Web sombre pour échanger des outils illégaux comme des logiciels malveillants ou des drogues et des données volées comme des comptes et des cartes de paiement.

L'auteur du fil a publié du code créé avec ChatGPT qui utilise des API tierces pour obtenir des prix à jour pour des crypto-monnaies telles que Bitcoin, Monero et Ethereum pour le système de paiement du marché.

Cette semaine, des mécréants ont parlé sur des forums clandestins d'autres moyens d'exploiter ChatGPT pour divers programmes, notamment en l'utilisant avec la technologie Dall-E 2 d'OpenAI pour créer de l'art à vendre en ligne via des sites légitimes comme Etsy et en créant un ebook ou un court chapitre sur un sujet spécifique. qui peut être vendu en ligne.

Pour obtenir plus d'informations sur la façon dont ChatGPT peut être abusé, les chercheurs ont demandé à ChatGPT. Dans sa réponse, ChatGPT a parlé de l'utilisation de la technologie de l'IA pour créer des e-mails de phishing convaincants et des publications sur les réseaux sociaux pour inciter les gens à donner des informations personnelles ou à cliquer sur des liens malveillants ou à créer des vidéos et des sons qui pourraient être utilisés à des fins de désinformation.

ChatGPT a également défendu son créateur.

"Il est important de noter qu'OpenAI lui-même n'est pas responsable de tout abus de sa technologie par des tiers", a déclaré le chatbot. "La société prend des mesures pour empêcher que sa technologie ne soit utilisée à des fins malveillantes, par exemple en demandant aux utilisateurs d'accepter des conditions d'utilisation qui interdisent l'utilisation de sa technologie à des fins illégales ou nuisibles." ®