Cybercrooks는 ChatGPT에 악성 코드를 생성하라고 지시하고 있습니다.

플라톤에 의해 재발행

팔로워 : 0

Cybercrooks는 ChatGPT에 악성 코드 PlatoBlockchain Data Intelligence를 생성하라고 지시하고 있습니다. 수직 검색. 일체 포함.

사이버 범죄자들은 OpenAI의 매우 인기 있는 ChatGPT 기술을 사용하여 악의적인 목적을 위한 코드를 쉽고 빠르게 개발하기 시작했습니다.

정보보안 기관인 Check Point Research에 따르면 지하 해킹 사이트를 돌면서 회사가 XNUMX월 말에 공개한 대규모 언어 모델(LLM) 인터페이스를 사용하여 사이버 위협 도구를 개발하는 범죄자들의 초기 사례를 발견하고 공개했습니다.

멋진 범위로 대본을 마무리하는 멋진 [도와주는] 손

의 상승과 유사 서비스형 모델 사이버 범죄 세계에서 ChatGPT는 덜 숙련된 사기꾼이 쉽게 사이버 공격을 시작할 수 있는 또 다른 길을 열어줍니다. 신고 금요일.

"우리가 예상한 것처럼 일부 사례는 OpenAI를 사용하는 많은 사이버 범죄자가 개발 기술이 전혀 없음을 분명히 보여주었습니다."라고 그들은 썼습니다. "이 보고서에 제시된 도구는 매우 기본적이지만 더 정교한 위협 행위자가 AI 기반 도구를 나쁜 용도로 사용하는 방식을 개선하는 것은 시간 문제입니다."

ChatGPT도 버그가 있는 코드를 생성하는 것으로 악명이 높다는 사실을 잊지 마십시오. 금지된 소프트웨어 종종 심각한 결함이 있기 때문에 AI 시스템에 의해 생성됩니다. 그러나 기술이 향상되고 있으며 지난달 핀란드 정부 보고서 경고 AI 시스템은 이미 사회 공학에 사용되고 있으며 XNUMX년 안에 공격이 급증할 수 있습니다.

ChatGPT의 머신러닝 기능 텍스트 기반 도구를 사용하여 사용자가 질문을 입력하고 대화 형식으로 답변을 받는 대화식 방식으로 상호 작용할 수 있습니다. 이 기술은 또한 후속 질문에 답변하고 사용자의 답변에 도전할 수 있습니다.

OpenAI의 제안의 정교함은 많은 것을 생성했습니다. 걱정 학교 논문에서 연구 작업에 이르기까지 모든 것에 대해 ChatGPT 사용을 금지하기 위해 움직이는 교육 기관, 회의 주최자 및 기타 그룹과 함께 열정으로.

XNUMX월 애널리스트 시연 ChatGPT를 사용하여 피싱 이메일에서 리버스 셸 실행에 이르기까지 전체 감염 흐름을 만드는 방법. 그들은 또한 챗봇을 사용하여 AI 도구로 생성된 스크립트를 동적으로 실행할 수 있는 백도어 악성코드를 구축했습니다. 동시에 그들은 사이버 보안 전문가들이 업무를 수행하는 데 어떻게 도움이 되는지 보여주었습니다.

이제 사이버 범죄자들이 이를 테스트하고 있습니다.

"ChatGPT - 멀웨어의 이점"이라는 제목의 스레드가 29월 XNUMX일 널리 사용되는 지하 해킹 포럼에 나타났습니다. 이 포럼은 일반적인 멀웨어 변종과 기술을 재현하기 위해 인터페이스를 실험하고 있다고 말한 사람이 작성했습니다. 필자는 파일 형식을 찾아 복사해 하드코딩된 FTP 서버에 업로드하는 파이썬 기반 정보 탈취자의 코드를 보여줬다.

Check Point는 코드가 기본적인 스틸러 악성코드에서 나온 것임을 확인했습니다.

또 다른 샘플에서 작성자는 ChatGPT를 사용하여 PowerShell을 사용하는 시스템에서 비밀리에 실행되는 공통 SSH 및 텔넷 클라이언트를 다운로드하는 간단한 Java 스니펫을 생성했습니다.

연구원들은 "이 개인은 기술 지향적인 위협 행위자로 보이며 그의 게시물의 목적은 기술적으로 능력이 부족한 사이버 범죄자들에게 ChatGPT를 악의적인 목적으로 활용하는 방법을 그들이 즉시 사용할 수 있는 실제 사례와 함께 보여주는 것입니다."라고 썼습니다.

21월 XNUMX일, 자신을 USDoD라고 부르는 사람이 다양한 암호화, 암호 해독 및 서명 작업을 포함하는 Python으로 작성된 암호화 도구를 게시했습니다. 그는 OpenAI의 기술이 "좋은 범위로 대본을 완성하는 데 도움이 되는 좋은 손길"을 주었다고 썼습니다.

연구원들은 USDoD가 제한된 개발 기술을 가지고 있지만 손상된 조직 및 도난당한 데이터베이스에 대한 액세스 권한을 판매한 이력이 있는 지하 커뮤니티에서 활동하고 있다고 썼습니다.

새해 전날 포럼에 게시된 또 다른 토론 스레드는 ChatGPT를 사용하여 멀웨어나 마약과 같은 불법 도구와 계정 및 지불 카드와 같은 도난 데이터를 거래하기 위한 다크 웹 시장을 만드는 것이 얼마나 쉬운지에 대해 이야기했습니다.

이 스레드의 작성자는 타사 API를 사용하여 Bitcoin, Monero 및 Ethereum과 같은 암호화폐의 최신 가격을 마켓플레이스의 결제 시스템에 사용하는 ChatGPT로 생성된 일부 코드를 게시했습니다.

이번 주에 범죄자들은 OpenAI의 Dall-E 2 기술과 함께 ChatGPT를 사용하여 Etsy와 같은 합법적인 사이트를 통해 온라인으로 판매할 예술품을 만들고 특정 주제에 대한 eBook 또는 짧은 장을 만드는 등 ChatGPT를 활용하는 다른 방법에 대해 언더그라운드 포럼에서 이야기했습니다. 온라인으로 판매할 수 있는 것입니다.

연구원들은 ChatGPT가 악용될 수 있는 방법에 대한 자세한 정보를 얻기 위해 ChatGPT에 질문했습니다. ChatGPT는 답변에서 AI 기술을 사용하여 설득력 있는 피싱 이메일과 소셜 미디어 게시물을 작성하여 사람들을 속여 개인 정보를 제공하거나 악성 링크를 클릭하도록 하거나 잘못된 정보에 사용될 수 있는 비디오 및 오디오를 생성하는 것에 대해 이야기했습니다.

ChatGPT는 또한 제작자를 변호했습니다.

챗봇은 "OpenAI 자체는 제XNUMX자에 의한 기술 남용에 대해 책임지지 않는다는 점에 유의하는 것이 중요하다"고 말했다. "회사는 불법적이거나 유해한 목적으로 기술을 사용하는 것을 금지하는 서비스 약관에 사용자가 동의하도록 요구하는 등 악의적인 목적으로 기술이 사용되지 않도록 조치를 취합니다." ®