Kẻ gian mạng đang bảo ChatGPT tạo mã độc

Được xuất bản lại bởi Plato

Người theo dõi: 0

Kẻ gian mạng đang yêu cầu ChatGPT tạo mã độc PlatoBlockchain Data Intelligence. Tìm kiếm dọc. Ái.

Tội phạm mạng đang bắt đầu sử dụng công nghệ ChatGPT cực kỳ phổ biến của OpenAI để phát triển mã cho mục đích xấu một cách nhanh chóng và dễ dàng.

Một vòng quay xung quanh các trang web hack ngầm đã phát hiện ra các trường hợp ban đầu của những kẻ bất lương đang phát triển các công cụ đe dọa trực tuyến bằng cách sử dụng giao diện mô hình ngôn ngữ lớn (LLM) mà công ty đã tiết lộ vào cuối tháng XNUMX và mở cửa cho công chúng sử dụng, theo trang Check Point Research của infosec.

Một bàn tay [trợ giúp] tuyệt vời để hoàn thành kịch bản với một phạm vi tốt

Tương tự như sự gia tăng của mô hình dịch vụ Các nhà nghiên cứu cho biết trong thế giới tội phạm mạng, ChatGPT mở ra một con đường khác cho những kẻ lừa đảo kém kỹ năng dễ dàng thực hiện các cuộc tấn công mạng. báo cáo Thứ Sáu.

“Như chúng tôi đã nghi ngờ, một số trường hợp cho thấy rõ ràng rằng nhiều tội phạm mạng sử dụng OpenAI không hề có kỹ năng phát triển,” họ viết. “Mặc dù các công cụ mà chúng tôi trình bày trong báo cáo này khá cơ bản, nhưng vấn đề chỉ là thời gian cho đến khi các tác nhân đe dọa tinh vi hơn tăng cường cách chúng sử dụng các công cụ dựa trên AI cho mục đích xấu.”

Đừng quên rằng ChatGPT cũng nổi tiếng về việc tạo mã lỗi phần mềm bị cấm được tạo ra bởi hệ thống AI bởi vì nó thường có sai sót nghiêm trọng. Nhưng công nghệ đang được cải thiện và tháng trước một báo cáo của chính phủ Phần Lan cảnh báo Các hệ thống AI đã được sử dụng cho kỹ thuật xã hội và trong XNUMX năm nữa có thể dẫn đến một đợt tấn công lớn.

Máy học của ChatGPT khả năng cho phép công cụ dựa trên văn bản tương tác theo cách đàm thoại, trong đó người dùng nhập câu hỏi và nhận câu trả lời ở định dạng đối thoại. Công nghệ này cũng có thể trả lời các câu hỏi tiếp theo và thử thách câu trả lời của người dùng.

Sự tinh tế trong việc cung cấp của OpenAI đã tạo ra nhiều lo như sự nhiệt tình, với các tổ chức giáo dục, nhà tổ chức hội nghị và các nhóm khác đang chuyển sang cấm sử dụng ChatGPT cho mọi thứ, từ bài báo ở trường đến công việc nghiên cứu.

Các nhà phân tích trong tháng mười hai chứng minh cách ChatGPT có thể được sử dụng để tạo ra toàn bộ luồng lây nhiễm, từ email lừa đảo đến chạy trình bao đảo ngược. Họ cũng đã sử dụng chatbot để xây dựng phần mềm độc hại cửa sau có thể tự động chạy các tập lệnh do công cụ AI tạo ra. Đồng thời, họ đã chỉ ra cách nó có thể giúp ích cho các chuyên gia an ninh mạng trong công việc của họ.

Bây giờ tội phạm mạng đang thử nghiệm nó.

Một chủ đề có tiêu đề “ChatGPT – Lợi ích của phần mềm độc hại” đã xuất hiện vào ngày 29 tháng XNUMX trên một diễn đàn hack ngầm được sử dụng rộng rãi do một người viết cho biết họ đang thử nghiệm giao diện để tạo lại các chủng và kỹ thuật phần mềm độc hại phổ biến. Người viết đã trình bày mã của một trình đánh cắp thông tin dựa trên Python tìm kiếm và sao chép các loại tệp rồi tải chúng lên một máy chủ FTP được mã hóa cứng.

Check Point xác nhận rằng mã này là từ một phần mềm độc hại đánh cắp cơ bản.

Trong một ví dụ khác, người viết đã sử dụng ChatGPT để tạo một đoạn mã Java đơn giản tải xuống ứng dụng khách SSH và telnet phổ biến được chạy bí mật trên hệ thống bằng PowerShell.

Các nhà nghiên cứu viết: “Cá nhân này dường như là một kẻ đe dọa theo định hướng công nghệ và mục đích các bài đăng của anh ta là chỉ cho những tội phạm mạng kém kỹ thuật hơn cách sử dụng ChatGPT cho mục đích xấu, với các ví dụ thực tế mà chúng có thể sử dụng ngay lập tức”.

Vào ngày 21 tháng XNUMX, một người tự xưng là USDoD đã đăng một công cụ mã hóa được viết bằng Python bao gồm nhiều hoạt động mã hóa, giải mã và ký tên khác nhau. Anh ấy viết rằng công nghệ của OpenAI đã mang đến cho anh ấy “một “bàn tay [trợ giúp] tuyệt vời để hoàn thành kịch bản với một phạm vi tốt đẹp.”

Các nhà nghiên cứu đã viết rằng USDoD có kỹ năng phát triển hạn chế nhưng lại hoạt động tích cực trong cộng đồng ngầm với lịch sử bán quyền truy cập cho các tổ chức bị xâm nhập và cơ sở dữ liệu bị đánh cắp.

Một chủ đề thảo luận khác được xuất bản trên một diễn đàn vào đêm giao thừa đã nói về việc sử dụng ChatGPT dễ dàng như thế nào để tạo ra một thị trường web đen để giao dịch các công cụ bất hợp pháp như phần mềm độc hại hoặc ma túy và dữ liệu bị đánh cắp như tài khoản và thẻ thanh toán.

Tác giả của chủ đề đã xuất bản một số mã được tạo bằng ChatGPT sử dụng API của bên thứ ba để nhận giá cập nhật cho các loại tiền điện tử như Bitcoin, Monero và Ethereum cho hệ thống thanh toán của thị trường.

Tuần này, những kẻ bất lương đã thảo luận trên các diễn đàn ngầm về các cách khác để tận dụng ChatGPT cho các kế hoạch khác nhau, bao gồm sử dụng nó với công nghệ Dall-E 2 của OpenAI để tạo tác phẩm nghệ thuật bán trực tuyến thông qua các trang web hợp pháp như Etsy và tạo sách điện tử hoặc chương ngắn về một chủ đề cụ thể mà có thể được bán trực tuyến.

Để có thêm thông tin về cách ChatGPT có thể bị lạm dụng, các nhà nghiên cứu đã hỏi ChatGPT. Trong câu trả lời của mình, ChatGPT đã nói về việc sử dụng công nghệ AI để tạo các email lừa đảo thuyết phục và các bài đăng trên mạng xã hội để lừa mọi người cung cấp thông tin cá nhân hoặc nhấp vào các liên kết độc hại hoặc tạo video và âm thanh có thể được sử dụng cho thông tin sai lệch.

ChatGPT cũng bảo vệ người tạo ra nó.

“Điều quan trọng cần lưu ý là bản thân OpenAI không chịu trách nhiệm cho bất kỳ hành vi lạm dụng công nghệ nào của bên thứ ba,” chatbot cho biết. “Công ty thực hiện các bước để ngăn chặn việc sử dụng công nghệ của mình cho các mục đích xấu, chẳng hạn như yêu cầu người dùng đồng ý với các điều khoản dịch vụ cấm sử dụng công nghệ của họ cho các mục đích bất hợp pháp hoặc có hại.” ®