Phần mềm độc hại dựa trên GPT 'DarkBERT' xuất hiện trên toàn bộ Dark Web

Nhà phát triển đằng sau Gian lậnGPT chatbot độc hại đang chuẩn bị sẵn sàng các công cụ đối nghịch phức tạp hơn nữa dựa trên AI tổng hợp và công nghệ Bard của Google - một trong số đó sẽ tận dụng mô hình ngôn ngữ lớn (LLM) sử dụng toàn bộ Dark Web làm cơ sở kiến ​​thức. 

Một hacker đạo đức đã phát hiện ra một công cụ hacker dựa trên AI khác, SâuGPT, cho các nhà nghiên cứu biết rằng nhà phát minh FraudGPT – được biết đến trên các diễn đàn hacker với cái tên “CanadianKingpin12” – có nhiều chatbot độc hại dựa trên AI hơn đang hoạt động, theo SlashNext.

Các bot sắp ra mắt - được đặt tên là DarkBART và DarkBERT - sẽ trang bị cho các tác nhân đe dọa Khả năng AI giống ChatGPT đi xa hơn nhiều so với các dịch vụ genAI tội phạm mạng hiện có, theo SlashNext. trong một blog đăng bài được công bố vào ngày 1 tháng XNUMX, công ty đã cảnh báo rằng AI sẽ có khả năng hạ thấp rào cản gia nhập đối với tội phạm mạng có thể phát triển tinh vi các chiến dịch lừa đảo qua email doanh nghiệp (BEC), tìm và khai thác các lỗ hổng zero-day, thăm dò các điểm yếu quan trọng của cơ sở hạ tầng, tạo và phân phối phần mềm độc hại, v.v.

Daniel Kelley, nhà nghiên cứu của SlashNext, viết trong bài đăng: “Sự phát triển nhanh chóng từ WormGPT sang FraudGPT và bây giờ là 'DarkBERT' trong vòng chưa đầy một tháng cho thấy tầm ảnh hưởng đáng kể của AI độc hại đối với bối cảnh an ninh mạng và tội phạm mạng”.

DarkBART & DarkBERT: Thế hệ AI mới

Về chức năng, DarkBART sẽ là phiên bản tối của Google BART AI và tin tặc cho biết nó sẽ dựa trên một mô hình ngôn ngữ lớn (LLM) được gọi là DarkBERT. được tạo bởi công ty tình báo dữ liệu Hàn Quốc S2W với mục tiêu thực sự là chống lại tội phạm mạng. Nó hiện chỉ giới hạn cho các nhà nghiên cứu học thuật, điều này sẽ khiến việc truy cập độc hại vào nó trở nên đáng chú ý.

“Tác nhân đe dọa… tuyên bố đã có được quyền truy cập vào DarkBERT,” Kelley cho biết và nói thêm rằng khi liên hệ qua Telegram, CanadianKingpin12 đã chia sẻ một video chứng minh rằng phiên bản DarkBERT của anh ta “đã trải qua quá trình đào tạo chuyên môn về kho văn bản khổng lồ từ Dark Web,” Kelley đã viết.

Nhà phát triển độc hại cũng tuyên bố bot mới của anh ta… có thể được tích hợp với Google Lens”, Kelley nói thêm. “Sự tích hợp này cho phép khả năng gửi văn bản kèm theo hình ảnh.” Điều đáng chú ý là cho đến nay, các dịch vụ giống ChatGPT chỉ có văn bản.

Công cụ đối nghịch thứ hai, cũng có tên gây nhầm lẫn là DarkBERT (nhưng hoàn toàn tách biệt với AI Hàn Quốc), sẽ còn tiến xa hơn nữa bằng cách sử dụng toàn bộ Dark Web làm LLM, cho phép các tác nhân đe dọa truy cập vào tâm trí tổ ong của hacker dưới lòng đất để thực hiện các mối đe dọa mạng. . Nó cũng sẽ tích hợp Google Lens, tuyên bố của CanadianKingpin12.

AI tạo web tối đang phát triển nhanh chóng

Kelley lưu ý rằng các nhà phát triển công cụ AI đối nghịch, giống như các đối tác nhân từ hơn của họ, có thể sẽ sớm cung cấp quyền truy cập giao diện lập trình ứng dụng (API) vào chatbot, điều này sẽ cho phép tích hợp liền mạch hơn vào quy trình làm việc và mã của tội phạm mạng, đồng thời hạ thấp các rào cản gia nhập. cho trò chơi tội phạm mạng. 

Kelley viết: “Những tiến bộ như vậy làm dấy lên mối lo ngại đáng kể về những hậu quả tiềm ẩn, vì các trường hợp sử dụng loại công nghệ này có thể sẽ ngày càng trở nên phức tạp”.

Sự tiến triển nhanh chóng này cũng có nghĩa là việc phòng thủ chống lại các mối đe dọa sẽ đòi hỏi cách tiếp cận chủ động. Các nhà nghiên cứu cho biết, ngoài chương trình đào tạo thông thường dành cho nhân viên doanh nghiệp để xác định các cuộc tấn công lừa đảo, các tổ chức cũng nên cung cấp chương trình đào tạo dành riêng cho BEC để giáo dục nhân viên về bản chất của các cuộc tấn công này và vai trò của AI. Hơn nữa, doanh nghiệp cũng nên tăng cường các biện pháp xác minh email để chống lại các mối đe dọa do AI điều khiển, bổ sung quy trình nghiêm ngặt và gắn cờ từ khóa cho các biện pháp đã có. 

“Khi các mối đe dọa mạng phát triển, các chiến lược an ninh mạng phải liên tục thích ứng Phản đối những mối đe dọa mới nổi,” Kelley viết. “Một cách tiếp cận chủ động và có giáo dục sẽ là vũ khí mạnh mẽ nhất của chúng tôi chống lại tội phạm mạng do AI điều khiển.”

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Ô tô / Xe điện, Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• BlockOffsets. Hiện đại hóa quyền sở hữu bù đắp môi trường. Truy cập Tại đây.
• nguồn: https://www.darkreading.com/application-security/gpt-based-malware-trains-dark-web