Các chiến dịch độc hại liên quan đến việc sử dụng các công nghệ deepfake gần gũi hơn nhiều so với những gì nhiều người có thể nghĩ. Hơn nữa, việc giảm thiểu và phát hiện chúng rất khó.
Một nghiên cứu mới về việc tội phạm mạng sử dụng và lạm dụng deepfakes cho thấy rằng tất cả các yếu tố cần thiết để sử dụng rộng rãi công nghệ này đều đã có sẵn và sẵn có trên các thị trường ngầm và các diễn đàn mở. Nghiên cứu của Trend Micro cho thấy nhiều hành vi lừa đảo có kích hoạt deepfake, xâm nhập email doanh nghiệp (BEC) và lừa đảo quảng cáo đã và đang xảy ra nhanh chóng định hình lại cảnh quan mối đe dọa.
Không còn một mối đe dọa giả thuyết nào nữa
Vladimir Kropotov, nhà nghiên cứu bảo mật của Trend Micro và là tác giả chính của nghiên cứu cho biết: “Từ các mối đe dọa giả định và bằng chứng về khái niệm, [các cuộc tấn công dựa trên deepfake] đã chuyển sang giai đoạn mà tội phạm chưa trưởng thành có thể sử dụng các công nghệ như vậy”. báo cáo về chủ đề mà nhà cung cấp bảo mật đã phát hành trong tuần này.
“Chúng tôi đã thấy cách thức deepfake được tích hợp vào các cuộc tấn công chống lại các tổ chức tài chính, lừa đảo và cố gắng mạo danh các chính trị gia,” ông nói và nói thêm rằng điều đáng sợ là nhiều cuộc tấn công trong số này sử dụng danh tính của người thật – thường được lấy từ nội dung họ đăng trên mạng xã hội. mạng truyền thông.
Một trong những điểm rút ra chính từ nghiên cứu của Trend Micro là sự sẵn có của các công cụ, hình ảnh và video để tạo ra các tác phẩm giả mạo sâu. Ví dụ, nhà cung cấp bảo mật nhận thấy rằng nhiều diễn đàn, bao gồm cả GitHub, cung cấp mã nguồn để phát triển các bản deepfake cho bất kỳ ai muốn nó. Tương tự, có đủ hình ảnh và video chất lượng cao về các cá nhân bình thường và nhân vật của công chúng để những kẻ xấu có thể tạo ra hàng triệu danh tính giả hoặc mạo danh các chính trị gia, lãnh đạo doanh nghiệp và các nhân vật nổi tiếng khác.
Nhu cầu về dịch vụ deepfake và những người có chuyên môn về chủ đề này cũng đang tăng lên trong các diễn đàn ngầm. Trend Micro đã tìm thấy quảng cáo từ bọn tội phạm tìm kiếm các kỹ năng này để thực hiện các trò gian lận tiền điện tử và gian lận nhắm mục tiêu vào các tài khoản tài chính cá nhân.
Trend Micro cho biết trong báo cáo của mình: “Các diễn viên có thể mạo danh và đánh cắp danh tính của các chính trị gia, giám đốc điều hành cấp C và những người nổi tiếng”. “Điều này có thể làm tăng đáng kể tỷ lệ thành công của một số cuộc tấn công nhất định như kế hoạch tài chính, chiến dịch đưa thông tin sai lệch trong thời gian ngắn, thao túng dư luận và tống tiền.”
Rất nhiều rủi ro
Nguy cơ bị đánh cắp hoặc tái tạo danh tính của người bình thường cũng ngày càng tăng để lừa gạt các nạn nhân mạo danh hoặc thực hiện các hoạt động độc hại dưới danh tính của họ.
Trong nhiều nhóm thảo luận, Trend Micro nhận thấy người dùng tích cực thảo luận về các cách sử dụng deepfakes để vượt qua các biện pháp kiểm soát xác minh tài khoản và ngân hàng khác - đặc biệt là những biện pháp liên quan đến video và phương pháp xác minh mặt đối mặt.
Ví dụ: bọn tội phạm có thể sử dụng danh tính của nạn nhân và sử dụng video deepfake về họ để mở tài khoản ngân hàng, sau này có thể được sử dụng cho các hoạt động rửa tiền. Trend Micro cho biết, chúng có thể chiếm đoạt tài khoản, mạo danh các giám đốc điều hành cấp cao nhất tại các tổ chức để bắt đầu chuyển tiền gian lận hoặc tạo ra bằng chứng giả để tống tiền các cá nhân.
Nhà cung cấp bảo mật lưu ý rằng các thiết bị như Alexa của Amazon và iPhone, sử dụng tính năng nhận dạng giọng nói hoặc khuôn mặt, có thể sớm nằm trong danh sách các thiết bị mục tiêu cho các cuộc tấn công dựa trên deepfake.
“Vì nhiều công ty vẫn đang làm việc ở chế độ từ xa hoặc hỗn hợp nên nguy cơ mạo danh nhân sự trong các cuộc gọi hội nghị điều này có thể ảnh hưởng đến thông tin liên lạc kinh doanh nội bộ và bên ngoài cũng như các quy trình kinh doanh và dòng tài chính nhạy cảm,” Kropotov nói.
Trend Micro không đơn độc đưa ra cảnh báo về deepfake. Một cuộc khảo sát trực tuyến gần đây mà VMware thực hiện với 125 chuyên gia ứng phó sự cố và an ninh mạng cũng phát hiện ra rằng các mối đe dọa do deepfake thực hiện không chỉ mới xuất hiện — họ đã ở đây. Con số đáng ngạc nhiên 66% - tăng 13% so với năm 2021 - trong số những người được hỏi cho biết họ đã trải qua một sự cố bảo mật liên quan đến việc sử dụng deepfake trong 12 tháng qua.
“Các ví dụ về các cuộc tấn công deepfake [đã] được chứng kiến bao gồm các cuộc gọi thoại của CEO tới CFO dẫn đến chuyển khoản ngân hàng, cũng như nhân viên gọi tới bộ phận CNTT để bắt đầu đặt lại mật khẩu,” Rick McElroy, chiến lược gia an ninh mạng chính của VMware cho biết.
Rất khó để giảm thiểu các cuộc tấn công & phát hiện Deepfake
Nói chung, các kiểu tấn công này có thể hiệu quả, bởi vì chưa có bản sửa lỗi công nghệ nào để giải quyết thách thức, McElroy nói.
Ông cảnh báo: “Với mức độ sử dụng ngày càng tăng và sự phức tạp trong việc tạo ra các tác phẩm sâu, tôi thấy đây là một trong những mối đe dọa lớn nhất đối với các tổ chức từ góc độ gian lận và lừa đảo trong tương lai”.
Cách hiệu quả nhất để giảm thiểu mối đe dọa hiện tại là nâng cao nhận thức về vấn đề giữa các nhóm tài chính, điều hành và CNTT, những người là mục tiêu chính của các cuộc tấn công kỹ thuật xã hội này.
“Các tổ chức có thể xem xét các phương pháp công nghệ thấp để phá vỡ chu trình này. Điều này có thể bao gồm việc sử dụng thử thách và cụm mật khẩu giữa các giám đốc điều hành khi chuyển tiền ra khỏi tổ chức hoặc có quy trình phê duyệt gồm hai bước và được xác minh,” ông nói.
Gil Dabah, đồng sáng lập và CEO của Piaano, cũng khuyến nghị kiểm soát truy cập chặt chẽ như một biện pháp giảm thiểu. Ông nói, không người dùng nào có quyền truy cập vào lượng lớn dữ liệu cá nhân và các tổ chức cần đặt giới hạn tốc độ cũng như phát hiện bất thường.
Dabah lưu ý: “Ngay cả các hệ thống như kinh doanh thông minh, yêu cầu phân tích dữ liệu lớn, chỉ nên truy cập dữ liệu bị che giấu”, đồng thời nói thêm rằng không nên lưu giữ dữ liệu cá nhân nhạy cảm ở dạng văn bản gốc và dữ liệu như PII phải được mã hóa và bảo vệ.
Trong khi đó, trên mặt trận phát hiện, sự phát triển của các công nghệ như dựa trên AI Mạng đối thủ chung (GAN) đã khiến việc phát hiện deepfake trở nên khó khăn hơn. Lou Steinberg, đồng sáng lập và đối tác quản lý tại CTM Insights, cho biết: “Điều đó có nghĩa là chúng tôi không thể dựa vào nội dung chứa manh mối 'tạo tác' để biết đã có sự thay đổi.
Ông cho biết thêm, để phát hiện nội dung bị thao túng, các tổ chức cần dấu vân tay hoặc chữ ký để chứng minh điều gì đó không thay đổi.
Ông nói: “Tốt hơn nữa là lấy dấu vân tay siêu nhỏ trên các phần của nội dung và có thể xác định những gì đã thay đổi và những gì không”. “Điều đó rất có giá trị khi một hình ảnh đã được chỉnh sửa, nhưng thậm chí còn hơn thế khi ai đó đang cố gắng che giấu hình ảnh để không bị phát hiện.”
Ba danh mục Đe doạ Rộng
Steinberg cho biết các mối đe dọa deepfake được chia thành ba loại chính. Đầu tiên là các chiến dịch đưa thông tin sai lệch chủ yếu liên quan đến việc chỉnh sửa nội dung hợp pháp để thay đổi ý nghĩa. Ví dụ: Steinberg chỉ ra các tác nhân quốc gia sử dụng hình ảnh và video tin tức giả trên mạng xã hội hoặc chèn ai đó vào một bức ảnh không có mặt ban đầu - thứ thường được sử dụng cho những việc như ngụ ý chứng thực sản phẩm hoặc trả thù khiêu dâm.
Một danh mục khác liên quan đến những thay đổi tinh vi đối với hình ảnh, biểu trưng và nội dung khác để vượt qua các công cụ phát hiện tự động, chẳng hạn như các công cụ được sử dụng để phát hiện biểu trưng sản phẩm nhái, hình ảnh được sử dụng trong các chiến dịch lừa đảo hoặc thậm chí là các công cụ để phát hiện nội dung khiêu dâm trẻ em.
Steinberg cho biết: Loại thứ ba liên quan đến các tác phẩm sâu tổng hợp hoặc tổng hợp có nguồn gốc từ một bộ sưu tập các bản gốc để tạo ra một cái gì đó hoàn toàn mới.
Ông nói: “Chúng tôi bắt đầu thấy điều này với âm thanh vài năm trước, sử dụng giọng nói tổng hợp của máy tính để đánh bại dấu vết giọng nói trong các trung tâm cuộc gọi dịch vụ tài chính”. “Video hiện đang được sử dụng cho những mục đích như phiên bản hiện đại của việc xâm phạm email doanh nghiệp hoặc gây tổn hại đến danh tiếng bằng cách yêu cầu ai đó 'nói' điều gì đó mà họ chưa bao giờ nói."
