Kỷ nguyên vàng của AI… hay các mối đe dọa bảo mật?

Có phải chúng ta đang ở thời kỳ hoàng kim của trí tuệ nhân tạo? Thật khó để đưa ra dự đoán - và có thể là sai lầm. Ai muốn dự đoán tương lai của một công nghệ mới như vậy?

Tuy nhiên, chúng ta có thể nói một số điều chắc chắn. Ứng dụng AI vào các tác phẩm sáng tạo đang được thực hiện rất nhiều, từ lồng tiếng cho đến bản thảo kịch bản đầu tiên. Nhưng AI có thể sẽ hữu ích nhất khi giải quyết những công việc cực nhọc. Đây là tin tốt cho các nhà phát triển, nếu lời hứa phù hợp với các thử nghiệm ban đầu - các bản nháp mã đầu tiên có thể được tạo dễ dàng và sẵn sàng để các nhà phát triển điều chỉnh và lặp lại.

Tuy nhiên, điều quan trọng cần nhớ là không phải lập trình viên nào cũng làm việc cho một doanh nghiệp hợp pháp. Giống như các tác nhân đe dọa an ninh mạng đã mô phỏng các mục tiêu của họ để trở nên giống doanh nghiệp hơn, họ cũng đang áp dụng các công nghệ và kỹ thuật mới. Chúng ta có thể mong đợi AI sẽ giúp phát triển phần mềm độc hại và các mối đe dọa khác trong những năm tới, cho dù chúng ta có đang bước vào thời kỳ hoàng kim của AI hay không.

Soạn thảo mã và lừa đảo

Một xu hướng mà chúng tôi nhận thấy trong những năm gần đây là sự gia tăng của các dịch vụ “dưới dạng dịch vụ”. Những tin tặc ban đầu là những kẻ mày mò và tạo ra những trò nghịch ngợm, đánh lừa hệ thống điện thoại hoặc gây ra sự hỗn loạn chủ yếu như một trò vui. Điều này về cơ bản đã thay đổi. Những kẻ đe dọa rất chuyên nghiệp và thường bán sản phẩm của mình cho người khác sử dụng.

AI sẽ rất phù hợp với cách làm việc này. Với khả năng tạo mã để giải quyết các vấn đề cụ thể, AI có thể sửa đổi mã để nhắm vào các lỗ hổng hoặc lấy mã hiện có và thay đổi mã đó, do đó, các biện pháp bảo mật đang tìm kiếm các mẫu cụ thể không dễ dàng phát hiện ra mã đó.

Nhưng khả năng lạm dụng AI không dừng lại ở đó. Nhiều email lừa đảo bị các công cụ lọc hiệu quả phát hiện và đưa vào các thư mục rác. Những thư được gửi đến hộp thư đến thường là những trò lừa đảo rất rõ ràng, được viết tệ đến mức không thể hiểu được. Nhưng AI có thể phá vỡ mô hình này, tạo ra hàng nghìn email hợp lý có thể tránh bị phát hiện và được viết đủ tốt để đánh lừa cả bộ lọc và người dùng cuối.

Lừa đảo trực tuyến, hình thức tấn công được nhắm mục tiêu nhiều hơn, cũng có thể được cách mạng hóa bởi công nghệ này. Chắc chắn, bạn có thể dễ dàng bỏ qua email từ sếp yêu cầu bạn chuyển tiền mặt hoặc mua khẩn cấp thẻ quà tặng — đào tạo về an ninh mạng giúp nhân viên tránh được kiểu lừa đảo này. Nhưng còn một cuộc gọi điện thoại hoặc trò chuyện video giả mạo thì sao? AI có tiềm năng xuất hiện trên các chương trình phát sóng và podcast và biến chúng thành một mô phỏng thuyết phục, một thứ khó bỏ qua hơn nhiều.

Chống lại các cuộc tấn công mạng AI

Có hai cách chính để chống lại những lợi ích mà AI sẽ mang lại cho kẻ thù - AI tốt hơn và đào tạo tốt hơn - Và cả hai đều cần thiết.

Sự ra đời của thế hệ AI mới này đã bắt đầu một cuộc chạy đua vũ trang mới. Vì tội phạm mạng sử dụng nó để phát triển các cuộc tấn công của chúng nên các đội bảo mật cũng cần sử dụng nó để phát triển khả năng phòng thủ của chúng.

Nếu không có AI, hệ thống phòng thủ sẽ phải dựa vào những người làm việc quá sức và giám sát các mô hình được lập trình sẵn để ngăn chặn các cuộc tấn công. Các công cụ phòng thủ AI sẽ có thể dự đoán các vectơ tấn công và xác định chính xác các khu vực nhạy cảm của mạng và hệ thống. Họ cũng sẽ có thể phân tích mã độc, cho phép hiểu rõ hơn về cách thức hoạt động của các cuộc tấn công mới và cách ngăn chặn chúng.

AI cũng có thể hoạt động trong trường hợp khẩn cấp như một điểm dừng khẩn cấp – vô hiệu hóa mạng khi phát hiện vi phạm và khóa toàn bộ hệ thống. Mặc dù không lý tưởng từ góc độ kinh doanh liên tục, nhưng điều này có thể ít gây tổn hại hơn nhiều so với việc vi phạm dữ liệu.

Nhưng chiến đấu với AI bằng AI không phải là câu trả lời duy nhất. Chúng ta cũng cần trí thông minh của con người. Cho dù thông minh và có mục tiêu đến đâu, cách phòng vệ tốt nhất trước một cuộc tấn công lừa đảo là nhân viên hoặc khách hàng biết những gì cần tìm và đủ nghi ngờ để không mắc bẫy. Việc thực hiện các chính sách bảo mật mạnh mẽ và vệ sinh mạng theo phương pháp tốt nhất sẽ vẫn là chìa khóa để bảo vệ khỏi các cuộc tấn công.

Điều này có nghĩa là việc đào tạo sẽ cần phải được cập nhật để bao gồm các dấu hiệu của một cuộc tấn công AI… bất kể chúng có thể là gì. Việc đào tạo sẽ cần phải phát triển cùng với AI - một khóa đào tạo duy nhất vài năm một lần sẽ không còn hiệu quả nữa khi khóa đào tạo đó nhanh chóng lỗi thời.

Mặc dù các dấu hiệu có thể có của một cuộc tấn công mạng do AI điều khiển đang thay đổi nhanh chóng, nhưng nhìn chung, các cuộc tấn công là:

• Nhanh chóng và có thể mở rộng, khai thác nhiều lỗ hổng trong một khoảng thời gian ngắn.
• Thích ứng và lảng tránh, thay đổi chiến thuật và kỹ thuật để tránh bị phát hiện và phản ứng.
• Nhắm mục tiêu và cá nhân hóa, sử dụng AI để tạo các email lừa đảo thuyết phục hoặc các chiến dịch kỹ thuật xã hội.
• Lừa đảo và lôi kéo, sử dụng AI để tạo nội dung giả mạo hoặc bị thay đổi, chẳng hạn như deepfake, sao chép giọng nói hoặc tạo văn bản.
• Lén lút và kiên trì, ẩn náu trong cơ sở hạ tầng mạng rất lâu mà không bị phát hiện.

Những dấu hiệu này chưa đầy đủ và một số cuộc tấn công do AI điều khiển có thể không biểu hiện tất cả các dấu hiệu đó. Tuy nhiên, họ chỉ ra mức độ đe dọa mà AI đặt ra đối với an ninh mạng.

Để chống lại các cuộc tấn công mạng do AI điều khiển một cách hiệu quả, các doanh nghiệp phải nghĩ xa hơn các tác nhân xấu riêng lẻ và chuẩn bị cho các cuộc tấn công phối hợp của các tác nhân hoặc tổ chức tội phạm được nhà nước bảo trợ có thể sử dụng AI để khởi động các chiến dịch phức tạp bằng cách sử dụng phương pháp tiếp cận dựa trên rủi ro. Họ cũng nên có một chiến lược chủ động bao gồm kiểm tra bảo mật thường xuyên, sao lưu, mã hóa và kế hoạch ứng phó sự cố. Điều này được thực hiện dễ dàng nhất bằng cách có được chứng nhận bảo mật nổi tiếng như PCI-DSS.

Cuối cùng, điều bắt buộc là các tổ chức phải cải thiện an ninh mạng cho hệ thống AI của mình bằng cách đảm bảo tính toàn vẹn, bảo mật và tính khả dụng cũng như bằng cách giảm thiểu rủi ro về các cuộc tấn công đối nghịch, đầu độc dữ liệu và đánh cắp mô hình.

Những chiến lược này sẽ giúp bảo vệ doanh nghiệp nhưng không nên hoạt động độc lập — bảo mật phải mang tính cộng tác. Bằng cách cộng tác với các tổ chức, nhà nghiên cứu và cơ quan chức năng khác để chia sẻ thông tin, các phương pháp hay nhất và những thất bại có thể học hỏi từ đó, các doanh nghiệp sẽ được chuẩn bị tốt hơn cho làn sóng đe dọa bảo mật AI mới.

AI vừa là mối đe dọa mới vừa là sự tiếp nối của các mối đe dọa cũ. Các doanh nghiệp sẽ phải thay đổi cách họ giải quyết các mối đe dọa trên mạng khi những mối đe dọa này trở nên phức tạp hơn và nhiều hơn, nhưng nhiều nguyên tắc cơ bản vẫn được giữ nguyên. Có được những quyền này vẫn rất quan trọng. Các nhóm bảo mật không cần phải loại bỏ những ý tưởng cũ mà dựa trên chúng để giữ an toàn cho doanh nghiệp của họ.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Ô tô / Xe điện, Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• BlockOffsets. Hiện đại hóa quyền sở hữu bù đắp môi trường. Truy cập Tại đây.
• nguồn: https://www.darkreading.com/vulnerabilities-threats/a-golden-age-of-ai-or-security-threats-