COMMENTARY
Là chuyên gia an ninh mạng dự đoán một năm trước, trí tuệ nhân tạo (AI) đã đóng vai trò trung tâm trong bối cảnh tội phạm mạng năm 2023, thúc đẩy sự gia tăng các cuộc tấn công đồng thời góp phần cải thiện khả năng phòng thủ trước các cuộc tấn công trong tương lai. Giờ đây, bước sang năm 2024, các chuyên gia trong ngành kỳ vọng AI sẽ còn có ảnh hưởng nhiều hơn nữa đến an ninh mạng.
Sản phẩm Dự báo an ninh mạng trên đám mây của Google năm 2024 nhận thấy AI tổng quát và các mô hình ngôn ngữ lớn góp phần làm gia tăng các hình thức tấn công mạng khác nhau. Hơn 90% CEO người Canada ở cuộc thăm dò của KPMG nghĩ rằng AI có tính sáng tạo sẽ khiến chúng dễ bị vi phạm hơn. Và một báo cáo của chính phủ Anh cho biết AI đặt ra một mối đe dọa cho cuộc bầu cử tiếp theo của đất nước.
Trong khi các mối đe dọa liên quan đến AI vẫn đang ở giai đoạn đầu, số lượng và mức độ phức tạp của các cuộc tấn công do AI điều khiển đang tăng lên mỗi ngày. Các tổ chức cần chuẩn bị cho những gì sắp tới.
4 cách tội phạm mạng đang tận dụng AI
Có bốn cách chính mà đối thủ đang sử dụng các công cụ AI phổ biến như ChatGPT, Dall-E và Midjourney: tấn công lừa đảo tự động, tấn công mạo danh, tấn công kỹ thuật xã hội và chatbot hỗ trợ khách hàng giả mạo.
Các cuộc tấn công lừa đảo trực tuyến đang nhận được sự thúc đẩy lớn từ AI. Trước đây, việc xác định các nỗ lực lừa đảo dễ dàng hơn chỉ vì nhiều lỗi mắc phải lỗi ngữ pháp và chính tả kém. Những độc giả sáng suốt có thể nhận ra cách giao tiếp kỳ lạ, không được yêu cầu như vậy, cho rằng nó có thể được tạo ra từ một quốc gia nơi tiếng Anh không phải là ngôn ngữ chính.
ChatGPT đã loại bỏ khá nhiều thông tin báo trước. Với sự trợ giúp của ChatGPT, tội phạm mạng có thể viết một email có ngữ pháp và cách sử dụng tiếng Anh hoàn hảo, được viết theo ngôn ngữ của một nguồn hợp pháp. Tội phạm mạng có thể gửi các thông tin liên lạc tự động bắt chước, chẳng hạn như cơ quan có thẩm quyền tại ngân hàng yêu cầu người dùng đăng nhập và cung cấp thông tin về tài khoản 401(k) của họ. Khi người dùng nhấp vào liên kết để bắt đầu cung cấp thông tin, tin tặc sẽ chiếm quyền kiểm soát tài khoản.
Thủ thuật này phổ biến đến mức nào? Dấu gạch chéoTiếp theo Báo cáo tình trạng lừa đảo năm 2023 cho rằng số email lừa đảo độc hại đã tăng 1,265% kể từ quý 2022 năm XNUMX, phần lớn là do mục tiêu xâm phạm email doanh nghiệp sử dụng các công cụ AI.
Tấn công mạo danh cũng đang trên đà gia tăng. Bằng cách sử dụng ChatGPT và các công cụ khác, những kẻ lừa đảo đang mạo danh các cá nhân và tổ chức thực sự, thực hiện các hành vi trộm danh tính và lừa đảo. Cũng giống như các cuộc tấn công lừa đảo, chúng sử dụng chatbot để gửi tin nhắn thoại giả vờ là một người bạn, đồng nghiệp hoặc thành viên gia đình đáng tin cậy nhằm lấy thông tin hoặc truy cập vào tài khoản.
Một ví dụ diễn ra ở Saskatchewan, Canada vào đầu năm 2023. Một cặp vợ chồng già nhận được cuộc gọi từ một người mạo danh cháu trai của họ, khai rằng cháu trai họ đã bị tai nạn ô tô và đang bị giam. Người gọi kể lại câu chuyện rằng anh ta đã bị thương, bị mất ví và cần 9,400 USD tiền mặt để giải quyết với chủ sở hữu của chiếc xe kia để tránh phải đối mặt với cáo buộc. Ông bà đến ngân hàng để rút tiền nhưng tránh bị lừa khi nhân viên ngân hàng thuyết phục họ rằng yêu cầu này không hợp pháp.
Trong khi các chuyên gia trong ngành tin rằng việc sử dụng công nghệ nhân bản giọng nói AI một cách tinh vi này sẽ phát triển trong vài năm tới, thì ít ai ngờ rằng nó sẽ trở nên hiệu quả nhanh chóng như vậy.
Tội phạm mạng đang sử dụng ChatGPT và các chatbot AI khác để thực hiện các cuộc tấn công kỹ thuật xã hội nhằm gây ra sự hỗn loạn. Họ sử dụng sự kết hợp giữa công nghệ nhân bản giọng nói và deepfake để làm cho nó trông giống như ai đó đang nói điều gì đó mang tính kích động.
Điều này xảy ra vào đêm trước cuộc bầu cử thị trưởng Chicago vào tháng Hai. Một hacker đã tạo một video deepfake và đăng nó lên X, trước đây gọi là Twitter, cho thấy ứng cử viên Paul Vallas được cho là đã đưa ra những nhận xét sai lệch mang tính kích động và đưa ra quan điểm chính sách gây tranh cãi. Video đã tạo ra hàng nghìn lượt xem trước khi bị xóa khỏi nền tảng.
Chiến thuật cuối cùng, các chatbot giả mạo dành cho dịch vụ khách hàng, vẫn tồn tại, nhưng có lẽ phải mất một hoặc hai năm nữa chúng mới trở nên phổ biến rộng rãi. Một trang web ngân hàng lừa đảo có thể được tạo bằng cách sử dụng chatbot dịch vụ khách hàng có hình dáng giống con người. Chatbot có thể được sử dụng để thao túng những nạn nhân không nghi ngờ chuyển giao thông tin tài khoản và cá nhân nhạy cảm.
An ninh mạng đang chống trả như thế nào
Tin vui là AI cũng đang được sử dụng như một công cụ bảo mật để chống lại các trò gian lận do AI điều khiển. Dưới đây là ba cách mà ngành an ninh mạng đang chống trả.
Phát triển AI đối thủ của riêng họ
Về cơ bản, điều này là tạo ra “AI tốt” và huấn luyện nó để chống lại “AI xấu”. Khi phát triển mạng lưới đối thủ tổng hợp (GAN) của riêng mình, các công ty mạng có thể biết được điều gì sẽ xảy ra trong trường hợp xảy ra một cuộc tấn công. GAN bao gồm hai mạng thần kinh: một bộ tạo tạo các mẫu dữ liệu mới và một bộ phân biệt đối xử, giúp phân biệt các mẫu được tạo với các mẫu ban đầu.
Bằng cách sử dụng những công nghệ này, GAN có thể tạo ra các kiểu tấn công mới giống với các kiểu tấn công đã thấy trước đó. Bằng cách đào tạo mô hình dựa trên các mẫu này, hệ thống có thể đưa ra dự đoán về loại tấn công mà chúng ta có thể thấy và cách tội phạm mạng đang khai thác những mối đe dọa đó.
Phát hiện bất thường
Đây là sự hiểu biết cơ bản về hành vi bình thường là gì và sau đó xác định khi nào ai đó đi chệch khỏi hành vi đó. Khi ai đó đăng nhập vào tài khoản từ một vị trí khác với thông thường hoặc nếu bộ phận kế toán đang sử dụng hệ thống PowerShell một cách bí ẩn thường được các nhà phát triển phần mềm sử dụng, đó có thể là dấu hiệu của một cuộc tấn công. Mặc dù các hệ thống an ninh mạng đã sử dụng mô hình này từ lâu, nhưng các mô hình AI có mã lực công nghệ bổ sung có thể gắn cờ các tin nhắn có khả năng đáng ngờ một cách hiệu quả hơn.
Phản hồi phát hiện
Việc sử dụng hệ thống AI, các công cụ và dịch vụ an ninh mạng như phát hiện và phản hồi được quản lý (MDR) có thể phát hiện các mối đe dọa tốt hơn và truyền đạt thông tin về chúng cho các nhóm bảo mật. AI giúp các nhóm bảo mật xác định và giải quyết các mối đe dọa hợp pháp nhanh hơn bằng cách nhận thông tin ngắn gọn và phù hợp. Việc dành ít thời gian hơn cho việc theo dõi các kết quả dương tính giả và cố gắng giải mã nhật ký bảo mật sẽ giúp các nhóm đưa ra các phản hồi hiệu quả hơn.
Kết luận
Các công cụ AI đang mở rộng tầm mắt của xã hội về những khả năng mới trong hầu hết mọi lĩnh vực công việc. Khi tin tặc tận dụng tối đa các công nghệ mô hình ngôn ngữ lớn, ngành công nghiệp sẽ cần phải theo kịp để kiểm soát mối đe dọa AI.
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://www.darkreading.com/vulnerabilities-threats/how-ai-shaping-future-cybercrime
- : có
- :là
- :Ở đâu
- 1
- 2022
- 2023
- 2024
- 400
- 7
- a
- Giới thiệu
- truy cập
- tai nạn
- Tài khoản
- Kế toán
- Trợ Lý Giám Đốc
- ngang qua
- thêm
- địa chỉ
- Lợi thế
- đối thủ
- chống lại
- trước
- AI
- Mô hình AI
- Hệ thống AI
- Ngoài ra
- an
- và
- xuất hiện
- LÀ
- nhân tạo
- trí tuệ nhân tạo
- Trí tuệ nhân tạo (AI)
- AS
- At
- tấn công
- Các cuộc tấn công
- nỗ lực
- cố gắng
- Nỗ lực
- ủy quyền
- Tự động
- có sẵn
- tránh
- tránh
- xa
- trở lại
- Bad
- Ngân hàng
- Baseline
- BE
- bởi vì
- trở nên
- được
- trước
- hành vi
- được
- tin
- Hơn
- tăng
- vi phạm
- nhưng
- by
- cuộc gọi
- Caller
- CAN
- Canada
- Canada
- ứng cử viên
- xe hơi
- mang
- thực
- tiền mặt
- trung tâm
- CEO
- Chaos
- tải
- chatbot
- chatbot
- ChatGPT
- Chicago
- tuyên bố
- đám mây
- đồng nghiệp
- chống lại
- kết hợp
- thông thường
- giao tiếp
- Giao tiếp
- Truyền thông
- góp phần
- điều khiển
- gây tranh cãi
- thuyết phục
- có thể
- đất nước
- Couple
- tạo ra
- tạo ra
- Tạo
- khách hàng
- Dịch Vụ CSKH
- Hỗ trợ khách hàng
- không gian mạng
- Tấn công mạng
- tội phạm mạng
- TỘI PHẠM MẠNG
- tội phạm mạng
- An ninh mạng
- dall's
- dữ liệu
- ngày
- Giải mã
- Phòng thủ
- bộ
- phát hiện
- Phát hiện
- phát triển
- phát triển
- phát triển
- khác nhau
- do
- lái xe
- Đầu
- dễ dàng hơn
- Hiệu quả
- hiệu quả
- Người cao tuổi
- Bầu cử
- loại bỏ
- Kỹ Sư
- Tiếng Anh
- lỗi
- Ngay cả
- Sự kiện
- Mỗi
- mỗi ngày
- ví dụ
- tồn tại
- mong đợi
- dự kiến
- các chuyên gia
- khai thác
- Mắt
- phải đối mặt với
- giả mạo
- sai
- gia đình
- Tháng Hai
- vài
- lĩnh vực
- trận đánh
- hãng
- Trong
- Dự báo
- trước kia
- các hình thức
- 4
- Thứ tư
- gian lận
- lừa đảo
- người bạn
- từ
- Đập da nỉ
- tương lai
- đạt được
- tạo ra
- tạo ra
- thế hệ
- Trí tuệ nhân tạo
- máy phát điện
- được
- nhận được
- tốt
- Chính phủ
- ngữ pháp
- của hacker
- tin tặc
- có
- bàn giao
- đã xảy ra
- Có
- he
- Nhóm
- Được tổ chức
- giúp đỡ
- giúp
- tại đây
- của mình
- Độ đáng tin của
- HTML
- HTTPS
- Nhân loại
- Đau
- xác định
- xác định
- Bản sắc
- if
- cải tiến
- in
- Tăng lên
- tăng
- chỉ số
- các cá nhân
- ngành công nghiệp
- chuyên gia ngành
- ảnh hưởng
- thông tin
- Sự thông minh
- trong
- isn
- IT
- tù
- jpg
- chỉ
- Giữ
- Loại
- nổi tiếng
- KPMG
- cảnh quan
- Ngôn ngữ
- lớn
- phần lớn
- Họ
- phóng
- LEARN
- hợp pháp
- ít
- tận dụng
- Lượt thích
- Có khả năng
- LINK
- địa điểm thư viện nào
- đăng nhập
- dài
- Xem
- giống như
- thua
- Chủ yếu
- chính
- làm cho
- độc hại
- quản lý
- nhiều
- MDR
- hội viên
- tin nhắn
- giữa hành trình
- kiểu mẫu
- mô hình
- tiền
- chi tiết
- nhiều
- Cần
- cần thiết
- mạng
- thần kinh
- mạng thần kinh
- Mới
- tin tức
- tiếp theo
- đêm
- bình thường
- Thông thường
- tại
- of
- chính thức
- on
- mở
- or
- tổ chức
- nguyên
- Nền tảng khác
- ra
- kết thúc
- riêng
- chủ sở hữu
- Hòa bình
- qua
- mô hình
- paul
- hoàn hảo
- riêng
- Lừa đảo
- tấn công lừa đảo
- Nơi
- nền tảng
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- máy nghe nhạc
- điều luật
- người nghèo
- Phổ biến
- phổ biến
- đặt ra
- có
- khả năng
- đăng
- có khả năng
- PowerShell
- Dự đoán
- Chuẩn bị
- khá
- trước đây
- chính
- có lẽ
- cho
- Quý
- Mau
- nhanh chóng
- RE
- độc giả
- thực
- nhận
- nhận
- có liên quan
- Đã loại bỏ
- báo cáo
- yêu cầu
- yêu cầu
- phản ứng
- phản ứng
- câu đố
- Tăng lên
- s
- nói
- nói
- Lừa đảo
- lừa đảo
- an ninh
- xem
- đã xem
- nhìn
- gửi
- nhạy cảm
- dịch vụ
- DỊCH VỤ
- giải quyết
- định hình
- kể từ khi
- website
- bầu trời
- Mạng xã hội
- Kỹ thuật xã hội
- Xã hội
- Phần mềm
- Nhà phát triển phần mềm
- chỉ duy nhất
- Một người nào đó
- một cái gì đó
- tinh vi
- sự tinh tế
- nguồn
- chính tả
- tiêu
- Spot
- giai đoạn
- Bắt đầu
- Vẫn còn
- Câu chuyện
- như vậy
- hỗ trợ
- đáng ngờ
- hệ thống
- hệ thống
- Hãy
- mất
- đội
- công nghệ
- Công nghệ
- Công nghệ
- hơn
- việc này
- Sản phẩm
- Tương lai
- trộm cắp
- cung cấp their dịch
- Them
- tự
- sau đó
- Kia là
- họ
- nghĩ
- điều này
- những
- hàng ngàn
- mối đe dọa
- các mối đe dọa
- số ba
- thời gian
- đến
- mất
- công cụ
- công cụ
- Hội thảo
- đáng tin cậy
- hai
- Uk
- Chính phủ Anh
- Dưới
- sự hiểu biết
- không được yêu cầu
- Sử dụng
- sử dụng
- đã sử dụng
- người sử dang
- Người sử dụng
- sử dụng
- bình thường
- khác nhau
- nạn nhân
- Video
- Lượt xem
- hầu như
- Giọng nói
- khối lượng
- Dễ bị tổn thương
- ví
- là
- không phải
- cách
- we
- đi
- là
- Điều gì
- khi nào
- cái nào
- trong khi
- rộng
- sẽ
- với
- Thu hồi
- Công việc
- sẽ
- viết
- X
- năm
- năm
- zephyrnet