Các lỗ hổng an ninh mạng AI mà các nhà giáo dục cần lưu ý

AI có thể là một công cụ có giá trị trong giáo dục, nhưng nó cũng gây ra một số lỗ hổng an ninh mạng quan trọng mà các nhà giáo dục nên lưu ý. Ngày càng có nhiều cách mà tin tặc có thể khai thác điểm yếu của AI và vượt qua các hệ thống bảo mật AI. Dưới đây là những lỗ hổng bảo mật AI hàng đầu đang gia tăng hiện nay và cách chúng có thể tác động đến giáo dục.

Dữ liệu đào tạo AI bị xâm phạm

Các thuật toán AI có thể cực kỳ hữu ích trong giáo dục, nhưng bản chất hộp đen của hầu hết các AI gây ra lỗ hổng an ninh mạng nghiêm trọng. Các thuật toán được đào tạo bằng cách sử dụng các bộ dữ liệu đào tạo để dạy AI hiểu hoặc nhận ra điều gì đó. Ví dụ: AI có thể được đào tạo để hiểu các bài toán đại số lớp 8 để có thể chấm điểm bài tập về nhà.

Tuy nhiên, cách thuật toán AI xử lý thông tin được ẩn trong hộp đen, nghĩa là những trục trặc và sai lệch có thể không được chú ý. AI có thể vô tình học sai điều gì đó hoặc tạo kết nối sai từ dữ liệu huấn luyện. Bản chất hộp đen của AI cũng có nghĩa là dữ liệu đào tạo bị nhiễm độc có thể không được chú ý.

Tin tặc có thể làm hỏng dữ liệu đào tạo để bao gồm một cửa sau được giấu trong AI Hợp lý. Khi tin tặc muốn truy cập vào hệ thống nơi AI sẽ được sử dụng, chúng chỉ cần nhập khóa cho cửa sau và AI sẽ nhận ra nó từ dữ liệu huấn luyện. Những cửa hậu như thế này có thể rất khó bị phát hiện vì các nhà phát triển và người dùng không thể nhìn thấy tất cả các kết nối đang diễn ra trong hộp đen của AI.

“Cách thuật toán AI xử lý thông tin được ẩn trong hộp đen, nghĩa là những trục trặc và sai lệch có thể không được chú ý”. 

Tin tặc đang thích nghi

Tạo cửa sau trong dữ liệu đào tạo AI là một quá trình phức tạp và tốn nhiều thời gian và là điều mà hầu hết chỉ những tin tặc có tay nghề cao mới có thể làm được. Thật không may, tin tặc đang điều chỉnh chiến lược tấn công của mình để vượt qua khả năng săn lùng mối đe dọa của AI. Trên thực tế, tin tặc thậm chí còn tạo ra các thuật toán AI của riêng mình để có thể đánh bại các thuật toán khác.

Ví dụ: tin tặc đã phát triển AI có thể tự động bẻ khóa mật khẩu để vượt qua hệ thống quản lý truy cập. Tệ hơn nữa, tin tặc đang sử dụng AI để làm cho ransomware và phần mềm độc hại của chúng đủ thông minh để vượt qua các giao thức bảo mật do AI cung cấp.

Đây là mối đe dọa nghiêm trọng đối với giáo dục vì các trường nhất thiết phải thu thập lượng lớn thông tin cá nhân về học sinh và gia đình. Dữ liệu của trường học là mục tiêu rất hấp dẫn đối với tin tặc, những kẻ biết rằng việc xâm phạm dữ liệu đó sẽ gây hoảng loạn, có khả năng dẫn đến nạn nhân phải trả một khoản tiền chuộc lớn bằng ransomware.

Khi hệ thống bảo mật AI gặp rủi ro, các nhà giáo dục có thể lo ngại về những gì họ có thể làm để bảo vệ học sinh của mình. Tuy nhiên, vẫn có những giải pháp. Ví dụ: các hệ thống AI dựa trên đám mây có thể an toàn hơn các hệ thống dựa trên các trung tâm dữ liệu thông thường. Ngoài ra, hệ thống bảo vệ dữ liệu thông minh trên nền tảng đám mây được xây dựng dành riêng cho các hệ thống dựa trên nền tảng đám mây, có thể cung cấp thêm một lớp bảo mật cho dữ liệu của trường học trong trường hợp bị tấn công mạng bằng AI.

Deepfakes và nhận dạng hình ảnh bị lỗi

Ngoài backdoor, tin tặc còn có thể khai thác những trục trặc ngoài ý muốn trong thuật toán AI. Ví dụ: tin tặc có thể giả mạo ảnh để lừa AI nhận dạng hình ảnh không chính xác.

Công nghệ deepfake cũng có thể được sử dụng để ngụy trang các tệp video, ảnh hoặc âm thanh thành những thứ không phải như vậy. Ví dụ: điều này có thể được sử dụng để tạo video lừa đảo về giáo viên hoặc quản trị viên. Deepfakes có thể cho phép tin tặc xâm nhập vào các hệ thống dựa vào nhận dạng âm thanh hoặc hình ảnh để kiểm soát truy cập.

Tin tặc có thể tận dụng chính AI để tạo ra các bản deepfake có độ chân thực cao, sau đó trở thành phương thức tấn công. Ví dụ: một kế hoạch gian lận năm 2021 đã sử dụng deepfake AI để đánh cắp 35 triệu USD từ một ngân hàng Hồng Kông.

Tin tặc có thể vũ khí hóa AI theo cách tương tự để tạo ra các bản deepfake về giọng nói của phụ huynh, giáo viên hoặc quản trị viên. Họ tiến hành cuộc tấn công bằng cách gọi điện thoại cho ai đó và lừa họ bằng một trò giả mạo dựa trên giọng nói. Điều này có thể được sử dụng để lấy cắp tiền hoặc thông tin cá nhân từ trường học, học sinh, giáo viên và gia đình.

“Dữ liệu của trường học là mục tiêu rất hấp dẫn đối với tin tặc, những kẻ biết rằng việc xâm phạm dữ liệu đó sẽ gây ra sự hoảng loạn, có khả năng dẫn đến nạn nhân phải trả khoản tiền chuộc cao bằng ransomware.” 

Sự phụ thuộc vào AI để kiểm tra và dạy kèm

AI rất hữu ích trong việc tự động hóa các khía cạnh khác nhau của giáo dục và thậm chí có thể cải thiện chất lượng giáo dục của học sinh. Ví dụ: trang web dạy kèm ngôn ngữ phổ biến Duolingo sử dụng AI học máy để giúp học sinh học theo tốc độ của riêng mình. Ngày nay, nhiều trường học và tài nguyên giáo dục khác đang sử dụng công nghệ tương tự. Điều này được gọi là học tập AI thích ứng, và nó thậm chí còn giúp thực hiện các nhiệm vụ thiết yếu như chấm điểm bài kiểm tra.

Thật không may, sự phụ thuộc vào AI này lại là một lỗ hổng an ninh mạng. Tin tặc có xu hướng nhắm mục tiêu vào các hệ thống quan trọng cho hoạt động của các hệ thống quan trọng. Vì vậy, nếu các nhà giáo dục đang dựa vào một số công cụ dạy kèm AI nhất định để học sinh hoàn thành thành công bài học, thì sự phụ thuộc vào AI đó có thể bị tin tặc khai thác. Họ có thể tiến hành một cuộc tấn công ransomware vào các thuật toán AI giáo dục quan trọng hoặc thậm chí có thể thao túng chính AI.

Lỗ hổng đặc biệt này là sự kết hợp của một số mối đe dọa nêu trên. Tin tặc có thể tạo một cửa sau trong AI cho phép chúng giả mạo thuật toán để chấm điểm sai hoặc dạy học sinh thông tin không chính xác.

“Nếu các nhà giáo dục đang dựa vào một số công cụ dạy kèm AI nhất định để học sinh hoàn thành thành công bài học, thì sự phụ thuộc vào AI đó có thể bị tin tặc khai thác.” 

Luôn nhận thức được các mối đe dọa mạng trong giáo dục

Không còn nghi ngờ gì nữa, AI có thể là một công cụ có giá trị cao đối với các nhà giáo dục. Tuy nhiên, việc sử dụng AI đòi hỏi sự thận trọng và cách tiếp cận chủ động về an ninh mạng để bảo vệ các lỗ hổng AI khỏi bị tin tặc khai thác.

Khi AI trở nên phổ biến trong giáo dục và cuộc sống hàng ngày, tin tặc đang phát triển các loại tấn công mạng mới được thiết kế để ngăn chặn các hệ thống an ninh thông minh. Bằng cách nhận thức được những mối đe dọa mạng mới nổi này, các nhà giáo dục có thể hành động để bảo vệ hệ thống và học sinh của mình.

Ngoài ra, đọc 5 cách robot sẽ giúp bạn kinh doanh nhiều hơn