AI는 교육에서 가치 있는 도구일 수 있지만 교육자가 인식해야 하는 몇 가지 주요 사이버 보안 취약성을 내포하고 있습니다. 해커가 AI 약점을 악용하고 AI 보안 시스템을 우회할 수 있는 방법이 점점 늘어나고 있습니다. 오늘날 증가하고 있는 상위 AI 보안 취약점과 교육에 미칠 수 있는 영향을 살펴보겠습니다.
손상된 AI 훈련 데이터
AI 알고리즘은 교육에 매우 유용할 수 있지만 대부분의 AI의 블랙박스 특성은 심각한 사이버 보안 취약성을 내포하고 있습니다. 알고리즘은 AI가 무언가를 이해하거나 인식하도록 가르치는 일련의 훈련 데이터를 사용하여 훈련됩니다. 예를 들어 AI는 8학년 대수 문제를 이해하도록 훈련되어 숙제를 채점할 수 있습니다.
그러나 AI 알고리즘이 정보를 처리하는 방식은 블랙박스에 숨겨져 있어 결함과 편향이 눈에 띄지 않을 수 있습니다. AI는 실수로 무언가를 잘못 배우거나 훈련 데이터에서 잘못된 연결을 만들 수 있습니다. AI의 블랙박스 특성은 또한 중독된 훈련 데이터가 눈에 띄지 않을 수 있음을 의미합니다.
해커는 다음을 포함하도록 훈련 데이터를 오염시킬 수 있습니다. AI에 숨겨진 백도어 논리. 해커가 AI가 사용될 시스템에 접근하고자 할 때 백도어에 대한 키를 입력하기만 하면 AI가 훈련 데이터에서 이를 인식합니다. 이와 같은 백도어는 개발자와 사용자가 AI의 블랙박스에서 진행 중인 모든 연결을 볼 수 없기 때문에 탐지하기가 매우 어려울 수 있습니다.
"AI 알고리즘이 정보를 처리하는 방식은 블랙박스에 숨겨져 있습니다. 즉, 결함과 편견이 눈에 띄지 않을 수 있습니다."
해커들이 적응하고 있다
AI 훈련 데이터에 백도어를 생성하는 것은 복잡하고 시간이 많이 소요되는 프로세스이며 주로 고도로 숙련된 해커만이 할 수 있는 일입니다. 불행히도 해커들은 AI의 위협 사냥 능력을 우회하기 위해 공격 전략을 조정하고 있습니다. 실제로 해커들은 다른 알고리즘을 능가할 수 있는 자체 AI 알고리즘을 만들고 있습니다.
예를 들어 해커는 다음을 수행할 수 있는 AI를 개발했습니다. 자동으로 암호 해독 액세스 관리 시스템을 우회합니다. 설상가상으로 해커는 AI를 사용하여 AI 기반 보안 프로토콜을 통과할 수 있을 만큼 랜섬웨어와 멀웨어를 지능적으로 만들고 있습니다.
학교는 반드시 학생과 가족에 대한 대량의 개인 정보를 수집해야 하기 때문에 이는 교육에 심각한 위협이 됩니다. 학교의 데이터는 해커에게 매우 매력적인 표적입니다. 해커는 해당 데이터를 손상시키면 패닉이 발생하여 잠재적으로 피해자로부터 막대한 랜섬웨어 지불금을 받을 수 있다는 사실을 알고 있습니다.
AI 보안 시스템이 위험에 처한 상황에서 교육자는 학생들을 보호하기 위해 할 수 있는 일에 대해 우려할 수 있습니다. 하지만 해결책이 있습니다. 예를 들어, 클라우드 기반 AI 시스템은 기존 데이터 센터를 기반으로 하는 시스템보다 더 안전할 수 있습니다. 또한 구축된 클라우드 지능형 데이터 보호 시스템 특히 클라우드 네이티브 시스템용, AI 사이버 공격의 경우 학교 데이터에 대한 추가 보안 계층을 제공할 수 있습니다.
딥페이크 및 잘못된 이미지 인식
백도어 외에도 해커는 AI 알고리즘의 의도하지 않은 결함을 악용할 수도 있습니다. 예를 들어 해커는 사진을 변조하여 AI가 이미지를 잘못 인식하도록 속일 수 있습니다.
Deepfake 기술은 비디오, 사진 또는 오디오 파일을 실제가 아닌 것으로 위장하는 데에도 사용할 수 있습니다. 이것은 예를 들어 교사나 관리자의 사기성 비디오를 만드는 데 사용될 수 있습니다. 딥페이크를 사용하면 해커가 액세스 제어를 위해 오디오 또는 이미지 인식에 의존하는 시스템에 침입할 수 있습니다.
해커는 AI를 활용하여 매우 사실적인 딥페이크를 만든 다음 공격 모드가 될 수 있습니다. 예를 들어, 2021년 사기 계획 AI 딥페이크 사용 홍콩 은행에서 35만 달러를 훔치다.
해커는 이와 같은 방식으로 AI를 무기화하여 부모, 교사 또는 관리자의 음성을 딥페이크할 수 있습니다. 그들은 전화로 누군가에게 전화를 걸어 음성 기반 딥페이크로 공격을 시작합니다. 이것은 학교, 학생, 교사 및 가족으로부터 돈이나 개인 정보를 훔치는 데 사용될 수 있습니다.
"학교의 데이터는 해커에게 매우 매력적인 표적입니다. 해커는 해당 데이터를 손상시키면 패닉이 발생하여 잠재적으로 피해자로부터 높은 랜섬웨어 지불금으로 이어질 수 있다는 것을 알고 있습니다."
테스트 및 튜터링을 위한 AI에 대한 의존
AI는 교육의 다양한 측면을 자동화하는 데 탁월하며 학생 교육의 질을 향상시킬 수도 있습니다. 예를 들어, 인기 있는 언어 과외 웹사이트 Duolingo 머신 러닝 AI 사용 학생들이 자신의 속도로 학습할 수 있도록 지원합니다. 오늘날 많은 다른 학교와 교육 자원에서 유사한 기술을 사용하고 있습니다. 이것은 다음과 같이 알려져 있습니다. 적응형 AI 학습, 테스트 채점과 같은 필수 작업에도 도움이 됩니다.
불행히도 AI에 대한 이러한 의존은 사이버 보안 취약점입니다. 해커는 핵심 시스템의 작동에 중요한 시스템을 표적으로 삼는 경향이 있습니다. 따라서 교육자가 학생들이 코스를 성공적으로 완료하기 위해 특정 AI 튜터링 도구에 의존하는 경우 AI에 대한 의존도가 해커에 의해 악용될 수 있습니다. 그들은 중요한 교육 AI 알고리즘에 대한 랜섬웨어 공격을 시작하거나 AI 자체를 조작할 수도 있습니다.
이 특정 취약점은 위에서 언급한 여러 위협의 조합입니다. 해커는 AI에 백도어를 만들어 알고리즘을 조작하여 부정확하게 등급을 매기거나 학생들에게 부정확한 정보를 가르칠 수 있습니다.
"교육자가 학생들이 성공적으로 수업을 완료하기 위해 특정 AI 튜터링 도구에 의존한다면 AI에 대한 의존도는 해커에 의해 악용될 수 있습니다."
교육 사이버 위협에 대한 인식 유지
AI가 교육자에게 매우 가치 있는 도구가 될 수 있다는 것은 의심의 여지가 없습니다. 그러나 AI를 사용하려면 해커가 AI 취약성을 악용하지 않도록 주의하고 사이버 보안에 대한 사전 예방적 접근이 필요합니다.
AI가 교육 및 일상 생활에서 보편화됨에 따라 해커는 지능형 보안 시스템을 방해하도록 설계된 새로운 종류의 사이버 공격을 개발하고 있습니다. 교육자는 이러한 새로운 사이버 위협을 인식하여 시스템과 학생을 보호하기 위한 조치를 취할 수 있습니다.
