Vulnerabilidades de cibersegurança de IA para os educadores estarem cientes

A IA pode ser uma ferramenta valiosa na educação, mas também apresenta algumas vulnerabilidades importantes de segurança cibernética das quais os educadores devem estar cientes. Há um número crescente de maneiras pelas quais os hackers podem explorar os pontos fracos da IA ​​e contornar os sistemas de segurança da IA. Aqui está uma olhada nas principais vulnerabilidades de segurança de IA que estão aumentando atualmente e como elas podem impactar a educação.

Dados de treinamento de IA comprometidos

Os algoritmos de IA podem ser extremamente úteis na educação, mas a natureza de caixa negra da maioria das IA representa uma grave vulnerabilidade de segurança cibernética. Os algoritmos são treinados usando conjuntos de dados de treinamento que ensinam a IA a compreender ou reconhecer algo. Por exemplo, uma IA pode ser treinada para compreender problemas de álgebra do 8º ano, para que possa avaliar os trabalhos de casa.

No entanto, a forma como os algoritmos de IA processam as informações está escondida em uma caixa preta, o que significa que falhas e preconceitos podem passar despercebidos. Uma IA pode inadvertidamente aprender algo incorretamente ou fazer conexões falsas a partir dos dados de treinamento. A natureza de caixa preta da IA ​​também significa que dados de treinamento envenenados podem passar despercebidos.

Os hackers podem contaminar os dados de treinamento para incluir um backdoor escondido na IA lógica. Quando o hacker deseja acessar o sistema onde a IA será usada, ele pode simplesmente inserir a chave do backdoor e a IA a reconhecerá a partir dos dados de treinamento. Backdoors como esse podem ser altamente difíceis de detectar porque os desenvolvedores e usuários não conseguem ver todas as conexões acontecendo na caixa preta da IA.

“A forma como os algoritmos de IA processam as informações está escondida em uma caixa preta, o que significa que falhas e preconceitos podem passar despercebidos.” 

Os hackers estão se adaptando

Criar um backdoor em dados de treinamento de IA é um processo complexo e demorado e algo que apenas hackers altamente qualificados seriam capazes de fazer. Infelizmente, os hackers estão adaptando suas estratégias de ataque para contornar as habilidades de caça a ameaças da IA. Na verdade, os hackers estão até criando seus próprios algoritmos de IA que podem ser mais espertos que outros algoritmos.

Por exemplo, os hackers desenvolveram IAs que podem quebrar senhas de forma autônoma para contornar os sistemas de gerenciamento de acesso. Pior ainda, os hackers estão usando IA para tornar seus ransomware e malware inteligentes o suficiente para ultrapassar os protocolos de segurança baseados em IA.

Esta é uma séria ameaça à educação porque as escolas necessitam necessariamente de recolher grandes quantidades de informações pessoais sobre alunos e famílias. Os dados das escolas são um alvo altamente atraente para os hackers, que sabem que comprometer esses dados causaria pânico, levando potencialmente a um grande pagamento de ransomware por parte das vítimas.

Com os sistemas de segurança de IA em risco, os educadores podem estar preocupados com o que podem fazer para defender os seus alunos. Existem soluções, no entanto. Por exemplo, os sistemas de IA baseados na nuvem podem ser mais seguros do que os baseados em centros de dados convencionais. Além disso, sistemas de proteção de dados inteligentes em nuvem, construídos especificamente para sistemas nativos da nuvem, pode fornecer uma camada extra de segurança para os dados das escolas no caso de um ataque cibernético de IA.

Deepfakes e reconhecimento de imagem defeituoso

Além dos backdoors, os hackers também podem explorar falhas não intencionais nos algoritmos de IA. Por exemplo, um hacker pode adulterar fotos para induzir uma IA a reconhecer incorretamente uma imagem.

A tecnologia Deepfake também pode ser usada para disfarçar arquivos de vídeo, foto ou áudio como algo que não são. Isso poderia ser usado para criar um vídeo fraudulento de um professor ou administrador, por exemplo. Deepfakes podem permitir que hackers entrem em sistemas que dependem de reconhecimento de áudio ou imagem para controle de acesso.

Os próprios hackers podem aproveitar a IA para criar deepfakes altamente realistas que então se tornam o modo de ataque. Por exemplo, um esquema de fraude de 2021 usei deepfakes de IA roubar 35 milhões de dólares de um banco de Hong Kong.

Os hackers podem transformar a IA em uma arma da mesma maneira para criar deepfakes nas vozes de pais, professores ou administradores. Eles lançam o ataque ligando para alguém e enganando-o com um deepfake baseado em voz. Isso pode ser usado para roubar dinheiro ou informações pessoais de escolas, alunos, professores e famílias.

“Os dados das escolas são um alvo altamente atraente para os hackers, que sabem que comprometer esses dados causaria pânico, levando potencialmente a um alto pagamento de ransomware por parte das vítimas.” 

Confiança na IA para testes e tutoria

A IA é ótima para automatizar vários aspectos da educação e pode até melhorar a qualidade da educação dos alunos. Por exemplo, o popular site de aulas de idiomas Duolingo usa IA de aprendizado de máquina para ajudar os alunos a aprender em seu próprio ritmo. Muitas outras escolas e recursos educacionais estão usando tecnologia semelhante hoje. Isso é conhecido como aprendizagem adaptativa de IAe ainda ajuda em tarefas essenciais, como avaliação de testes.

Infelizmente, esta dependência da IA ​​é uma vulnerabilidade de segurança cibernética. Os hackers tendem a ter como alvo sistemas que são cruciais para a operação de sistemas importantes. Portanto, se os educadores dependem de certas ferramentas de tutoria de IA para que os alunos concluam com êxito os cursos, essa dependência da IA ​​pode ser explorada por um hacker. Eles poderiam lançar um ataque de ransomware contra algoritmos críticos de IA para educação ou possivelmente até manipular a própria IA.

Esta vulnerabilidade específica é uma combinação de várias das ameaças mencionadas acima. Os hackers podem criar um backdoor em uma IA que lhes permita alterar o algoritmo para que ele avalie incorretamente ou ensine aos alunos informações incorretas.

“Se os educadores dependem de certas ferramentas de tutoria de IA para que os alunos concluam com sucesso os cursos, essa confiança na IA pode ser explorada por um hacker.” 

Ficar atento às ameaças cibernéticas na educação

Não há dúvida de que a IA pode ser uma ferramenta altamente valiosa para educadores. No entanto, a utilização da IA ​​requer cautela e uma abordagem proativa à segurança cibernética para proteger as vulnerabilidades da IA ​​contra a exploração por hackers.

À medida que a IA se torna omnipresente na educação e na vida quotidiana, os hackers estão a desenvolver novos tipos de ataques cibernéticos concebidos para impedir sistemas de segurança inteligentes. Ao manterem-se conscientes destas ameaças cibernéticas emergentes, os educadores podem tomar medidas para proteger os seus sistemas e os seus alunos.

Leia também 5 maneiras como a robótica ajudará você a obter mais negócios