Uma Era de Ouro da IA... ou Ameaças à Segurança?

Estamos na era de ouro da inteligência artificial? É difícil fazer previsões - e provavelmente imprudente. Quem quer prever o futuro de uma tecnologia tão nova?

Podemos, no entanto, dizer algumas coisas com certeza. Muito está sendo feito da aplicação da IA ​​a trabalhos criativos, desde a dublagem até os primeiros rascunhos de roteiros. Mas a IA provavelmente será mais útil ao lidar com trabalho penoso. Esta é uma boa notícia para os desenvolvedores, se a promessa corresponder aos primeiros experimentos - os primeiros rascunhos de código podem ser facilmente criados e prontos para os desenvolvedores ajustarem e iterarem.

No entanto, é importante lembrar que nem todo codificador está trabalhando para um negócio legítimo. Assim como os agentes das ameaças à cibersegurança imitaram os seus alvos para se tornarem mais empresariais, também estão a adoptar novas tecnologias e técnicas. Podemos esperar que a IA ajude no desenvolvimento de malware e outras ameaças nos próximos anos, quer estejamos entrando na era de ouro da IA ​​ou não.

Elaboração de código e golpes

Uma tendência que vimos nos últimos anos é o aumento das ofertas “como serviço”. Os primeiros hackers eram consertadores e criadores de travessuras, enganando sistemas telefônicos ou causando caos principalmente como um exercício de diversão. Isso mudou fundamentalmente. Os agentes de ameaças são profissionais e geralmente vendem seus produtos para outros usarem.

A IA se encaixará muito bem nessa forma de trabalhar. Capaz de criar código para lidar com problemas específicos, a IA pode alterar o código para identificar vulnerabilidades ou pegar o código existente e alterá-lo, para que não seja tão facilmente detectado por medidas de segurança que procuram padrões específicos.

Mas as possibilidades de uso indevido da IA ​​não param por aí. Muitos e-mails de phishing são detectados por ferramentas de filtragem eficazes e acabam em pastas de lixo eletrônico. Aqueles que chegam à caixa de entrada geralmente são golpes obviamente, escritos tão mal que são quase incompreensíveis. Mas a IA pode quebrar esse padrão, criando milhares de e-mails plausíveis que podem evitar a detecção e ser bem escritos o suficiente para enganar os filtros e os usuários finais.

Spear-phishing, a forma mais direcionada desse ataque, também pode ser revolucionado por essa tecnologia. Claro, é fácil ignorar um e-mail de seu chefe pedindo para você transferir dinheiro ou comprar cartões-presente com urgência - o treinamento em segurança cibernética ajuda os funcionários a evitar esse tipo de golpe. Mas e quanto a um telefonema ou bate-papo por vídeo deep-fake? A IA tem o potencial de transformar aparições e podcasts em um simulacro convincente, algo muito mais difícil de ignorar.

Lutando contra ataques cibernéticos de IA

Existem duas maneiras principais de lutar contra os benefícios que a IA conferirá ao inimigo — melhor IA e melhor treinamento — E ambos serão necessários.

O advento dessa nova geração de IA deu início a uma nova corrida armamentista. Como os cibercriminosos o usam para desenvolver seus ataques, as equipes de segurança também precisam usá-lo para desenvolver suas defesas.

Sem IA, as defesas dependem de pessoas sobrecarregadas e do monitoramento de certos padrões pré-programados para evitar ataques. As ferramentas defensivas de IA serão capazes de prever vetores de ataque e identificar áreas sensíveis da rede e dos sistemas. Eles também poderão analisar códigos maliciosos, permitindo uma melhor compreensão de como novos ataques funcionam e como eles podem ser evitados.

A IA também pode funcionar, em caso de emergência, como uma parada de emergência – desativando a rede ao detectar uma violação e bloqueando todo o sistema. Embora não seja ideal do ponto de vista da continuidade dos negócios, isso pode ser muito menos prejudicial do que uma violação de dados.

Mas lutar contra IA com IA não é a única resposta. Também precisamos da inteligência humana. Não importa o quão inteligente e direcionado seja, a melhor defesa contra um ataque de phishing é um funcionário ou cliente que saiba o que procurar e seja suspeito o suficiente para não morder a isca. A implementação de políticas de segurança robustas e as práticas recomendadas de higiene cibernética continuarão sendo essenciais para a defesa contra ataques.

Isso significa que o treinamento precisará ser atualizado para incluir os sinais de um ataque de IA... sejam eles quais forem. O treinamento precisará evoluir com a IA - um único curso de treinamento a cada poucos anos não será mais suficiente quando esse treinamento estiver rapidamente desatualizado.

Embora os possíveis sinais de um ataque cibernético orientado por IA estejam mudando rapidamente, em geral, os ataques são:

• Rápido e escalável, explorando várias vulnerabilidades em um curto espaço de tempo.
• Adaptativo e evasivo, mudando táticas e técnicas para evitar detecção e resposta.
• Direcionado e personalizado, usando IA para criar e-mails de phishing convincentes ou campanhas de engenharia social.
• Enganador e manipulador, usando IA para criar conteúdo falso ou alterado, como deepfakes, clonagem de voz ou geração de texto.
• Furtivo e persistente, escondendo-se na infraestrutura de rede por muito tempo sem ser notado.

Esses sinais não são exaustivos e alguns ataques baseados em IA podem não exibir todos eles. No entanto, eles indicam o nível de ameaça que a IA representa para a segurança cibernética.

Para combater efetivamente os ataques cibernéticos conduzidos por IA, as empresas devem pensar além dos maus atores individuais e se preparar para ataques coordenados por atores patrocinados pelo estado ou organizações criminosas que podem usar IA para lançar campanhas sofisticadas usando uma abordagem baseada em risco. Eles também devem ter um estratégia proativa que inclui auditorias regulares de segurança, backups, criptografia e planos de resposta a incidentes. Isso é feito mais facilmente obtendo uma certificação de segurança conhecida, como PCI-DSS.

Por fim, é imperativo que as organizações melhorem a segurança cibernética de seus próprios sistemas de IA, garantindo sua integridade, confidencialidade e disponibilidade e mitigando os riscos de ataques adversários, envenenamento de dados e roubo de modelos.

Essas estratégias ajudarão a proteger os negócios, mas não devem ser independentes — a segurança deve ser colaborativa. Ao colaborar com outras organizações, pesquisadores e autoridades para compartilhar informações, melhores práticas e falhas que podem ser aprendidas, as empresas estarão mais bem preparadas para a nova onda de ameaças à segurança da IA.

A IA é uma nova ameaça e uma continuação de ameaças mais antigas. As empresas terão que evoluir na forma como lidam com as ameaças cibernéticas à medida que essas ameaças se tornam mais sofisticadas e mais numerosas, mas muitos dos fundamentos permanecem os mesmos. Acertá-los continua sendo crítico. As equipes de segurança não precisam se afastar de ideias antigas, mas desenvolvê-las para manter seus negócios seguros.

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
• PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
• PlatãoESG. Automotivo / EVs, Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
• BlockOffsets. Modernizando a Propriedade de Compensação Ambiental. Acesse aqui.
• Fonte: https://www.darkreading.com/vulnerabilities-threats/a-golden-age-of-ai-or-security-threats-