O preconceito nos algoritmos de IA é uma ameaça à segurança da nuvem?

A inteligência artificial (IA) tem ajudado os humanos nas operações de segurança de TI desde a década de 2010, analisando rapidamente grandes quantidades de dados para detectar sinais de comportamento malicioso. Com os ambientes de nuvem empresarial produzindo terabytes de dados a serem analisados, a detecção de ameaças na escala da nuvem depende da IA. Mas essa IA é confiável? Ou vai preconceito oculto levar a ameaças perdidas e violações de dados?

Viés em algoritmos de IA de segurança em nuvem

O preconceito pode criar riscos nos sistemas de IA utilizados para nuvem de segurança. Existem medidas que os humanos podem tomar para mitigar esta ameaça oculta, mas primeiro, é útil compreender que tipos de preconceito existem e de onde vêm.

• Viés de dados de treinamento: Suponha que os dados usados ​​para treinar algoritmos de IA e aprendizado de máquina (ML) não sejam diversos ou representativos de todo o cenário de ameaças. Nesse caso, a IA pode ignorar ameaças ou identificar comportamentos benignos como maliciosos. Por exemplo, um modelo treinado em dados direcionados a ameaças de uma região geográfica pode não identificar ameaças originárias de regiões diferentes.
• Viés algorítmico: Os próprios algoritmos de IA podem introduzir sua forma de preconceito. Por exemplo, um sistema que utiliza correspondência de padrões pode gerar falsos positivos quando uma atividade benigna corresponde a um padrão ou não consegue detectar variações sutis em ameaças conhecidas. Um algoritmo também pode ser ajustado inadvertidamente para favorecer falsos positivos, levando à fadiga do alerta, ou para favorecer falsos negativos, permitindo a passagem de ameaças.
• Viés cognitivo: As pessoas são influenciadas pela experiência e preferências pessoais ao processar informações e fazer julgamentos. É como nossas mentes funcionam. Um viés cognitivo é favorecer informações que apoiem nossas crenças atuais. Quando as pessoas criam, treinam e ajustam modelos de IA, elas podem transferir esse viés cognitivo para a IA, levando o modelo a ignorar ameaças novas ou desconhecidas, como explorações de dia zero.

Ameaças à segurança da nuvem devido ao preconceito da IA

Referimo-nos ao preconceito da IA ​​como uma ameaça oculta à segurança da nuvem porque muitas vezes não sabemos que esse preconceito está presente, a menos que o procuremos especificamente — ou até que seja tarde demais e ocorra uma violação de dados. Aqui estão algumas das coisas que podem dar errado se não conseguirmos resolver o preconceito:

• Detecção imprecisa de ameaças e ameaças perdidas: Quando os dados de treinamento não são abrangentes, diversos e atuais, o sistema de IA pode priorizar excessivamente algumas ameaças, ao mesmo tempo em que detecta ou ignora outras.
• Fadiga de alerta: A superprodução de falsos positivos pode sobrecarregar a equipe de segurança, fazendo com que ela ignore ameaças genuínas que se perdem no volume de alertas.
• Vulnerabilidade a novas ameaças: Os sistemas de IA são inerentemente tendenciosos porque só podem ver aquilo para o qual foram treinados. Os sistemas que não são mantidos atualizados através de atualizações contínuas e equipados com a capacidade de aprender continuamente não protegerão os ambientes em nuvem contra ameaças emergentes.
• Erosão da confiança: Imprecisões repetidas na detecção e resposta a ameaças devido ao viés da IA ​​podem minar a confiança das partes interessadas e da equipe do centro de operações de segurança (SOC) nos sistemas de IA, afetando a postura e a reputação da segurança na nuvem a longo prazo.
• Risco legal e regulatório: Dependendo da natureza do preconceito, o sistema de IA pode violar requisitos legais ou regulamentares relativos à privacidade, justiça ou discriminação, resultando em multas e danos à reputação.

Mitigando preconceitos e fortalecendo a segurança na nuvem

Embora os humanos sejam a fonte de preconceitos nas ferramentas de segurança de IA, a experiência humana é essencial para construir uma IA confiável para proteger a nuvem. Aqui estão as etapas que os líderes de segurança, as equipes de SOC e os cientistas de dados podem seguir para mitigar preconceitos, promover a confiança e obter a detecção aprimorada de ameaças e a resposta acelerada que a IA oferece.

• Eduque as equipes e funcionários de segurança sobre a diversidade: Os modelos de IA aprendem com as classificações e decisões que os analistas tomam ao avaliar ameaças. Compreender os nossos preconceitos e como eles influenciam as nossas decisões pode ajudar os analistas a evitar classificações tendenciosas. Os líderes de segurança também podem garantir que as equipes SOC representem uma diversidade de experiências para evitar pontos cegos resultantes de preconceitos.
• Aborde a qualidade e integridade dos dados de treinamento: Empregue práticas robustas de coleta e pré-processamento de dados para garantir que os dados de treinamento sejam livres de preconceitos, representem cenários de nuvem do mundo real e cubram uma gama abrangente de ameaças cibernéticas e comportamentos maliciosos.
• Considere as peculiaridades da infraestrutura em nuvem: Os dados e algoritmos de treinamento devem acomodar vulnerabilidades específicas da nuvem pública, incluindo configurações incorretas, riscos de multilocação, permissões, atividade de API, atividade de rede e comportamento típico e anômalo de humanos e não humanos.
• Mantenha os humanos “no meio” enquanto aproveita a IA para combater preconceitos: Dedique uma equipe humana para monitorar e avaliar o trabalho dos analistas e algoritmos de IA em busca de possíveis distorções, para garantir que os sistemas sejam imparciais e justos. Ao mesmo tempo, você pode empregar modelos de IA especializados para identificar distorções nos dados e algoritmos de treinamento.
• Invista em monitoramento e atualização contínua: As ameaças cibernéticas e os agentes de ameaças evoluem rapidamente. Os sistemas de IA devem aprender continuamente e os modelos devem ser atualizados regularmente para detectar ameaças novas e emergentes.
• Empregue várias camadas de IA: Você pode minimizar o impacto do preconceito espalhando o risco por vários sistemas de IA.
• Esforce-se para obter explicabilidade e transparência: Quanto mais complexos forem os seus algoritmos de IA, mais difícil será entender como eles tomam decisões ou previsões. Adote técnicas de IA explicáveis ​​para fornecer visibilidade do raciocínio por trás dos resultados da IA.
• Fique por dentro das técnicas emergentes para mitigar o viés da IA: À medida que progredimos no domínio da IA, testemunhamos um aumento nas técnicas para detectar, quantificar e abordar preconceitos. Métodos inovadores, como a redução de preconceitos contraditórios e a justiça contrafactual, estão a ganhar impulso. Manter-se atualizado sobre essas técnicas mais recentes é fundamental para desenvolver sistemas de IA justos e eficientes para segurança na nuvem.
• Pergunte ao seu provedor de serviços gerenciados de segurança em nuvem sobre preconceitos: Construir, treinar e manter sistemas de IA para detecção e resposta a ameaças é difícil, caro e demorado. Muitas empresas estão recorrendo a provedores de serviços para aumentar suas operações SOC. Use esses critérios para ajudar a avaliar até que ponto um provedor de serviços aborda o preconceito na IA.

O Takeaway

Dada a escala e a complexidade dos ambientes de nuvem empresarial, é essencial usar IA para detecção e resposta a ameaças, seja em serviços internos ou externos. No entanto, você nunca pode substituir a inteligência, o conhecimento e a intuição humanos pela IA. Para evitar preconceitos de IA e proteger seus ambientes de nuvem, equipe profissionais qualificados de segurança cibernética com ferramentas de IA poderosas e escaláveis, regidas por políticas fortes e supervisão humana.