As pressões de segurança aumentam em torno das promessas e perigos da IA

As pressões de segurança aumentam em torno das promessas e perigos da IA

Carimbo de data / hora: 11 de agosto de 2023, 4:36
As pressões de segurança aumentam em torno das promessas e perigos da IA ​​PlatoBlockchain Data Intelligence. Pesquisa vertical. Ai.

BLACK HAT USA – Las Vegas – sexta-feira, 11 de agosto – A inteligência artificial (IA) não é uma novidade no mundo da tecnologia, mas como o ChatGPT e ofertas semelhantes a levam além dos ambientes de laboratório e usam casos como Siri, Maria 'Azeria' Markstedter, fundadora e CEO da Azeria Labs, disse que os profissionais de segurança precisam estar alerta para como sua evolução afetará suas realidades diárias.

Brincando, ela afirmou que a IA está “agora nas mãos seguras de grandes empresas de tecnologia que correm contra o tempo para competir para evitar a eliminação”, na sequência de OpenAI lançando seu modelo ChatGPT enquanto outras empresas se seguravam. "Com a ascensão do ChatGPT, a abordagem de tempo de paz do Google acabou e todos se envolveram ”, disse ela, falando na palestra principal da Black Hat USA esta semana.

Vendo para onde o dinheiro está indo

As empresas estão investindo milhões de dólares em IA, mas sempre que o mundo muda para um novo tipo de tecnologia, “a corrida armamentista corporativa não é motivada pela preocupação com segurança ou proteção, pois a segurança retarda o progresso”.

Ela disse que os casos de uso para integrar IA estão evoluindo, e está começando a ganhar muito dinheiro, principalmente os que dominam o mercado. No entanto, há uma necessidade de “criadores para quebrá-lo, consertá-lo e, finalmente, evitar que a tecnologia em seus próximos casos de uso exploda em nossos rostos.”

Ela acrescentou que as empresas podem estar experimentando um pouco de exuberância irracional. “Toda empresa quer ser uma máquina de amostra de negócios de IA agora, e a maneira como nossos negócios aproveitarão essas ferramentas para integrar a IA terá um impacto significativo em nosso modelo de ameaça”, disse ela. No entanto, a rápida adoção da IA ​​significa que seu efeito em todo o modelo de ameaças cibernéticas permanece desconhecido.

Aumento das ameaças do ChatGPT

Reconhecendo isso ChatGPT foi “muito difícil escapar nos últimos nove meses”, Markstedter disse que o aumento vertiginoso de usuários levou algumas empresas a limitar o acesso a ele. As empresas estavam céticas, disse ela, já que o OpenAI é uma caixa preta e qualquer coisa que você alimentar no ChatGPT fará parte do conjunto de dados do OpenAI.

Ela disse: “As empresas não querem vazar seus dados confidenciais para um provedor externo, então começaram banindo funcionários de usar o ChatGPT para trabalhar, mas todas as empresas ainda desejam e são pressionadas a aumentar seus produtos e serviços de força de trabalho com IA; eles simplesmente não confiam em dados confidenciais para … provedores externos que podem fazer parte do conjunto de dados.”

No entanto, o foco intenso e o ritmo acelerado de desenvolvimento e integração do OpenAI forçarão os profissionais de segurança a evoluir rapidamente.

“Portanto, a maneira como nossas organizações usarão essas coisas está mudando rapidamente: de algo que você verifica no navegador para algo que as empresas integram à sua própria infraestrutura, para algo que em breve será nativo do nosso sistema operacional e dispositivo móvel. ," ela disse.

A oportunidade para a indústria

Markstedter disse que o maior problema para IA e segurança cibernética é que não temos pessoas suficientes com o habilidades e conhecimento para avaliar esses sistemas e criar as proteções de que precisamos. “Portanto, já existem novos sabores de trabalho surgindo desses pequenos desafios”, disse ela.

Concluindo, Markstedter destacou quatro conclusões: primeiro, que os sistemas de IA e seus casos de uso e recursos estão evoluindo; em segundo lugar, precisamos levar a sério a possibilidade de agentes de IA autônomos se tornarem realidade dentro de nossa empresa; terceiro, é que precisamos repensar nossos conceitos sobre identidade e aplicativos; e quarto, precisamos repensar nossos conceitos sobre segurança de dados.

“Portanto, precisamos aprender sobre a própria tecnologia que está mudando nossos sistemas e nosso modelo de ameaça para lidar com esses problemas emergentes, e as mudanças tecnológicas não são novas para nós”, disse ela. “Não temos manuais que nos digam como resolver nossos problemas anteriores. Somos todos autodidatas de uma forma ou de outra, e agora nossa indústria atrai mentes criativas com uma mentalidade completa. Portanto, sabemos como estudar novos sistemas e encontrar maneiras criativas de quebrá-los.”

Ela concluiu dizendo que esta é a nossa chance de nos reinventarmos, nossa postura de segurança e nossas defesas. “Para o próximo perigo de desafios de segurança, precisamos nos unir como uma comunidade e promover a pesquisa nessas áreas”, disse ela.

Carimbo de hora:

Mais de Leitura escura