Aumentan las presiones de seguridad en torno a las promesas y los peligros de la IA

Aumentan las presiones de seguridad en torno a las promesas y los peligros de la IA

Marca de tiempo: 11 de agosto de 2023 4:36 p.m.
Las presiones de seguridad aumentan en torno a las promesas de la IA y el peligro de la inteligencia de datos de PlatoBlockchain. Búsqueda vertical. Ai.

BLACK HAT USA – Las Vegas – Viernes 11 de agosto – La inteligencia artificial (IA) no es nueva en el mundo de la tecnología, pero a medida que ChatGPT y ofertas similares la llevan más allá de los entornos de laboratorio y casos de uso como Siri, Maria 'Azeria' Markstedter, fundadora y directora ejecutiva de Azeria Labs, dijo que los profesionales de la seguridad deben estar alerta de cómo su evolución afectará sus realidades cotidianas.

En broma, afirmó que la IA está "ahora en manos seguras de las grandes empresas de tecnología que compiten contra el tiempo para competir y estar a salvo de la eliminación", a raíz de OpenAI lanza su modelo ChatGPT mientras que otras empresas se contuvieron. "Con el auge de ChatGPT, el enfoque de tiempo de paz de Google había terminado y todos se unieron”, dijo, hablando desde el escenario principal en Black Hat USA esta semana.

Ver adónde va el dinero

Las empresas están invirtiendo millones de dólares de financiación en IA, pero cada vez que el mundo cambia hacia un nuevo tipo de tecnología, "las carreras armamentísticas corporativas no están impulsadas por la preocupación por la seguridad, ya que la seguridad ralentiza el progreso".

Dijo que los casos de uso integrar IA están evolucionando y está empezando a ganar mucho dinero, especialmente aquellos que dominan el mercado. Sin embargo, existe la necesidad de “creadores para romperloy solucionarlo y, en última instancia, evitar que la tecnología en sus próximos casos de uso explote en nuestras narices”.

Agregó que las empresas pueden estar experimentando un poco de exuberancia irracional. “Todas las empresas quieren ser una máquina de muestra comercial de IA en este momento y la forma en que nuestras empresas aprovecharán estas herramientas para integrar la IA tendrá un impacto significativo en nuestro modelo de amenazas”, dijo. Sin embargo, la rápida adopción de la IA significa que su efecto en todo el modelo de amenazas cibernéticas sigue siendo desconocido.

Auge de las amenazas de ChatGPT

Reconociendo que ChatGPT fue "bastante difícil de escapar en los últimos nueve meses", Markstedter dijo que el aumento vertiginoso de usuarios llevó a algunas empresas a limitar el acceso a él. Las empresas se mostraron escépticas, dijo, ya que OpenAI es una caja negra, y todo lo que envíe a ChatGPT será parte del conjunto de datos de OpenAI.

Ella dijo: "Las empresas no quieren filtrar sus datos confidenciales a un proveedor externo, por lo que comenzaron prohibiendo a los empleados de usar ChatGPT para el trabajo, pero todas las empresas aún quieren, e incluso se sienten presionadas para, aumentar los productos y servicios de su fuerza laboral con IA; simplemente no confían los datos confidenciales a… proveedores externos que pueden formar parte del conjunto de datos”.

Sin embargo, el intenso enfoque y el rápido ritmo de desarrollo e integración de OpenAI obligarán a los profesionales de la seguridad a evolucionar rápidamente.

“Entonces, la forma en que nuestras organizaciones van a usar estas cosas está cambiando con bastante rapidez: de algo con lo que se verifica el navegador, a algo que las empresas integran a su propia infraestructura, a algo que pronto será nativo de nuestro sistema operativo y dispositivo móvil. ," ella dijo.

La oportunidad para la industria

Markstedter dijo que el mayor problema para la IA y la ciberseguridad es que no tenemos suficientes personas con la habilidades y conocimientos para evaluar estos sistemas y crear las barandillas que necesitamos. “Así que ya están surgiendo nuevos sabores de trabajo a partir de estos pequeños desafíos”, dijo.

Para concluir, Markstedter destacó cuatro conclusiones: primero, que los sistemas de IA y sus casos de uso y capacidades están evolucionando; segundo, que debemos tomar en serio la posibilidad de que los agentes de IA autónomos se conviertan en una realidad dentro de nuestra empresa; tercero, es que necesitamos repensar nuestros conceptos en torno a la identidad y las aplicaciones; y cuarto, necesitamos repensar nuestros conceptos en torno a la seguridad de los datos.

“Entonces, debemos aprender sobre la tecnología que está cambiando nuestros sistemas y nuestro modelo de amenazas para abordar estos problemas emergentes, y los cambios tecnológicos no son nuevos para nosotros”, dijo. “No tenemos manuales que nos digan cómo solucionar nuestros problemas anteriores. Todos somos autodidactas de una forma u otra, y ahora nuestra industria atrae mentes creativas con una mentalidad completa. Entonces sabemos cómo estudiar nuevos sistemas y encontrar formas creativas de romperlos”.

Concluyó diciendo que esta es nuestra oportunidad de reinventarnos a nosotros mismos, nuestra postura de seguridad y nuestras defensas. “Para el próximo peligro de los desafíos de seguridad, debemos unirnos como comunidad y fomentar la investigación en estas áreas”, dijo.

Sello de tiempo:

Mas de Lectura oscura