Washington considera monitorear las nubes en busca de entrenamiento sospechoso de IA

Washington considera monitorear las nubes en busca de entrenamiento sospechoso de IA

Marca de tiempo: 25 de septiembre de 2023 12:30 p.m.
Washington considera monitorear las nubes en busca de inteligencia de datos de PlatoBlockchain de entrenamiento de inteligencia artificial sospechosa. Búsqueda vertical. Ai.

El gobierno de EE. UU. está considerando medidas para controlar a quienes puedan estar utilizando muchos recursos de la nube para entrenar modelos avanzados de IA.

Según los informes, la administración de Biden está buscando introducir reglas que requieran que los operadores de nube pública informen a las autoridades cuando cualquier cliente compra un nivel de recursos informáticos que supere un cierto umbral aún no especificado.

Estas reglas, que el Departamento de Comercio haría cumplir, tienen como objetivo crear una especie de sistema de alerta temprana que permita a Washington identificar posibles amenazas de IA con anticipación. semáforo informó, citando fuentes anónimas que se dice que están "familiarizadas con una próxima orden ejecutiva sobre inteligencia artificial".

Al igual que con otras áreas de tecnología avanzada, parece que al gobierno de Estados Unidos le preocupa que países hostiles utilicen recursos informáticos para desarrollar modelos avanzados de IA, posiblemente con propósitos nefastos en mente.

El director ejecutivo de la empresa de inteligencia artificial Anthropic, que hoy confirmó inversión de amazon, también advirtió a principios de este año que los modelos de IA podrían dar a los delincuentes el poder de crear armas biológicas y virus peligrosos, posiblemente dentro de dos o tres años.

Desarrollador de ChatGPT OpenAI abogado a principios de este año para que una agencia internacional se encargue de inspeccionar y auditar la IA para garantizar que la tecnología sea segura y no represente una amenaza.

Sin embargo, no está claro si las reglas de Washington se aplicarían a todos los proveedores de nube que ofrecen recursos para el entrenamiento de modelos de IA, o si los gigantes de la industria como AWS de Amazon, Azure de Microsoft y Google Cloud son considerados las únicas nubes con la escala para proporcionar suficientes recursos para los modelos más avanzados.

Semafor también expresó su preocupación de que tales medidas podrían equivaler a un programa de vigilancia si no se implementan cuidadosamente. Por ejemplo, muchos programas de investigación y desarrollo uso de la nube para computación de alto rendimiento (HPC) los recursos podrían fácilmente activar el requisito de presentación de informes y terminar siendo monitoreados por el gobierno de EE. UU.

Le preguntamos al Departamento de Comercio si puede comentar sobre la formación de un esquema de informes de umbral de nube y actualizaremos este artículo si obtenemos una respuesta.

China, el hombre del saco de la administración estadounidense, no se menciona específicamente en el informe de Semafor, sino que ofrece el ejemplo de una empresa teórica en el Medio Oriente que está construyendo un poderoso modelo lingüístico de gran tamaño. China ya cuenta con importantes recursos propios en la nube, proporcionados por empresas como Alibaba, Huawei y Tencent.

Eso no ha impedido que Washington considere bloquear el acceso chino a los proveedores de nube estadounidenses, como reportaron a principios de este año. Ya se decía que Estados Unidos estaba buscando promulgar reglas que requerirían que los operadores nacionales de nube, como los tres grandes, obtuvieran una aprobación explícita antes de permitir a los clientes en China acceder a los servicios utilizados para entrenar modelos de IA.

También se dijo que Estados Unidos pretendía endurecer los controles de exportación existentes que están diseñados para limitar el acceso de China a procesadores potentes y tecnologías asociadas que podrían usarse en el desarrollo de IA avanzada.

Washington anunció la semana pasada que había finalizado medidas cuidadosamente planificadas o "barandillas” diseñado para garantizar que los fondos de la Ley CHIPS de aproximadamente 52 mil millones de dólares no terminen beneficiando a empresas vinculadas con China u otras naciones de interés. ®

Sello de tiempo:

Mas de El registro