La sécurité doit désormais responsabiliser les développeurs d’IA

Il ne fait aucun doute que GenAI va changer la façon dont les affaires se déroulent. Les sociétés de recherche estiment d’énormes gains de productivité dans tous les secteurs, qui, s’ils étaient respectés, transformeraient complètement chaque industrie. Avec un tel gain potentiel, il est clair pourquoi chaque entreprise s’efforce de permettre à ses équipes de créer des applications basées sur l’IA aussi rapidement que possible. Cependant, les équipes de sécurité doivent agir maintenant pour garantir que ces applications résisteront à un examen minutieux.

La course pour capturer d’abord la valeur commerciale de l’IA

Certaines entreprises ont déjà créé des centaines d’applications basées sur l’IA. Le rythme de développement est tout simplement incroyable, avec des exemples notables comme Microsoft lance les applications Copilot à un rythme bien supérieur à ce qu'offre habituellement une grande entreprise.

En raison de l'immaturité des cadres et des outils autour Développement d'applications IA, ceux-ci sont construits avec un large éventail de technologies. Les cadres de développement qui s'appuient sur quelques modèles fondamentaux sont nombreux et varient considérablement, et ils ne cessent d'apparaître. Des cadres comme LangChaîne ainsi que GPT automatique ont gagné en popularité à un rythme sans précédent. Dans une grande entreprise, vous pouvez facilement vous attendre à trouver des dizaines de frameworks différents utilisés pour créer ces applications.

Les premières organisations capables de tirer parti des gains de productivité grâce à l’IA avant les autres remporteront une énorme victoire. Nous participons donc à une course où nous devons nous contenter des cadres disponibles actuellement et simplement faire avancer les choses. Il faudra probablement beaucoup de temps pour que les frameworks se normalisent, et à ce moment-là, vous serez déjà en retard dans le jeu.

Nous devons faire face à la réalité : les entreprises sont réinventées – avec des outils, des cadres et des modèles de menace non éprouvés – à un rythme sans précédent.

Sécurité : par où commencer ?

Créer autant de nouvelles applications dans un laps de temps aussi court a d’énormes implications en matière de sécurité. Premièrement, il ne s’agit que d’applications supplémentaires, avec les mêmes risques de sécurité que n’importe quelle autre application ; ils doivent gérer correctement les identités, les flux de données et les secrets, pour ne citer que quelques préoccupations. Deuxièmement, GenAI crée des défis de sécurité uniques, que des cadres comme le OWASP LLM Top 10 aider à capturer et à éduquer.

Les organisations de sécurité avancées, en collaboration avec le service informatique, mettent en place des centres dédiés pour inventorier, évaluer et sécuriser ces applications. Notez que cela nécessite la création de processus entièrement nouveaux et de responsabilités nouvellement déléguées. Idéalement, ces centres peuvent agir comme une ressource habilitante pour les développeurs, offrant des services de modélisation des menaces et d'examen de la conception pour garantir le respect des normes de sécurité.

Créer une ressource centralisée comme celle-ci n’est pas une tâche facile. Trouver tous les projets basés sur l'IA dans une entreprise est un défi de taille, car l'inventaire est toujours. Développer les compétences techniques requises pour auditer ces applications est également difficile, notamment en raison de la prolifération de différents cadres d'IA, chacun avec ses propres bizarreries et pièges. La surveillance de ces applications en production constitue un autre défi, à la fois d'un point de vue technique pour obtenir les bonnes données à partir de cadres de développement immatures et du point de vue de l'analyse de sécurité pour savoir ce qu'il faut rechercher.

Ces défis ne sont toutefois pas insurmontables. En fait, ils suivent la formule typique des problèmes de sécurité des applications : inventaire, évaluation de la sécurité et protection de l’exécution. Pour aller de l’avant et permettre à notre entreprise de saisir en premier la révolution de l’IA, nous devons commencer à progresser dans la résolution de ces problèmes.

• Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
• PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
• PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
• PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
• PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
• La source: https://www.darkreading.com/edge/security-must-empower-ai-developers-now