Sicherheit muss KI-Entwickler jetzt stärken

Es besteht kein Zweifel daran, dass GenAI die Art und Weise verändern wird, wie Geschäfte abgewickelt werden. Forschungsunternehmen gehen von enormen Produktivitätssteigerungen aus über alle Sektoren hinweg, deren Erfüllung jede Branche völlig verändern würde. Angesichts dieses großen potenziellen Gewinns ist klar, warum jedes Unternehmen bestrebt ist, seinen Teams die Möglichkeit zu geben, so schnell wie möglich KI-gestützte Anwendungen zu erstellen. Allerdings müssen Sicherheitsteams jetzt handeln, um sicherzustellen, dass diese Apps einer Überprüfung standhalten.

Der Wettlauf darum, zuerst den Geschäftswert von KI zu erfassen

Einige Unternehmen haben bisher bereits Hunderte von KI-gestützten Apps entwickelt. Die Entwicklungsgeschwindigkeit ist einfach unglaublich, mit bemerkenswerten Beispielen wie Microsoft veröffentlicht Copilot-Anwendungen mit einer Geschwindigkeit, die weit über dem liegt, was ein großes Unternehmen normalerweise liefert.

Aufgrund der Unausgereiftheit der Frameworks und Tools KI-App-EntwicklungDiese werden mit einer breiten Palette von Technologien gebaut. Entwicklungs-Frameworks, die auf den wenigen Grundmodellen aufbauen, sind zahlreich und variieren stark, und sie tauchen immer wieder auf. Frameworks wie LangChain und AutoGPT haben in einem beispiellosen Tempo große Popularität erlangt. In einem großen Unternehmen kann man leicht damit rechnen, Dutzende verschiedener Frameworks vorzufinden, die zum Erstellen dieser Anwendungen verwendet werden.

Die ersten Unternehmen, die in der Lage sind, vor anderen Produktivitätssteigerungen durch KI zu erzielen, werden einen großen Gewinn erzielen. Deshalb nehmen wir an einem Wettlauf teil, bei dem wir uns mit den derzeit verfügbaren Frameworks begnügen und einfach die Dinge erledigen müssen. Es wird wahrscheinlich lange dauern, bis die Frameworks standardisiert sind, und zu diesem Zeitpunkt sind Sie bereits zu spät dran.

Wir müssen uns der Realität stellen: Das Geschäft wird in einem beispiellosen Tempo neu gedacht – mit unerprobten Tools, Frameworks und Bedrohungsmodellen.

Sicherheit: Wo fangen wir überhaupt an?

Die Entwicklung so vieler neuer Anwendungen in so kurzer Zeit hat enorme Auswirkungen auf die Sicherheit. Erstens handelt es sich lediglich um weitere Anwendungen mit den gleichen Sicherheitsrisiken wie jede andere Anwendung. Sie müssen Identität, Datenfluss und Geheimverwaltung richtig hinbekommen, um nur einige Anliegen zu nennen. Zweitens schafft GenAI einige einzigartige Sicherheitsherausforderungen, die Frameworks wie das betreffen OWASP LLM Top 10 helfen, sie zu erfassen und weiterzubilden.

Fortgeschrittene Sicherheitsorganisationen richten in Zusammenarbeit mit der IT spezielle Zentren ein, um diese Anwendungen zu inventarisieren, zu bewerten und zu sichern. Beachten Sie, dass hierfür völlig neue Prozesse und neu delegierte Verantwortlichkeiten erforderlich sind. Im Idealfall können diese Zentren als unterstützende Ressource für Entwickler fungieren und Bedrohungsmodellierungs- und Designüberprüfungsdienste anbieten, um sicherzustellen, dass sichere Standards eingehalten werden.

Die Schaffung einer solchen zentralisierten Ressource ist keine leichte Aufgabe. Das Auffinden aller KI-gestützten Projekte im gesamten Unternehmen ist eine große Herausforderung Inventar ist immer. Auch die Entwicklung der technischen Fähigkeiten, die für die Prüfung dieser Anwendungen erforderlich sind, ist schwierig – insbesondere aufgrund der zunehmenden Verbreitung verschiedener KI-Frameworks, von denen jedes seine eigenen Macken und Fallstricke hat. Die Überwachung dieser Apps in der Produktion ist eine weitere Herausforderung, sowohl aus technischer Sicht, um die richtigen Daten aus unausgereiften Entwicklungs-Frameworks zu erhalten, als auch aus Sicht der Sicherheitsanalyse, um zu wissen, worauf zu achten ist.

Dies sind jedoch keine unüberwindbaren Herausforderungen. Tatsächlich folgen sie der typischen Anwendungssicherheitsproblemformel aus Inventarisierung, Sicherheitsbewertung und Laufzeitschutz. Um voranzukommen und es unserem Unternehmen zu ermöglichen, als Erster von der KI-Revolution zu profitieren, müssen wir bei der Lösung dieser Probleme Fortschritte machen.

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• Quelle: https://www.darkreading.com/edge/security-must-empower-ai-developers-now