Ist die Verzerrung von KI-Algorithmen eine Bedrohung für die Cloud-Sicherheit?

Künstliche Intelligenz (KI) unterstützt Menschen seit den 2010er Jahren bei der IT-Sicherheit, indem sie riesige Datenmengen schnell analysiert, um Anzeichen für bösartiges Verhalten zu erkennen. Da Cloud-Umgebungen von Unternehmen Terabytes an zu analysierenden Daten produzieren, ist die Erkennung von Bedrohungen auf Cloud-Ebene auf KI angewiesen. Aber Kann man dieser KI vertrauen?? Oder wird versteckte Voreingenommenheit zu übersehenen Bedrohungen und Datenschutzverletzungen führen?

Verzerrung bei Cloud-Sicherheits-KI-Algorithmen

Voreingenommenheit kann Risiken in KI-Systemen mit sich bringen, für die sie verwendet wird Cloud-Sicherheit. Es gibt Maßnahmen, die Menschen ergreifen können, um diese versteckte Bedrohung abzumildern. Zunächst ist es jedoch hilfreich zu verstehen, welche Arten von Voreingenommenheit bestehen und woher sie kommen.

• Verzerrung der Trainingsdaten: Angenommen, die zum Trainieren von KI- und maschinellen Lernalgorithmen (ML) verwendeten Daten sind nicht vielfältig oder repräsentativ für die gesamte Bedrohungslandschaft. In diesem Fall übersieht die KI möglicherweise Bedrohungen oder identifiziert harmloses Verhalten als böswillig. Beispielsweise kann ein Modell, das auf Daten trainiert wurde, die auf Bedrohungen aus einer geografischen Region ausgerichtet sind, Bedrohungen aus verschiedenen Regionen möglicherweise nicht identifizieren.
• Algorithmischer Bias: KI-Algorithmen selbst können ihre Form der Voreingenommenheit einführen. Beispielsweise kann ein System, das den Mustervergleich verwendet, Fehlalarme auslösen, wenn eine harmlose Aktivität mit einem Muster übereinstimmt, oder subtile Variationen bekannter Bedrohungen nicht erkennen. Ein Algorithmus kann auch unbeabsichtigt so eingestellt werden, dass falsch-positive Ergebnisse bevorzugt werden, was zu Alarmmüdigkeit führt, oder dass falsch-negative Ergebnisse bevorzugt werden, sodass Bedrohungen durchkommen.
• Kognitive Verzerrung: Bei der Verarbeitung von Informationen und der Urteilsbildung werden Menschen von persönlichen Erfahrungen und Vorlieben beeinflusst. So funktioniert unser Geist. Eine kognitive Voreingenommenheit besteht darin, Informationen zu bevorzugen, die unsere aktuellen Überzeugungen stützen. Wenn Menschen KI-Modelle erstellen, trainieren und verfeinern, können sie diese kognitive Tendenz auf die KI übertragen und dazu führen, dass das Modell neuartige oder unbekannte Bedrohungen wie Zero-Day-Exploits übersieht.

Bedrohungen der Cloud-Sicherheit durch AI Bias

Wir bezeichnen KI-Voreingenommenheit als eine versteckte Bedrohung für die Cloud-Sicherheit, da wir oft nicht wissen, dass eine Voreingenommenheit vorliegt, es sei denn, wir suchen gezielt danach – oder bis es zu spät ist und ein Datenverstoß vorliegt. Hier sind einige der Dinge, die schief gehen können, wenn wir es versäumen, Voreingenommenheit anzugehen:

• Ungenaue Bedrohungserkennung und übersehene Bedrohungen: Wenn die Trainingsdaten nicht umfassend, vielfältig und aktuell sind, kann das KI-System einigen Bedrohungen eine zu hohe Priorität einräumen, während es andere nicht ausreichend erkennt oder übersieht.
• Alarmmüdigkeit: Eine übermäßige Produktion falsch positiver Ergebnisse kann das Sicherheitsteam überfordern und möglicherweise dazu führen, dass echte Bedrohungen übersehen werden, die in der Menge an Warnungen untergehen.
• Anfälligkeit gegenüber neuen Bedrohungen: KI-Systeme sind von Natur aus voreingenommen, da sie nur das sehen können, wofür sie trainiert wurden. Systeme, die nicht durch kontinuierliche Aktualisierungen auf dem neuesten Stand gehalten werden und über die Fähigkeit verfügen, kontinuierlich zu lernen, werden Cloud-Umgebungen nicht vor neu auftretenden Bedrohungen schützen.
• Vertrauensverlust: Wiederholte Ungenauigkeiten bei der Bedrohungserkennung und -reaktion aufgrund von KI-Voreingenommenheit können das Vertrauen von Stakeholdern und SOC-Teams (Security Operations Center) in die KI-Systeme untergraben und sich langfristig auf die Sicherheitslage und den Ruf der Cloud auswirken.
• Rechtliches und regulatorisches Risiko: Abhängig von der Art der Voreingenommenheit verstößt das KI-System möglicherweise gegen gesetzliche oder behördliche Anforderungen in Bezug auf Datenschutz, Fairness oder Diskriminierung, was zu Geldstrafen und Reputationsschäden führen kann.

Verzerrungen abmildern und Cloud-Sicherheit stärken

Während der Mensch die Quelle der Voreingenommenheit bei KI-Sicherheitstools ist, ist menschliches Fachwissen für den Aufbau einer vertrauenswürdigen KI für die Sicherung der Cloud unerlässlich. Hier sind Schritte, die Sicherheitsverantwortliche, SOC-Teams und Datenwissenschaftler unternehmen können, um Voreingenommenheit zu mildern, Vertrauen zu stärken und die verbesserte Bedrohungserkennung und beschleunigte Reaktion zu realisieren, die KI bietet.

• Informieren Sie Sicherheitsteams und Mitarbeiter über Vielfalt: KI-Modelle lernen aus den Klassifizierungen und Entscheidungen, die Analysten bei der Bewertung von Bedrohungen treffen. Das Verständnis unserer Vorurteile und der Art und Weise, wie sie unsere Entscheidungen beeinflussen, kann Analysten dabei helfen, voreingenommene Klassifizierungen zu vermeiden. Sicherheitsverantwortliche können auch sicherstellen, dass SOC-Teams eine Vielfalt an Erfahrungen repräsentieren, um blinde Flecken zu vermeiden, die durch Voreingenommenheit entstehen.
• Behandeln Sie die Qualität und Integrität der Trainingsdaten: Setzen Sie robuste Datenerfassungs- und Vorverarbeitungspraktiken ein, um sicherzustellen, dass die Trainingsdaten frei von Verzerrungen sind, reale Cloud-Szenarien darstellen und ein umfassendes Spektrum an Cyber-Bedrohungen und bösartigem Verhalten abdecken.
• Berücksichtigen Sie die Besonderheiten der Cloud-Infrastruktur: Trainingsdaten und -algorithmen müssen öffentliche Cloud-spezifische Schwachstellen berücksichtigen, darunter Fehlkonfigurationen, Mehrmandantenrisiken, Berechtigungen, API-Aktivität, Netzwerkaktivität sowie typisches und anormales Verhalten von Menschen und Nichtmenschen.
• Halten Sie den Menschen „in der Mitte“ und nutzen Sie gleichzeitig KI, um Voreingenommenheit zu bekämpfen: Stellen Sie ein menschliches Team zur Verfügung, um die Arbeit von Analysten und KI-Algorithmen auf mögliche Verzerrungen zu überwachen und zu bewerten, um sicherzustellen, dass die Systeme unvoreingenommen und fair sind. Gleichzeitig können Sie spezielle KI-Modelle einsetzen, um Verzerrungen in Trainingsdaten und -algorithmen zu erkennen.
• Investieren Sie in kontinuierliche Überwachung und Aktualisierung: Cyber-Bedrohungen und Bedrohungsakteure entwickeln sich rasant weiter. KI-Systeme müssen kontinuierlich lernen und Modelle sollten regelmäßig aktualisiert werden, um neue und aufkommende Bedrohungen zu erkennen.
• Setzen Sie mehrere KI-Ebenen ein: Sie können die Auswirkungen von Voreingenommenheit minimieren, indem Sie das Risiko auf mehrere KI-Systeme verteilen.
• Streben Sie nach Erklärbarkeit und Transparenz: Je komplexer Ihre KI-Algorithmen sind, desto schwieriger ist es zu verstehen, wie sie Entscheidungen oder Vorhersagen treffen. Nutzen Sie erklärbare KI-Techniken, um die Gründe für KI-Ergebnisse sichtbar zu machen.
• Bleiben Sie über neue Techniken zur Minderung von KI-Voreingenommenheit auf dem Laufenden: Während wir im KI-Bereich Fortschritte machen, erleben wir einen Anstieg der Techniken zur Erkennung, Quantifizierung und Beseitigung von Voreingenommenheiten. Innovative Methoden wie Adversarial De-Biasing und Counterfactual Fairness gewinnen an Bedeutung. Bei der Entwicklung fairer und effizienter KI-Systeme für die Cloud-Sicherheit ist es von größter Bedeutung, über diese neuesten Techniken auf dem Laufenden zu bleiben.
• Fragen Sie Ihren Anbieter verwalteter Cloud-Sicherheitsdienste nach Voreingenommenheit: Der Aufbau, das Training und die Wartung von KI-Systemen zur Erkennung und Reaktion auf Bedrohungen sind schwierig, teuer und zeitaufwändig. Viele Unternehmen wenden sich an Dienstleister, um ihre SOC-Operationen zu erweitern. Verwenden Sie diese Kriterien, um zu beurteilen, wie gut ein Dienstanbieter mit Voreingenommenheit in der KI umgeht.

Der Imbiss

Angesichts der Größe und Komplexität von Cloud-Umgebungen in Unternehmen ist der Einsatz von KI zur Erkennung und Reaktion auf Bedrohungen unerlässlich, unabhängig davon, ob es sich um interne oder externe Dienste handelt. Allerdings kann man menschliche Intelligenz, Fachwissen und Intuition niemals durch KI ersetzen. Um KI-Voreingenommenheit zu vermeiden und Ihre Cloud-Umgebungen zu schützen, statten Sie qualifizierte Cybersicherheitsexperten mit leistungsstarken, skalierbaren KI-Tools aus, die strengen Richtlinien und menschlicher Aufsicht unterliegen.