Sind KI-gesteuerte Bedrohungen FUD oder Realität?

Als generative KI-Anwendungen auf den Markt kamen, veränderte sich das Geschäftstempo – nicht nur für Sicherheitsteams, sondern auch für Cyberkriminelle. Wenn Sie heute KI-Innovationen nicht annehmen, kann dies dazu führen, dass Sie hinter Ihren Mitbewerbern zurückfallen und Ihre Cyber-Verteidigung gegenüber KI-gestützten Cyberangriffen benachteiligt wird. Aber wenn wir diskutieren, wie sich KI auf die Cyberkriminalität auswirken wird oder nicht, ist es wichtig, dass wir die Dinge aus einer pragmatischen und nüchternen Perspektive betrachten und nicht in einen Hype eintauchen, der eher wie Science-Fiction liest.

Die heutigen Fortschritte und der Reifegrad der KI bedeuten einen bedeutenden Fortschritt für die Unternehmenssicherheit. Cyberkriminelle können mit der Größe und dem Umfang der Ressourcen, Fähigkeiten und Motivation von Unternehmen nicht ohne weiteres mithalten, was es für sie schwieriger macht, mit der aktuellen Geschwindigkeit der KI-Innovation Schritt zu halten. Private Venture-Investition in KI Explosions auf 93.5 Milliarden US-Dollar im Jahr 2021 – die Bösen haben nicht so viel Kapital. Sie verfügen auch nicht über die Arbeitskräfte, die Rechenleistung und die Innovationen, die kommerziellen Unternehmen oder der Regierung mehr Zeit und Gelegenheit geben, schnell zu scheitern, schnell zu lernen und es zuerst richtig zu machen.

Aber täuschen Sie sich nicht: Die Cyberkriminalität wird aufholen. Dies ist nicht das erste Mal, dass die Sicherheitsbranche kurzzeitig einen Vorsprung hat – als Ransomware begann, immer mehr Verteidiger dazu zu bringen, Technologien zur Endpunkterkennung und -reaktion einzusetzen, brauchten die Angreifer einige Zeit, um herauszufinden, wie sie diese Erkennungen umgehen und umgehen können. Diese vorläufige „Schonfrist“ gab den Unternehmen Zeit besser abschirmen. Das Gleiche gilt auch jetzt: Unternehmen müssen ihren Vorsprung im KI-Wettbewerb maximieren, indem sie ihre Fähigkeiten zur Bedrohungserkennung und -reaktion weiterentwickeln und die Geschwindigkeit und Präzision nutzen, die ihnen aktuelle KI-Innovationen bieten.

Wie verändert KI die Cyberkriminalität? Nun, es wird sich in naher Zukunft nicht wesentlich ändern, aber in bestimmten Fällen wird es eine Skalierung ermöglichen. Werfen wir einen Blick darauf, wo der böswillige Einsatz von KI die unmittelbarsten Auswirkungen haben wird und wo nicht.

Vollautomatische Malware-Kampagnen: FUD

In den letzten Monaten haben wir Behauptungen über verschiedene böswillige Anwendungsfälle von KI gesehen, aber nur weil ein Szenario möglich ist, ist es noch lange nicht wahrscheinlich. Nehmen wir zum Beispiel vollautomatische Malware-Kampagnen – die Logik besagt, dass es möglich ist, KI zu nutzen, um dieses Ergebnis zu erreichen. Angesichts der Tatsache, dass führende Technologieunternehmen jedoch noch keine Vorreiter bei vollautomatischen Softwareentwicklungszyklen sind, ist es unwahrscheinlich, dass finanziell eingeschränkte Cyberkriminalitätsgruppen dies früher erreichen werden . Selbst eine teilweise Automatisierung kann jedoch die Ausweitung der Cyberkriminalität ermöglichen, eine Taktik, die wir bereits gesehen haben Bazar-Kampagnen. Dabei handelt es sich nicht um eine Innovation, sondern um eine bewährte Technik dass die Verteidiger es bereits aufnehmen.

KI-gestütztes Phishing: Realität (aber der Kontext ist entscheidend)

Ein weiterer zu berücksichtigender Anwendungsfall sind KI-gesteuerte Phishing-Angriffe. Dies ist nicht nur möglich, sondern wir sehen diese Angriffe bereits in freier Wildbahn. Diese nächste Generation von Phishing-Angriffen erreicht möglicherweise ein höheres Maß an Überzeugungskraft und Klickrate, doch ein von Menschen erzeugter Phishing-Angriff und ein von KI gesteuerter Phishing-Angriff verfolgen immer noch das gleiche Ziel. Mit anderen Worten: Ein KI-gestützter Phishing ist immer noch ein Phishing, das nach einem Klick sucht, und erfordert die gleiche Erkennungs- und Reaktionsbereitschaft.

Obwohl das Problem dasselbe bleibt, unterscheidet sich das Ausmaß erheblich. KI fungiert als Kraftmultiplikator für die Skalierung von Phishing-Kampagnen. Wenn ein Unternehmen also einen Anstieg der eingehenden Phishing-E-Mails verzeichnet – und diese bösartigen E-Mails deutlich überzeugender sind –, besteht wahrscheinlich eine hohe Klickratenwahrscheinlichkeit und das Risiko einer Kompromittierung. KI-Modelle können auch die Wirksamkeit der gezielten Angriffe steigern, indem sie Angreifern dabei helfen, das anfälligste Ziel für einen bestimmten Phishing-Angriff innerhalb einer Organisation zu ermitteln und letztendlich einen höheren ROI ihrer Kampagnen zu erzielen. Phishing-Angriffe gehören seit jeher zu den erfolgreichsten Taktiken, mit denen Angreifer in Unternehmen eindringen. Die Skalierung dieser Art von Angriff unterstreicht die entscheidende Rolle, die EDR-, MDR-, XDR- und IAM-Technologien bei der Erkennung von anomalem Verhalten spielen, bevor es Auswirkungen zeigt.

KI-Vergiftungsangriffe: FUD-artig

KI-Vergiftungsangriffe, also die programmgesteuerte Manipulation des Codes und der Daten, auf denen KI-Modelle basieren, könnte für Cyberkriminelle der „heilige Gral“ der Angriffe sein. Die Auswirkungen eines erfolgreichen Vergiftungsangriffs können von Fehlinformationsversuchen bis hin zu Fehlinformationsversuchen reichen Die Hard 4.0. Warum? Denn durch die Vergiftung des Modells kann ein Angreifer dafür sorgen, dass es sich auf die von ihm gewünschte Weise verhält oder funktioniert, und es ist nicht leicht zu erkennen. Diese Angriffe sind jedoch nicht einfach durchzuführen – sie erfordern den Zugriff auf die Daten, auf denen das KI-Modell zum Zeitpunkt des Trainings trainiert, was keine leichte Aufgabe ist. Da immer mehr Modelle Open Source werden, wird das Risiko dieser Angriffe steigen, aber vorerst gering bleiben.

Das Unbekannte

Während es wichtig ist, Hype von der Realität zu trennen, ist es auch wichtig, sicherzustellen, dass wir die richtigen Fragen zu den Auswirkungen von KI auf die Bedrohungslandschaft stellen. Es gibt viele Unbekannte hinsichtlich des Potenzials von KI – wir dürfen nicht übersehen, wie sie die Ziele und Absichten der Gegner verändern kann. Es bleibt unklar, wie neue Fähigkeiten dazu beitragen können, den Gegnern neue Ziele zu bieten und ihre Motive neu auszurichten.

Möglicherweise sehen wir keinen unmittelbaren Anstieg neuartiger KI-gestützter Angriffe, aber die Ausweitung der Cyberkriminalität dank KI wird erhebliche Auswirkungen auf Unternehmen haben, die nicht darauf vorbereitet sind. Geschwindigkeit und Ausmaß sind wesentliche Merkmale der KI, und ebenso wie die Verteidiger versuchen, davon zu profitieren, sind es auch die Angreifer. Sicherheitsteams sind bereits unterbesetzt und überlastet – ein Anstieg des böswilligen Datenverkehrs oder der Reaktion auf Vorfälle bedeutet für sie eine erhebliche zusätzliche Belastung.

Dies unterstreicht mehr denn je die Notwendigkeit für Unternehmen, in ihre Verteidigung zu investieren. Verwendung von KI zur Steigerung von Geschwindigkeit und Präzision in ihren Fähigkeiten zur Bedrohungserkennung und -reaktion. Unternehmen, die diese „Schonfrist“ nutzen, sind viel besser vorbereitet und widerstandsfähiger für den Tag, an dem Angreifer im KI-Cyber-Wettlauf tatsächlich aufholen.

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Automobil / Elektrofahrzeuge, Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• BlockOffsets. Modernisierung des Eigentums an Umweltkompensationen. Hier zugreifen.
• Quelle: https://www.darkreading.com/dr-tech/are-ai-engineered-threats-fud-or-reality-