Ein goldenes Zeitalter der KI … oder Sicherheitsbedrohungen?

Ein goldenes Zeitalter der KI … oder Sicherheitsbedrohungen?

Zeitstempel: 5. Juli 2023, 1:00 Uhr
Ein goldenes Zeitalter der KI … oder Sicherheitsbedrohungen? PlatoBlockchain Data Intelligence. Vertikale Suche. Ai.

Befinden wir uns im goldenen Zeitalter der künstlichen Intelligenz? Es ist schwierig, Vorhersagen zu treffen – und wahrscheinlich auch unklug. Wer möchte die Zukunft einer so neuen Technologie vorhersagen?

Einiges können wir jedoch mit Sicherheit sagen. Es wird viel Wert auf die Anwendung von KI in kreativen Werken gelegt, von der Sprachausgabe bis hin zu ersten Drehbuchentwürfen. Doch vor allem bei der Bewältigung der Plackerei dürfte die KI am nützlichsten sein. Das sind gute Nachrichten für Entwickler, wenn das Versprechen mit frühen Experimenten übereinstimmt – erste Codeentwürfe können einfach erstellt werden und sind für Entwickler zum Optimieren und Iterieren bereit.

Es ist jedoch wichtig, sich daran zu erinnern Nicht jeder Programmierer arbeitet für ein seriöses Unternehmen. So wie Cybersicherheitsbedrohungsakteure ihren Zielen nacheifern und geschäftsorientierter werden, übernehmen sie auch neue Technologien und Techniken. Wir können davon ausgehen, dass KI in den kommenden Jahren bei der Entwicklung von Malware und anderen Bedrohungen helfen wird, unabhängig davon, ob wir in ein goldenes Zeitalter der KI eintreten oder nicht.

Codeentwurf und Betrug

Ein Trend, den wir in den letzten Jahren beobachten konnten, ist die Zunahme von „As-a-Service“-Angeboten. Frühe Hacker waren Tüftler und Unruhestifter, die Telefonsysteme austricksten oder Chaos verursachten, meist aus Spaß. Das hat sich grundlegend geändert. Bedrohungsakteure sind professionell und verkaufen ihre Produkte häufig zur Nutzung durch andere.

KI wird sehr gut in diese Arbeitsweise passen. KI ist in der Lage, Code zur Bewältigung spezifischer Probleme zu erstellen. Sie kann Code ändern, um Schwachstellen zu erkennen, oder vorhandenen Code übernehmen und ändern, sodass er von Sicherheitsmaßnahmen, die nach bestimmten Mustern suchen, nicht so leicht erkannt wird.

Doch damit sind die Möglichkeiten für den Missbrauch von KI noch nicht erschöpft. Viele Phishing-E-Mails werden von effektiven Filtertools erkannt und landen im Junk-Ordner. Diejenigen, die es in den Posteingang schaffen, sind oft ganz offensichtlich Betrüger, die so schlecht geschrieben sind, dass sie fast unverständlich sind. Aber KI könnte dieses Muster durchbrechen und Tausende plausibler E-Mails erstellen, die sich der Erkennung entziehen und gut genug geschrieben sind, um sowohl Filter als auch Endbenutzer zu täuschen.

Auch Spear-Phishing, die gezieltere Form dieses Angriffs, könnte durch diese Technologie revolutioniert werden. Klar, es ist leicht, eine E-Mail Ihres Chefs zu ignorieren, in der Sie aufgefordert werden, Bargeld zu überweisen oder dringend Geschenkkarten zu kaufen – Cybersicherheitsschulungen helfen Mitarbeitern, diese Art von Betrug zu vermeiden. Aber wie wäre es mit einem gefälschten Telefonanruf oder Video-Chat? KI hat das Potenzial, Rundfunkauftritte und Podcasts in ein überzeugendes Simulakrum zu verwandeln, etwas, das weitaus schwerer zu ignorieren ist.

Abwehr von KI-Cyberangriffen

Es gibt zwei Möglichkeiten, sich gegen die Vorteile zu wehren, die die KI dem Feind verschafft: bessere KI und besseres Training — Und beides wird notwendig sein.

Das Aufkommen dieser neuen Generation von KI hat ein neues Wettrüsten ausgelöst. So wie Cyberkriminelle es nutzen, um ihre Angriffe weiterzuentwickeln, müssen auch Sicherheitsteams es nutzen, um ihre Abwehrmaßnahmen weiterzuentwickeln.

Ohne KI sind Abwehrkräfte auf überlastete Menschen und die Überwachung bestimmter vorprogrammierter Muster angewiesen, um Angriffe zu verhindern. KI-Verteidigungstools werden in der Lage sein, Angriffsvektoren vorherzusagen und sensible Bereiche des Netzwerks und der Systeme zu lokalisieren. Sie werden auch in der Lage sein, Schadcode zu analysieren und so besser zu verstehen, wie neue Angriffe funktionieren und wie sie verhindert werden können.

KI könnte im Notfall auch als Notstopp fungieren – indem sie das Netzwerk deaktiviert, wenn ein Verstoß erkannt wird, und das gesamte System sperrt. Auch wenn dies aus Sicht der Geschäftskontinuität nicht ideal ist, könnte dies weitaus weniger schädlich sein als ein Datenverstoß.

Doch der Kampf gegen KI mit KI ist nicht die einzige Antwort. Wir brauchen auch menschliche Intelligenz. Ganz gleich, wie intelligent und zielgerichtet ein Phishing-Angriff auch sein mag, die beste Verteidigung gegen einen Phishing-Angriff ist ein Mitarbeiter oder Kunde, der weiß, wonach er suchen muss, und misstrauisch genug ist, den Köder nicht zu ertragen. Die Implementierung robuster Sicherheitsrichtlinien und bewährter Cyber-Hygiene wird weiterhin der Schlüssel zur Abwehr von Angriffen sein.

Das bedeutet, dass das Training aktualisiert werden muss, um die Anzeichen eines KI-Angriffs einzubeziehen … was auch immer diese sein mögen. Die Ausbildung muss sich mit KI weiterentwickeln – ein einziger Schulungskurs alle paar Jahre wird nicht mehr ausreichen, wenn diese Schulung schnell veraltet ist.

Während sich die möglichen Anzeichen eines KI-gesteuerten Cyberangriffs schnell ändern, sind Angriffe im Allgemeinen:

  • Schnell und skalierbar, indem es in kurzer Zeit mehrere Schwachstellen ausnutzt.
  • Adaptiv und ausweichend, Änderung von Taktiken und Techniken, um Entdeckung und Reaktion zu vermeiden.
  • Gezielt und personalisiert, indem sie KI verwenden, um überzeugende Phishing-E-Mails oder Social-Engineering-Kampagnen zu erstellen.
  • Täuschend und manipulativ, mithilfe von KI, um gefälschte oder veränderte Inhalte wie Deepfakes, Voice Cloning oder Textgenerierung zu erstellen.
  • Heimlich und ausdauernd, versteckt sich lange Zeit unbemerkt in der Netzwerkinfrastruktur.

Diese Anzeichen erheben keinen Anspruch auf Vollständigkeit und einige KI-gesteuerte Angriffe weisen möglicherweise nicht alle davon auf. Sie weisen jedoch darauf hin das Ausmaß der Bedrohung, die KI für die Cybersicherheit darstellt.

Um KI-gesteuerte Cyberangriffe wirksam zu bekämpfen, müssen Unternehmen über einzelne böswillige Akteure hinausdenken und sich auf koordinierte Angriffe staatlich geförderter Akteure oder krimineller Organisationen vorbereiten, die KI nutzen könnten, um anspruchsvolle Kampagnen mit einem risikobasierten Ansatz zu starten. Sie sollten auch eine haben proaktive Strategie Dazu gehören regelmäßige Sicherheitsüberprüfungen, Backups, Verschlüsselung und Pläne zur Reaktion auf Vorfälle. Dies lässt sich am einfachsten durch den Erwerb einer bekannten Sicherheitszertifizierung wie PCI-DSS erreichen.

Schließlich ist es unerlässlich, dass Unternehmen die Cybersicherheit ihrer eigenen KI-Systeme verbessern, indem sie deren Integrität, Vertraulichkeit und Verfügbarkeit sicherstellen und die Risiken von gegnerischen Angriffen, Datenvergiftung und Modelldiebstahl mindern.

Diese Strategien tragen zum Schutz von Unternehmen bei, sollten aber nicht isoliert sein – Sicherheit sollte gemeinschaftlich erfolgen. Durch die Zusammenarbeit mit anderen Organisationen, Forschern und Behörden zum Austausch von Informationen, Best Practices und Fehlern, aus denen gelernt werden kann, sind Unternehmen besser auf die neue Welle von KI-Sicherheitsbedrohungen vorbereitet.

KI ist sowohl eine neue Bedrohung als auch eine Fortsetzung älterer Bedrohungen. Unternehmen müssen ihren Umgang mit Cyber-Bedrohungen weiterentwickeln, da diese Bedrohungen immer ausgefeilter und zahlreicher werden, aber viele Grundlagen bleiben gleich. Es bleibt entscheidend, diese richtig zu machen. Sicherheitsteams müssen nicht von alten Ideen abrücken, sondern darauf aufbauen, um die Sicherheit ihrer Unternehmen zu gewährleisten.

Zeitstempel:

Mehr von Dunkle Lektüre