KI sichern: Was Sie wissen sollten

KI sichern: Was Sie wissen sollten

Zeitstempel: 29. September 2023, 5:00 Uhr
KI sichern: Was Sie wissen sollten PlatoBlockchain Data Intelligence. Vertikale Suche. Ai.

Tools für maschinelles Lernen sind seit Jahren Teil der Standard-Geschäfts- und IT-Workflows, aber die sich entfaltende generative KI-Revolution führt zu einem raschen Anstieg sowohl der Akzeptanz als auch des Bekanntheitsgrads dieser Tools. Während KI in verschiedenen Branchen Effizienzvorteile bietet, erfordern diese leistungsstarken neuen Tools besondere Sicherheitsüberlegungen.

Wie unterscheidet sich die Sicherung von KI?

Die aktuelle KI-Revolution mag neu sein, aber Sicherheitsteams bei Google und anderswo arbeiten seit vielen Jahren, wenn nicht Jahrzehnten, an der KI-Sicherheit. Auf viele ArtenDie Grundprinzipien für die Sicherung von KI-Tools entsprechen den allgemeinen Best Practices für Cybersicherheit. Die Notwendigkeit, den Zugriff zu verwalten und Daten durch grundlegende Techniken wie Verschlüsselung und starke Identität zu schützen, ändert sich nicht, nur weil KI im Spiel ist.

Ein Bereich, in dem sich die Sicherung von KI unterscheidet, sind die Aspekte der Datensicherheit. KI-Tools basieren auf Daten – und werden letztlich auch programmiert –, was sie anfällig für neue Angriffe wie etwa Training Data Poisoning macht. Böswillige Akteure, die dem KI-Tool fehlerhafte Daten (oder korrupte legitime Trainingsdaten) zuführen können, können es möglicherweise auf komplexere Weise beschädigen oder ganz zerstören, als dies bei herkömmlichen Systemen der Fall ist. Und wenn das Tool aktiv „lernt“, sodass sich seine Ausgabe je nach Eingabe im Laufe der Zeit ändert, müssen Unternehmen es vor einer Abweichung von seiner ursprünglich vorgesehenen Funktion schützen.

Bei einem herkömmlichen Großunternehmenssystem (ohne KI) erhalten Sie genau das, was Sie hineinstecken. Ohne eine schädliche Eingabe sehen Sie keine schädliche Ausgabe. Aber Das sagte Google-CISO Phil Venables kürzlich in einem Podcast„Um [ein] KI-System zu implementieren, muss man über das Input- und Output-Management nachdenken.“
Die Komplexität von KI-Systemen und ihre Dynamik machen es schwieriger, sie zu sichern als herkömmliche Systeme. Sowohl in der Eingabephase muss darauf geachtet werden, zu überwachen, was in das KI-System gelangt, als auch in der Ausgabephase, um sicherzustellen, dass die Ausgaben korrekt und vertrauenswürdig sind.

Implementierung eines sicheren KI-Frameworks

Der Schutz der KI-Systeme und die Antizipation neuer Bedrohungen haben höchste Priorität, um sicherzustellen, dass sich die KI-Systeme wie vorgesehen verhalten. Googles Secure AI Framework (SAIF) und seine Absicherung der KI: ähnlich oder anders? Der Bericht ist ein guter Ausgangspunkt und bietet einen Überblick darüber, wie man über die besonderen Sicherheitsherausforderungen und neuen Schwachstellen im Zusammenhang mit der Entwicklung von KI nachdenken und diese angehen kann.

SAIF beginnt damit, ein klares Verständnis darüber zu entwickeln, welche KI-Tools Ihr Unternehmen verwenden wird und welche spezifischen Geschäftsprobleme damit gelöst werden sollen. Es ist von entscheidender Bedeutung, dies im Voraus zu definieren, da Sie so verstehen können, wer in Ihrer Organisation beteiligt sein wird und auf welche Daten das Tool zugreifen muss (was bei der Einhaltung der strengen Datenverwaltungs- und Inhaltssicherheitspraktiken, die zur Sicherung der KI erforderlich sind, hilfreich ist). Es ist auch eine gute Idee, geeignete Anwendungsfälle und Einschränkungen von KI im gesamten Unternehmen zu kommunizieren; Diese Richtlinie kann dazu beitragen, sich vor der inoffiziellen „Schatten-IT“-Nutzung von KI-Tools zu schützen.

Nachdem Sie die Werkzeugtypen und den Anwendungsfall klar identifiziert haben, sollte Ihre Organisation ein Team zusammenstellen, das das KI-Werkzeug verwaltet und überwacht. Dieses Team sollte Ihre IT- und Sicherheitsteams, aber auch Ihr Risikomanagementteam und Ihre Rechtsabteilung umfassen und Datenschutz- und ethische Bedenken berücksichtigen.

Sobald Sie das Team identifiziert haben, ist es Zeit, mit dem Training zu beginnen. Um KI in Ihrem Unternehmen richtig zu schützen, müssen Sie mit einer Einführung beginnen, die jedem hilft, zu verstehen, was das Tool ist, was es kann und wo etwas schief gehen kann. Wenn ein Werkzeug in die Hände von Mitarbeitern gerät, die nicht mit den Fähigkeiten und Unzulänglichkeiten der KI vertraut sind, erhöht sich das Risiko eines problematischen Vorfalls erheblich.

Nachdem Sie diese vorbereitenden Schritte unternommen haben, haben Sie den Grundstein für die Sicherung der KI in Ihrem Unternehmen gelegt. Es gibt sechs Kernelemente von Googles SAIF die Sie implementieren sollten, angefangen bei standardmäßig sicheren Grundlagen bis hin zur Erstellung effektiver Korrektur- und Feedbackzyklen rotes Teaming.

Ein weiteres wesentliches Element der KI-Sicherheit besteht darin, die Menschen so weit wie möglich auf dem Laufenden zu halten und gleichzeitig zu erkennen, dass die manuelle Überprüfung von KI-Tools besser sein könnte. Schulungen sind von entscheidender Bedeutung, wenn Sie den Einsatz von KI in Ihrem Unternehmen vorantreiben – Schulungen und Umschulungen, nicht der Tools selbst, sondern Ihrer Teams. Wenn die KI über das hinausgeht, was die tatsächlichen Menschen in Ihrem Unternehmen verstehen und noch einmal überprüfen können, steigt das Risiko eines Problems rapide an.

Die KI-Sicherheit entwickelt sich rasant weiter und es ist für diejenigen, die in diesem Bereich arbeiten, von entscheidender Bedeutung, wachsam zu bleiben. Es ist von entscheidender Bedeutung, potenzielle neuartige Bedrohungen zu identifizieren und Gegenmaßnahmen zu entwickeln, um sie zu verhindern oder abzuschwächen, damit KI weiterhin Unternehmen und Einzelpersonen auf der ganzen Welt helfen kann.

Lesen Sie weiter Partnerperspektiven von Google Cloud

Zeitstempel:

Mehr von Dunkle Lektüre