So integrieren Sie KI sicher in Ihre Cybersicherheitsprogramme

Ende Juni enthüllte das Cybersicherheitsunternehmen Group-IB eine bemerkenswerte Entdeckung Sicherheitsverletzung, die sich auf ChatGPT-Konten auswirkte. Das Unternehmen identifizierte unglaubliche 100,000 kompromittierte Geräte, jedes mit ChatGPT-Anmeldeinformationen, die anschließend im Laufe des vergangenen Jahres auf illegalen Dark-Web-Marktplätzen gehandelt wurden. Dieser Verstoß führte zu Forderungen nach sofortiger Aufmerksamkeit, um die gefährdete Sicherheit von ChatGPT-Konten zu beheben, da Suchanfragen, die vertrauliche Informationen enthalten, Hackern ausgesetzt werden.

Bei einem anderen Vorfall erlitt Samsung innerhalb von weniger als einem Monat drei dokumentierte Vorfälle, bei denen Mitarbeiter unbeabsichtigt einen Unfall verursachten vertrauliche Informationen über ChatGPT durchgesickert. Da ChatGPT Benutzereingabedaten speichert, um seine eigene Leistung zu verbessern, sind diese wertvollen Geschäftsgeheimnisse von Samsung nun im Besitz von OpenAI, dem Unternehmen hinter dem KI-Dienst. Dies wirft erhebliche Bedenken hinsichtlich der Vertraulichkeit und Sicherheit der proprietären Informationen von Samsung auf.

Aufgrund dieser Bedenken hinsichtlich der Einhaltung der Datenschutz-Grundverordnung (DSGVO) der EU durch ChatGPT, die strenge Richtlinien für die Datenerfassung und -nutzung vorschreibt, Italien hat ein landesweites Verbot verhängt zur Nutzung von ChatGPT.

Rasante Fortschritte bei KI und generativen KI-Anwendungen haben neue Möglichkeiten für die Beschleunigung des Wachstums in den Bereichen Business Intelligence, Produkte und Abläufe eröffnet. Aber Inhaber von Cybersicherheitsprogrammen müssen den Datenschutz gewährleisten, während sie auf die Ausarbeitung von Gesetzen warten.

Öffentliche Engine versus private Engine

Um die Konzepte besser zu verstehen, beginnen wir mit der Definition von öffentlicher KI und privater KI. Öffentliche KI bezieht sich auf öffentlich zugängliche KI-Softwareanwendungen, die anhand von Datensätzen trainiert wurden, die häufig von Benutzern oder Kunden stammen. Ein Paradebeispiel für öffentliche KI ist ChatGPT, das öffentlich verfügbare Daten aus dem Internet nutzt, darunter Textartikel, Bilder und Videos.

Öffentliche KI kann auch Algorithmen umfassen, die Datensätze nutzen, die nicht nur einem bestimmten Benutzer oder einer bestimmten Organisation vorbehalten sind. Kunden öffentlicher KI sollten sich daher darüber im Klaren sein, dass ihre Daten möglicherweise nicht vollständig privat bleiben.

Bei der privaten KI hingegen werden Algorithmen anhand von Daten trainiert, die für einen bestimmten Benutzer oder eine bestimmte Organisation einzigartig sind. Wenn Sie in diesem Fall maschinelle Lernsysteme verwenden, um ein Modell anhand eines bestimmten Datensatzes wie Rechnungen oder Steuerformularen zu trainieren, bleibt dieses Modell exklusiv für Ihr Unternehmen. Plattformanbieter nutzen Ihre Daten nicht zum Trainieren ihrer eigenen Modelle, daher verhindert die private KI jegliche Nutzung Ihrer Daten zur Unterstützung Ihrer Konkurrenten.

Integrieren Sie KI in Schulungsprogramme und -richtlinien

Um zu experimentieren, KI-Anwendungen zu entwickeln und in ihre Produkte und Dienstleistungen zu integrieren und dabei Best Practices einzuhalten, sollten Cybersicherheitsmitarbeiter die folgenden Richtlinien in die Praxis umsetzen.

Benutzerbewusstsein und Aufklärung: Informieren Sie Benutzer über die Risiken, die mit der Nutzung von KI verbunden sind, und ermutigen Sie sie, bei der Übermittlung sensibler Informationen vorsichtig zu sein. Fördern Sie sichere Kommunikationspraktiken und raten Sie Benutzern, die Authentizität des KI-Systems zu überprüfen.

• Datenminimierung: Stellen Sie der KI-Engine nur die minimale Datenmenge zur Verfügung, die zur Erfüllung der Aufgabe erforderlich ist. Vermeiden Sie die Weitergabe unnötiger oder sensibler Informationen, die für die KI-Verarbeitung nicht relevant sind.
• Anonymisierung und De-Identifizierung: Anonymisieren oder de-identifizieren Sie die Daten nach Möglichkeit, bevor Sie sie in die KI-Engine eingeben. Dabei werden personenbezogene Daten (PII) oder andere sensible Attribute entfernt, die für die KI-Verarbeitung nicht erforderlich sind.

Sichere Datenverarbeitungspraktiken: Legen Sie strenge Richtlinien und Verfahren für den Umgang mit Ihren sensiblen Daten fest. Beschränken Sie den Zugriff nur auf autorisiertes Personal und setzen Sie starke Authentifizierungsmechanismen durch, um unbefugten Zugriff zu verhindern. Schulen Sie Ihre Mitarbeiter in Best Practices für den Datenschutz und implementieren Sie Protokollierungs- und Prüfmechanismen, um den Datenzugriff und die Datennutzung zu verfolgen.

Aufbewahrung und Entsorgung: Definieren Sie Richtlinien zur Datenaufbewahrung und entsorgen Sie die Daten sicher, sobald sie nicht mehr benötigt werden. Richtig umsetzen DatenentsorgungsmechanismenB. sicheres Löschen oder kryptografisches Löschen, um sicherzustellen, dass die Daten nicht wiederhergestellt werden können, wenn sie nicht mehr benötigt werden.

Rechtliche und Compliance-Überlegungen: Verstehen Sie die rechtlichen Konsequenzen der Daten, die Sie in die KI-Engine eingeben. Stellen Sie sicher, dass die Art und Weise, wie Benutzer die KI einsetzen, den einschlägigen Vorschriften entspricht, z Datenschutzgesetze oder branchenspezifische Standards.

Lieferantenbewertung: Wenn Sie eine KI-Engine eines Drittanbieters verwenden, führen Sie eine gründliche Bewertung der Sicherheitsmaßnahmen des Drittanbieters durch. Stellen Sie sicher, dass der Anbieter die Best Practices der Branche für Datensicherheit und Datenschutz befolgt und dass er über angemessene Sicherheitsvorkehrungen zum Schutz Ihrer Daten verfügt. ISO- und SOC-Zertifizierungen bieten beispielsweise wertvolle unabhängige Bestätigungen für die Einhaltung anerkannter Standards und ihr Engagement für die Informationssicherheit durch einen Anbieter.

Formulieren Sie eine AI Acceptable Use Policy (AUP): Eine Richtlinie zur akzeptablen Nutzung von KI sollte den Zweck und die Ziele der Richtlinie darlegen und den verantwortungsvollen und ethischen Einsatz von KI-Technologien hervorheben. Es sollte akzeptable Anwendungsfälle definieren und den Umfang und die Grenzen für die KI-Nutzung festlegen. Die AUP sollte Transparenz, Rechenschaftspflicht und verantwortungsvolle Entscheidungsfindung bei der KI-Nutzung fördern und eine Kultur ethischer KI-Praktiken innerhalb der Organisation fördern. Regelmäßige Überprüfungen und Aktualisierungen stellen die Relevanz der Richtlinie für die Entwicklung von KI-Technologien und Ethik sicher.

Schlussfolgerungen

Durch die Einhaltung dieser Richtlinien können Programminhaber KI-Tools effektiv nutzen und gleichzeitig vertrauliche Informationen schützen sowie ethische und professionelle Standards einhalten. Es ist von entscheidender Bedeutung, KI-generiertes Material auf seine Richtigkeit hin zu überprüfen und gleichzeitig die eingegebenen Daten zu schützen, die in die Generierung von Antwortaufforderungen einfließen.

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Automobil / Elektrofahrzeuge, Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• BlockOffsets. Modernisierung des Eigentums an Umweltkompensationen. Hier zugreifen.
• Quelle: https://www.darkreading.com/edge/how-to-safely-architect-ai-in-your-cybersecurity-programs