Seminar Cyscale – AI Security und AI-SPM

Das Seminar behandelt die systematische Erfassung, Bewertung und Absicherung von KI-Diensten, Modellen, Endpunkten, Datenbezügen und Kubernetes-basierten KI-Workloads innerhalb einer einheitlichen Cloud-Sicherheitsanalyse.

Zielsetzung

Aufbau eines wiederholbaren AI-Security-Prozesses von der Bestandsaufnahme über die kontextbezogene Risikobewertung bis zur priorisierten Behandlung von Fehlkonfigurationen und überprivilegierten Identitäten.

Inhaltsübersicht

1. KI-Ressourcen und Schutzobjekte erfassen
2. Connector-Berechtigungen und Datengrundlage prüfen
3. AI-Sicherheitslage kontextbezogen analysieren
4. AI-Katalog und AI-BOM nutzen
5. Eigene Kontrollen und Betriebsprozess etablieren

Schrittweise Seminarinhalte

1. KI-Ressourcen und Schutzobjekte erfassen

1. Schritt 1: KI-Dienste, Modelle, Endpunkte, Datenquellen und zugehörige Identitäten als Schutzobjekte strukturieren.
2. Schritt 2: Erwartete Bestände mit Discovery und Inventar abgleichen und fehlende Sichtbarkeit dokumentieren.
3. Schritt 3: Kubernetes-Workloads anhand von Metadaten und Laufzeitkontext in die KI-Bestandsaufnahme einordnen.
4. Schritt 4: Eine belastbare Ausgangsliste für weitere Prüfungen und Verantwortlichkeiten erzeugen.

2. Connector-Berechtigungen und Datengrundlage prüfen

1. Schritt 1: Vorhandene Cloud- und Kubernetes-Connectoren auf die für KI-Ressourcen erforderlichen Leserechte prüfen.
2. Schritt 2: Berechtigungsaktualisierungen kontrolliert vorbereiten und deren Umfang gegen das Minimalprinzip abgleichen.
3. Schritt 3: Nach der Aktualisierung eine Synchronisation auslösen und die Erfassung neuer Ressourcentypen verifizieren.
4. Schritt 4: Abweichungen zwischen erwarteter und tatsächlicher Erfassung in einer Prüfliste festhalten.

3. AI-Sicherheitslage kontextbezogen analysieren

1. Schritt 1: Übersichten nach Exposition, Datenzugriff, Identitätsreichweite und fehlgeschlagenen Kontrollen auswerten.
2. Schritt 2: Beziehungen zwischen KI-Endpunkten, sensiblen Daten, Rollen und öffentlich erreichbaren Komponenten untersuchen.
3. Schritt 3: Risiken nach technischer Ausnutzbarkeit, Reichweite und geschäftlicher Kritikalität priorisieren.
4. Schritt 4: Die wichtigsten Risikokombinationen als bearbeitbare Maßnahmenpakete formulieren.

4. AI-Katalog und AI-BOM nutzen

1. Schritt 1: Modelle, Pakete, Frameworks, Werkzeuge und Dienste in einem nachvollziehbaren KI-Katalog ordnen.
2. Schritt 2: Unvollständige oder nicht zugeordnete Komponenten identifizieren und Verantwortlichkeiten ergänzen.
3. Schritt 3: Nachweise für Governance, Architekturprüfung und Audit aus dem Katalog ableiten.
4. Schritt 4: Eine wiederverwendbare Mindestanforderung an AI-BOM-Daten definieren.

5. Eigene Kontrollen und Betriebsprozess etablieren

1. Schritt 1: Wiederkehrende Untersuchungen im Query Builder als strukturierte Abfragen aufbauen.
2. Schritt 2: Relevante Abfragen als benutzerdefinierte Kontrollen speichern und Schweregrade festlegen.
3. Schritt 3: Alert- und Eskalationsregeln für KI-Risiken in den operativen Prozess einordnen.
4. Schritt 4: Einen regelmäßigen Review-Zyklus mit Messpunkten, Ausnahmen und Nachweisen festlegen.

Praxisanteile

• Erstellung eines KI-Asset-Registers mit Risikoklassen.
• Analyse eines exponierten KI-Endpunkts mit Daten- und Identitätsbezug.
• Aufbau einer eigenen AI-Security-Kontrolle im Query Builder.

Zielgruppen

Cloud-Security-Teams, Plattformverantwortliche, AI-Plattform-Teams, DevSecOps, Governance und technische Revision.

Vorkenntnisse

Grundkenntnisse zu Cloud-Ressourcen, Identitäten und Sicherheitskontrollen; Zugriff auf eine vorbereitete Cyscale-Übungsumgebung.