Seminar AI Act und KI-Governance für souveräne KI

Der Einsatz eines europäischen Modells beantwortet noch nicht, wer einen KI-Anwendungsfall freigibt, welche Daten verwendet werden dürfen und wie die Nutzung überwacht wird. Dieses Seminar überführt solche Fragen in einen umsetzbaren Governance-Prozess. Ausgangspunkt sind konkrete Anwendungen und die Rollen der beteiligten Organisationen entlang der Bereitstellungs- und Nutzungskette.

Die Teilnehmenden bearbeiten ein zusammenhängendes Organisationsbeispiel vom KI-Inventar bis zur Betriebsfreigabe. Die Einordnung von KI-Systemen, die Behandlung personenbezogener Daten und die Anforderungen an menschliche Aufsicht werden miteinander verbunden. Aktuelle Anwendungs- und Übergangsfristen werden fallbezogen berücksichtigt. Der Schwerpunkt liegt auf fachlicher Vorbereitung, dokumentierten Entscheidungen und der Zusammenarbeit mit den zuständigen Prüfstellen.

Zielgruppe

KI-Verantwortliche, IT-Leitung, Compliance, Datenschutzkoordination, Informationssicherheit, Projektleitung und Fachbereichsverantwortliche.

Voraussetzungen

Grundverständnis generativer KI entsprechend dem Grundlagenseminar. Kenntnisse der eigenen Organisations- und Freigabeprozesse sind hilfreich.

Inhaltsübersicht

• KI-Inventar und Verantwortlichkeiten
• Risikobasierte Einordnung
• Daten und organisatorische Schutzmaßnahmen
• KI-Kompetenz und menschliche Aufsicht
• Freigabe, Nachweise und Lieferantenprüfung
• Governance im laufenden Betrieb

Seminarinhalte

KI-Inventar und Verantwortlichkeiten

• Anwendungen, Modelle, Datenflüsse, Verantwortliche und Betriebsorte in einem Inventar erfassen.
• Anbieter-, Betreiber- und weitere Lieferkettenrollen fallbezogen bestimmen; Änderungen durch Eigenentwicklung oder Anpassung prüfen.
• Fachliche Verantwortung, Betrieb, Datenschutz und Informationssicherheit mit klaren Entscheidungsrechten verbinden.

Risikobasierte Einordnung

• Verwendungszweck, betroffene Personen und mögliche Auswirkungen als Grundlage der Bewertung beschreiben.
• Verbote, Hochrisikokonstellationen, Transparenzanforderungen und Anforderungen an allgemeine KI-Modelle auseinanderhalten.
• Aktuell geltende Regelungen, Übergangsvorschriften und einschlägige Ausnahmen auf konkrete Beispiele anwenden.

Daten und organisatorische Schutzmaßnahmen

• Datenkategorien, Rechtsgrundlagen, Aufbewahrung und Auftragsverarbeitung als Prüfpunkte erfassen.
• Die Notwendigkeit vertiefter Datenschutz- und Folgenabschätzungen anhand des Anwendungsfalls beurteilen.
• Datenfreigabe, Löschung, Zugriff und zulässige Protokollierung in betriebliche Zuständigkeiten übersetzen.

KI-Kompetenz und menschliche Aufsicht

• Kompetenzbedarf nach Aufgaben, Vorwissen und Risiken der eingesetzten Systeme bestimmen.
• Schulungsmaßnahmen und praktische Unterweisungen nachvollziehbar dokumentieren.
• Kontrollpunkte, Korrekturmöglichkeiten und Eskalationen bei zweifelhaften Ausgaben festlegen.

Freigabe, Nachweise und Lieferantenprüfung

• Modell- und Betriebsnachweise in einer Freigabeakte zusammenführen.
• Anbieterangaben zu Datenverwendung, Unterauftragnehmern und Wechselmöglichkeiten gezielt hinterfragen.
• Änderungen an Modell, Datenbestand oder Werkzeugrechten als mögliche Auslöser einer erneuten Bewertung behandeln.

Governance im laufenden Betrieb

• Regelmäßige Kontrollen, Vorfallmeldungen und Zuständigkeiten für Korrekturen festlegen.
• Eine praxistaugliche Nutzungsrichtlinie mit zulässigen und freigabepflichtigen Anwendungsfällen entwickeln.
• Offene Rechts- und Risikofragen für die zuständigen internen oder externen Fachstellen aufbereiten.

Praxisübungen

1. Drei unterschiedliche KI-Anwendungen erfassen und die organisatorischen Rollen begründet zuordnen.
2. Für einen internen Dokumentenassistenten eine Freigabeakte mit Datenfluss, Schutzbedarf und menschlichen Kontrollpunkten bearbeiten.
3. Eine Modelländerung bewerten und entscheiden, welche fachlichen, technischen und organisatorischen Prüfungen erneut erforderlich sind.
4. Ein rollenbezogenes Kompetenzkonzept mit Schulungsinhalten, Nachweisen und Wiederholungsanlässen entwerfen.

Schulungsumgebung

Der Kunde stellt die Schulungsumgebung: Arbeitsplätze mit Dokumenten- und Tabellenbearbeitung sowie anonymisierte Prozessbeschreibungen oder vorbereitete Fallunterlagen. Produktzugänge und GPU-Ressourcen sind nicht erforderlich.

Einordnung im Seminarprogramm

Die empfohlenen Lernpfade und ergänzenden Seminare stehen auf der Themenübersicht Souveräne europäische KI.