Seminar EU AI Act – Risikomanagement und technische Dokumentation

Risikomanagement und Dokumentation dürfen nicht getrennt gepflegt werden. Jede wesentliche Gefahr benötigt technische oder organisatorische Maßnahmen, Prüfnachweise, Verantwortliche und Akzeptanzentscheidung. Das Seminar baut diese Beziehungen explizit auf.

Nutzen

Teams können Risiken iterativ über den Lebenszyklus bewerten und Änderungen kontrolliert nachführen. Die Dokumentation erklärt nicht nur das System, sondern belegt, warum Prüfungen und Maßnahmen für Zweck, Nutzer und Betroffene angemessen sind.

Lernziele

• vorgesehenen Zweck, vernünftigerweise vorhersehbare Fehlanwendung und Systemgrenze festlegen
• Gefahren, Schadensszenarien, Ursachen und Betroffene strukturiert analysieren
• Maßnahmen, Tests, Restrisiken und Freigaben nachvollziehbar verbinden
• technische Dokumentation und Änderungsverlauf als lebende Systemakte führen

Zielgruppen

Produktmanagement, Entwicklung, ML Engineering, Qualitätssicherung, Risikomanagement, Compliance, technische Redaktion und Informationssicherheit.

Voraussetzungen

Grundverständnis von KI-Systemen und Entwicklungsprozessen; Erfahrung mit Risikoanalysen ist hilfreich.

Seminarinhalte

Kontext und Systemgrenze

• vorgesehener Zweck, Nutzer und betroffene Personen
• Komponenten, Schnittstellen und Abhängigkeiten
• Annahmen, Grenzen und Fehlanwendung

Risikoanalyse

• Gefahren aus Daten, Modell, Mensch und Integration
• Schadensszenarien für Gesundheit, Sicherheit und Grundrechte
• Schweregrad, Wahrscheinlichkeit und Unsicherheit

Risikobehandlung

• Designänderung, Schutzmaßnahme und Nutzungseinschränkung
• Human Oversight und organisatorische Kontrollen
• Test, Nachweis und Restrisikoakzeptanz

Technische Systemakte

• Architektur und Entwicklungsprozess
• Daten-Governance, Training und Validierung
• Leistung, Robustheit, Sicherheit und Logging

Lebende Dokumentation

• Versionen und Konfigurationsidentität
• Änderungsbewertung und erneute Prüfung
• Gebrauchsanweisung, Marktbeobachtung und Vorfälle

Praxisanteil

Für ein Beispielsystem werden Systemgrenze, Risikoregister und technische Akte erstellt. Jede Maßnahme wird mit Test, Evidenz und Restrisikoentscheidung verbunden; eine Modelländerung löst eine kontrollierte Aktualisierung aus.

Aktualitätsstand

Die Dokumentationsstruktur ist auf die kommenden Hochrisiko-Anforderungen vorbereitet und kann an harmonisierte Standards angepasst werden, sobald diese im Amtsblatt veröffentlicht sind.