Seminar Agentic AI Engineering – EU AI Act, Governance und technische Nachweise

Das Seminar übersetzt die seit August 2026 maßgeblichen Durchsetzungs- und Transparenzanforderungen des EU AI Act in konkrete Engineering-Artefakte für Agentensysteme. Behandelt werden Anbieter- und Betreiberrollen, Inventarisierung, Risikoklassifikation, Nutzerinformation, menschliche Aufsicht, Protokollierung und technische Nachweise entlang des Lebenszyklus. Die Teilnehmenden können Governance als prüfbare Produktanforderung in Architektur, Backlog, Tests, Freigaben und Betriebsprozesse integrieren, ohne rechtliche Bewertung mit technischer Umsetzung zu verwechseln.

Einordnung und Nutzen

Agentische Systeme verbinden probabilistische Modellentscheidungen mit deterministischen Softwarekomponenten. Deshalb behandelt das Seminar Architektur, Implementierung, Sicherheitsgrenzen und überprüfbare Qualität gemeinsam. Technische Entscheidungen werden an realistischen Fehlerszenarien und nicht nur am erfolgreichen Idealablauf bewertet.

Zielgruppe

AI Governance Leads, Solution Architects, technische Produktverantwortliche, Security- und Compliance-Teams sowie Lead Developers.

Voraussetzungen

Grundverständnis von AI-Systemen und Software-Lebenszyklen; juristische Vorkenntnisse sind nicht erforderlich.

Seminarinhalte

• Agentensystem, Anbieter- und Betreiberrollen sowie Einsatzkontext dokumentieren
• Risikoklassifikation, verbotene Praktiken und Hochrisikobezug einordnen
• Artikel-50-Transparenz bei interaktiven Agenten technisch umsetzen
• Kennzeichnung und maschinenlesbare Markierung erzeugter Inhalte planen
• Human Oversight als wirksame Kontrollfunktion gestalten
• Downstream-Nachweise für eingesetzte General-Purpose-AI-Modelle führen
• Datenherkunft, Modell-, Tool-, Policy- und Prompt-Versionen nachweisen
• Logging, Aufbewahrung, Datenschutz und Zugriffsrechte abstimmen
• Risikoregister, Kontrollmatrix und Evidenzkatalog aufbauen
• Evaluations- und Freigabekriterien mit Verantwortlichkeiten verknüpfen
• Änderungsmanagement, Vorfallbehandlung und kontinuierliche Überwachung

Praxisprojekt

Eine Fallstudie wird von der Systembeschreibung über Risiko- und Kontrollmatrix bis zum technischen Evidenzpaket ausgearbeitet. Die Teilnehmenden formulieren prüfbare Anforderungen und ordnen ihnen Logs, Tests und Freigaben zu.

Lernziele

Die Teilnehmenden können Governance als prüfbare Produktanforderung in Architektur, Backlog, Tests, Freigaben und Betriebsprozesse integrieren, ohne rechtliche Bewertung mit technischer Umsetzung zu verwechseln. Außerdem können die Teilnehmenden Architekturentscheidungen begründen, typische Fehlerbilder diagnostizieren und geeignete Tests sowie Kontrollpunkte für den eigenen Einsatzkontext festlegen.

Arbeitsweise

Kurze Theorieblöcke wechseln mit Demonstrationen, Entwurfsaufgaben und Übungen am System. Zwischenergebnisse werden gemeinsam überprüft; Alternativen, Grenzen und betriebliche Auswirkungen werden transparent diskutiert. Das Praxisprojekt verbindet die Einzelthemen zu einer konsistenten Lösung.