Seminar KI-Agenten – Qualitätssicherung, Evaluation und Monitoring

Beschreibung

Eine überzeugende Demonstration zeigt noch nicht, wie verlässlich eine Agentenanwendung im Alltag arbeitet. Dieses Seminar macht Qualität anhand konkreter Aufgaben, erwarteter Aktionen und messbarer Fehlerfolgen prüfbar. Unterschieden werden fachlicher Aufgabenerfolg, korrekte Werkzeugnutzung, sichere Prozessausführung und sprachliche Qualität. Dadurch lassen sich Verbesserungen gezielt bewerten und Fehlentwicklungen früher erkennen.

Eine vorbereitete Agentenanwendung dient als Prüfobjekt. Aus typischen und schwierigen Fällen entsteht ein versionierter Testbestand. Deterministische Prüfungen bilden die erste Stufe; menschliche Bewertungen und modellgestützte Bewertungen ergänzen sie dort, wo sie sinnvoll sind. Abschließend wird untersucht, welche Laufdaten im Betrieb tatsächlich benötigt werden und wie sich Alarmierung, Kostenübersicht und Datenschutzanforderungen miteinander verbinden lassen.

Der Prüffall ist ein Agent, der Serviceanfragen einordnet und eine begrenzte Aktion vorschlägt. Eine sprachlich gute Antwort kann trotzdem den falschen Vorgang betreffen oder eine unzulässige Änderung vorbereiten. Deshalb werden erwartete Werkzeugparameter, tatsächliche Seiteneffekte und die Qualität der Rückmeldung einzeln geprüft. Eine bewusst verschlechterte Konfiguration dient als Gegenprobe für den Testbestand. Das Seminar zeigt so, ob die ausgewählten Messgrößen die Fehler erkennen, die im späteren Einsatz tatsächlich relevant sind.

Seminarziele

• Fachliche Qualitätskriterien und belastbare Testfälle formulieren.
• Werkzeug-, Integrations- und vollständige Agentenläufe getrennt prüfen.
• Modellbewertungen mit menschlich geprüften Beispielen kalibrieren.
• Änderungen anhand von Regressionen, Kosten und Betriebskennzahlen bewerten.

Seminarinhalte

• Qualitätsmodell und Fallbestand
• Automatisierte Prüfungen
• Bewertungsverfahren
• Monitoring und Laufdiagnose
• Änderungen und Freigabe

Qualitätsmodell und Fallbestand

• Aufgabenerfolg und zulässige Aktionen je Anwendungsfall definieren.
• Typische, unklare, fehlerhafte und unzulässige Eingaben aufnehmen.
• Entwicklungsfälle von einem zurückgehaltenen Prüfbestand trennen.

Automatisierte Prüfungen

• Argumentvalidierung, Berechtigungen und Seiteneffekte deterministisch testen.
• Modellantworten für isolierte Tests durch vorbereitete Antworten ersetzen.
• Vollständige Läufe mit echten Modellen mehrfach ausführen und Streuung erfassen.

Bewertungsverfahren

• Rubriken mit nachvollziehbaren Kriterien und Gegenbeispielen erstellen.
• Menschliche und modellgestützte Urteile vergleichen und Abweichungen untersuchen.
• Unsichere Bewertungen und unterschiedliche Fehlerkosten ausdrücklich berücksichtigen.

Monitoring und Laufdiagnose

• Vorgänge über Modell- und Werkzeugaufrufe hinweg korrelieren.
• Laufzeit, Iterationen, Werkzeugfehler und geschätzte Kosten messen.
• Protokollinhalte minimieren und sensible Eingaben gezielt maskieren.

Änderungen und Freigabe

• Prompt-, Modell- und Werkzeugversionen gemeinsam nachvollziehbar halten.
• Neue Varianten gegen Baseline und Abnahmeschwellen prüfen.
• Gestufte Einführung, Rücknahme und Verantwortlichkeit für Qualitätsabfälle planen.

Praxisübungen

1. Aus einem fachlichen Prozess einen versionierten Satz von Normal-, Grenz- und Fehlerfällen erstellen.
2. Ein Prüfharness um Werkzeug- und Aktionsprüfungen ergänzen und einen absichtlich fehlerhaften Lauf erkennen.
3. Eine Bewertungsrubrik mit menschlich geprüften Beispielen vergleichen und unzuverlässige Modellurteile sichtbar machen.
4. Eine geänderte Modell- oder Promptkonfiguration mehrfach messen und anhand definierter Kriterien über ihre Freigabe entscheiden.
5. Eine Laufübersicht mit Fehlern, Latenz und Kosten interpretieren und eine konkrete Alarmregel festlegen.

Arbeitsumgebung

Vorbereitete Python-Testumgebung mit einer lauffähigen Agentenanwendung, synthetischen Prüffällen und Beispieltraces. Ein vorhandenes Monitoringwerkzeug wird verwendet; sein vollständiger Plattformaufbau ist nicht enthalten.