Seminar KServe Architektur, Installation und Betriebsgrundlagen

Zielsetzung

Dieses Seminar schafft ein tragfähiges Architekturverständnis für KServe und ordnet die Plattform in bestehende Kubernetes-, MLOps- und AI-Serving-Landschaften ein. Im Mittelpunkt stehen die technischen Grundlagen für eine saubere Einführung, die Auswahl des passenden Betriebsmodells und der Aufbau einer stabilen Basis für spätere Spezialisierungen.

Zielgruppe

Adressiert werden Plattformteams, Cloud- und Kubernetes-Administratoren, MLOps-Verantwortliche sowie Architekten, die KServe organisatorisch und technisch einführen oder bestehende AI-Serving-Plattformen konsolidieren möchten.

Voraussetzungen

Erforderlich sind praxistaugliche Kenntnisse in Kubernetes, Namespaces, Services, Ingress/Gateway-Konzepten, YAML und Container-Images. Vorwissen zu KServe selbst ist nicht notwendig.

Inhalte

• Rolle von KServe im Zusammenspiel mit Kubernetes, Kubeflow, Service Mesh und API-Gateways
• Architektur von Control Plane, Data Plane, InferenceService, ServingRuntime und Storage-Anbindung
• Vergleich von Standard-Deployment und Knative-basiertem Serverless-Betrieb
• Abhängigkeiten, Installationspfade und technische Vorentscheidungen für produktionsnahe Umgebungen
• Netzwerkpfade, Gateway API, Ingress-Varianten, Zertifikate und grundlegende Erreichbarkeitskonzepte
• Aufbau eines ersten Predictive- und Generative-Serving-Szenarios
• Namespace-, Rollen- und Betriebsstruktur für Entwicklungs-, Test- und Produktionsumgebungen
• Typische Fehlerbilder bei Installation, Admission, Routing, Readiness und Storage-Zugriffen

Praxisanteil

Im Laborteil werden die Kernkomponenten installiert beziehungsweise bewertet, ein erster InferenceService bereitgestellt und die Unterschiede zwischen den Betriebsmodellen anhand typischer Plattformanforderungen nachvollzogen.