Seminar RAG- und LLM-Anwendungen mit Red Hat OpenShift AI

Beschreibung

Dieses Seminar fokussiert die Entwicklung moderner generativer KI-Anwendungen mit Red Hat OpenShift AI. Behandelt werden der Umgang mit verfügbaren Modellen, die Einbindung von LLMs in Anwendungsszenarien, die Struktur von Retrieval-Augmented-Generation-Architekturen sowie die organisatorische und technische Vorbereitung produktiver GenAI-Workloads.

Im Seminar werden Datenanreicherung, Embeddings, Vektorspeicher, Prompts, Evaluierung und die API-basierte Bereitstellung praxisnah zusammengedacht. Zusätzlich wird gezeigt, wie sich Qualität, Nachvollziehbarkeit und kontrollierte Nutzung von GenAI-Funktionen in einem Unternehmenskontext strukturieren lassen.

Zielgruppe

Das Seminar richtet sich an technische Teams, die LLM- oder RAG-basierte Lösungen planen, umsetzen oder in bestehende Plattform- und Anwendungskonzepte integrieren möchten.

Schwerpunkte

• Einordnung generativer KI auf Red Hat OpenShift AI
• Umgang mit verfügbaren Modellen und Modellquellen
• Architektur und Bausteine von RAG-Lösungen
• Embeddings, Dokumentaufbereitung und Vektorspeicher
• Prompts, Antwortqualität und Evaluierungsansätze
• Integration in Anwendungen und API-Endpunkte
• Grundlagen für Governance und kontrollierte Nutzung
• Abgrenzung zwischen Prototyping und produktivem Betrieb

Praxisanteil

Die Übungen umfassen den Aufbau eines einfachen GenAI-Szenarios mit Datenanbindung, Retrieval-Komponente, Modellnutzung und einer strukturierten Auswertung der Ergebnisqualität.