Seminar GPU Libraries & Ökosystem: CUDA Libraries, Thrust, Interop-Konzepte

Inhaltsverzeichnis

• Abstract
• Zielgruppe und Voraussetzungen
• Lernziele
• Inhalte und Module
• Praxisübungen
• Agenda

Abstract

Viele GPU-Anwendungsfälle lassen sich effizienter über Bibliotheken lösen als über eigene Kernel. Dieses Seminar zeigt, wie GPU-Bibliotheken sinnvoll eingesetzt, korrekt angebunden und performanceorientiert konfiguriert werden. Schwerpunkte sind algorithmische Bausteine (Scan, Sort, Reduce), lineare Algebra und FFT-Konzepte, Speicher- und Datenlayout-Kompatibilität sowie Interoperabilität zwischen eigener Kernel-Logik und Bibliotheksaufrufen. Ziel ist ein pragmatisches Baukastenprinzip: Eigene Kernels nur dort, wo sie wirklich Differenzierung bringen.

Zielgruppe und Voraussetzungen

• Zielgruppe: Entwicklungsteams mit numerischen oder datenintensiven Pipelines
• Voraussetzungen: CUDA-Grundlagen oder allgemeines GPU-Programmverständnis

Lernziele

• Entscheidungskriterien: Bibliothek vs eigener Kernel
• Datenlayout und Speicherverwaltung bibliothekskompatibel gestalten
• Performance-Fallen bei Bibliotheksintegration vermeiden (Transfers, Strides, Batching)
• Interop-Architektur entwerfen: eigene Kernels + Bibliotheken in einer Pipeline

Inhalte und Module

• Bibliothekslandschaft (konzeptionell): BLAS/FFT/Sparse/Primitives
• Thrust- und Primitive-Patterns: Reduce/Scan/Sort als Bausteine
• Batching und Strides: Layout-Design für hohe Auslastung
• Stream-Integration: Bibliothekscalls in konkurrierende Pipelines einbetten
• Memory-Ownership: Pufferpools, temporäre Workspaces, Reuse-Strategien
• Interop-Konzepte: Datenformate, Alignment, Übergabeverträge
• Validierung: numerische Checks, deterministische Regressionen, Performance-Guardrails

Praxisübungen

• Pipeline-Refactoring: eigener Code durch Primitives ersetzen
• Batching: mehrere kleine Jobs zu einem großen Job bündeln
• Stream-Integration: Bibliothekscalls und eigene Kernels überlappen
• Layout-Übung: Strided vs contiguous und Auswirkungen messen

Agenda

• Tag 1
  • Bibliotheksprinzipien und Primitives
  • Datenlayout, Batching, Workspaces
  • Übungen: Primitive-basierte Pipeline
• Tag 2
  • Stream-Integration und Interop-Architektur
  • Validierung, Tests, Performance-Guardrails
  • Übungen: Overlap + Regression-Checks