Seminar Apache SINGA - ONNX, Inference und Modellintegration

Seminarprofil

Apache SINGA unterstützt das Laden von ONNX-Modellen für Training und Inference sowie das Speichern SINGA-definierter Modelle in ONNX. Damit wird das Framework für Integrationsszenarien interessant, in denen bestehende Modelle weiterverwendet, angepasst oder in andere Betriebsumgebungen überführt werden sollen. Das Seminar konzentriert sich auf genau diese Übergänge. Zwei Tage reichen hier, weil der Fokus klar ist: nicht jede Theorie des Deep Learnings, sondern die solide Modellübergabe zwischen Werkzeugwelten.

Schwerpunkte

• Grundprinzipien und Grenzen von ONNX-Workflows in Apache SINGA
• Laden bestehender ONNX-Modelle und Vorbereitung von Eingaben
• Arbeiten mit SONNXModel für Vorwärtslauf, Inference und Weitertraining
• Export von SINGA-Modellen in ONNX für Übergabe und Wiederverwendung
• Shape-Verhalten, Platzhalter, Gewichtsübernahme und typische Integrationsfehler
• Aufbau belastbarer Validierungs- und Testschritte für Modellübergaben

Praxisanteil

Im Praxisteil werden ONNX-Modelle geladen, in SINGA ausgeführt, bei Bedarf erweitert und wieder exportiert. Zusätzlich werden typische Stolperstellen aus realen Projekten systematisch durchgespielt: Formatunterschiede, ungeeignete Eingabeformen, Probleme bei Gewichtszuordnung, Unterschiede zwischen Inference- und Trainingspfaden sowie die Frage, wann ein Modelltransfer sinnvoll ist und wann besser nicht. Ein sauberer ONNX-Prozess erspart später die übliche Fehlersuche mit Taschenlampe und Verdacht.