TorchServe: Bereitstellung von PyTorch-Modellen in Produktionsumgebungen

Ein technisches Seminar erwartet die Teilnehmenden am 14.09.2026 in Köln, das sich vollständig dem Deployment von PyTorch-Modellen mit TorchServe widmet. Die Schulung vermittelt, wie trainierte Modelle zuverlässig in produktive Umgebungen überführt werden, sodass Vorhersagen in Echtzeit oder im Batch-Verfahren abrufbar sind. Entwicklerinnen und Entwickler setzen sich mit der Konfiguration von TorchServe auseinander und lernen, Endpunkte für Modelle bereitzustellen, Versionen zu verwalten und Lasten über mehrere Instanzen zu verteilen. Ein konkretes Unterthema ist das Monitoring von Inferenz-Pipelines, um Latenzen frühzeitig zu erkennen und Ausfälle zu vermeiden. Auch das Skalieren von Diensten unter steigendem Anfragevolumen wird behandelt. Das Angebot richtet sich an Teams, die Machine-Learning-Komponenten in bestehende IT-Infrastrukturen integrieren müssen, und bietet sich für Unternehmen aus Nordrhein-Westfalen an. Die GFU Cyrus AG gestaltet den Tag mit praktischen Übungen. Der genaue Veranstaltungsort in Köln wird noch bekanntgegeben.