Prompt Injection und LLM Security: Angriffe verstehen und abwehren

Teilnehmende erlangen in diesem Sicherheitsseminar die Fähigkeit, gezielte Angriffe auf KI-Systeme frühzeitig zu erkennen und durch wirksame Abwehrmaßnahmen zu unterbinden. Am 31. August 2026 behandelt die GFU Cyrus AG in Köln die kritischen Risiken, die entstehen, wenn Sprachmodelle in Unternehmensanwendungen eingesetzt werden. Ein zentraler Nutzen für die Zielgruppe besteht darin, ein tiefgreifendes Verständnis für Prompt-Injection-Techniken zu entwickeln. Angreifer nutzen solche Methoden, um Modelle dazu zu bringen, vertrauliche Anweisungen zu ignorieren oder unerwünschte Ausgaben zu generieren. Das Training geht auf konkrete Szenarien ein, in denen böswillige Eingaben über Nutzereingaben oder verknüpfte Dokumente in das System gelangen. Durch praktische Red-Teaming-Übungen setzen die Teilnehmenden selbst Angriffsvektoren ein, um die Schwachstellen aus der Perspektive eines Angreifers nachzuvollziehen. Dieses Vorgehen schärft den Blick für typische Sicherheitslücken in KI-Pipelines. IT-Verantwortliche und Entwickler aus Nordrhein-Westfalen und darüber hinaus erhalten in Köln das Rüstzeug, um ihre Systeme gegen Manipulationen abzusichern. Die erlernten Strategien lassen sich direkt in die Planung sicherer KI-Architekturen für den Unternehmensalltag übertragen.