AI Red Teaming und AI Risk Strategy: KI-Systeme professionell prüfen und absichern

Wenn ein KI-Modell in Produktion geht und unerwartete Eingaben verarbeitet, können Sicherheitslücken entstehen, die Angreifer ausnutzen. Genau hier setzt das Seminar am 01.09.2026 in Köln an und richtet sich an IT-Sicherheitsverantwortliche sowie KI-Entwickler. Die systematische Prüfung und Absicherung von KI-Systemen erfordert andere Methoden als klassische Softwaretests. Red Teaming für KI bedeutet, Modelle gezielt mit adversarialen Eingaben zu konfrontieren, um Schwachstellen aufzudecken, bevor es Angreifer tun. Ein konkretes Unterthema ist das Prompt-Injection-Risiko bei Sprachmodellen, bei dem manipulierte Anweisungen die ursprünglichen Systemvorgaben überschreiben. Die Teilnehmer lernen, wie Angriffsszenarien strukturiert durchgespielt und die Ergebnisse in eine KI-Risikostrategie überführt werden. Ein weiterer Aspekt ist die kontinuierliche Überwachung von Modellen nach dem Deployment, da sich das Verhalten durch veränderte Eingabedaten im Laufe der Zeit verschieben kann. Die Veranstaltung in Nordrhein-Westfalen vermittelt Methoden, um Risiken zu identifizieren, zu bewerten und durch technische sowie organisatorische Maßnahmen abzufedern. Dadurch können Teams KI-Anwendungen mit einem fundierten Sicherheitskonzept absichern.