AI Red Teaming für Rüstungs- und Defense-Systeme

Angriffswege auf KI realistisch testen, Abwehr wirksam nachweisen, Risiken auditierbar dokumentieren. Zu den Schwerpunkten gehören Bedrohungsmodell für KI im Defense-Kontext, Adversarial ML: Angriffe, die wirklich passieren, LLM-Red-Teaming für Einsatz- und Lagebilder, Supply-Chain- und Integrationsrisiken, Defense Engineering: Schutzmaßnahmen mit Nachweis und Testdesign, Metriken und Abnahme.

Die Schulung richtet sich an Security Engineers und Cybersecurity-Verantwortliche in Defense-Organisationen, KI- und ML-Engineers, die Modelle in kritischen Systemen betreiben, Systemarchitekten und Integrationsverantwortliche für Sensorik, Datenpipelines und APIs, GRC-, Risk- und Compliance-Funktionen mit KI-Prüfaufträgen und Alle, die KI-Risiken im Rüstungsbereich realistisch testen und belastbar absichern wollen.

Grundverständnis von IT-Security und gängigen Bedrohungsmodellen. Basiswissen zu ML/LLM-Konzepten und Systemintegration ist hilfreich.

Zu den Schwerpunkten gehören Bedrohungsmodell für KI im Defense-Kontext, Adversarial ML: Angriffe, die wirklich passieren, LLM-Red-Teaming für Einsatz- und Lagebilder, Supply-Chain- und Integrationsrisiken, Defense Engineering: Schutzmaßnahmen mit Nachweis und Testdesign, Metriken und Abnahme.

Die Inhalte werden bis zu konkreten Arbeitsschritten zu Defense Engineering: Schutzmaßnahmen mit Nachweis, Testdesign, Metriken und Abnahme und Governance, Compliance und sichere Betriebsmodelle geführt. Dadurch lässt sich das Gelernte gezielt auf eigene Aufgaben übertragen.

Zu den angestrebten Ergebnissen gehören: Wenn KI in Defense-Systemen eingesetzt wird, reicht „funktioniert im Test“ nicht aus; In diesem Seminar baust Du die Fähigkeit auf, KI gezielt zu brechen, um sie anschließend belastbar zu härten; Du beginnst mit Threat Modeling für KI: Welche Daten, Modelle, Schnittstellen und Betriebsumgebungen sind kritisch, welche Annahmen sind unsicher,; Du leitest daraus Red-Team-Ziele ab, die sich an Mission Impact orientieren statt an reinen Accuracy-Werten; Danach arbeitest Du dich durch reale Angriffsklassen.

Ja. „Supply-Chain- und Integrationsrisiken“ ist ein eigener Bestandteil der Schulung. Dazu gehören Third-Party-Modelle, Updates, Model Registry, Abhängigkeiten: Frameworks, Container, GPU-Stacks und Backdoors und Trojaning erkennen.