KI Securitykurs: Schutz vor bösartigen LLMs, WormGPT & Co.

Erkenne, stoppe und untersuche KI-gestützte Angriffe, bevor sie Schaden anrichten. Zu den Schwerpunkten gehören Bedrohungsbild: bösartige KI in der Praxis, Prompt-Injection, Data Poisoning, Model Abuse, KI-gestütztes Phishing und Social Engineering, Detection Engineering für GenAI-Angriffe, Hardening von LLM- und RAG-Systemen und Incident Response und Forensik bei KI-Missbrauch.

Die Schulung richtet sich an SOC-Analystinnen und SOC-Analysten, Incident Responder, Security Engineers, Detection Engineers, Threat Hunter, IAM-, E-Mail- und Endpoint-Security-Verantwortliche und Architektinnen und Architekten für GenAI, RAG und Agenten sowie alle, die KI-gestützte Angriffe erkennen, abwehren und untersuchen wollen.

Grundkenntnisse in IT-Security, gängigen Angriffsmethoden und Logging (z. B. E-Mail, IdP, EDR). Sicherer Umgang mit LLMs. Hilfreich sind erste Berührungspunkte mit RAG, aber nicht zwingend.

Zu den Schwerpunkten gehören Bedrohungsbild: bösartige KI in der Praxis, Prompt-Injection, Data Poisoning, Model Abuse, KI-gestütztes Phishing und Social Engineering, Detection Engineering für GenAI-Angriffe, Hardening von LLM- und RAG-Systemen und Incident Response und Forensik bei KI-Missbrauch.

Ja. Ein eigener praxisbezogener Schwerpunkt ist „Bedrohungsbild: bösartige KI in der Praxis“. Dabei geht es unter anderem um WormGPT, FraudGPT und ähnliche Modelle: Fähigkeiten und Grenzen, Angriffsketten mit GenAI: von Recon bis Exfiltration und Warum klassische Security-Kontrollen oft zu spät greifen. So werden die Inhalte auf konkrete Aufgaben und Anwendungssituationen übertragen.

Zu den angestrebten Ergebnissen gehören: Dieses Expert-Seminar setzt dort an, wo klassische Awareness und Spam-Filter an Grenzen stoßen: bei KI-gestützten Angriffen, die sprachlich perfekt,; Du arbeitest mit einem Bedrohungsmodell für bösartige KI und leitest daraus konkrete Schutzmaßnahmen ab; Dabei geht es nicht um Schlagworte, sondern um nachvollziehbare Mechanismen: Wie entstehen KI-generierte Betrugsszenarien, wie werden Identitäten kompromittiert,; Du vertiefst Prompt-Injection, Data Poisoning und Model-Abuse in produktiven Umgebungen; Besonders relevant sind RAG-Systeme, weil Wissensbasen und Dokumentenquellen neue Angriffsflächen schaffen.

Ja. „Hardening von LLM- und RAG-Systemen“ ist ein eigener Bestandteil der Schulung. Dazu gehören Input/Output-Filter, Content Policies, Guardrails, Secrets-Schutz: Token, API-Keys, Prompt-Leaks verhindern, RAG-Sicherheit: Quellenbewertung, Chunking, Zitierpflicht und Least Privilege für Agenten und Tool-Aufrufe.