Monitoring von KI-Agenten: Kontrolle & Sicherheit

Behalte Autonomie, Tools und Kosten im Griff, bevor ein Agent Schaden anrichtet. Zu den Schwerpunkten gehören Agenten verstehen, Risiken erkennen, Observability für Agenten statt Chat-Logs, Guardrails und Policy Enforcement, Security: Daten, Identitäten, Secrets, Qualität messen: Evals, Tests, Regressionen und Cost, Rate Limits und Stabilität.

Die Schulung richtet sich an ML Engineers und AI Engineers mit Agenten-Projekten, DevOps- und SRE-Teams, die Agenten betreiben, IT-Security und Compliance in KI-Vorhaben und Tech Leads und Architektinnen und Architekten für Plattformen sowie alle, die KI-Agenten kontrollierbar, sicher und messbar betreiben wollen.

Grundverständnis von APIs, Logs und Web-Services. Erste Berührung mit LLMs oder KI-Agenten ist hilfreich, aber nicht zwingend.

Zu den Schwerpunkten gehören Agenten verstehen, Risiken erkennen, Observability für Agenten statt Chat-Logs, Guardrails und Policy Enforcement, Security: Daten, Identitäten, Secrets, Qualität messen: Evals, Tests, Regressionen und Cost, Rate Limits und Stabilität.

Die Inhalte werden bis zu konkreten Arbeitsschritten zu Qualität messen: Evals, Tests, Regressionen, Cost, Rate Limits und Stabilität und Incident Response für Agenten geführt. Dadurch lässt sich das Gelernte gezielt auf eigene Aufgaben übertragen.

Zu den angestrebten Ergebnissen gehören: Wenn KI-Agenten Tools bedienen, entsteht eine neue Betriebsrealität: Entscheidungen sind nicht nur Text, sondern Aktionen; Dieses Seminar zeigt Dir, wie Du Kontrolle und Sicherheit so aufsetzt, dass Du Agenten in produktionsnahen Prozessen verantworten kannst; Du lernst zuerst, wie agentische Systeme typischerweise aufgebaut sind und welche Failure Modes daraus entstehen: falsche Planung, unzuverlässige Tool-Ergebnisse,; Im Kern geht es um agentenspezifische Observability; Du definierst, welche Events ein Agent liefern muss, um später Ursachen zu finden: Schrittketten, Tool-Parameter, Rückgaben, Entscheidungen und Kontext.

Ja. „Security: Daten, Identitäten, Secrets“ ist ein eigener Bestandteil der Schulung. Dazu gehören Least Privilege für Agenten und Tool-Accounts, Secrets Handling, Token-Lebenszyklen, Rotation und PII-Schutz, Data Loss Prevention, Logging-Hygiene.