Agentic Software Security (Online) - Felix Schumacher - Deutsch
Prompt Injection, Tool Misuse und unkontrollierte Tool-Interaktionen führen beim Betreiben und Nutzen agentischer Systeme und LLM-gestützter Anwendungen zu Angriffsvektoren mit Folgen wie Datenexfiltration oder unerwünschten Systemzugriffen. Reale Risiken, die Softwarearchitekt:innen und -entwickler:innen verstehen und adressieren sollten.
In unserem 2-tägigen Training „Agentic Software Security“ vermitteln wir dir die entsprechenden Grundlagen dafür.
Das Training versetzt dich in die Lage, Angriffsvektoren wie direkte und indirekte Prompt Injection, unsichere Tool-Interaktionen, Supply-Chain-Risiken (z. B. Tool Poisoning oder Rug Pulls) sowie Cross-Context-Effekte zu verstehen, Risiken bei der Entwicklung und Integration agentischer Anwendungen methodisch zu bewerten und mit geeigneten Sicherheitsmaßnahmen gezielt zu verhindern.
Agenda
Angriffsvektoren auf generative KI
- Angriffsvektoren auf agentische Systeme erkennen, zum Beispiel Prompt Injections
- Trust Boundaries mit Hilfe von Threat Modelling in typischen agentischen Architekturen systematisch identifizieren
- Agentische Systeme durch Guardrails, Sandboxing, korrektes Identity Management und feingranulare Autorisierung absichern
- KI-Systeme über den gesamten Lebenszyklus, vom Onboarding (z. B. via MCP Registry) bis zum Offboarding hinweg absichern
Agentische Systeme und Protokolle
- Verstehen, was Chatbots von Copiloten unterscheidet, mit Fokus auf Sicherheitsaspekte
- Sicherheitsmechanismen neuer agentischer Standards, z. B. MCP oder A2A, kennen und bewerten
- Wissen, worauf es bei der Implementierung agentischer Systeme ankommt, technisch sowie organisatorisch
- IAM- und Autorisierungspatterns gezielt einsetzen, um agentische Systeme sicher zu gestalten
Deine Trainer:innen
Felix Schumacher
INNOQ
IT-Security
- Agentic Software Security
- OWASP Top Ten in der Praxis
- Web Security
Felix ist Senior Consultant bei INNOQ. Er beschäftigt sich gerne mit IT-Sicherheit, testgetriebener Entwicklung und dem Betrieb und der Weiterentwicklung bestehender Systeme.