Prompt Injection, Tool Misuse und unkontrollierte Tool-Interaktionen führen beim Betreiben und Nutzen agentischer Systeme und LLM-gestützter Anwendungen zu Angriffsvektoren mit Folgen wie Datenexfiltration oder unerwünschten Systemzugriffen. Reale Risiken, die Softwarearchitekt:innen und -entwickler:innen verstehen und adressieren sollten.
In unserem 2-tägigen Training „Agentic Software Security“ vermitteln wir dir die entsprechenden Grundlagen dafür.
Das Training versetzt dich in die Lage, Angriffsvektoren wie direkte und indirekte Prompt Injection, unsichere Tool-Interaktionen, Supply-Chain-Risiken (z. B. Tool Poisoning oder Rug Pulls) sowie Cross-Context-Effekte zu verstehen, Risiken bei der Entwicklung und Integration agentischer Anwendungen methodisch zu bewerten und mit geeigneten Sicherheitsmaßnahmen gezielt zu verhindern.
Agenda
Angriffsvektoren auf generative KI
- Angriffsvektoren auf agentische Systeme erkennen, zum Beispiel Prompt Injections
- Trust Boundaries mit Hilfe von Threat Modelling in typischen agentischen Architekturen systematisch identifizieren
- Agentische Systeme durch Guardrails, Sandboxing, korrektes Identity Management und feingranulare Autorisierung absichern
- KI-Systeme über den gesamten Lebenszyklus, vom Onboarding (z. B. via MCP Registry) bis zum Offboarding hinweg absichern
Agentische Systeme und Protokolle
- Verstehen, was Chatbots von Copiloten unterscheidet, mit Fokus auf Sicherheitsaspekte
- Sicherheitsmechanismen neuer agentischer Standards, z. B. MCP oder A2A, kennen und bewerten
- Wissen, worauf es bei der Implementierung agentischer Systeme ankommt, technisch sowie organisatorisch
- IAM- und Autorisierungspatterns gezielt einsetzen, um agentische Systeme sicher zu gestalten
Zielgruppe
Das Training richtet sich an Softwarearchitekt:innen und -entwickler:innen, die KI-gestützte Anwendungen mit klarem Fokus auf Sicherheit über den gesamten Lebenszyklus hinweg planen, entwickeln und im Produktivbetrieb einsetzen wollen.
Lernziele
Verstehe Angriffsvektoren rund um GenAI sowie deren Bewertung mittels Threat Modelling.
Setze Schutzmaßnahmen wie Guardrails, Sandboxing und korrekte Authentifizierung sowie Autorisierung zielgerichtet um.
Erarbeite ein Konzept zum sicheren Betrieb von MCP-basierten agentischen Systemen im Unternehmen; vom Onboarding über die Nutzung bis hin zum Offboarding.
Verankere die Security-Praktiken in Architektur, Entwicklung und Betrieb, unabhängig von Frameworks oder Programmiersprachen.
Deine Trainer:innen
Dimitrij Drus
INNOQ
Verteilte und embedded-Systeme, Security
- Agentic Software Security
- Web Security
Dimitrij Drus arbeitet als Senior Consultant bei INNOQ. Seit vielen Jahren beschäftigt er sich mit Architektur und Entwicklung von verteilten und embedded Systemen mit den Schwerpunkten Sicherheit und Verfügbarkeit.
Felix Schumacher
INNOQ
IT-Security
- Agentic Software Security
- OWASP Top Ten in der Praxis
- Web Security
Felix ist Senior Consultant bei INNOQ. Er beschäftigt sich gerne mit IT-Sicherheit, testgetriebener Entwicklung und dem Betrieb und der Weiterentwicklung bestehender Systeme.
Relevante weitere Trainings
Agentic Software Engineering
Mit dem gleichen Team mehr schaffen
ab 2.025 €
Lerne KI-Assistenten und autonome Coding-Agenten gezielt einzusetzen.
Grundlagen des Agentic Coding
für Softwarearchitekt:innen und Entwickler:innen
auf Anfrage
Workshop
Erlerne an einem Tag die Grundlagen des Agentic Coding.
Softwarearchitekturen für KI- und ML-Systeme entwerfen
SWARC4AI
Technik 20Methodik 10Kommunikation —ab 2.025 €
iSAQB® Modul SWARC4AI
Erfahre, wie du robuste und anpassbare Architekturen für KI-Systeme entwickelst.