Cours
Code digicomp : AISEC3
Sécurité des agents IA
Description de la formation
Téléchargez au format PDF- Analyser les risques propres aux agents autonomes et aux architectures multi-agents
- Concevoir un modèle de menace adapté aux chaînes outils LLM
- Mettre en œuvre les mécanismes de garde-fou : isolation, validation, supervision humaine
- Auditer une architecture agentique existante
Module 1
Risques spécifiques : prompt injection indirecte via outils, tool poisoning, escalade
Module 2
Modèle de menace agentique : surface d'attaque, scénarios d'abus
Module 3
Patterns d'isolation : sandboxing, capabilités, principe du moindre privilège
Module 4
Validation et garde-fous : input/output guards, human-in-the-loop
Module 5
Observabilité sécurité : traçage des actions, anomalies comportementales
Lab final
Sécurisation d'un agent réel utilisant code execution et accès web
Les participantes et participants auront accès à un environnement agentique préconfiguré avec scénarios d'abus simulés et outils d'audit.
Les scénarios abordés en classe sont construits autour de cas typiques d'environnements régulés suisses : agents bancaires avec accès KYC, assistants médicaux avec données patients, copilotes industriels avec accès SCADA.
Cette formation s'adresse aux architectes IA, SecOps, ML engineers déployant des agents autonomes.
elle s'adresse tout particulièrement aux équipes confrontées à des agents accédant à des données sensibles (banque, pharma, énergie).
Les participantes et participants doivent avoir des notions sur les frameworks d'agents (LangChain, LlamaIndex, AutoGen et avoir suivi au préalable la formation suivante ou s'assurer de posséder des connaissances équivalentes :