Cours
Code digicomp : AISEC1
AI Security Fundamentals
Description de la formation
Téléchargez au format PDF- Cartographier la surface d'attaque d'un système IA en production
- Identifier les dix risques OWASP LLM Top 10 et les traduire en exigences de contrôle
- Mettre en place les premières contre-mesures techniques (filtrage, isolation, journalisation)
- Construire un référentiel de tests de sécurité reproductibles
Module 1
Panorama des menaces : OWASP LLM Top 10, MITRE ATLAS, taxonomie des attaques
Module 2
Prompt injection directe et indirecte : mécanismes, exemples, mitigations
Module 3
Fuites de données et data exfiltration : embeddings, retrieval, journaux
Module 4
Attaques adversariales sur modèles déployés : jailbreak, contournement
Module 5
Architecture défensive : gateway LLM, sandboxing, observabilité sécurité
Lab final
Audit de sécurité d'un assistant LLM réel et plan de remédiation
Les participantes et participants auront accès à un lab cloud avec assistants LLM vulnérables préconfigurés, accès maintenu 14 jours après la session.
Cette formation s'adresse aux RSSI, architectes sécurité, SecOps, ML engineers exposés aux LLM en production.
Elle est particulièrement adaptée aux équipes du secteur bancaire et financier soumises aux exigences FINMA en matière de cybersécurité.
Les participantes et participants doivent avoir des connaissances de base en cybersécurité (équivalent CompTIA Security+) et des notions sur les modèles de langage.