Sécurité de l'IA : identifier les risques, protéger les modèles et sécuriser l'usage de l'intelligence artificielle en entreprise

Module 1 — Sécurité de l'IA : enjeux et panorama

• Fondamentaux de l'IA : IA générative, API, machine learning et deep learning
• Impact stratégique de l'IA et nouveaux défis en matière de sécurité
• Identification des risques : cyberattaques, biais algorithmiques et vulnérabilités des modèles
• Approche globale de la sécurité IA : dimensions techniques, juridiques, organisationnelles et éthiques

Module 2 — Nouvelles menaces et cyberattaques

• Ingénierie sociale assistée par IA : deepfakes, clonage vocal, sites frauduleux, hameçonnage ciblé
• Malwares génératifs : logiciels polymorphes, ransomware auto-évolutif, spywares furtifs
• Attaques sur les systèmes d'authentification : contournement biométrique, résolveurs de CAPTCHA
• Découverte automatisée de vulnérabilités et exploitation de failles zero-day

Module 3 — Vulnérabilités des systèmes d'IA

• Top 10 OWASP pour les applications LLM
• Attaques sur les interactions : injection de prompts et manipulation des sorties
• Attaques sur l'intégrité des données : empoisonnement et corruption des données d'entraînement
• Attaques sur la confidentialité : extraction de modèle, inversion, fuite de données
• Attaques sur les infrastructures : frameworks IA et APIs

Module 4 — Gestion des risques dans les projets IA

• Cartographie des risques : AI Risk Repository du MIT
• Taxonomie des menaces : MITRE ATLAS, OWASP AI Exchange, NIST Adversarial ML
• Référentiels de gestion des risques : NIST AI RMF et méthodologie EBIOS RM
• Gestion des risques selon l'ISO 42001 (Système de management de l'IA)
• Protection des données personnelles et évaluation d'impact (PIA/AIPD)

Module 5 — Sécurité des applications IA (LLM, agents et APIs)

• Approche Secure AI by design : identification de la surface d'attaque et contrôle d'accès
• Sécurité des datasets : protection des données d'entraînement et prévention du data poisoning
• Hardening des modèles : adversarial training et model watermarking
• Protection contre le prompt injection et les attaques adversariales sur les LLMs
• Sécurisation des API et des pipelines MLOps/LLMOps
• Validation et surveillance des modèles en production, détection d'anomalies

Module 6 — Sécuriser l'usage de l'IA générative en entreprise

• Risques liés à l'IA générative : fuites de données, shadow AI, hallucinations, propriété intellectuelle
• Rédaction d'une charte d'utilisation interne des solutions d'IA générative
• Délimitation des cas d'usage autorisés et interdits
• Gouvernance IA : rôle du CAIO, comité de gouvernance, suivi et reporting

Module 7 — Audit, transparence et évaluation des systèmes IA

• Évaluation des risques IA : COMPL-AI, AI Risk Repository, alignement ISO 42001
• Politiques de transparence et documentation des décisions IA
• Explicabilité des modèles (XAI) : outils, méthodologies, robustesse et détection des dérives
• Validation de l'équité des modèles et gestion des dérives dans le temps

Module 8 — Exploiter l'IA générative dans la cybersécurité

• GRC : automatisation de la rédaction des PSSI et veille réglementaire
• Automatisation des tests de sécurité et génération de scénarios d'attaque
• Analyse avancée des logs, reconstruction d'incidents et réponse automatisée
• Threat Intelligence : analyse et catégorisation des cybermenaces émergentes
• Conformité réglementaire : analyse d'écarts RGPD, DORA, NIS 2
• Intégration de l'IA dans les solutions de cybersécurité : XDR, SOAR, Microsoft Security Copilot…