← Retour aux formations

Intelligence Artificielle & Data

AI Security Professional (AISP) — Certification EXIN

Intermédiaire
Intelligence Artificielle & Data

À propos de cette formation

Cette formation s'adresse à toute personne impliquée dans la conception, l'utilisation, la sécurisation, la gouvernance ou la conformité des systèmes d'intelligence artificielle.

Objectifs de la formation

  • check_circleExpliquer les enjeux de la sécurité de l'IA au sein d'une organisation.
  • check_circleDistinguer la sécurité IA de la cybersécurité conventionnelle.
  • check_circleIdentifier les actifs propres aux systèmes IA et leurs menaces principales.
  • check_circleAnalyser les risques liés aux attaques sur les entrées, aux injections de prompt, à l'empoisonnement de données ou de modèles, ainsi qu'aux exfiltrations et fuites de données sensibles.
  • check_circleAppliquer des contrôles de gouvernance, de limitation des données sensibles et de réduction des comportements indésirables.
  • check_circleComprendre le rôle des tests de sécurité IA au-delà des approches de test classiques.
  • check_circleAppliquer les principes de confidentialité, de conformité et de gestion des risques dans des scénarios IA.
  • check_circlePréparer efficacement l'examen EXIN AI Security Professional.

Programme détaillé

Module 1 — Sécurité de l'IA dans l'organisation

  • Déploiement des étapes G.U.A.R.D pour structurer la sécurité des systèmes IA
  • Usage responsable et digne de confiance de l'IA au sein de l'organisation
  • Distinctions entre cybersécurité conventionnelle et sécurité IA : périmètre et spécificités
  • Recensement des actifs IA et identification de leurs menaces principales
  • Modélisation des menaces et définition des contrôles de sécurité associés
  • Risques spécifiques liés à l'IA agentique

Module 2 — Menaces de sécurité propres à l'IA

  • Typologies d'évasion selon le niveau d'accès de l'attaquant : zero-knowledge, partial-knowledge, perfect-knowledge, transfer attack, évasion post-empoisonnement
  • Injection de prompt directe et indirecte : mécanismes et vecteurs d'attaque
  • Les 7 couches de protection contre les injections de prompt
  • Divulgation de données sensibles dans les sorties de modèle
  • Model inversion, membership inference et model exfiltration
  • Risques d'épuisement de ressources pilotés par les entrées
  • Data poisoning et model poisoning en phase de développement
  • Empoisonnement direct du modèle et via la chaîne d'approvisionnement (supply chain)
  • Fuites de données en développement : données, modèle, code source, configuration
  • Incidence des menaces de sécurité conventionnelles sur les composants IA en production
  • Empoisonnement du modèle à l'exécution et fuites associées
  • Injection dans les sorties IA et fuite de données en entrée
  • Fuite et manipulation des données d'augmentation

Module 3 — Contrôles de sécurité IA

  • Contrôles de gouvernance pour la supervision de la sécurité IA et leur périmètre d'application
  • Répartition des responsabilités entre fournisseur de modèle tiers et organisation utilisatrice
  • Contrôles pour limiter les données sensibles et renforcer la confidentialité et l'intégrité
  • Mécanismes de limitation des données sensibles pour réduire la surface de risque
  • Contrôles de limitation des effets indésirables
  • Amélioration des performances et réduction des comportements non souhaités du modèle en production

Module 4 — Tests de sécurité IA

  • Importance et périmètre des tests de sécurité spécifiques aux systèmes IA
  • Distinctions avec les approches de test de sécurité conventionnelles
  • Menaces à couvrir en priorité pour les systèmes prédictifs et génératifs
  • Stratégies générales de test adaptées à la sécurité IA

Module 5 — Vie privée, conformité et réglementation

  • Principes de confidentialité appliqués aux systèmes IA et préoccupations associées
  • Contribution des normes ISO/IEC 23894, ISO/IEC 27005, ISO/IEC 42001 et ISO/IEC 5338 à la conformité réglementaire
  • Enjeux de conformité liés à l'AI Act et au RGPD
  • Risques de violation du droit d'auteur et stratégies de mitigation

Prérequis

Connaissance préalable des concepts fondamentaux de l'IA recommandée. Une certification EXIN BCS Artificial Intelligence Essentials ou Foundation constitue une base de préparation idéale. — Certification EXIN : QCM de 40 questions (1h30), score minimum de 65 % requis, surveillance individuelle par webcam en différé.