Ressources
Sécurité & confiance
Ce pilier traduit l'AI Controls Matrix du CSA pour une organisation qui utilise des services d'IA sans les construire. Il distingue ce que vous devez faire vous-même (charte, inventaire, supervision, formation) de ce que vous devez exiger et vérifier chez vos fournisseurs.
Recommandations générales : le diagnostic retient celles qui correspondent à votre situation et les classe par priorité.
Règles d'usage de l'IA
Le premier risque n'est pas technique : ce sont des salariés qui collent un contrat, un fichier client ou du code source dans un assistant public. Une charte courte, connue de tous, qui dit quels outils sont autorisés, avec quelles données, et ce qu'on fait des résultats, règle l'essentiel.
Ce que nous recommandons
- Rédiger et diffuser une charte d'usage de l'IA d'une à deux pages à partir du modèle fourni : outils autorisés, données interdites, relecture humaine obligatoire, point de contact. La faire signer ou accuser réception.
- Proposer une alternative approuvée aux outils grand public (version entreprise d'un assistant, avec garantie de non-réutilisation des données) et communiquer dessus : c'est le moyen le plus efficace de réduire le shadow AI.
- Mettre en place un moyen simple de demander l'autorisation d'un nouvel outil IA (formulaire, ticket) avec un délai de réponse engagé, pour que le circuit officiel soit plus rapide que le contournement.
- Inscrire la revue annuelle de la charte dans le calendrier de gouvernance et y intégrer les nouveaux usages détectés.
Inventaire des usages et des fournisseurs d'IA
On ne gouverne pas ce qu'on ne voit pas. Un registre des systèmes et usages d'IA — outil, fournisseur, finalité, données traitées, responsable interne — est le socle de tout le reste : conformité AI Act, maîtrise des coûts, réponse aux incidents.
Ce que nous recommandons
- Créer le registre des usages IA à partir du modèle fourni : une ligne par outil ou usage, avec fournisseur, finalité, données traitées, responsable, niveau de risque. Le remplir en interrogeant chaque service (30 minutes par équipe suffisent).
- Désigner un responsable métier pour chaque usage inscrit au registre et prévoir une revue semestrielle (ajouts, abandons, changements de fournisseur).
- Pour chaque application intégrant de l'IA, documenter la nomenclature (modèles, versions, services externes, sources de données) et l'exiger de vos fournisseurs lors de l'achat et à chaque mise à jour majeure.
Protection des données confiées aux IA
Ce que vous envoyez à un service d'IA peut être conservé, utilisé pour entraîner le modèle, lu par un sous-traitant ou hébergé hors d'Europe. Le sujet se règle à trois niveaux : ce qu'on autorise les utilisateurs à envoyer, ce qu'on négocie avec le fournisseur, et ce qu'on fait des données de production dans les projets.
Ce que nous recommandons
- Pour chaque outil du registre, renseigner trois colonnes : conservation des données, réutilisation pour l'entraînement (oui/non/désactivable), localisation de l'hébergement. Basculer vers les offres entreprise là où la réponse est défavorable.
- Compléter le registre RGPD avec les traitements impliquant de l'IA et vérifier qu'un DPA est signé avec chaque fournisseur concerné. Utiliser la liste de vérification fournisseur fournie.
- Réaliser une analyse d'impact relative à la protection des données (AIPD) pour les usages d'IA traitant des données sensibles, en s'appuyant sur les fiches de la CNIL. Un accompagnement permet de la mener en quelques jours.
- Formaliser une règle simple pour les projets : pas de données de production en développement sans accord du propriétaire des données et sans pseudonymisation ; prévoir des jeux de données de test dédiés.
Évaluation avant déploiement d'un usage IA
Avant d'activer une fonction IA dans un logiciel métier ou de lancer un projet, une évaluation proportionnée (à qui cela s'adresse, quelles données, quels risques d'erreur, quelles obligations) évite les mauvaises surprises. L'AI Act en fait une obligation pour les usages à haut risque ; l'AICM la recommande pour tous.
Ce que nous recommandons
- Adopter la grille d'évaluation d'usage IA fournie (une page) comme étape obligatoire avant toute mise en service, et l'appliquer rétroactivement aux usages déjà en place les plus sensibles.
- Pour les usages relevant du haut risque au sens de l'AI Act, conduire une analyse d'impact structurée (droits fondamentaux, ISO/IEC 42005) avant l'échéance du 2 décembre 2027. C'est un exercice qui gagne à être cadré par un spécialiste la première fois.
- Intégrer une analyse des menaces IA (méthode type OWASP Top 10 for LLM Applications) dans la conception de chaque projet intégrant un modèle, et la rejouer à chaque changement majeur.
Supervision humaine des décisions
Quand l'IA influence une décision sur une personne (candidat, client, patient, élève), quelqu'un doit pouvoir comprendre, contester et corriger. Ce n'est pas seulement une exigence de l'AI Act et du RGPD : c'est ce qui protège l'organisation quand le modèle se trompe.
Ce que nous recommandons
- Lister les décisions concernées et définir pour chacune : qui valide, sur quels critères, et comment la validation est tracée. Utiliser la matrice de supervision fournie.
- Ajouter dans les communications aux personnes concernées (candidats, clients) une mention de l'intervention d'une IA et un moyen simple de demander une révision humaine.
- Définir une politique d'actions autorisées pour chaque agent (liste blanche, plafonds, approbation humaine au-delà d'un seuil) et la faire appliquer techniquement, pas seulement par consigne.
Biais et équité
Un modèle qui trie des CV ou score des clients peut reproduire des discriminations passées sans que personne ne l'ait voulu. Le client du service en porte la responsabilité juridique. Il faut donc demander au fournisseur ce qu'il a testé, et vérifier soi-même sur ses propres cas.
Ce que nous recommandons
- Demander au fournisseur sa documentation de tests d'équité (questions fournies) et conserver la réponse dans le dossier de l'usage.
- Mettre en place un suivi trimestriel simple des résultats par catégorie de personnes et un seuil d'alerte ; faire réaliser un audit d'équité indépendant pour les usages les plus sensibles (recrutement, crédit).
Explicabilité et transparence
Savoir expliquer pourquoi l'outil a produit tel résultat est nécessaire pour répondre à un client, à un salarié, à un auditeur ou à un juge. Le niveau d'explication attendu doit être défini à l'avance et exigé du fournisseur.
Ce que nous recommandons
- Vérifier et corriger sous 30 jours l'information des utilisateurs : mention visible sur les chatbots et assistants vocaux, marquage des contenus générés diffusés. C'est une obligation déjà en vigueur.
- Exiger de chaque fournisseur une fiche modèle ou fiche système et l'archiver avec le registre des usages ; pour les usages sensibles, formaliser le niveau d'explication attendu dans le contrat.
Gouvernance et responsabilités
Quelqu'un doit être responsable de l'IA dans l'organisation : arbitrer les demandes, suivre les risques, rendre compte à la direction. Dans une PME c'est un référent ; dans une ETI un comité réunissant métiers, informatique, juridique et RH.
Ce que nous recommandons
- Nommer un référent IA avec un mandat d'une page (rôle, périmètre, temps alloué, à qui il rend compte) et le faire annoncer par la direction.
- Créer un comité IA pluridisciplinaire (ou ajouter un volet IA à un comité existant) avec une charte, une fréquence (trimestrielle) et un registre de décisions.
- Faire formuler par la direction une politique IA d'une page : ambitions, lignes rouges, appétence au risque, principes (transparence, supervision humaine, protection des données). Un atelier de deux heures suffit généralement.
Formation et compétences
L'AI Act impose depuis février 2025 que le personnel qui utilise des systèmes d'IA dispose d'un niveau suffisant de maîtrise. Au-delà de l'obligation, c'est la mesure la plus rentable : un salarié formé ne colle pas de données confidentielles dans un outil public et sait repérer une réponse fausse.
Ce que nous recommandons
- Déployer une sensibilisation de 45 minutes pour tous les utilisateurs à partir du support fourni, et en garder la trace (liste de présence) : c'est la preuve attendue au titre de l'article 4 de l'AI Act.
- Construire un plan de formation par population (tous, métiers exposés, développeurs, direction, superviseurs de décisions) avec un renouvellement annuel.
Exigences envers les fournisseurs d'IA
La majorité des 247 contrôles de l'AICM sont portés par vos fournisseurs. Votre rôle est de leur poser les bonnes questions avant d'acheter, d'obtenir des engagements écrits et de vérifier périodiquement. Le registre STAR for AI du CSA publie les auto-évaluations (AI-CAIQ) de certains fournisseurs : c'est une source gratuite et précieuse.
Ce que nous recommandons
- Adopter le questionnaire fournisseur IA fourni (20 questions dérivées de l'AICM) comme étape obligatoire avant tout achat ; l'envoyer rétroactivement à vos trois fournisseurs les plus critiques.
- Intégrer un jeu de clauses IA dans vos contrats et conditions d'achat (données, localisation, incident, réversibilité, évolution des modèles, sous-traitants) ; faire relire par un juriste la première fois.
- Consulter le registre STAR for AI du CSA pour vos fournisseurs principaux et demander à ceux qui n'y figurent pas de renseigner un AI-CAIQ ou un équivalent.
- Définir pour chaque service IA intégré un plan de repli (mode dégradé sans IA, fournisseur alternatif, export des données) et le tester une fois par an.
Comptes, accès et postes de travail
Les services d'IA sont des applications comme les autres : comptes nominatifs, authentification forte, retrait des accès au départ, pas d'extensions de navigateur non maîtrisées. Ces règles existent probablement déjà chez vous ; il s'agit de les appliquer aussi aux outils IA.
Ce que nous recommandons
- Rattacher les outils IA approuvés à votre annuaire (SSO) et inclure leur retrait dans la procédure de départ ; interdire les comptes gratuits créés avec une adresse professionnelle.
- Établir une liste d'extensions et d'applications IA autorisées sur les postes et la faire appliquer par l'outil de gestion des postes lorsque c'est possible.
Traçabilité et surveillance des usages
Pour vos propres applications intégrant un modèle, il faut pouvoir répondre après coup à « qui a demandé quoi, et qu'a répondu le système ». C'est la base pour enquêter sur un incident, détecter un détournement et prouver la supervision humaine.
Ce que nous recommandons
- Activer et consulter trimestriellement les journaux d'usage des consoles d'administration de vos services IA (utilisateurs actifs, volumes, fonctions utilisées) : c'est aussi une source pour le suivi des coûts.
- Journaliser systématiquement, pour chaque application IA maison, les requêtes, réponses, identifiant utilisateur, version du modèle et horodatage, avec une durée de conservation définie et un accès restreint.
- Définir quelques indicateurs d'anomalie (volume par utilisateur, motifs d'injection, sorties contenant des données sensibles) et les brancher sur votre supervision existante.
Garde-fous et sécurité des applications IA
Une application qui branche un modèle sur vos données et vos utilisateurs s'expose à des attaques propres à l'IA : injection de prompt, extraction de données via le modèle, contournement des consignes. Des garde-fous techniques et des tests réguliers sont nécessaires.
Ce que nous recommandons
- Mettre en place des garde-fous en entrée et en sortie (validation, filtrage, séparation consignes/données, limitation des actions) sur chaque application intégrant un modèle, en s'appuyant sur les recommandations de l'ANSSI et l'OWASP LLM Top 10.
- Appliquer le principe du moindre privilège au modèle : les recherches documentaires respectent les droits de l'utilisateur, aucun secret dans les prompts système, environnements de test isolés.
- Inclure des scénarios IA dans vos tests d'intrusion annuels et organiser un exercice de red teaming sur l'application la plus exposée.
Agents IA autonomes
Un agent qui envoie des e-mails, modifie des données ou déclenche des paiements a besoin de frontières explicites : ce qu'il a le droit de faire, avec quels comptes, jusqu'à quel montant, et ce qui exige un humain.
Ce que nous recommandons
- Pour chaque agent en service, rédiger une fiche de frontières (mission, comptes utilisés, actions autorisées, plafonds, approbations humaines requises, procédure d'arrêt) et la faire appliquer techniquement.
- Journaliser toutes les actions des agents avec possibilité d'annulation ; désigner un responsable de la surveillance et tester la procédure d'arrêt d'urgence.
Incidents liés à l'IA et continuité
Une fuite de données via un assistant, une réponse fausse envoyée à un client, un outil qui change de comportement du jour au lendemain : ce sont des incidents. Il faut qu'ils soient signalés, traités et, pour certains usages, déclarés aux autorités.
Ce que nous recommandons
- Ajouter un canal de signalement « incident IA » (adresse ou formulaire) et l'annoncer dans la charte ; définir qui traite et sous quel délai.
- Compléter la procédure d'incidents existante avec les cas IA et les obligations de notification (CNIL sous 72 h pour une violation de données ; fournisseur et autorité de surveillance pour un usage à haut risque).
- Documenter un mode dégradé pour chaque usage IA critique et le tester lors d'un exercice annuel.
Modèles ouverts et développement interne
Héberger un modèle open source ou en entraîner un soi-même déplace vers vous des responsabilités normalement portées par le fournisseur : provenance et licence du modèle, intégrité des fichiers, qualité et pertinence des données, gestion des versions.
Ce que nous recommandons
- Mettre en place une fiche d'évaluation pour tout modèle ouvert (source, licence, vulnérabilités, empreinte des fichiers, tests de sécurité) et un dépôt interne de modèles approuvés.
- Documenter chaque jeu de données d'entraînement (fiche de données : origine, droits, traitements, limites) et contrôler son intégrité (empreintes, accès restreint).
- Vérifier avec un juriste si vos modifications de modèles vous font changer de statut au sens de l'AI Act (de déployeur à fournisseur), ce qui déclenche des obligations supplémentaires.
Référentiels
- AI Controls Matrix (CSA) : 1.1.1 (2026-07-13)
- AI Act : Règlement (UE) 2024/1689, numérotation finale ; calendrier post-Omnibus (accord du 29/06/2026)
- ISO/IEC 42001 : ISO/IEC 42001:2023
Où en est votre organisation ?
Le diagnostic évalue ces points pour votre organisation et classe les actions par priorité. Gratuit, environ 15 minutes, sans création de compte.