Guide
Annoter des données d'entraînement : les règles CNIL
Annoter des données personnelles pour une IA : exactitude, protocole, information des personnes, droits et données sensibles, d'après la CNIL.
Mis à jour le
- le choix des labels ;
- la procédure suivie ;
- l'accès limité aux personnes habilitées ;
- la journalisation ;
- un outil fiable.
Annoter, c'est attribuer un « label » à chaque donnée d'un jeu d'entraînement : « chat » sur une photo, « réclamation » sur un mail, « positif » sur un avis. Ce label sert de vérité de terrain au modèle. Quand les données sont personnelles, ou quand l'annotation en produit, le RGPD (règlement général sur la protection des données) s'applique, et la CNIL a consacré une fiche à cette étape, publiée le 22/07/2025. L'annotation peut être humaine, semi-automatique ou automatique. Informations générales, à faire valider par un juriste ou le DPO (délégué à la protection des données).
Si un assistant intervient dans votre processus d’annotation, les exemples d’utilisation d’ALMA peuvent aider à préciser la tâche envisagée. Décrivez surtout ce que l’humain devra vérifier et quelles informations seront transmises, sans supposer l’existence d’un outil d’annotation spécialisé.
Pourquoi l'annotation pose un problème à part
Une annotation est elle-même une donnée, souvent plus parlante que la donnée source. Si un annotateur écrit « arrêt maladie » ou « origine supposée » sur un document, il crée une information sensible qui n'existait pas dans le fichier d'origine. Et une annotation inexacte ou arbitraire sera reproduite par le système une fois en service, avec un risque de discrimination, ce que la CNIL souligne dans sa fiche.
Quatre principes à appliquer
- Minimisation. Ne gardez que les annotations pertinentes pour la fonctionnalité visée. Des éléments de contexte (date, météo, par exemple) peuvent aider à détecter des biais, mais les données personnelles et sensibles demandent une vigilance particulière. Voir la minimisation des données d'entraînement.
- Exactitude. Les annotations doivent être objectives : une grille de critères, pas une impression.
- Loyauté et transparence. Les personnes doivent savoir que leurs données sont annotées.
- Confidentialité et intégrité. L'outil d'annotation et les annotateurs sont des maillons de sécurité comme les autres.
Le protocole d'annotation
La CNIL recommande de documenter un protocole qui décrit :
- le choix des labels ;
- la procédure suivie ;
- l'accès limité aux personnes habilitées ;
- la journalisation ;
- un outil fiable.
Elle y ajoute une vérification continue, par échantillonnages, audits et retours des utilisateurs, et, à titre de bonne pratique, un référent ou un comité d'éthique. Ce protocole nourrit aussi la documentation du jeu de données (voir la minimisation pour les modèles de fiches) et l'analyse d'impact.
Informer les personnes
La fiche demande d'informer sur la phase d'annotation elle-même : son objectif, l'organisme qui l'effectue, les éventuels transferts hors de l'Union européenne, les conditions de travail des annotateurs et les mesures de sécurité. Le cadre général de l'information est dans la page sur l'information des personnes.
Les droits sur les annotations
Accès, rectification, effacement, opposition et limitation s'appliquent aux annotations. La portabilité ne joue que dans des cas précis. La fiche note par ailleurs que l'annotation constitue rarement un profilage ou une décision automatisée au sens de l'article 22 ; si votre cas s'en approche, voir l'article 22. Pour la mécanique côté modèle, voir les droits face à un modèle d'IA.
Quand l'annotation révèle une donnée sensible
L'annotation peut faire apparaître une donnée sensible même si la donnée source ne l'est pas. Il faut alors identifier une exception de l'article 9 du RGPD. La CNIL recommande notamment :
- d'annoter selon des critères objectifs ;
- de limiter l'annotation au contexte des données ;
- de renforcer les vérifications et la sécurité ;
- d'étudier les risques de régurgitation (le modèle restitue une donnée apprise) ou d'inférence.
Le point de vue de la sécurité
Un jeu mal annoté, volontairement ou non, dégrade le modèle : c'est aussi un risque de sécurité, traité dans la page sur l'empoisonnement de données.
Liste de contrôle
- Le protocole d'annotation est-il écrit et connu des annotateurs ?
- Qui a accès au jeu, et les accès sont-ils journalisés ?
- Les annotateurs externes sont-ils liés par un contrat de sous-traitance ?
- Une annotation peut-elle devenir une donnée sensible, et laquelle de vos exceptions s'applique alors ?
- Les personnes savent-elles qu'une phase d'annotation existe ?
- Un échantillon est-il relu régulièrement ?
Questions fréquentes
L'annotation de données relève-t-elle du RGPD ?
Oui quand elle porte sur des données personnelles ou en contient. La fiche CNIL du 22/07/2025 vise ces cas, et les annotations elles-mêmes sont soumises aux principes du RGPD (minimisation, exactitude, loyauté, transparence, confidentialité, intégrité).
Une personne peut-elle faire corriger une annotation qui la concerne ?
Oui. Selon la fiche, les droits d'accès, de rectification, d'effacement, d'opposition et de limitation s'appliquent aux annotations. La portabilité ne s'applique que dans des cas précis.
Faut-il informer les personnes de la phase d'annotation ?
Oui. La CNIL cite l'objectif, l'organisme chargé de l'annotation, les éventuels transferts hors de l'Union européenne, les conditions de travail des annotateurs et les mesures de sécurité.
Sources
Pages consultées pour écrire cet article :