Des données synthétiques sont-elles anonymes ?

Pas forcément. La CNIL recommande de les privilégier quand elles ne nuisent pas à la performance, tout en rappelant qu'elles ne sont pas nécessairement anonymes.

Quels outils la CNIL cite-t-elle pour la confidentialité différentielle ?

Sa fiche sur la collecte et la gestion des données cite les bibliothèques PyDP et OpenDP.

Minimiser les données d'entraînement d'une IA

Minimiser, c'est ne garder dans la base d'entraînement que les données nécessaires à la finalité du système, sous la forme la moins identifiante possible. C'est un principe du RGPD (règlement général sur la protection des données), et c'est aussi ce qui fait tenir l'intérêt légitime comme base légale. La CNIL (Commission nationale de l'informatique et des libertés) en détaille la mise en œuvre dans sa fiche « Tenir compte de la protection des données dans la collecte et la gestion des données » du 08/04/2024. Bonne nouvelle pour un développeur : la plupart de ces mesures améliorent aussi la qualité du jeu de données et réduisent le coût d'entraînement.

Étape 1 : collecter moins

Définir avant la collecte des critères précis : sources, champs, période.
Supprimer les données non pertinentes dès qu'on les repère.
Utiliser les API (interfaces de programmation) prévues par le diffuseur plutôt qu'une extraction brute, et sécuriser les flux.

Le cas particulier du web est traité dans le moissonnage.

Étape 2 : nettoyer et sélectionner

La CNIL cite les opérations classiques de préparation : compléter les valeurs vides, détecter les valeurs aberrantes, corriger les erreurs, éliminer les doublons, supprimer les champs inutiles. Puis la sélection : écarter les classes inutiles, équilibrer les classes, retirer ce qui ne sert pas. Ces règles valent pour les données, mais aussi pour leurs métadonnées et leurs annotations.

Dans certains cas sensibles, elle suggère de ne conserver que les caractéristiques extraites et de supprimer les données sources : pour l'analyse de propos haineux, les commentaires peuvent être effacés une fois analysés.

La déduplication a un intérêt de plus : les doublons font partie des indices de mémorisation que la CNIL demande d'examiner pour savoir si un modèle contient des données personnelles.

Étape 3 : réduire le caractère identifiant

Technique	Principe	Exemple donné par la CNIL
Généralisation	Diluer la précision d'un attribut	Date de naissance remplacée par le mois et l'année, ou l'année
Randomisation	Ajouter du bruit pour affaiblir le lien avec la personne	Valeurs perturbées, distribution conservée
Pseudonymisation	Remplacer les identifiants directs	Floutage des visages sur des images
Anonymisation	Rendre l'identification impossible, de façon irréversible	Possible si l'objectif n'exige aucune donnée personnelle

Attention à la différence : des données pseudonymisées « conservent donc un caractère personnel », rappelle la CNIL ; seules des données anonymisées sortent du RGPD. Pour être anonymes, elles doivent passer trois critères : impossible d'isoler un individu, de relier des ensembles de données le concernant, d'en déduire de nouvelles informations de façon quasi certaine.

Étape 4 : protéger pendant l'apprentissage

Confidentialité différentielle : du bruit calibré, ajouté pendant l'entraînement, limite ce que le modèle retient d'un individu. Outils cités : PyDP, OpenDP.
Apprentissage fédéré : le modèle s'entraîne là où sont les données, sans les centraliser.
Données synthétiques : la CNIL recommande de les privilégier quand elles ne nuisent pas à la performance, en rappelant qu'elles ne sont pas forcément anonymes.

Repérer les données personnelles dans un corpus

Avant de minimiser, il faut savoir où sont les données. La fiche cite des outils de détection : NB Defense, Octopii, PiiCatcher, les expressions régulières et la reconnaissance d'entités nommées. Pour réduire le volume d'exemples sans perdre en qualité, elle mentionne l'élagage des jeux de données (dataset pruning) et l'apprentissage actif (active learning, avec Scikit-ActiveML), ainsi que des outils de sélection de caractéristiques (Yellowbrick, LOFO, Facets).

Documenter ce qui a été fait

La CNIL propose un modèle de documentation à remplir par jeu de données, et cite les formats existants : Datasheets for Datasets, FactSheets, Data Statements, Dataset Nutrition Label, CrowdWorkSheets pour l'annotation. Cette documentation sert à démontrer la licéité de la collecte, à suivre les données jusqu'à leur suppression, à répondre aux demandes des personnes et à nourrir l'analyse d'impact.

Une grille rapide avant l'entraînement

Chaque champ conservé répond-il à la finalité écrite ?
Les identifiants directs ont-ils été retirés ou remplacés ?
Les attributs précis (dates, lieux) peuvent-ils être généralisés ?
Les doublons et données rares ont-ils été traités ?
Les métadonnées et annotations ont-elles été passées au même crible ?
Les copies extraites (carnets de travail, exports) sont-elles tracées ?
La fiche de documentation du jeu est-elle à jour ?

La suite logique est la durée de conservation : moins de données, gardées moins longtemps.