Aller au contenu
Cercle IA Tech · RGPD Un site du réseau Cercle IA Tech

Guide

Concevoir un système d'IA qui protège les données

Cinq choix de conception selon la CNIL : objectif, méthode, sources, sélection des données, validation. L'IA n'est pas toujours nécessaire.

Mis à jour le

Une trame de décision pour une réunion de cadrage
  1. Objectif : une phrase, des indicateurs, les contextes exclus.
  2. Méthode : pourquoi l'apprentissage, et pourquoi pas autre chose ?
  3. Sources : liste complète, base légale de chacune (les bases légales).
  4. Données : volume, catégories, type et sources, dans leur version la moins intrusive.
  5. Pilote : jeu de test, personnes qui valident, comité ou référent.

La protection des données se joue d'abord à la conception, bien avant le premier entraînement. Dans sa fiche « Tenir compte de la protection des données dans la conception du système », publiée le 08/04/2024, la CNIL décrit cinq points que le responsable de traitement devrait trancher avant de coder. Cette page les reprend dans l'ordre, avec les questions à poser à votre équipe. Informations générales, à faire valider par un juriste ou le DPO (délégué à la protection des données).

Les fonctions d’ALMA permettent de préparer un scénario de plateforme dans votre étude de conception. Dessinez les flux entre import, consultation et partage, puis indiquez les informations contractuelles ou techniques encore nécessaires pour les évaluer.

1. L'objectif du système

Concevez le système autour de la finalité définie (voir la finalité d'un système d'IA) : résultats attendus, indicateurs de performance, contextes d'usage et contextes exclus. Un modèle plus simple qui répond au besoin évite de collecter trop. Exemple de la fiche : compter des passagers debout ne demande pas forcément d'analyser leur posture.

Question à poser : qu'est-ce que le système n'a pas besoin de savoir pour remplir sa mission ?

2. La méthode

Choisissez la technique qui protège le mieux les droits des personnes tout en atteignant l'objectif. L'apprentissage automatique, en particulier profond, doit être justifié, et une méthode qui n'en relève pas est à préférer si elle suffit. Exemple de la fiche : un détecteur de mouvement infrarouge repère une zone dangereuse sans capturer d'image. La CNIL évoque aussi les techniques de protection de la vie privée, comme l'apprentissage fédéré et les techniques cryptographiques, en notant leurs limites de coût et d'applicabilité.

Question à poser : une règle, une recherche ou un calcul statistique ferait-il le même travail ?

3. Les sources des données

Recensez toutes les sources : données nouvellement collectées, données ouvertes, données déjà détenues par le fournisseur, données achetées. Chaque source a son régime de vérifications, détaillé dans la page sur la réutilisation d'une base de données.

4. La sélection des données

C'est l'application du principe de minimisation : des données « adéquates, pertinentes et limitées » à la finalité. La CNIL propose d'évaluer quatre dimensions :

Dimension Question
Volume Combien d'exemples faut-il vraiment ?
Catégories Quels champs sont nécessaires ?
Type Réelles, synthétiques, anonymisées ?
Sources D'où viennent-elles, sont-elles fiables ?

Utilisez le format le moins intrusif : une tranche d'âge plutôt qu'une date de naissance. Les données sensibles demandent un examen particulier, et la répartition et la représentativité des données doivent être traitées pour limiter les risques de discrimination. Les techniques concrètes (nettoyage, généralisation, confidentialité différentielle) sont dans la page sur la minimisation.

5. La validation

Testez vos choix par une étude pilote, avec des données synthétiques, anonymisées ou collectées de manière régulière. La CNIL recommande aussi un comité d'éthique, multidisciplinaire, indépendant, au rôle clairement défini et tenu informé. Si un comité n'est pas envisageable, on peut désigner un référent éthique.

Garder les alternatives dans le dossier

La trame de revue du développement aide à relier ces choix aux versions examinées, aux pièces disponibles et aux décisions encore ouvertes. Elle donne un support de réunion distinct des recommandations détaillées ci-dessus.

Pour chaque choix, notez aussi la solution écartée et la raison de cet écart. Si une recherche classique permet de retrouver une procédure, indiquez ce que l’ajout d’un modèle apporterait et quelles données supplémentaires il demanderait. Cette trace permet de réexaminer le choix lorsque le besoin change, sans repartir d’une préférence technique déjà acquise.

Une trame de décision pour une réunion de cadrage

  1. Objectif : une phrase, des indicateurs, les contextes exclus.
  2. Méthode : pourquoi l'apprentissage, et pourquoi pas autre chose ?
  3. Sources : liste complète, base légale de chacune (les bases légales).
  4. Données : volume, catégories, type et sources, dans leur version la moins intrusive.
  5. Pilote : jeu de test, personnes qui valident, comité ou référent.

Consignez les réponses : elles alimentent l'analyse d'impact si elle est requise. Pour savoir comment ces règles se combinent avec le règlement européen sur l'IA, voir l'AI Act et le RGPD.

Questions fréquentes

Faut-il forcément utiliser l'apprentissage automatique ?

Non. La CNIL demande de justifier le recours à l'apprentissage automatique, surtout profond, et de préférer une méthode sans apprentissage quand elle répond à l'objectif. Exemple de la fiche : un capteur infrarouge pour détecter une zone dangereuse sans capter d'images.

Comment minimiser les données d'un projet d'IA ?

En évaluant quatre dimensions : volume, catégories, type (réelles, synthétiques, anonymisées) et sources, puis en retenant le format le moins intrusif, par exemple une tranche d'âge plutôt qu'une date de naissance.

Quand tester le système sur des vraies données ?

La fiche recommande une étude pilote, avec des données synthétiques, anonymisées ou collectées de façon régulière, avant de généraliser.

Sources

Pages consultées pour écrire cet article :

  1. https://alma.iarche.fr/fr/features
  2. https://www.cnil.fr/fr/tenir-compte-de-la-protection-des-donnees-dans-la-conception-du-systeme

À lire aussi