«Nos données sont-elles en sécurité ?» est la première question de presque tous les projets d’IA, et souvent celle à laquelle on répond le moins précisément. La réponse honnête dépend de l’endroit où les données circulent réellement, et un système d’IA compte plus d’étapes en chemin que la plupart des gens ne l’imaginent.
Les six endroits où vos données peuvent aboutir
Prenons un assistant de connaissances typique, qui répond aux questions des collaborateurs à partir de documents internes. Les données passent par :
- Les systèmes sources: SharePoint, la GED, l’ERP. Ils ont déjà des responsables et des règles d’accès.
- Le pipeline d’ingestion, qui extrait les documents et les découpe en passages.
- Le modèle d’embedding, qui transforme chaque passage en vecteur pour la recherche. S’il s’agit d’une API cloud, chaque document y transite.
- La base de données vectorielle, qui stocke ces passages et ces vecteurs, souvent sous la forme d’une copie de contenus sensibles.
- Le modèle de langage, qui reçoit la question ainsi que les passages récupérés, pour chaque requête sans exception.
- Les logs et traces, qui enregistrent prompts et réponses pour le débogage et le contrôle qualité, et où les données sensibles s’accumulent le plus souvent sans que personne ne s’en aperçoive.
Chacun de ces éléments est un lieu de traitement au sens de la loi fédérale sur la protection des données (nLPD) et du RGPD. Pour chacun, il faut répondre à trois questions : où se trouve-t-il, qui l’exploite, et combien de temps les données sont-elles conservées?
D’abord les contrats
Dès qu’un prestataire externe traite des données personnelles pour votre compte, il vous faut un accord de traitement des données (DPA) au sens de l’art. 9 nLPD et de l’art. 28 RGPD. En pratique, cela signifie :
- Un DPA avec votre partenaire de mise en œuvre, qui précise ce qu’il peut voir et faire pendant le projet.
- Une liste des sous-traitants ultérieurs: le fournisseur cloud, le fournisseur du modèle, l’outil de monitoring. Vous devriez approuver cette liste, ainsi que toute modification qui y est apportée.
- Pour tout prestataire situé hors de Suisse et de l’UE, une vérification de la base légale du transfert, par exemple une décision d’adéquation ou des clauses contractuelles types.
Un accord de confidentialité (NDA) protège les secrets d’affaires ; il ne remplace pas un DPA pour les données personnelles. Il vous faut généralement les deux.
Des choix de conception qui gardent les données sous contrôle
Les contrats fixent les règles ; l’architecture détermine l’ampleur de ce qui est en jeu. Les choix les plus importants :
Choisir la région en connaissance de cause. Les grands fournisseurs cloud exploitent des centres de données en Suisse, et plusieurs proposent des modèles de langage dans des régions suisses ou européennes. Lorsqu’un modèle suffisamment performant n’est pas disponible dans la région dont vous avez besoin, des modèles open-weight peuvent tourner sur votre propre infrastructure ou dans un cloud suisse.
Désactiver ce dont vous n’avez pas besoin. De nombreuses API de modèles proposent des options de non-conservation des données (zero data retention) et excluent par défaut de l’entraînement les données des clients professionnels. Faites confirmer ces deux points par écrit et configurez-les explicitement, plutôt que de vous fier à des réglages par défaut susceptibles de changer.
Minimiser avant d’envoyer. Tous les champs n’ont pas besoin d’atteindre le modèle. Les noms, numéros de compte et adresses peuvent souvent être remplacés par des espaces réservés avant la requête, puis rétablis ensuite. Le modèle fait toujours son travail ; le fournisseur ne voit jamais les identifiants.
Respecter les autorisations existantes. Un assistant de connaissances ne doit pas devenir un moyen de contourner les règles d’accès. Chaque réponse ne doit s’appuyer que sur des documents que l’utilisateur qui pose la question est autorisé à consulter, une règle appliquée au moment de la recherche, et non en demandant au modèle d’être discret.
Traiter les logs comme des données sensibles. Masquez les données personnelles dans les traces, fixez une durée de conservation et restreignez l’accès en lecture. Des logs de débogage conservés indéfiniment sont un constat fréquent lors des audits.
Planifier la sortie. En fin de projet, les données sont restituées ou supprimées, y compris les copies dans les bases de données vectorielles, les sauvegardes et les environnements de test, et la suppression est confirmée par écrit.
Une cartographie des données sur une page
Avant que la moindre donnée réelle ne circule, nous établissons une cartographie du système sur une page : chaque composant, son emplacement, son exploitant, les données qu’il voit et la durée pendant laquelle il les conserve. C’est le document que votre conseiller à la protection des données vous demandera, il simplifie la tenue du registre des activités de traitement, et il transforme «nos données sont-elles en sécurité ?» en une question qui appelle une réponse concrète et vérifiable.