Confidentialité et IA : et si vous ne regardiez pas au bon endroit ?

Quand un outil d'IA promet être sécurisé et conforme au RGPD, trois arguments reviennent presque systématiquement pour rassurer. Ils sont (parfois) vrais, ils sont utiles, mais ils ne couvrent pas exactement ce qu'on croit qu'ils couvrent.

Cinq minutes pour passer ces trois arguments au crible et voir où sont les angles morts. C'est un exercice que je trouve éclairant à partager parce qu'il déplace la conversation sur le seul terrain où nous gardons vraiment la main.

1. Mes données ne servent pas à l'entraînement du modèle

C'est la promesse la plus fréquente, et elle a sa valeur. Mais elle répond à une question concernant ce qui se passe après le traitement, et non pendant.

Que mes données soient ou non réutilisées pour entraîner les futures versions du modèle d'intelligence artificielle que j'utilise est un sujet réel. Mais entre le moment où j'envoie ma requête et le moment où je reçois la réponse, mes données sont bien transmises, lues et traitées par celui-ci.

Elles transitent par les serveurs du fournisseur, sont chargées en mémoire, sont processées par l'infrastructure d'inférence. La promesse "pas d'entraînement" porte sur ce qui se passe ensuite. Elle ne dit rien de ce qui se passe pendant.

C'est une distinction fine, mais structurante : on ne peut pas exposer une donnée à un système et considérer simultanément qu'elle n'a pas été exposée.

2. Les données sont hébergées en France

L'hébergement local est un argument fort, et il répond à des préoccupations légitimes : juridiction applicable, souveraineté technologique. Mais il faut bien distinguer ce qu'il couvre de ce qu'il ne couvre pas.

Première nuance, souvent oubliée : hébergement en France et hébergeur français ne sont pas synonymes. Une entreprise étrangère peut tout à fait disposer de data centers implantés sur le territoire français. Les données sont alors stockées en France, mais l'opérateur reste soumis au droit de son pays d'origine, ce qui le place potentiellement sous des régimes d'extraterritorialité comme le Cloud Act américain. Hébergé en France ne veut donc pas automatiquement dire souverain.

Seconde nuance, plus structurante encore : hébergement et traitement ne sont pas la même chose.

L'hébergement, c'est l'endroit où les données sont stockées au repos. Le traitement, c'est l'endroit où elles sont effectivement processées par le modèle qui les analyse. Or dans la grande majorité des outils d'IA actuels, le modèle qui fait le travail intellectuel, synthèse, analyse, génération, n'est pas hébergé chez l'éditeur que vous payez. Il est opéré par un fournisseur tiers, souvent américain (OpenAI, Anthropic) ou chinois (DeepSeek), accessible via une API.

Concrètement, cela signifie que les requêtes transitent par les serveurs de ce fournisseur tiers au moment du traitement, indépendamment du pays où elles sont stockées avant et après.

"Hébergé en France" ne veut pas dire "traité en France". Et c'est précisément le moment du traitement qui pose les questions de confidentialité les plus aiguës.

3. L'outil est certifié ISO 27001

Une certification est un signal positif. Elle atteste que l'éditeur a mis en place des processus de sécurité, qu'ils ont été audités, et qu'ils sont maintenus. Aucun éditeur sérieux ne devrait s'en passer.

Cela étant, il vaut la peine de regarder précisément ce qu'une certification atteste et ce qu'elle n'atteste pas. ISO 27001 certifie qu'une organisation a mis en place un système de management de la sécurité de l'information : des processus documentés, une gouvernance, une analyse de risques régulière. C'est précieux, mais cela ne dit rien, en soi, sur la localisation de l'hébergement, sur le périmètre exact des données couvertes, ou sur la conformité RGPD, qui relève d'un cadre juridique distinct.

SOC 2, HDS, ISO 27701 répondent à d'autres questions encore. Chaque certification a sa portée, et confondre la portée d'une certification avec une garantie globale conduit à une fausse impression de sécurité.

Surtout, une certification ne vaut que pour celui qui la détient, sur le périmètre qu'il maîtrise directement. Elle ne s'étend pas automatiquement à ses sous-traitants techniques.

Lorsque l'éditeur certifié transmet une requête à un modèle d'IA opéré par un tiers, ce qui se passe ensuite échappe au périmètre de sa certification.

C'est ce qu'on appelle la chaîne de sous-traitance. L'éditeur peut suivre les meilleures pratiques. Le fournisseur du modèle peut, en théorie, faire de même. Mais "en théorie" mérite une nuance importante : le RGPD est censé s'appliquer à tout fournisseur proposant un service à des utilisateurs de l'Union européenne. Dans la pratique, les contrôles ne sont pas systématiques, et un fournisseur dont l'activité principale n'est pas tournée vers l'UE n'a pas les mêmes incitations à investir dans la conformité qu'un acteur européen exposé au risque de contrôle.

La conformité de l'ensemble est l'agrégation de toute la chaîne, et cette chaîne mêle des acteurs aux expositions juridiques réelles très inégales.

Ce que ces trois arguments ont en commun

Pris séparément, chacun couvre une question légitime.

Pris ensemble, ils dessinent un angle mort plus large : ils parlent tous de ce qui se passe après que les données ont quitté le périmètre de confiance. Ils décrivent les bonnes pratiques en aval. Mais ils ne disent rien de ce qui sort, ni sous quelle forme.

Or c'est précisément la seule variable que vous contrôlez complètement.

Il n'est pas possible d'auditer en temps réel les serveurs d'un fournisseur de modèle situé à l'autre bout du monde. Il n'est pas possible non plus de garantir personnellement la conformité de toute une chaîne de sous-traitance technique.

En revanche, il est possible de privilégier les solutions qui limitent au maximum cette chaîne de sous-traitance et proposent une infrastructure pensée pour limiter les risques, une politique de zero-data-retention, par exemple. Et surtout, il est possible de décider de ce qui sort de son environnement de confiance, et sous quelle forme.

C'est un déplacement de regard qui change la nature même du problème : on cesse de chercher en aval une garantie absolue qui n'existe pas, on reprend la main en amont sur ce qui est réellement maîtrisable.

Du principe à la pratique

Dans le langage courant, on dit indifféremment "anonymiser" et "pseudonymiser". Beaucoup d'éditeurs entretiennent cette confusion. Pourtant, ces deux opérations sont juridiquement et techniquement distinctes.

L'anonymisation est irréversible. Une fois traitées, les données ne peuvent plus être reliées à une personne ou à une entité. Au sens du RGPD (considérant 26), elles sortent du champ d'application du règlement. C'est le standard pertinent quand un document doit quitter durablement le périmètre : archivage, partage en formation, publication d'un jeu de données.

La pseudonymisation est réversible. Les éléments identifiants sont remplacés par des pseudonymes cohérents, mais une table de correspondance permet de réassocier les valeurs originales. C'est ce mécanisme qui permet d'utiliser un outil d'IA sur un document confidentiel : le modèle reçoit une version protégée, produit une réponse exploitable, et les valeurs originales sont réinjectées côté outil métier.

Un outil qui ne propose que l'un des deux modes impose des compromis que vous n'avez pas à faire. C'est pourquoi Marvin Systems propose les deux : selon ce que vous traitez et pour quelle finalité, l'arbitrage n'est pas le même.

Ce que je retiens

Rien de ce qui précède n'enlève sa valeur aux arguments du début. Choisir un éditeur certifié, hébergé en Europe chez un hébergeur européen, qui s'engage à ne pas réutiliser les données pour l'entraînement, reste un bon réflexe. Ces critères ne sont pas faux. Ils sont insuffisants pris seuls.

La maîtrise de la confidentialité passe d'abord par ce que vous décidez de transmettre, et seulement ensuite par les garanties offertes par ceux à qui vous le transmettez.

Cette inversion de priorité change beaucoup de choses dans la façon dont on construit ses pratiques quotidiennes avec l'IA.

C'est un sujet sur lequel j'apprends en continu, et où les expériences de chacun apportent des nuances que je n'aurais pas vues seule. Si votre pratique contredit cette grille de lecture, si vous voyez des angles morts dans ce raisonnement, ou si certaines situations méritent d'être partagées, n'hésitez pas à nous envoyer un email et nous partager votre approche.