IA et confidentialité des données
L’arrivée de l’intelligence artificielle est venue raviver un débat quelque peu oublié sur la confidentialité des données. Oublié car l’écrasante majorité des entreprises et administrations françaises hébergent leurs données chez Microsoft et Google. Et pourtant, voilà que beaucoup réfléchissent à deux fois avant d’utiliser les modèles d’IA américains, leaders incontestés du marché. Étudions ensemble les risques liés à la confidentialité des données “communiquées à l’IA”.
Rappel sur la confidentialité des données numériques
Avant de parler intelligence artificielle, quelques rappels sur la confidentialité des données. Sauf exceptions, votre entreprise ou administration utilise de multiples services numériques pour fonctionner : “drive” de stockage des données, mail, messagerie instantanée, bases de données si vous commercialisez un logiciel, services de logs, etc. Même si vous faites tourner des applications sur des serveurs hébergés chez vous, vous utilisez probablement des services cloud pour le mail ou pour l’analyse des logs - le cloud c’est l’ordinateur de quelqu’un d’autre.
Pour garder les données confidentielles, vous protégez les données de toute interférence si elles transitent par un réseau public (internet) et vous contrôlez l’accès aux disques durs sur lesquels les données sont stockées. La protection des données en transit est assurée par chiffrement et des protocoles comme le TLS, matérialisés selon votre navigateur par le petit cadenas dans votre barre d’adresse. Les données stockées sont protégées par chiffrement quand c’est possible mais surtout par un contrat entre vous et l’hébergeur de données assurant que personne d’autre n’ira les consulter.
L’éléphant “in the room” comme diraient nos cousins américains est que l’hébergeur de données peut être tenu de divulguer ces données à des tiers sans votre consentement. Le Cloud Act oblige ainsi les hébergeurs à communiquer vos données sur réquisition des autorités américaines, que les données soient hébergées sur le sol américain ou non, dès lors que le fournisseur est soumis à la juridiction des États-Unis (entreprise américaine, mais aussi filiale européenne d’un groupe américain).
Est-ce un problème ? Théoriquement oui, pratiquement pas tellement. Il est peu probable que le FBI soit intéressé par les trajets en covoiturage réalisés à Saint-Nazaire, ni par les mails commerciaux qui contiennent vos devis ou factures (sauf si vous vendez des Rafales).
Le cas particulier des données personnelles : le RGPD
Certaines données sont plus sensibles que d’autres : les données personnelles, qui font l’objet du fameux RGPD (Règlement Général sur la Protection des Données). Ce règlement européen ne garantit pas la confidentialité absolue des données : il protège surtout les particuliers en imposant une base légale à tout traitement de données personnelles — le consentement n’étant que l’une des bases possibles, aux côtés de l’exécution d’un contrat, de l’obligation légale ou de l’intérêt légitime — et en leur ouvrant un droit d’accès, de modification et de suppression de leurs données. Cette protection reste limitée, car des lois comme le Cloud Act entrent en conflit avec le RGPD pour les entreprises soumises à la juridiction américaine.
Il existe des mécanismes destinés à encadrer les transferts de données vers les États-Unis, comme l’EU-US Data Privacy Framework (qui a remplacé le Privacy Shield en 2023) ou les Clauses Contractuelles Types (CCT), mais la conformité ne sera jamais totale pour les raisons exprimées plus haut.
Ce que change l’IA
Vos données sont déjà éparpillées aux quatre coins de la planète, et vos salariés ou agents publics les diffusent maintenant dans les conversations avec Claude ou ChatGPT ? À première vue, cela ne change pas le risque de divulgation si tant est que vous avez un contrat avec Anthropic ou OpenAI pour garantir leur confidentialité.
Cependant, vos échanges sur les offres grand public (Free, Pro, Max, Plus, etc.) sont utilisés pour l’entraînement des modèles par défaut, sauf opt-out à aller chercher dans les réglages. Le risque principal est alors la revue humaine : pour améliorer les modèles ou détecter les abus, certains échanges peuvent être lus par des employés ou des sous-traitants du fournisseur. Plus marginalement, une donnée ayant servi à l’entraînement pourrait aussi “fuiter” en étant régurgitée par le modèle lors d’une conversation avec un tiers — un risque réel mais rare et de plus en plus filtré par les fournisseurs.
Les “hyper-scalers” comme AWS (Bedrock), Microsoft (Azure OpenAI) et Google (Vertex AI) proposent de faire tourner les modèles les plus populaires sur leur plateforme, y compris sur des serveurs européens, mais cela ne change pas le risque de divulgation, ces entreprises restant soumises à la loi américaine.
A noter que des entreprises chinoises proposent aussi des modèles très performants accessibles également par API (Deepseek, Qwen, Minimax). Le risque de confidentialité est cependant très élevé car la loi sur le renseignement national chinoise est encore plus arbitraire que le Cloud Act américain ! Ces entreprises proposent néanmoins leurs modèles sous forme open-weight et il est ainsi possible de les héberger sur une infra souveraine ou sur ses propres serveurs pour plus de confidentialité.
Les entreprises ou administrations qui sont déjà tenues à des normes drastiques de confidentialité doivent continuer à faire tourner leurs serveurs internes ou via des clouds souverains.
Confidentialité, Souveraineté et Sécurité
Vous l’avez compris, si vous êtes déjà des clients satisfaits de Microsoft 365, comme d’ailleurs la grande majorité des administrations françaises, adopter une IA américaine ne changera pas fondamentalement la confidentialité de vos données.
Mais la confidentialité de vos données n’est pas la seule problématique : la souveraineté, prise sous l’angle de la capacité de la France ou de l’Union Européenne à conserver des capacités numériques, peut aussi compter. Si comme le dit Sam Altman, AI is the new electricity, que se passe-t-il le jour où les États-Unis ou la Chine débranchent la prise ? Toute ressemblance avec la capacité de l’Europe à assurer sa propre défense ou à distribuer des masques en cas de pandémie est purement fortuite… Utiliser une IA souveraine est aussi une façon de protéger votre modèle économique, pas seulement une question de confidentialité.
La meilleure réponse reste donc d’utiliser un modèle européen, à l’image de Mistral, et de le faire tourner sur un cloud souverain ou l’héberger soi-même grâce à ses versions open-weight (ou via des licences pour leurs modèles fermés) — la seule configuration qui échappe à la fois au Cloud Act et aux lois chinoises.
La sécurité des données est relativement indépendante de la confidentialité : si votre hébergeur de données est victime d’une attaque informatique, vos données sont divulguées quand bien même vous disposiez d’une garantie contractuelle de confidentialité. Mais héberger soi-même ses données présente aussi des risques : il est difficile de rivaliser avec l’expertise en sécurité informatique des fournisseurs clouds.
L’IA, et plus particulièrement les agents IA, introduit de plus un risque unique de fuites de données, par le mécanisme dit du “lethal trifecta” ou “triptyque de la mort” qui fera l’objet d’un prochain article.
En synthèse
En résumé, voici un tableau très simplifié des risques liés à la confidentialité et souveraineté des données :
| Solution | Réutilisation pour entraînement | Communication aux autorités | Souveraineté |
|---|---|---|---|
| Fournisseurs américains 🇺🇸 (OpenAI, Anthropic, etc.) | ⚠️ | ❌ | ❌ |
| Fournisseurs américains 🇺🇸 sur infra hyperscalers 🇺🇸 | ✅ | ❌ | ❌ |
| Fournisseurs chinois 🇨🇳 (Baidu, Alibaba, etc.) | ⚠️ | ❌ | ❌ |
| Fournisseurs français 🇫🇷 sur infra hyperscalers 🇺🇸 | ✅ | ❌ | ⚠️ |
| Modèles open weight chinois 🇨🇳 sur infra souveraine 🇫🇷 | ✅ | ✅ | ⚠️ |
| Modèles français 🇫🇷 sur infra souveraine 🇫🇷 | ✅ | ✅ | ✅ |
Vous avez un projet ? Parlons-en !
Dans le cadre de mes missions, je vous informe des implications en termes de confidentialité et de sécurité des données, ainsi que des solutions souveraines ou non selon la sensibilité de votre activité. Au plaisir d’échanger sur vos besoins !