Ce qu'il faut retenir
- Samsung a interdit l'usage de ChatGPT après que des ingénieurs ont uploadé du code source propriétaire
- Les LLM publics peuvent être interrogés pour "récupérer" des informations partagées par d'autres utilisateurs (inversion d'entraînement)
- Le Cloud Act permet aux concurrents américains d'accéder légalement à vos données via des procédures judiciaires
- L'IA est aussi un outil puissant d'OSINT (Open Source Intelligence) pour vos concurrents
L'affaire Samsung : l'incident fondateur
En avril 2023, Samsung Electronics a interdit l'usage de tous les outils d'IA générative externes après avoir découvert que des ingénieurs avaient partagé du code source propriétaire avec ChatGPT. En moins d'un mois, trois incidents avaient été documentés : un ingénieur avait uploadé du code de programme de contrôle d'équipement, un autre avait partagé des données de réunion interne, un troisième avait demandé à ChatGPT d'optimiser du code contenant des algorithmes brevetés.
Samsung n'est pas une exception. Cyberhaven, un fournisseur de solutions DLP (Data Loss Prevention), a analysé en 2023 l'utilisation de ChatGPT dans les entreprises clientes : 11% des données envoyées aux LLM publics étaient classifiées "confidentielles" selon les politiques DLP des entreprises. 4% étaient classifiées "top secret" ou équivalent.
Les vecteurs d'exfiltration via l'IA
1. La fuite directe via les prompts
Le vecteur le plus simple et le plus fréquent : un collaborateur colle des données sensibles dans un LLM public pour obtenir de l'aide. Contrats, spécifications techniques, données financières non publiées, plans produits, listes de clients — tout ce qui est collé dans ChatGPT transite vers des serveurs sur lesquels vous n'avez aucun contrôle.
Les données peuvent ensuite être utilisées pour améliorer les modèles, être accessibles via le Cloud Act, ou dans certains cas théoriques, être extraites via des attaques de type "memorization" (extraction de données mémorisées dans les poids du modèle).
2. L'inversion de modèle et la mémorisation
Des recherches académiques ont démontré que les LLM peuvent mémoriser et reproduire des extraits des données sur lesquelles ils ont été entraînés. Si vos données ont été utilisées pour entraîner ou affiner un modèle, il est théoriquement possible d'en extraire des fragments via des attaques d'inversion de modèle.
Plus immédiatement préoccupant : les assistants IA dotés de mémoire persistante (comme ChatGPT Memory) peuvent stocker des contextes d'entreprise et les "contaminer" entre différentes sessions et potentiellement différents utilisateurs selon les configurations.
3. L'IA comme outil d'OSINT augmenté
Vos concurrents peuvent utiliser l'IA comme outil d'intelligence économique contre vous. En agrégeant des sources publiques — offres d'emploi, publications LinkedIn, présentations de conférences, articles de presse, brevets — un concurrent équipé d'un bon système d'IA peut reconstituer votre stratégie, vos technologies en développement, vos difficultés opérationnelles.
Les modèles IA sont particulièrement efficaces pour synthétiser de grandes quantités d'informations disparates et identifier des patterns. Ce qui nécessitait une équipe d'analystes pendant des semaines peut désormais être réalisé en quelques heures.
4. Le risque des extensions et plugins IA
Les extensions navigateur IA (Copilot, Grammarly, etc.) ont accès à tout ce que vous tapez ou visualisez dans votre navigateur. Pour un commercial qui prépare une négociation, une assistante de direction qui rédige des emails confidentiels, un ingénieur qui code dans un environnement de développement intégré avec copilot IA : la surface d'exposition est considérable.
Les secteurs les plus exposés à l'espionnage via l'IA
Défense et aéronautique : sous-traitants avec données ITAR/EAR. Pharmaceutique : données de R&D préclinique et clinique. Énergie : plans d'infrastructure et données opérationnelles. Finance : stratégies d'investissement et informations M&A. Industrie de luxe : designs et innovations créatives non publiées.
Ce que font les services de renseignement étrangers
La DGSI (Direction Générale de la Sécurité Intérieure) a publié plusieurs rapports documentant l'utilisation des outils numériques à des fins d'espionnage industriel par des services étrangers. Les modes opératoires incluent :
- Le recrutement de collaborateurs dans des entreprises cibles pour accéder à leurs outils IA
- L'exploitation des données disponibles via des LLM publics entraînés sur des corpus intégrant des contenus d'entreprise
- L'utilisation d'outils IA pour accélérer l'analyse des informations collectées par d'autres moyens
- Les requêtes Cloud Act pour accéder à des données d'entreprises européennes hébergées chez des prestataires américains
Comment protéger votre entreprise
Gouvernance des données IA
Établir une politique d'usage des outils IA claire et obligatoire : quels outils peuvent être utilisés, pour quels types de données, par quelles équipes. La politique doit être connue de tous les collaborateurs, pas seulement de la DSI.
Classification des données
Mettre en place un système de classification des données (public, interne, confidentiel, secret) et l'appliquer techniquement via des outils DLP qui peuvent détecter et bloquer l'envoi de données classifiées vers des outils IA non autorisés.
IA souveraine cloisonnée
La solution structurelle : déployer une IA dans votre périmètre, accessible uniquement depuis votre réseau interne, sans connexion sortante vers Internet. Les données restent dans votre système d'information, et aucune exfiltration n'est techniquement possible.
Audit des accès et comportements
Monitorer les usages des outils IA, identifier les comportements anormaux (volumes inhabituels de données, accès depuis des localisations atypiques), et mettre en place des alertes. L'IA peut aussi aider à détecter l'exfiltration via l'IA.
Protégez votre propriété intellectuelle
Intelligence Privée déploie votre IA dans un périmètre étanche — aucune donnée ne peut fuir vers l'extérieur. Idéal pour R&D, juridique, finance stratégique.
Sécuriser vos données →