Ce qu'il faut retenir
- L'AI Liability Directive (AILD) crée une présomption de causalité en faveur des victimes de l'IA
- Le déployeur (votre entreprise) est responsable même si l'erreur vient du fournisseur du modèle
- La documentation technique et les logs d'audit sont vos premières lignes de défense
- Les systèmes à haut risque (EU AI Act) sont automatiquement dans le périmètre le plus exposé
Le nouveau cadre juridique européen
L'Union européenne a construit un double filet réglementaire autour de l'IA. D'un côté, l'EU AI Act fixe les obligations de conformité avant déploiement. De l'autre, l'AI Liability Directive (AILD), en cours de finalisation, régit les recours civils après qu'un dommage s'est produit. Ces deux textes sont complémentaires et s'appliquent aux mêmes acteurs.
La directive s'appuie également sur la révision de la directive Responsabilité du fait des produits (Product Liability Directive), étendue explicitement aux logiciels et systèmes d'IA. Un système d'IA défectueux devient ainsi un « produit défectueux » au sens juridique — avec toutes les conséquences qui en découlent pour le fabricant et le distributeur.
Le renversement de la charge de la preuve
C'est le changement fondamental apporté par l'AILD. Dans le droit classique, la victime doit prouver le lien de causalité entre la faute et le dommage. Face à un système d'IA opaque — boîte noire, milliards de paramètres, comportement non déterministe — cette preuve est quasiment impossible à apporter.
L'AILD inverse cette logique : dès lors que la victime démontre une défaillance du système d'IA (non-conformité à l'AI Act, absence de documentation, logs manquants), le tribunal peut présumer le lien de causalité. C'est à l'entreprise de prouver que son IA n'a pas causé le dommage — un exercice difficile si la traçabilité est insuffisante.
Cette présomption s'applique automatiquement pour les systèmes à haut risque (annexe III de l'AI Act : crédit, emploi, santé, éducation, accès aux services essentiels). Pour les autres systèmes, un tribunal peut également l'accorder si l'accès à la documentation a été refusé ou si les preuves techniques ont été détruites.
Attention : le droit à la divulgation des preuves
L'AILD donne aux victimes et aux tribunaux un droit d'accès forcé à la documentation technique des systèmes d'IA. Si votre entreprise refuse de produire les logs, les explications de décision ou la documentation de conformité, le tribunal peut présumer que cette documentation était défavorable — aggravant votre responsabilité.
Fournisseur du modèle ou déployeur ?
La question pratique est : si votre IA — basée sur un modèle tiers (GPT-4, Llama, Mistral) — cause un dommage, qui est responsable ? Le fournisseur du modèle de base, ou votre entreprise qui l'a déployé ?
La réponse est nuancée mais penche clairement vers le déployeur (vous) dans la majorité des cas :
- Si l'erreur vient du modèle de base : le fournisseur peut être co-responsable, mais vous l'êtes aussi pour avoir choisi ce modèle sans vérification suffisante
- Si l'erreur vient de votre configuration (prompt système, fine-tuning, paramètres) : vous êtes seul responsable
- Si l'erreur vient d'une donnée d'entraînement que vous avez fournie : responsabilité entière à votre charge
- Si l'erreur vient d'un usage non prévu du modèle : le fournisseur peut invoquer l'usage détourné, limitant sa responsabilité
Les contrats SaaS d'IA des grands fournisseurs (OpenAI, Microsoft, Google) excluent systématiquement leur responsabilité pour les décisions prises par leurs modèles dans votre contexte d'usage. Vous êtes l'opérateur responsable.
Secteurs particulièrement exposés
| Secteur | Usage IA à risque | Dommage potentiel |
|---|---|---|
| Finance / assurance | Scoring crédit, tarification | Discrimination, préjudice financier |
| RH / recrutement | Tri CV, évaluation candidats | Discrimination emploi |
| Santé | Aide au diagnostic, triage | Préjudice corporel grave |
| Juridique | Analyse contrats, conseil | Faute professionnelle |
| Assurances | Gestion sinistres automatisée | Refus indemnisation injustifié |
Se protéger : documentation et traçabilité
Votre meilleure protection juridique est une traçabilité irréprochable de chaque décision de votre système d'IA. Concrètement :
- Logs horodatés de chaque décision (input, output, version du modèle, date)
- Explications de décision stockées : pourquoi l'IA a pris cette décision, quels facteurs ont pesé
- Documentation de conformité AI Act complète et à jour
- Tests de non-discrimination effectués et documentés avant déploiement
- Procédure de recours humain formalisée pour toute décision contestée
- Revue humaine obligatoire pour les décisions à fort impact (crédit, licenciement, diagnostic)
Un système d'IA déployé on-premise, avec logs stockés sur votre infrastructure, vous donne un contrôle total sur cette traçabilité. Un système SaaS dépend des politiques de rétention des logs du fournisseur — souvent limitées à 30 ou 90 jours.
Assurance responsabilité IA : un marché émergent
Plusieurs assureurs commencent à proposer des polices de responsabilité civile spécifiques à l'IA. Ces polices couvrent généralement les dommages causés par des décisions automatisées erronées, les frais de défense juridique, et parfois les amendes réglementaires.
Pour être assurable, les assureurs exigent invariablement : une documentation de conformité AI Act, des tests de qualité documentés, une gouvernance IA formalisée, et une procédure de gestion des incidents. Autrement dit, les conditions de l'assurance IA sont exactement celles de la conformité réglementaire.
Checklist juridique pour limiter votre exposition
- ☐ Cartographier tous vos systèmes d'IA par niveau de risque (AI Act)
- ☐ Pour chaque système à haut risque : documentation technique complète
- ☐ Logs de décision conservés ≥ 3 ans (délai de prescription)
- ☐ Contrats fournisseurs IA avec clauses de responsabilité explicites
- ☐ Procédure de recours humain formalisée et testée
- ☐ Tests anti-discrimination documentés avant et après déploiement
- ☐ Couverture assurance responsabilité IA vérifiée
- ☐ DPO et juriste formés aux spécificités de l'AI Liability Directive
IA traçable, IA défendable
Intelligence Privée déploie votre IA avec logging complet, explicabilité des décisions et documentation AI Act intégrée. Votre meilleure assurance contre les recours civils.
Évaluer votre exposition juridique →