Retour

L’IA Act et la conduite automatisée

L’IA Act et la conduite automatisée : quand un simple changement de voie révèle les défis de la gouvernance de l’IA

L’adoption de l’IA Act par l’Union européenne bouleverse le paysage réglementaire de l’intelligence artificielle en imposant des obligations inédites aux acteurs de l’automobile. Les manœuvres de changement de voie initiées par les systèmes illustrent parfaitement la tension entre innovation, responsabilité et confiance. Focus sur un cas d’école qui préfigure les arbitrages de demain.

Pourquoi un simple changement de voie devient un test éthique majeur

Un changement de voie paraît anodin. Pourtant, il cristallise trois questions éthiques fondamentales :

  • L’agence : le conducteur a-t-il demandé la manœuvre, ou l’IA l’a-t-elle décidée ?

  • La supervision : le conducteur peut-il toujours annuler l’action à temps ?

  • La responsabilité : qui sera tenu responsable en cas d’accident ?

Les réglementations techniques de la Commission économique des Nations Unies pour l’Europe (CEE-ONU) distinguent deux catégories :

  • Le niveau 2+ DCAS (Driver Control Assistance Systems, R171.01), où l’IA peut initier un changement de voie sans confirmation explicite, sous réserve d’un signal d’au moins 3 secondes et d’un conducteur vigilant.

  • Le niveau 3 ALKS (Automated Lane-Keeping Systems, R157), où le conducteur peut être temporairement « hors boucle » et la responsabilité bascule vers le constructeur.

Ces quelques secondes de signalement illustrent la complexité d’un « contrat comportemental » entre l’humain et la machine.

Les sept piliers de l’IA digne de confiance à l’épreuve de la route

Le cas du changement de voie automatique révèle comment les sept principes de l’IA digne de confiance s’incarnent concrètement :

  1. L’agence et la supervision humaine

    • En niveau 2, le conducteur conserve un droit de veto d’au moins 3 secondes.

    • En niveau 3, il n’existe plus de confirmation : l’IA décide et agit seule dans la limite de son domaine opérationnel.

  2. La robustesse technique et la sécurité

    • Les deux niveaux exigent une perception environnementale validée, mais le niveau 3 ajoute une obligation de « fallback » automatique (définition ci-dessous).

  3. La gouvernance des données et la vie privée

    • Les systèmes de surveillance du conducteur (DMS) et les journaux doivent être conformes au RGPD et au Cybersecurity Management System de l’UNECE (voir les sources).

  4. La transparence

    • L’affichage de signaux visuels et sonores est obligatoire, tout comme la traçabilité des mises à jour logicielles.

  5. La non-discrimination et l’équité

    • La fenêtre de 3 secondes est-elle suffisante pour des conducteurs âgés ou distraits ?

  6. Le bien-être sociétal et environnemental

    • Les changements de voie agressifs augmentent la turbulence du trafic et les émissions de CO₂.

  7. La responsabilité

    • Niveau 2 : responsabilité du conducteur.

    • Niveau 3 : responsabilité du constructeur.

    • Les preuves doivent être conservées dans des journaux infalsifiables.

Ce que l’IA Act ajoute : des repères clairs pour innover en confiance

L’IA Act introduit des obligations renforcées :

  • Classification à haut risque : les systèmes de conduite automatisée relèvent de l’Annexe III, exposant les constructeurs à des amendes allant jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires mondial.

  • Exigence d’explicabilité : les approches classiques (LIME, SHAP) sont jugées insuffisantes pour expliquer les « perception stacks » (définition ci-dessous) ; des outils de monitoring en temps réel deviennent indispensables.

  • Compétences : selon Capgemini Invent (2025), à peine 1,2 % du budget IT des grands constructeurs allemands cible l’IA générative, contre 8,2 % tous secteurs confondus.

  • Modèles de gouvernance : Capgemini recommande une approche RACI (Responsible, Accountable, Consulted, Informed) articulant R&D, sécurité et juridique.

Enfin, la notion de micro-contrats comportementaux (par exemple : « ≥ 3 s de signal et droit d’opposition ») démontre comment des principes généraux – sécurité, supervision, équité – se traduisent dans des millisecondes d’interaction.

Ces arbitrages feront école bien au-delà de l’automobile : finance, santé ou énergie devront, à leur tour, inventer leurs propres garde-fous.

Contexte : les contentieux Tesla, précurseurs des défis juridiques de l’IA embarquée

Les controverses judiciaires autour de Tesla illustrent parfaitement les enjeux du passage d’un système d’aide à la conduite (L2) à une autonomie partielle ou conditionnelle (L3). Aux États-Unis, plusieurs procès retentissants ont mis en cause la technologie Autopilot et la communication marketing de Tesla.
En octobre 2023, un jury californien a jugé que Tesla n’était pas responsable d’un accident mortel survenu avec l’Autopilot activé, estimant que le conducteur gardait la maîtrise ultime du véhicule (Reuters, 31 octobre 2023). Dans d’autres affaires, notamment en Floride, la responsabilité du constructeur a été retenue en partie, les plaignants arguant que l’Autopilot donnait une illusion de conduite autonome alors qu’il s’agissait d’un système d’assistance nécessitant une vigilance constante (New York Times, 2 août 2023).
Ces contentieux mettent en lumière trois problèmes majeurs :

  • L’ambiguïté du niveau d’autonomie : beaucoup d’utilisateurs considèrent l’Autopilot comme une conduite autonome complète, ce qui accroît les risques de mauvaise utilisation.

  • La question de la supervision humaine : quand le système initie une manœuvre, la capacité du conducteur à reprendre le contrôle est souvent contestée.

  • La responsabilité du constructeur : le débat porte sur le défaut de conception, l’insuffisance des avertissements et la confusion créée par les appellations commerciales.

Le Règlement IA de l’Union européenne vise justement à réduire ces incertitudes, en imposant une classification claire des systèmes, des obligations de transparence et une documentation rigoureuse.
Ces affaires montrent que même avant l’IA Act, les tribunaux peuvent déjà sanctionner un manque de vigilance ou de clarté contractuelle, et que la confiance du public est étroitement liée à la preuve d’une gouvernance responsable.

Illustration produite par un système d’intelligence artificielle (Fooocus)

Contenu généré artificiellement, non représentatif d’un produit réel

#IAAct #Automobile #ConduiteAutonome #GouvernanceIA #Réglementation #TrustworthyAI #InnovationResponsable

Définition : obligation de « fallback » automatique

Dans le contexte des systèmes d’IA embarqués (comme la conduite automatisée de niveau 3), l’obligation de fallback signifie que le système doit être capable de détecter toute défaillance ou limite de fonctionnement et, automatiquement, reprendre le contrôle de façon sûre, sans intervention immédiate du conducteur.

Autrement dit :
–  Détection : le système identifie qu’il ne peut plus assurer la conduite en toute sécurité (ex. perte de capteurs, conditions météo extrêmes, sortie de la zone opérationnelle).
–  Mise en sécurité : il initie de lui-même des actions correctrices, comme ralentir, s’arrêter sur la voie d’arrêt d’urgence ou enclencher les feux de détresse.
–  Pas de dépendance à une réaction humaine instantanée : le conducteur peut être temporairement hors boucle, et le système assume la responsabilité du repli sécurisé.

Cette obligation est inscrite, par exemple, dans le règlement UNECE R157 (ALKS), qui exige que le véhicule soit conçu pour gérer ses propres limites et passer en mode dégradé sans mettre en danger les occupants ou les autres usagers.

Définition: perception stacks

Dans les systèmes d’IA embarqués (par exemple, la conduite automatisée), le perception stack désigne l’ensemble des logiciels et algorithmes qui transforment les données brutes des capteurs en une représentation interprétable de l’environnement du véhicule.

Autrement dit, c’est la « chaîne de perception » qui fait passer :
– des signaux capteurs (caméras, lidar, radar, ultrasons)
– à une compréhension structurée de la route, des véhicules voisins, des piétons, des panneaux, etc.

Un perception stack comprend typiquement :

  • la fusion de capteurs (combiner plusieurs sources d’information)

  • la détection d’objets et de trajectoires

  • la classification des éléments (véhicule, piéton, obstacle statique, marquage au sol, etc.)

  • la modélisation en temps réel de la scène

C’est un composant critique car :
– il conditionne la capacité du système à prendre des décisions fiables,
– il doit être explicable et vérifiable (exigence du Règlement IA),
– il est souvent très complexe à auditer (d’où le débat sur les limites de LIME ou SHAP pour expliquer ces modèles).

Sources utiles

Étiquette:, , , , , ,

Nathalie DEVILLIER
Nathalie DEVILLIER

Docteur en droit international, son expertise est recherchée par les institutions européennes et internationales.

Vous pourriez aussi aimer

AI Act et RH : les nouvelles règles
1 juin, 2025