IA physique et gouvernance du travail : confiance et responsabilité

TL;DR. Au sommet Physical AI de l'Economist à Londres, Kier Group et le BSI ont débattu de la confiance des équipes, des passations homme-machine et des responsabilités.

Points clés

Le choc de l'incarnation physique : au-delà de l'automatisation sur écran. Lors de la table ronde A meeting of minds (and machines): Humans, robots and the redesign of work (Une rencontre des esprits et des machines : humains, robots et refonte du travail), des dirigeants d'entreprise ont…
Le dilemme de la passation : résoudre « l'autonomie du côté obscur ». Un grand débat technique de la session a porté sur les graves failles de sécurité propres à l'autonomie partielle, un problème que roboticiens et ingénieurs en facteurs humains appellent « l'autonomie du côté obscur…
Comparaison des cadres : modèles de gouvernance opérationnelle en robotique industrielle. Source : synthèse des interventions du panel, de la recherche en psychologie du travail et des normes de gouvernance des risques d'infrastructure présentées au sommet Economist Enterprise Physical AI and Robotics…
Ce que cela signifie par secteur. La refonte opérationnelle, sécuritaire et juridique du travail prend des formes différentes selon les secteurs de l'industrie physique.

Quand un logiciel d'entreprise défaille, il corrompt une base de données, coupe une connexion réseau ou laisse fuiter un jeton. Quand un système d'IA physique défaille, des centaines de kilos d'acier articulé, des vérins hydrauliques à fort couple ou des engins de terrassement autonomes percutent des infrastructures ou des corps humains. Au sommet Economist Enterprise Physical AI and Robotics, tenu au Convene 200 Aldersgate à Londres le 13 octobre 2026, un panel de haut niveau s'est réuni pour aborder les frontières opérationnelles, éthiques et juridiques pressantes de l'autonomie industrielle : comment préserver la confiance des équipes, limiter les échecs de passation cognitive et bâtir des cadres de responsabilité juridiquement défendables à mesure que les machines intelligentes prennent place en première ligne.

Le choc de l'incarnation physique : au-delà de l'automatisation sur écran #

Lors de la table ronde A meeting of minds (and machines): Humans, robots and the redesign of work (Une rencontre des esprits et des machines : humains, robots et refonte du travail), des dirigeants d'entreprise ont examiné la friction psychologique particulière qui apparaît lorsque l'intelligence artificielle quitte l'écran pour entrer dans l'espace de travail physique.

Laura Bishop, responsable du secteur numérique IA et cybersécurité au British Standards Institution (BSI) et spécialiste de psychologie du travail, a formulé le cœur du problème : face à un grand modèle de langage ou à un copilote de bureau, les employés gardent une distance émotionnelle. Le logiciel vit derrière une vitre ; on peut le réduire ou l'éteindre.

L'IA physique, à l'inverse, occupe l'espace physique. Une pelle autonome sur un grand chantier autoroutier, un bras robotique collaboratif mobile qui prélève des caisses aux côtés des préparateurs d'entrepôt, ou un engin de démolition robotisé qui progresse dans un bâtiment commercial exigu partagent exactement le même environnement physique que les équipes humaines. Quand les travailleurs perçoivent une machine dotée à la fois de puissance physique et d'une capacité de décision autonome, la résistance psychologique s'intensifie. Ils vivent ce que Bishop a appelé la « double menace » : la peur existentielle d'être remplacé économiquement, doublée d'une anxiété immédiate pour leur sécurité physique.

Louisa Finlay, directrice des opérations de Kier Group (l'un des principaux groupes d'infrastructures, de construction et de services du Royaume-Uni), a confirmé que l'adoption technologique dans l'industrie lourde ne peut pas reposer sur des directives imposées d'en haut. Les opérateurs de terrain du BTP, du terrassement et des infrastructures sont profondément pragmatiques. Si une technologie est perçue comme un outil de surveillance, un risque pour la sécurité ou un moyen de réduire les effectifs, les travailleurs la rejetteront, la contourneront ou la saboteront.

L'approche de Kier Group repose sur un dialogue direct, visuel et transparent. Finlay a insisté : les dirigeants doivent être d'une honnêteté radicale sur les transformations de l'organisation. Les postes administratifs et de suivi manuel vont se réduire ; en revanche, les machines peuvent supprimer les tâches à l'origine de troubles musculosquelettiques durables, de silicoses et d'accidents industriels mortels.

Le dilemme de la passation : résoudre « l'autonomie du côté obscur » #

Un grand débat technique de la session a porté sur les graves failles de sécurité propres à l'autonomie partielle, un problème que roboticiens et ingénieurs en facteurs humains appellent « l'autonomie du côté obscur » (dark side autonomy).

Dans les systèmes autonomes de niveau 2 et de niveau 3 (véhicules autonomes comme machines industrielles collaboratives), le robot exécute ses tâches seul dans des conditions normales, mais exige qu'un opérateur humain surveille le système et reprenne la main dès qu'une anomalie survient.

Laura Bishop et Roman, chargé du déploiement de systèmes, ont averti que ce modèle de supervision est dangereusement défaillant du point de vue de la cognition humaine :

Délestage cognitif et érosion de la vigilance : le cerveau humain est biologiquement incapable de rester vigilant en observant passivement, pendant des heures, une machine accomplir des tâches répétitives sans erreur. En vingt minutes, l'attention de l'opérateur dérive, les temps de réaction doublent et l'oculométrie confirme le désengagement cognitif.
Le délai de reprise de la conscience de la situation : lorsqu'un cas limite imprévu survient (une conduite souterraine non cartographiée rencontrée pendant un creusement de tranchée robotisé, ou un piéton qui entre dans un angle mort), le système autonome déclenche soudain une alarme d'urgence et rend la main à l'opérateur. Les études montrent qu'il faut de cinq à quinze secondes pour retrouver une conscience visuo-spatiale complète de la situation, comprendre le mode de défaillance et exécuter une intervention physique efficace. Dans les opérations cinétiques à grande vitesse, ce délai est fatal.
La zone de déformation morale : s'en remettre à une supervision humaine passive sert souvent de bouclier de responsabilité pour l'entreprise, et transforme le travailleur en « zone de déformation morale » qui encaisse la faute juridique et pénale d'une défaillance algorithmique du système automatisé, au seul motif qu'il disposait d'un pouvoir nominal de reprise en main.

Le consensus du BSI et de Kier Group est que les systèmes industriels doivent évoluer vers des domaines de conception opérationnelle (ODD) surveillés, dotés d'enveloppes d'arrêt de type fail-operational ou fail-safe. Lorsqu'une machine autonome rencontre une anomalie hors de ses limites certifiées, elle ne doit pas rendre brutalement la main à un humain non préparé ; elle doit passer d'elle-même dans un état sûr, prévisible et à énergie nulle (serrer les freins, abaisser les flèches, couper la pression hydraulique) tout en demandant une vérification humaine.

Comparaison des cadres : modèles de gouvernance opérationnelle en robotique industrielle #

Axe de gouvernance	Modèle des premiers adoptants non régulé	Superviseur passif (« l'humain en secours »)	Cadre certifié de responsabilité partagée (norme BSI / Kier)
Communication avec les équipes	Opaque ; automatisation introduite brutalement pour réduire les coûts unitaires immédiats	Formation de conformité descendante ; consigne de « surveiller la machine »	Dialogue transparent ; travailleurs associés à la conception des outils, à la reconversion et aux audits de sécurité
Protocole de passation cognitive	Alarme sonore soudaine exigeant une intervention humaine immédiate	Reprise manuelle attendue dans un délai de 1 à 2 secondes après la panne	Domaines opérationnels bornés ; passage automatique à un arrêt sûr à énergie nulle
Répartition des responsabilités	Non définie ; noyée dans les clauses de non-responsabilité standard du fournisseur	Reportée vers l'opérateur de terrain ou le chef de chantier	Matrice contractuelle à trois niveaux (fournisseur du modèle, intégrateur, exploitant du site)
Conformité réglementaire	Minimale ; autocertification de base au titre de la directive machines	Clôtures standard pour robots industriels selon ISO 10218-1/2	Conformité totale à ISO/TS 15066, aux normes PAS du BSI et aux obligations de l'AI Act européen pour le haut risque
Souscription d'assurance	Primes élevées ; couverture conditionnelle faute de risques cartographiés	Responsabilité civile commerciale standard avec clauses de subrogation sévères	Souscription sur mesure fondée sur une télémétrie auditée et des journaux de télémétrie d'exécution
Définition du rôle du travailleur	Main-d'œuvre déplacée ou surveillant de machine mal payé	Surveillant passif sous forte pression, sujet à la fatigue cognitive	Superviseur de flotte certifié, responsable de téléopération et chef de logistique numérique

Source : synthèse des interventions du panel, de la recherche en psychologie du travail et des normes de gouvernance des risques d'infrastructure présentées au sommet Economist Enterprise Physical AI and Robotics (Convene 200 Aldersgate, Londres, 13 octobre 2026).

Ce que cela signifie par secteur #

La refonte opérationnelle, sécuritaire et juridique du travail prend des formes différentes selon les secteurs de l'industrie physique.

BTP lourd et infrastructures #

Dans les infrastructures civiles, la pénurie de main-d'œuvre, le vieillissement démographique et des risques de sécurité extrêmes rendent l'automatisation urgente. Le BTP reste l'un des secteurs les plus dangereux au monde, à l'origine chaque année de milliers de blessures graves et de décès dus aux chutes de hauteur, aux effondrements de structures et aux heurts avec les engins lourds.

Louisa Finlay a décrit comment Kier Group refond ses opérations de terrain en automatisant les corvées physiques dangereuses. Le battage de pieux robotisé et autonome, les compacteurs automatisés et les relevés volumétriques par drone éloignent les travailleurs des bords de tranchée dangereux et des pistes de roulage en activité.

Point essentiel, les conducteurs d'engins qui passaient huit heures dans des cabines diesel vibrantes, exposés à la poussière et au bruit, sont reconvertis en gestionnaires numériques de chantier. Depuis des cabines de contrôle climatisées ou des centres d'opérations à distance, ils supervisent simultanément plusieurs machines semi-autonomes grâce à des flux vidéo haute définition et à la télémétrie d'un jumeau numérique. La satisfaction des équipes augmente, car la fatigue physique et les risques de blessure diminuent, tandis que la rémunération suit des niveaux de compétence technique plus élevés.

Services publics et maintenance civile #

Dans le traitement de l'eau, le démantèlement nucléaire et la maintenance des réseaux électriques, les travailleurs font face à des environnements toxiques, fortement irradiés ou sous haute tension. Robots d'inspection rampants et drones aériens remplacent les interventions humaines dans les égouts confinés et les postes électriques.

Dans ce secteur, la gouvernance porte surtout sur l'intégrité cyber-physique. Comme l'a souligné Laura Bishop, les systèmes d'IA physique sont des terminaux IoT connectés dotés d'actionneurs cinétiques. Si un robot autonome de dosage chimique ou un manipulateur de vannes de canalisation subit une intrusion, la conséquence n'est pas un vol de données ; c'est une contamination physique de l'environnement. La gouvernance opérationnelle exige des journaux d'audit immuables et signés cryptographiquement, ainsi qu'une isolation matérielle physique des coupures critiques pour la sécurité.

Logistique et réseaux de préparation de commandes #

Les centres de préparation du e-commerce ont été le principal terrain d'essai des robots mobiles autonomes collaboratifs (AMR). Mais les premiers déploiements, qui traitaient les travailleurs comme des préparateurs à haute cadence rythmés par des algorithmes de convoyage robotisé, ont provoqué un turnover extrême et des tensions syndicales.

La gouvernance logistique moderne privilégie la collaboration ergonomique. Des chariots autonomes transportent les bacs lourds entre les allées de préparation, ce qui permet aux travailleurs de rester dans des zones de prélèvement optimisées sur le plan ergonomique, où ils assurent l'inspection tactile et le tri des articles. Les indicateurs du système passent de quotas punitifs de prélèvement à la minute à la précision globale de préparation de l'équipe, ce qui installe une culture de confiance mutuelle entre l'humain et la machine.

L'ingénierie contractuelle : structurer une responsabilité à plusieurs niveaux #

Qui est juridiquement responsable lorsqu'un robot autonome cause un dommage matériel ou une blessure ? Le panel a abordé cette question de front et rejeté l'idée simpliste selon laquelle la responsabilité pourrait reposer sur une seule partie.

Dans l'IA physique moderne, les systèmes autonomes sont des assemblages complexes : modèles de fondation de base, ajustement spécialisé, capteurs du commerce, châssis mécaniques et intégration au niveau du site.

Les entreprises qui déploient ces systèmes mettent en place des contrats de répartition du risque à trois niveaux :

Niveau 1 : fournisseurs de modèles de fondation et de matériel OEM #

Le fabricant d'équipement d'origine (OEM) et le développeur du modèle de fondation répondent des défauts algorithmiques intrinsèques, des défaillances mécaniques du matériel et des violations des enveloppes de sécurité préentraînées. Si un modèle produit des hallucinations qui contournent ses limites de sécurité essentielles face à des entrées conformes à sa spécification certifiée, la responsabilité incombe au fournisseur.

Niveau 2 : intégrateurs et déployeurs de domaine #

L'intégrateur chargé d'ajuster le modèle sur des jeux de données propres au domaine, de calibrer les caméras et les réseaux LiDAR et de programmer la logique de limites locale répond des défauts d'intégration. Les contrats d'intégration doivent définir explicitement le domaine de conception opérationnelle environnemental (ODD), en précisant les paramètres acceptables d'éclairage, de météo, de poussière et de pente du sol.

Niveau 3 : entreprises exploitantes et propriétaires de sites #

L'entreprise qui déploie le robot sur site reste responsable de la conformité environnementale, de l'entretien de l'espace de travail physique et de la formation des équipes. Si un chef de chantier laisse du personnel non autorisé entrer dans une zone robotisée active, désactive les géorepérages de sécurité physiques ou ne respecte pas les calendriers de calibrage obligatoires, la responsabilité reste à l'exploitant du site.

En inscrivant ces limites dans les contrats commerciaux et en les alignant sur les exigences de souscription des assureurs, les entreprises peuvent déployer l'IA physique avec une sécurité juridique claire, au lieu d'attendre une jurisprudence née d'une catastrophe industrielle.

Conclusion #

Les analyses partagées par Louisa Finlay, Laura Bishop et les autres intervenants au sommet Economist Enterprise Physical AI and Robotics ont rendu une réalité limpide : le principal frein au déploiement à grande échelle de l'IA physique dans les opérations des entreprises n'est ni la sophistication des réseaux de neurones ni la densité de puissance des actionneurs sans balais ; c'est la gouvernance humaine.

Les robots opèrent dans le monde physique, aux côtés d'êtres humains dont la subsistance, la dignité et la sécurité physique sont indissociables de leur environnement de travail. Toute équipe dirigeante qui aborde l'IA physique comme un pur exercice financier de suppression des coûts de main-d'œuvre se heurtera à une résistance culturelle farouche, à de graves défaillances de sécurité lors des passations et à des responsabilités réglementaires paralysantes.

Le véritable avantage opérationnel revient aux organisations qui voient dans l'IA physique un catalyseur d'une refonte profonde du travail. En supprimant les corvées dangereuses, en respectant les limites cognitives dans l'interaction homme-machine et en établissant des lignes contractuelles de responsabilité claires, les entreprises tournées vers l'avenir peuvent bâtir un futur où machines intelligentes et travailleurs autonomisés collaborent à des industries plus sûres et plus résilientes.

Foire aux questions #

Pourquoi l'IA physique suscite-t-elle plus d'anxiété chez les travailleurs que l'IA logicielle ? Contrairement à l'automatisation logicielle (chatbots ou analyse prédictive), qui n'existe que sur des écrans, l'IA physique agit dans le monde physique avec de l'énergie cinétique, de la masse et de la vitesse. Les travailleurs ressentent une « double menace » accrue : la peur existentielle de perdre leur emploi, associée à une anxiété viscérale pour leur sécurité physique dans un espace de travail partagé.

Qu'est-ce que « l'autonomie du côté obscur » en robotique ? « L'autonomie du côté obscur » désigne la défaillance cognitive qui survient lorsque des opérateurs humains sont chargés de surveiller passivement des systèmes semi-autonomes en guise de filet de sécurité. L'être humain est biologiquement incapable de rester vigilant pendant de longues périodes de surveillance passive. Lorsqu'une défaillance de cas limite survient, l'opérateur souffre d'un grave déficit de conscience de la situation et ne peut pas intervenir assez vite pour éviter un accident.

Comment Kier Group aborde-t-il l'adoption de l'IA physique dans le BTP ? Kier Group mise sur un dialogue transparent et visuel avec les équipes de terrain. Plutôt que de présenter la robotique comme un outil de réduction des effectifs, Kier la présente comme un moyen de supprimer les corvées dangereuses et physiquement usantes, comme le creusement de tranchées, le travail en hauteur ou le levage de charges lourdes. Les opérateurs sont reconvertis vers des rôles de supervision et pilotent à distance plusieurs machines semi-autonomes depuis des environnements sûrs et maîtrisés.

Comment répartir la responsabilité contractuelle en cas d'accident de robotique autonome ? La responsabilité doit être répartie sur trois niveaux selon le contrôle décisionnel : les fournisseurs de modèles de fondation et d'OEM répondent des défaillances algorithmiques dans les paramètres certifiés ; les intégrateurs répondent du calibrage propre au site, du montage des capteurs et de l'adaptation au domaine ; et les exploitants de site répondent du géorepérage de l'espace de travail, de la sécurité environnementale et de la formation des opérateurs.

Quelles normes encadrent le déploiement sûr des robots industriels collaboratifs ? Les principales normes sont ISO 10218-1 et ISO 10218-2 (exigences de sécurité pour les robots industriels et l'intégration des systèmes), ISO/TS 15066 (exigences de sécurité propres aux robots collaboratifs et limites de force de contact homme-robot), les recommandations émergentes du British Standards Institution (BSI) sur la gouvernance des systèmes autonomes, et les exigences de conformité de l'AI Act européen pour les machines à haut risque.

Références #

Economist Enterprise, (2026). Sommet Physical AI & Robotics : l'avantage opérationnel par les systèmes autonomes ⧉. Economist Enterprise.
Finlay, L., (2026). Une rencontre des esprits (et des machines) : humains, robots et refonte du travail ⧉. Kier Group.
Bishop, L., (2026). Facteurs humains, sécurité psychologique et gouvernance des systèmes autonomes ⧉. British Standards Institution (BSI).
British Standards Institution, (2025). BSI PAS 2025 : gouvernance et déploiement éthique des systèmes mobiles autonomes en milieu industriel ⧉. BSI.
European Parliament and Council, (2024). Règlement (UE) 2024/1689 établissant des règles harmonisées concernant l'intelligence artificielle (règlement sur l'intelligence artificielle) ⧉. Journal officiel de l'Union européenne.
Bainbridge, L., (1983). Les ironies de l'automatisation ⧉. Automatica, 19(6), 775-779.
International Organization for Standardization, (2026). ISO/TS 15066:2026 Robots et dispositifs robotiques - Robots collaboratifs ⧉. ISO.

Dernière révision 2026-10-13.

Dernière révision 2026-10-27.

Republier cet article

IA physique et gouvernance du travail : confiance et responsabilité — Sebastien Rousseau

Au sommet Physical AI de l'Economist à Londres, Kier Group et le BSI ont débattu de la confiance des équipes, des passations homme-machine et des responsabilités.

Cet article est sous licence Creative Commons Attribution 4.0 International. La republication nécessite l'attribution à l'URL canonique.

IA physique et gouvernance du travail : confiance et responsabilité — Sebastien Rousseau

Au sommet Physical AI de l'Economist à Londres, Kier Group et le BSI ont débattu de la confiance des équipes, des passations homme-machine et des responsabilités.

Originally published at https://sebastienrousseau.com/fr/2026-10-13-physique-et-gouvernance-travail-confiance-responsabilite/ by Sebastien Rousseau.
Licensed under CC-BY-4.0.

SEBASTIEN ROUSSEAU FONDATEUR · INGÉNIEUR