Fysieke AI en governance van werk: vertrouwen en aansprakelijkheid

TL;DR. Op de Physical AI-top van The Economist in Londen bespraken Kier Group en BSI het vertrouwen van werknemers, overdrachten tussen mens en machine en aansprakelijkheid.

Belangrijkste punten

De schok van fysieke belichaming: verder dan automatisering op het scherm. Tijdens de panelsessie A meeting of minds (and machines): Humans, robots and the redesign of work (Een ontmoeting van geesten en machines: mensen, robots en het herontwerp van werk) onderzochten bedrijfsleiders de…
Het overdrachtsdilemma: ‘autonomie aan de donkere kant’ oplossen. Een groot technisch debat tijdens de sessie ging over de ernstige veiligheidsrisico's die inherent zijn aan gedeeltelijke autonomie, een probleem dat robotici en human-factors-ingenieurs ‘autonomie aan de donkere…
Vergelijking van kaders: operationele governancemodellen in de industriële robotica. Bron: synthese van de bijdragen van het panel, onderzoek in de arbeidspsychologie en normen voor risicogovernance van infrastructuur, gepresenteerd op de Economist Enterprise Physical AI and Robotics Summit (Convene…
Wat dit per sector betekent. Het operationele, veiligheids- en juridische herontwerp van werk krijgt in elke tak van de fysieke industrie een andere vorm.

Als bedrijfssoftware faalt, raakt een database beschadigd, valt een netwerkverbinding weg of lekt een token. Als een fysiek AI-systeem faalt, botsen honderden kilo's gelede staal, hydraulische actuatoren met een hoog koppel of autonome grondverzetmachines tegen infrastructuur of menselijke lichamen. Op de Economist Enterprise Physical AI and Robotics Summit, gehouden in Convene 200 Aldersgate in Londen op 13 oktober 2026, kwam een panel op hoog niveau bijeen over de dringendste operationele, ethische en juridische grensvragen van industriële autonomie: hoe je het vertrouwen van werknemers behoudt, fouten bij de cognitieve overdracht beperkt en juridisch verdedigbare aansprakelijkheidskaders opzet nu intelligente machines de frontlinie innemen.

De schok van fysieke belichaming: verder dan automatisering op het scherm #

Tijdens de panelsessie A meeting of minds (and machines): Humans, robots and the redesign of work (Een ontmoeting van geesten en machines: mensen, robots en het herontwerp van werk) onderzochten bedrijfsleiders de bijzondere psychologische wrijving die ontstaat wanneer kunstmatige intelligentie het scherm verlaat en de fysieke werkplek betreedt.

Laura Bishop, sectorleider digitaal voor AI en cyberbeveiliging bij de British Standards Institution (BSI) en specialist in arbeidspsychologie, verwoordde de kern van het probleem: wanneer werknemers met grote taalmodellen of desktopcopilots werken, houden ze emotionele afstand. De software bestaat achter een glazen scherm; je kunt haar minimaliseren of uitzetten.

Fysieke AI neemt daarentegen fysieke ruimte in. Een autonome graafmachine op een groot snelwegproject, een mobiele collaboratieve robotarm die kratten pakt naast magazijnmedewerkers, of een robotische sloopmachine die door een krap bedrijfspand beweegt, delen precies dezelfde fysieke omgeving met de werknemers. Wanneer werknemers een machine zien die zowel fysieke kracht als autonoom beslisvermogen heeft, neemt de psychologische weerstand toe. Ze ervaren wat Bishop de ‘dubbele dreiging’ noemde: de existentiële angst voor economische vervanging, gekoppeld aan directe zorg over hun fysieke veiligheid.

Louisa Finlay, Chief Operating Officer van Kier Group (een van de grootste infrastructuur-, bouw- en dienstverleningsgroepen van het Verenigd Koninkrijk), bevestigde dat technologische invoering in de zware industrie niet van bovenaf kan worden opgelegd. Medewerkers aan de frontlinie in de bouw, het grondverzet en de infrastructuur zijn uitgesproken pragmatisch. Als een technologie wordt gezien als controle-instrument, veiligheidsrisico of middel om banen te schrappen, zullen werknemers haar weigeren, omzeilen of saboteren.

De aanpak van Kier Group draait om direct, zichtbaar en transparant contact. Finlay benadrukte dat leiders radicaal eerlijk moeten zijn over organisatorische verschuivingen. Administratieve functies en handmatige registratie zullen krimpen; machines kunnen echter de taken wegnemen die blijvende klachten aan het bewegingsapparaat, silicose en dodelijke bedrijfsongevallen veroorzaken.

Het overdrachtsdilemma: ‘autonomie aan de donkere kant’ oplossen #

Een groot technisch debat tijdens de sessie ging over de ernstige veiligheidsrisico's die inherent zijn aan gedeeltelijke autonomie, een probleem dat robotici en human-factors-ingenieurs ‘autonomie aan de donkere kant’ (dark side autonomy) noemen.

In autonome systemen van niveau 2 en niveau 3 (of het nu om autonome voertuigen of collaboratieve industriële machines gaat) voert de robot onder normale omstandigheden zelfstandig taken uit, maar moet een menselijke operator het systeem bewaken en handmatig ingrijpen zodra zich een afwijking voordoet.

Laura Bishop en Roman, verantwoordelijk voor de uitrol van systemen, waarschuwden dat dit toezichtmodel vanuit menselijk-cognitief oogpunt gevaarlijk gebrekkig is:

Cognitieve ontlasting en afnemende waakzaamheid: het menselijk brein is biologisch niet in staat om alert te blijven terwijl het urenlang passief toekijkt hoe een machine foutloos repetitieve taken uitvoert. Binnen twintig minuten dwaalt de aandacht van de operator af, verdubbelen de reactietijden en bevestigt eyetracking dat de operator cognitief is afgehaakt.
De kloof bij het herstel van situationeel bewustzijn: wanneer zich een onverwacht randgeval voordoet (zoals een niet in kaart gebrachte ondergrondse leiding bij robotisch sleuven graven, of een voetganger die een dode hoek in loopt), slaat het autonome systeem plotseling alarm en geeft het de besturing terug aan de operator. Onderzoek toont aan dat het vijf tot vijftien seconden kost om volledig visueel-ruimtelijk situationeel bewustzijn terug te winnen, de storingsmodus te begrijpen en effectief fysiek in te grijpen. Bij kinetische operaties op hoge snelheid is die vertraging fataal.
De morele kreukelzone: vertrouwen op passief menselijk toezicht dient vaak als aansprakelijkheidsschild voor het bedrijf en maakt van de werknemer een ‘morele kreukelzone’ die de juridische en strafrechtelijke schuld draagt voor het algoritmische falen van een geautomatiseerd systeem, alleen omdat hij een nominale mogelijkheid had om in te grijpen.

BSI en Kier Group zijn het erover eens dat industriële systemen moeten overstappen op bewaakte operationele ontwerpdomeinen (ODD's) met fail-operational- of fail-safe-stopgrenzen. Als een autonome machine een afwijking tegenkomt buiten haar gecertificeerde grenzen, mag ze de besturing niet abrupt overdragen aan een onvoorbereide mens; ze moet zelf overgaan naar een voorspelbare, veilige toestand zonder energie (remmen aanzetten, gieken laten zakken, hydraulische druk afsluiten) en ondertussen om een menselijke beoordeling vragen.

Vergelijking van kaders: operationele governancemodellen in de industriële robotica #

Governance-as	Ongereguleerd model van vroege gebruikers	Passieve toezichthouder (‘de mens als reserve’)	Gecertificeerd kader van gedeelde verantwoordelijkheid (BSI-/Kier-standaard)
Communicatie met werknemers	Ondoorzichtig; automatisering abrupt ingevoerd om directe kosten per eenheid te verlagen	Complianceopleiding van bovenaf; werknemers krijgen de opdracht ‘de machine in de gaten te houden’	Transparante dialoog; werknemers betrokken bij het ontwerp van gereedschap, omscholing en veiligheidsaudits
Protocol voor cognitieve overdracht	Plotseling geluidsalarm dat directe menselijke ingreep vereist	Handmatige ingreep verwacht binnen 1 tot 2 seconden na een systeemstoring	Afgebakende operationele domeinen; automatische overgang naar een veilige stop zonder energie
Verdeling van aansprakelijkheid	Ongedefinieerd; weggestopt in standaardvrijwaringen van de leverancier	Naar beneden afgeschoven op de operator aan de frontlinie of de uitvoerder	Driedelige contractuele matrix (modelleverancier, systeemintegrator, exploitant van de locatie)
Naleving van regelgeving	Minimaal; eenvoudige zelfcertificering onder de machinerichtlijn	Standaardafscherming van industriële robots volgens ISO 10218-1/2	Volledige naleving van ISO/TS 15066, BSI-PAS-normen en de hoogrisicoverplichtingen van de EU AI Act
Verzekering	Hoge premies; voorwaardelijke dekking door niet in kaart gebrachte risico's	Standaard bedrijfsaansprakelijkheid met strenge subrogatieclausules	Verzekering op maat op basis van geauditeerde telemetrie en runtime-telemetrielogboeken
Definitie van de rol van de werknemer	Verdrongen arbeidskracht of slecht betaalde machinebediener	Passieve bewaker onder hoge druk, vatbaar voor cognitieve vermoeidheid	Gecertificeerde vlootsupervisor, teleoperatiemanager en digitale logistieke leider

Bron: synthese van de bijdragen van het panel, onderzoek in de arbeidspsychologie en normen voor risicogovernance van infrastructuur, gepresenteerd op de Economist Enterprise Physical AI and Robotics Summit (Convene 200 Aldersgate, Londen, 13 oktober 2026).

Wat dit per sector betekent #

Het operationele, veiligheids- en juridische herontwerp van werk krijgt in elke tak van de fysieke industrie een andere vorm.

Zware bouw en infrastructuur #

In de civiele infrastructuur maken personeelstekorten, vergrijzing en extreme veiligheidsrisico's automatisering dringend. De bouw blijft wereldwijd een van de gevaarlijkste sectoren, met elk jaar duizenden ernstige verwondingen en dodelijke slachtoffers door vallen van hoogte, instortingen en aanrijdingen met zwaar materieel.

Louisa Finlay beschreef hoe Kier Group de operaties aan de frontlinie herontwerpt door gevaarlijk fysiek werk te automatiseren. Autonoom robotisch heien, geautomatiseerde verdichtingswalsen en volumetrische metingen met drones halen werknemers weg bij gevaarlijke sleufranden en actieve transportroutes.

Cruciaal is dat machinisten die vroeger acht uur in trillende dieselcabines zaten, blootgesteld aan stof en lawaai, worden omgeschoold tot digitale locatiebeheerders. Vanuit geklimatiseerde controlecabines op de bouwplaats of vanuit centra op afstand houden ze tegelijk toezicht op meerdere semi-autonome machines, met behulp van hogedefinitievideo en de telemetrie van een digitale tweeling. De tevredenheid van werknemers stijgt omdat fysieke vermoeidheid en letselrisico's afnemen, terwijl de beloning meegroeit met hogere technische vaardigheden.

Nutsbedrijven en civiel onderhoud #

In waterzuivering, de ontmanteling van kerncentrales en het onderhoud van elektriciteitsnetten werken mensen in giftige, sterk radioactieve of hoogspanningsomgevingen. Autonome inspectiecrawlers en drones vervangen het betreden van krappe riolen en onderstations door mensen.

Governance in deze sector richt zich vooral op cyberfysieke integriteit. Zoals Laura Bishop opmerkte, zijn fysieke AI-systemen verbonden IoT-eindpunten met kinetische actuatoren. Als een autonome robot voor chemische dosering of een manipulator van pijpleidingafsluiters wordt getroffen door een cyberinbraak, is het gevolg geen datadiefstal maar fysieke milieuvervuiling. Operationele governance vereist onveranderlijke, cryptografisch ondertekende auditlogboeken en een fysieke hardwarescheiding bij veiligheidskritische afsluitingen.

Logistiek en fulfilmentnetwerken #

Fulfilmentcentra voor e-commerce waren het belangrijkste proefterrein voor collaboratieve autonome mobiele robots (AMR's). Vroege implementaties die werknemers behandelden als orderpickers op hoge snelheid in het tempo van robotische transportalgoritmen, leidden echter tot extreem personeelsverloop en wrijving met vakbonden.

Moderne logistieke governance geeft voorrang aan ergonomische samenwerking. Autonome karren vervoeren zware bakken tussen de pickgangen, zodat werknemers in ergonomisch geoptimaliseerde pickzones kunnen blijven, waar ze artikelen op de tast controleren en sorteren. De systeemindicatoren verschuiven van bestraffende pickquota per minuut naar de algehele nauwkeurigheid van het team, wat een cultuur van wederzijds vertrouwen tussen mens en machine opbouwt.

Contractontwerp: aansprakelijkheid in meerdere lagen structureren #

Wie is juridisch aansprakelijk wanneer een autonome robot materiële schade of letsel veroorzaakt? Het panel ging rechtstreeks op deze vraag in en verwierp het simplistische idee dat de aansprakelijkheid bij één partij kan liggen.

In moderne fysieke AI zijn autonome systemen complexe samenstellingen van foundationmodellen, gespecialiseerde fijnafstemming, commerciële sensoren, mechanische chassis en integratie op locatieniveau.

Bedrijven die deze systemen inzetten, sluiten contracten voor risicoverdeling in drie lagen:

Laag 1: leveranciers van foundationmodellen en OEM-hardware #

De fabrikant van de oorspronkelijke apparatuur (OEM) en de ontwikkelaar van het foundationmodel zijn aansprakelijk voor inherente algoritmische gebreken, mechanische hardwarestoringen en schendingen van de vooraf getrainde veiligheidsgrenzen. Als een model hallucinaties vertoont die de kernveiligheidslimieten omzeilen bij invoer binnen de gecertificeerde specificatie, ligt de aansprakelijkheid bij de leverancier.

Laag 2: systeemintegrators en uitvoerders in het domein #

De systeemintegrator die het model fijnafstemt op domeinspecifieke datasets, camera's en LiDAR-arrays kalibreert en de lokale grenslogica programmeert, is aansprakelijk voor integratiefouten. Integratiecontracten moeten het operationele ontwerpdomein van de omgeving (ODD) expliciet vastleggen, met aanvaardbare waarden voor verlichting, weer, stof en hellingsgraad van de vloer.

Laag 3: exploiterende bedrijven en eigenaren van locaties #

Het bedrijf dat de robot op locatie inzet, blijft verantwoordelijk voor milieunaleving, het onderhoud van de fysieke werkplek en de opleiding van werknemers. Als een uitvoerder onbevoegd personeel toelaat in een actieve robotzone, fysieke veiligheidsgeofences uitschakelt of verplichte kalibratieschema's niet naleeft, blijft de aansprakelijkheid bij de exploitant van de locatie.

Door deze grenzen vast te leggen in commerciële contracten en ze af te stemmen op de eisen van verzekeraars, kunnen bedrijven fysieke AI inzetten met duidelijke rechtszekerheid, in plaats van te wachten op rechterlijke precedenten na een industriële ramp.

Conclusie #

De inzichten van Louisa Finlay, Laura Bishop en de andere panelleden op de Economist Enterprise Physical AI and Robotics Summit maakten één werkelijkheid onmiskenbaar duidelijk: de grootste hindernis voor het opschalen van fysieke AI in bedrijfsprocessen is niet de verfijning van neurale netwerken of de vermogensdichtheid van borstelloze actuatoren; het is menselijke governance.

Robots werken in de fysieke wereld, naast mensen van wie het levensonderhoud, de waardigheid en de fysieke veiligheid onlosmakelijk verbonden zijn met hun werkomgeving. Elk managementteam dat fysieke AI puur benadert als financiële oefening om loonkosten te schrappen, stuit op felle culturele weerstand, ernstige veiligheidsproblemen bij overdrachten en verlammende aansprakelijkheid onder de regelgeving.

Echt operationeel voordeel is weggelegd voor organisaties die fysieke AI zien als katalysator voor een grondig herontwerp van werk. Door gevaarlijk zwoegen te schrappen, cognitieve grenzen in de interactie tussen mens en machine te respecteren en duidelijke contractuele verantwoordelijkheden vast te leggen, kunnen vooruitziende bedrijven een toekomst bouwen waarin intelligente machines en sterkere werknemers samen veiligere, weerbaardere industrieën opbouwen.

Veelgestelde vragen #

Waarom wekt fysieke AI meer angst bij werknemers dan op software gebaseerde AI? Anders dan software-automatisering (zoals chatbots of voorspellende analyses), die alleen op schermen bestaat, werkt fysieke AI in de fysieke wereld met kinetische energie, massa en snelheid. Werknemers ervaren een versterkte ‘dubbele dreiging’: de existentiële angst hun baan te verliezen, gecombineerd met een rauwe angst over hun fysieke veiligheid in een gedeelde werkruimte.

Wat is ‘autonomie aan de donkere kant’ in de robotica? ‘Autonomie aan de donkere kant’ verwijst naar het cognitieve falen dat optreedt wanneer menselijke operators semi-autonome systemen passief moeten bewaken als veiligheidsreserve. Mensen zijn biologisch niet in staat om waakzaam te blijven tijdens lange perioden van passief toezicht. Als er een storing in een randgeval optreedt, lijden operators aan een ernstig gebrek aan situationeel bewustzijn en kunnen ze niet snel genoeg ingrijpen om een ongeval te voorkomen.

Hoe pakt Kier Group de invoering van fysieke AI in de bouw aan? Kier Group zet in op transparant, zichtbaar contact met de werknemers aan de frontlinie. In plaats van robotica te presenteren als middel om personeel te schrappen, brengt Kier automatisering als manier om gevaarlijk en fysiek slopend werk weg te nemen, zoals het graven van sleuven, werken op hoogte en zwaar tillen. Medewerkers worden omgeschoold tot toezichthoudende functies en bedienen op afstand meerdere semi-autonome machines vanuit veilige, gecontroleerde omgevingen.

Hoe moet contractuele aansprakelijkheid worden verdeeld bij ongevallen met autonome robotica? Aansprakelijkheid moet over drie lagen worden verdeeld op basis van beslissingsbevoegdheid: leveranciers van foundationmodellen en OEM's zijn aansprakelijk voor algoritmische storingen binnen gecertificeerde parameters; systeemintegrators zijn verantwoordelijk voor locatiespecifieke kalibratie, sensormontage en aanpassing aan het domein; en exploitanten van locaties zijn verantwoordelijk voor de geofencing van de werkruimte, milieuveiligheid en de opleiding van operators.

Welke normen gelden voor de veilige inzet van collaboratieve industriële robots? De belangrijkste normen zijn ISO 10218-1 en ISO 10218-2 (veiligheidseisen voor industriële robots en systeemintegratie), ISO/TS 15066 (specifieke veiligheidseisen voor collaboratieve robots en grenzen voor contactkrachten tussen mens en robot), nieuwe richtlijnen van de British Standards Institution (BSI) over de governance van autonome systemen en de conformiteitseisen van de EU AI Act voor machines met een hoog risico.

Bronnen #

Economist Enterprise, (2026). Physical AI & Robotics Summit: operationeel voordeel met autonome systemen ⧉. Economist Enterprise.
Finlay, L., (2026). Een ontmoeting van geesten (en machines): mensen, robots en het herontwerp van werk ⧉. Kier Group.
Bishop, L., (2026). Menselijke factoren, psychologische veiligheid en governance in autonome systemen ⧉. British Standards Institution (BSI).
British Standards Institution, (2025). BSI PAS 2025: governance en ethische inzet van autonome mobiele systemen in industriële omgevingen ⧉. BSI.
European Parliament and Council, (2024). Verordening (EU) 2024/1689 tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (verordening artificiële intelligentie) ⧉. Publicatieblad van de Europese Unie.
Bainbridge, L., (1983). De ironieën van automatisering ⧉. Automatica, 19(6), 775-779.
International Organization for Standardization, (2026). ISO/TS 15066:2026 Robots en robotapparaten - Collaboratieve robots ⧉. ISO.

Laatst herzien 2026-10-13.

Laatst herzien 2026-10-27.

Dit artikel herpubliceren

Fysieke AI en governance van werk: vertrouwen en aansprakelijkheid — Sebastien Rousseau

Op de Physical AI-top van The Economist in Londen bespraken Kier Group en BSI het vertrouwen van werknemers, overdrachten tussen mens en machine en aansprakelijkheid.

Dit artikel valt onder de licentie Creative Commons Attribution 4.0 International. Herpublicatie vereist attributie aan de canonieke URL.

Fysieke AI en governance van werk: vertrouwen en aansprakelijkheid — Sebastien Rousseau

Op de Physical AI-top van The Economist in Londen bespraken Kier Group en BSI het vertrouwen van werknemers, overdrachten tussen mens en machine en aansprakelijkheid.

Originally published at https://sebastienrousseau.com/nl/2026-10-13-fysieke-ai-governance-werk-vertrouwen-aansprakelijkheid/ by Sebastien Rousseau.
Licensed under CC-BY-4.0.

SEBASTIEN ROUSSEAU FOUNDER · ENGINEER