Physische KI und Belegschaft: Vertrauen, Haftung und neue Frontarbeit

TL;DR. Auf dem Physical AI Summit des Economist in London sprachen Kier Group und BSI über das Vertrauen der Belegschaft, sichere Übergaben und die Verteilung der Haftung.

Wichtige Erkenntnisse

Der Schock der physischen Verkörperung: mehr als Automatisierung am Bildschirm. In der Podiumsrunde A meeting of minds (and machines): Humans, robots and the redesign of work (Ein Treffen der Köpfe und Maschinen: Menschen, Roboter und die Neugestaltung der Arbeit) untersuchten Führungskräfte die…
Das Übergabedilemma: die „Autonomie der dunklen Seite“ lösen. Eine große technische Debatte der Sitzung drehte sich um die gravierenden Sicherheitsschwächen teilweiser Autonomie, ein Problem, das Robotiker und Human-Factors-Ingenieure „Autonomie der dunklen Seite“ (dark side…
Vergleich der Rahmen: Governance-Modelle in der Industrierobotik. Quelle: Synthese der Podiumsbeiträge, der arbeitspsychologischen Forschung und der Normen zur Risiko-Governance von Infrastruktur, vorgestellt auf dem Economist Enterprise Physical AI and Robotics Summit (Convene 200…
Was das für die einzelnen Branchen bedeutet. Die operative, sicherheitstechnische und rechtliche Neugestaltung der Arbeit verläuft je nach Branche der physischen Industrie unterschiedlich.

Wenn Unternehmenssoftware versagt, beschädigt sie eine Datenbank, verliert eine Netzwerkverbindung oder legt ein Token offen. Wenn ein physisches KI-System versagt, prallen Hunderte Kilogramm gelenkiger Stahl, hydraulische Antriebe mit hohem Drehmoment oder autonome Erdbaumaschinen auf Infrastruktur oder menschliche Körper. Auf dem Economist Enterprise Physical AI and Robotics Summit, der am 13. Oktober 2026 im Convene 200 Aldersgate in London stattfand, kam ein hochrangiges Podium zusammen, um die drängenden operativen, ethischen und rechtlichen Grenzfragen industrieller Autonomie zu behandeln: wie man das Vertrauen der Belegschaft erhält, Fehler bei der kognitiven Übergabe begrenzt und rechtlich belastbare Haftungsrahmen schafft, während intelligente Maschinen an die vorderste Front rücken.

Der Schock der physischen Verkörperung: mehr als Automatisierung am Bildschirm #

In der Podiumsrunde A meeting of minds (and machines): Humans, robots and the redesign of work (Ein Treffen der Köpfe und Maschinen: Menschen, Roboter und die Neugestaltung der Arbeit) untersuchten Führungskräfte die besondere psychologische Reibung, die entsteht, wenn künstliche Intelligenz den Bildschirm verlässt und den physischen Arbeitsplatz betritt.

Laura Bishop, Leiterin des Digitalsektors KI und Cybersicherheit bei der British Standards Institution (BSI) und Fachfrau für Arbeitspsychologie, benannte den Kern des Problems: Im Umgang mit großen Sprachmodellen oder Desktop-Copiloten bewahren Beschäftigte emotionale Distanz. Die Software existiert hinter einer Glasscheibe; man kann sie minimieren oder ausschalten.

Physische KI dagegen nimmt physischen Raum ein. Ein autonomer Bagger auf einer großen Autobahnbaustelle, ein mobiler kollaborativer Roboterarm, der neben Lagerbeschäftigten Kisten kommissioniert, oder ein robotisches Abbruchgerät in einem beengten Geschäftsgebäude teilen exakt dieselbe physische Umgebung mit der Belegschaft. Nehmen Beschäftigte eine Maschine wahr, die sowohl physische Kraft als auch autonome Entscheidungsfähigkeit besitzt, wächst der psychologische Widerstand. Sie erleben, was Bishop die „doppelte Bedrohung“ nannte: die existenzielle Angst vor wirtschaftlicher Verdrängung, verbunden mit unmittelbarer Sorge um die eigene körperliche Sicherheit.

Louisa Finlay, Chief Operating Officer der Kier Group (einer der führenden Infrastruktur-, Bau- und Dienstleistungskonzerne des Vereinigten Königreichs), bestätigte, dass sich Technologie in der Schwerindustrie nicht per Anordnung von oben einführen lässt. Beschäftigte an der Front in Bau, Erdbau und Infrastruktur sind ausgesprochen pragmatisch. Gilt eine Technologie als Überwachungsinstrument, als Sicherheitsrisiko oder als Mittel zum Stellenabbau, werden sie sich ihr widersetzen, sie umgehen oder sabotieren.

Der Ansatz der Kier Group setzt auf direkten, anschaulichen und transparenten Austausch. Finlay betonte, dass Führungskräfte radikal ehrlich über organisatorische Veränderungen sein müssen. Verwaltungs- und manuelle Erfassungsaufgaben werden schrumpfen; Maschinen können jedoch die Tätigkeiten beseitigen, die langfristige Muskel-Skelett-Schäden, Silikose und tödliche Arbeitsunfälle verursachen.

Das Übergabedilemma: die „Autonomie der dunklen Seite“ lösen #

Eine große technische Debatte der Sitzung drehte sich um die gravierenden Sicherheitsschwächen teilweiser Autonomie, ein Problem, das Robotiker und Human-Factors-Ingenieure „Autonomie der dunklen Seite“ (dark side autonomy) nennen.

In autonomen Systemen der Stufen 2 und 3 (ob autonome Fahrzeuge oder kollaborative Industriemaschinen) erledigt der Roboter Aufgaben unter normalen Bedingungen selbstständig, verlangt aber, dass ein menschlicher Bediener das System überwacht und bei jeder Anomalie die manuelle Kontrolle übernimmt.

Laura Bishop und der für den Systemeinsatz zuständige Roman warnten, dass dieses Aufsichtsmodell aus Sicht der menschlichen Kognition gefährlich fehlerhaft ist:

Kognitive Entlastung und nachlassende Wachsamkeit: Das menschliche Gehirn ist biologisch nicht in der Lage, wachsam zu bleiben, während es stundenlang passiv zusieht, wie eine Maschine fehlerfrei repetitive Aufgaben erledigt. Innerhalb von zwanzig Minuten schweift die Aufmerksamkeit ab, die Reaktionszeiten verdoppeln sich, und Eye-Tracking bestätigt das kognitive Abschalten.
Die Lücke bei der Rückgewinnung des Situationsbewusstseins: Tritt ein unerwarteter Grenzfall ein (etwa eine nicht kartierte unterirdische Versorgungsleitung beim robotischen Grabenaushub oder ein Fußgänger, der in einen toten Winkel tritt), löst das autonome System plötzlich einen Notalarm aus und gibt die Kontrolle an den Bediener zurück. Studien zeigen, dass es fünf bis fünfzehn Sekunden dauert, das vollständige visuell-räumliche Situationsbewusstsein zurückzugewinnen, den Fehlermodus zu verstehen und wirksam physisch einzugreifen. Bei kinetischen Abläufen mit hoher Geschwindigkeit ist diese Verzögerung tödlich.
Die moralische Knautschzone: Sich auf passive menschliche Aufsicht zu verlassen, dient oft als Haftungsschild für das Unternehmen und macht den Beschäftigten zur „moralischen Knautschzone“, die die rechtliche und strafrechtliche Schuld für das algorithmische Versagen eines automatisierten Systems trägt, nur weil er eine nominelle Eingriffsmöglichkeit hatte.

BSI und Kier Group sind sich einig, dass Industriesysteme zu überwachten Betriebsbereichen (ODDs) mit Fail-operational- oder Fail-safe-Stopphüllen übergehen müssen. Trifft eine autonome Maschine auf eine Anomalie außerhalb ihrer zertifizierten Grenzen, darf sie die Kontrolle nicht abrupt an einen unvorbereiteten Menschen übergeben; sie muss selbstständig in einen vorhersehbaren, energielosen sicheren Zustand wechseln (Bremsen anziehen, Ausleger absenken, Hydraulikdruck abschalten) und dabei eine menschliche Prüfung anfordern.

Vergleich der Rahmen: Governance-Modelle in der Industrierobotik #

Governance-Achse	Unregulierter Early-Adopter-Ansatz	Passiver Aufseher („der Mensch als Reserve“)	Zertifizierter Rahmen geteilter Verantwortung (BSI-/Kier-Standard)
Kommunikation mit der Belegschaft	Undurchsichtig; Automatisierung abrupt eingeführt, um kurzfristig Stückkosten zu senken	Compliance-Schulung von oben; Anweisung, „die Maschine zu beobachten“	Transparenter Dialog; Beschäftigte wirken an Werkzeuggestaltung, Umschulung und Sicherheitsaudits mit
Protokoll der kognitiven Übergabe	Plötzlicher akustischer Alarm, der sofortiges menschliches Eingreifen verlangt	Manuelles Eingreifen innerhalb von 1 bis 2 Sekunden nach einem Systemfehler erwartet	Begrenzte Betriebsbereiche; automatischer Übergang in einen sicheren, energielosen Halt
Haftungsverteilung	Undefiniert; versteckt in Standardhaftungsausschlüssen des Anbieters	Nach unten auf den Bediener oder die Bauleitung abgewälzt	Dreistufige Vertragsmatrix (Modellanbieter, Systemintegrator, Standortbetreiber)
Regulatorische Konformität	Minimal; einfache Selbstzertifizierung nach der Maschinenrichtlinie	Standardumzäunung von Industrierobotern nach ISO 10218-1/2	Volle Konformität mit ISO/TS 15066, BSI-PAS-Normen und den Hochrisikopflichten des EU AI Act
Versicherungsdeckung	Hohe Prämien; bedingte Deckung wegen nicht erfasster Risiken	Standard-Betriebshaftpflicht mit strengen Regressklauseln	Maßgeschneiderte Risikozeichnung auf Basis geprüfter Telemetrie und Laufzeit-Telemetrieprotokolle
Definition der Rolle der Beschäftigten	Verdrängte Arbeitskraft oder schlecht bezahlte Maschinenbedienung	Passiver Beobachter unter hohem Druck, anfällig für kognitive Ermüdung	Zertifizierte Flottenaufsicht, Teleoperationsleitung und digitale Logistikleitung

Quelle: Synthese der Podiumsbeiträge, der arbeitspsychologischen Forschung und der Normen zur Risiko-Governance von Infrastruktur, vorgestellt auf dem Economist Enterprise Physical AI and Robotics Summit (Convene 200 Aldersgate, London, 13. Oktober 2026).

Was das für die einzelnen Branchen bedeutet #

Die operative, sicherheitstechnische und rechtliche Neugestaltung der Arbeit verläuft je nach Branche der physischen Industrie unterschiedlich.

Schwerer Bau und Infrastruktur #

In der zivilen Infrastruktur machen Fachkräftemangel, eine alternde Belegschaft und extreme Sicherheitsrisiken Automatisierung dringend. Das Bauwesen bleibt weltweit eine der gefährlichsten Branchen und verursacht jedes Jahr Tausende schwere Verletzungen und Todesfälle durch Abstürze, Einstürze von Bauwerken und Zusammenstöße mit schweren Baumaschinen.

Louisa Finlay schilderte, wie die Kier Group ihre Abläufe an der Front neu gestaltet, indem sie gefährliche körperliche Arbeit automatisiert. Autonomes robotisches Rammen von Pfählen, automatisierte Verdichtungswalzen und Volumenvermessung per Drohne holen Beschäftigte von gefährlichen Grabenrändern und befahrenen Baustraßen weg.

Entscheidend ist, dass Maschinenführer, die früher acht Stunden in vibrierenden Dieselkabinen Staub und Lärm ausgesetzt waren, zu digitalen Baustellenleitern umgeschult werden. Aus klimatisierten Leitkabinen auf der Baustelle oder aus entfernten Leitzentralen überwachen sie gleichzeitig mehrere halbautonome Maschinen, gestützt auf hochauflösende Videostreams und die Telemetrie eines digitalen Zwillings. Die Zufriedenheit der Belegschaft steigt, weil körperliche Erschöpfung und Verletzungsrisiken sinken, während sich die Vergütung an höheren technischen Qualifikationen orientiert.

Versorgungsbetriebe und zivile Instandhaltung #

In der Wasseraufbereitung, beim Rückbau kerntechnischer Anlagen und in der Instandhaltung von Stromnetzen arbeiten Beschäftigte in giftigen, stark strahlenden oder hochspannungsführenden Umgebungen. Autonome Inspektionscrawler und Luftdrohnen ersetzen das Einsteigen von Menschen in enge Abwasserkanäle und Umspannwerke.

Die Governance in dieser Branche konzentriert sich stark auf cyber-physische Integrität. Wie Laura Bishop anmerkte, sind physische KI-Systeme vernetzte IoT-Endpunkte mit kinetischen Aktoren. Erleidet ein autonomer Roboter zur Chemikaliendosierung oder ein Ventilmanipulator an einer Pipeline einen Cyberangriff, ist die Folge kein Datendiebstahl, sondern eine physische Umweltverschmutzung. Operative Governance verlangt unveränderliche, kryptografisch signierte Auditprotokolle und eine physische Hardwaretrennung bei sicherheitskritischen Abschaltungen.

Logistik und Fulfillment-Netzwerke #

E-Commerce-Fulfillment-Zentren waren das wichtigste Testfeld für kollaborative autonome mobile Roboter (AMR). Frühe Einführungen, die Beschäftigte als Hochgeschwindigkeitskommissionierer im Takt robotischer Förderalgorithmen behandelten, führten jedoch zu extremer Fluktuation und Konflikten mit Gewerkschaften.

Moderne Logistik-Governance setzt auf ergonomische Zusammenarbeit. Autonome Wagen transportieren schwere Behälter zwischen den Kommissioniergängen, sodass Beschäftigte in ergonomisch optimierten Zonen bleiben können, wo sie Waren tastend prüfen und sortieren. Die Kennzahlen verschieben sich von strafenden Kommissionierquoten pro Minute hin zur Gesamtgenauigkeit des Teams und schaffen eine Kultur gegenseitigen Vertrauens zwischen Mensch und Maschine.

Vertragsgestaltung: Haftung auf mehreren Ebenen strukturieren #

Wer haftet rechtlich, wenn ein autonomer Roboter Sachschäden oder Verletzungen verursacht? Das Podium ging diese Frage direkt an und verwarf die vereinfachende Vorstellung, die Haftung könne bei einer einzigen Partei liegen.

In moderner physischer KI sind autonome Systeme komplexe Gefüge aus grundlegenden Foundation-Modellen, spezialisiertem Feintuning, handelsüblichen Sensoren, mechanischen Fahrgestellen und Integration auf Standortebene.

Einsetzende Unternehmen schließen Verträge zur Risikoverteilung auf drei Ebenen:

Ebene 1: Anbieter von Foundation-Modellen und OEM-Hardware #

Der Originalhersteller (OEM) und der Entwickler des Foundation-Modells haften für immanente algorithmische Mängel, mechanische Hardwareausfälle und Verletzungen der vortrainierten Sicherheitshüllen. Halluziniert ein Modell bei Eingaben innerhalb seiner zertifizierten Spezifikation so, dass zentrale Sicherheitsgrenzen umgangen werden, liegt die Haftung beim Anbieter.

Ebene 2: Systemintegratoren und Anwender der Domäne #

Der Systemintegrator, der das Modell mit domänenspezifischen Datensätzen feinabstimmt, Kamera- und LiDAR-Anordnungen kalibriert und die lokale Grenzlogik programmiert, haftet für Integrationsmängel. Integratorverträge müssen den umgebungsbezogenen Betriebsbereich (ODD) ausdrücklich festlegen und zulässige Werte für Beleuchtung, Wetter, Staub und Bodenneigung angeben.

Ebene 3: Betreiberunternehmen und Standorteigentümer #

Das Unternehmen, das den Roboter vor Ort einsetzt, bleibt verantwortlich für Umweltkonformität, die Instandhaltung des physischen Arbeitsbereichs und die Schulung der Belegschaft. Lässt eine Bauleitung unbefugtes Personal in eine aktive Roboterzone, deaktiviert physische Sicherheits-Geofences oder hält vorgeschriebene Kalibrierintervalle nicht ein, bleibt die Haftung beim Standortbetreiber.

Indem Unternehmen diese Grenzen in Handelsverträgen festschreiben und an den Zeichnungsanforderungen der Versicherer ausrichten, können sie physische KI mit klarer Rechtssicherheit einsetzen, statt auf Präzedenzfälle nach einer Industriekatastrophe zu warten.

Fazit #

Die Einschätzungen von Louisa Finlay, Laura Bishop und den weiteren Podiumsgästen auf dem Economist Enterprise Physical AI and Robotics Summit machten eines unmissverständlich klar: Das größte Hindernis für die Skalierung von physischer KI im Unternehmensbetrieb ist weder die Raffinesse neuronaler Netze noch die Leistungsdichte bürstenloser Antriebe; es ist die menschliche Governance.

Roboter arbeiten in der physischen Welt, neben Menschen, deren Lebensunterhalt, Würde und körperliche Sicherheit untrennbar mit ihrem Arbeitsumfeld verbunden sind. Jede Unternehmensführung, die physische KI rein als finanzielle Übung zur Senkung der Lohnkosten betrachtet, wird auf heftigen kulturellen Widerstand, schwere Sicherheitsmängel bei Übergaben und lähmende regulatorische Haftung stoßen.

Echter operativer Vorsprung gehört Organisationen, die physische KI als Katalysator für eine tiefgreifende Neugestaltung der Arbeit verstehen. Indem sie gefährliche Plackerei abschaffen, kognitive Grenzen in der Mensch-Maschine-Interaktion respektieren und klare vertragliche Verantwortlichkeiten festlegen, können vorausschauende Unternehmen eine Zukunft gestalten, in der intelligente Maschinen und gestärkte Beschäftigte gemeinsam sicherere, widerstandsfähigere Branchen aufbauen.

Häufig gestellte Fragen #

Warum löst physische KI in der Belegschaft mehr Angst aus als softwarebasierte KI? Anders als Softwareautomatisierung (etwa Chatbots oder Predictive Analytics), die nur auf Bildschirmen existiert, wirkt physische KI in der physischen Welt mit kinetischer Energie, Masse und Geschwindigkeit. Beschäftigte erleben eine verstärkte „doppelte Bedrohung“: die existenzielle Angst vor dem Verlust des Arbeitsplatzes, verbunden mit körperlich spürbarer Sorge um ihre Sicherheit in einem geteilten Arbeitsbereich.

Was ist die „Autonomie der dunklen Seite“ in der Robotik? Die „Autonomie der dunklen Seite“ bezeichnet das kognitive Versagen, das eintritt, wenn menschliche Bediener halbautonome Systeme als Sicherheitsreserve passiv überwachen sollen. Menschen sind biologisch nicht in der Lage, während langer Phasen passiver Überwachung wachsam zu bleiben. Tritt ein Grenzfallfehler auf, leiden Bediener unter einem schweren Mangel an Situationsbewusstsein und können nicht schnell genug eingreifen, um einen Unfall zu verhindern.

Wie geht die Kier Group die Einführung von physischer KI im Bauwesen an? Die Kier Group setzt auf transparenten, anschaulichen Austausch mit der Belegschaft an der Front. Statt Robotik als Werkzeug zum Personalabbau zu positionieren, stellt Kier Automatisierung als Weg dar, gefährliche und körperlich zermürbende Arbeit abzuschaffen, etwa Grabenaushub, Arbeiten in der Höhe und schweres Heben. Beschäftigte werden für Aufsichtsrollen umgeschult und steuern mehrere halbautonome Maschinen aus sicheren, kontrollierten Umgebungen aus der Ferne.

Wie sollte die vertragliche Haftung bei Unfällen in der autonomen Robotik aufgeteilt werden? Die Haftung sollte nach der Entscheidungskontrolle auf drei Ebenen verteilt werden: Anbieter von Foundation-Modellen und OEMs haften für algorithmische Ausfälle innerhalb zertifizierter Parameter; Systemintegratoren sind verantwortlich für standortspezifische Kalibrierung, Sensormontage und Anpassung an die Domäne; und Standortbetreiber sind zuständig für das Geofencing des Arbeitsbereichs, die Umgebungssicherheit und die Schulung der Bediener.

Welche Normen regeln den sicheren Einsatz kollaborativer Industrieroboter? Zu den wichtigsten Normen zählen ISO 10218-1 und ISO 10218-2 (Sicherheitsanforderungen an Industrieroboter und Systemintegration), ISO/TS 15066 (besondere Sicherheitsanforderungen an kollaborative Roboter und Grenzwerte für Kontaktkräfte zwischen Mensch und Roboter), neue Leitlinien der British Standards Institution (BSI) zur Governance autonomer Systeme sowie die Konformitätsanforderungen des EU AI Act für Hochrisikomaschinen.

Quellen #

Economist Enterprise, (2026). Physical AI & Robotics Summit: Betriebsvorteil durch autonome Systeme ⧉. Economist Enterprise.
Finlay, L., (2026). Ein Treffen der Köpfe (und Maschinen): Menschen, Roboter und die Neugestaltung der Arbeit ⧉. Kier Group.
Bishop, L., (2026). Menschliche Faktoren, psychologische Sicherheit und Governance in autonomen Systemen ⧉. British Standards Institution (BSI).
British Standards Institution, (2025). BSI PAS 2025: Governance und ethischer Einsatz autonomer mobiler Systeme in industriellen Umgebungen ⧉. BSI.
European Parliament and Council, (2024). Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Verordnung über künstliche Intelligenz) ⧉. Amtsblatt der Europäischen Union.
Bainbridge, L., (1983). Ironien der Automatisierung ⧉. Automatica, 19(6), 775-779.
International Organization for Standardization, (2026). ISO/TS 15066:2026 Roboter und Robotikgeräte - Kollaborierende Roboter ⧉. ISO.

Zuletzt überprüft 2026-10-13.

Zuletzt überprüft 2026-10-27.

Diesen Artikel republizieren

Physische KI und Belegschaft: Vertrauen, Haftung und neue Frontarbeit — Sebastien Rousseau

Auf dem Physical AI Summit des Economist in London sprachen Kier Group und BSI über das Vertrauen der Belegschaft, sichere Übergaben und die Verteilung der Haftung.

Dieser Artikel ist lizenziert unter Creative Commons Attribution 4.0 International. Eine Republikation erfordert Attribution zur kanonischen URL.

Physische KI und Belegschaft: Vertrauen, Haftung und neue Frontarbeit — Sebastien Rousseau

Auf dem Physical AI Summit des Economist in London sprachen Kier Group und BSI über das Vertrauen der Belegschaft, sichere Übergaben und die Verteilung der Haftung.

Originally published at https://sebastienrousseau.com/de/2026-10-13-physische-ki-belegschaft-vertrauen-haftung-neue/ by Sebastien Rousseau.
Licensed under CC-BY-4.0.

SEBASTIEN ROUSSEAU FOUNDER · ENGINEER