Физический ИИ и управление персоналом: доверие и ответственность

TL;DR. На саммите Economist Enterprise в Лондоне Kier Group и BSI обсудили доверие персонала, опасную передачу управления человеку и распределение ответственности за роботов.

Ключевые выводы

Шок физического воплощения: за пределами экранной автоматизации. На панельной сессии A meeting of minds (and machines): Humans, robots and the redesign of work («Встреча умов (и машин): люди, роботы и перестройка работы») руководители предприятий разобрали особое психологическое…
Дилемма передачи управления: решение проблемы «тёмной стороны автономии». Главная техническая дискуссия сессии касалась серьёзных уязвимостей безопасности, присущих частичной автономии; робототехники и инженеры по человеческому фактору называют эту проблему «тёмной стороной автономии».
Сравнение подходов: модели операционного управления в промышленной робототехнике. Источник: обобщение выступлений участников панели, исследований в области психологии труда и стандартов управления рисками инфраструктуры, представленных на саммите Economist Enterprise Physical AI and Robotics…
Что это означает для отраслей. Операционная, правовая перестройка работы и перестройка безопасности по-разному проходят в разных отраслях физической промышленности.

Когда отказывает корпоративное программное обеспечение, оно портит базу данных, обрывает сетевое соединение или допускает утечку токена. Когда отказывает система физического ИИ, сотни килограммов шарнирной стали, высокомоментные гидравлические приводы или автономная землеройная техника сталкиваются с физической инфраструктурой или с человеческими телами. На саммите Economist Enterprise Physical AI and Robotics Summit, прошедшем 13 октября 2026 года в Convene 200 Aldersgate в Лондоне, панель высокого уровня собралась, чтобы обсудить неотложные операционные, этические и правовые рубежи промышленной автономии: как сохранить доверие персонала, предотвратить когнитивные сбои при передаче управления и выстроить юридически защитимые схемы ответственности, когда интеллектуальные машины выходят на передовую.

Шок физического воплощения: за пределами экранной автоматизации #

На панельной сессии A meeting of minds (and machines): Humans, robots and the redesign of work («Встреча умов (и машин): люди, роботы и перестройка работы») руководители предприятий разобрали особое психологическое трение, которое возникает, когда искусственный интеллект покидает экран и входит в физическое рабочее пространство.

Лора Бишоп, руководитель цифрового направления по ИИ и кибербезопасности в Британском институте стандартов (BSI) и специалист по психологии труда, сформулировала главную проблему: взаимодействуя с большими языковыми моделями или настольными копилотами, сотрудники сохраняют эмоциональную дистанцию. Программа живёт за стеклом терминала; её можно свернуть или выключить.

Физический ИИ, напротив, занимает физическое пространство. Автономный экскаватор на крупном проекте автомагистрали, мобильная коллаборативная роботизированная рука, собирающая ящики рядом со складскими работниками, или роботизированная установка для демонтажа, перемещающаяся по тесному коммерческому зданию, делят с людьми одну и ту же физическую среду. Когда работники видят машину, которая обладает и физической силой, и способностью принимать решения самостоятельно, психологическое сопротивление усиливается. Работники испытывают то, что Бишоп назвала «двойной угрозой»: экзистенциальный страх экономической замены в сочетании с непосредственной тревогой за физическую безопасность.

Луиза Финли, операционный директор Kier Group (одной из ведущих групп Великобритании в области инфраструктуры, строительства и услуг), подтвердила, что успешное внедрение технологий в тяжёлой промышленности невозможно навязать директивами сверху. Рабочие на передовой в строительстве, земляных работах и инфраструктуре предельно прагматичны. Если технологию воспринимают как средство слежки, угрозу безопасности или инструмент сокращения штата, работники будут ей сопротивляться, обходить её или саботировать.

Подход Kier Group строится на прямом, наглядном и прозрачном вовлечении. Финли подчеркнула, что руководители должны быть предельно честны в отношении организационных изменений. Административные роли и ручной учёт сократятся; однако машины способны устранить задачи, которые ведут к долгосрочным травмам опорно-двигательного аппарата, силикозу и смертельным несчастным случаям на производстве.

Дилемма передачи управления: решение проблемы «тёмной стороны автономии» #

Главная техническая дискуссия сессии касалась серьёзных уязвимостей безопасности, присущих частичной автономии; робототехники и инженеры по человеческому фактору называют эту проблему «тёмной стороной автономии».

В автономных системах уровней 2 и 3 (будь то беспилотные автомобили или коллаборативные промышленные машины) робот в обычных условиях выполняет задачи самостоятельно, но требует, чтобы человек-оператор следил за системой и брал ручное управление при любой аномалии.

Лора Бишоп и специалист по внедрению систем Роман предупредили, что с точки зрения человеческого познания такая надзорная модель опасно ошибочна:

Когнитивная разгрузка и угасание бдительности: человеческий мозг биологически не способен сохранять активную бдительность, часами пассивно наблюдая, как машина безошибочно выполняет повторяющиеся задачи. Уже через двадцать минут внимание оператора рассеивается, время реакции удваивается, а отслеживание взгляда подтверждает когнитивное отключение.
Разрыв в восстановлении ситуационной осведомлённости: когда возникает неожиданная пограничная ситуация (например, при роботизированной прокладке траншеи обнаруживается не нанесённая на карту подземная коммуникация или пешеход выходит в слепую зону), автономная система внезапно подаёт аварийный сигнал и возвращает управление оператору. Исследования показывают, что для полного восстановления зрительно-пространственной ситуационной осведомлённости, понимания характера отказа и эффективного физического вмешательства нужно от пяти до пятнадцати секунд. В высокоскоростных кинетических операциях такая задержка смертельна.
Моральная зона смятия: опора на пассивный человеческий надзор часто служит корпоративным щитом от ответственности и превращает работника в «моральную зону смятия», которая принимает на себя юридическую и уголовную вину за алгоритмический сбой автоматизированной системы лишь потому, что формально имела право вмешаться.

Общий вывод BSI и Kier Group: промышленные системы должны перейти к контролируемым операционным областям проектирования (ODD) с отказоустойчивыми или безопасными рамками остановки. Когда автономная машина сталкивается с аномалией за пределами сертифицированных границ, она не должна резко передавать управление неподготовленному человеку; она должна самостоятельно перейти в предсказуемое безопасное состояние с нулевой энергией (затянуть тормоза, опустить стрелы, сбросить гидравлическое давление) и запросить проверку человеком.

Сравнение подходов: модели операционного управления в промышленной робототехнике #

Ось управления	Нерегулируемая модель ранних последователей	Пассивный надзор («человек как страховка»)	Сертифицированная модель разделённой ответственности (стандарт BSI / Kier)
Коммуникация с персоналом	Непрозрачная; автоматизацию вводят внезапно ради немедленного сокращения удельных затрат	Обучение соблюдению правил сверху вниз; работникам велят «следить за машиной»	Прозрачный диалог; работники участвуют в проектировании инструментов, переобучении и аудитах безопасности
Протокол когнитивной передачи управления	Внезапный звуковой сигнал, требующий немедленного вмешательства человека	Ожидаемое ручное вмешательство в течение 1–2 секунд после сбоя системы	Ограниченные операционные области; автоматический переход к безопасной остановке с нулевой энергией
Распределение ответственности	Не определено; скрыто в стандартных оговорках поставщика	Переложено вниз, на оператора на передовой или мастера участка	Трёхуровневая договорная матрица (поставщик модели, системный интегратор, эксплуатант площадки)
Соответствие нормам	Минимальное; базовая самосертификация по директиве о машинах	Стандартное ограждение промышленных роботов по ISO 10218-1/2	Полное соответствие ISO/TS 15066, стандартам BSI PAS и требованиям Закона ЕС об ИИ для систем высокого риска
Страхование	Высокие премии; условное покрытие из-за неучтённых рисков	Стандартная коммерческая ответственность с жёсткими условиями суброгации	Индивидуальная оценка рисков на основе проверенной телеметрии и журналов телеметрии во время работы
Определение роли работника	Вытесненный труд или низкооплачиваемый оператор машины	Пассивный наблюдатель в условиях сильного стресса, склонный к когнитивной усталости	Сертифицированный руководитель парка машин, менеджер телеуправления и руководитель цифровой логистики

Источник: обобщение выступлений участников панели, исследований в области психологии труда и стандартов управления рисками инфраструктуры, представленных на саммите Economist Enterprise Physical AI and Robotics Summit (Convene 200 Aldersgate, Лондон, 13 октября 2026 года).

Что это означает для отраслей #

Операционная, правовая перестройка работы и перестройка безопасности по-разному проходят в разных отраслях физической промышленности.

Тяжёлое строительство и инфраструктура #

В гражданской инфраструктуре нехватка рабочей силы, старение кадров и крайние риски для безопасности создают острую потребность в автоматизации. Строительство остаётся одной из самых опасных отраслей в мире: ежегодно на нём происходят тысячи тяжёлых травм и смертей из-за падений с высоты, обрушений конструкций и наездов тяжёлой техники.

Луиза Финли рассказала, как Kier Group перестраивает работу на передовой, автоматизируя опасный физический труд. Автономная роботизированная забивка свай, автоматизированные уплотняющие катки и объёмная съёмка с дронов уводят людей от опасных краёв траншей и действующих технологических дорог.

Важно, что операторы техники, которые раньше проводили по восемь часов в вибрирующих дизельных кабинах под пылью и шумом, переобучаются в цифровых руководителей площадок. Работая из кондиционируемых кабин управления на площадке или из удалённых операционных центров, они одновременно контролируют несколько полуавтономных машин по видеопотокам высокой чёткости и телеметрии цифровых двойников. Удовлетворённость персонала растёт: физическая усталость и риск травм снижаются, а оплата соответствует более высокому уровню технической квалификации.

Коммунальные службы и обслуживание сооружений #

На водоочистке, выводе ядерных объектов из эксплуатации и обслуживании электросетей работники имеют дело с токсичными средами, высоким уровнем радиации или высоким напряжением. Автономные инспекционные краулеры и летающие дроны заменяют людей при спуске в тесные коллекторы и на подстанции.

Управление в этой отрасли сосредоточено прежде всего на киберфизической целостности. Как отметила Лора Бишоп, системы физического ИИ представляют собой подключённые конечные точки IoT с кинетическими приводами. Если автономный робот-дозатор химикатов или манипулятор трубопроводной арматуры подвергается кибератаке, последствием становится не кража данных, а физическое загрязнение окружающей среды. Операционное управление требует неизменяемых журналов аудита с криптографической подписью и физической аппаратной изоляции на критически важных для безопасности отключениях.

Логистика и сети исполнения заказов #

Центры исполнения заказов электронной коммерции стали главным испытательным полигоном для коллаборативных автономных мобильных роботов (AMR). Однако ранние внедрения, в которых работники были скоростными комплектовщиками в темпе роботизированных конвейерных алгоритмов, привели к крайне высокой текучести кадров и трениям с профсоюзами.

Современное управление логистикой ставит во главу угла эргономичное сотрудничество. Автономные тележки перевозят тяжёлые контейнеры между стеллажами, позволяя людям оставаться в эргономично оптимизированных зонах комплектации, где они выполняют тактильный контроль и сортировку товаров. Метрики системы смещаются от карательных поминутных норм комплектации к общей точности исполнения заказов командой, формируя культуру взаимной опоры человека и машины.

Договорная инженерия: построение многоуровневой ответственности #

Кто несёт юридическую ответственность, когда автономный робот причиняет физический ущерб или травму? Участники панели ответили на этот вопрос прямо и отвергли упрощённую идею, что ответственность может лежать на одной стороне.

В современном физическом ИИ автономные системы представляют собой сложные сборки из базовых моделей, специализированной донастройки, коммерческих датчиков, механических шасси и интеграции на уровне площадки.

Эксплуатирующие предприятия заключают договоры с трёхуровневым распределением рисков:

Уровень 1: поставщики базовых моделей и оборудования OEM #

Производитель оригинального оборудования (OEM) и разработчик базовой модели отвечают за внутренние алгоритмические дефекты, механические отказы оборудования и нарушения заранее обученных рамок безопасности. Если модель выдаёт галлюцинации, обходящие ключевые ограничения безопасности при входных данных в пределах её сертифицированной спецификации, ответственность лежит на поставщике.

Уровень 2: системные интеграторы и внедренцы в отрасли #

Системный интегратор, который донастраивает модель на отраслевых наборах данных, калибрует массивы камер и LiDAR и программирует локальную логику границ, отвечает за дефекты интеграции. Договоры с интеграторами должны явно определять операционную область проектирования для среды (ODD), указывая допустимые параметры освещения, погоды, запылённости и уклона пола.

Уровень 3: эксплуатирующие предприятия и владельцы площадок #

Предприятие, которое использует робота на площадке, отвечает за соблюдение экологических требований, физическое содержание рабочего пространства и обучение персонала. Если руководитель площадки допускает посторонних в действующую зону работы роботов, отключает физические геозоны безопасности или не соблюдает обязательный график калибровки, ответственность остаётся на эксплуатанте площадки.

Закрепив эти границы в коммерческих договорах и согласовав их с требованиями страховщиков, предприятия могут внедрять физический ИИ с ясной правовой определённостью, не дожидаясь судебных прецедентов после промышленной катастрофы.

Заключение #

Выводы, которыми поделились Луиза Финли, Лора Бишоп и другие участники панели на саммите Economist Enterprise Physical AI and Robotics Summit, сделали очевидным одно: главный барьер на пути масштабирования физического ИИ в операциях предприятий заключается не в сложности нейронных сетей и не в удельной мощности бесщёточных приводов; он заключается в человеческом управлении.

Роботы работают в физическом мире рядом с людьми, чьи средства к существованию, достоинство и телесная безопасность неразрывно связаны с их рабочей средой. Любая команда руководителей, которая подходит к физическому ИИ исключительно как к финансовому упражнению по сокращению затрат на труд, столкнётся с ожесточённым культурным сопротивлением, серьёзными сбоями безопасности при передаче управления и разорительной регуляторной ответственностью.

Настоящее операционное преимущество получат организации, которые видят в физическом ИИ катализатор глубокой перестройки работы. Устраняя опасный труд, уважая когнитивные ограничения человека во взаимодействии с машиной и выстраивая чёткие договорные линии ответственности, дальновидные предприятия могут построить будущее, в котором интеллектуальные машины и наделённые полномочиями работники вместе создают более безопасные и устойчивые отрасли.

Часто задаваемые вопросы #

Почему физический ИИ вызывает у персонала больше тревоги, чем программный ИИ? В отличие от программной автоматизации (например, чат-ботов или предиктивной аналитики), которая существует только на экранах, физический ИИ действует в физическом мире и обладает кинетической энергией, массой и скоростью. Работники ощущают усиленную «двойную угрозу»: экзистенциальный страх потерять работу в сочетании с острой тревогой за собственную физическую безопасность в общем рабочем пространстве.

Что такое «тёмная сторона автономии» в робототехнике? «Тёмной стороной автономии» называют когнитивный сбой, который возникает, когда операторам поручают пассивно наблюдать за полуавтономными системами в качестве страховки. Люди биологически не способны сохранять бдительность во время длительного пассивного наблюдения. Когда происходит сбой в пограничной ситуации, операторам остро не хватает ситуационной осведомлённости, и они не успевают вмешаться, чтобы предотвратить аварию.

Как Kier Group подходит к внедрению физического ИИ в строительстве? Kier Group делает ставку на прозрачное и наглядное вовлечение работников на передовой. Вместо того чтобы представлять робототехнику как инструмент сокращения штата, Kier подаёт автоматизацию как способ избавиться от опасного, физически изнуряющего труда - такого как рытьё траншей, работы на высоте и подъём тяжестей. Рабочих переобучают на надзорные роли, и они дистанционно управляют несколькими полуавтономными машинами из безопасной контролируемой среды.

Как следует распределять договорную ответственность при авариях автономных роботов? Ответственность следует распределять по трём уровням в зависимости от контроля над решениями: поставщики базовых моделей и OEM отвечают за алгоритмические сбои в пределах сертифицированных параметров; системные интеграторы отвечают за калибровку под площадку, установку датчиков и адаптацию к отрасли; эксплуатанты площадок отвечают за поддержание геозонирования рабочего пространства, безопасность среды и обучение операторов.

Какие стандарты регулируют безопасное внедрение коллаборативных промышленных роботов? Основные стандарты: ISO 10218-1 и ISO 10218-2 (требования безопасности к промышленным роботам и системной интеграции), ISO/TS 15066 (особые требования безопасности к работе коллаборативных роботов и пределы силы контакта человека и робота), новые руководства Британского института стандартов (BSI) по управлению автономными системами и требования Закона ЕС об ИИ о соответствии машин высокого риска.

Источники #

Economist Enterprise, (2026). Physical AI & Robotics Summit: операционное преимущество за счёт автономных систем ⧉. Economist Enterprise.
Finlay, L., (2026). A meeting of minds (and machines): люди, роботы и перестройка работы ⧉. Kier Group.
Bishop, L., (2026). Человеческий фактор, психологическая безопасность и управление в автономных системах ⧉. British Standards Institution (BSI).
British Standards Institution, (2025). BSI PAS 2025: управление и этичное внедрение автономных мобильных систем в промышленной среде ⧉. BSI.
European Parliament and Council, (2024). Регламент (ЕС) 2024/1689, устанавливающий гармонизированные правила в области искусственного интеллекта (Закон об искусственном интеллекте) ⧉. Official Journal of the European Union.
Bainbridge, L., (1983). Иронии автоматизации ⧉. Automatica, 19(6), 775-779.
International Organization for Standardization, (2026). ISO/TS 15066:2026 Роботы и робототехнические устройства - коллаборативные роботы ⧉. ISO.

Последняя проверка 2026-10-13.

Последняя проверка 2026-10-27.

Опубликовать заново

Физический ИИ и управление персоналом: доверие и ответственность — Sebastien Rousseau

На саммите Economist Enterprise в Лондоне Kier Group и BSI обсудили доверие персонала, опасную передачу управления человеку и распределение ответственности за роботов.

Эта статья распространяется по лицензии Creative Commons Attribution 4.0 International. При повторной публикации требуется указание канонической ссылки.

Физический ИИ и управление персоналом: доверие и ответственность — Sebastien Rousseau

На саммите Economist Enterprise в Лондоне Kier Group и BSI обсудили доверие персонала, опасную передачу управления человеку и распределение ответственности за роботов.

Originally published at https://sebastienrousseau.com/ru/2026-10-13-fizicheskiy-ii-upravlenie-personalom-doverie-otvetstvennost/ by Sebastien Rousseau.
Licensed under CC-BY-4.0.

SEBASTIEN ROUSSEAU FOUNDER · ENGINEER