AI fizikal dan tadbir urus tenaga kerja: kepercayaan dan liabiliti

TL;DR. Di sidang kemuncak Economist Enterprise di London, Kier Group dan BSI membincangkan kepercayaan pekerja, bahaya serah kawalan kepada manusia dan agihan liabiliti robot.

Intipati utama

Kejutan penjelmaan fizikal: melangkaui automasi berasaskan skrin. Dalam sesi panel A meeting of minds (and machines): Humans, robots and the redesign of work (Pertemuan minda (dan mesin): manusia, robot dan reka bentuk semula kerja), pemimpin perusahaan meneliti geseran psikologi…
Dilema serah kawalan: menyelesaikan “sisi gelap autonomi”. Perdebatan teknikal utama dalam sesi ini tertumpu pada kelemahan keselamatan yang serius dalam autonomi separa, isu yang dinamakan “sisi gelap autonomi” oleh ahli robotik dan jurutera faktor manusia.
Perbandingan rangka kerja: model tadbir urus operasi dalam robotik industri. Sumber: sintesis sumbangan panel, penyelidikan psikologi pekerjaan dan piawaian tadbir urus risiko infrastruktur yang dibentangkan di Economist Enterprise Physical AI and Robotics Summit (Convene 200 Aldersgate,…
Maksudnya mengikut sektor. Reka bentuk semula kerja dari segi operasi, keselamatan dan undang-undang dilaksanakan secara berbeza merentas menegak industri fizikal.

Apabila perisian perusahaan gagal, ia merosakkan pangkalan data, memutuskan sambungan rangkaian atau membocorkan token. Apabila sistem AI fizikal gagal, ratusan kilogram keluli bersendi, penggerak hidraulik berdaya kilas tinggi atau jentera kerja tanah autonomi berlanggar dengan infrastruktur fizikal atau tubuh manusia. Di Economist Enterprise Physical AI and Robotics Summit yang diadakan di Convene 200 Aldersgate, London, pada 13 Oktober 2026, satu panel peringkat tinggi berhimpun untuk membincangkan sempadan operasi, etika dan undang-undang autonomi industri yang mendesak: bagaimana mengekalkan kepercayaan pekerja, mengelakkan kegagalan kognitif semasa serah kawalan dan membina rangka kerja liabiliti yang boleh dipertahankan dari segi undang-undang apabila mesin pintar mengambil alih barisan hadapan.

Kejutan penjelmaan fizikal: melangkaui automasi berasaskan skrin #

Dalam sesi panel A meeting of minds (and machines): Humans, robots and the redesign of work (Pertemuan minda (dan mesin): manusia, robot dan reka bentuk semula kerja), pemimpin perusahaan meneliti geseran psikologi tersendiri yang timbul apabila kecerdasan buatan meninggalkan skrin dan memasuki ruang kerja fizikal.

Laura Bishop, ketua sektor digital AI dan keselamatan siber di British Standards Institution (BSI) serta pakar psikologi pekerjaan, merumuskan cabaran terasnya: apabila pekerja berinteraksi dengan model bahasa besar atau kopilot desktop, mereka mengekalkan jarak emosi. Perisian itu wujud di sebalik kaca terminal; ia boleh dikecilkan atau dimatikan.

Sebaliknya, AI fizikal menduduki ruang fizikal. Jengkaut autonomi di projek lebuh raya utama, lengan robot kolaboratif mudah alih yang mengambil peti di sisi pekerja gudang, atau pelantar perobohan robotik yang bergerak dalam bangunan komersial yang sempit berkongsi persekitaran fizikal yang sama dengan tenaga kerja manusia. Apabila pekerja melihat mesin yang memiliki kuasa fizikal dan keupayaan membuat keputusan secara autonomi, penentangan psikologi menjadi lebih kuat. Pekerja mengalami apa yang disebut Bishop sebagai “ancaman berganda”: ketakutan eksistensial akan digantikan dari segi ekonomi ditambah kebimbangan segera terhadap keselamatan fizikal.

Louisa Finlay, Ketua Pegawai Operasi Kier Group (salah satu kumpulan infrastruktur, pembinaan dan perkhidmatan terkemuka di United Kingdom), mengesahkan bahawa penerimaan teknologi yang berjaya dalam industri berat tidak boleh dipacu oleh arahan eksekutif dari atas ke bawah. Pekerja barisan hadapan dalam pembinaan, kerja tanah dan infrastruktur sangat pragmatik. Jika sesuatu teknologi dilihat sebagai alat pengawasan, risiko keselamatan atau mekanisme yang direka untuk mengurangkan bilangan pekerja, pekerja akan menentang, memintas atau mensabotajnya.

Pendekatan Kier Group berpusat pada penglibatan yang langsung, visual dan telus. Finlay menegaskan bahawa pemimpin mesti benar-benar jujur tentang perubahan organisasi. Peranan pentadbiran dan penjejakan manual akan berkurangan; namun mesin boleh menghapuskan tugas yang menyebabkan kecederaan muskuloskeletal jangka panjang, silikosis dan kemalangan industri yang membawa maut.

Dilema serah kawalan: menyelesaikan “sisi gelap autonomi” #

Perdebatan teknikal utama dalam sesi ini tertumpu pada kelemahan keselamatan yang serius dalam autonomi separa, isu yang dinamakan “sisi gelap autonomi” oleh ahli robotik dan jurutera faktor manusia.

Dalam sistem autonomi Tahap 2 dan Tahap 3 (sama ada kenderaan autonomi atau mesin industri kolaboratif), robot melaksanakan tugas secara bebas dalam keadaan biasa, tetapi memerlukan operator manusia untuk memantau sistem dan mengambil alih kawalan manual setiap kali berlaku anomali.

Laura Bishop dan pelaksana sistem Roman memberi amaran bahawa model penyeliaan ini cacat secara berbahaya dari sudut kognisi manusia:

Pemunggahan kognitif dan kemerosotan kewaspadaan: otak manusia secara biologi tidak mampu mengekalkan kewaspadaan aktif sambil memerhati secara pasif sebuah mesin melakukan tugas berulang tanpa ralat selama berjam-jam. Dalam masa dua puluh minit, perhatian operator melayang, masa tindak balas berganda dan penjejakan mata mengesahkan keterputusan kognitif.
Jurang pemulihan kesedaran situasi: apabila kes pinggir yang tidak dijangka berlaku (contohnya talian utiliti bawah tanah yang tidak dipetakan ditemui semasa penggalian parit robotik, atau pejalan kaki melangkah ke titik buta), sistem autonomi tiba-tiba membunyikan penggera kecemasan dan menyerahkan semula kawalan kepada operator. Kajian menunjukkan bahawa memulihkan sepenuhnya kesedaran situasi visual-ruang, memahami mod kegagalan dan melaksanakan campur tangan fizikal yang berkesan memerlukan lima hingga lima belas saat. Dalam operasi kinetik berkelajuan tinggi, kelewatan itu membawa maut.
Zon remuk moral: bergantung pada pengawasan manusia yang pasif sering menjadi perisai liabiliti korporat, menjadikan pekerja manusia sebagai “zon remuk moral” yang menanggung kesalahan undang-undang dan jenayah atas kegagalan algoritma sistem automatik semata-mata kerana dia memegang kuasa nominal untuk mengatasi kawalan.

Konsensus BSI dan Kier Group ialah sistem industri mesti beralih kepada domain reka bentuk operasi (ODD) yang dipantau dengan sampul henti yang kekal beroperasi atau selamat apabila gagal. Apabila mesin autonomi berdepan anomali di luar sempadan yang diperakui, ia tidak boleh menyerahkan kawalan secara mendadak kepada manusia yang tidak bersedia; ia mesti beralih secara autonomi kepada keadaan selamat bertenaga sifar yang boleh diramal (seperti mengenakan brek, menurunkan lengan jentera dan memutuskan tekanan hidraulik) sambil meminta semakan manusia.

Perbandingan rangka kerja: model tadbir urus operasi dalam robotik industri #

Paksi tadbir urus	Model penerima awal tanpa kawal selia	Penyelia pasif (“manusia sebagai sandaran”)	Rangka kerja tanggungjawab bersama yang diperakui (piawaian BSI / Kier)
Komunikasi dengan pekerja	Legap; automasi diperkenalkan secara mendadak untuk segera memotong kos seunit	Latihan pematuhan dari atas ke bawah; pekerja disuruh “memerhati mesin”	Dialog telus; pekerja terlibat dalam reka bentuk alat, latihan semula dan audit keselamatan
Protokol serah kawalan kognitif	Penggera bunyi mendadak yang menuntut campur tangan manusia serta-merta	Pengambilalihan manual dijangka dalam 1 hingga 2 saat selepas kerosakan sistem	Domain operasi yang terbatas; peralihan automatik kepada henti selamat bertenaga sifar
Agihan liabiliti	Tidak ditakrifkan; terkubur dalam penafian standard vendor	Ditolak ke bawah kepada operator barisan hadapan atau penyelia tapak	Matriks kontrak tiga peringkat (pembekal model, penyepadu sistem, pelaksana tapak)
Pematuhan peraturan	Minimum; pemerakuan sendiri asas di bawah arahan jentera	Pemagaran robot industri piawai ISO 10218-1/2	Pematuhan penuh kepada ISO/TS 15066, piawaian BSI PAS dan mandat berisiko tinggi Akta AI EU
Pengunderaitan insurans	Premium tinggi; perlindungan bersyarat kerana risiko yang tidak dipetakan	Liabiliti komersial standard dengan fasal subrogasi yang ketat	Pengunderaitan risiko yang disesuaikan berdasarkan telemetri yang diaudit dan log telemetri masa jalan
Takrif peranan pekerja	Tenaga kerja yang tersisih atau penjaga mesin bergaji rendah	Pemantau pasif bertekanan tinggi yang mudah mengalami keletihan kognitif	Penyelia armada bertauliah, pengurus teleoperasi dan peneraju logistik digital

Sumber: sintesis sumbangan panel, penyelidikan psikologi pekerjaan dan piawaian tadbir urus risiko infrastruktur yang dibentangkan di Economist Enterprise Physical AI and Robotics Summit (Convene 200 Aldersgate, London, 13 Oktober 2026).

Maksudnya mengikut sektor #

Reka bentuk semula kerja dari segi operasi, keselamatan dan undang-undang dilaksanakan secara berbeza merentas menegak industri fizikal.

Pembinaan berat dan infrastruktur #

Dalam infrastruktur awam, kekurangan tenaga kerja, demografi yang semakin tua dan risiko keselamatan yang melampau mewujudkan keperluan mendesak untuk automasi. Pembinaan kekal sebagai salah satu industri paling berbahaya di dunia, dengan ribuan kecederaan teruk dan kematian setiap tahun akibat jatuh dari tempat tinggi, keruntuhan struktur dan rempuhan jentera berat.

Louisa Finlay menghuraikan bagaimana Kier Group mereka bentuk semula operasi barisan hadapan dengan mengautomasikan kerja fizikal yang berbahaya. Pemacuan cerucuk robotik autonomi, penggelek pemadat automatik dan ukur isi padu berasaskan dron menjauhkan pekerja manusia daripada tebing parit yang berbahaya dan jalan angkut yang aktif.

Yang penting, operator jentera yang sebelum ini menghabiskan lapan jam di dalam kabin diesel yang bergegar dan terdedah kepada debu dan bunyi bising kini dilatih semula sebagai pengurus tapak digital. Dari kabin kawalan tapak berhawa dingin atau pusat operasi jarak jauh, pekerja ini menyelia beberapa mesin separa autonomi serentak menggunakan suapan video definisi tinggi dan telemetri kembar digital. Kepuasan pekerja meningkat kerana keletihan fizikal dan risiko kecederaan berkurangan, manakala ganjaran sejajar dengan tahap kemahiran teknikal yang lebih tinggi.

Utiliti awam dan penyelenggaraan awam #

Dalam rawatan air, penyahtauliahan nuklear dan penyelenggaraan grid elektrik, pekerja berdepan persekitaran toksik, berradiasi tinggi atau bervoltan tinggi. Perangkak pemeriksaan autonomi dan dron udara menggantikan kemasukan manusia ke dalam pembetung yang sempit dan pencawang.

Tadbir urus dalam sektor ini sangat tertumpu pada integriti siber-fizikal. Seperti dinyatakan Laura Bishop, sistem AI fizikal ialah titik akhir IoT bersambung yang mempunyai penggerak kinetik. Jika robot pendos bahan kimia autonomi atau manipulator injap saluran paip mengalami pencerobohan keselamatan siber, akibatnya bukan kecurian data tetapi pencemaran alam sekitar secara fizikal. Tadbir urus operasi memerlukan log audit yang tidak boleh diubah dan ditandatangani secara kriptografi, serta jurang udara perkakasan fizikal pada pemutus yang kritikal bagi keselamatan.

Logistik dan rangkaian pemenuhan pesanan #

Pusat pemenuhan pesanan e-dagang menjadi medan ujian utama bagi robot mudah alih autonomi kolaboratif (AMR). Namun, pelaksanaan awal yang menganggap pekerja sebagai pemetik berkelajuan tinggi mengikut rentak algoritma penghantar robotik membawa kepada kadar pusing ganti pekerja yang melampau dan geseran dengan kesatuan sekerja.

Tadbir urus logistik moden mengutamakan kerjasama ergonomik. Troli autonomi membawa tong berat di antara lorong pemetikan, membolehkan pekerja manusia kekal di zon pemetikan yang dioptimumkan secara ergonomik, tempat mereka melakukan pemeriksaan sentuhan dan pengisihan barang. Metrik sistem beralih daripada kuota pemetikan setiap minit yang bersifat menghukum kepada ketepatan pemenuhan pesanan pasukan secara keseluruhan, sekali gus membina budaya saling bergantung antara manusia dan mesin.

Kejuruteraan kontrak: menstruktur liabiliti berbilang peringkat #

Siapakah yang bertanggungjawab dari segi undang-undang apabila robot autonomi menyebabkan kerosakan fizikal atau kecederaan? Panel menjawab soalan ini secara langsung dan menolak tanggapan mudah bahawa liabiliti boleh diletakkan pada satu pihak sahaja.

Dalam AI fizikal moden, sistem autonomi ialah himpunan kompleks yang terdiri daripada model asas, penalaan halus khusus, penderia komersial, casis mekanikal dan penyepaduan peringkat tapak.

Perusahaan pelaksana menubuhkan kontrak agihan risiko tiga peringkat:

Peringkat 1: pembekal model asas dan perkakasan OEM #

Pengilang peralatan asal (OEM) dan pembangun model asas menanggung liabiliti bagi kecacatan algoritma intrinsik, kegagalan mekanikal perkakasan dan pelanggaran sampul keselamatan yang telah dilatih terlebih dahulu. Jika sesuatu model menghasilkan halusinasi yang memintas had keselamatan teras bagi input dalam spesifikasi yang diperakuinya, liabiliti terletak pada pembekal.

Peringkat 2: penyepadu sistem dan pelaksana domain #

Penyepadu sistem yang bertanggungjawab menala halus model pada set data khusus domain, menentukur tatasusunan kamera dan LiDAR, serta memprogram logik sempadan setempat menanggung liabiliti bagi kecacatan penyepaduan. Kontrak penyepadu mesti mentakrifkan secara jelas domain reka bentuk operasi persekitaran (ODD), dengan menetapkan parameter pencahayaan, cuaca, tahap debu dan kecerunan lantai yang boleh diterima.

Peringkat 3: perusahaan pengendali dan pemilik tapak #

Perusahaan yang menggunakan robot di tapak kekal bertanggungjawab terhadap pematuhan alam sekitar, penyelenggaraan ruang kerja fizikal dan latihan tenaga kerja. Jika pengurus tapak membenarkan kakitangan tanpa kebenaran memasuki zon operasi robotik yang aktif, mematikan pagar geografi keselamatan fizikal atau gagal mematuhi jadual penentukuran yang diwajibkan, liabiliti kekal pada pengendali tapak.

Dengan mengkodifikasikan sempadan ini ke dalam kontrak komersial dan menyelaraskannya dengan keperluan pengunderaitan penanggung insurans, perusahaan boleh menggunakan AI fizikal dengan kepastian undang-undang yang jelas dan bukannya menunggu duluan mahkamah selepas berlakunya bencana industri.

Kesimpulan #

Pandangan yang dikongsi oleh Louisa Finlay, Laura Bishop dan ahli panel lain di Economist Enterprise Physical AI and Robotics Summit menjelaskan satu hakikat: halangan terbesar untuk meluaskan skala AI fizikal merentas operasi perusahaan bukanlah kecanggihan rangkaian neural atau ketumpatan kuasa penggerak tanpa berus; halangan itu ialah tadbir urus manusia.

Robot beroperasi di dunia fizikal, di sisi manusia yang sumber rezeki, maruah dan keselamatan tubuhnya terikat rapat dengan persekitaran kerja mereka. Mana-mana pasukan kepimpinan perusahaan yang mendekati AI fizikal semata-mata sebagai latihan kewangan untuk menghapuskan kos buruh akan berdepan penentangan budaya yang sengit, kegagalan keselamatan serah kawalan yang serius dan liabiliti kawal selia yang melumpuhkan.

Kelebihan operasi yang sebenar menjadi milik organisasi yang menganggap AI fizikal sebagai pemangkin bagi reka bentuk semula kerja secara mendalam. Dengan menghapuskan kerja berbahaya, menghormati had kognitif dalam interaksi manusia-mesin dan merekayasa garis kebertanggungjawaban kontrak yang jelas, perusahaan yang berpandangan jauh boleh membina masa depan di mana mesin pintar dan pekerja manusia yang diperkasakan bekerjasama membina industri yang lebih selamat dan berdaya tahan.

Soalan Lazim #

Mengapakah AI fizikal mencetuskan kebimbangan pekerja yang lebih besar berbanding AI berasaskan perisian? Tidak seperti automasi perisian (seperti chatbot atau analitik ramalan) yang hanya wujud pada skrin, AI fizikal beroperasi di dunia fizikal dengan tenaga kinetik, jisim dan kelajuan. Pekerja mengalami “ancaman berganda” yang lebih kuat: ketakutan eksistensial kehilangan pekerjaan ditambah kebimbangan mendalam terhadap keselamatan fizikal mereka dalam ruang kerja yang dikongsi.

Apakah “sisi gelap autonomi” dalam robotik? “Sisi gelap autonomi” merujuk kepada kegagalan kognitif yang berlaku apabila operator manusia ditugaskan untuk memantau sistem separa autonomi secara pasif sebagai sandaran keselamatan. Manusia secara biologi tidak mampu mengekalkan kewaspadaan semasa pemantauan pasif yang berpanjangan. Apabila kegagalan kes pinggir berlaku, operator mengalami defisit kesedaran situasi yang teruk dan tidak dapat bertindak cukup pantas untuk mengelakkan kemalangan.

Bagaimanakah Kier Group mendekati penerimaan AI fizikal dalam pembinaan? Kier Group memberi tumpuan kepada penglibatan yang telus dan visual dengan tenaga kerja barisan hadapan. Daripada meletakkan robotik sebagai alat pengurangan bilangan pekerja, Kier membingkaikan automasi sebagai cara untuk menghapuskan kerja berbahaya yang melemahkan fizikal - seperti penggalian parit, bekerja di tempat tinggi dan mengangkat beban berat. Pekerja dilatih semula untuk peranan penyeliaan dan mengendalikan beberapa mesin separa autonomi dari jauh dalam persekitaran yang selamat dan terkawal.

Bagaimanakah liabiliti kontrak harus dibahagikan dalam kemalangan robotik autonomi? Liabiliti harus diagihkan kepada tiga peringkat berdasarkan kawalan ke atas keputusan: pembekal model asas dan OEM bertanggungjawab atas kegagalan algoritma dalam parameter yang diperakui; penyepadu sistem bertanggungjawab atas penentukuran khusus tapak, pemasangan penderia dan penyesuaian domain; manakala pelaksana tapak bertanggungjawab mengekalkan pemagaran geografi ruang kerja, keselamatan persekitaran dan latihan operator.

Piawaian apakah yang mengawal penggunaan robot industri kolaboratif secara selamat? Piawaian utama termasuk ISO 10218-1 dan ISO 10218-2 (keperluan keselamatan untuk robot industri dan penyepaduan sistem), ISO/TS 15066 (keperluan keselamatan khusus untuk operasi robot kolaboratif dan had daya sentuhan manusia-robot), panduan baharu British Standards Institution (BSI) mengenai tadbir urus sistem autonomi, serta keperluan pematuhan jentera berisiko tinggi dalam Akta AI EU.

Rujukan #

Economist Enterprise, (2026). Physical AI & Robotics Summit: kelebihan operasi melalui sistem autonomi ⧉. Economist Enterprise.
Finlay, L., (2026). A meeting of minds (and machines): manusia, robot dan reka bentuk semula kerja ⧉. Kier Group.
Bishop, L., (2026). Faktor manusia, keselamatan psikologi dan tadbir urus dalam sistem autonomi ⧉. British Standards Institution (BSI).
British Standards Institution, (2025). BSI PAS 2025: tadbir urus dan penggunaan beretika sistem mudah alih autonomi dalam persekitaran industri ⧉. BSI.
European Parliament and Council, (2024). Peraturan (EU) 2024/1689 yang menetapkan peraturan diharmonikan mengenai kecerdasan buatan (Akta Kecerdasan Buatan) ⧉. Official Journal of the European Union.
Bainbridge, L., (1983). Ironi automasi ⧉. Automatica, 19(6), 775-779.
International Organization for Standardization, (2026). ISO/TS 15066:2026 Robot dan peranti robotik - robot kolaboratif ⧉. ISO.

Semakan terakhir 2026-10-13.

Semakan terakhir 2026-10-27.

Terbit semula artikel ini

AI fizikal dan tadbir urus tenaga kerja: kepercayaan dan liabiliti — Sebastien Rousseau

Di sidang kemuncak Economist Enterprise di London, Kier Group dan BSI membincangkan kepercayaan pekerja, bahaya serah kawalan kepada manusia dan agihan liabiliti robot.

Artikel ini dilesenkan di bawah Creative Commons Attribution 4.0 International. Penerbitan semula memerlukan atribusi kepada URL kanonik.

AI fizikal dan tadbir urus tenaga kerja: kepercayaan dan liabiliti — Sebastien Rousseau

Di sidang kemuncak Economist Enterprise di London, Kier Group dan BSI membincangkan kepercayaan pekerja, bahaya serah kawalan kepada manusia dan agihan liabiliti robot.

Originally published at https://sebastienrousseau.com/ms/2026-10-13-fizikal-dan-tadbir-urus-tenaga-kerja/ by Sebastien Rousseau.
Licensed under CC-BY-4.0.

SEBASTIEN ROUSSEAU FOUNDER · ENGINEER