AI fisik dan tata kelola tenaga kerja: kepercayaan dan tanggung jawab

TL;DR. Di KTT Economist Enterprise di London, Kier Group dan BSI membahas kepercayaan pekerja, bahaya serah terima kendali ke manusia, dan pembagian tanggung jawab atas robot.

Kesimpulan utama

Guncangan perwujudan fisik: melampaui otomatisasi berbasis layar. Dalam sesi panel A meeting of minds (and machines): Humans, robots and the redesign of work (Pertemuan pikiran (dan mesin): manusia, robot, dan desain ulang pekerjaan), para pemimpin perusahaan mengkaji gesekan…
Dilema serah terima: mengatasi “sisi gelap otonomi”. Perdebatan teknis utama dalam sesi ini berfokus pada kerentanan keselamatan serius yang melekat pada otonomi parsial, masalah yang oleh ahli robotika dan insinyur faktor manusia disebut “sisi gelap otonomi”.
Perbandingan kerangka: model tata kelola operasional dalam robotika industri. Sumber: sintesis kontribusi panel, riset psikologi kerja, dan standar tata kelola risiko infrastruktur yang dipaparkan di Economist Enterprise Physical AI and Robotics Summit (Convene 200 Aldersgate, London, 13…
Apa artinya bagi tiap sektor. Desain ulang pekerjaan dari sisi operasional, keselamatan, dan hukum dijalankan secara berbeda di berbagai vertikal industri fisik.

Ketika perangkat lunak perusahaan gagal, ia merusak basis data, memutus koneksi jaringan, atau membocorkan token. Ketika sistem AI fisik gagal, ratusan kilogram baja berengsel, aktuator hidrolik bertorsi tinggi, atau alat berat pemindah tanah otonom bertabrakan dengan infrastruktur fisik atau tubuh manusia. Di Economist Enterprise Physical AI and Robotics Summit yang digelar di Convene 200 Aldersgate, London, pada 13 Oktober 2026, sebuah panel tingkat tinggi berkumpul untuk membahas batas-batas operasional, etis, dan hukum otonomi industri yang mendesak: bagaimana menjaga kepercayaan pekerja, mencegah kegagalan kognitif saat serah terima kendali, dan membangun kerangka tanggung jawab yang dapat dipertahankan secara hukum ketika mesin cerdas mengambil alih garis depan.

Guncangan perwujudan fisik: melampaui otomatisasi berbasis layar #

Dalam sesi panel A meeting of minds (and machines): Humans, robots and the redesign of work (Pertemuan pikiran (dan mesin): manusia, robot, dan desain ulang pekerjaan), para pemimpin perusahaan mengkaji gesekan psikologis khas yang muncul ketika kecerdasan buatan meninggalkan layar dan memasuki ruang kerja fisik.

Laura Bishop, pemimpin sektor digital AI dan keamanan siber di British Standards Institution (BSI) sekaligus spesialis psikologi kerja, merumuskan tantangan intinya: ketika karyawan berinteraksi dengan model bahasa besar atau kopilot desktop, mereka tetap berjarak secara emosional. Perangkat lunak itu hidup di balik kaca terminal; ia bisa diperkecil atau dimatikan.

Sebaliknya, AI fisik menempati ruang fisik. Ekskavator otonom di proyek jalan tol besar, lengan robot kolaboratif bergerak yang mengambil peti di samping petugas gudang, atau perangkat pembongkaran robotik yang bergerak di dalam gedung komersial yang sempit berbagi lingkungan fisik yang sama persis dengan tenaga kerja manusia. Ketika pekerja melihat mesin yang memiliki kekuatan fisik sekaligus kemampuan mengambil keputusan secara mandiri, resistensi psikologis menguat. Pekerja mengalami apa yang disebut Bishop sebagai “ancaman ganda”: ketakutan eksistensial akan tergantikan secara ekonomi ditambah kecemasan langsung terhadap keselamatan fisik.

Louisa Finlay, Chief Operating Officer Kier Group (salah satu grup infrastruktur, konstruksi, dan layanan terkemuka di Inggris), menegaskan bahwa adopsi teknologi yang berhasil di industri berat tidak bisa didorong lewat mandat eksekutif dari atas. Pekerja garis depan di konstruksi, pekerjaan tanah, dan infrastruktur sangat pragmatis. Jika sebuah teknologi dipandang sebagai alat pengawasan, risiko keselamatan, atau mekanisme yang dirancang untuk memangkas jumlah karyawan, pekerja akan menolaknya, mengakalinya, atau menyabotasenya.

Pendekatan Kier Group berpusat pada keterlibatan yang langsung, visual, dan transparan. Finlay menekankan bahwa pemimpin harus sepenuhnya jujur tentang perubahan organisasi. Peran administratif dan pencatatan manual akan menyusut; namun mesin dapat menghapus tugas-tugas yang menyebabkan cedera muskuloskeletal jangka panjang, silikosis, dan kecelakaan kerja yang fatal.

Dilema serah terima: mengatasi “sisi gelap otonomi” #

Perdebatan teknis utama dalam sesi ini berfokus pada kerentanan keselamatan serius yang melekat pada otonomi parsial, masalah yang oleh ahli robotika dan insinyur faktor manusia disebut “sisi gelap otonomi”.

Dalam sistem otonom Level 2 dan Level 3 (baik kendaraan otonom maupun mesin industri kolaboratif), robot menjalankan tugas secara mandiri dalam kondisi normal, tetapi memerlukan operator manusia untuk memantau sistem dan mengambil alih kendali manual setiap kali muncul anomali.

Laura Bishop dan penerap sistem Roman mengingatkan bahwa model pengawasan ini cacat secara berbahaya dari sudut pandang kognisi manusia:

Pelepasan beban kognitif dan merosotnya kewaspadaan: otak manusia secara biologis tidak mampu mempertahankan kewaspadaan aktif sambil berjam-jam mengamati secara pasif mesin yang melakukan tugas berulang tanpa kesalahan. Dalam dua puluh menit, perhatian operator mengendur, waktu reaksi berlipat dua, dan pelacakan mata mengonfirmasi keterlepasan kognitif.
Celah pemulihan kesadaran situasional: ketika terjadi kasus tepi yang tak terduga (misalnya jalur utilitas bawah tanah yang tidak terpetakan ditemukan saat penggalian parit robotik, atau pejalan kaki melangkah ke titik buta), sistem otonom tiba-tiba membunyikan alarm darurat dan menyerahkan kendali kembali kepada operator. Studi menunjukkan bahwa memulihkan sepenuhnya kesadaran situasional visual-spasial, memahami mode kegagalan, dan melakukan intervensi fisik yang efektif membutuhkan lima hingga lima belas detik. Dalam operasi kinetik berkecepatan tinggi, penundaan itu berakibat fatal.
Zona remuk moral: mengandalkan pengawasan manusia yang pasif kerap menjadi tameng tanggung jawab korporasi, mengubah pekerja menjadi “zona remuk moral” yang menanggung kesalahan hukum dan pidana atas kegagalan algoritmis sistem otomatis hanya karena ia memegang wewenang nominal untuk mengambil alih kendali.

Konsensus dari BSI dan Kier Group adalah bahwa sistem industri harus beralih ke domain desain operasional (ODD) yang dipantau dengan batas berhenti yang tetap beroperasi saat gagal atau aman saat gagal. Ketika mesin otonom menghadapi anomali di luar batas yang disertifikasi, ia tidak boleh menyerahkan kendali secara mendadak kepada manusia yang tidak siap; ia harus secara otonom beralih ke keadaan aman yang dapat diprediksi dan berenergi nol (seperti mengunci rem, menurunkan lengan, dan memutus tekanan hidrolik) sambil meminta peninjauan manusia.

Perbandingan kerangka: model tata kelola operasional dalam robotika industri #

Sumbu tata kelola	Model pengadopsi awal tanpa regulasi	Pengawas pasif (“manusia sebagai cadangan”)	Kerangka tanggung jawab bersama yang disertifikasi (standar BSI / Kier)
Komunikasi dengan pekerja	Tertutup; otomatisasi diperkenalkan mendadak untuk segera memangkas biaya per unit	Pelatihan kepatuhan dari atas ke bawah; pekerja diminta “mengawasi mesin”	Dialog transparan; pekerja dilibatkan dalam desain alat, pelatihan ulang, dan audit keselamatan
Protokol serah terima kognitif	Alarm suara mendadak yang menuntut intervensi manusia seketika	Pengambilalihan manual diharapkan dalam 1 hingga 2 detik setelah gangguan sistem	Domain operasional yang dibatasi; peralihan otomatis ke henti aman berenergi nol
Pembagian tanggung jawab	Tidak jelas; terkubur dalam penafian standar vendor	Didorong ke bawah, ke operator garis depan atau pengawas lokasi	Matriks kontrak tiga tingkat (penyedia model, integrator sistem, penerap di lokasi)
Kepatuhan regulasi	Minimal; sertifikasi mandiri dasar berdasarkan direktif mesin	Pemagaran robot industri standar ISO 10218-1/2	Kepatuhan penuh pada ISO/TS 15066, standar BSI PAS, dan mandat risiko tinggi UU AI Uni Eropa
Penjaminan asuransi	Premi tinggi; pertanggungan bersyarat karena risiko yang belum dipetakan	Tanggung gugat komersial standar dengan klausul subrogasi yang berat	Penjaminan risiko yang disesuaikan berdasarkan telemetri yang diaudit dan log telemetri saat berjalan
Definisi peran pekerja	Tenaga kerja yang tergusur atau penjaga mesin berupah rendah	Pemantau pasif bertekanan tinggi yang rentan kelelahan kognitif	Pengawas armada bersertifikat, manajer teleoperasi, dan pemimpin logistik digital

Sumber: sintesis kontribusi panel, riset psikologi kerja, dan standar tata kelola risiko infrastruktur yang dipaparkan di Economist Enterprise Physical AI and Robotics Summit (Convene 200 Aldersgate, London, 13 Oktober 2026).

Apa artinya bagi tiap sektor #

Desain ulang pekerjaan dari sisi operasional, keselamatan, dan hukum dijalankan secara berbeda di berbagai vertikal industri fisik.

Konstruksi berat dan infrastruktur #

Di infrastruktur sipil, kekurangan tenaga kerja, demografi yang menua, dan risiko keselamatan yang ekstrem menciptakan kebutuhan mendesak akan otomatisasi. Konstruksi tetap menjadi salah satu industri paling berbahaya di dunia, dengan ribuan cedera berat dan kematian setiap tahun akibat jatuh dari ketinggian, runtuhnya struktur, dan tertabrak alat berat.

Louisa Finlay menjelaskan bagaimana Kier Group mendesain ulang operasi garis depan dengan mengotomatisasi kerja fisik yang berbahaya. Pemancangan tiang robotik otonom, alat pemadat otomatis, dan survei volumetrik berbasis drone menjauhkan pekerja dari tepi parit yang berbahaya dan jalur angkut yang aktif.

Yang terpenting, operator alat berat yang sebelumnya menghabiskan delapan jam di kabin diesel yang bergetar dan terpapar debu serta bising kini dilatih ulang menjadi manajer lokasi digital. Dari kabin kendali lokasi berpendingin udara atau pusat operasi jarak jauh, para pekerja ini mengawasi beberapa mesin semi-otonom sekaligus melalui umpan video definisi tinggi dan telemetri kembaran digital. Kepuasan pekerja meningkat karena kelelahan fisik dan risiko cedera menurun, sementara imbalan selaras dengan tingkat keterampilan teknis yang lebih tinggi.

Utilitas publik dan pemeliharaan sipil #

Di pengolahan air, dekomisioning nuklir, dan pemeliharaan jaringan listrik, pekerja menghadapi lingkungan beracun, beradiasi tinggi, atau bertegangan tinggi. Robot perayap inspeksi otonom dan drone udara menggantikan manusia yang harus masuk ke saluran pembuangan sempit dan gardu induk.

Tata kelola di sektor ini sangat berfokus pada integritas siber-fisik. Seperti dicatat Laura Bishop, sistem AI fisik merupakan titik akhir IoT yang terhubung dengan aktuator kinetik. Jika robot dosis kimia otonom atau manipulator katup pipa mengalami pembobolan keamanan siber, akibatnya bukan pencurian data, melainkan pencemaran lingkungan secara fisik. Tata kelola operasional menuntut log audit yang tidak dapat diubah dan ditandatangani secara kriptografis, serta celah udara perangkat keras fisik pada pemutus yang kritis bagi keselamatan.

Logistik dan jaringan pemenuhan pesanan #

Pusat pemenuhan pesanan e-commerce menjadi ajang uji utama bagi robot bergerak otonom kolaboratif (AMR). Namun, penerapan awal yang memperlakukan pekerja sebagai pemetik berkecepatan tinggi yang mengikuti ritme algoritma konveyor robotik memicu pergantian karyawan yang ekstrem dan gesekan dengan serikat pekerja.

Tata kelola logistik modern mengutamakan kolaborasi ergonomis. Troli otonom mengangkut kontainer berat di antara lorong pengambilan, sehingga pekerja tetap berada di zona pengambilan yang dioptimalkan secara ergonomis, tempat mereka melakukan inspeksi taktil dan penyortiran barang. Metrik sistem bergeser dari kuota pengambilan per menit yang bersifat menghukum ke akurasi pemenuhan pesanan tim secara keseluruhan, sehingga terbentuk budaya saling mengandalkan antara manusia dan mesin.

Rekayasa kontrak: menyusun tanggung jawab bertingkat #

Siapa yang bertanggung jawab secara hukum ketika robot otonom menimbulkan kerusakan fisik atau cedera? Panel menjawab pertanyaan ini secara langsung dan menolak gagasan sederhana bahwa tanggung jawab dapat ditanggung oleh satu pihak saja.

Dalam AI fisik modern, sistem otonom adalah rakitan kompleks yang terdiri atas model dasar, penyetelan khusus, sensor komersial, sasis mekanis, dan integrasi tingkat lokasi.

Perusahaan penerap menyusun kontrak pembagian risiko tiga tingkat:

Tingkat 1: pemasok model dasar dan perangkat keras OEM #

Produsen peralatan asli (OEM) dan pengembang model dasar bertanggung jawab atas cacat algoritmis intrinsik, kegagalan mekanis perangkat keras, dan pelanggaran batas keselamatan yang telah dilatih sebelumnya. Jika sebuah model menunjukkan halusinasi yang menembus batas keselamatan inti pada masukan yang masih berada dalam spesifikasi tersertifikasinya, tanggung jawab ada pada pemasok.

Tingkat 2: integrator sistem dan penerap domain #

Integrator sistem yang bertanggung jawab menyetel model dengan himpunan data khusus domain, mengalibrasi rangkaian kamera dan LiDAR, serta memprogram logika batas lokal menanggung tanggung jawab atas cacat integrasi. Kontrak integrator harus secara eksplisit mendefinisikan domain desain operasional lingkungan (ODD), dengan menetapkan parameter pencahayaan, cuaca, kadar debu, dan kemiringan lantai yang dapat diterima.

Tingkat 3: perusahaan pengoperasi dan pemilik lokasi #

Perusahaan yang menerapkan robot di lokasi tetap bertanggung jawab atas kepatuhan lingkungan, pemeliharaan ruang kerja fisik, dan pelatihan tenaga kerja. Jika manajer lokasi mengizinkan personel tanpa wewenang masuk ke zona operasi robotik yang aktif, menonaktifkan batas geografis keselamatan fisik, atau gagal mematuhi jadwal kalibrasi wajib, tanggung jawab tetap berada pada operator lokasi.

Dengan mengodifikasi batas-batas ini ke dalam kontrak komersial dan menyelaraskannya dengan persyaratan penjaminan perusahaan asuransi, perusahaan dapat menerapkan AI fisik dengan kepastian hukum yang jelas alih-alih menunggu preseden pengadilan setelah bencana industri.

Kesimpulan #

Wawasan yang dibagikan Louisa Finlay, Laura Bishop, dan para panelis lainnya di Economist Enterprise Physical AI and Robotics Summit menegaskan satu kenyataan: hambatan terbesar untuk meningkatkan skala AI fisik di seluruh operasi perusahaan bukanlah kecanggihan jaringan saraf atau kepadatan daya aktuator tanpa sikat; hambatannya adalah tata kelola manusia.

Robot beroperasi di dunia fisik, berdampingan dengan manusia yang mata pencaharian, martabat, dan keselamatan tubuhnya terikat erat dengan lingkungan kerja mereka. Tim pimpinan perusahaan mana pun yang memandang AI fisik semata-mata sebagai latihan keuangan untuk menghapus biaya tenaga kerja akan menghadapi penolakan budaya yang keras, kegagalan keselamatan serah terima yang serius, dan beban regulasi yang melumpuhkan.

Keunggulan operasional yang sesungguhnya menjadi milik organisasi yang memperlakukan AI fisik sebagai katalis bagi desain ulang pekerjaan secara mendasar. Dengan menghapus kerja berbahaya, menghormati keterbatasan kognitif dalam interaksi manusia-mesin, dan merancang garis akuntabilitas kontraktual yang jelas, perusahaan yang berpandangan jauh dapat membangun masa depan tempat mesin cerdas dan pekerja manusia yang berdaya bekerja sama membangun industri yang lebih aman dan tangguh.

Pertanyaan yang Sering Diajukan #

Mengapa AI fisik memicu kecemasan pekerja yang lebih besar daripada AI berbasis perangkat lunak? Berbeda dengan otomatisasi perangkat lunak (seperti chatbot atau analitik prediktif) yang hanya ada di layar, AI fisik beroperasi di dunia fisik dengan energi kinetik, massa, dan kecepatan. Pekerja mengalami “ancaman ganda” yang lebih kuat: ketakutan eksistensial kehilangan pekerjaan ditambah kecemasan mendalam tentang keselamatan fisik mereka di ruang kerja bersama.

Apa itu “sisi gelap otonomi” dalam robotika? “Sisi gelap otonomi” mengacu pada kegagalan kognitif yang terjadi ketika operator manusia ditugaskan untuk memantau sistem semi-otonom secara pasif sebagai cadangan keselamatan. Manusia secara biologis tidak mampu mempertahankan kewaspadaan selama pemantauan pasif yang berkepanjangan. Ketika kegagalan pada kasus tepi terjadi, operator mengalami defisit kesadaran situasional yang parah dan tidak dapat bertindak cukup cepat untuk mencegah kecelakaan.

Bagaimana pendekatan Kier Group terhadap adopsi AI fisik di konstruksi? Kier Group berfokus pada keterlibatan yang transparan dan visual dengan tenaga kerja garis depan. Alih-alih memosisikan robotika sebagai alat pengurangan jumlah karyawan, Kier membingkai otomatisasi sebagai cara menghapus kerja berbahaya yang melemahkan fisik - seperti penggalian parit, bekerja di ketinggian, dan mengangkat beban berat. Para pekerja dilatih ulang untuk peran pengawasan dan mengoperasikan beberapa mesin semi-otonom dari jarak jauh di lingkungan yang aman dan terkendali.

Bagaimana tanggung jawab kontraktual seharusnya dibagi dalam kecelakaan robotika otonom? Tanggung jawab sebaiknya dibagi ke tiga tingkat berdasarkan kendali atas pengambilan keputusan: pemasok model dasar dan OEM bertanggung jawab atas kegagalan algoritmis dalam parameter yang disertifikasi; integrator sistem bertanggung jawab atas kalibrasi khusus lokasi, pemasangan sensor, dan adaptasi domain; dan penerap di lokasi bertanggung jawab menjaga pembatasan geografis ruang kerja, keselamatan lingkungan, dan pelatihan operator.

Standar apa yang mengatur penerapan robot industri kolaboratif secara aman? Standar utamanya meliputi ISO 10218-1 dan ISO 10218-2 (persyaratan keselamatan untuk robot industri dan integrasi sistem), ISO/TS 15066 (persyaratan keselamatan khusus untuk operasi robot kolaboratif dan batas gaya kontak manusia-robot), panduan baru British Standards Institution (BSI) tentang tata kelola sistem otonom, serta persyaratan kesesuaian mesin berisiko tinggi dalam UU AI Uni Eropa.

Referensi #

Economist Enterprise, (2026). Physical AI & Robotics Summit: keunggulan operasional melalui sistem otonom ⧉. Economist Enterprise.
Finlay, L., (2026). A meeting of minds (and machines): manusia, robot, dan desain ulang pekerjaan ⧉. Kier Group.
Bishop, L., (2026). Faktor manusia, keselamatan psikologis, dan tata kelola dalam sistem otonom ⧉. British Standards Institution (BSI).
British Standards Institution, (2025). BSI PAS 2025: tata kelola dan penerapan etis sistem bergerak otonom di lingkungan industri ⧉. BSI.
European Parliament and Council, (2024). Peraturan (UE) 2024/1689 tentang aturan yang diselaraskan mengenai kecerdasan buatan (Undang-Undang Kecerdasan Buatan) ⧉. Official Journal of the European Union.
Bainbridge, L., (1983). Ironi otomatisasi ⧉. Automatica, 19(6), 775-779.
International Organization for Standardization, (2026). ISO/TS 15066:2026 Robot dan perangkat robotik - robot kolaboratif ⧉. ISO.

Terakhir ditinjau 2026-10-13.

Terakhir ditinjau 2026-10-27.

Terbitkan ulang artikel ini

AI fisik dan tata kelola tenaga kerja: kepercayaan dan tanggung jawab — Sebastien Rousseau

Di KTT Economist Enterprise di London, Kier Group dan BSI membahas kepercayaan pekerja, bahaya serah terima kendali ke manusia, dan pembagian tanggung jawab atas robot.

Artikel ini berlisensi Creative Commons Attribution 4.0 International. Penerbitan ulang memerlukan atribusi ke URL kanonis.

AI fisik dan tata kelola tenaga kerja: kepercayaan dan tanggung jawab — Sebastien Rousseau

Di KTT Economist Enterprise di London, Kier Group dan BSI membahas kepercayaan pekerja, bahaya serah terima kendali ke manusia, dan pembagian tanggung jawab atas robot.

Originally published at https://sebastienrousseau.com/id/2026-10-13-fisik-dan-tata-kelola-tenaga-kerja/ by Sebastien Rousseau.
Licensed under CC-BY-4.0.

SEBASTIEN ROUSSEAU FOUNDER · ENGINEER