Sebastien Rousseau

THIRD-PARTY AI RISK

Third-Party AI na ang Problema sa Governance ng mga Kompanya sa UK

Umabot na sa 86% ang paggamit ng AI sa mga sinarbey na kompanya sa pananalapi sa UK, pero nasa ilalim ng headline ang mga numerong pinakamahalaga: third party na ang nagsu-supply ng mahigit kalahati ng mga high-materiality system, at ang pangangasiwa sa mga ito ang hamon sa governance na pinakamadalas iulat ng mga kompanya.

18 min basahin
Banner for: Third-Party AI na ang Problema sa Governance ng mga Kompanya sa UK

Umabot na sa 86% ang paggamit ng AI sa mga sinarbey na kompanya sa pananalapi sa UK, pero nasa ilalim ng headline ang mga numerong pinakamahalaga: third party na ang nagsu-supply ng mahigit kalahati ng mga high-materiality system, at ang pangangasiwa sa mga ito ang hamon sa governance na pinakamadalas iulat ng mga kompanya.

Buod para sa mga Ehekutibo

  • 86% ng mga sumagot ang nag-ulat na gumagamit ng AI, mula 75% noong 2024. Ang generative AI ay 56% ng mga iniulat na sistema.
  • Humigit-kumulang 7% ng mga iniulat na sistema ang tinasa bilang high materiality, mula 16% noong 2024, pero mas malaki ang absolute na bilang ng mga high-materiality system noong 2026.
  • Ang mga third-party implementation ay 53% ng mga high-materiality system, mula 35% noong 2024. Ang nangungunang tatlong cloud/compute provider ay 79% ng mga iniulat na cloud/compute relationship.
  • 80% ng mga sumagot ang may naka-deploy na AI agents, pero 2% lang ang nag-ulat ng agents na may malawak na autonomy.
  • Inaasahan ng mga sumagot na tataas ang benepisyo at panganib sa lahat ng kategorya, at ang cyber risk amplification at critical third-party dependencies ang may pinakamataas na rating na systemic risk.
  • Ang pangangasiwa sa mga third-party AI system ang pinakamadalas iulat na hamon sa governance.

Ano ang sarbey, at ano ang hindi nito saklaw #

Ang publikasyon, ang ikaapat na sarbey ng Bank of England at FCA tungkol sa AI at machine learning sa UK financial services, ay isang deskriptibong buod ng pinagsama-samang resulta ng sarbey, at sulit itong tandaan bago humango ng anumang konklusyon. Ebidensya mula sa mga kalahok na kompanya ang mga natuklasan, hindi kumpletong pagtatasa ng AI adoption sa buong sektor ng pananalapi ng UK. Walang anuman sa ibaba ang dapat basahin bilang census.

Nakatanggap ang sarbey ng 196 na sagot: 101 malalaking kompanya at 95 maliliit na kompanya. Sa unang pagkakataon, maaaring pumili ng mas maikling questionnaire ang mga kompanyang may mas kaunti sa 100 empleyado, at 105 sumagot ang kumumpleto sa buong sarbey. Maliban kung iba ang sinabi, nakabatay ang mga numero sa ulat sa mga sagot sa buong sarbey, na tumutulong sa paghahambing sa mga naunang sarbey. Kinukuwenta ang mga porsiyento gamit lang ang mga balidong sagot sa bawat tanong, kaya hindi kasama sa denominator ng isang tanong ang mga kompanyang hindi sumagot dito. Tumutukoy sa kanilang UK operations ang mga sagot ng mga international bank at broker/dealer.

Pinanatili ng sarbey noong 2026 ang mga pangunahing tanong mula sa mga naunang sarbey para sa continuity, habang nagdagdag o nagbago ng mga tanong para ipakita ang mga pagbabago sa AI adoption at kakayahan mula 2024. Kaya naihahanay ng ulat ang mga numero noong 2026 laban sa 2024 para sa adoption, materiality at bahagi ng third party, at kaya rin hinihiling ng ulat sa mga mambabasa na bigyang-kahulugan nang maingat ang paghahambing sa 2024 kung saan magkaiba ang pananalita ng tanong, depinisyon, saklaw o populasyon ng mga sumagot. May ilang paksa, gaya ng maikling annex tungkol sa frontier AI at cyber risk, na walang anumang paghahambing sa 2024.

Mahalaga ang mga caveat na ito dahil ilan sa pinakakapansin-pansing numero sa ibaba ay bahagi ng bahagi. Mapagkakamalan ng mambabasang hindi pumapansin sa mga denominator ang pagbabago sa komposisyon bilang pagbabago sa dami. Ang sarbey mismo ang nag-aalok ng malinis na halimbawa ng bitag na iyan, na aabutin natin sa ilang sandali.

Halos unibersal ang adoption, at nangingibabaw ang generative AI #

Magsimula sa headline. 86% ng mga sumagot ang nag-ulat na gumagamit ng AI, mula 75% noong 2024. Saklaw ng numerong iyan ang buong sarbey at ang short-form, at nagbababala mismo ang ulat na hindi tumutukoy sa iisang populasyon ng mga kompanya ang mga porsiyento noong 2026 at 2024 at dapat silang ihambing nang maingat. Lalong nag-uulat ang mga kompanya ng paggamit ng generative AI, AI-enabled agents at third-party implementation ng mga AI system, at tumatakbo ang tatlong hiblang iyan sa lahat ng iba pa sa sarbey.

Ang generative AI ay 56% ng lahat ng iniulat na AI system. Ang paghahambing na ginagawa ng ulat ay sa foundation models, na 17% ng mga iniulat na AI use case noong 2024. Sinasabi ng ulat na hindi direktang maihahambing ang mga sukat na ito, kaya mali kung tatawagin itong 39-point na pagsirit ng iisang teknolohiya; kapag pinagsama, sa mga salita ng ulat, ipinahihiwatig nila ang malaking pagtaas sa iniulat na paggamit ng mga kompanya ng general-purpose na kakayahan mula 2024.

Saan nakalagay ang AI sa loob ng mga kompanya? Ang Operations at IT ay humigit-kumulang 31% ng lahat ng iniulat na AI system, mula mga 22% noong 2024, at walang ibang indibidwal na lugar ang lumampas sa 11%. Kapansin-pansing konsentrasyon iyan. Ang mga customer-facing at front-office na use case ang kumukuha ng karamihan sa pampublikong atensyon, pero ang pinakamalaking bloke ng iniulat na sistema ay nasa tubero ng negosyo. Pareho ang itinuturo ng kaugnay na numero mula sa seksyon ng maliliit na kompanya: sa mga sumagot sa short-form survey, operations ang pinakamadalas iulat na domain ng kasalukuyan o nakaplanong paggamit ng AI, na binanggit ng 64%.

Tugma sa larawang iyan ang mga nakikitang benepisyo. Operational efficiency, automation at productivity ang may pinakamataas na rating na lugar ng nakikitang benepisyo mula sa AI ngayon. Batay sa iniuulat nila, pangunahing ginagamit ng mga kompanya ang AI para patakbuhin ang kanilang sarili nang mas episyente.

Hindi rin pantay ang distribusyon ng adoption. Halos kalahati ng mga kompanya ang nag-ulat ng sampu o mas kaunting AI system, samantalang ang sampung kompanyang nag-ulat ng pinakamaraming sistema ay 43% ng lahat ng iniulat na AI system. Kaya inilalarawan ng 86% ang lawak ng paggamit, hindi ang lalim. Iilang kompanya ang may malaking bahagi ng kabuuan, at maraming kompanya ang nagpapatakbo ng iilang sistema lang. Kasama rin ang maliliit na kompanya: 73% ng mga sumagot sa short-form ang nag-ulat na gumagamit ng AI, at sa mga iyon, 58% ang nag-ulat na pangunahing gumagamit ng mga general-purpose large language model.

Ang palaisipan sa materiality #

Narito ang bitag na nabanggit kanina. Humigit-kumulang 7% ng mga iniulat na AI system ang tinasa ng mga sumagot bilang high materiality, kumpara sa 16% noong 2024. Kung mabilis na babasahin, mukhang hindi na gaanong mahalaga o mapanganib ang AI sa mga kompanya.

Hindi iyan ang ibig sabihin. Mas malaki ang absolute na bilang ng mga high-materiality AI system na iniulat noong 2026 kaysa noong 2024. Bumaba ang bahagi dahil mas mabilis lumaki ang kabuuan kaysa sa high-materiality na subset. Habang nagde-deploy ng mas maraming sistema ang mga kompanya, karamihan sa mga dagdag ay tinatasa bilang mas mababa ang materiality, na nagpapalabnaw sa porsiyento habang tumataas pa rin ang bilang ng mga high-materiality system. Konsentrado rin ang mga sistemang iyon: sampung kompanya ang bumubuo sa 62% ng lahat ng iniulat na high-materiality AI system.

Kapaki-pakinabang na pagtutuwid iyan para sa sinumang bumubuo ng governance case batay lang sa porsiyento. Walang sinasabing nakapagpapanatag ang bumababang bahagi ng mga high-materiality system tungkol sa trabaho ng mga taong responsable sa mga ito. Mas marami na ang kailangang pangasiwaan kaysa noong 2024.

Saan nanggagaling ang mahahalagang sistema #

Ang pinakamabigat na resulta sa sarbey ay kung sino ang bumubuo at nagpapatakbo ng mga sistemang pinakamahalaga. Ang mga third-party implementation ay 39% ng lahat ng iniulat na AI system, mula 33% noong 2024 at 17% noong 2022. Tuloy-tuloy na paggalaw iyan. Mas matalas ang paglipat sa mga high-materiality system: ang mga third-party implementation ay 53% ng mga ito, mula 35% noong 2024.

Kaya, sa kabuuan ng mga iniulat na sistema, mas malamang na galing sa labas ang mga itinuturing ng mga kompanya na pinakamateryal. Ang 18-point na pagtaas sa loob ng dalawang taon, sa kategorya kung saan pinakamasakit ang kabiguan, ang pinakamalinaw na signal sa datos. Kasama ng natuklasan sa materiality sa itaas, ang larawan ay lumalaking bilang ng mahahalagang sistema, na karamihan ay hindi binubuo ng mga kompanya mismo.

Pinatatalas ito ng konsentrasyon sa mga provider. Ang tatlong pinakamalaking cloud at compute provider ay 79% ng lahat ng iniulat na cloud/compute relationship, at 98% ng mga sumagot ang nag-ulat na gumagamit ng isa sa tatlong iyon. Konsentrado rin ang model API at hosting, bagaman hindi gaano: ang tatlong pinakamalaking provider ay 54% ng mga iniulat na relationship, at kasama rin ang nangungunang tatlong cloud/compute provider sa nangungunang limang model API/hosting provider. Maaaring marami ang AI system ng mga kompanya, pero kumukuha sila sa maliit na hanay ng mga supplier para sa imprastraktura at mga modelo sa ilalim.

Substitution ang mas mahirap na tanong. Sa 169 na iniulat na natatanging cloud at compute relationship, 37% ang itinuring na parehong high criticality at mahirap palitan, at 35% lang ng grupong iyon ang may nasubukang exit plan. Para sa 226 na model API/hosting relationship, 14% ang bahaging high-criticality at mahirap palitan. Ang pinahusay na inaasahan sa operational resilience para sa third-party AI, gaya ng joint incident testing o exit planning, ay iniulat ng 27% lang ng mga kompanya.

Ang mga sumagot mismo ang nagtaas ng systemic na bersyon ng alalahaning ito: ang cyber risk amplification at critical third-party dependencies ang dalawang systemic risk na may pinakamataas na rating, ngayon at sa susunod na tatlong taon, at inaasahan ng mga sumagot na titindi ang mga ito habang lumalaganap ang paggamit ng AI. Umakyat ang bahaging nagre-rate sa critical third-party dependencies bilang mataas o malubhang alalahanin mula 40% ngayon hanggang 63% sa susunod na isa hanggang tatlong taon. Hula ng mga sumagot ang inaasahang iyan, hindi naobserbahang resulta, pero binibigyan ito ng halatang batayan ng mga numero sa konsentrasyon ng supplier.

Hindi walang malay ang mga kompanya sa hadlang. Tinukoy ng 40% ng mga sumagot ang mga alalahanin sa information security at operational resilience bilang malaking hadlang sa third-party AI adoption, kasunod ang limitadong transparency sa mga third-party AI system (training data, disenyo ng modelo, limitasyon sa performance, failure modes) sa 34%. Kapag pinagsama ang malalaki at katamtamang hadlang, ang hirap ng pakikipagnegosasyon sa mga kontraktwal na proteksyon ang ikalawang pinakamadalas banggiting hamon. Kapag pinagsama, inilalarawan ng mga ito ang mga kompanyang mabigat ang sandal sa mga panlabas na provider habang sinasabing hindi nila laging nakikita ang loob ng mga ito.

Agents: laganap ang deployment, karamihan ay pansuportang papel #

Kailangang basahin nang maingat ang mga numero sa agents, dahil magkaibang direksyon ang itinuturo ng headline at ng substansya. 80% ng mga sumagot ang nag-ulat na may naka-deploy na AI agents, samantalang 14% pa ang nag-ulat ng planong mag-deploy sa susunod na 12 buwan. Batay sa mga numerong iyan, maliit na natitira lang ang hindi pa nagde-deploy o nagpaplano.

Pero tingnan kung ano ang ginagawa ng agents. 80% ng mga sumagot ang nag-ulat ng agents sa production na nagbibigay ng decision support, na tinukoy bilang AI agents na nagrerekomenda ng aksyon habang tao ang nagpapasya at nagsasagawa. 46% ang nag-ulat ng agents na may constrained execution, na kumikilos sa loob ng mga paunang itinakdang limitasyon at panuntunan, at 22% ang nag-ulat ng agents na may conditional autonomy. 2% lang ang nag-ulat ng pagde-deploy ng agents na may malawak na autonomy. Ang nangingibabaw na pattern ay agents na nagpapayo o kumikilos sa loob ng mahigpit na limitasyon.

Sa customer communications nagsisimulang gumalaw ang linya. 16% ang nag-ulat ng kasalukuyang paggamit ng agents para sa automated na customer communications, umaakyat sa 34% kapag isinama ang nakaplanong deployment. Mahigit doble iyan ng bahagi kung tutuparin ng mga kompanya ang kanilang plano, bagaman plano lang ang plano, at hindi masasabi ng sarbey kung ilan ang maihahatid. Sa kabilang banda, kahit isama ang nakaplanong deployment, hindi lalampas sa 9% ng mga sumagot ang umaasang mag-aapruba o tatanggi ang agents sa mga customer outcome, magsasagawa ng trade o maglalagay ng order, magsisimula, magsasagawa o haharang ng bayad, o magbabago ng mga limitasyon, threshold at kontrol.

Sa pagbasa ko, ang 2% ang mas makahulugang numero, at nararapat itong bigyan ng higit na atensyon kaysa sa 80%. Katamtamang hakbang ang pagde-deploy ng agent na nagmumungkahi at naghihintay sa tao. Binabago naman ng pagde-deploy ng agent na may malawak na autonomy kung sino ang may pananagutan sa resulta. Sa ngayon, handa ang mga kompanya na gawin nang malawakan ang unang hakbang at halos hindi ang ikalawa. Kung senyales ng simula ng pagbabago sa postura na iyan ang mga plano sa customer communications, isa iyan sa mas kawili-wiling bukas na tanong sa datos.

Parehong inaasahang tataas ang benepisyo at panganib #

Hindi nakikita ng mga sumagot ang AI bilang isang-panig na taya. Inaasahan nilang tataas ang benepisyo sa lahat ng lugar sa susunod na tatlong taon, at ang pinakamalalaking inaasahang pagtaas ay sa cybersecurity at operational resilience, at sa revenue generation at competitive positioning. Mga inaasahan ito, at ganoon sila inihaharap ng sarbey. Wala sa mga nakalistang benepisyo ang malawakang itinuturing na higit sa katamtaman ang laki ngayon.

Ganoon din kakonsistent ang panig ng panganib, sa usapin ng direksyon. Ang mga lugar na may pinakamataas na rating ng nakikitang panganib sa mga kompanya mula sa AI ngayon ay data protection at security, third-party at supply chain risk, at mga panganib na partikular sa GenAI. Sa susunod na isa hanggang tatlong taon, inaasahan ng mga sumagot na tataas ang antas ng panganib sa lahat ng kategorya, bagaman sa karaniwan ay mas hindi malubha ang rating nila sa mga panganib noong 2026 kaysa noong 2024.

Balanseng ibinabalangkas ng pinagmulan ang pangkalahatang larawan. Maaaring magdala ang mga pag-unlad na ito ng mga benepisyo kabilang ang mas mataas na efficiency, mas mahusay na decision support at mas matatag na risk management. Maaari rin silang lumikha o magpalala ng mga panganib kaugnay ng governance, operational resilience, data protection, consumer outcomes, third-party dependency at financial stability. Sa pinagmulan ang pag-aalinlangan, at angkop ito; sinusukat ng sarbey ang mga pananaw at iniulat na praktika, hindi ang mga aktwal na pakinabang o kalugihan.

May isang kumpol ng resulta tungkol sa frontier AI at cyber capability. 88% ng mga sumagot ang tumasa na may katamtaman o mataas na epekto sa risk profile ng kanilang kompanya ang umuunlad na frontier AI cyber capabilities sa susunod na dalawang taon. Pagtatasang nakatingin sa hinaharap iyan at hindi nasukat na epekto, bagaman 19% na ang nagpangalan sa tumaas na bisa ng supply-chain o third-party attack bilang daluyan kung saan pinakamalaking panganib ang hatid ng frontier AI ngayon. Mas madaling suriin ang nagawa na ng mga kompanya bilang tugon: 64% ang pumili sa vulnerability management at patching cadence bilang lugar ng cyber resilience na nakatanggap ng pinakamalaking pagtaas ng atensyon ng management dahil sa kamalayan sa frontier AI.

Mga hadlang: mas praktikal kaysa regulatoryo #

Kung inasahan mong regulasyon ang mangunguna sa listahan ng mga balakid, mas masalimuot ang sarbey. Ang pinakamadalas banggiting hindi regulatoryong hadlang ay ang hirap ng pagsasama ng AI sa mga umiiral na business process at desisyon, at ang legacy system o imprastraktura, na tinukoy bilang malalaking hadlang ng 23% at 22% ng mga sumagot, ayon sa pagkakasunod. Katamtamang bahagi iyan, na nagpapahiwatig na walang iisang hindi regulatoryong balakid ang nangingibabaw, pero karaniwang problema sa engineering at organisasyon ang mga ito at hindi kakaiba.

Sa panig ng regulasyon, ang pinakamadalas banggiting nakikitang hadlang ay ang UK data protection at privacy, at ang international regulation, na nakita ng 42% at 29% ng mga sumagot, ayon sa pagkakasunod, bilang mabigat na compliance burden. 28% ang nagsabing walang regulatoryong hadlang.

Katulad na pattern ang ipinakikita ng maliliit na kompanya: 30% ng mga sumagot sa short-form ang tumukoy sa data protection, confidentiality at mga konsiderasyon sa IT bilang mga hadlang. Lumilitaw ang data protection sa mga risk rating, sa mga numero ng regulatory burden at sa mga hadlang ng maliliit na kompanya. Kung may iisang temang nag-uugnay sa iba't ibang seksyon ng sarbey bukod sa third party, iyon iyon.

Governance: malawak sa papel, mas manipis pagkatapos ng deployment #

Halos unibersal ang mga pormal na istruktura. 94% ng mga sumagot ang nag-ulat ng firmwide na AI policy, prinsipyo o pamantayan, at 84% ang nag-ulat ng sentralisadong AI/model-risk governance fora. Sa mga kontrol sa data risk, iniulat ng mahigit 90% ng mga sumagot ang bawat isa sa human approval, pre-deployment review at vendor due diligence.

Ngayon, ihambing ang mga kontrol na umiiral pagkatapos ng launch. Iniulat ng mga kalahati ng mga sumagot ang bawat isa sa ongoing monitoring, leakage testing at periodic review o recertification. Halata ang kaibahan. Halos unibersal ang mga kontrol sa data risk na nangyayari bago o sa punto ng deployment, kung saan may taong pumipirma. Ang mga patuloy na gumagana pagkatapos ng deployment ay iniuulat ng humigit-kumulang kalahati.

Ito, sa tingin ko, ang sentral na natuklasan sa governance, at direkta itong kumokonekta sa kuwento ng third party. Ipinakikita ng sarbey kung gaano kaiba ang pag-unawa ng mga kompanya sa binibili nila. Para sa mga high-materiality system, 77% ng mga sumagot ang nag-ulat na umaasa sa malalim na kaalaman sa mga internal na binuong sistema, kumpara sa 24% para sa mga third-party system; para sa mga third-party system, 81% ang umasa sa halip sa vendor assurance at mga kontraktwal na kaayusan. Sa sistemang binili at hindi binuo, ang pre-deployment review at vendor due diligence ang halatang pingga. Nakasalalay ang monitoring at recertification sa visibility sa loob ng sistema, at ang limitadong transparency sa mga third-party AI system ay tinukoy na ng 34% ng mga sumagot bilang hadlang. Hindi sinasabi ng sarbey ang sanhing ugnayang ito, at hindi ito mapatutunayan ng datos, pero nakababahalang magkakatugma ang mga piraso.

Ganoon din ang sinasabi ng mga kompanya mismo. Ang pangangasiwa sa mga third-party AI system ang pinakamadalas iulat na lugar ng kawalang-katiyakan sa governance o hamon sa implementasyon. Ang paglalapat ng mga prinsipyo ng model risk management sa mga modelong galing sa third party o vendor ay pinili ng 54% ng mga sumagot, at ang pangangasiwa sa mga sistemang ibinigay o materyal na naimpluwensyahan ng third party ng 49%. Kung gayon, humigit-kumulang kalahati ng mga kompanya ang nag-uulat ng hamon sa paglalapat ng mga prinsipyo ng model risk management sa mga modelong galing sa vendor, at humigit-kumulang kalahati sa pangangasiwa sa mga sistemang ibinibigay o materyal na naiimpluwensyahan ng third party.

Ihanay ang tatlong hibla. Third party ang nagsu-supply ng mayorya ng mga high-materiality system. Iilang provider ang nangingibabaw sa mga relationship sa ilalim. At ang sariling governance ng mga kompanya, matatag sa tarangkahan, ay mas manipis sa patuloy na pangangasiwa, at ang kaso ng third party ang tinukoy na pinakamahirap. Hindi ito batikos sa anumang kompanya; paglalarawan ito kung saan nakalagay ang iniulat na pagsisikap laban sa kung nasaan ang iniulat na exposure.

Ano ang mahahango rito #

Para sa mga technical leader, ang praktikal na pagbasa ay naungusan na ng pagbili ang pagbuo para sa mga sistemang mahalaga, kahit sa sample na ito: 53% ng mga high-materiality system ay third-party implementation. Kaya lumilipat ang engineering effort sa kung ano ang magagawa sa paligid ng sistemang hindi mo kontrolado: kontraktwal na transparency, testing sa hangganan, at monitoring na hindi nakasalalay sa access sa loob. Wala sa mga ito ang inirereseta ng sarbey, at wala sa mga ito ang dapat mapagkamalang natuklasan. Mga tanong ito na itinataas ng mga numero nito.

Para sa mga founder na nagbebenta ng AI sa financial services, ipinahihiwatig ng datos kung saan magkakaroon ng friction. Iniuulat ng mga sumagot ang mga alalahanin sa information security at operational resilience (40%) at limitadong transparency (34%) bilang malalaking hadlang sa third-party AI adoption. Ang vendor na direktang makasasagot sa dalawang alalahaning iyon ay tumutugon sa sinasabi ng malaking bahagi ng mga sumagot na pumipigil sa kanila. At dahil mahigit 90% ng mga sumagot ang nag-uulat ng vendor due diligence bilang kontrol sa data risk, dapat asahan ng supplier na susuriin siya.

Para sa sinumang natutuksong basahin ang 86% adoption bilang senyales na tapos na ang mahirap na bahagi, mas mahinahon ang tanaw ng sarbey. Malawak ang adoption, pero iilang kompanya ang may malaking bahagi ng mga sistema, nasa pansuportang papel ang karamihan sa agents, at inaasahan ng mga sumagot na tataas ang panganib sa bawat kategorya sa susunod na isa hanggang tatlong taon. Inaasahan din ng mga sumagot na tataas ang benepisyo sa bawat lugar, kaya walang monopolyo sa ebidensya ang optimismo o ang pag-iingat.

Nananatili ang mga caveat mula sa simula. Deskriptibong buod ito ng 196 na sumagot na kompanya, 105 lang dito ang kumumpleto sa buong sarbey, at hindi ito kumpletong pagtatasa ng sektor ng pananalapi ng UK. Sa loob ng mga limitasyong iyon, sapat na konsistent ang pattern para maging kapaki-pakinabang: lalong nanggagaling sa labas ang mga sistemang itinuturing ng mga kompanya na pinakamahalaga, at pinakamahina ang iniuulat nilang pangangasiwa kung saan pinakamalaki ang pagdependeng iyon.

Ang tanong na itinataas ng datos pero hindi nito masasagot ay kung ano ang mangyayari sa hangganan ng autonomy. Sa 34% ng mga sumagot na gumagamit o nagpaplano ng agents para sa automated na customer communications, laban sa 2% lang na nagde-deploy ng agents na may malawak na autonomy ngayon, ipakikita ng susunod na sarbey kung mananatili sa pansuportang papel ang agents kapag ang mga sistemang nasa likod nila, kadalasan, ay ibinibigay ng iba.

Mga Madalas Itanong #

Ano ang sarbey ng Bank of England at FCA tungkol sa AI sa UK financial services? Ito ang ikaapat na pinagsamang sarbey tungkol sa artificial intelligence at machine learning sa UK financial services, kasunod ng mga sarbey noong 2019, 2022 at 2024. Nakatanggap ang edisyon ng 2026 ng 196 na sagot, 105 dito sa buong questionnaire. Inihaharap ito ng mga awtor bilang deskriptibong buod ng ebidensya mula sa mga kalahok na kompanya, hindi kumpletong pagtatasa ng sektor ng pananalapi ng UK.

Gaano kalaki ng AI ng mga kompanya ang galing sa third party? Ang mga third-party implementation ay 39% ng lahat ng iniulat na AI system noong 2026, mula 33% noong 2024 at 17% noong 2022. Sa mga high-materiality system, 53% ang bahagi, mula 35% noong 2024.

Gaano kakonsentrado ang mga AI provider? Ang tatlong pinakamalaking cloud at compute provider ay 79% ng mga iniulat na cloud/compute relationship, at 98% ng mga sumagot ang gumamit ng isa sa mga iyon. Ang tatlong pinakamalaking model API/hosting provider ay 54% ng mga iniulat na relationship sa kategoryang iyon. Sa 169 na iniulat na cloud at compute relationship, 37% ang itinuring na parehong high criticality at mahirap palitan, at 35% lang ng grupong iyon ang may nasubukang exit plan.

Anong mga hamon sa governance ang iniuulat ng mga kompanya sa third-party AI? Ang pangangasiwa sa mga third-party AI system ang pinakamadalas iulat na lugar ng kawalang-katiyakan sa governance o hamon sa implementasyon. 54% ng mga sumagot ang pumili sa paglalapat ng mga prinsipyo ng model risk management sa mga modelong galing sa third party o vendor, at 49% ang pumili sa pangangasiwa sa mga sistemang ibinigay o materyal na naimpluwensyahan ng third party. Para sa mga third-party high-materiality system, 81% ang umasa sa vendor assurance at mga kontraktwal na kaayusan, samantalang 24% lang ang nag-ulat ng malalim na kaalaman sa sistema.

Kumikilos ba nang autonomous ang AI agents sa mga kompanya sa pananalapi sa UK? Bihira. 80% ng mga sumagot ang nag-ulat na may naka-deploy na AI agents, at 80% ang nag-ulat ng agents sa production para sa decision support, kung saan nagrerekomenda ng aksyon ang agents at tao ang nagpapasya at nagsasagawa. 2% lang ang nag-ulat ng agents na may malawak na autonomy, at kahit isama ang mga plano, hindi lalampas sa 9% ang umaasang mag-aapruba o tatanggi ang agents sa mga customer outcome, magsasagawa ng trade o maglalagay ng order, magsisimula, magsasagawa o haharang ng bayad, o magbabago ng mga limitasyon.

Mga Sanggunian #

Huling sinuri .

I-cross-post ang artikulong ito

Kopyahin ang format para sa Medium

# Third-Party AI na ang Problema sa Governance ng mga Kompanya sa UK — Sebastien Rousseau

> Originally published at [https://sebastienrousseau.com/fil/2026-11-21-third-party-ai-problema-governance-kompanya/](https://sebastienrousseau.com/fil/2026-11-21-third-party-ai-problema-governance-kompanya/)

Third party ang nagsu-supply ng 53% ng high-materiality AI system sa mga kompanya sa pananalapi sa UK, at ang pangangasiwa rito ang nangungunang hamon.

Read the full article on sebastienrousseau.com: https://sebastienrousseau.com/fil/2026-11-21-third-party-ai-problema-governance-kompanya/

Kopyahin ang format para sa Mastodon

Third-Party AI na ang Problema sa Governance ng mga Kompanya sa UK — Sebastien Rousseau

Third party ang nagsu-supply ng 53% ng high-materiality AI system sa mga kompanya sa pananalapi sa UK, at ang pangangasiwa rito ang nangungunang hamon.

https://sebastienrousseau.com/fil/2026-11-21-third-party-ai-problema-governance-kompanya/

Kopyahin na naka-format para sa LinkedIn

Third-Party AI na ang Problema sa Governance ng mga Kompanya sa UK — Sebastien Rousseau

Third party ang nagsu-supply ng 53% ng high-materiality AI system sa mga kompanya sa pananalapi sa UK, at ang pangangasiwa rito ang nangungunang hamon.

Narito ang mga pangunahing estratehikong aral:

- Ano ang sarbey, at ano ang hindi nito saklaw. Ang publikasyon, ang ikaapat na sarbey ng Bank of England at FCA tungkol sa AI at machine learning sa UK financial services, ay isang deskriptibong buod ng pinagsama-samang resulta ng sarbey, at sulit itong tandaan…
- Halos unibersal ang adoption, at nangingibabaw ang generative AI. Magsimula sa headline.
- Ang palaisipan sa materiality. Narito ang bitag na nabanggit kanina.
- Saan nanggagaling ang mahahalagang sistema. Ang pinakamabigat na resulta sa sarbey ay kung sino ang bumubuo at nagpapatakbo ng mga sistemang pinakamahalaga.

Ano ang diskarte ng inyong organisasyon sa mga hamon na tinukoy sa piraso na ito?

→ https://sebastienrousseau.com/fil/2026-11-21-third-party-ai-problema-governance-kompanya/

#ThirdPartyAiRisk #PanganibSaThirdPartyAi #AiGovernance #BankOfEngland #Fca

Sebastien Rousseau | CC-BY-4.0
Sipiin ang artikulong ito

Third-Party AI na ang Problema sa Governance ng mga Kompanya sa UK — Sebastien Rousseau

Third party ang nagsu-supply ng 53% ng high-materiality AI system sa mga kompanya sa pananalapi sa UK, at ang pangangasiwa rito ang nangungunang hamon.

BibTeX

@online{rousseau2026third,
  author  = {Rousseau, Sebastien},
  title   = {{Third-Party AI na ang Problema sa Governance ng mga Kompanya sa UK — Sebastien Rousseau}},
  year    = {2026},
  url     = {https://sebastienrousseau.com/fil/2026-11-21-third-party-ai-problema-governance-kompanya/},
  urldate = {2026}
}

RIS

TY  - GEN
AU  - Rousseau, Sebastien
TI  - Third-Party AI na ang Problema sa Governance ng mga Kompanya sa UK — Sebastien Rousseau
PY  - 2026
UR  - https://sebastienrousseau.com/fil/2026-11-21-third-party-ai-problema-governance-kompanya/
ER  -

Vancouver

Rousseau S. Third-Party AI na ang Problema sa Governance ng mga Kompanya sa UK — Sebastien Rousseau. sebastienrousseau.com. 2026 Nov 21. Available from: https://sebastienrousseau.com/fil/2026-11-21-third-party-ai-problema-governance-kompanya/

Chicago

Rousseau, Sebastien. "Third-Party AI na ang Problema sa Governance ng mga Kompanya sa UK — Sebastien Rousseau." sebastienrousseau.com. November 21, 2026. https://sebastienrousseau.com/fil/2026-11-21-third-party-ai-problema-governance-kompanya/.

APA

Rousseau, S. (2026, November 21). Third-Party AI na ang Problema sa Governance ng mga Kompanya sa UK — Sebastien Rousseau. sebastienrousseau.com. https://sebastienrousseau.com/fil/2026-11-21-third-party-ai-problema-governance-kompanya/

Muling i-publish ang artikulong ito

Third-Party AI na ang Problema sa Governance ng mga Kompanya sa UK — Sebastien Rousseau

Third party ang nagsu-supply ng 53% ng high-materiality AI system sa mga kompanya sa pananalapi sa UK, at ang pangangasiwa rito ang nangungunang hamon.

Ang artikulong ito ay nakapailalim sa lisensya ng Creative Commons Attribution 4.0 International. Kailangan ng pagkilala sa canonical URL para sa muling pag-publish.

Third-Party AI na ang Problema sa Governance ng mga Kompanya sa UK — Sebastien Rousseau

Third party ang nagsu-supply ng 53% ng high-materiality AI system sa mga kompanya sa pananalapi sa UK, at ang pangangasiwa rito ang nangungunang hamon.

Originally published at https://sebastienrousseau.com/fil/2026-11-21-third-party-ai-problema-governance-kompanya/ by Sebastien Rousseau.
Licensed under CC-BY-4.0.