Bakit Kinokontrol ng FCA ang AI Nang Walang Aklat ng Mga Patakaran sa AI

TL;DR. Inilalarawan ng FCA ang sarili nito bilang isang technology-agnostic, nakabatay sa mga prinsipyo at nakatuon sa mga resulta na regulator, at inilalapat nito ang paninindigang iyon sa AI. Ang mga patakaran nito ay karaniwang hindi nag-uutos o nagbabawal sa mga partikular...

Mga Pangunahing Punto

Dalawang taon mula sa discussion paper hanggang sa tuktok ng adyenda. Binubuksan ng FCA ang salaysay nito tungkol sa AI sa pamamagitan ng isang pahayag tungkol sa bilis.
Ang argumento para sa pagkontrol ng mga resulta sa halip na mga kasangkapan. Inilalarawan ng FCA ang sarili nito bilang isang technology-agnostic, nakabatay sa mga prinsipyo at nakatuon sa mga resulta na regulator.
Proporsyonalidad bilang preno sa labis na regulasyon. Binabalangkas ng mga layunin ng FCA ang lahat ng sinasabi nito tungkol sa AI, kaya karapat-dapat ilatag ang mga ito.
Karamihan sa mga panganib ng AI ay hindi bago, at iyon ang punto. Ang isa sa pinakamahalagang pahayag ng FCA ay isa rin sa pinakamaikli nito.

Ang posisyon ng FCA ay hindi mo kailangan ng bagong aklat ng mga patakaran upang kontrolin ang isang bagong teknolohiya kapag ang iyong mga umiiral na patakaran ay nagtatanong na kung ano ang ginagawa ng teknolohiya sa mga tao at mga merkado, at inilalapat nito ang posisyong iyon sa AI sa mga serbisyong pinansyal sa UK.

Buod na Ehekutibo

Sinasabi ng FCA na ang AI ay itinulak sa unahan ng mga adyenda sa buong ekonomiya sa pambihirang bilis sa loob ng dalawang taon mula nang ilathala ang Discussion Paper nito sa AI.

Ang pamamaraan nito ay nakasalalay sa pagiging technology-agnostic, nakabatay sa mga prinsipyo at nakatuon sa mga resulta, at sa proporsyonalidad.

Sinasabi nito na maraming panganib na may kaugnayan sa AI ang maaaring maibsan sa loob ng mga umiiral na pambatas at pang-regulasyong balangkas.

Ang pagiging kumplikado ng mga modelo ng AI ay maaaring mangailangan ng higit na pagtuon sa pagsubok, pagpapatunay (validation) at pagpapaliwanag (explainability), at pinag-iisipan ng FCA kung paano pinakamahusay na tutugunan ang mga isyung ito.

Sinusuportahan nito ang inobasyon sa pamamagitan ng Regulatory Sandbox, Digital Sandbox at TechSprints nito, at namuhunan sa kakayahan sa datos at digital.

Ang limang prinsipyo ng Pamahalaan para sa regulasyon ng AI ay kaagapay ng sariling nakabatay sa resultang pamamaraan ng FCA.

Dalawang taon mula sa discussion paper hanggang sa tuktok ng adyenda #

Binubuksan ng FCA ang salaysay nito tungkol sa AI sa pamamagitan ng isang pahayag tungkol sa bilis. Sa loob ng dalawang taon mula nang ilathala nito ang Discussion Paper nito sa AI, binanggit nito, ang AI ay itinulak sa unahan ng mga adyenda sa buong ekonomiya sa pambihirang bilis. Iyon ay isang regulator na naglalarawan kung gaano kabilis gumalaw ang lupa sa ilalim ng isang papel na ito mismo ang sumulat.

Ang Discussion Paper ay inilathala nang magkasama kasama ang Bank of England. Inililista ito ng FCA, ang AI Discussion Paper (2022), kabilang sa mga dokumentong inilabas ng dalawang lupon. Ang iba pa ay ang Feedback Statement (2023), ang AI Public-Private Forum Final Report (2022), at ang mga sarbey sa machine learning noong 2019 at 2022. Sa Discussion Paper, sinaliksik ng FCA ang mga potensyal na benepisyo at panganib ng paggamit ng AI sa mga serbisyong pinansyal sa konteksto ng mga batas na layunin nito. Naglathala ito ng ilang dokumento tungkol sa pamamaraan nito sa AI, at ang kalipunan ng gawaing iyon ang pundasyon para sa posisyong isinasaad nito ngayon.

Sinasabi rin ng FCA na ang mga serbisyong pinansyal ay nasa unahan na ng digitisasyon, at na ang AI ay maaaring makapagpabago nang malaki sa paraan ng paglilingkod ng mga kumpanya sa kanilang mga kostumer at kliyente sa parehong retail at wholesale na merkado. Mahalaga ang pandiwa. Ang sabi ng FCA ay "maaari" (could), hindi "mangyayari" (will). Ang pagbabago ay isang posibilidad na sineseryoso nito sa halip na isang resulta na inaangkin nitong naobserbahan sa buong sektor.

Kung saan may inaangkin itong naobserbahang resulta, ito ay tungkol sa sarili nitong trabaho. Isinasaad ng FCA na binago na ng AI ang bilis kung saan maaari nitong bantayan at labanan ang mga scam na website, money laundering at mga paglabag sa sanctions. Ang isang regulator na nagsasabi nito ay gumagamit din ng teknolohiya, na humuhubog kung gaano malamang na maging kapani-paniwala ang paninindigan nito sa paggamit ng mga kumpanya sa AI.

Ang argumento para sa pagkontrol ng mga resulta sa halip na mga kasangkapan #

Inilalarawan ng FCA ang sarili nito bilang isang technology-agnostic, nakabatay sa mga prinsipyo at nakatuon sa mga resulta na regulator. Ang bawat isa sa tatlong deskripsiyong iyon ay may ginagampanan sa kung paano nito itinuturing ang AI.

Ang technology-agnostic ang pinakasimple. Ang mga patakaran, regulasyon at pangunahing prinsipyo ng FCA ay karaniwang hindi nag-uutos o nagbabawal sa mga partikular na teknolohiya. Walang listahan ng mga aprubadong modelo o ipinagbabawal na pamamaraan. Ang pang-regulasyong pamamaraan nito, sa sarili nitong mga salita, ay tukuyin at bawasan ang mga panganib sa mga layunin nito, kabilang ang mga nagmumula sa pag-asa ng mga kinokontrol na kumpanya sa iba't ibang teknolohiya. Ang teknolohiya ay isang pinagmumulan ng panganib na dapat tasahin, hindi isang kategoryang dapat bigyan ng lisensya.

Kapag isinasaalang-alang ng FCA ang paggamit ng isang kumpanya sa isang partikular na teknolohiya, obhetibo nitong tinatasa ang mga panganib at anumang masamang implikasyon para sa mga layunin nito at sa mga pang-regulasyong resulta na hinahangad nito. Ang pagtatasa ay nagsisimula sa mga layunin at gumagalaw palabas patungo sa teknolohiya. Hindi ito nagsisimula sa teknolohiya at nagtatanong kung mayroong patakaran para dito.

Malinaw ang FCA kung bakit mas gusto nito ito. Ang regulasyong nakabatay sa mga resulta, sabi nito, ay mas madaling mailapat sa pagbabago ng teknolohiya at mga pag-unlad sa merkado kaysa sa detalyado at mahigpit na mga patakaran. Idinagdag nito na, bilang resulta, mas napoprotektahan ang mga mamimili mula sa mga bago at umuusbong na pinsala. Praktikal ang argumento. Ang isang detalyadong patakaran na isinulat para sa isang henerasyon ng teknolohiya ay kailangang isulat muli kapag dumating ang susunod, samantalang ang isang resulta tulad ng naaangkop na proteksyon sa mamimili ay hindi nagbabago kasabay ng mga kasangkapan.

Iyon ay isang maipagtatanggol na posisyon, at ito ang tama para sa isang mabilis gumalaw na teknolohiya. Gayunpaman, hindi nito ginagawang madali ang trabaho ng regulator. Ang isang nakatuon sa resultang regulator ay hindi masasabi nang maaga sa isang kumpanya kung aling arkitektura ng modelo ang papasa. Masasabi lamang nito sa kumpanya kung ano ang pananagutan nito, at pagkatapos ay susuriin nang mabuti ang resulta. Ganoon din ang sinasabi ng FCA tungkol sa pustura ng superbisyon nito: kasama sa pagsusuri nito ang mga sistema at prosesong nakalagay sa mga kumpanya upang matiyak na natutugunan ang mga inaasahang pang-regulasyon nito. Para sa isang kumpanyang nagde-deploy ng AI, ang tanong na inihaharap ng FCA ay kung maipapakita ng kumpanya na ang mga sistema at proseso nito ay naghahatid ng mga inaasahang resulta.

May suporta rin ang pamamaraang ito mula sa industriya. Ang mga tumugon sa AI Discussion Paper ay pangkalahatang sumusuporta sa isang technology-agnostic, nakabatay sa mga prinsipyo at nakatuon sa mga resulta na pamamaraan sa pagkontrol sa paggamit ng AI sa mga serbisyong pinansyal sa UK. Tuwirang iniuulat ng FCA ang suportang iyon. Ang isang regulator na pumili sa pamamaraang ito at pagkatapos ay natuklasang galit ang merkado ay malalagay sa mas mahirap na posisyon. Dito, ayon sa sarili nitong salaysay, itinuro ng konsultasyon ang parehong direksyon gaya ng mga umiiral nang kutob nito.

Proporsyonalidad bilang preno sa labis na regulasyon #

Binabalangkas ng mga layunin ng FCA ang lahat ng sinasabi nito tungkol sa AI, kaya karapat-dapat ilatag ang mga ito. Kinokontrol ng FCA ang mga kumpanya ng serbisyong pinansyal at mga merkadong pinansyal sa UK. Ang estratehikong layunin nito ay tiyaking gumagana nang maayos ang mga kaugnay na merkado. Mayroon itong tatlong operasyonal na layunin: tiyakin ang naaangkop na antas ng proteksyon para sa mga mamimili, protektahan at pahusayin ang integridad ng sistemang pinansyal ng UK, at itaguyod ang epektibong kompetisyon para sa kapakanan ng mga mamimili.

Mayroon din itong pangalawang layunin: padaliin ang pandaigdigang pagiging mapagkumpitensya ng ekonomiya ng UK at ang paglago nito sa katamtaman hanggang pangmatagalang panahon, nang naaayon sa mga pandaigdigang pamantayan. At isinasaad nito na, bilang isang regulator ng mga serbisyong pinansyal, mayroon itong mahalagang tungkulin sa patuloy na tagumpay at pagiging mapagkumpitensya ng mga merkado ng serbisyong pinansyal sa UK.

Mahalaga ang listahang iyon dahil ipinapakita nito na ang FCA ay hindi lamang isang lupon na nagpapaliit ng panganib. Dalawa sa mga nakasaad na layunin nito, ang epektibong kompetisyon at ang pagiging mapagkumpitensya ng ekonomiya ng UK, ay nagtutulak patungo sa pagbibigay-kakayahan sa mga kumpanya sa halip na paghigpitan sila. Nakikita ng FCA ang kapaki-pakinabang na inobasyon bilang isang mahalagang bahagi ng epektibong kompetisyon. Ang anumang patakaran sa AI na isusulat nito ay kailangang sumagot sa parehong hanay ng mga layunin nang sabay.

Proporsyonalidad ang paraan kung paano nito pinagkakasundo ang mga ito. Ang prinsipyo ng proporsyonalidad ang gumagabay sa pag-iisip at pamamaraan ng FCA sa AI, kabilang ang anumang potensyal na pang-regulasyong interbensyon sa hinaharap. Ang pariralang "potensyal na pang-regulasyong interbensyon sa hinaharap" ay karapat-dapat pansinin. Hindi inaalis ng FCA ang karagdagang interbensyon, at nangangako ito nang maaga sa isang pagsubok na haharapin ng anumang ganoong interbensyon. Sa ilalim ng FSMA, dapat isaalang-alang ng FCA ang prinsipyo na ang isang pasanin o paghihigpit na ipinataw sa isang tao o aktibidad ay dapat na proporsyonal sa mga inaasahang benepisyo.

Inilalarawan din ng tugon ng FCA ang uri ng ebidensya na nais nitong asahan. Inilalatag nito na ang isang pananaw na nakabatay sa ebidensya na nagbabalanse sa mga benepisyo at panganib ng AI ay titiyak sa isang proporsyonal at epektibong pamamaraan sa paggamit ng AI sa mga serbisyong pinansyal. Ang pag-aangkin ay may pasubali, gaya ng nararapat: inaasahang lilikhain ng pananaw ang resultang iyon, at hindi pa ito naipapakita. Inilalarawan ng FCA ang isang pamamaraan, hindi nag-uulat ng isang resulta.

Upang mabuo ang basehan ng ebidensyang iyon, sinasabi ng FCA na uunahin nito ang pag-unawa sa kasalukuyang mga estratehiya sa pag-deploy sa loob ng mga kumpanyang kinokontrol nito. Kabilang dito ang ikatlong edisyon ng sarbey nito sa machine learning, na ilalathala nang magkasama kasama ang Bank of England. Ang sarbey na iyon ay isang pangako sa hinaharap, hindi isang tapos nang gawain. Sinasabi nito sa mga kumpanya kung saan malamang na magmula ang susunod na hanay ng ebidensya.

Karamihan sa mga panganib ng AI ay hindi bago, at iyon ang punto #

Ang isa sa pinakamahalagang pahayag ng FCA ay isa rin sa pinakamaikli nito. Maraming panganib na may kaugnayan sa AI ay hindi kinakailangang natatangi sa AI mismo at samakatuwid ay maaaring maibsan sa loob ng mga umiiral na pambatas at pang-regulasyong balangkas.

Ito ang gumagawa sa kawalan ng isang aklat ng mga patakaran sa AI na magkakaugnay sa halip na pabaya. Kung ang mga panganib ng isang prosesong pinatatakbo ng AI ay kahawig ng mga panganib ng anumang iba pang proseso na nakakaapekto sa mga mamimili o merkado, ang umiiral na balangkas ay mayroon nang mga kawit para sa kanila. Hindi inaangkin ng FCA na nasasaklaw ang bawat panganib. Ang pananalita ay "marami" at "hindi kinakailangang natatangi", na nag-iiwan ng puwang para sa mga panganib na partikular sa AI. Ngunit ang default ay magsimula sa kung ano ang umiiral.

Para sa mga tagapagtatag, ito ay parehong nakapagpapapanatag at mapanghamon. Nakapagpapapanatag ito dahil walang hiwalay na rehimen sa pagsunod sa AI na kailangang pag-aralan kasabay ng umiiral na. Mapanghamon ito dahil ang mga umiiral na obligasyon ay ganap na umiiral, at ang atensyon ng FCA ay napupunta sa mga sistema at proseso na nagpapakitang natutugunan ang mga ito. Ang isang produktong binuo sa AI ay hindi nakakakuha ng naiibang pamantayan. Kinakaharap nito ang parehong mga resulta, na sinusubok laban sa isang teknolohiya na maaaring mas mahirap ipaliwanag.

Ang kahirapang iyon ang sunod na binibigyang-diin ng FCA, at dito nagiging mas maingat ang tono nito.

Saan maaaring kailanganing yumuko ng umiiral na balangkas #

Tapat ang FCA na ang paglalapat ng mga umiiral na patakaran sa AI ay hindi walang gusot. Binibigyang-diin ng gawaing superbisyon nito at pananaliksik mula sa Digital Regulation Cooperation Forum (DRCF) na ang bilis, lawak at pagiging kumplikado ng AI ay maaaring mangailangan ng mga binagong pamamaraan sa pamamahala ng panganib at governance ng kumpanya. Sinadya ang pasubali: "maaaring mangailangan". Binibigyang-diin ng FCA ang isang presyon sa balangkas, hindi naghahayag ng pagbabago rito.

Nagpapatuloy ito sa pagsasabi kung saan maaaring bumagsak ang presyon. Ang pagiging kumplikado ng mga modelo ng AI ay maaaring mangailangan ng higit na pagtuon sa pagsubok, pagpapatunay at pagpapaliwanag ng mga modelo ng AI. Ang pagtuong iyon ay may kasamang matitibay na prinsipyo ng pananagutan (accountability), na pinatitibay ng mga kultura ng korporasyon na gumagana nang may pagiging bukas at transparency. Ang pagsubok, pagpapatunay at pagpapaliwanag ay mga teknikal na disiplina, at ang pananagutan at pagiging bukas ay mga organisasyonal na disiplina. Pinagpapares sila ng FCA, na nagpapahiwatig na nakikita nito ang kalidad ng modelo at corporate governance bilang dalawang kalahati ng iisang problema. Akin ang pagbasang iyon, at hindi ito isinasaad ng FCA.

Hindi inaangkin ng FCA na naresolba na nito ito. Sinasabi nito: "Pinag-iisipan namin kung paano pinakamahusay na tutugunan ang mga isyung ito." Ang pangungusap na iyon ay isang pahayag ng posisyon gaya ng anumang iba pang nasa tugon nito. Kayang tanggapin ng regulasyong nakabatay sa mga resulta ang bagong teknolohiya, ngunit kung saan ang pagiging kumplikado ng isang modelo ay nagpapahirap sa pagpapatunay o pagpapaliwanag ng gawi nito, kinikilala ng FCA na maaaring kailanganing patalasin ang pamantayan. Kung anong anyo ang kukunin niyon ay hindi pa nakasaad.

Nagbabala rin ang FCA laban sa pagtrato sa AI bilang isang hiwalay na alalahanin. Ang AI ay hindi dapat isaalang-alang nang nakabukod, sabi nito, at ang isang ligtas na pamamaraan sa paggamit ay nangangailangan ng pagsasaalang-alang sa mas malawak na mga uso sa teknolohiya. Ang trabaho nito sa mga kumpanya ay nagpapahiwatig ng lumalaking pangangailangan na kumuha ng mas maagap na pamamaraan sa mga panganib sa outsourcing, cybersecurity at resilience. Ang pag-aangkin ay may pasubali, at dapat itong basahin sa ganoong paraan. Ngunit malinaw ang direksyon: ang panganib sa AI ng isang kumpanya ay nakatali sa kung sino ang nagbibigay ng imprastraktura nito, kung gaano ito kahusay na naipagtatanggol at kung gaano ito kahusay na nakakabawi.

Kapag pinagsama-sama, ang bahaging ito ng pag-iisip ng FCA ang pinakapraktikal na kapaki-pakinabang. Ang isang kumpanyang gumagamit ng AI ay hindi maaaring ituring ang modelo bilang ang buong panganib. Ang supply chain sa paligid nito, ang seguridad ng datos nito at ang katatagan (resilience) ng serbisyo ay pawang pumapasok sa loob ng parehong tanong sa ligtas na paggamit.

Pagsuporta sa inobasyon habang binabantayan ang pangkalahatang larawan #

Wala ni isa rito ang mababasa bilang isang regulator na sumusubok pabagalin ang paggamit. Isinasaad ng FCA na nais nitong itaguyod ang ligtas at responsableng paggamit ng AI sa mga merkadong pinansyal sa UK. Ang mga panuring na "ligtas" at "responsable" ang gumagawa ng trabaho, ngunit ang pandiwa ay "itaguyod" (promote).

Sinusuportahan nito iyon sa pamamagitan ng mga konkretong daluyan. Aktibong sinusuportahan ng FCA ang kapaki-pakinabang na inobasyon sa pamamagitan ng Regulatory Sandbox, Digital Sandbox, TechSprints at iba pang serbisyong pagpapayo sa inobasyon. Sinusuportahan nito ang pangako ng Pamahalaan na pondohan ang isang pilot ng AI & Digital Hub na ihahatid ng mga miyembrong regulator ng DRCF. At namumuhunan ito sa sarili nitong kakayahan: kasama sa pamumuhunan nito sa datos at digital ang isang bagong digital hub sa Leeds at ang pag-recruit ng mahigit 75 na data scientist.

Ang mga detalyeng ito ay nasusuri, at mahalaga iyon. Ang isang regulator na nagsasalita tungkol sa pagiging technology-agnostic ngunit walang sariling kakayahan sa datos sa loob ng tanggapan ay mahihirapang tasahin kung ano ang sinasabi ng mga kumpanya rito. Ang pag-recruit ng mahigit 75 na data scientist ay isang senyales na nilalayon ng FCA na tasahin ang AI nang direkta, hindi umasa lamang sa sariling mga salaysay ng mga kumpanya.

Umaabot din ang saklaw ng FCA sa labas ng mga hangganan ng UK. Kumukuha ito ng nangungunang tungkulin sa International Organization of Securities Commissions at namumuno sa Global Financial Innovation Network. Dahil ang pangalawang layunin nito ay napapailalim sa pagkakahanay sa mga pandaigdigang pamantayan, ang pandaigdigang gawaing iyon ay naaayon sa mga nakasaad na layunin nito.

Sa hinaharap, nangangako ang FCA sa dalawang uri ng pagbabantay. Patuloy nitong mahigpit na babantayan ang paggamit ng AI sa buong mga merkadong pinansyal sa UK, at patuloy nitong babantayan ang mga potensyal na macro effect na maaaring idulot ng AI sa mga merkadong pinansyal. Parehong binalangkas ang mga ito bilang nagpapatuloy na mga pangako, hindi mga natuklasan. Ang pangalawa ang mas kawili-wili: lumilipat ito mula sa mga indibidwal na kumpanya at kanilang mga kostumer patungo sa mga merkado mismo. Hindi sinasabi ng FCA kung anong mga macro effect ang inaasahan nito, at magiging mali ang maghinuha ng anuman.

Saan umaangkop ang mga prinsipyo ng Pamahalaan #

Ang update ng FCA ay sumusunod sa paglalathala ng Pamahalaan ng pro-innovation na estratehiya nito noong Pebrero ng taong ito, at kaagapay ito ng isang mas malawak na politikal na mensahe: inilatag ng Punong Ministro na ang kinabukasan ng AI ay ligtas na AI.

Tinukoy ng Pamahalaan ang limang pangunahing prinsipyo para sa regulasyon ng AI sa UK: kaligtasan, seguridad at ang mas malawak na kinakailangan ng unang prinsipyo (katatagan/robustness); naaangkop na transparency at pagpapaliwanag; pagiging patas; pananagutan at governance; at kakayahang tutulan at mabigyan ng lunas (contestability and redress). Ang mga ito ay binigyang-kahulugan at ipinaliwanag sa White Paper ng Pamahalaan, AI Regulation: A Pro-innovation Approach. Isinasaad ng unang prinsipyo na ang mga sistemang AI ay dapat gumana sa isang ligtas at seguradong paraan sa buong siklo ng buhay ng AI.

Kapag binasa sa tabi ng sariling mga pahayag ng FCA, madaling makita ang pagkakatulad. Ang punto ng FCA tungkol sa pagsubok, pagpapatunay at pagpapaliwanag ay tumutugma sa prinsipyo ng transparency at pagpapaliwanag. Ang pagbibigay-diin nito sa mga prinsipyo ng pananagutan at bukas na mga kultura ng korporasyon ay tumutugma sa pananagutan at governance. Ang malasakit nito para sa mga mamimiling nahaharap sa mga bago at umuusbong na pinsala ay malapit sa teritoryo ng pagiging patas at contestability. Ako mismo ang gumuguhit ng mga pagkakatulad na ito. Ang tugon ng FCA ay hindi naglalatag ng pormal na pagtutugma sa pagitan ng dalawang listahan, at hindi dapat ituring ng isang kumpanya ang aking pagbasa bilang opisyal na gabay.

Ang sinasabi ng FCA ay ang nakabatay sa resultang pamamaraan nito ang nagpapahintulot dito na ilapat ang mga temang ito nang hindi nagrereseta ng teknolohiya. Nagbibigay ang Pamahalaan ng mga prinsipyo sa buong ekonomiya; inilalapat ng FCA ang mga umiiral na layunin nito sa loob ng mga serbisyong pinansyal. Para sa isang kumpanya, nangangahulugan iyon na ang mga tanong sa pagsunod ay nagmumula sa mga layunin at patakaran ng FCA, habang ang mga prinsipyo ng Pamahalaan ang nagsisilbing mas malawak na kuwadro.

Ano ang ibig sabihin ng mga bukas na tanong para sa mga kumpanya #

Ang pinakamatalas na mapupulot mula sa tugon ng FCA ay ang agwat sa pagitan ng kumpiyansa nito at ng pag-iingat nito. May kumpiyansa ito na sinasaklaw ng mga umiiral na balangkas ang maraming panganib sa AI, na dapat gabayan ng proporsyonalidad ang anumang interbensyon, at na pinoprotektahan ng regulasyong nakabatay sa mga resulta ang mga mamimili mula sa mga bagong pinsala. Maingat ito, at sinasabi iyon sa maingat na pananalita, tungkol sa kung ang bilis, lawak at pagiging kumplikado ng AI ay mangangailangan ng mga binagong pamamaraan sa pamamahala ng panganib at governance. Sinasabi rin nito na pinag-iisipan pa rin nito kung paano pinakamahusay na tutugunan ang mga isyung iyon.

Magagamit ng isang kumpanya ang istrukturang iyon. Ang lahat ng tuwirang isinasaad ng FCA ay isang bagay na dapat aksyunan ngayon: tugunan ang mga umiiral na resulta, at maging handang ipakita ang mga sistema at proseso na naghahatid sa mga ito. Ang lahat ng nilalagyan ng pasubali ng FCA ay isang tanong na dapat bantayan. Makatwirang maghanda para sa higit na pagtuon sa pagsubok, pagpapatunay at pagpapaliwanag, dahil pinangalanan na sila ng FCA, ngunit hindi magiging makatwirang ipagpalagay na may partikular na patakarang susunod. Hindi sinabi ng FCA na may susunod.

Ang nalalapit na ikatlong edisyon ng sarbey sa machine learning, na pinatatakbo nang magkasama kasama ang Bank of England, ang pinakamalapit na konkretong pinagmumulan ng bagong ebidensya. Sinasabi ng FCA na uunahin nito ang pag-unawa sa kasalukuyang mga estratehiya sa pag-deploy sa loob ng mga kumpanyang kinokontrol nito, kaya dapat asahan ng mga kumpanya na tatanungin sila kung paano nila dine-deploy ang AI. Ang mga sagot na iyon ang magpapakain sa pananaw na nakabatay sa ebidensya na, sa pagbabalangkas ng FCA, ay dapat magpanatili sa pamamaraan na proporsyonal at epektibo.

Ang bukas na tanong ay kung paano lulutasin ng FCA ang tensyon na tinukoy nito. Kung ang pagiging kumplikado ay humihingi ng mas mahigpit na pagsubok, pagpapatunay at pagpapaliwanag, ngunit ang mga patakaran ng FCA ay karaniwang hindi nag-uutos ng mga partikular na teknolohiya, ang sagot ay dapat magmula sa mga resulta, superbisyon o gabay sa halip na mga pagbabawal sa teknolohiya. Kung alin sa mga iyon ang pipiliin nito, at kung kailangan man nitong baguhin ang anuman, ang siyang malamang na ibunyag ng karagdagang pagsasaalang-alang nito at ng susunod na sarbey.

Mga Madalas Itanong #

Bakit hindi nagpakilala ang FCA ng isang nakalaang aklat ng mga patakaran sa AI para sa mga serbisyong pinansyal sa UK?

Gumagana ang FCA bilang isang technology-agnostic, nakabatay sa mga prinsipyo at nakatuon sa mga resulta na regulator na ang mga patakaran ay karaniwang hindi nag-uutos o nagbabawal sa mga partikular na teknolohiya. Dahil maraming panganib na may kaugnayan sa AI ay hindi natatangi sa AI, maaaring maibsan ang mga ito sa ilalim ng mga umiiral na pambatas at pang-regulasyong balangkas na nagpapanagot sa mga kumpanya para sa mga resulta sa mamimili at merkado.

Aling mga larangan ng AI governance ang binibigyang-diin ng FCA para sa mas masusing pagsusuri?

Sa paghugot mula sa gawaing superbisyon nito at pananaliksik kasama ang Digital Regulation Cooperation Forum (DRCF), binabanggit ng FCA na ang bilis, lawak at pagiging kumplikado ng AI ay maaaring mangailangan ng mga binagong pamamaraan sa pamamahala ng panganib at governance, na may mas malakas na pagtuon sa pagsubok ng modelo, pagpapatunay, pagpapaliwanag, panganib sa third-party outsourcing, cybersecurity at operational resilience.

Paano binubuo ng FCA ang sarili nitong teknikal na kapasidad upang pangasiwaan ang AI?

Kasabay ng pagpapatakbo ng Regulatory Sandbox, Digital Sandbox at TechSprints nito, namuhunan ang FCA sa mga kakayahan sa datos at digital kabilang ang isang digital hub sa Leeds, ang pag-recruit ng mahigit 75 na data scientist, at isang ikatlong pinagsamang sarbey sa machine learning kasama ang Bank of England upang direktang tasahin ang mga estratehiya sa pag-deploy ng kumpanya.

Mga Sanggunian #

Financial Conduct Authority, (2024). AI Update ⧉. Financial Conduct Authority.
Bank of England and Financial Conduct Authority, (2022). DP5/22 - Artificial Intelligence and Machine Learning ⧉. Bank of England.
UK Department for Science, Innovation and Technology, (2023). A pro-innovation approach to AI regulation ⧉. GOV.UK.

Huling sinuri 2026-11-01.

Muling i-publish ang artikulong ito

Bakit Kinokontrol ng FCA ang AI Nang Walang Aklat ng Mga Patakaran sa AI — Sebastien Rousseau

Inilalarawan ng FCA ang sarili nito bilang isang technology-agnostic, nakabatay sa mga prinsipyo at nakatuon sa mga resulta na regulator, at inilalapat nito ang paninindigang iyon sa AI. Ang mga patakaran nito ay karaniwang hindi nag-uutos o nagbabawal sa mga partikular...

Ang artikulong ito ay nakapailalim sa lisensya ng Creative Commons Attribution 4.0 International. Kailangan ng pagkilala sa canonical URL para sa muling pag-publish.

Bakit Kinokontrol ng FCA ang AI Nang Walang Aklat ng Mga Patakaran sa AI — Sebastien Rousseau

Inilalarawan ng FCA ang sarili nito bilang isang technology-agnostic, nakabatay sa mga prinsipyo at nakatuon sa mga resulta na regulator, at inilalapat nito ang paninindigang iyon sa AI. Ang mga patakaran nito ay karaniwang hindi nag-uutos o nagbabawal sa mga partikular...

Originally published at https://sebastienrousseau.com/fil/2026-10-28-bakit-kinokontrol-fca-ai-walang-aklat/ by Sebastien Rousseau.
Licensed under CC-BY-4.0.

SEBASTIEN ROUSSEAU FOUNDER · ENGINEER