Proč britský dohled FCA reguluje umělou inteligenci bez zvláštního kodexu pro AI

TL;DR. Úřad FCA se popisuje jako technologicky neutrální regulátor založený na principech a zaměřený na výsledky a tento přístup uplatňuje i vůči umělé inteligenci. Jeho pravidla obvykle nepřikazují ani...

Klíčové body

Dva roky od diskusního dokumentu na samý vrchol agendy. Úřad FCA otevírá své pojednání o AI výrokem o tempu.
Argument pro regulaci výsledků namísto nástrojů. Úřad FCA se popisuje jako technologicky neutrální regulátor založený na principech a zaměřený na výsledky.
Proporcionalita jako brzda proti přeregulování. Cíle úřadu FCA rámují vše, co o AI říká, a proto stojí za to je vyložit.
Většina rizik spojených s AI není nová, a právě o to jde. Jeden z nejzávažnějších výroků FCA je zároveň jedním z nejkratších.

Postoj úřadu FCA vychází z toho, že k regulaci nové technologie nepotřebujete nový soubor pravidel, pokud se vaše stávající pravidla již ptají, co daná technologie dělá lidem a trhům, a právě tento postoj uplatňuje na AI v britských finančních službách.

Manažerské shrnutí

Úřad FCA konstatuje, že za dva roky od vydání jeho diskusního dokumentu o AI se umělá inteligence mimořádnou rychlostí dostala do popředí zájmu napříč celou ekonomikou.

Jeho přístup spočívá v technologické neutralitě, opření o principy, zaměření na výsledky a v zásadě proporcionality.

Uvádí, že mnohá rizika související s AI lze zmírnit v rámci stávajících legislativních a regulačních rámců.

Složitost modelů AI si může vyžádat větší důraz na testování, validaci a vysvětlitelnost a FCA zvažuje, jak k těmto otázkám nejlépe přistoupit.

Inovace podporuje prostřednictvím programů Regulatory Sandbox, Digital Sandbox a TechSprints a investoval do vlastních datových a digitálních kapacit.

Pět vládních principů pro regulaci AI stojí po boku vlastního přístupu FCA zaměřeného na výsledky.

Dva roky od diskusního dokumentu na samý vrchol agendy #

Úřad FCA otevírá své pojednání o AI výrokem o tempu. Za dva roky od chvíle, kdy zveřejnil svůj diskusní dokument (Discussion Paper) o umělé inteligenci, poznamenává úřad, byla AI mimořádnou rychlostí vynesena do popředí agendy napříč celou ekonomikou. To jsou slova regulátora popisujícího, jak rychle se pohnula půda pod dokumentem, který sám napsal.

Diskusní dokument byl vydán společně s britskou centrální bankou Bank of England. FCA jej pod názvem AI Discussion Paper (2022) uvádí mezi dokumenty, které oba orgány publikovaly. Dalšími jsou vyhodnocení zpětné vazby Feedback Statement (2023), závěrečná zpráva AI Public-Private Forum Final Report (2022) a průzkumy o strojovém učení z let 2019 a 2022. V diskusním dokumentu FCA zkoumal potenciální přínosy a rizika využívání AI ve finančních službách v kontextu svých zákonných cílů. Úřad vydal řadu dokumentů o svém přístupu k AI a tento soubor prací tvoří základ pro postoj, který nyní formuluje.

FCA rovněž uvádí, že finanční služby jsou již nyní v čele digitalizace a že AI by mohla výrazně proměnit způsob, jakým firmy obsluhují své zákazníky a klienty na maloobchodních i velkoobchodních trzích. Na slovese záleží. FCA říká "mohla by", nikoli "promění". Tato transformace je možností, kterou bere vážně, spíše než výsledkem, o němž by tvrdil, že jej již napříč sektorem pozoroval.

Tam, kde skutečně uvádí pozorovaný výsledek, mluví o své vlastní práci. FCA konstatuje, že AI již proměnila rychlost, s jakou dokáže monitorovat a potírat podvodné webové stránky (scam websites), praní špinavých peněz a porušování sankcí. Regulátor, který toto říká, je zároveň uživatelem dané technologie, což formuje i to, jak věrohodně bude působit jeho postoj k využívání AI ve firmách.

Argument pro regulaci výsledků namísto nástrojů #

Úřad FCA se popisuje jako technologicky neutrální regulátor založený na principech a zaměřený na výsledky. Každé z těchto tří slov plní v jeho přístupu k AI konkrétní úlohu.

Technologická neutralita je nejzřejmější. Pravidla, předpisy a základní principy FCA obvykle nepřikazují ani nezakazují konkrétní technologie. Neexistuje žádný seznam schválených modelů ani zakázaných technik. Jeho regulační přístup spočívá, jeho vlastními slovy, v identifikaci a zmírňování rizik pro jeho cíle, včetně těch, která vyplývají ze spoléhání regulovaných firem na různé technologie. Technologie je zdrojem rizika, které je třeba vyhodnotit, nikoli kategorií, kterou je třeba licencovat.

Když FCA posuzuje využití dané technologie určitou firmou, objektivně vyhodnocuje rizika a případné nepříznivé dopady na své cíle a na regulační výsledky, o něž usiluje. Hodnocení začíná u cílů a postupuje směrem ven k technologii. Nezačíná u technologie s otázkou, zda pro ni existuje zvláštní pravidlo.

FCA otevřeně vysvětluje, proč tomuto přístupu dává přednost. Regulaci zaměřenou na výsledky lze podle něj na technologické změny a vývoj trhu aplikovat snáze než podrobná a kogentní pravidla. Dodává, že v důsledku toho jsou spotřebitelé lépe chráněni před novými a teprve vznikajícími újmami. Argument je praktický. Podrobné pravidlo sepsané pro jednu generaci technologie se musí přepsat, když dorazí generace další, kdežto výsledek, jako je přiměřená ochrana spotřebitele, se s nástroji nemění.

To je obhajitelný postoj a pro rychle se vyvíjející technologii i postoj správný. Práci samotného regulátora to však nijak neusnadňuje. Regulátor zaměřený na výsledky nemůže firmě předem říci, která architektura modelu projde. Může firmě pouze sdělit, k čemu bude zavázána, a poté prověřit dosažený výsledek. Přesně to FCA říká i o svém dohledovém postoji: jeho prověřování zahrnuje systémy a procesy, které mají firmy zavedeny, aby zajistily plnění jeho regulačních očekávání. Pro firmu nasazující AI tedy otázka kladená úřadem FCA zní, zda firma dokáže prokázat, že její systémy a procesy přinášejí očekávané výsledky.

Tento přístup má podporu i v samotném odvětví. Respondenti reagující na diskusní dokument o AI obecně podporují technologicky neutrální přístup k regulaci využívání AI v britských finančních službách, založený na principech a zaměřený na výsledky. FCA o této podpoře informuje věcně. Regulátor, který by zvolil tento přístup a následně narazil na nepřátelský trh, by byl v těžší pozici. Zde podle jeho vlastního líčení konzultace ukázala stejným směrem jako jeho dosavadní instinkty.

Proporcionalita jako brzda proti přeregulování #

Cíle úřadu FCA rámují vše, co o AI říká, a proto stojí za to je vyložit. FCA reguluje firmy poskytující finanční služby a finanční trhy ve Spojeném království. Jeho strategickým cílem je zajistit, aby příslušné trhy dobře fungovaly. Má tři operativní cíle: zajistit přiměřenou míru ochrany spotřebitelů, chránit a posilovat integritu britského finančního systému a podporovat účinnou hospodářskou soutěž v zájmu spotřebitelů.

Má také sekundární cíl: napomáhat mezinárodní konkurenceschopnosti britské ekonomiky a jejímu růstu ve střednědobém až dlouhodobém horizontu, s výhradou souladu s mezinárodními standardy. A uvádí, že jako regulátor finančních služeb hraje důležitou roli v pokračujícím úspěchu a konkurenceschopnosti britských trhů finančních služeb.

Tento výčet je důležitý, protože ukazuje, že FCA není pouze orgánem minimalizujícím rizika. Dva z jeho deklarovaných cílů, účinná hospodářská soutěž a konkurenceschopnost britské ekonomiky, tlačí směrem k umožňování činnosti firem spíše než k jejich omezování. FCA vnímá prospěšné inovace jako životně důležitou součást účinné hospodářské soutěže. Jakákoli politika v oblasti AI, kterou napíše, se musí zodpovídat oběma souborům cílů současně.

Proporcionalita je způsob, jakým je uvádí do souladu. Princip proporcionality formuje uvažování a přístup FCA k umělé inteligenci, včetně jakýchkoli potenciálních budoucích regulačních zásahů. Obrat "potenciální budoucí regulační zásahy" stojí za pozornost. FCA nevylučuje další zásahy a předem se zavazuje k testu, kterému by každý takový zásah musel čelit. Podle zákona FSMA musí FCA přihlížet k principu, že zátěž nebo omezení uložené osobě či činnosti by měly být úměrné očekávaným přínosům.

Vyjádření FCA rovněž popisuje druh důkazů, o něž se chce opírat. Uvádí, že pohled založený na důkazech a vyvažující přínosy a rizika AI zajistí proporcionální a účinný přístup k využívání umělé inteligence ve finančních službách. Tvrzení je formulováno opatrně, jak by také mělo být: očekává se, že tento pohled přinese daný výsledek, ale zatím nebylo prokázáno, že se tak stalo. FCA popisuje metodu, nikoli hotový výsledek.

Aby tuto důkazní základnu vybudoval, říká FCA, že upřednostní porozumění současným strategiím nasazování uvnitř firem, které reguluje. To bude zahrnovat třetí vydání jeho průzkumu o strojovém učení, publikovaného společně s Bank of England. Tento průzkum je příslibem do budoucna, nikoli dokončenou prací. Říká firmám, odkud pravděpodobně vzejde další kolo důkazů.

Většina rizik spojených s AI není nová, a právě o to jde #

Jeden z nejzávažnějších výroků FCA je zároveň jedním z nejkratších. Mnohá rizika související s umělou inteligencí nejsou nutně výlučná pro samotnou AI, a lze je proto zmírnit v rámci stávajících legislativních a regulačních rámců.

Právě toto činí absenci zvláštního kodexu pro AI vnitřně soudržnou, a nikoli nedbalou. Pokud se rizika procesu poháněného umělou inteligencí podobají rizikům jakéhokoli jiného procesu, který ovlivňuje spotřebitele nebo trhy, má pro ně stávající rámec již připravené záchytné body. FCA netvrdí, že je pokryto každé riziko. Formulace zní "mnohá" a "ne nutně výlučná", což ponechává prostor pro rizika, která jsou specifická pro AI. Výchozím bodem je však začít s tím, co již existuje.

Pro zakladatele firem je to uklidňující i náročné zároveň. Je to uklidňující, protože neexistuje žádný oddělený režim shody (compliance) pro AI, který by bylo nutné se učit vedle toho stávajícího. Je to náročné, protože stávající povinnosti platí v plném rozsahu a pozornost FCA směřuje k systémům a procesům, které prokazují, že jsou tyto povinnosti plněny. Produkt postavený na AI nedostává jiný metr. Čelí stejným požadovaným výsledkům, testovaným vůči technologii, kterou může být obtížnější vysvětlit.

Právě na tuto obtíž upozorňuje FCA v dalším kroku, a zde se jeho tón stává opatrnějším.

Kde se stávající rámec možná bude muset prohnout #

Úřad FCA upřímně přiznává, že uplatňování stávajících pravidel na AI se neobejde zcela bez tření. Jeho dohledová práce a výzkum z fóra Digital Regulation Cooperation Forum (DRCF) podtrhují, že rychlost, rozsah a složitost AI si mohou vyžádat upravené přístupy k podnikovému řízení rizik a správě a řízení (governance). Opatrná formulace "mohou vyžádat" je záměrná. FCA upozorňuje na tlak působící na stávající rámec, neoznamuje jeho změnu.

Dále uvádí, kam by tento tlak mohl dopadnout. Složitost modelů AI si může vyžádat větší důraz na testování, validaci a vysvětlitelnost modelů AI. Tento důraz přichází ruku v ruce se silnými principy odpovědnosti (accountability), posílenými firemní kulturou fungující s otevřeností a transparentností. Testování, validace a vysvětlitelnost jsou technické disciplíny, zatímco odpovědnost a otevřenost jsou disciplíny organizační. FCA je spojuje do dvojice, což naznačuje, že kvalitu modelů a správu společnosti vnímá jako dvě poloviny jednoho problému. Toto čtení je mé vlastní a FCA to takto výslovně neuvádí.

FCA netvrdí, že tuto otázku již vyřešil. Říká: "Zvažujeme, jak k těmto otázkám nejlépe přistoupit." Tato věta je vyjádřením postoje stejně jako cokoli jiného v jeho dokumentu. Regulace zaměřená na výsledky dokáže pojmout novou technologii, ale tam, kde složitost modelu ztěžuje validaci či vysvětlení jeho chování, FCA uznává, že standard bude možná třeba přiostřit. Jakou podobu to nabere, zatím uvedeno není.

FCA rovněž varuje před tím, aby byla AI chápána jako izolovaná starost. Umělá inteligence by neměla být posuzována izolovaně, uvádí úřad, a bezpečný přístup k jejímu zavádění vyžaduje zohlednění širších technologických trendů. Jeho práce s firmami naznačuje rostoucí naléhavost zaujmout proaktivnější přístup k rizikům spojeným s outsourcingem, kybernetickou bezpečností a provozní odolností. Tvrzení je formulováno opatrně a tak by se mělo i číst. Směr je však jasný: riziko spojené s AI v dané firmě je provázáno s tím, kdo dodává její infrastrukturu, jak dobře je chráněna a jak dobře se zotavuje z výpadků.

Vezmeme-li to dohromady, je tato část uvažování FCA prakticky nejužitečnější. Firma zavádějící AI nemůže zacházet se samotným modelem jako s celým rizikem. Dodavatelský řetězec kolem něj, bezpečnost jeho dat i odolnost celé služby spadají do téže otázky bezpečného přijetí technologie.

Podpora inovací při sledování makroekonomického obrazu #

Nic z toho se nečte jako projev regulátora, který by se snažil zpomalit zavádění technologie. FCA uvádí, že chce podporovat bezpečné a odpovědné využívání AI na britských finančních trzích. Přívlastky "bezpečné" a "odpovědné" zde odvádějí podstatnou práci, ale slovesem zůstává "podporovat".

Svůj postoj dokládá konkrétními kanály. FCA aktivně podporuje prospěšné inovace prostřednictvím programů Regulatory Sandbox, Digital Sandbox, TechSprints a dalších inovačních poradenských služeb. Podporuje závazek vlády financovat pilotní projekt centra AI & Digital Hub realizovaný členskými regulátory DRCF. A investuje i do vlastních kapacit: jeho datové a digitální investice zahrnují nové digitální centrum v Leedsu a nábor více než 75 datových vědců (data scientists).

Tyto podrobnosti jsou ověřitelné, a na tom záleží. Regulátor, který mluví o technologické neutralitě, ale nemá žádné vlastní datové kapacity, by jen těžko posuzoval to, co mu firmy říkají. Nábor více než 75 datových vědců je signálem, že FCA hodlá posuzovat AI přímo, a nikoli spoléhat pouze na vlastní líčení firem.

Dosah FCA navíc přesahuje hranice Spojeného království. Úřad přebírá vedoucí roli v Mezinárodní organizaci komisí pro cenné papíry (IOSCO) a předsedá síti Global Financial Innovation Network (GFIN). Vzhledem k tomu, že jeho sekundární cíl podléhá souladu s mezinárodními standardy, je tato mezinárodní práce plně v souladu s jeho deklarovanými záměry.

Do budoucna se FCA zavazuje ke dvěma druhům sledování. Bude i nadále pozorně sledovat zavádění AI napříč britskými finančními trhy a bude pokračovat ve sledování potenciálních makroekonomických dopadů, které může mít AI na finanční trhy. Obojí je rámováno jako trvalý závazek, nikoli jako hotové zjištění. Druhý bod je zajímavější: posouvá se od jednotlivých firem a jejich zákazníků k samotným trhům. FCA neříká, jaké makroekonomické dopady očekává, a bylo by chybnou spekulací nějaké si domýšlet.

Kam zapadají vládní principy #

Aktualizace ze strany FCA navazuje na vládní publikaci proinovační strategie z února letošního roku a stojí po boku širšího politického poselství: premiér jasně vyložil, že budoucností AI je bezpečná AI.

Vláda vytyčila pět klíčových principů pro regulaci AI ve Spojeném království: bezpečnost, zabezpečení (security) a širší požadavek prvního principu; přiměřenou transparentnost a vysvětlitelnost; spravedlnost (fairness); odpovědnost a správu (accountability and governance); a napadnutelnost rozhodnutí a nápravu (contestability and redress). Jsou definovány a vysvětleny ve vládní Bílé knize nazvané AI Regulation: A Pro-innovation Approach. První princip stanoví, že systémy AI by měly fungovat zabezpečeným a bezpečným způsobem po celý životní cyklus AI.

Čteme-li tyto body vedle vlastních vyjádření FCA, je překryv snadno patrný. Poznámka FCA o testování, validaci a vysvětlitelnosti se promítá do principu transparentnosti a vysvětlitelnosti. Jeho důraz na principy odpovědnosti a otevřenou firemní kulturu odpovídá odpovědnosti a správě. Jeho zájem o spotřebitele čelící novým a vznikajícím újmám má blízko k oblasti spravedlnosti a možnosti nápravy. Tyto paralely zde ovšem rýsuji já sám. Vyjádření FCA nestanoví formální převodní tabulku mezi oběma seznamy a žádná firma by neměla brát mé čtení jako oficiální metodický pokyn.

Co FCA skutečně říká, je to, že právě jeho přístup zaměřený na výsledky mu umožňuje uplatňovat tato témata bez předepisování konkrétní technologie. Vláda dodává celoekonomické principy; FCA aplikuje své stávající cíle uvnitř finančních služeb. Pro firmu to znamená, že otázky shody s předpisy vycházejí z cílů a pravidel FCA, přičemž vládní principy tvoří širší rámec.

Co otevřené otázky znamenají pro firmy #

Nejostřejším poznatkem z vyjádření FCA je mezera mezi jeho jistotou a jeho opatrností. Je si jistý, že stávající rámce pokrývají mnohá rizika spojená s AI, že jakýkoli zásah by se měl řídit proporcionalitou a že regulace zaměřená na výsledky chrání spotřebitele před novými újmami. Je naopak opatrný, a říká to obezřetným jazykem, v otázce, zda si rychlost, rozsah a složitost AI vyžádají upravené přístupy k řízení rizik a správě. Rovněž uvádí, že stále zvažuje, jak k těmto otázkám nejlépe přistoupit.

Firma může tuto strukturu prakticky využít. Vše, co FCA konstatuje přímo, je věcí, podle níž lze jednat již nyní: plnit stávající požadované výsledky a být připraven ukázat systémy a procesy, které je zajišťují. Vše, co FCA formuluje s výhradou, je otázkou, kterou je třeba sledovat. Je rozumné připravit se na větší důraz na testování, validaci a vysvětlitelnost, jelikož je FCA výslovně jmenoval, ale nebylo by rozumné předpokládat, že bude následovat konkrétní podrobné pravidlo. FCA neřekl, že nějaké přijde.

Nadcházející třetí vydání průzkumu o strojovém učení, pořádaného společně s Bank of England, je nejbližším konkrétním zdrojem nových důkazů. FCA říká, že upřednostní porozumění současným strategiím nasazování uvnitř regulovaných firem, takže firmy by měly počítat s tím, že budou dotazovány, jak AI nasazují. Tyto odpovědi nasytí pohled založený na důkazech, který by měl v pojetí FCA udržet celý přístup proporcionálním a účinným.

Otevřenou otázkou je, jak FCA vyřeší napětí, které sám pojmenoval. Pokud složitost vyžaduje přísnější testování, validaci a vysvětlitelnost, ale pravidla FCA obvykle nepřikazují konkrétní technologie, musí odpověď přijít skrze požadované výsledky, dohled nebo metodické pokyny spíše než skrze zákazy technologií. Kterou z těchto cest zvolí a zda vůbec potřebuje cokoli měnit, pravděpodobně ukáže až jeho další zvažování a příští průzkum.

Často kladené otázky #

Proč úřad FCA nezavedl pro britské finanční služby zvláštní kodex pravidel pro AI?

Úřad FCA funguje jako technologicky neutrální regulátor založený na principech a zaměřený na výsledky, jehož pravidla obvykle nepřikazují ani nezakazují konkrétní technologie. Protože mnohá rizika související s AI nejsou výlučná pouze pro umělou inteligenci, lze je zmírňovat v rámci stávajících legislativních a regulačních rámců, které činí firmy odpovědnými za výsledky vůči spotřebitelům a trhu.

Které oblasti správy AI označuje FCA jako kandidáty na bližší prověřování?

Na základě své dohledové práce a výzkumu v rámci fóra Digital Regulation Cooperation Forum (DRCF) FCA upozorňuje, že rychlost, rozsah a složitost AI si mohou vyžádat upravené přístupy k řízení rizik a správě a řízení, se silnějším důrazem na testování modelů, validaci, vysvětlitelnost, rizika outsourcingu u třetích stran, kybernetickou bezpečnost a provozní odolnost.

Jak si FCA buduje vlastní technické kapacity pro dohled nad AI?

Vedle provozování programů Regulatory Sandbox, Digital Sandbox a TechSprints investoval FCA do datových a digitálních kapacit včetně digitálního centra v Leedsu, náboru více než 75 datových vědců a třetího společného průzkumu o strojovém učení s Bank of England, aby mohl přímo posuzovat strategie nasazování ve firmách.

Literatura #

Financial Conduct Authority, (2024). AI Update ⧉. Financial Conduct Authority.
Bank of England and Financial Conduct Authority, (2022). DP5/22 - Artificial Intelligence and Machine Learning ⧉. Bank of England.
UK Department for Science, Innovation and Technology, (2023). A pro-innovation approach to AI regulation ⧉. GOV.UK.

Naposledy revidováno 2026-11-01.

Znovu publikovat tento článek

Proč britský dohled FCA reguluje umělou inteligenci bez zvláštního kodexu pro AI — Sebastien Rousseau

Úřad FCA se popisuje jako technologicky neutrální regulátor založený na principech a zaměřený na výsledky a tento přístup uplatňuje i vůči umělé inteligenci. Jeho pravidla obvykle nepřikazují ani...

Tento článek je licencován pod Creative Commons Attribution 4.0 International. Při opětovné publikaci uveďte odkaz na kanonickou URL.

Proč britský dohled FCA reguluje umělou inteligenci bez zvláštního kodexu pro AI — Sebastien Rousseau

Úřad FCA se popisuje jako technologicky neutrální regulátor založený na principech a zaměřený na výsledky a tento přístup uplatňuje i vůči umělé inteligenci. Jeho pravidla obvykle nepřikazují ani...

Originally published at https://sebastienrousseau.com/cs/2026-10-28-proc-britsky-dohled-fca-reguluje-umelou/ by Sebastien Rousseau.
Licensed under CC-BY-4.0.

SEBASTIEN ROUSSEAU FOUNDER · ENGINEER