Почему FCA регулирует искусственный интеллект без отдельного свода правил для ИИ

TL;DR. Управление по финансовому регулированию и надзору (FCA) описывает себя как технологически нейтрального, основанного на принципах и ориентированного на результаты регулятора, и применяет этот подход к ИИ.

Ключевые выводы

Два года от дискуссионного документа до вершины повестки дня. FCA открывает свой обзор ИИ утверждением о темпе.
Аргументы в пользу регулирования результатов вместо инструментов. FCA описывает себя как технологически нейтрального, основанного на принципах и ориентированного на результаты регулятора.
Пропорциональность как тормоз для избыточного регулирования. Цели FCA задают рамки всего, что оно говорит об ИИ, поэтому их стоит очертить.
Большинство рисков ИИ не новы, и в этом вся суть. Одно из наиболее значимых утверждений FCA является одновременно одним из самых коротких.

Позиция FCA заключается в том, что вам не нужен новый свод правил для регулирования новой технологии, когда ваши действующие правила уже спрашивают, как эта технология влияет на людей и рынки, и регулятор применяет эту позицию к ИИ в финансовых услугах Великобритании.

Резюме для руководителей

В FCA отмечают, что за два года после публикации Дискуссионного документа по ИИ эта технология с необычайной скоростью вышла на первый план повестки дня во всей экономике.

Подход регулятора опирается на технологическую нейтральность, основанность на принципах, ориентацию на результаты и пропорциональность.

Ведомство утверждает, что многие риски, связанные с ИИ, можно смягчить в рамках действующих законодательных и регуляторных систем.

Сложность моделей ИИ может потребовать большего внимания к тестированию, валидации и объяснимости, и FCA рассматривает, как лучше всего решить эти вопросы.

Регулятор поддерживает инновации через свою Регуляторную песочницу (Regulatory Sandbox), Цифровую песочницу (Digital Sandbox) и мероприятия TechSprints, а также инвестирует в собственные цифровые и аналитические возможности.

Пять правительственных принципов регулирования ИИ действуют наряду с собственным ориентированным на результаты подходом FCA.

Два года от дискуссионного документа до вершины повестки дня #

FCA открывает свой обзор ИИ утверждением о темпе. За два года, прошедшие с момента публикации его Дискуссионного документа по ИИ, отмечает ведомство, искусственный интеллект с необычайной скоростью выдвинулся на передний край повестки дня во всей экономике. Это слова регулятора, описывающего, как быстро изменилась почва под документом, написанным им самим.

Дискуссионный документ был опубликован совместно с Банком Англии. FCA перечисляет его - Дискуссионный документ по ИИ (2022) - среди публикаций, выпущенных этими двумя органами. Другие документы включают Заявление по итогам обратной связи (2023), Итоговый отчет Государственно-частного форума по вопросам ИИ (2022), а также опросы по машинному обучению за 2019 и 2022 годы. В Дискуссионном документе FCA исследовало потенциальные выгоды и риски использования ИИ в финансовых услугах в контексте своих уставных целей. Ведомство опубликовало ряд материалов о своем подходе к ИИ, и этот задел служит фундаментом для позиции, которую оно формулирует теперь.

FCA также отмечает, что сфера финансовых услуг уже находится в авангарде цифровизации, и что ИИ может существенно трансформировать то, как компании обслуживают своих потребителей и клиентов как на розничных, так и на оптовых рынках. Глагол имеет значение. FCA говорит "может трансформировать", а не "трансформирует". Трансформация - это возможность, которую регулятор воспринимает всерьез, а не результат, который он якобы уже зафиксировал во всем секторе.

Там, где регулятор действительно заявляет о зафиксированном результате, речь идет о его собственной работе. FCA утверждает, что ИИ уже трансформировал скорость, с которой ведомство может отслеживать и пресекать деятельность мошеннических веб-сайтов, отмывание денег и нарушения санкций. Регулятор, говорящий об этом, сам является пользователем этой технологии, и это влияет на то, насколько убедительной выглядит его позиция в отношении использования ИИ компаниями.

Аргументы в пользу регулирования результатов вместо инструментов #

FCA описывает себя как технологически нейтрального, основанного на принципах и ориентированного на результаты регулятора. Каждая из этих трех характеристик выполняет свою работу в том, как ведомство относится к ИИ.

Технологическая нейтральность (technology-agnostic) наиболее проста для понимания. Правила, нормы и базовые принципы FCA обычно не предписывают и не запрещают конкретные технологии. Не существует списка одобренных моделей или запрещенных методов. Его регуляторный подход, по собственным словам ведомства, заключается в выявлении и смягчении рисков для его целей, включая те, что возникают из-за зависимости поднадзорных компаний от различных технологий. Технология - это источник риска, который следует оценить, а не категория, которую нужно лицензировать.

Когда FCA рассматривает использование компанией определенной технологии, оно объективно оценивает риски и любые негативные последствия для своих целей и регуляторных результатов, которых стремится достичь. Оценка начинается от целей и движется наружу, к технологии. Она не начинается от технологии с вопросом, существует ли для нее специальное правило.

FCA прямо объясняет, почему предпочитает такой подход. Регулирование, ориентированное на результаты, отмечает ведомство, легче применять к технологическим изменениям и рыночным тенденциям, чем детальные и предписывающие правила. И добавляет, что благодаря этому потребители лучше защищены от новых и возникающих угроз. Аргумент практичен. Детальное правило, написанное для одного поколения технологий, приходится переписывать с приходом следующего, тогда как такой результат, как надлежащая защита прав потребителей, не меняется со сменой инструментария.

Это обоснованная позиция, и она правильна для быстро развивающейся технологии. Впрочем, работу самого регулятора она не облегчает. Ориентированный на результаты регулятор не может заранее сказать компании, какая именно архитектура модели пройдет проверку. Он может лишь сказать компании, по каким критериям с нее спросят, а затем тщательно проверить результат. Примерно так FCA и описывает свою надзорную позицию: его проверка включает системы и процессы, которые компании создали для обеспечения выполнения регуляторных ожиданий. Для компании, внедряющей ИИ, вопрос от FCA заключается в том, может ли компания доказать, что ее системы и процессы обеспечивают ожидаемые результаты.

Этот подход также пользуется поддержкой со стороны отрасли. Респонденты, ответившие на Дискуссионный документ по ИИ, в целом поддерживают технологически нейтральный, основанный на принципах и ориентированный на результаты подход к регулированию использования ИИ в финансовых услугах Великобритании. FCA прямо сообщает об этой поддержке. Регулятор, который выбрал бы такой подход, а затем столкнулся с враждебностью рынка, оказался бы в куда более сложном положении. Здесь, по собственному отчету ведомства, консультации указали в том же направлении, что и его собственные инстинкты.

Пропорциональность как тормоз для избыточного регулирования #

Цели FCA задают рамки всего, что оно говорит об ИИ, поэтому их стоит очертить. FCA регулирует финансовые компании и финансовые рынки в Великобритании. Его стратегическая цель - обеспечить надлежащее функционирование соответствующих рынков. У него есть три операционные цели: обеспечить надлежащий уровень защиты потребителей, защитить и укрепить целостность финансовой системы Великобритании и содействовать эффективной конкуренции в интересах потребителей.

У него также есть вторичная цель: содействовать международной конкурентоспособности экономики Великобритании и ее росту в средне- и долгосрочной перспективе при условии согласования с международными стандартами. И ведомство отмечает, что как регулятор финансовых услуг оно играет важную роль в дальнейшем успехе и конкурентоспособности британских рынков финансовых услуг.

Этот перечень важен, поскольку показывает, что FCA не является органом, призванным лишь минимизировать риски. Две из его заявленных целей - эффективная конкуренция и конкурентоспособность экономики Великобритании - подталкивают к расширению возможностей компаний, а не к их ограничению. FCA рассматривает полезные инновации как жизненно важную составляющую эффективной конкуренции. Любая политика в отношении ИИ, которую формирует ведомство, должна отвечать обеим группам целей одновременно.

Пропорциональность - это способ, которым регулятор их согласовывает. Принцип пропорциональности лежит в основе мышления и подхода FCA к ИИ, включая любые потенциальные будущие регуляторные вмешательства. Выражение "потенциальные будущие регуляторные вмешательства" заслуживает внимания. FCA не исключает дальнейшего вмешательства и заранее берет на себя обязательство в отношении критерия, которому такое вмешательство должно будет соответствовать. Согласно Закону о финансовых услугах и рынках (FSMA), FCA обязано учитывать принцип, согласно которому бремя или ограничение, налагаемое на лицо или деятельность, должно быть пропорционально ожидаемым выгодам.

Ответ FCA также описывает тип доказательств, на которые ведомство хочет опираться. В нем говорится, что основанный на фактических данных взгляд, уравновешивающий выгоды и риски ИИ, обеспечит пропорциональный и эффективный подход к использованию ИИ в финансовых услугах. Это утверждение сформулировано осторожно, как и подобает: ожидается, что такой взгляд даст этот результат, но на практике это еще предстоит доказать. FCA описывает метод, а не отчитывается об уже достигнутом итоге.

Чтобы сформировать эту доказательную базу, FCA заявляет, что приоритетом для него будет понимание текущих стратегий внедрения внутри поднадзорных компаний. Это будет включать третий выпуск опроса по машинному обучению, публикуемого совместно с Банком Англии. Этот опрос является обязательством на будущее, а не завершенной работой. Он подсказывает компаниям, откуда, вероятнее всего, поступит следующая волна фактических данных.

Большинство рисков ИИ не новы, и в этом вся суть #

Одно из наиболее значимых утверждений FCA является одновременно одним из самых коротких. Многие риски, связанные с ИИ, не обязательно уникальны для самого ИИ и поэтому могут быть смягчены в рамках действующих законодательных и регуляторных систем.

Именно это делает отсутствие отдельного свода правил для ИИ последовательной позицией, а не халатностью. Если риски процесса, управляемого ИИ, напоминают риски любого другого процесса, влияющего на потребителей или рынки, действующая система уже имеет зацепки для их удержания. FCA не утверждает, будто покрыт абсолютно каждый риск. Формулировка звучит как "многие" и "не обязательно уникальны", что оставляет пространство для рисков, специфичных именно для ИИ. Однако по умолчанию работа начинается с того, что уже существует.

Для основателей компаний это звучит одновременно и успокаивающе, и требовательно. Успокаивающе - потому что нет отдельного режима комплаенса для ИИ, который приходилось бы изучать параллельно с действующим. Требовательно - потому что существующие обязательства действуют в полном объеме, а внимание FCA направлено на системы и процессы, подтверждающие их выполнение. Продукт, построенный на базе ИИ, не получает иного стандарта. Он сталкивается с теми же требованиями к результатам, которые тестируются на технологии, чью работу может быть сложнее объяснить.

Именно на эту сложность FCA указывает далее, и здесь его тон становится осторожнее.

Где действующей системе может потребоваться гибкость #

FCA откровенно признает, что применение существующих правил к ИИ не проходит без трения. Его надзорная работа и исследования Форума сотрудничества в сфере цифрового регулирования (DRCF) подчеркивают, что скорость, масштаб и сложность ИИ могут потребовать модифицированных подходов к управлению рисками и корпоративному управлению в компаниях. Осторожность формулировки осознанна: "могут потребовать". FCA указывает на точку давления на регуляторную систему, а не объявляет об ее изменении.

Далее ведомство уточняет, куда именно может прийтись это давление. Сложность моделей ИИ может потребовать большего фокуса на тестировании, валидации и объяснимости моделей ИИ. Этот фокус сочетается с сильными принципами подотчетности, подкрепленными корпоративными культурами, действующими на началах открытости и прозрачности. Тестирование, валидация и объяснимость - это технические дисциплины, а подотчетность и открытость - организационные. FCA ставит их в пару, что наводит на мысль: регулятор рассматривает качество моделей и корпоративное управление как две половины одной проблемы. Это мое собственное прочтение, сам регулятор прямо так не говорит.

FCA не утверждает, что уже решило этот вопрос. Ведомство отмечает: "Мы рассматриваем, как лучше всего подойти к решению этих вопросов". Это предложение является таким же заявлением о позиции, как и все остальное в его документе. Регулирование, ориентированное на результаты, способно вместить новую технологию, но там, где сложность модели делает ее поведение трудным для валидации или объяснения, FCA признает, что стандарт может потребовать уточнения. Какую форму это примет - пока не указано.

FCA также предостерегает от рассмотрения ИИ как изолированной проблемы. ИИ не следует рассматривать в отрыве от остальных процессов, отмечает ведомство, и безопасный подход к внедрению требует учета более широких технологических тенденций. Его работа с компаниями свидетельствует о растущей насущной потребности в более проактивном подходе к рискам аутсорсинга, кибербезопасности и операционной устойчивости (resilience). Утверждение сформулировано осторожно, и читать его следует именно так. Но направление очевидно: риск ИИ для компании тесно переплетен с тем, кто поставляет ее инфраструктуру, насколько хорошо она защищена и насколько быстро восстанавливается после сбоев.

В совокупности эта часть размышлений FCA наиболее практична. Компания, внедряющая ИИ, не может считать саму модель единственным источником риска. Цепочка поставок вокруг нее, безопасность ее данных и устойчивость сервиса подпадают под один и тот же вопрос безопасного внедрения.

Поддержка инноваций при одновременном мониторинге макрокартины #

Ничто из этого не читается как попытка регулятора замедлить внедрение. FCA заявляет, что хочет содействовать безопасному и ответственному использованию ИИ на финансовых рынках Великобритании. Определения "безопасному" и "ответственному" выполняют важную работу, но ключевым глаголом является "содействовать".

Ведомство подкрепляет это конкретными каналами. FCA активно поддерживает полезные инновации через Регуляторную песочницу, Цифровую песочницу, TechSprints и другие консультационные инновационные сервисы. Оно поддерживает обязательство правительства профинансировать пилотный проект Центра ИИ и цифровых технологий (AI & Digital Hub), реализуемый регуляторами-членами DRCF. И оно инвестирует в собственные возможности: его инвестиции в работу с данными и цифровые технологии включают новый цифровой хаб в Лидсе и найм более 75 специалистов по науке о данных (data scientists).

Эти детали проверяемы, и это имеет значение. Регулятор, говорящий о технологической нейтральности, но не имеющий собственной аналитической базы, испытывал бы трудности с оценкой того, что ему рассказывают компании. Найм более 75 специалистов по науке о данных служит сигналом того, что FCA намерено оценивать ИИ напрямую, а не полагаться лишь на собственные отчеты компаний.

Охват FCA также выходит за пределы границ Великобритании. Ведомство берет на себя ведущую роль в Международной организации комиссий по ценным бумагам (IOSCO) и председательствует в Глобальной сети финансовых инноваций (GFIN). Учитывая, что его вторичная цель предполагает согласование с международными стандартами, эта международная работа вполне согласуется с заявленными целями.

На горизонте FCA берет на себя обязательства по двум видам наблюдения. Оно продолжит пристально отслеживать внедрение ИИ на финансовых рынках Великобритании, а также продолжит мониторинг потенциальных макроэффектов, которые ИИ может оказывать на финансовые рынки. Оба пункта поданы как постоянные обязательства, а не как готовые выводы. Второй пункт более интересен: он переходит от отдельных компаний и их клиентов к самим рынкам. FCA не уточняет, каких именно макроэффектов оно ожидает, и домысливать их было бы неправильно.

Как сюда вписываются правительственные принципы #

Обновление позиции FCA следует за публикацией правительством своей проинновационной стратегии в феврале этого года и идет рука об руку с более широким политическим посылом: премьер-министр обозначил, что будущее ИИ - это безопасный ИИ.

Правительство определило пять ключевых принципов регулирования ИИ в Великобритании: безопасность, защищенность и более широкое требование первого принципа; надлежащая прозрачность и объяснимость; справедливость; подотчетность и корпоративное управление; а также возможность оспаривания и возмещения (contestability and redress). Они определены и разъяснены в правительственной Белой книге "Регулирование ИИ: проинновационный подход". Первый принцип гласит, что системы ИИ должны функционировать безопасным и защищенным образом на протяжении всего жизненного цикла ИИ.

Если читать это рядом с собственными заявлениями FCA, пересечение легко заметить. Тезис FCA о тестировании, валидации и объяснимости прямо накладывается на принцип прозрачности и объяснимости. Его акцент на принципах подотчетности и открытой корпоративной культуре соответствует принципу подотчетности и управления. Его забота о защите потребителей от новых и возникающих угроз лежит близко к территории справедливости и возможности оспаривания. Эти параллели провожу я сам. В ответе FCA нет формализованной таблицы соответствия между двумя списками, и компаниям не следует воспринимать мое прочтение как официальное разъяснение.

О чем FCA действительно говорит, так это о том, что именно ориентированный на результаты подход позволяет ему применять эти темы без директивного предписывания технологий. Правительство задает общеэкономические принципы; FCA применяет свои действующие цели внутри сектора финансовых услуг. Для компании это означает, что вопросы комплаенса исходят из целей и правил FCA, тогда как правительственные принципы выступают более широкой рамкой.

Что открытые вопросы означают для компаний #

Самый острый вывод из ответа FCA заключается в зазоре между его уверенностью и его осторожностью. Ведомство уверено, что действующие механизмы покрывают многие риски ИИ, что пропорциональность должна направлять любое вмешательство и что регулирование по результатам защищает потребителей от новых видов вреда. В то же время оно высказывается осторожно относительно того, потребуют ли скорость, масштаб и сложность ИИ модифицированных подходов к управлению рисками и надзору. И отмечает, что до сих пор обдумывает наилучшие пути решения этих вопросов.

Компания может использовать эту структуру с пользой. Все, о чем FCA говорит прямо - это руководство к действию уже сейчас: обеспечивайте выполнение действующих требований к результатам и будьте готовы продемонстрировать системы и процессы, которые их гарантируют. Все, о чем FCA говорит с осторожностью - это вопросы, за которыми стоит следить. Разумно готовиться к усиленному вниманию к тестированию, валидации и объяснимости, поскольку FCA прямо назвало их, но было бы неразумно предполагать, что за этим обязательно последует какое-то конкретное директивное правило. FCA не говорило, что оно появится.

Предстоящий третий выпуск опроса по машинному обучению, проводимого совместно с Банком Англии, является ближайшим конкретным источником новых эмпирических данных. FCA заявляет, что приоритетом будет понимание текущих стратегий развертывания внутри поднадзорных компаний, так что бизнесу следует ожидать вопросов о том, как именно он внедряет ИИ. Эти ответы сформируют тот самый основанный на доказательствах взгляд, который, по формулировке FCA, должен сохранить подход пропорциональным и эффективным.

Открытым остается вопрос, как именно FCA разрешит выявленное им противоречие. Если сложность требует более строгого тестирования, валидации и объяснимости, но правила FCA обычно не предписывают конкретные технологии, ответ должен прийти через требования к результатам, надзорную практику или методические рекомендации, а не через запреты технологий. Что именно из этого выберет регулятор - и придется ли ему вообще что-либо менять - покажут его дальнейшие размышления и результаты следующего опроса.

Часто задаваемые вопросы #

Почему FCA не ввело отдельный свод правил по ИИ для финансовых услуг Великобритании?

FCA действует как технологически нейтральный, основанный на принципах и ориентированный на результаты регулятор, чьи правила обычно не предписывают и не запрещают конкретные технологии. Поскольку многие риски, связанные с ИИ, не уникальны для ИИ, их можно смягчать в рамках действующих законодательных и регуляторных норм, которые возлагают на компании ответственность за конечные результаты для потребителей и рынка.

Какие области управления ИИ регулятор FCA выделяет для более пристальной проверки?

Опираясь на свою надзорную практику и совместные исследования с Форумом сотрудничества в сфере цифрового регулирования (DRCF), FCA отмечает, что скорость, масштаб и сложность ИИ могут потребовать модифицированных подходов к управлению рисками и корпоративному управлению, с усиленным фокусом на тестировании моделей, валидации, объяснимости, рисках стороннего аутсорсинга, кибербезопасности и операционной устойчивости.

Как FCA выстраивает собственный технический потенциал для надзора за ИИ?

Наряду с поддержкой работы Регуляторной песочницы, Цифровой песочницы и мероприятий TechSprints, FCA инвестировало в аналитические и цифровые возможности, включая открытие цифрового хаба в Лидсе, найм более 75 специалистов по науке о данных и подготовку третьего совместного с Банком Англии опроса по машинному обучению для непосредственной оценки стратегий внедрения ИИ в компаниях.

Источники #

Financial Conduct Authority, (2024). AI Update ⧉. Financial Conduct Authority.
Bank of England and Financial Conduct Authority, (2022). DP5/22 - Artificial Intelligence and Machine Learning ⧉. Bank of England.
UK Department for Science, Innovation and Technology, (2023). A pro-innovation approach to AI regulation ⧉. GOV.UK.

Последняя проверка 2026-11-01.

Опубликовать заново

Почему FCA регулирует искусственный интеллект без отдельного свода правил для ИИ — Sebastien Rousseau

Управление по финансовому регулированию и надзору (FCA) описывает себя как технологически нейтрального, основанного на принципах и ориентированного на результаты регулятора, и применяет этот подход к ИИ.

Эта статья распространяется по лицензии Creative Commons Attribution 4.0 International. При повторной публикации требуется указание канонической ссылки.

Почему FCA регулирует искусственный интеллект без отдельного свода правил для ИИ — Sebastien Rousseau

Управление по финансовому регулированию и надзору (FCA) описывает себя как технологически нейтрального, основанного на принципах и ориентированного на результаты регулятора, и применяет этот подход к ИИ.

Originally published at https://sebastienrousseau.com/ru/2026-10-28-pochemu-fca-reguliruet-iskusstvennyy-intellekt-bez/ by Sebastien Rousseau.
Licensed under CC-BY-4.0.

SEBASTIEN ROUSSEAU FOUNDER · ENGINEER