TL;DR. Закон ЕС об ИИ — первый всеобъемлющий регуляторный рамочный документ для ИИ. Он устанавливает риск-ориентированный подход, требует прозрачности и налагает значительные штрафы за нарушения.
Ключевые выводы
- Подход. Риск-ориентированная классификация: запрещённые, высокорисковые, ограниченно-рисковые, минимально-рисковые системы.
- Высокорисковые системы. Включают кредитный скоринг, найм, образование, критическую инфраструктуру.
- GPAI. Отдельные правила для моделей общего назначения (GPT-класс).
- Влияние. Глобальный «Брюссельский эффект» — Закон становится фактическим стандартом и для не-ЕС-компаний.
Структура регулирования #
Риск-ориентированный подход #
Закон классифицирует ИИ-системы по уровню риска:
- Запрещённые — социальный скоринг государством, манипуляция уязвимыми группами
- Высокорисковые — кредитный скоринг, биометрия, критическая инфраструктура
- Ограниченно-рисковые — чат-боты, deepfake-генерация (требуют прозрачности)
- Минимально-рисковые — спам-фильтры, рекомендательные системы
Что значит «высокий риск» в банке #
Прямое регулирование #
Кредитный скоринг прямо включён в перечень высокорисковых систем. Это означает требования к:
- Системе управления рисками
- Качеству и репрезентативности обучающих данных
- Документации и прослеживаемости
- Логированию для аудита
- Прозрачности для пользователей
- Человеческому надзору
- Точности, робастности и кибербезопасности
Модели общего назначения (GPAI) #
Отдельные правила #
GPT-4, Claude, Gemini и аналоги попадают под отдельный режим: требования к прозрачности обучающих данных, оценке системных рисков, кибербезопасности. Модели «системного риска» (выше определённого порога вычислений на обучение) подвергаются усиленному контролю.
Штрафы #
Существенные суммы #
За нарушения штрафы достигают 35 миллионов евро или 7 % мирового оборота — что выше. Уровень сопоставим с GDPR.
«Брюссельский эффект» #
Глобальное влияние #
Подобно тому как GDPR стал de-facto глобальным стандартом защиты данных, Закон ЕС об ИИ задаёт ориентиры для регуляторов в США, Великобритании, Канаде, Японии. Банки, работающие глобально, фактически вынуждены строить системы на уровне ЕС-требований.
Заключение #
Банкам необходимо уже в 2024 году выстраивать процессы и техническую инфраструктуру для соответствия Закону: реестр ИИ-моделей, оценка рисков, документация, мониторинг. Откладывание означает значительные риски штрафов и операционных перебоев.
Последняя проверка .