Кодекс этики в сфере разработки и применения ИИ от Банка России

Управление данными: Фиксируются происхождение, разметка и полнота наборов; неточности устраняются, а история изменений хранится. Метаданные об источниках валидируются на достоверность, точность и полноту. Датасеты, полученные извне, проходят повторную проверку для исключения скрытой дискриминации и снижения правового риска. Организации обязаны вести сведения о разметчиках, версиях и автоматизированный журналинг изменений.

Справедливость: Запрещено включать в датасеты национальность, язык, вероисповедание или политические взгляды; каждая выборка аудитируется на репрезентативность, а причинно-обусловленные сдвиги устраняются ребалансировкой и алгоритмической коррекцией. Проверка охватывает полноту, актуальность и достоверность данных о всех социально-экономических кластерах клиентов.

Качество модели: Перед релизом выполняются функциональные тесты, бизнес-валидация и, при необходимости, добровольная сертификация точности, устойчивости, объяснимости и безопасности. После деплоя запускается непрерывный мониторинг: метрики пересчитываются, а деградация инициирует пересбор модели и организационные меры. При отказе алгоритма критичные операции временно исполняют сотрудники; все изменения логируются и доступны для аудита. Целевые метрики (AUC, PSI, F1 и др.) фиксируются в реестре моделей, а превышение порогов автоматически вызывает rollback версии.

Информационная безопасность: Реализуются оценка угроз, шифрование, изоляция конфиденциальных данных, обезличивание и контроль утечек. Для генеративных моделей вводится обязательная маркировка контента и запрет публикации без атрибуции. Банк России дополнительно рекомендует регулярный пентест, двухфакторный контроль доступа и дифференцированные уровни обезличивания.

Управление рисками: Центральный реестр фиксирует все модели и случаи их применения с присвоенным уровнем риска. Процесс охватывает идентификацию факторов, количественную оценку, ранжирование, мониторинг, минимизацию, реагирование и ретроспективный анализ. Для каждого инцидента создаётся карточка в базе риск-событий с описанием обстоятельств, ущерба, ответственных и статуса мер; агрегированные данные кормят политику и обучение персонала. Уровень риска определяется сферами применения, объёмом клиентов и объяснимостью решений; высоко-рисковые случаи требуют постоянного надзора.

Человекоцентричность: Клиент уведомляется об использовании ИИ, вправе отказаться от автоматического взаимодействия или запросить пересмотр решения человеком; решения должны оставаться объяснимыми, а каналы обратной связи — открыты, формируя культуру доверия между банком, пользователем и регулятором.

Реализация предложенных методик создаёт единый технологический каркас, позволяющий финансовым организациям масштабировать ИИ-решения безопасно, прозрачно и в соответствии с требованиями Банка России.

Author: admin