На секции «ИИ и финансы: открывая новый мир возможностей» (модератор — Станислав Короп, Банк России) спикеры из крупнейших технологических компаний, банков и отраслевых ассоциаций подробно обсудили фундаментальные вызовы, с которыми сталкивается финансовый сектор при внедрении искусственного интеллекта.
Ниже представлен разбор ключевых тем и дискуссионных блоков секции:
1. Риски применения ИИ: безопасность, фрод и системная устойчивость
- Кибербезопасность и уязвимости моделей: Денис Кораблев (Positive Technologies) акцентировал внимание на специфических векторах атак на ИИ-системы. В отличие от традиционного софта, генеративные модели и LLM уязвимы к промпт-инъекциям (prompt injection), подмене обучающих данных (data poisoning) и выведыванию конфиденциальной информации. В финансовом секторе успешная атака на модель может привести к утечке банковской тайны или некорректным финансовым операциям.
- Бизнес-риски и точность решений: Адель Валиуллин (Газпромбанк) поднял вопрос надежности алгоритмов при принятии критически важных решений — в скоринге, оценке заемщиков и фрод-мониторинге. Банкам необходимы механизмы валидации ответов ИИ, так как стоимость ошибки (галлюцинации модели или предвзятости алгоритма) измеряется миллионными убытками и репутационными потерями.
2. Технологическая гонка и «регуляторный рай»: как не затормозить инновации
- Баланс контроля и свободы: Участники дискуссии обсудили, как государству создать условия для лидерства страны в сфере AI, избежав крайностей — как полного отсутствия правил, так и задушающей гиперопеки.
- Позиция BigTech и AI-разработчиков: Александр Крайнов (Яндекс) и Дмитрий Марков (MTS AI) подчеркнули, что для сохранения конкурентоспособности разработчикам нужны доступ к вычислительным мощностям (GPU-кластерам), развитые отечественные базовые модели и свобода экспериментов. Избыточные регуляторные барьеры на ранних этапах могут привести к отставанию отечественных решений от мировых аналогов.
- Доступ к данным и дата-сеты: Ирина Левова (Ассоциация больших данных) осветила проблему доступа к качественным обучающим данным. Без безопасного механизма шеринга и обезличивания данных между финтехом и технологическими компаниями обучение специализированных финансово-ориентированных моделей становится крайне сложным.
3. Регулирование ИИ: законодательные нормы vs этические кодексы
- Мягкое право (Soft Law) против жестких законов: Спикеры сошлись во мнении, что технологии развиваются значительно быстрее, чем успевает формироваться законодательная база. Жесткие законы рискуют устареть еще до момента вступления в силу. Поэтому на данном этапе приоритет отдается этическим кодексам, отраслевым стандартам и регуляторным песочницам.
- Вопрос юридической ответственности: Представитель ЦБ Станислав Короп и эксперты обсудили главный правовой вопрос: кто несет ответственность за ошибку ИИ-системы? Консенсусная позиция заключается в том, что юридическая и финансовая ответственность всегда остается на человеке или организации, использующей технологию. ИИ выступает исключительно инструментом, а не самостоятельным субъектом права.
Секция «ИИ и финансы: открывая новый мир возможностей»
Читайте мою книгу про обман на криптовалютах. Подпишитесь на мой телеграм-канал «Финсайд» и потом не говорите, что вас не предупреждали: https://t.me/finside. Темы канала: экономика, инвестиции, финтех, банки. Автор: Олег Анисимов.
• Риски применения ИИ: перспектива бизнеса и государства
• Проблема лидерства в технологической гонке: «регуляторный рай»?
• Как регулировать ИИ: этика или право?
Модератор:
Станислав Короп, Банк России (исполняющий обязанности директора Департамента финансовых технологий ЦБ):
Спикеры:
• Адель Валиуллин, Газпромбанк:
• Денис Кораблев, Positive Technologies:
• Александр Крайнов, Яндекс:
• Ирина Левова, Ассоциация больших данных:
• Дмитрий Марков, MTS AI:
Форум инновационных финансовых технологий Finopolis–2024 прошёл с 16 по 18 октября на федеральной территории «Сириус» в Краснодарском крае (Сочи).