Секция «Генеративный ИИ: от пилотов к промышленной эксплуатации» на форуме Finopolis 2024 была посвящена практическому переходу банковского сектора от этапа экспериментов с LLM к массовому внедрению технологии в бизнес-процессы и оценке реального экономического эффекта (ROI).
Ниже подробно разоблачены ключевые темы и тезисы, звучавшие в ходе экспертной дискуссии:
1. Экономика GenAI и переход от хайпа к ROI
- Оценка окупаемости: Главный тренд 2024 года — отказ от внедрения генеративного ИИ «ради технологии». Банки начали жестко измерять финансовый результат: снижение стоимости обработки контакта (Cost per Contact), прирост конверсий в продажах и экономию рабочих часов специалистов.
- Стоимость инфраструктуры: Высокая стоимость GPU-вычислений и дефицит аппаратных мощностей заставляют финтех оптимизировать расходы. В блоке обсуждения экономики моделей спикеры отметили сдвиг от огромных универсальных LLM к более компактным, узкоспециализированным и дистиллированным моделям, заточенным под конкретные банковские задачи.
2. Внутренние Copilot-системы и автоматизация бэк-офиса
- Разработка софта (AI Code Assistants): Одно из самых успешных направлений внедрения GenAI — ассистенты для программистов. Использование ИИ-помощников для написания, автодокументирования и ревью кода ускоряет разработку в финтехе на 20–30%.
- Анализ юридических и финансовых документов: Генеративный ИИ берет на себя рутину по первичному разбору кредитных заявок, проверке контрагентов, вычитке договоров и сопоставлению требований регулятора с внутренними регламентами банка.
- Поддержка первой линии: Создание «умных суфлеров» для сотрудников контакт-центров, которые в реальном времени анализируют диалог с клиентом, находят ответы в базе знаний и генерируют готовые шаблоны решений.
3. Безопасность, RAG-архитектура и инфраструктура On-Premise
Читайте мою книгу про обман на криптовалютах. Подпишитесь на мой телеграм-канал «Финсайд» и потом не говорите, что вас не предупреждали: https://t.me/finside. Темы канала: экономика, инвестиции, финтех, банки. Автор: Олег Анисимов.
- Борьба с галлюцинациями и утечками: Финансовый сектор не может позволить себе вымышленные факты в ответах ИИ. На секции подробно разбиралось использование гибридной архитектуры RAG (Retrieval-Augmented Generation) в связке со строгими защитными фильтрами (Guardrails).
- Приватность данных: Ведущие банки разворачивают генеративные модели исключительно в собственном контуре (On-Premise) с обязательным обезличиванием и маскированием персональных данных (PII) до того, как они попадут на обработку нейросетью.
4. Эволюция в сторону автономных AI-агентов (Agentic AI)
- От консультаций к действиям: Будущее GenAI в финансовом секторе спикеры видят в переходе от простых текстовых диалогов к агентным системам. AI-агент не просто отвечает на вопрос, а получает автономность для проведения цепочки операций внутри банковских систем (АБС): от проверки лимитов и оформления заявки до закрытия счета или отправки документов в госорганы.
Секция «Генеративный ИИ в финансовом секторе: быстрый результат или долгие инвестиции»
• В каких практических кейсах можно оперативно и эффективно применять LLM-модели?
• Применение облачных технологий в ИИ
• Прозрачность ИИ-технологии
Модератор:
Александр Крайнов, Яндекс:

Спикеры:
• Артем Бондарь, Т-Банк:

• Адель Валиуллин, Газпромбанк:

• Максим Григорьев, Ассоциация ФинТех:

• Алексей Долотов, Yandex Cloud:

• Денис Суржко, Банк ВТБ:

• Илья Щиров, Райффайзен Банк:

Форум инновационных финансовых технологий Finopolis–2024 прошёл с 16 по 18 октября на федеральной территории «Сириус» в Краснодарском крае (Сочи).
Читайте мою