Можете поделиться промежуточными результатами вашего пилота?
Алексей Сидорюк: Проект идет второй год и разбит на несколько фаз. И сейчас уже третья фаза. В первые две тестировались отечественные GPT-модели в 10 российских финансовых организациях. Тогда участвовало 3 вендора. Многие сценарии были связаны с частью автоматизации взаимодействия с пользователями, где GPT-модели играют, по сути, роль второй линии поддержки для обслуживания клиентов, интегрируясь с внутренними системами банка, забирая какую-то дополнительную информацию, и выдавая ее участникам через определенный набор намерений: например, по кредитным картам, дебетовым картам, авиамилям.
Были сценарии по развитию системы интеллектуального документооборота. Модель позволила работать с документами, которые классическая OCR-система (оптического распознавания символов) не могла корректно распознать. Это все касается в большей степени льготной ипотеки и работы с обращениями граждан.
Есть гипотезы, которые не удались, и это тоже ценный опыт. Это применение, например, GPT-моделей в анализе рыночных сигналов и для трейдерства. Было очень много ложных срабатываний. То есть модель реагирует на очень многие вещи, на что трейдеры опытные закрывают глаза.
А что нового появилось в третьей фазе?
Алексей Сидорюк: В этом году компании тестируют уже полноценных агентов — автономных цифровых сотрудников внутри организации. Ассоциация давала вендорам обратную связь по развитию их собственных продуктов. Идея в том, чтобы появился тренд создания полноценных агентов. Это решение на базе GPT, но которое работает не по запросу клиента, а работает уже в полностью автоматизированном режиме, выполняя какие-то бизнес-задачи.
Сколько организаций участвует в пилоте?
Алексей Сидорюк: В этом году у нас 20 организаций, но большинство из них в процессе пилота переквалифицировалось в роль наблюдателя. Примерно половина осталась в роли активных участников пилота, которые делают таких агентов. Там есть и страховые, и кредитные, и технологические организации.
Какие есть промежуточные итоги и сценарии использования?
Алексей Сидорюк: Из самых интересных – это применение ИИ-агентов в архитектурном надзоре внутри банков и страховых компаний. Когда код устанавливается в продуктивную среду, есть сервис на базе искусственного интеллекта, который сверяет его по архитектурным документам, дает обратную связь, где это не соответствует, сверяет на требования безопасности.
И второй пример - это использование таких ИИ-агентов для конструирования финансовых продуктов и для помощи операционистам банка. Еще агенты работают с юридическими документами как на базе готовых вендорских решений, так и на базе создаваемых под конкретную организацию. Это агенты, которые автоматически создают акты, счета, договор, фактуру под условия клиента. Это следующий уровень, когда агент может создать типовой продукт не просто для конкретного сегмента, а под конкретного человека с конкретными условиями создать типовое решение. В этом году мы увидим минимально жизнеспособные продукты.
А когда это уйдет все-таки в промышленную эксплуатацию?
Алексей Сидорюк: Все зависит от самой организации и от ее процессов. Если оценивать опыт прошлого года, то уже больше половины участников пилота ушли в промышленную эксплуатацию со своими решениями. Вопросы обычно возникают с информационной безопасностью внутри самих организаций, и с расширением инфраструктуры для использования таких агентов, потому что с ИИ-агентами появился целый класс новых стандартов решений и протоколов, с которыми рынок только учится взаимодействовать. Проблемы могут возникать, даже если на корпоративном портале забыли обновить данные, а их использует GPT-модель.
Финансовый блок сегодня относится аккуратно к инвестициям в искусственный интеллект. Если брать генеративные технологии, мы сейчас находимся в пике разочарования по кривой Гартнера, и это нормальный этап взросления технологии. В прошлом году считалось, что искусственный интеллект сделает нам четырехдневную рабочую неделю, все упростится. Этого не случилось. Несмотря на то, что генеративные модели «из коробки» могут ответить на любой вопрос, все равно есть достаточно нишевый спектр их применения. Это классы задач, в основном связанные с имитацией человеческой деятельности и с тем спектром задач, где классические модели уже не справляются.
Какие есть стоп-факторы?
Алексей Сидорюк: Первый — сами возможности технологий. Тот же самый механизм RAG (Retrieval-Augmented Generation — подход в области искусственного интеллекта, при котором генерация ответа большой языковой модели (LLM) осуществляется на основе данных, полученных в результате поиска во внешних источниках), который сегодня применяется в больших языковых моделях, - это, по сути, “архитектурный костыль” в самой технологии для того, чтобы решить проблему с маленьким объемом контекста. Когда у модели маленький контекст, она начинает забывать старую информацию, которую ей говорили, начинает путаться в показаниях, начинает больше галлюцинировать.
То же самое с архитектурой ленгчейна (LangChain — это фреймворк с открытым исходным кодом для разработки приложений на основе больших языковых моделей (LLM), который упрощает связывание моделей (как GPT) с внешними источниками данных (файлами, API, базами данных) и другими инструментами, позволяя создавать "контекстно-зависимых" и "способных к действию" AI-систем, таких как продвинутые чат-боты, агенты и системы вопросов-ответов по документам. Он предоставляет готовые компоненты, абстракции и "цепочки" (Chains) для управления промптами, памятью и потоками данных, решая проблему ограниченности знаний LLM), которая сегодня используется для работы в больших языковых моделях со связыванием разных типов данных. Она обладает высоким временем отклика и с большим количеством агентов она уже не справляется.
Есть открытые вопросы в части кибербезопасности, потому что классическая модель ролевой аутентификации, когда выделяют сотрудника, добавляют его в доменную группу, перестает работать с агентами. И это все приводит нас к тому, что мы неизбежно в будущем перейдем на ABAC-систему (Attribute-based access control), когда мы анализируем контекст GPT-модели и под нее сотрудник ИБ выдает права ИИ-агенту, который выполняет ту или иную бизнес-задачу. Пока что это вопрос ближайшего будущего. Некоторые организации уже проходят ее на собственном опыте. Мы видим первые прецеденты на рынке. Как только таких агентов становится много, то ИИ должен управлять другим ИИ внутри организации.
Компетенции, дефицит кадров, это тоже, безусловно, сказывается на темпах распространения технологий на рынке. Сейчас к тому же облачные сервисы для критической инфраструктуры полностью под запретом для работы с банковской тайной. В перспективе, возможно, произойдет некая легализация.
Как финансовая сфера изменится из-за агентов в 2026-2027 годах, в том числе для пользователя?
Алексей Сидорюк: Массовые клиенты получат тот же набор сервисов и услуг, и то же качество, которые есть у более привилегированных, но на базе технологии искусственного интеллекта. Это образ, мне кажется, 2028-2029 годов. Но на самом деле, на мой взгляд, все больше применений будет относиться к работе с персональными задачами отдельных сотрудников.
Какие модели сейчас используют российские финорганизации? Вендорские, открытые?
Алексей Сидорюк: Мне кажется, что сейчас граница между ними стерлась почти окончательно, потому что многие вендорские решения — это обученные open-source продукты, и наоборот. Но здесь как организации делают выбор? Если им нужна вендорская поддержка, в круглосуточном режиме или у них не хватает собственных компетенций, они идут по пути с вендорами. Если у них сильная своя ИТ-компетенция, если у них своя круглосуточная служба поддержки, они могут саму модельку обучать, то они выбирают открытый продукт. Но зачастую даже у крупных организаций используется огромное количество моделей, - более 10 как минимум.
Какие еще проекты развиваете на базе АФТ?
Алексей Сидорюк: Мы запустили пилотный проект с Банком России по валидации финансовых продуктов. Смысл этого пилота в том, чтобы по банковским продуктам с помощью ИИ анализировать договора, формируя понятное резюме буквально на страничку (а не договор на 30 страниц), и выделять его ключевые условия.
Нам кажется, что это очень важный проект. Поскольку сегодня деньги дорогие, финансовые организации начинают менять финансовые продукты и для того, чтобы разобраться в сложном финансовом продукте нужен очень высокий уровень финансовой грамотности для человека. Вот искусственный интеллектом позволяет этот барьер убрать или по крайней мере снизить его.
Мы будем продолжать отслеживать тренды. На базе Отраслевого клуба «ИИ в финансовой отрасли» совместно с Альянсом в сфере ИИ будем развивать методологию оценки финансовой эффективности от использования искусственного интеллекта. Мы также идем в сторону развития этики искусственного интеллекта для финансовых организаций. Будет создаваться комитет по этике при Банке России, куда будут входить и Альянс в сфере искусственного интеллекта, и Ассоциация ФинТех на паритетных началах.