Евгений Валентинович, чем ИИ-агенты отличаются от привычных нам ИИ-сервисов и чат-ботов?
Евгений Осадчук: Я бы выделил три признака. Во-первых, агенты искусственного интеллекта могут планировать то, как будет решаться поставленная задача. Это осуществляется посредством обращения к большой языковой модели, которая является ядром агента. Если говорить "человеческим языком", то система обращается с вопросами к "ядру" и действует дальше, согласно полученным ответам.
Второе - это самостоятельность принятия решений, опять же, на основе диалога с большой языковой моделью. Способность к самообучению на основе обратной связи и адаптации к внешней среде. Под третьим признаком выделю работу с комплексными задачами, а не с отдельными простыми запросами. Когда вы ставите ИИ-агенту задачу, он ее раскладывает на отдельные составляющие при помощи LLM-модели и поэтапно решает.
В целом человек может ставить агенту более широкую задачу, чем чат-боту, благодаря возможности общаться с другими агентами, базами данных и программным обеспечением (ПО), например, по API.
Почему именно ИИ-агенты сейчас выходят на первый план в развитии искусственного интеллекта?
Евгений Осадчук: Потому что ИИ-агенты позволяют превращать универсальные сервисы с общей функциональностью в инструменты решения конкретных прикладных задач. Благодаря этому у агентов расширяется зона практического применения.
Также агенты становятся организационным субъектом. Меняется сам взгляд на агентов - теперь на них смотрят как на подразделение, на которое можно возложить обязанности, подключить средства контроля и измерить производительность, риски и соответствие требованиям.
Еще работа агента по конкретной задаче обеспечивает пользователю более высокую точность и надежность результатов по сравнению с результатами монолитной модели, пытающейся справиться со всем разнообразием задач.
В каких сферах ИИ-агенты могут быть наиболее полезны?
Евгений Осадчук: Если говорить в общем, то ИИ-агенты наиболее эффективны, когда работа проходит в цифровой среде, где есть четкие цели, понятны точки принятия решений, а работа предполагает повторяющиеся операции. Также они полезны при большом объеме работы - автоматизация приводит к значительному повышению производительности и качества результата. Еще агенты необходимы, когда нужно реализовать функцию контроля по четким измеримым критериям.
Например, в сфере финансовых услуг агенты могут заниматься мониторингом мошенничества на основе анализа нестандартного поведения, непрерывным анализом портфеля клиента в целях оптимизации активов под условия, в которых находится клиент и выявлением трендов на финансовых рынках.
Также агенты востребованы в наукоемкой работе - помогают в поиске, синтезе, критическом анализе и форматировании информации, что делает длительный анализ из нескольких источников более надежным и быстрым.
Какая главная трудность во внедрении ИИ-агентов в процессы?
Евгений Осадчук: Тут не столько важна составляющая агента - его производительность и качество решения задач - важно, чтобы организация была готова к внедрению. Говорят, что агенты показывают максимальную производительность, когда компания заранее пересмотрела свои процессы, выстроила их вокруг агентов и изменила роли сотрудников. Необходима серьезная внутренняя трансформация самой организации.
Как обеспечивается безопасность данных, с которыми работает агент?
Евгений Осадчук: Вообще, когда агенты проектируются, для них устанавливаются минимальные права доступа. Потому что ИИ-агенты - это "свежие" разработки, они увеличивают площадь потенциальной атаки. Лучше сделать несколько агентов с минимальными правами, чем одного большого с огромными возможностями. Так обеспечивается безопасность, они могут работать в закрытом контуре - система проверяет какие данные агенты передают.
Какие задачи ИИ-агенты не способны решать эффективнее человека?
Евгений Осадчук: Человеческое участие важно в переосмыслении и перестройке процессов вокруг технологий искусственного интеллекта. Появляется необходимость в переопределении роли человека с исполнителя на администратора отдельных ИИ-агентов и целых мультиагентных систем, а также на обработчика исключений, то есть для тех ситуаций, которые требуют вмешательства человека. Еще специалист может стать разработчиком политик для агентских процессов и политик межфункционального взаимодействия ИИ-агентов.
Теперь сотрудники исправляют ошибки агентов, помечают неоднозначные экземпляры и корректируют политики, повышая производительность и приводя системы в соответствие с целями организации с течением времени. Еще люди распределяют полномочия между агентами и персоналом и внедряют системы мониторинга и аудита.
Насколько российские регуляторные требования корректируют подход к созданию и внедрению ИИ-агентов?
Евгений Осадчук: В России достаточно комфортная юрисдикция в отношении ИИ, потому что регулятор не ставит жесткие условия. Пока все основывается на саморегулировании. Например, на кодексах этики, государственных стандартах, которые разрабатывает технический комитет по стандартизации № 164 "Искусственный интеллект" в сочетании с точечным введением детализированных требований для высокорискованных сфер, например для здравоохранения.
Также используется практика экспериментальных правовых режимов (ЭПР), позволяющая временно отступать от отдельных нормативных требований - либо на определенной территории, либо на какое-то время, либо в отношении какого-то класса организаций.
Все прекрасно понимают, что ИИ - это динамичная технология. Загонять ее в жесткие законодательные рамки - значит остановить развитие. Можно сказать, оптимальный регуляторный баланс достигается не за счет множества запретов, а за счет понятного базового набора требований (защиты персональных данных, авторских прав, медицинской информации) при сохранении пространства для инноваций.
Могут ли ИИ-агенты в ближайшие годы стать стандартным инструментом для государства и бизнеса?
Евгений Осадчук: Они могут стать общераспространенным инструментом. При этом агенты будут использоваться наиболее результативно в тех организациях, где есть четкое управление, качественная инфраструктура данных, квалифицированные кадры, организационная готовность к интеграции ИИ в процессы и их существенное переформатирование на основе ИИ.
Важный тренд - обеспечение безопасности ИИ-решений, чтобы подход к внедрению всегда отвечал требованиям безопасности на каждом предприятии. Также нужно не забывать и о социальных, экономических трендах или последствиях. При развитии технологий будет расти производительность отдельного человека и есть некоторая вероятность того, что потребность в массовом человеческом труде будет сокращаться. Безусловно ИИ создаст новые рабочие места, например, контролеры ИИ-агентов, но всех в контролеры перевести все же не получится. Поэтому, со временем могут появиться новые вопросы и тренды в социальной сфере, которые будут реакцией на внедрение ИИ в повседневную жизнь.
