Варианты взаимодействия AI-агентов

В обсуждении со специалистами часто встречаю фразу от коллег: «Ассоциируйте AI‑агента с работником организации». В этой статье я не предлагаю решения, я скорее предлагаю тему для обсуждения — насколько привычные управленческие паттерны «из мира людей», применяемые при проектировании организационных структур, применимы для организации взаимодействия AI‑агентов.

Постановка вопросов

Повальное увлечение AI‑агентами привело к возникновению стандартных «управленческих» вопросов, связанных с проектированием мультиагентных систем.

• Сколько AI‑агентов нужно для эффективного выполнения задачи — один универсальный или несколько специализированных?

• Как эффективнее назначить AI‑агента на задачу?

• Нужен ли специализированный AI‑агент координатор (оркестратор) для исполнения масштабных задач или он станет узким горлышком?

• Как строить поток задач между AI‑агентами — по функциональному принципу «сверху‑вниз», делегируя задачи по иерархии AI‑агентов координаторов до специализированных агентов исполнителей, или по процессу, вызывая под типовую задачу готовую «сборку» из последовательности вызовов специализированных AI‑агентов?

Сразу вспоминается опыт классического менеджмента, когда определяется подход, как управлять людьми, и где нужно «расставить» менеджеров синхронизаторов. Теперь аналогичные вопросы решаются для управления AI‑агентами. Кстати, для тех, кто интересуется классикой управления рекомендую прочитать книгу «Структура в кулаке» Генри Минцберга, которая в свое время помогла мне погрузиться в тему организационного проектирования.

Что такое AI‑агент?

Если найти общее определение агента, то это система, способная совершать автономные действия во внешней среде для достижения поставленных целей. Теперь если найти определение интеллектуального агента, то он уже способен планировать действия, реагировать на изменения и взаимодействовать с человеком и другими агентами для достижения поставленных целей. Ну и добавим к агенту «движок» GenAI — это система на базе генеративного искусственного интеллекта (GenAI), способная планировать и совершать автономные действия во внешней среде, реагировать на изменения и взаимодействовать с человеком и другими агентами для достижения поставленных целей.

Можно резюмировать, что AI‑агент должен:

• «вживаться» в определенную роль и выполнять задачу в ее рамках

• понимать входящий запрос, и на его основе планировать и выполнять задачи

• хранить знания о контексте и истории взаимодействия

• иметь знания по необходимой предметной области

• самостоятельно выполнять поставленные задачи

Даже боюсь подумать насколько эти определения подходит для работника организации, обладающего естественным интеллектом.

Можно посмотреть на AI‑агентов с другой стороны (пример классификации AI‑агентов):

1. Простые реактивные агенты: Реагируют на текущие события без учета предыдущего опыта.

2. Агенты с памятью: Способны хранить информацию о прошлых взаимодействиях и использовать ее для принятия решений.

3. Целеполагающие агенты: Могут ставить перед собой цели и выстраивать последовательность действий для их достижения.

4. Полезностные агенты: Оценивают различные исходы и выбирают тот, который принесет максимальную «пользу» или выгоду.

5. Обучающиеся агенты: Со временем совершенствуют свою производительность на основе полученного опыта, часто с использованием технологий вроде Reinforcement Learning (обучение с подкреплением).

И надеюсь, что работники вашей организации соответствуют пятому уровню этой классификации — обучающиеся агенты.

Теперь про мультиагентное взаимодействие, если без деталей, то мультиагентная система — это система, состоящая из множества AI‑агентов, которые взаимодействуют друг с другом, для достижения общих целей. AI‑агенты могут быть автономными сущностями, такими как программы или роботы, каждая из которых специализирована и обладает своим набором возможностей, знаний и процессов принятия решений, что позволяет AI‑агентам выполнять задачи параллельно, взаимодействовать друг с другом и адаптироваться к изменениям. Похоже на организацию, подразделение или команду, не правда ли?

Один исполнитель или несколько

Можно ли решить «прилетающие» задачи одним универсальным AI‑агентом или нам нужно несколько специализированных. Подход тут простой, качество работы универсальных AI‑агентов часто недостаточное, в тоже время избыточное количество AI‑агентов может привести к излишним взаимодействиям и зацикливанию. Сокращение «зоопарка» AI — агентов помогает избежать избыточных коммуникаций, упрощает координацию, снижает вероятность конфликтов и уменьшает сложность отладки. Это повышает общую стабильность системы и облегчает ее масштабирование.

Из мира людей: Для принятия решения с людьми нужно понимать каким уровнем компетенции и универсальности обладает сотрудник, если задача решается одним сотрудником универсалом с необходимым качеством, то это идеальная ситуация, иначе нужно собирать множество исполнителей и разбивать задачу на части.

Специализация исполнителей

Есть мнение, что текущее развитие технологий LLM предусматривает появление специализированных моделей, а это значит, что и AI‑агенты будут специализированы по навыкам, к тому же внешние инструменты, вызываемые AI‑агентами, сильно зависят от специфики задач. Поэтому логично, что разные AI‑агенты должны назначаться на разные типы задач, что с одной стороны должно привести к более высокому качеству работы, и постепенному улучшению навыков AI‑агентов в области их специализации. При этом специализация исполнителей приводит к необходимости в агенте синхронизаторе (менеджере), который не только должен планировать и назначать задачи, но и анализировать и оценивать навыки AI‑агентов, и возможно определять качество их работы.

Из мира людей: Чем больше организация, тем более масштабные задачи она может решать, и тем глубже специализация каждого из сотрудников организации. При этом из‑за глубокой специализации участников увеличивается количество исполнителей, назначаемых на масштабные задачи, что приводит к сложности синхронизации работ и их результатов, а значит требует назначение специальных ролей для синхронизации.

Самоуправляемые команды

Можно представить себе вариант, когда AI‑агенты самостоятельно решают, какую задачу выполнять и кому передать следующий шаг для продолжения работ. При таком подходе AI‑агенты могут динамически реагировать на изменение ситуации и передавать управление наиболее подходящему AI‑агенту, что вроде как избавляет от необходимости централизованной синхронизации. При этом AI‑агенты могут передавать управление друг другу бесконечно, и про эффективность их работы тогда можно забыть, к тому же бонусом идет неуправляемая загрузка и сложность отладки такого взаимодействия. И хотя определенные проблемы можно решить реестром AI‑агентов с описанием их возможностей, отсутствие оркестрация может привести к проблемам.

Из мира людей: Чем сложнее и уникальнее задача, тем больше потребность в специализированных сотрудниках и в менеджере‑координаторе. И хотя сейчас в моде самоуправляемые команды универсальных сотрудников, количество участников в них редко превышает девять человек, да и не везде применимо самоуправление.

Назначаем главного среди равных

Попробуем теперь использовать специального AI‑агента‑менеджера (координатора) для управления процессом (оркестрация). Агент модератор решает, какому специализированному AI‑агенту передать управление на следующем шаге процесса. Специализированный AI‑агент координатор может учитывать множество факторов при выборе агента исполнителя (загрузку, специализацию, уровень галлюцинаций и так далее). Такой подход позволяет реагировать на изменения в процессе выполнения задач через единую точку принятия решений, при этом на такого AI‑агента координатора можно взвалить задачу оценки эффективности AI‑агентов и корректировать исполнение процесса в случае отклонений. Из сложностей — потребуется создать и обучить этого агента‑менеджера, при этом эффективность работы всех AI‑агентов станет зависимой от качества его работы, и к тому же он может стать узким местом в производительности и надежности системы.

Из мира людей: Для решения сложных задач, которые требуют привлечения множества исполнителей назначается менеджер или администратор, который отвечает за слаженную работу исполнителей и достижения результатов по задаче. За примерами далеко ходить не нужно — руководители проектов, владельцы процессов и так далее

Сколько необходимо уровней управления

Нужен ли один AI‑агент координатор или их уже необходимо несколько штук? Есть ли аналог нормы управляемости среди AI‑агентов? Тут нужно смотреть на примеры из практики, насколько AI‑агент координатор уверенно работает с нижестоящими AI‑агентами. Если AI‑агент может координировать всего десяток специализированных AI‑агентов, то в случае решения задач в которых должно быть привлечено большее число AI‑агентов, понадобится несколько координаторов собранных в иерархию.

Из мира людей: Для решения сложных задач и маршрутизации задач на исполнителей в организации используется несколько уровней управления, и чем больше организация, тем больше уровней управления в ней возникает.

В качестве заключения

Есть стойкое ощущение, что законы менеджмента из мира людей потихоньку переходят в мир AI‑агентов. И чем масштабнее систему нужно строить, тем больше проблем будет возникать при координации AI‑агентов между собой. И главное тут не забыть все то, что наработано управленческой мыслью за предыдущее время, и что координаторы не добавляют ценности, и их количество должно быть необходимым и достаточным. И да, для разных задач можно использовать разные варианты координации: для повторяющихся процессную, для сложных разовых — проектную и так далее
Если вдруг у кого есть практические наработки в данной области — буду рад обсудить в комментариях

Если тема управления агентами зацепила, логичным продолжением будет взгляд на Reinforcement Learning как практическую основу таких систем. Курс про RL — про то, как агенты реально учатся действовать в динамических средах: от игр и робототехники до оптимизации ресурсов и финансовых систем, с фокусом на продакшн, масштабирование и ограничения подхода.

Чтобы узнать больше о формате обучения и познакомиться с преподавателями, приходите на бесплатные демо-уроки:

• 13 января, 20:00. «Построение собственного окружения на примере биржевой торговли». Записаться

• 22 января, 20:00. «FinRL — фреймворк RL для построения торговых агентов». Записаться