Мультиагентная система со слоем инструментов и оркестрацией

На встрече посвящённой мультиагентным системам представили различные аспекты создания инструментов и методов оркестрации для эффективного управления службой с использованием более восьми коммерческих генеративных чат-ботов. Рассмотрены проблемы маршрутизации инструментов, сравнены подходы Flowwise и Lama Index, а также предложены решения для оптимизации выбора инструментов с использованием разработанного языка MASLO и математической теории. Участники увидели примеры работы системы, включая решение математических задач и диалогов, а также преимущества мультиагентных систем в различных областях, таких как медицина и логистика. В конце встречи была установлена задача отправить участникам материалы доклада.

Введение в мультиагентные системы (00:55 - 10:57)

• Докладчик представляет тему мультиагентной системы составления инструментов и оркестрации для управления служастью
• Команда разработчиков: докладчик, Виктор Носко, Марат Панин
• Команда работает над 8+ коммерческими генеративными чат-ботами
• Разработаны библиотеки AI Framework, SpendOld и графовый архитектор
• Проблема генности возникает при маршрутизации большого количества инструментов
• Сравнение подходов Flowwise (статическая сборка) и Lama Index (событийный граф)
• Примеры задач, требующих агентности: RAC, выбор LLM для разных типов вопросов
• Существует необходимость автоматического выбора инструментов для конкретных задач

Подходы к маршрутизации и агентные системы (10:57 - 21:44)

• Различные подходы к маршрутизации агентов: на базе промптов, с планированием, с инструментами
• Рассмотрены методы Chain of Thoughts, Tree of Thoughts, function calling
• Проблема накопления ошибок при построении цепочки вызова агентов через промптинг
• Мультиагентные системы (MAS) — программные модули, автономно действующие для решения задач
• Преимущества MAS: адаптивность, распределенность, способность решать сложные задачи
• Система оценивает разные параметры маршрутизации: цена API, качество, скорость сборки
• Проблема выбора лучшей модели — сложная задача оптимизации
• Разработан подход, решающий проблему сходимости только к одному решению

Разработка и применение MAS (21:44 - 34:00)

• Разработан язык MASLO для общения агентов в многоагентной системе
• Создана математическая теория выбора моделей и обучения системы
• Схема решения включает: естественно-языковой интерфейс, блок генерации обученного графа, вычисления
• Разработаны: Maslo, Portal Expert Tuning (боковое обучение), Constant All (проверка галлюцинаций)
• Продемонстрированы примеры работы системы:
• Решение математических задач и диалога
• Мультиагентность с мультимодальностью (медицинские снимки, обычные изображения)
• Математический агент обучен на 5 примерах и показал 100% точность на 200 тестовых задачах

Результаты и применение (34:00 - 44:29)

• Показаны примеры работы математического агента со сравнением с GPT
• Продемонстрирован процесс синтеза формул, когда готовой формулы нет в базе
• Естественный языковой интерфейс позволяет описывать процесс вычислений человеческим языком
• Сравнение с конкурентами: использование языка MASLO исключает галлюцинации, оптимальные сборки агентов
• Области применения: юридические документы, производство, логистика, медицина
• Выпущен продукт Fruitlanders IT Dock для ответов по SNIP и GOST
• Возможность попробовать FetchDoc на портале agents.com