О чём эта статья
Инженерия ИИ-агентов — это проектирование системы, которая получает задачу, выбирает шаги и выполняет разрешённые действия. Промпт задаёт поведение языковой модели, а надёжность рабочего процесса обеспечивают интеграции, хранение состояния и проверки. Чем больше у агента полномочий, тем важнее эти части.
Из каких слоёв состоит агент
Сначала полезно разделить знания и действия. Поиск по документам помогает получить сведения, а инструменты позволяют обратиться к CRM, базе данных или другому сервису. Модель предлагает следующий шаг, но программная логика проверяет, допустим ли он в текущем состоянии.
Типичный пайплайн содержит приём события, подготовку контекста, выбор инструмента, проверку параметров, выполнение и фиксацию результата. Для каждого шага определяются ошибка и путь восстановления.
Как проектировать инструменты
Инструмент должен выполнять небольшую понятную операцию: найти заказ, создать черновик ответа или обновить разрешённое поле. Его параметры проверяются независимо от модели. Полномочия пользователя также устанавливает приложение.
Для внешних API нужны таймауты, ограниченные повторы и защита от дублей. Если ответ потерялся после успешной операции, повтор не должен создавать второй документ. Результаты вызовов сохраняются в журнале с идентификатором задачи.
Зачем нужны состояние и память
История диалога, состояние процесса и база знаний решают разные задачи. История помогает понять сообщения пользователя; состояние показывает, какие шаги уже выполнены; знания содержат справочные данные. Их нельзя бесконтрольно объединять в один растущий промпт.
Я определяю срок хранения, доступ по ролям и правила очистки для каждого вида данных. Если задача продолжается после перезапуска, агент должен восстановить её по сохранённому состоянию.
Когда полезны несколько агентов
Разделение на агента поиска, проверки и подготовки ответа оправдано, если у этапов различаются данные или критерии качества. Каждое дополнительное звено увеличивает время, стоимость и число возможных отказов.
Для короткого процесса последовательность обычных функций часто понятнее сложной оркестрации. Фреймворк выбирают по требованиям к состоянию и интеграциям, а не ради самого названия.
Что проверять перед запуском
Набор примеров включает правильные и неоднозначные запросы, недоступность сервисов, повторные события и недостоверные документы. Измеряются качество ответа, успешность действий, задержка и расходы на завершённую задачу.
Логи должны позволять понять, какие источники и инструменты использовались, без лишнего сохранения чувствительных данных. При сбое нужен способ остановить сценарий и передать его сотруднику.
Частые вопросы
Чем агент отличается от цепочки промптов?
Он взаимодействует с состоянием процесса и инструментами. Если результат ограничен подготовкой текста, отдельная агентная архитектура может не требоваться.
Можно ли гарантировать правильность каждого ответа?
Модель может ошибаться. Практический подход — ограничивать последствия, проверять действия и измерять качество на согласованном наборе задач.
Для проектирования такого решения можно начать с кастомного ИИ-агента. Типовые риски перечислены в статье об ошибках разработки.
