PRO.05
Agent Engineering
РЕЗУЛЬТАТ УРОКА
Проектировать агентов как наблюдаемые программные системы.Главное за 30 секунд
Agent Engineering объединяет промпты, состояние, инструменты, оценки, безопасность и эксплуатацию в единый инженерный контур.
Разбираемся
Разница между агентом в демо и агентом в production — это разница между прототипом и инженерной системой. Прототип работает на счастливых путях с заранее известными входными данными. Production-агент встречает неожиданные ситуации, конкурирующие нагрузки, меняющиеся требования и необходимость объяснять поведение стейкхолдерам. Agent Engineering — это инженерная дисциплина, а не промпт-магия.
Tools и планирование
Агент, способный планировать, разбивает сложную задачу на последовательность инструментальных вызовов. Качество планирования определяется точностью инструкций, описаниями инструментов и примерами в системном промпте. Плохое планирование — главная причина зацикливания и бессмысленных итераций.
Memory и состояние
Для многошаговых задач агенту нужно сохранять состояние: что уже сделано, какие данные получены, какие решения приняты. Это может быть in-context (в текущем диалоге), external (в базе данных) или смешанным. Каждый тип имеет свои ограничения и стоимость — проектируйте явно.
Evaluation (evals)
Evals — набор тест-кейсов для оценки поведения агента: типовые задачи, граничные случаи, опасные ситуации. Собирайте evals до масштабирования, а не после инцидентов. Хороший eval-набор позволяет уверенно обновлять промпты и инструменты, зная, что ничего не сломалось.
Orchestration и наблюдаемость
Для сложных агентов нужен оркестратор: что запускает агента, как передаются данные между шагами, как обрабатываются ошибки. Каждый вызов модели и инструмента должен логироваться с входными данными, выходом, задержкой и стоимостью. Без этого невозможно понять, почему агент ведёт себя иначе, чем ожидалось.
Permissions и безопасность
Агент должен работать с минимальными правами для своей задачи. Для необратимых действий — явное подтверждение или политика. Для чувствительных данных — изоляция. Планируйте что происходит при скомпрометированных инструкциях (prompt injection): агент не должен выполнять инструкции из входных данных, если они противоречат системным.
ПРАКТИКА
Сделайте сейчас
Составьте eval-набор для одного агента: минимум 10 тест-кейсов с описанием входа, ожидаемого поведения и критерия успеха. Включите: три типовых кейса, два граничных, один с некорректным вводом, один с потенциально опасным запросом. Если у вас уже есть агент — запустите на этих кейсах и запишите результат. Если нет — это спецификация для будущей разработки.
ОГРАНИЧЕНИЯ
Где нужен человек
- Без evals невозможно обоснованно повышать автономность или изменять промпты.
- Prompt injection — реальная угроза: агент не должен следовать инструкциям из входных данных, противоречащим системному промпту.
Ещё на уровне PRO
Материал проверен: 20 августа 2026. Инструменты и тарифы меняются — сверяйтесь с первоисточником.