06.03
Как спроектировать первого безопасного AI-агента
РЕЗУЛЬТАТ УРОКА
Подготовить спецификацию безопасного первого агента.Главное за 30 секунд
Первый агент должен иметь один измеримый сценарий, узкие права, тестовые данные, понятную эскалацию и наблюдаемость.
Разбираемся
Первая ошибка при создании агента — начать с широкой цели: «агент, который управляет продажами» или «агент, который отвечает на все вопросы клиентов». Такой агент никогда не будет готов к запуску, потому что «готов» невозможно измерить. Первый агент должен решать одну узкую задачу, которую можно проверить на конкретных примерах.
Одна измеримая цель
Сформулируйте цель агента как проверяемый результат: «агент классифицирует входящие обращения по трём категориям с точностью выше 90% на тестовом наборе из 50 примеров». Это не «помогает с обращениями» — это конкретная задача с конкретным критерием успеха.
Входные и выходные данные
Что агент получает на вход и что должен вернуть. Формат, допустимые значения, что делать, если входные данные некорректны. Без явного определения входа и выхода невозможно ни тестировать агента, ни понять, когда он ошибается.
Минимальный набор инструментов
Давайте агенту только те инструменты, которые нужны для конкретной задачи. Если задача — классификация текста, агенту не нужен доступ к CRM или почте. Каждый дополнительный инструмент — дополнительная поверхность для ошибки и злоупотребления.
Разрешения и подтверждения
Определите явно: какие действия агент может выполнять автономно, а какие требуют подтверждения человека. Для первого агента рекомендуется режим «предложи — человек подтверждает» для всех необратимых действий: отправки писем, изменения данных, создания записей.
Тесты, логи и критерии остановки
Перед запуском: набор тест-кейсов с ожидаемыми результатами. После запуска: логирование каждого действия с входными данными и результатом. Критерии остановки: при каком качестве или типе ошибок агент останавливается и передаёт управление человеку. Это не паранойя — это инженерная практика.
ПРИМЕР
Спецификация в одну строку
Ситуация. Задача подрядчику: «сделайте агента для работы с заявками». Обсудили голосом, договорились о сроке, работа началась.
Результат. На приёмке оказалось, что понимание разошлось в трёх местах: что считать обработанной заявкой, что агент делает при неполных данных, кто получает уведомление при ошибке. Переделка заняла столько же, сколько первая версия. Полстраницы письменной спецификации до старта стоили бы часа.
ПРАКТИКА
Сделайте сейчас
Напишите одностраничную спецификацию агента для одной конкретной задачи: цель (измеримая), вход и выход (с форматом), инструменты (минимальный список), разрешения (что автономно, что требует подтверждения), три тест-кейса с ожидаемым результатом, критерии остановки. Если не можете заполнить все пункты — задача ещё не готова к агентной архитектуре.
ОГРАНИЧЕНИЯ
Где нужен человек
- Никогда не давайте первому агенту широкие права на финансы, удаление данных или автономную внешнюю коммуникацию.
- Начинайте в режиме рекомендаций, повышайте автономность только после измеренного качества.
Ещё на уровне 06
Материал проверен: 20 августа 2026. Инструменты и тарифы меняются — сверяйтесь с первоисточником.