Спросите чат-бота о позднем заказе, и он даст вам несколько советов. Спросите агента ИИ, и он сможет просмотреть заказ, проверить задержку, применить ваучер и сообщить об этом. Разница в том, что агент может действовать и реагировать на то, что происходит, вместо того, чтобы выдавать только один ответ.

В маркетинге этот термин растягивается, поэтому в этом руководстве основное внимание уделяется тому, как на самом деле работают эти системы. Чтобы прояснить ситуацию, мы создали небольшой цикл агента в Python 3.13 и запустили его, и результат этих запусков получен ниже. Наша «модель» — это скриптовая функция, а не реальная модель искусственного интеллекта, поэтому цикл может запустить и протестировать кто угодно. Это показывает структуру управления, а не интеллект. Новичок в основах? Сначала прочитайте что такое большая языковая модель.

Что такое ИИ-агент?

Единого согласованного определения не существует. В современной практике агент ИИ — это программное обеспечение, которое преследует цель, неоднократно решая, что делать дальше, используя инструменты для воздействия на мир и корректируя его в зависимости от результатов. Обычно принятие решений происходит на основе большой языковой модели.

Подумайте о разнице между человеком, который дает указания, и человеком, который выполняет поручения. Первый отвечает один раз. Второй уходит, обнаруживает, что магазин закрыт, пробует открыть другой и возвращается только тогда, когда работа сделана.

Чат-бот, рабочий процесс или агент?

Они существуют в широком спектре, и многие полезные системы представляют собой смесь. Ключевой вопрос заключается в том, какая часть пути определяется во время выполнения.

Что внутри агента

Агентский цикл

1. Решите. Модель смотрит на цель и историю и выбирает действие или решает, что оно завершено.
2. Действуйте. Ваш код запускает запрошенный инструмент.
3. Наблюдение. Результат добавляется в историю.
4. Повторяйте, пока цель не будет достигнута или не будет достигнут предел.

Это ядро ​​большинства агентов. Сложность заключается главным образом в модели, инструментах и ​​средствах защиты этого цикла.

Цикл, который вы можете запустить

Наш небольшой агент обрабатывает отложенные заказы. У него есть два инструмента, и один из них требует одобрения человека, поскольку стоит денег:

ORDERS = {
    "A100": {"status": "delayed", "days_late": 6},
    "B200": {"status": "shipped", "days_late": 0},
}

def get_order(order_id):
    return ORDERS.get(order_id, {"error": "order not found"})

def issue_voucher(order_id, amount):
    return {"voucher": f"V-{order_id}", "amount": amount}

TOOLS = {"get_order": get_order, "issue_voucher": issue_voucher}
NEEDS_APPROVAL = {"issue_voucher"}

А вот и сама петля. Это обычный код, и все правила безопасности живут здесь, а не в модели:

def run_agent(goal, model, approve, max_steps=5):
    history = []
    for step in range(1, max_steps + 1):
        decision = model(goal, history)
        if "finish" in decision:
            return decision["finish"]

        name, args = decision["tool"], decision["args"]
        if name in NEEDS_APPROVAL and not approve(name, args):
            result = {"denied": True}
        else:
            result = TOOLS[name](**args)

        history.append({"tool": name, "result": result})
    return None   # stopped: step limit reached

Чтобы использовать реальную модель, вы должны заменить функцию model вызовом LLM API, передав ему цель, историю и описания ваших инструментов. Цикл остается почти таким же.

Что произошло в наших забегах

Мы опробовали пять ситуаций с помощью функции принятия решения по сценарию и протоколировали каждый шаг.

Отложенный заказ с одобренным ваучером

step 1: get_order({'order_id': 'A100'}) -> {'status': 'delayed', 'days_late': 6}
step 2: issue_voucher({'order_id': 'A100', 'amount': 200}) -> {'voucher': 'V-A100', 'amount': 200}
step 3: finish -> Sorry for the delay. Voucher V-A100 issued.

Каждый шаг использовал результат предыдущего. Ваучер рассматривался только после подтверждения задержки.

Тот же приказ, в одобрении отказано

step 2: issue_voucher({'order_id': 'A100', 'amount': 200}) -> {'denied': True}
step 3: finish -> Your order is late. A person will review compensation.

Человек сказал «нет», инструмент так и не запустился, и агент адаптировал свой ответ.

Неизвестный заказ

step 1: get_order({'order_id': 'Z999'}) -> {'error': 'order not found'}
step 2: finish -> I could not find that order.

Помогает предоставление инструментам четких сообщений об ошибках. Настоящая модель сможет их прочитать и разумно отреагировать, а не гадать.

Модель, которая застряла

Мы также заменили ошибочную функцию принятия решения, которая постоянно повторяла одно и то же действие:

step 1: get_order({'order_id': 'B200'}) -> {'status': 'shipped', 'days_late': 0}
step 2: get_order({'order_id': 'B200'}) -> {'status': 'shipped', 'days_late': 0}
step 3: get_order({'order_id': 'B200'}) -> {'status': 'shipped', 'days_late': 0}
stopped: step limit reached

Агенты действительно могут зацикливаться на подобных петлях, и каждый шаг с реальной моделью стоит денег. Без max_steps это никогда бы не закончилось.

Как работают инструменты

Это самая непонятая часть. Языковая модель не может ничего запускать сама по себе. Он создает структурированный текст, в котором сообщается, какой инструмент ему нужен и с какими аргументами. Ваш код решает, запускать ли его. Вот почему цикл является подходящим местом для разрешений, проверки и журналирования.

Поставщики моделей предлагают для этого инструмент или функцию, вызывающую его. Протокол контекста модели (MCP) — это открытый стандарт для подключения моделей к инструментам и данным, и в нашей статье о Playwright MCP показано одно из применений. Пишите четкие названия и описания инструментов, потому что модель зависит от их правильного выбора.

Память

Длинные задачи могут перерасти контекстное окно модели, поэтому системы часто суммируют старые шаги. В сводках могут теряться детали, и это одна из причин, по которой агенты, работающие долгое время, могут сбиться с курса.

Мультиагентные системы

Некоторые системы разделяют работу между несколькими специализированными агентами, такими как планировщик, исследователь и рецензент. Это может помочь с большими задачами, которые аккуратно разделены. Это также увеличивает стоимость, увеличивает вероятность сбоя и усложняет отладку. Сначала попробуйте использовать один агент с хорошими инструментами и разделяйте его только при наличии явной причины.

Риски и ограничения

• Неправильные действия. Ошибка чат-бота — плохой приговор. Ошибкой агента может быть отправленное электронное письмо или удаленная запись.
• Быстрое внедрение. Веб-страница или электронное письмо, которые читает агент, могут содержать скрытые инструкции. Рассматривайте все выходные данные инструмента как ненадежные данные, а не как команды.
• Комплексные ошибки. Небольшая ошибка на раннем этапе может направить каждый последующий шаг в неправильном направлении.
• Стоимость и задержка. Каждый шаг может быть вызовом другой модели, поэтому задача может быть намного медленнее и дороже, чем одно приглашение.
• Непоследовательность. Одна и та же цель может идти по разному пути при каждом запуске, что усложняет тестирование.
• Подотчетность. Люди по-прежнему несут ответственность за то, что делает система, поэтому ведите записи.

Ограждения, которые имеют значение

1. Минимум привилегий. Предоставляйте каждому агенту только те инструменты и доступ, которые ему необходимы.
2. Человеческое одобрение для всего дорогостоящего, необратимого или внешнего, как это происходит в нашей демо-версии.
3. Жесткие ограничения на шаги, время и расходы.
4. Проверяйте входные данные инструмента в коде и не полагайтесь на инструкции модели.
5. Записывайте каждый шаг, чтобы можно было понять, почему что-то произошло. См. мониторинг и наблюдаемость.
6. Протестируйте реальные сценарии, включая сбои. Проверьте окончательные результаты, а также отдельные ответы. Наше руководство по лучшим практикам работы с агентами искусственного интеллекта идет дальше по вопросам развертывания.

Когда использовать агента

Помощники по кодированию сегодня являются одним из наиболее зрелых примеров, поскольку они могут читать файлы, запускать тесты, видеть сбои и повторять попытки, а результат проверяется человеком. Набор тестов дает им четкий сигнал об успехе. Наше руководство по оперативному проектированию также применимо и к написанию хороших инструкций для агентов. Начните с самого простого, что может сработать, потому что одиночный звонок с хорошей подсказкой часто превосходит сложного агента.

Итоги

Агент ИИ менее загадочный, чем кажется: модель, некоторые инструменты и цикл с ограничениями. Самое сложное — это доверие, а не кодекс. Чтобы узнать, как они себя ведут, возьмите наш небольшой цикл, подключите его к реальной модели с помощью инструментов, доступных только для чтения, и посмотрите логи, как он работает. Скоро вы увидите, где оно светится и где ему нужен человек.

Часто задаваемые вопросы

Продолжайте учиться