늦은 주문에 대해 챗봇에 문의하면 몇 가지 조언을 얻을 수 있습니다. AI 에이전트에게 문의하면 주문 조회, 지연 확인, 바우처 적용 및 보고를 할 수 있습니다. 차이점은 에이전트가 단 한 번의 응답만 생성하는 대신 조치를 취하고 발생한 일에 대응할 수 있다는 것입니다.

이 용어는 마케팅에서 확장되므로 이 가이드에서는 이러한 시스템이 실제로 어떻게 작동하는지에 대해 설명합니다. 이를 구체적으로 만들기 위해 Python 3.13에서 작은 에이전트 루프를 구축하고 실행했으며, 아래 출력은 해당 실행에서 나온 것입니다. 우리의 “모델”은 실제 AI 모델이 아닌 스크립트된 함수이므로 누구나 루프를 실행하고 테스트할 수 있습니다. 지능이 아닌 제어 구조를 보여줍니다. 기본 사항이 처음이신가요? 먼저 대규모 언어 모델이 무엇인지 읽어보세요.

AI 에이전트란 ​​무엇인가요?

합의된 단일 정의는 없습니다. 현재 실제로 AI 에이전트는 다음에 무엇을 할지 반복적으로 결정하고, 도구를 사용하여 세상에 행동하고, 결과에 따라 조정함으로써 목표를 추구하는 소프트웨어입니다. 일반적으로 의사결정은 대규모 언어 모델에서 이루어집니다.

길을 알려주는 사람과 심부름을 하는 사람의 차이점을 생각해 보세요. 첫 번째 답변은 한 번입니다. 두 번째 사람은 나가서 가게가 문을 닫은 것을 발견하고 다른 가게를 시도한 다음 작업이 완료되었을 때만 돌아옵니다.

챗봇, 워크플로 또는 에이전트?

이들은 스펙트럼에 존재하며 많은 유용한 시스템이 혼합되어 있습니다. 핵심 질문은 런타임에 경로가 얼마나 결정되는지입니다.

에이전트 내부에는 무엇이 있습니까?

에이전트 루프

1. 결정합니다. 모델은 목표와 기록을 보고 작업을 선택하거나 완료를 결정합니다.
2. 동작. 귀하의 코드가 요청된 도구를 실행합니다.
3. 관찰. 결과는 기록에 추가됩니다.
4. 목표가 달성되거나 한계에 도달할 때까지 반복합니다.

이것이 대부분의 에이전트의 핵심입니다. 정교함은 주로 이 루프 주변의 모델, 도구 및 보호 장치에 있습니다.

실행할 수 있는 루프

우리의 소규모 에이전트는 지연된 주문을 처리합니다. 두 가지 도구가 있으며 그 중 하나는 비용이 들기 때문에 사람의 승인이 필요합니다.

ORDERS = {
    "A100": {"status": "delayed", "days_late": 6},
    "B200": {"status": "shipped", "days_late": 0},
}

def get_order(order_id):
    return ORDERS.get(order_id, {"error": "order not found"})

def issue_voucher(order_id, amount):
    return {"voucher": f"V-{order_id}", "amount": amount}

TOOLS = {"get_order": get_order, "issue_voucher": issue_voucher}
NEEDS_APPROVAL = {"issue_voucher"}

그리고 여기에 루프 자체가 있습니다. 이는 일반 코드이며 모든 안전 규칙은 모델이 아닌 여기에 적용됩니다.

def run_agent(goal, model, approve, max_steps=5):
    history = []
    for step in range(1, max_steps + 1):
        decision = model(goal, history)
        if "finish" in decision:
            return decision["finish"]

        name, args = decision["tool"], decision["args"]
        if name in NEEDS_APPROVAL and not approve(name, args):
            result = {"denied": True}
        else:
            result = TOOLS[name](**args)

        history.append({"tool": name, "result": result})
    return None   # stopped: step limit reached

실제 모델을 사용하려면 model 함수를 LLM API 호출로 대체하여 도구의 목표, 기록 및 설명을 전달합니다. 루프는 거의 동일하게 유지됩니다.

우리 달리기에서 무슨 일이 일어났나요?

우리는 스크립트 결정 기능을 사용하여 다섯 가지 상황을 시도하고 각 단계를 기록했습니다.

지연된 주문, 바우처 승인됨

step 1: get_order({'order_id': 'A100'}) -> {'status': 'delayed', 'days_late': 6}
step 2: issue_voucher({'order_id': 'A100', 'amount': 200}) -> {'voucher': 'V-A100', 'amount': 200}
step 3: finish -> Sorry for the delay. Voucher V-A100 issued.

각 단계는 이전 단계의 결과를 사용했습니다. 바우처는 지연이 확인된 후에만 고려되었습니다.

승인이 거부된 동일한 주문

step 2: issue_voucher({'order_id': 'A100', 'amount': 200}) -> {'denied': True}
step 3: finish -> Your order is late. A person will review compensation.

인간은 아니오라고 말했고 도구는 실행되지 않았으며 에이전트는 응답을 조정했습니다.

알 수 없는 주문

step 1: get_order({'order_id': 'Z999'}) -> {'error': 'order not found'}
step 2: finish -> I could not find that order.

도구에 명확한 오류 메시지를 제공하면 도움이 됩니다. 실제 모델은 추측이 아닌 이를 읽고 현명하게 반응할 수 있습니다.

막히는 모델

또한 동일한 작업을 영원히 반복하는 잘못된 결정 기능을 교체했습니다.

step 1: get_order({'order_id': 'B200'}) -> {'status': 'shipped', 'days_late': 0}
step 2: get_order({'order_id': 'B200'}) -> {'status': 'shipped', 'days_late': 0}
step 3: get_order({'order_id': 'B200'}) -> {'status': 'shipped', 'days_late': 0}
stopped: step limit reached

에이전트는 실제로 이와 같은 루프에 빠질 수 있으며 실제 모델의 각 단계에는 비용이 듭니다. max_steps이 없었다면 이 일은 결코 끝나지 않았을 것입니다.

도구 작동 방식

가장 많이 오해되는 부분이 바로 이 부분입니다. 언어 모델은 그 자체로는 아무것도 실행할 수 없습니다. 원하는 도구와 인수를 나타내는 구조화된 텍스트를 생성합니다. 귀하의 코드에 따라 실행 여부가 결정됩니다. 그렇기 때문에 루프는 권한, 유효성 검사 및 로깅에 적합한 장소입니다.

모델 공급자는 이를 호출하는 도구나 기능을 제공합니다. MCP(Model Context Protocol)는 모델을 도구 및 데이터에 연결하기 위한 개방형 표준이며 Playwright MCP에 대한 기사에서는 한 가지 용도를 보여줍니다. 모델이 올바르게 선택하려면 도구 이름과 설명이 필요하므로 명확한 도구 이름과 설명을 작성하세요.

메모리

긴 작업은 모델의 컨텍스트 창을 초과할 수 있으므로 시스템은 종종 이전 단계를 요약합니다. 요약에서는 세부정보가 손실될 수 있는데, 이는 장기 실행 에이전트가 방향을 벗어날 수 있는 이유 중 하나입니다.

다중 에이전트 시스템

일부 시스템은 기획자, 연구원, 검토자와 같은 여러 전문 에이전트 간에 작업을 분할합니다. 이는 깔끔하게 분할되는 대규모 작업에 도움이 될 수 있습니다. 또한 비용이 추가되고 실패할 수 있는 방법이 많아지며 디버깅이 더 어려워집니다. 좋은 도구를 갖춘 단일 에이전트를 먼저 시도해보고, 명확한 이유가 있는 경우에만 분할하세요.

위험과 한계

• 잘못된 행동. 챗봇의 실수는 나쁜 문장이다. 상담원의 실수는 이메일이 전송되었거나 기록이 삭제된 것일 수 있습니다.
• 신속한 삽입. 에이전트가 읽는 웹페이지나 이메일에는 숨겨진 지침이 포함될 수 있습니다. 모든 도구 출력을 명령이 아닌 신뢰할 수 없는 데이터로 처리합니다.
• 복합 오류. 초기에 작은 오류가 발생하면 이후의 모든 단계를 잘못된 방향으로 보낼 수 있습니다.
• 비용 및 대기 시간. 각 단계는 또 다른 모델 호출이 될 수 있으므로 작업은 단일 프롬프트보다 훨씬 느리고 비용이 더 많이 들 수 있습니다.
• 불일관성. 동일한 목표가 실행될 때마다 다른 경로를 택할 수 있으므로 테스트가 더 어려워집니다.
• 책임. 시스템이 수행하는 작업에 대한 책임은 사람에게 있으므로 기록을 유지하십시오.

중요한 난간

1. 최소 권한. 각 에이전트에게 필요한 도구와 액세스 권한만 부여하세요.
2. 데모처럼 비용이 많이 들고, 되돌릴 수 없거나 외부적인 모든 것에 대한 사람의 승인입니다.
3. 단계, 시간, 지출에 대한 엄격한 제한.
4. 코드에서 도구 입력을 검증하고 모델에 대한 지침에 의존하지 마십시오.
5. 모든 단계를 기록하여 어떤 일이 발생한 이유를 확인할 수 있습니다. 모니터링과 관찰 가능성을 참조하세요.
6. 실제 시나리오로 테스트 실패를 포함합니다. 최종 결과와 개별 답변을 확인하세요. AI 에이전트 모범 사례에 대한 가이드는 배포에 대해 더 자세히 설명합니다.

에이전트를 사용해야 하는 경우

코딩 도우미는 파일을 읽고, 테스트를 실행하고, 오류를 확인하고, 사람이 결과를 검토하면서 다시 시도할 수 있기 때문에 오늘날 가장 성숙한 사례 중 하나입니다. 테스트 스위트는 성공에 대한 명확한 신호를 제공합니다. 신속한 엔지니어링에 대한 가이드는 좋은 에이전트 지침 작성에도 적용됩니다. 잘 안내된 단일 호출이 복잡한 상담원을 능가하는 경우가 많기 때문에 작동할 수 있는 가장 간단한 것부터 시작하십시오.

마무리

AI 에이전트는 모델, 일부 도구, 한계가 있는 루프 등 말보다 덜 신비합니다. 어려운 부분은 코드가 아니라 신뢰입니다. 어떻게 작동하는지 알아보려면 작은 루프를 사용하여 읽기 전용 도구를 사용하여 실제 모델에 연결하고 작동하는 로그를 살펴보세요. 곧 그것이 빛나는 곳과 인간이 필요한 곳을 알게 될 것입니다.

자주 묻는 질문

계속 학습하세요