Wenn Sie einen Chatbot nach einer verspäteten Bestellung fragen, erhalten Sie einige Ratschläge. Fragen Sie einen KI-Agenten, und dieser kann die Bestellung nachschlagen, die Verzögerung überprüfen, einen Gutschein einlösen und eine Rückmeldung geben. Der Unterschied besteht darin, dass ein Agent Maßnahmen ergreifen und auf das Geschehen reagieren kann, anstatt nur eine Antwort zu geben.

Der Begriff wird im Marketing weit gedehnt, daher konzentriert sich dieser Leitfaden darauf, wie diese Systeme tatsächlich funktionieren. Um es konkret zu machen, haben wir eine kleine Agentenschleife in Python 3.13 erstellt und ausgeführt. Die folgende Ausgabe stammt aus diesen Ausführungen. Unser „Modell“ ist eine Skriptfunktion, kein echtes KI-Modell, sodass die Schleife von jedem ausgeführt und getestet werden kann. Es zeigt die Kontrollstruktur, nicht die Intelligenz. Neu in den Grundlagen? Lesen Sie zuerst, was ein großes Sprachmodell ist.

Was ist ein KI-Agent?

Es gibt keine einheitliche einheitliche Definition. In der aktuellen Praxis handelt es sich bei einem KI-Agenten um eine Software, die ein Ziel verfolgt, indem sie wiederholt entscheidet, was als nächstes zu tun ist, mithilfe von Werkzeugen auf die Welt einwirkt und sich auf der Grundlage der Ergebnisse anpasst. Normalerweise basiert die Entscheidungsfindung auf einem großen Sprachmodell.

Denken Sie an den Unterschied zwischen einer Person, die Anweisungen gibt, und einer Person, die den Auftrag erledigt. Der erste antwortet einmal. Der zweite macht sich auf den Weg, stellt fest, dass der Laden geschlossen ist, probiert einen anderen aus und kommt erst zurück, wenn die Arbeit erledigt ist.

Chatbot, Workflow oder Agent?

Diese existieren in einem Spektrum, und viele nützliche Systeme sind eine Mischung. Die entscheidende Frage ist, wie viel vom Pfad zur Laufzeit entschieden wird.

Was steckt in einem Agenten?

Die Agentenschleife

1. Entscheiden. Das Modell betrachtet das Ziel und den Verlauf und wählt eine Aktion aus oder entscheidet, dass sie abgeschlossen ist.
2. Aktion. Ihr Code führt das angeforderte Tool aus.
3. Beobachten. Das Ergebnis wird dem Verlauf hinzugefügt.
4. Wiederholen, bis das Ziel erreicht oder eine Grenze erreicht ist.

Das ist der Kern der meisten Agenten. Die Raffinesse liegt hauptsächlich im Modell, den Werkzeugen und den Sicherheitsmaßnahmen rund um diese Schleife.

Eine Schleife, die Sie ausführen können

Unser kleiner Agent kümmert sich um verspätete Bestellungen. Es verfügt über zwei Tools, und eines davon benötigt die Zustimmung eines Menschen, weil es Geld kostet:

ORDERS = {
    "A100": {"status": "delayed", "days_late": 6},
    "B200": {"status": "shipped", "days_late": 0},
}

def get_order(order_id):
    return ORDERS.get(order_id, {"error": "order not found"})

def issue_voucher(order_id, amount):
    return {"voucher": f"V-{order_id}", "amount": amount}

TOOLS = {"get_order": get_order, "issue_voucher": issue_voucher}
NEEDS_APPROVAL = {"issue_voucher"}

Und hier ist die Schleife selbst. Es handelt sich um gewöhnlichen Code, und jede Sicherheitsregel lebt hier und nicht im Modell:

def run_agent(goal, model, approve, max_steps=5):
    history = []
    for step in range(1, max_steps + 1):
        decision = model(goal, history)
        if "finish" in decision:
            return decision["finish"]

        name, args = decision["tool"], decision["args"]
        if name in NEEDS_APPROVAL and not approve(name, args):
            result = {"denied": True}
        else:
            result = TOOLS[name](**args)

        history.append({"tool": name, "result": result})
    return None   # stopped: step limit reached

Um ein reales Modell zu verwenden, ersetzen Sie die Funktion model durch einen Aufruf einer LLM-API und übergeben ihr das Ziel, den Verlauf und Beschreibungen Ihrer Tools. Die Schleife bleibt nahezu gleich.

Was ist bei unseren Läufen passiert?

Wir haben fünf Situationen mit der skriptgesteuerten Entscheidungsfunktion ausprobiert und jeden Schritt protokolliert.

Eine verspätete Bestellung mit genehmigtem Gutschein

step 1: get_order({'order_id': 'A100'}) -> {'status': 'delayed', 'days_late': 6}
step 2: issue_voucher({'order_id': 'A100', 'amount': 200}) -> {'voucher': 'V-A100', 'amount': 200}
step 3: finish -> Sorry for the delay. Voucher V-A100 issued.

Jeder Schritt verwendete das Ergebnis des vorherigen. Der Gutschein wurde erst berücksichtigt, nachdem die Verspätung bestätigt wurde.

Derselbe Befehl, jedoch wurde die Genehmigung verweigert

step 2: issue_voucher({'order_id': 'A100', 'amount': 200}) -> {'denied': True}
step 3: finish -> Your order is late. A person will review compensation.

Der Mensch sagte Nein, das Tool wurde nie ausgeführt und der Agent passte seine Antwort an.

Eine unbekannte Reihenfolge

step 1: get_order({'order_id': 'Z999'}) -> {'error': 'order not found'}
step 2: finish -> I could not find that order.

Es hilft, den Tools klare Fehlermeldungen zu geben. Ein echtes Modell kann sie lesen und vernünftig reagieren, anstatt zu raten.

Ein Modell, das stecken bleibt

Wir haben auch eine fehlerhafte Entscheidungsfunktion ausgetauscht, die die gleiche Aktion für immer wiederholte:

step 1: get_order({'order_id': 'B200'}) -> {'status': 'shipped', 'days_late': 0}
step 2: get_order({'order_id': 'B200'}) -> {'status': 'shipped', 'days_late': 0}
step 3: get_order({'order_id': 'B200'}) -> {'status': 'shipped', 'days_late': 0}
stopped: step limit reached

Agenten können wirklich in solche Schleifen geraten und jeder Schritt mit einem echten Modell kostet Geld. Ohne max_steps wäre dieser Teil nie zu Ende gegangen.

Wie Werkzeuge funktionieren

Dies ist der am meisten missverstandene Teil. Ein Sprachmodell kann nichts alleine ausführen. Es erzeugt strukturierten Text, der angibt, welches Werkzeug mit welchen Argumenten benötigt wird. Ihr Code entscheidet, ob er ausgeführt wird. Deshalb ist die Schleife der richtige Ort für Berechtigungen, Validierung und Protokollierung.

Modellanbieter bieten hierfür Tool- oder Funktionsaufrufe an. Das Model Context Protocol (MCP) ist ein offener Standard zum Verbinden von Modellen mit Tools und Daten, und unser Artikel über Playwright MCP zeigt eine Verwendung. Schreiben Sie klare Werkzeugnamen und -beschreibungen, da das Modell bei der richtigen Auswahl darauf angewiesen ist.

Erinnerung

Lange Aufgaben können über das Kontextfenster eines Modells hinauswachsen, daher fassen Systeme häufig ältere Schritte zusammen. In Zusammenfassungen können Details verloren gehen, was einer der Gründe dafür ist, dass langwierige Agenten möglicherweise vom Kurs abweichen.

Multiagentensysteme

Einige Systeme teilen die Arbeit auf mehrere spezialisierte Agenten auf, beispielsweise einen Planer, einen Forscher und einen Prüfer. Dies kann bei großen Aufgaben hilfreich sein, die sich sauber aufteilen lassen. Es verursacht außerdem höhere Kosten, mehr Fehlermöglichkeiten und ein schwierigeres Debugging. Probieren Sie zunächst einen einzelnen Agenten mit guten Tools aus und teilen Sie ihn nur auf, wenn es einen klaren Grund gibt.

Risiken und Grenzen

• Falsche Handlungen. Der Fehler eines Chatbots ist ein schlechter Satz. Der Fehler eines Agenten könnte eine gesendete E-Mail oder ein gelöschter Datensatz sein.
• Sofortige Injektion. Eine Webseite oder E-Mail, die der Agent liest, könnte versteckte Anweisungen enthalten. Behandeln Sie alle Tool-Ausgaben als nicht vertrauenswürdige Daten und nicht als Befehle.
• Fehler verstärken. Ein kleiner Fehler zu Beginn kann jeden späteren Schritt in die falsche Richtung lenken.
• Kosten und Latenz. Jeder Schritt kann ein weiterer Modellaufruf sein, sodass eine Aufgabe möglicherweise viel langsamer und teurer ist als eine einzelne Eingabeaufforderung.
• Inkonsistenz. Das gleiche Ziel kann bei jedem Durchlauf einen anderen Weg einschlagen, was das Testen schwieriger macht.
• Verantwortung. Die Menschen bleiben für das, was das System tut, verantwortlich, also führen Sie Aufzeichnungen.

Wichtige Leitplanken

1. Geringeste Berechtigung. Geben Sie jedem Agenten nur die Tools und den Zugriff, die er benötigt.
2. Menschliche Zustimmung für alles, was kostspielig, irreversibel oder äußerlich ist, wie es unsere Demo tut.
3. Feste Grenzen für Schritte, Zeit und Ausgaben.
4. Validieren Sie Werkzeugeingaben im Code und verlassen Sie sich nicht auf Anweisungen an das Modell.
5. Protokollieren Sie jeden Schritt, damit Sie sehen können, warum etwas passiert ist. Siehe Überwachung vs. Beobachtbarkeit.
6. Testen Sie mit realen Szenarien, einschließlich Fehlern. Überprüfen Sie die Endergebnisse sowie die einzelnen Antworten. Unser Leitfaden zu Best Practices für KI-Agenten geht weiter auf die Bereitstellung ein.

Wann sollte ein Agent eingesetzt werden?

Codierungsassistenten gehören heutzutage zu den ausgereiftesten Beispielen, da sie Dateien lesen, Tests ausführen, Fehler erkennen und es erneut versuchen können, wobei ein Mensch das Ergebnis überprüft. Eine Testsuite gibt ihnen ein klares Erfolgssignal. Unser Leitfaden für zeitnahes Engineering gilt auch für das Verfassen guter Makleranweisungen. Beginnen Sie mit der einfachsten Lösung, die funktionieren könnte, denn ein gut eingeleiteter Einzelanruf übertrifft oft einen komplizierten Agenten.

Fazit

Ein KI-Agent ist weniger mysteriös, als es klingt: ein Modell, einige Werkzeuge und eine Schleife mit Grenzen. Der schwierige Teil ist Vertrauen, nicht der Code. Um zu erfahren, wie sie sich verhalten, nehmen Sie unsere kleine Schleife, verbinden Sie sie mit schreibgeschützten Tools mit einem realen Modell und beobachten Sie die Protokolle, während sie funktionieren. Sie werden bald sehen, wo es glänzt und wo es einen Menschen braucht.

Häufige Fragen

Lerne weiter