Bir chatbot’a gecikmiş bir sipariş hakkında soru sorun, o da size bazı tavsiyeler verecektir. Bir AI temsilcisine sorun; o, siparişi arayabilir, gecikmeyi kontrol edebilir, bir makbuz uygulayabilir ve geri bildirimde bulunabilir. Aradaki fark, bir temsilcinin yalnızca tek bir yanıt üretmek yerine harekete geçebilmesi ve olup bitenlere tepki verebilmesidir.

Bu terim pazarlamada esnetildiğinden, bu kılavuz bu sistemlerin gerçekte nasıl çalıştığına odaklanmaktadır. Somutlaştırmak için Python 3.13’te küçük bir aracı döngüsü oluşturduk ve onu çalıştırdık ve aşağıdaki çıktı bu çalıştırmalardan geliyor. Bizim “modelimiz”, gerçek bir yapay zeka modeli değil, komut dosyasıyla yazılmış bir işlevdir, böylece döngü herkes tarafından çalıştırılabilir ve test edilebilir. Zekayı değil kontrol yapısını gösterir. Temel konularda yeni misiniz? İlk önce büyük dil modelinin ne olduğunu okuyun.

Yapay zeka ajanı nedir?

Üzerinde uzlaşılan tek bir tanım yoktur. Mevcut uygulamada, bir yapay zeka aracısı, bir sonraki adımın ne olacağına tekrar tekrar karar vererek, dünyaya göre hareket etmek için araçları kullanan ve sonuçlara göre ayarlamalar yaparak bir hedefi takip eden bir yazılımdır. Genellikle karar verme süreci geniş bir dil modelinden gelir.

Talimat veren kişi ile işi yürüten kişi arasındaki farkı düşünün. İlk cevap bir kez. İkincisi dışarı çıkar, dükkânı kapalı bulur, bir başkasını dener ve ancak iş bittiğinde geri döner.

Chatbot mu, iş akışı mı yoksa temsilci mi?

Bunlar bir spektrumda mevcuttur ve birçok kullanışlı sistem bunların bir karışımıdır. Anahtar soru, çalışma zamanında yolun ne kadarına karar verildiğidir.

Bir ajanın içinde ne var?

Aracı döngüsü

1. Karar verin. Model, hedefe ve geçmişe bakar ve bir eylem seçer veya bittiğine karar verir.
2. Eylem. Kodunuz istenen aracı çalıştırır.
3. Gözlemle. Sonuç geçmişe eklenir.
4. Hedefe ulaşılana veya bir sınıra ulaşılana kadar tekrarlayın.

Çoğu ajanın özü budur. Gelişmişlik esas olarak modelde, araçlarda ve bu döngünün etrafındaki güvenlik önlemlerinde yatmaktadır.

Çalıştırabileceğiniz bir döngü

Küçük temsilcimiz geciken siparişlerle ilgilenir. İki aracı var ve bunlardan birinin paraya mal olması nedeniyle insan onayına ihtiyacı var:

ORDERS = {
    "A100": {"status": "delayed", "days_late": 6},
    "B200": {"status": "shipped", "days_late": 0},
}

def get_order(order_id):
    return ORDERS.get(order_id, {"error": "order not found"})

def issue_voucher(order_id, amount):
    return {"voucher": f"V-{order_id}", "amount": amount}

TOOLS = {"get_order": get_order, "issue_voucher": issue_voucher}
NEEDS_APPROVAL = {"issue_voucher"}

Ve işte döngünün kendisi. Bu sıradan bir koddur ve her güvenlik kuralı modelde değil burada yaşar:

def run_agent(goal, model, approve, max_steps=5):
    history = []
    for step in range(1, max_steps + 1):
        decision = model(goal, history)
        if "finish" in decision:
            return decision["finish"]

        name, args = decision["tool"], decision["args"]
        if name in NEEDS_APPROVAL and not approve(name, args):
            result = {"denied": True}
        else:
            result = TOOLS[name](**args)

        history.append({"tool": name, "result": result})
    return None   # stopped: step limit reached

Gerçek bir model kullanmak için, model işlevini bir LLM API çağrısıyla değiştirip, ona araçlarınızın hedefini, geçmişini ve açıklamalarını aktarırsınız. Döngü neredeyse aynı kalıyor.

Koşularımızda neler oldu?

Komut dosyasıyla yazılmış karar işleviyle beş durumu denedik ve her adımı kaydettik.

Kuponun onaylandığı gecikmiş bir sipariş

step 1: get_order({'order_id': 'A100'}) -> {'status': 'delayed', 'days_late': 6}
step 2: issue_voucher({'order_id': 'A100', 'amount': 200}) -> {'voucher': 'V-A100', 'amount': 200}
step 3: finish -> Sorry for the delay. Voucher V-A100 issued.

Her adımda kendisinden öncekinin sonucu kullanıldı. Kupon ancak gecikme onaylandıktan sonra dikkate alındı.

Aynı sipariş, onay reddedildi

step 2: issue_voucher({'order_id': 'A100', 'amount': 200}) -> {'denied': True}
step 3: finish -> Your order is late. A person will review compensation.

İnsan hayır dedi, alet hiç çalışmadı ve temsilci cevabını uyarladı.

Bilinmeyen bir emir

step 1: get_order({'order_id': 'Z999'}) -> {'error': 'order not found'}
step 2: finish -> I could not find that order.

Araçlara net hata mesajları vermek yardımcı olur. Gerçek bir model bunları okuyabilir ve tahmin etmek yerine mantıklı bir şekilde yanıt verebilir.

Sıkışmış bir model

Aynı eylemi sonsuza kadar tekrarlayan hatalı bir karar fonksiyonunu da değiştirdik:

step 1: get_order({'order_id': 'B200'}) -> {'status': 'shipped', 'days_late': 0}
step 2: get_order({'order_id': 'B200'}) -> {'status': 'shipped', 'days_late': 0}
step 3: get_order({'order_id': 'B200'}) -> {'status': 'shipped', 'days_late': 0}
stopped: step limit reached

Ajanlar gerçekten de bu gibi döngülere düşebilir ve gerçek bir modelle atılan her adım paraya mal olur. max_steps olmasaydı bu asla bitmezdi.

Araçlar nasıl çalışır?

Bu en yanlış anlaşılan kısımdır. Bir dil modeli hiçbir şeyi kendi başına çalıştıramaz. Hangi aracı, hangi argümanlarla istediğini söyleyen yapılandırılmış metinler üretir. Kodunuz çalıştırılıp çalıştırılmayacağına karar verir. Döngünün izinler, doğrulama ve günlük kaydı için doğru yer olmasının nedeni budur.

Model sağlayıcılar bunun için araç veya işlev çağrısı sunar. Model Bağlam Protokolü (MCP), modelleri araçlara ve verilere bağlamak için açık bir standarttır ve Oyun Yazarı MCP hakkındaki makalemiz bunun bir kullanımını göstermektedir. Modelin doğru seçim yapmasına bağlı olduğundan anlaşılır araç adları ve açıklamaları yazın.

Bellek

Uzun görevler bir modelin bağlam penceresini aşabilir, bu nedenle sistemler genellikle eski adımları özetler. Özetler ayrıntıları kaybedebilir, bu da uzun süredir çalışan temsilcilerin yoldan sapabilmesinin bir nedenidir.

Çoklu ajan sistemleri

Bazı sistemler, işi bir planlayıcı, bir araştırmacı ve bir incelemeci gibi birkaç uzman temsilci arasında bölüştürür. Bu, düzgün bir şekilde bölünen büyük görevlerde yardımcı olabilir. Aynı zamanda maliyet, daha fazla başarısız olma yolu ve daha zor hata ayıklama yolları da ekler. Önce iyi araçlara sahip tek bir temsilciyi deneyin ve bunu yalnızca açık bir neden olduğunda bölün.

Riskler ve sınırlar

• Yanlış eylemler. Bir chatbot’un hatası kötü bir cümledir. Temsilcinin hatası gönderilen bir e-posta ya da silinmiş bir kayıt olabilir.
• Hızlı ekleme. Temsilcinin okuduğu bir web sayfası veya e-posta, gizli talimatlar içerebilir. Tüm araç çıktılarını komutlar olarak değil, güvenilmeyen veriler olarak değerlendirin.
• Bileşik hatalar. Başlangıçta küçük bir hata, sonraki adımların tamamını yanlış yöne gönderebilir.
• Maliyet ve gecikme. Her adım başka bir model çağrısı olabilir, dolayısıyla bir görev, tek bir istemden çok daha yavaş ve daha pahalı olabilir.
• Tutarsızlık. Aynı hedef her çalıştırmada farklı bir yol izleyebilir ve bu da testi zorlaştırır.
• Sorumluluk. İnsanlar sistemin yaptıklarından sorumlu olmaya devam eder, bu nedenle kayıt tutun.

Önemli olan korkuluklar

1. En az ayrıcalık. Her temsilciye yalnızca ihtiyaç duyduğu araçları ve erişimi verin.
2. Demomuzda olduğu gibi maliyetli, geri dönüşü olmayan veya harici herhangi bir şey için insan onayı.
3. Adımlar, zaman ve harcama konusunda kesin sınırlar.
4. Koddaki araç girişlerini doğrulayın ve model talimatlarına güvenmeyin.
5. Her adımı günlüğe kaydedin böylece bir şeyin neden olduğunu görebilirsiniz. Bkz. izleme ve gözlemlenebilirlik.
6. Başarısızlıklar da dahil olmak üzere gerçek senaryolarla test edin. Bireysel yanıtların yanı sıra nihai sonuçları da kontrol edin. Yapay zeka aracısı en iyi uygulamalarına ilişkin kılavuzumuz dağıtım konusunda daha da ileri gidiyor.

Bir aracı ne zaman kullanılmalı

Kodlama asistanları, dosyaları okuyabildikleri, testleri çalıştırabildikleri, hataları görebildikleri ve sonuçları bir insan tarafından inceleyerek yeniden deneyebildikleri için günümüzün en olgun örneklerinden biridir. Bir test paketi onlara net bir başarı sinyali veriyor. Hızlı mühendislik kılavuzumuz aynı zamanda iyi temsilci talimatlarının yazılması için de geçerlidir. İşe yarayabilecek en basit şeyle başlayın, çünkü iyi yönlendirilmiş tek bir arama çoğu zaman karmaşık bir temsilciyi geride bırakır.

Son sözler

Bir yapay zeka aracısı göründüğünden daha az gizemlidir: bir model, bazı araçlar ve sınırları olan bir döngü. İşin zor kısmı güvendir, kod değil. Nasıl davrandıklarını öğrenmek için küçük döngümüzü alın, onu salt okunur araçlarla gerçek bir modele bağlayın ve günlükleri çalışırken izleyin. Yakında nerede parladığını ve nerede bir insana ihtiyaç duyduğunu göreceksiniz.

Sık sorulan sorular

Öğrenmeye devam et