Tanyakan kepada chatbot tentang pesanan yang terlambat, dan itu akan memberi Anda beberapa saran. Tanyakan kepada agen AI, dan agen tersebut dapat mencari pesanan, memeriksa penundaan, menerapkan voucher, dan melaporkan kembali. Perbedaannya adalah agen dapat mengambil tindakan dan bereaksi terhadap apa yang terjadi, dibandingkan hanya menghasilkan satu balasan.

Istilah ini meluas dalam pemasaran, jadi panduan ini mengacu pada cara kerja sistem ini. Untuk membuatnya lebih konkret, kami membuat loop agen kecil di Python 3.13 dan menjalankannya, dan output di bawah ini berasal dari proses tersebut. “Model” kami adalah fungsi skrip, bukan model AI sebenarnya, sehingga loop dapat dijalankan dan diuji oleh siapa pun. Ini menunjukkan struktur kendali, bukan kecerdasan. Baru mengenal dasar-dasarnya? Baca apa yang dimaksud dengan model bahasa besar terlebih dahulu.

Apa itu agen AI?

Tidak ada definisi tunggal yang disepakati. Dalam praktik saat ini, agen AI adalah perangkat lunak yang mencapai tujuan dengan berulang kali memutuskan apa yang harus dilakukan selanjutnya, menggunakan alat untuk bertindak dan melakukan penyesuaian berdasarkan hasil. Biasanya pengambilan keputusan berasal dari model bahasa yang besar.

Pikirkan perbedaan antara orang yang memberi arahan dan orang yang menjalankan tugas. Jawaban pertama sekali. Yang kedua keluar, menemukan tokonya tutup, mencoba toko lain dan hanya kembali setelah pekerjaannya selesai.

Chatbot, alur kerja atau agen?

Ini ada dalam suatu spektrum, dan banyak sistem yang berguna merupakan campuran. Pertanyaan kuncinya adalah seberapa banyak jalur yang diputuskan pada saat run time.

Apa yang ada di dalam agen

Lingkaran agen

1. Putuskan. Model melihat tujuan dan riwayat, lalu memilih suatu tindakan atau memutuskan bahwa tindakan tersebut telah selesai.
2. Bertindak. Kode Anda menjalankan alat yang diminta.
3. Amati. Hasilnya ditambahkan ke riwayat.
4. Ulangi, hingga tujuan tercapai atau batas tercapai.

Itu adalah inti dari sebagian besar agen. Kecanggihannya terutama terletak pada model, alat, dan perlindungan di sekitar lingkaran ini.

Sebuah loop yang bisa Anda jalankan

Agen kecil kami menangani pesanan yang tertunda. Ia memiliki dua alat, dan salah satunya memerlukan persetujuan manusia karena memerlukan biaya:

ORDERS = {
    "A100": {"status": "delayed", "days_late": 6},
    "B200": {"status": "shipped", "days_late": 0},
}

def get_order(order_id):
    return ORDERS.get(order_id, {"error": "order not found"})

def issue_voucher(order_id, amount):
    return {"voucher": f"V-{order_id}", "amount": amount}

TOOLS = {"get_order": get_order, "issue_voucher": issue_voucher}
NEEDS_APPROVAL = {"issue_voucher"}

Dan inilah loopnya sendiri. Ini adalah kode biasa, dan setiap aturan keselamatan ada di sini, bukan di model:

def run_agent(goal, model, approve, max_steps=5):
    history = []
    for step in range(1, max_steps + 1):
        decision = model(goal, history)
        if "finish" in decision:
            return decision["finish"]

        name, args = decision["tool"], decision["args"]
        if name in NEEDS_APPROVAL and not approve(name, args):
            result = {"denied": True}
        else:
            result = TOOLS[name](**args)

        history.append({"tool": name, "result": result})
    return None   # stopped: step limit reached

Untuk menggunakan model nyata, Anda akan mengganti fungsi model dengan panggilan ke API LLM, meneruskan tujuan, riwayat, dan deskripsi alat Anda ke dalamnya. Lingkarannya tetap hampir sama.

Apa yang terjadi dalam perjalanan kami

Kami mencoba lima situasi dengan fungsi keputusan tertulis, dan mencatat setiap langkah.

Pesanan tertunda, dengan voucher disetujui

step 1: get_order({'order_id': 'A100'}) -> {'status': 'delayed', 'days_late': 6}
step 2: issue_voucher({'order_id': 'A100', 'amount': 200}) -> {'voucher': 'V-A100', 'amount': 200}
step 3: finish -> Sorry for the delay. Voucher V-A100 issued.

Setiap langkah menggunakan hasil dari langkah sebelumnya. Voucher hanya dipertimbangkan setelah penundaan dikonfirmasi.

Perintah yang sama, dengan persetujuan ditolak

step 2: issue_voucher({'order_id': 'A100', 'amount': 200}) -> {'denied': True}
step 3: finish -> Your order is late. A person will review compensation.

Manusia menjawab tidak, alat tersebut tidak pernah berjalan, dan agen menyesuaikan jawabannya.

Perintah yang tidak diketahui

step 1: get_order({'order_id': 'Z999'}) -> {'error': 'order not found'}
step 2: finish -> I could not find that order.

Memberikan alat pesan kesalahan yang jelas membantu. Seorang model sejati dapat membacanya dan merespons dengan bijaksana, daripada hanya menebak-nebak.

Sebuah model yang terjebak

Kami juga menukar fungsi keputusan yang salah yang mengulangi tindakan yang sama selamanya:

step 1: get_order({'order_id': 'B200'}) -> {'status': 'shipped', 'days_late': 0}
step 2: get_order({'order_id': 'B200'}) -> {'status': 'shipped', 'days_late': 0}
step 3: get_order({'order_id': 'B200'}) -> {'status': 'shipped', 'days_late': 0}
stopped: step limit reached

Agen benar-benar dapat terjebak dalam lingkaran seperti ini, dan setiap langkah dengan model nyata memerlukan biaya. Tanpa max_steps, ini tidak akan pernah berakhir.

Cara kerja alat

Ini adalah bagian yang paling disalahpahami. Model bahasa tidak dapat menjalankan apapun dengan sendirinya. Ini menghasilkan teks terstruktur yang menyatakan alat mana yang diinginkan, dengan argumen apa. Kode Anda memutuskan apakah akan menjalankannya. Itulah sebabnya loop adalah tempat yang tepat untuk izin, validasi, dan logging.

Penyedia model menawarkan alat atau fungsi yang memerlukan hal ini. Model Context Protocol (MCP) adalah standar terbuka untuk menghubungkan model ke alat dan data, dan artikel kami di Playwright MCP menunjukkan salah satu kegunaannya. Tuliskan nama dan deskripsi alat yang jelas, karena model bergantung pada alat tersebut untuk memilih dengan benar.

Memori

Tugas yang panjang dapat melampaui jendela konteks model, sehingga sistem sering kali merangkum langkah-langkah lama. Ringkasan bisa kehilangan detailnya, yang merupakan salah satu alasan mengapa agen yang sudah berjalan lama bisa keluar jalur.

Sistem multi-agen

Beberapa sistem membagi pekerjaan antara beberapa agen khusus, seperti perencana, peneliti, dan peninjau. Ini dapat membantu tugas-tugas besar yang terbagi dengan rapi. Hal ini juga menambah biaya, lebih banyak kemungkinan kegagalan, dan proses debug yang lebih sulit. Cobalah agen tunggal dengan alat yang bagus terlebih dahulu, dan pisahkan hanya jika ada alasan yang jelas.

Risiko dan batasan

• Tindakan yang salah. Kesalahan chatbot adalah kalimat yang buruk. Kesalahan agen mungkin berupa email terkirim atau catatan yang dihapus.
• Injeksi segera. Halaman web atau email yang dibaca agen mungkin berisi instruksi tersembunyi. Perlakukan semua keluaran alat sebagai data yang tidak tepercaya, bukan sebagai perintah.
• Kesalahan yang bertambah. Kesalahan kecil di awal dapat membawa setiap langkah selanjutnya ke arah yang salah.
• Biaya dan latensi. Setiap langkah dapat menjadi panggilan model lain, sehingga suatu tugas mungkin jauh lebih lambat dan lebih mahal daripada satu perintah.
• Inkonsistensi. Sasaran yang sama dapat mengambil jalur yang berbeda pada setiap proses, sehingga membuat pengujian menjadi lebih sulit.
• Akuntabilitas. Orang-orang tetap bertanggung jawab atas apa yang dilakukan sistem, jadi simpanlah catatan.

Pagar pembatas itu penting

1. Hak istimewa paling kecil. Berikan setiap agen hanya alat dan akses yang diperlukan.
2. Persetujuan manusia untuk segala hal yang merugikan, tidak dapat diubah, atau bersifat eksternal, seperti yang dilakukan demo kami.
3. Batasan keras pada langkah, waktu, dan pengeluaran.
4. Validasi input alat dalam kode, dan jangan mengandalkan instruksi pada model.
5. Catat setiap langkah, sehingga Anda dapat mengetahui alasan terjadinya sesuatu. Lihat pemantauan vs kemampuan observasi.
6. Uji dengan skenario nyata, termasuk kegagalan. Periksa hasil akhir serta balasan individu. Panduan kami untuk praktik terbaik agen AI membahas lebih jauh tentang penerapan.

Kapan menggunakan agen

Asisten pengkodean adalah salah satu contoh paling matang saat ini, karena mereka dapat membaca file, menjalankan pengujian, melihat kegagalan, dan mencoba lagi, dengan manusia meninjau hasilnya. Rangkaian pengujian memberi mereka sinyal kesuksesan yang jelas. Panduan kami untuk rekayasa cepat juga berlaku untuk menulis instruksi agen yang baik. Mulailah dengan hal paling sederhana yang bisa berhasil, karena satu panggilan yang dilakukan dengan cepat sering kali mengalahkan agen yang rumit.

Penutup

Agen AI tidak se-misterius kedengarannya: model, beberapa alat, dan lingkaran dengan batasan. Bagian tersulitnya adalah kepercayaan, bukan kodenya. Untuk mempelajari perilakunya, ambil loop kecil kami, sambungkan ke model nyata dengan alat hanya-baca, dan lihat log saat berfungsi. Anda akan segera melihat di mana ia bersinar dan di mana ia membutuhkan manusia.

Pertanyaan yang sering diajukan

Teruslah belajar