Lompat ke konten

Rekayasa1 menit baca

Kenapa multi-agen mengalahkan satu prompt besar

Satu agen dengan dua belas tool terlihat lebih sederhana — sampai percakapan pertama melewati batas domain.

Versi pertama sales bot itu satu agen yang memegang semua tool. Lancar saat demo, dan gagal begitu pengguna menanyakan ongkir di tengah proses menyusun keranjang.

Yang sebenarnya rusak

Pemilihan tool memburuk seiring daftar tool membesar. Dengan dua belas tool dalam satu prompt, model memilih secara masuk akal — bukan secara benar — dan tidak ada sambungan yang bisa diuji.

  • Tiap agen memegang tiga atau empat tool, bukan dua belas.

  • Satu supervisor memegang perutean dan state bersama.

  • Tiap agen bisa diuji secara terpisah.

Konsekuensinya

Harganya adalah latensi — perutean menambah satu lompatan — dan kode orkestrasi yang kini jadi tanggung jawabmu. Di bawah sekitar lima tool, satu agen masih jawaban yang benar.

graph = StateGraph(AgentState)
graph.add_node('supervisor', supervisor)
graph.add_node('cart', cart_agent)
graph.add_conditional_edges('supervisor', route)
  • LangGraph
  • RAG
Semua tulisan