Workflow hay agent? Leo từng bậc, đừng nhảy thẳng lên agent

Giả sử bạn chủ một shop đồ gia dụng online, "Ví Dụ Home", ba người chăm sóc khách hàng, khoảng 250 tin nhắn mỗi ngày. Một nhà cung cấp chào: "agent AI tự trả lời mọi tin nhắn, bốn tuần là chạy". Câu hỏi đúng không phải "có nên mua agent không", mà là việc nào cần mô hình tự chọn bước, việc nào chỉ cần một lời gọi hoặc một dây chuyền cố định. Bài dùng hai nguồn: bài của Anthropic về dựng agent hiệu quả, và bài ReAct của Yao và cộng sự. Xem thêm Workflow hay agent?, Năm mẫu workflow có LLM và Vòng lặp suy nghĩ – hành động – quan sát.

Workflow và agent khác nhau ở đâu, và vì sao nên thử đơn giản trước?

Workflow chạy trên đường mã định sẵn, agent tự điều hướng. Theo Anthropic, workflow là hệ thống mà mô hình và công cụ được điều phối qua các đường mã định sẵn, còn agent là hệ thống mà mô hình tự điều hướng quy trình và việc dùng công cụ của chính nó (Anthropic, 2024). Hãng gọi chung cả hai là hệ thống agentic.

Lời khuyên cốt lõi là đi từ đơn giản. Anthropic khuyên tìm giải pháp đơn giản nhất và chỉ tăng độ phức tạp khi cần, thậm chí không dựng hệ thống agentic nào; với nhiều ứng dụng, một lời gọi mô hình kèm truy xuất và ví dụ thường đủ (Anthropic, 2024). Xem thuật ngữ workflow và AI agent.

Năm mẫu workflow nằm ở bậc nào?

Tôi xếp thành bốn bậc; đây là cách xếp của tôi, vì Anthropic xếp cả năm mẫu vào workflow. Bậc 1 là một lời gọi mô hình kèm truy xuất và ví dụ. Bậc 2 là workflow cố định, gồm bốn trong năm mẫu. Bậc 3 là điều phối–thực thi, nơi các việc con không định sẵn. Bậc 4 là agent. Cột "Hợp khi" bên dưới lấy từ Anthropic.

Mẫu song song hoá có ví dụ chính là rào chắn: một mô hình xử lý yêu cầu, mô hình khác sàng nội dung, và theo Anthropic cách này thường làm tốt hơn việc dồn cả hai vào một lời gọi (Anthropic, 2024). Chuyện đó liên quan tới bài về chatbot đại lý xe.

Năm câu hỏi nào quyết định bậc?

Tôi gom năm câu hỏi; mỗi câu bám vào một điều Anthropic nói, nhưng thứ tự và cách gộp là của tôi.

1. Một lời gọi kèm tài liệu và ví dụ đã đủ chưa? Nếu đủ, dừng ở bậc 1 (Anthropic, 2024).
2. Việc có tách sạch thành các bước biết trước không? Nếu có, dùng chuỗi prompt: mỗi bước dễ hơn, đổi lại chậm hơn (Anthropic, 2024).
3. Đầu vào có chia được thành vài nhóm rõ để xử lý riêng không? Nếu có, thêm định tuyến (Anthropic, 2024).
4. Có tiêu chí đánh giá rõ để một lời gọi chấm lời gọi kia không? Nếu có, thêm vòng đánh giá–tối ưu (Anthropic, 2024).
5. Số bước có thực sự không đoán trước được, và bạn có tin được quyết định của mô hình trong môi trường này không? Chỉ khi cả hai đều có mới tới agent (Anthropic, 2024).

Cũng phải nói thẳng: Anthropic gọi chăm sóc khách hàng là chỗ hợp với agent mở, vì cuộc trò chuyện đi kèm công cụ lấy dữ liệu đơn hàng, hành động như hoàn tiền xử lý được bằng chương trình, và thành công đo được qua việc giải quyết xong. Phụ lục của hãng nói agent thêm nhiều giá trị nhất khi có tiêu chí thành công rõ, vòng phản hồi và sự giám sát có ý nghĩa của người (Anthropic, 2024).

Bằng chứng nào cho thấy vòng lặp agent hỏng ở đâu?

Bài ReAct là bằng chứng hiếm hoi tôi đọc hết, nhưng nó cho thấy kiểu lỗi chứ không cho thấy agent hơn workflow trong kinh doanh. Yao và cộng sự cho mô hình PaLM-540B xen kẽ suy nghĩ và hành động (search, lookup, finish) trên Wikipedia, rồi so với chuỗi suy luận thuần (CoT) (Yao et al., 2023). Kết quả lẫn lộn: trên HotpotQA, ReAct đạt 27,4 điểm khớp chính xác, thấp hơn CoT (29,4); trên Fever, 60,9% so với 56,3% (Yao et al., 2023).

Phần đáng đọc nhất là phân tích lỗi trên HotpotQA, với 50 quỹ đạo đúng và 50 quỹ đạo sai cho mỗi phương pháp. Ở CoT, 56% quỹ đạo sai là bịa dữ kiện, còn ReAct 0% vì bám vào kết quả tra cứu. Đổi lại, 47% quỹ đạo sai của ReAct là lỗi suy luận (CoT: 16%) và 23% là kết quả tìm kiếm vô ích làm mô hình lạc hướng; khoảng 29% là đáp án đúng nhưng không khớp nhãn (Yao et al., 2023). Một lỗi riêng của ReAct là lặp lại đúng suy nghĩ và hành động trước đó mà không thoát ra được (Yao et al., 2023). Anthropic cũng nhắc điều kiện dừng như số vòng tối đa (Anthropic, 2024); theo tôi, lỗi lặp vòng cho thấy vì sao chúng cần thiết.

Tác giả đặt giới hạn 7 bước cho HotpotQA và 5 cho Fever, vì nhiều bước hơn không làm ReAct tốt hơn: trong các quỹ đạo đúng, những quỹ đạo dùng hết 7 hoặc 5 bước chỉ chiếm 0,84% và 1,33%. Khi ReAct hết bước mà chưa trả lời, họ chuyển sang CoT với biểu quyết nhiều mẫu (CoT-SC), và cách ghép đó cho điểm cao nhất ở HotpotQA (35,1) trong các cách dùng prompt (Yao et al., 2023). Bài học vận hành: agent cần trần bước và một đường lui sang cách làm đơn giản hơn. Giới hạn của nguồn: các tác vụ là hỏi đáp, kiểm chứng thông tin và trò chơi văn bản năm 2022, không phải quy trình kinh doanh.

Một shop giả định nên đặt từng việc ở bậc nào?

Số liệu dưới đây hoàn toàn giả định. Ví Dụ Home nhận khoảng 250 tin nhắn mỗi ngày. Tôi gán bậc theo năm câu hỏi ở trên.

Với bảng này, 85% khối lượng chạy bằng một đến hai lời gọi, 5% bằng ba lời gọi, và chỉ 0,5% ca cần agent. Việc chuyển hoàn tiền lớn cho người theo đúng điểm can thiệp mà OpenAI nêu (hành động rủi ro cao như hoàn tiền lớn hay thanh toán) (OpenAI, 2025). Tính nữa, giả sử tuần làm việc năm ngày: 0,5% của 250 tin mỗi ngày là khoảng 6 ca kiện thất lạc mỗi tuần, mỗi ca 15 phút, cả tuần chỉ 1,5 giờ. Với số này, một agent có lẽ không đáng dựng. Nếu tỷ lệ lên 5%, tức khoảng 60 ca một tuần, thì phép tính khác.

Làm sao biết đã đến lúc lên bậc?

Chạy bậc thấp trước trên khoảng 50 ca cũ đã có đáp án đúng. Đây là phép thử của tôi, không phải của nguồn; nó bám vào lời Anthropic rằng chỉ nên tăng độ phức tạp khi nó cải thiện kết quả một cách chứng minh được (Anthropic, 2024). Đặt sẵn ngưỡng, ví dụ đúng ít nhất 90% số ca. Nếu bậc thấp đạt, dừng. Nếu không, xem lỗi thuộc loại nào: thiếu thông tin (thêm truy xuất), tách bước sai (đổi mẫu workflow), hay số bước thực sự không đoán trước (lên bậc), rồi chạy lại đúng 50 ca đó. Cách điền năm ô cho agent đã chọn xem ở năm nguyên liệu của một AI agent.

Đào sâu: tôi đã đọc gì, chưa đọc gì?

Anthropic (2024) tôi đọc toàn bài, đăng 19/12/2024; trang ghi chú nhiều chi tiết công cụ đã đổi từ đó, nên bản tôi đọc đã sửa sau ngày đăng và tôi chỉ dùng cho khái niệm. Bài do hãng AI viết, không phải nghiên cứu độc lập. Yao và cộng sự (2023) tôi đọc toàn văn bản arXiv, chưa đọc phụ lục từng quỹ đạo. OpenAI (2025) tôi chỉ dùng một điểm (khi nào chuyển cho người), đọc qua bản chữ trích từ PDF.

Bốn bậc, năm câu hỏi và phép thử 50 ca là của tôi. Shop Ví Dụ Home, tỷ lệ các nhóm tin nhắn, số lời gọi mỗi ca, ngưỡng 500.000 đồng và 90% là số tôi bịa; tôi chưa đo trên quy trình thật nào.