Automation trước, AI sau: chỉ dùng LLM ở bước cần “phán đoán”
Tóm tắt
Bước có quy tắc rõ (lọc, chuyển đổi định dạng, gọi API, tính toán) → dùng logic thường: rẻ, nhanh, ổn định, dễ test. Bước cần hiểu ngôn ngữ, phân loại mơ hồ, tóm tắt, soạn thảo → dùng LLM. Kết quả: chi phí thấp hơn, ít lỗi khó đoán hơn.
Phân loại bước trong workflow
| Bước | Dùng | Vì sao |
|---|---|---|
| Lọc email theo người gửi / tiêu đề | Rule | Quy tắc rõ ràng, 100% chính xác |
| Đọc nội dung, xác định ý định khách | LLM | Ngôn ngữ tự nhiên, mơ hồ |
| Tra đơn hàng trong DB | Code / API | Dữ liệu có cấu trúc |
| Soạn câu trả lời lịch sự | LLM | Viết theo ngữ cảnh |
| Tính tiền hoàn, ngày giao | Code | Không được phép “gần đúng” |
| Quyết định hoàn tiền > ngưỡng | Người | Rủi ro tài chính |
Câu hỏi kiểm tra cho từng bước
- Viết được if/else hoặc regex cho nó không? → Có thì đừng dùng AI.
- Sai một lần thì thiệt hại bao nhiêu? → Cao thì cần người duyệt.
- Đầu ra có cần cấu trúc cố định? → Ép JSON schema + validate.
Tham khảo: Building effective agents — Anthropic