Citations trong Claude API: trích dẫn nguyên văn, đúng vị trí, rẻ hơn

Chatbot trả lời dựa trên tài liệu nội bộ, nhưng người dùng hỏi lại: "Câu này lấy ở đâu?". Bạn có thể dặn model "hãy trích dẫn" trong prompt, nhưng trích dẫn đó có thể sai vị trí, thậm chí bịa câu không có trong tài liệu. Tính năng Citations của Claude API giải quyết tận gốc: API trả về đoạn trích nguyên văn kèm vị trí chính xác trong tài liệu gốc, được đảm bảo trỏ tới nội dung có thật.

Bật citations

{
  "type": "document",
  "source": {"type": "text", "media_type": "text/plain",
             "data": "Chính sách đổi trả trong 30 ngày..."},
  "title": "Chính sách bán hàng",
  "citations": {"enabled": true}
}

Đặt khối document này trong content của message người dùng, kèm câu hỏi. Câu trả lời sẽ gồm nhiều khối text, khối nào dựa trên tài liệu thì có mảng citations.

Ba loại tài liệu

Muốn Claude trích được từng câu trong chunk RAG, đặt mỗi chunk vào một document plain text. Muốn giữ nguyên ranh giới chunk, dùng custom content.

Kết quả trả về

{
  "type": "text",
  "text": "Khách được đổi trả trong 30 ngày",
  "citations": [{
    "type": "char_location",
    "cited_text": "Chính sách đổi trả trong 30 ngày...",
    "document_index": 0,
    "start_char_index": 0, "end_char_index": 34
  }]
}

Vì sao tốt hơn trích dẫn bằng prompt?

• Đáng tin: trích dẫn được API parse ra, đảm bảo trỏ hợp lệ vào tài liệu đã cung cấp.
• Chất lượng: theo đánh giá của Anthropic, tính năng này trích đúng đoạn liên quan nhất tốt hơn đáng kể so với cách dùng prompt thuần.
• Tiết kiệm: cited_text không tính vào output token, và khi gửi lại ở lượt sau cũng không tính vào input token. Đổi lại, input tăng nhẹ do phần chỉ dẫn hệ thống và việc cắt tài liệu.

Rủi ro và lưu ý

• Không dùng chung với structured outputs: bật citations và đặt output_config.format cùng lúc sẽ nhận lỗi 400, vì trích dẫn phải xen kẽ với văn bản.
• PDF scan không trích được: trích dẫn hình ảnh chưa được hỗ trợ; PDF không có lớp chữ thì không có gì để trích.
• Trích dẫn ≠ suy luận đúng: đoạn trích có thật nhưng kết luận rút ra vẫn có thể sai; giao diện nên cho người dùng xem đoạn gốc.
• Kết hợp caching: tài liệu lớn dùng lại nhiều lần nên bật prompt caching để giảm chi phí.

Áp dụng thế nào?

• Dev: Với chatbot RAG, đưa chunk vào document có citations thay vì nhồi vào system prompt; hiển thị cited_text dạng chú thích bấm được.
• Tech Lead: Thêm kiểm tra tự động: câu trả lời không có citation cho nhận định quan trọng thì gắn cờ để review.
• PM: Tính năng "xem nguồn" tăng niềm tin người dùng rõ rệt với nội dung pháp lý, chính sách, y tế.