18 nguyên tắc thiết kế tương tác người–AI của Microsoft

Tính năng AI hỏng thường không vì model kém, mà vì người dùng không biết nó làm được gì, không biết khi nào nên tin, và không sửa được khi nó sai. Năm 2019, Microsoft Research (Amershi và cộng sự) công bố 18 nguyên tắc cho tương tác người–AI, được kiểm chứng qua nhiều sản phẩm thật. Gần một thập kỷ sau, chúng vẫn là checklist thiết kế tốt nhất cho chatbot, copilot hay agent.

18 nguyên tắc chia theo 4 giai đoạn

Áp vào sản phẩm LLM hôm nay

• Nguyên tắc 1–2 (đặt kỳ vọng): màn hình chào nêu rõ chatbot trả lời dựa trên tài liệu nào, không làm được gì; ghi chú "có thể sai, hãy kiểm tra nguồn".
• Nguyên tắc 8–9 (bỏ qua, sửa): gợi ý của copilot phải tắt được bằng một phím, sửa được trực tiếp, không bắt làm lại từ đầu.
• Nguyên tắc 10 (thu hẹp khi không chắc): thay vì bịa câu trả lời, hỏi lại hoặc đưa vài lựa chọn. Đây là thiết kế chống ảo giác ở tầng UX.
• Nguyên tắc 11 (giải thích): hiển thị nguồn trích dẫn, tool đã gọi, dữ liệu đã dùng.
• Nguyên tắc 14 và 18 (thay đổi): đổi model hay prompt có thể đổi hành vi; báo cho người dùng, đừng âm thầm.
• Nguyên tắc 16–17 (hệ quả, kiểm soát): với agent có hành động thật (gửi email, xoá dữ liệu), cho xem trước hệ quả và có công tắc tổng.

Bổ sung từ People + AI Guidebook của Google

Bộ hướng dẫn PAIR của Google đi cùng hướng: xác định AI có thực sự cần không, hiệu chỉnh mức tin cậy của người dùng (không quá tin, không quá nghi), thiết kế cách thu phản hồi, và xử lý lỗi một cách tử tế. Hai bộ tài liệu bổ sung nhau: Microsoft cho checklist ngắn gọn, Google cho quy trình và ví dụ.

Rủi ro khi bỏ qua

• Quá tin: người dùng không biết giới hạn sẽ dùng output sai trong quyết định quan trọng.
• Bỏ rơi tính năng: một vài lần sai không sửa được, người dùng tắt hẳn AI.
• Mất niềm tin khi cập nhật: hành vi đổi đột ngột sau khi đổi model khiến người dùng nghĩ sản phẩm hỏng.

Áp dụng thế nào?

• Dev: Mỗi tính năng AI phải có đường bỏ qua và sửa output dễ dàng; log lại hành động sửa làm dữ liệu cải tiến.
• Tech Lead: Đưa 18 nguyên tắc vào checklist design review cho mọi tính năng có AI.
• PM: Viết phần "giới hạn của tính năng" ngay trong spec, rồi đưa nó lên giao diện, không chỉ để trong tài liệu nội bộ.