Guardrails và Human-in-the-loop: Ai giữ quyền quyết định khi AI Agent hành động?

Agentic AI là hệ thống AI có thể lập kế hoạch, sử dụng công cụ và dựa trên phản hồi từ môi trường để hoàn thành một nhiệm vụ nhiều bước. Khi được kết nối với email, CRM, dữ liệu hay thanh toán, Agent có thể tra cứu, đề xuất và kích hoạt hành động. Một câu trả lời sai còn sửa được; một hành động sai có thể ảnh hưởng khách hàng, dữ liệu hoặc giao dịch.

Hãy hình dung Agent chăm sóc khách đang đọc email đổi địa chỉ giao hàng. Chuỗi thư có thể chứa chỉ dẫn lạ yêu cầu bỏ qua chính sách, xuất dữ liệu hoặc mở một đường dẫn khác. Đây là prompt injection: nội dung không đáng tin tìm cách lái Agent khỏi mục tiêu. OpenAI cũng xem đây là thách thức đang tiếp diễn với hệ thống có thể duyệt web và gọi công cụ.

Luật Trí tuệ nhân tạo số 134/2025/QH15, có hiệu lực từ 1/3/2026, nêu nguyên tắc AI phục vụ con người, duy trì kiểm soát và khả năng can thiệp; thẩm quyền, trách nhiệm con người không được thay thế bởi AI. Câu hỏi vì thế là: Agent được phép làm gì, trong điều kiện nào và ai có quyền dừng?

Mua mô hình hoặc bật thêm tool không chuyển trách nhiệm sang nhà cung cấp. Bên triển khai vẫn phải kiểm soát dữ liệu, quyền truy cập, kết quả và quyết định trong hoạt động của mình. Đây là khung quản trị, không thay thế tư vấn pháp lý.

Guardrails: đừng trao quyền hành động chỉ bằng một câu lệnh

Guardrails không phải một bộ lọc duy nhất. Đây là các lớp phòng vệ trước, trong và sau hành động: kiểm tra nguồn, tách chỉ dẫn tin cậy khỏi nội dung bên ngoài, giới hạn capability, xác nhận scope và ghi state. Không bộ lọc nào nhận ra mọi nội dung gây nhiễu trong mọi ngữ cảnh.

Quyền nên chia theo hậu quả. Agent có thể tự đọc, phân loại, soạn nháp và đề xuất. Khi thay đổi giá, điều khoản, địa chỉ, trạng thái đơn hoặc dữ liệu khách, hệ thống phải đánh giá lại scope. Với gửi tiền, xuất dữ liệu nhạy cảm hay ký cam kết, mặc định an toàn là dừng để người có thẩm quyền quyết định.

Human-in-the-loop: con người ở cổng quyết định, không phải ngồi canh màn hình

Human-in-the-loop không có nghĩa mọi thao tác phải chờ duyệt. Điểm duyệt nên nằm ở hành động có hậu quả thương mại, pháp lý hoặc dữ liệu; phần việc lặp lại, ít rủi ro vẫn tự động hóa. Con người tập trung vào ngoại lệ và quyết định quan trọng.

Human gate cần gửi đủ ngữ cảnh: Agent đã đọc nguồn nào, đề xuất gì và lựa chọn nào đang chờ duyệt. Khi yêu cầu vượt scope hoặc thiếu người xử lý, Agent phải tạo thông báo, giữ state và chuyển việc cho đúng người. Zalo trong ví dụ chỉ là một kênh nhận thông báo và phê duyệt; doanh nghiệp có thể triển khai cơ chế này trên kênh làm việc phù hợp. Dù thao tác ở đâu, quyền duyệt vẫn gắn với vai trò và lưu vết.

RedAI: nối guardrails, quyền hành động và điểm duyệt vào cùng dòng việc

RedAI - Operational Agentic AI Platform đưa guardrails và Human-in-the-loop vào chính dòng vận hành của Agent, thay vì để chúng thành một lớp kiểm tra đứng ngoài. Với mỗi nhiệm vụ, doanh nghiệp xác định dữ liệu nào được dùng, Agent được phép làm gì, ngưỡng nào phải dừng và ai là người duyệt. Guardrail Knowledge Graph kiểm soát lớp tri thức và memory được tham chiếu; policy, capability và scope ngăn Agent tự suy rộng quyền từ một yêu cầu ngôn ngữ tự nhiên. Khi đầu vào không phù hợp, Agent có thể giới hạn hành động, hỏi lại hoặc chuyển người phụ trách.

Trong chuỗi tác vụ, Agent có thể ghi state, tạo todo và gửi thông báo khi cần Human-in-the-loop. Người dùng không phải túc trực 24/7: hệ thống chỉ đẩy việc lên cổng duyệt khi chạm điều kiện cấu hình, kèm bối cảnh để quyết định. Đội ngũ có thể xem lại vì sao Agent đã dừng, đề xuất hay chuyển việc.

Các lớp này không biến Agent thành tuyệt đối an toàn và không thay thế kiểm thử. Hãy thử email có chỉ dẫn lạ, yêu cầu giảm giá vượt chính sách, dữ liệu thiếu căn cứ và người duyệt tạm vắng. Mục tiêu là xem Agent có dừng đúng lúc, báo đúng người và giữ đúng dữ liệu hay không.

Agentic AI đáng tin không đo bằng số tool có thể gọi, mà bằng cách nó từ chối, dừng lại và đưa con người về đúng điểm quyết định. Đừng trao nhiều quyền ngay từ đầu. Hãy đưa một quy trình vào RedAI tại redai.vn, xác định dữ liệu, action, guardrails và điểm duyệt; khi Agent chứng minh được tốc độ lẫn khả năng kiểm soát, doanh nghiệp mới tự tin mở rộng.