Human-in-the-loop là gì? Người duyệt ở đâu?

Human-in-the-loop thường được gọi là “con người trong vòng xử lý”. AI đọc dữ liệu hoặc tạo đề xuất; con người kiểm tra, sửa, duyệt hoặc quyết định chuyển hướng trước khi quy trình tiếp tục.

NIST AI RMF yêu cầu phân biệt vai trò con người–AI, xác định việc cần giám sát và đánh giá hiệu quả của giám sát theo bối cảnh. Vì vậy, chỉ thêm nút “duyệt” chưa đủ.

Ưu tiên người duyệt khi quyết định ảnh hưởng tiền, quyền lợi khách, dữ liệu nhạy cảm, nhân sự, pháp lý hoặc thương hiệu; khi dữ liệu thiếu; khi hệ thống gặp ca ngoài phạm vi; hoặc khi độ tin cậy thấp.

Việc rủi ro thấp, lặp lại và có thể đảo ngược có thể được tự động hơn sau khi đã kiểm thử. Ranh giới phải do người có trách nhiệm phê duyệt, không để AI tự chọn mức quyền của chính nó.

Màn duyệt phải cho thấy dữ liệu đầu vào, đề xuất của AI, lý do hoặc bằng chứng liên quan, mức độ rủi ro, hành động sắp xảy ra và lịch sử sửa. Người duyệt cần nút chấp nhận, sửa, từ chối và chuyển người khác.

Nếu hàng chờ quá dài hoặc thời hạn quá ngắn, nhân viên sẽ bấm duyệt theo thói quen. Khi đó con người có mặt nhưng không kiểm soát thật.

AI phù hợp với việc đọc, gom, gợi ý, nhắc và thực hiện bước đã có quy tắc trong phạm vi rõ. Con người phù hợp với việc đặt mục tiêu, quyết định mức rủi ro, xử lý mơ hồ, trò chuyện nhạy cảm và chịu trách nhiệm cuối.

Định vị Nhân viên số của ATECH là con người chỉ huy, AI thực hiện. Đây là hướng nội dung, không phải tuyên bố rằng một hệ thống cụ thể đã làm được mọi nhiệm vụ kể trên.

Theo dõi tỷ lệ người sửa, lý do từ chối, lỗi lọt qua, thời gian chờ duyệt, số ca phải chuyển và chênh lệch giữa người duyệt. Lấy mẫu kiểm tra độc lập thay vì chỉ tin vào tỷ lệ bấm chấp nhận.

Nếu hầu hết đề xuất đều được duyệt trong vài giây, cần kiểm tra hai khả năng: hệ thống rất tốt hoặc người duyệt đang quá tải. Nhật ký và kiểm tra mẫu giúp phân biệt hai trường hợp.