10 câu hỏi cần hỏi trong buổi demo Nhân sự số

Câu 1: Hệ thống đang làm một việc cụ thể nào cho shop, từ lúc nhận yêu cầu đến lúc hoàn thành? Câu 2: Bước nào vẫn cần con người quyết định? Hai câu này ngăn buổi demo trôi vào danh sách tính năng chung chung.

Hãy mang một tình huống thật đã bỏ dữ liệu nhạy cảm. Yêu cầu người trình diễn đi hết đường việc, gồm cả đầu vào, đầu ra và cách biết việc đã xong.

Câu 3: Hệ thống cần đọc và ghi dữ liệu nào? Câu 4: Khi hai nguồn xung đột hoặc nguồn đã cũ, nó xử lý ra sao? Yêu cầu xem tên nguồn, phiên bản và chủ sở hữu thay vì chỉ nghe nói hệ thống “đã học dữ liệu”.

Nếu dùng dữ liệu mẫu, người trình diễn cần nói rõ. Kết quả trên dữ liệu mẫu không tự chứng minh khả năng làm việc với hệ thống thật của shop.

Câu 5: Nhân sự số được phép làm gì và ai có thể thu hồi quyền? Câu 6: Hãy cho xem một tình huống hệ thống trả lời sai, thiếu dữ liệu hoặc kết nối bị lỗi. Buổi demo cần cho thấy đường chuyển người và cách khôi phục.

OWASP cảnh báo rủi ro khi hệ thống AI có quá nhiều chức năng, quyền hoặc quyền tự quyết. Vì vậy, màn hình đẹp không thay thế được ma trận quyền và điểm dừng do con người duyệt.

Câu 7: Kết quả nào có thể kiểm tra sau mỗi việc, gồm nguồn, nhật ký và phản hồi từ kênh nhận? Câu 8: Chi phí gồm những mục nào, giới hạn nào và phần nào có thể phát sinh?

Không chấp nhận doanh thu tăng hay chi phí giảm như kết quả mặc định của một buổi demo. Hãy yêu cầu tiêu chí thử nhỏ, đường gốc và các yếu tố khác có thể ảnh hưởng đến kết quả.

Câu 9: Thời gian thử phụ thuộc vào dữ liệu, kết nối và người duyệt nào? Câu 10: Sau bàn giao, ai của shop và ai của nhà cung cấp chịu trách nhiệm cho nguồn, quyền, lỗi và thay đổi?

NIST AI RMF nhấn mạnh việc ghi rõ bối cảnh, đo lường, giám sát và trách nhiệm trong suốt vòng đời. Google PAIR cũng khuyên bắt đầu từ nhu cầu người dùng và cách xác định thành công. Nếu chưa trả lời được hai câu cuối, chưa nên chốt một lịch hoặc phạm vi rộng.