Xác định
Một bên cho vay từ chối một hồ sơ sau khi dựa vào một đánh giá có hỗ trợ của AI. Thông báo nêu một khoản thanh toán quá hạn gần đây. Người nộp đơn tin rằng tài khoản liên quan đã được tất toán trước khi đánh giá.
Ví dụ mô phỏng này minh họa cấu trúc. Nó không mô tả một con người, thể chế, quyền pháp lý hay kết quả đo lường thực tế nào.
Thông tin: thông báo nêu rõ xác định tín dụng và lý do được đưa ra là một khoản quá hạn gần đây.
01 / Thông tin
Xác định điều gì đã được quyết định.
Người đó nhận được xác định, hệ quả thực tế của nó và đủ thông tin để nhận ra một câu hỏi về khoản quá hạn được nêu. Hồ sơ tại thời điểm ra quyết định cần được lưu giữ để câu hỏi có thể được kiểm tra sau này.
02 / Phản đối
Biến mối lo ngại thành điều có thể xem xét.
Người đó đưa ra bằng chứng cho thấy tài khoản đã được tất toán trước khi đánh giá. Điều này đặt ra một câu hỏi thực chất về tính cập nhật của hồ sơ được dùng để xác định.
03 / Xem xét
Kiểm tra các căn cứ liên quan.
Một bản trích hồ sơ cho biết tài khoản, tình trạng thanh toán, nguồn và thời điểm sử dụng. Người đó hoặc một người đại diện đủ năng lực đối chiếu bản trích với bằng chứng thanh toán có ghi ngày. Một cuộc kiểm tra độc lập được bảo vệ có thể là phương án thay thế đáng tin cậy nếu các phát hiện của nó có thể được đưa vào quá trình xem xét lại.
04 / Phản hồi
Kết nối việc xem xét với một kết quả.
Một người xem xét có thẩm quyền cân nhắc phản đối và bằng chứng. Nếu xác định dựa trên một hồ sơ lỗi thời, thể chế có thể sửa căn cứ và xem xét lại hồ sơ. Nếu mối lo ngại không được chứng minh, thể chế có thể nêu lý do; những câu hỏi chưa được giải quyết có thể cần chuyển lên cấp cao hơn.
Điều gì thay đổi qua trình tự này?
Người nộp đơn bắt đầu với một kết quả và một lý do. Mối lo ngại cụ thể — liệu xác định có dựa trên tình trạng thanh toán lỗi thời hay không — xác định một nhiệm vụ: đối chiếu hồ sơ tại thời điểm ra quyết định với bằng chứng tài khoản của cùng giai đoạn.
Một con đường đáng tin cậy có thể cung cấp trực tiếp bản trích hồ sơ liên quan, hoặc cho phép một người xem xét độc lập kiểm tra nó và đưa ra các phát hiện có thể được dùng trong việc xem xét lại. Đối với phản đối cụ thể này, người đó không cần tiếp cận toàn bộ mô hình.
Một phản đối khác cần những căn cứ khác
Nếu hồ sơ chính xác nhưng chỉ báo thay thế (proxy) của thể chế không khớp với tiêu chí đã công bố, thì thêm một bản sao hồ sơ sẽ không giải quyết được câu hỏi đó. Việc xem xét sẽ cần so sánh tiêu chí với những gì thực sự đã được áp dụng.
Nếu bằng chứng ủng hộ xác định ban đầu, một phản hồi có lý lẽ có thể giữ nguyên nó. Khả năng phản đối liên quan đến khả năng xem xét và nhận được sự cân nhắc có hệ quả, không phải sự bảo đảm rằng quyết định sẽ bị đảo ngược.
Mắt xích còn thiếu
Thông tin tốt đến đâu cũng không hoàn tất quá trình nếu không có diễn đàn có thẩm quyền nào cân nhắc nó. Vì vậy, dự án xem xét riêng biệt các chức năng thông tin và trách nhiệm giải trình của thể chế.