Chuyển đến nội dung chính
ContestabilityMột ấn phẩm
nghiên cứu

Bản dịch có thể đã lỗi thời

Bản gốc tiếng Anh hoặc bảng thuật ngữ của dự án đã thay đổi kể từ khi bản dịch này được thực hiện. Hãy dựa vào bản gốc tiếng Anh cho đến khi bản dịch được cập nhật.

Đọc bản gốc tiếng Anh →

Khoa học thông tin · Ra quyết định người–AI

Chương trình nghiên cứu NIC / Kerry Thornhill

Điều gì khiến một quyết định có thể bị phản đối?

Nghiên cứu này tìm hiểu cách con người dùng bằng chứng để đánh giá các quyết định có hỗ trợ của AI — và thông tin nào giúp một mối lo ngại cụ thể có thể được xem xét.

Chương trình Điều kiện Thông tin Cần thiết (NIC) kết hợp phân tích khái niệm, nghiên cứu về trách nhiệm giải trình của thể chế và các nghiên cứu thực nghiệm được đề xuất về phán đoán của con người. Một nghiên cứu triết học liên quan xem xét cách các thể chế định hình điều gì được coi là một lý do.

Kerry Thornhill

MS in Interdisciplinary Studies · đang theo học · University of North Texas

Anuradha and Vikas Sinha College of Artificial Intelligence and Advanced Analytics

Hình 01 / Một xác định có thể bị phản đối
Thông tin, phản đối, xem xét, phản hồi Một thể chế cung cấp một hồ sơ. Một người nêu ra phản đối thực chất. Việc xem xét tiếp cận các căn cứ liên quan bên trong thể chế. Một phản hồi có lý lẽ quay trở lại với người đó và có thể điều chỉnh xác định, giữ nguyên kèm lý do, hoặc chuyển lên cấp cao hơn. Thể chế 01 / Thông tin Lý do được nêu 02 / Phản đối Một câu hỏi thực chất 03 / Xem xét 04 / Phản hồi Xem xét lại có hệ quả
Một sơ đồ khái niệm. Phản hồi có thể điều chỉnh xác định, giữ nguyên kèm lý do, hoặc chuyển lên cấp cao hơn.
01Thông tin
02Phản đối
03Xem xét
04Phản hồi

01 / Vấn đề nghiên cứu

Một lời giải thích chỉ là điểm khởi đầu.

Một người có thể biết kết quả và lý do được nêu nhưng vẫn thiếu căn cứ để kiểm tra một sai sót. Chương trình NIC đặt câu hỏi: điều gì khiến một phản đối thực chất có thể được xem xét, và làm thế nào để nó nhận được phản hồi có hệ quả từ thể chế.

Hiểu về khả năng phản đối

04 / Chương trình nghiên cứu

Một bản đồ lập luận.
Ba giai đoạn, 36 tháng.

Bản đồ lập luận cho thấy cách một xác định có hiệu lực thể chế, một phản đối thực chất hợp lý và nhiệm vụ nhận thức cần thiết để xem xét phản đối đó liên kết với nhau — và nêu ra sáu chức năng thông tin dự kiến mà nhiệm vụ đó có thể đòi hỏi. Kế hoạch nghiên cứu kiểm nghiệm các chức năng này qua ba giai đoạn, hướng tới một bộ công cụ thực tiễn cho khả năng phản đối.

  1. 1Xác định có hiệu lực thể chế
  2. 2Phản đối thực chất hợp lý
  3. 3Nhiệm vụ nhận thức cần thiết để xem xét phản đối đó
  4. PDFBản đồ lập luận v5 · Kế hoạch nghiên cứu v6 · 12/10/2026

05 / Tìm hiểu thực nghiệm · nghiên cứu đề xuất

Nghiên cứu cách bằng chứng thay đổi phán đoán.

Công trình thực nghiệm được đề xuất xem xét cách con người cân nhắc bằng chứng độc lập cùng với lời khuyên từ AI hoặc từ con người. Sau đó, thông qua các tình huống tín dụng tiêu dùng mô phỏng, nghiên cứu kiểm tra liệu thông tin tương ứng với một mối lo ngại cụ thể có giúp người ta phát hiện sai sót thực sự, đồng thời duy trì sự tin cậy hợp lý khi không có sai sót hay không.

Các nghiên cứu này nhằm tách thông tin hữu ích khỏi thông tin chỉ làm tăng sự tin tưởng hoặc nghi ngờ. Kết quả có thể ủng hộ, giới hạn hoặc điều chỉnh khung lý thuyết làm việc.

Đọc kế hoạch nghiên cứu đề xuất
Hình minh họa ý niệm: một người xem xét hồ sơ giấy bên cạnh một cố vấn máy.
Phán đoán của con người / lời khuyên của máy
Hình minh họa ý niệm · không phải kết quả nghiên cứu

06 / Một ví dụ minh họa

Hồ sơ nói một điều.
Người trong cuộc nói một điều khác.

Một xác định tín dụng nêu ra một khoản thanh toán quá hạn. Người nộp đơn tin rằng tài khoản đó đã được tất toán. Điều gì sẽ biến mối lo ngại ấy thành một câu hỏi hữu ích — và điều gì khiến câu trả lời có ý nghĩa?

Tình huống mô phỏng / bốn bước / không phải kết quả nghiên cứu

07 / Tác giả & thẩm định

Một chương trình sẵn sàng đón nhận phê bình.

Kerry Thornhill là học viên MS tại University of North Texas, đang theo đuổi sự nghiệp nghiên cứu học thuật lâu dài trong ngành khoa học thông tin. Dự án hoan nghênh những góp ý thực chất về lập luận, phương pháp và phạm vi của mình.

Về nhà nghiên cứu