跳到正文
Contestability研究
出版物

譯文可能已過時

自本譯文完成以來,英文原文或計畫術語表已有更改。在譯文更新之前,請以英文原文為準。

閱讀英文原文 →

資訊科學 · 人機決策

NIC 研究計畫 / Kerry Thornhill

怎樣的決定才可以被質疑?

本研究探討人們如何運用證據評估 AI 輔助決策,以及哪些資訊能讓一項具體的疑慮得到調查。

「必要資訊條件」(NIC)計畫將概念分析、關於制度性答責的研究,以及針對人類判斷的擬議實證研究結合起來。一項相關的哲學研究探討制度如何塑造「什麼算作理由」。

Kerry Thornhill

跨學科研究理學碩士(MS in Interdisciplinary Studies)· 就讀中 · University of North Texas

Anuradha and Vikas Sinha College of Artificial Intelligence and Advanced Analytics

圖 01 / 可被質疑的認定
資訊、異議、調查、回應 機構提供一份記錄。當事人提出實質性異議。調查在機構內部追溯相關依據。說明理由的回應返回當事人,可以修改該認定、附理由維持,或提交上級處理。 機構 01 / 資訊 所述理由 02 / 異議 實質性問題 03 / 調查 04 / 回應 具有實際效果的重新審議
概念示意圖。回應可以修改認定、附理由維持,或提交上級處理。
01資訊
02異議
03調查
04回應

01 / 研究問題

解釋只是開始。

一個人可能知道結果及其所述理由,卻仍缺乏調查錯誤的依據。NIC 計畫追問:什麼使一項實質性異議可以被調查,以及它如何獲得具有實際效果的制度回應。

理解可質疑性

04 / 研究計畫

一張論證圖,
三個階段,36 個月。

論證圖說明了具有制度效力的認定、合理的實質性異議,以及調查該異議所需的認識任務之間如何相互關聯,並列出該任務可能需要的六項候選資訊功能。研究計畫分三個階段檢驗這些功能,最終形成一套可實際使用的可質疑性工具包。

  1. 1具有制度效力的認定
  2. 2合理的實質性異議
  3. 3調查該異議所需的認識任務
  4. PDF論證圖 第 5 版 · 研究計畫 第 6 版 · 2026 年 10 月 12 日

05 / 實證研究 · 擬議研究

研究證據如何改變判斷。

擬議的實證工作考察人們如何將獨立證據與 AI 或人的建議一併權衡;隨後利用合成的消費信貸案例,檢驗與具體疑慮相匹配的資訊,能否幫助人們識別真實的錯誤,同時在不存在錯誤時保持有正當依據的依賴。

這些研究旨在區分有用的資訊與僅僅增加信心或懷疑的資訊。其結果可能支援、收窄或修正當前的工作框架。

閱讀擬議研究計畫
概念插圖:一個人在機器顧問旁檢視紙質記錄。
人的判斷 / 機器建議
概念插圖 · 並非研究結果

06 / 案例演示

記錄說的是一回事,
當事人說的是另一回事。

一項信貸認定提到了逾期欠款。申請人認為該帳戶早已結清。怎樣才能讓這一疑慮成為一個有用的問題——又怎樣才能讓答案真正產生影響?

合成案例 / 四個階段 / 並非研究結果

07 / 作者與研究

一個歡迎批評的計畫。

Kerry Thornhill 是 University of North Texas 的理學碩士(MS)學生,正在資訊科學領域發展長期的學術研究生涯。本計畫歡迎就其論證、方法和研究範圍提出實質性意見。

關於研究者