跳到正文
Contestability研究
出版物

译文可能已过时

自本译文完成以来,英文原文或项目术语表已有更改。在译文更新之前,请以英文原文为准。

阅读英文原文 →

信息科学 · 人机决策

NIC 研究项目 / Kerry Thornhill

怎样的决定才可以被质疑?

本研究探讨人们如何运用证据评估 AI 辅助决策,以及哪些信息能让一项具体的疑虑得到调查。

“必要信息条件”(NIC)项目将概念分析、关于制度性答责的研究,以及针对人类判断的拟议实证研究结合起来。一项相关的哲学研究探讨制度如何塑造“什么算作理由”。

Kerry Thornhill

跨学科研究理学硕士(MS in Interdisciplinary Studies)· 在读 · University of North Texas

Anuradha and Vikas Sinha College of Artificial Intelligence and Advanced Analytics

图 01 / 可被质疑的认定
信息、异议、调查、回应 机构提供一份记录。当事人提出实质性异议。调查在机构内部追溯相关依据。说明理由的回应返回当事人,可以修改该认定、附理由维持,或提交上级处理。 机构 01 / 信息 所述理由 02 / 异议 实质性问题 03 / 调查 04 / 回应 具有实际效果的重新审议
概念示意图。回应可以修改认定、附理由维持,或提交上级处理。
01信息
02异议
03调查
04回应

01 / 研究问题

解释只是开始。

一个人可能知道结果及其所述理由,却仍缺乏调查错误的依据。NIC 项目追问:什么使一项实质性异议可以被调查,以及它如何获得具有实际效果的制度回应。

理解可质疑性

04 / 研究项目

一张论证图,
三个阶段,36 个月。

论证图说明了具有制度效力的认定、合理的实质性异议,以及调查该异议所需的认识任务之间如何相互关联,并列出该任务可能需要的六项候选信息功能。研究计划分三个阶段检验这些功能,最终形成一套可实际使用的可质疑性工具包。

  1. 1具有制度效力的认定
  2. 2合理的实质性异议
  3. 3调查该异议所需的认识任务
  4. PDF论证图 第 5 版 · 研究计划 第 6 版 · 2026 年 10 月 12 日

05 / 实证研究 · 拟议研究

研究证据如何改变判断。

拟议的实证工作考察人们如何将独立证据与 AI 或人的建议一并权衡;随后利用合成的消费信贷案例,检验与具体疑虑相匹配的信息,能否帮助人们识别真实的错误,同时在不存在错误时保持有正当依据的依赖。

这些研究旨在区分有用的信息与仅仅增加信心或怀疑的信息。其结果可能支持、收窄或修正当前的工作框架。

阅读拟议研究计划
概念插图:一个人在机器顾问旁查看纸质记录。
人的判断 / 机器建议
概念插图 · 并非研究结果

06 / 案例演示

记录说的是一回事,
当事人说的是另一回事。

一项信贷认定提到了逾期欠款。申请人认为该账户早已结清。怎样才能让这一疑虑成为一个有用的问题——又怎样才能让答案真正产生影响?

合成案例 / 四个阶段 / 并非研究结果

07 / 作者与研究

一个欢迎批评的项目。

Kerry Thornhill 是 University of North Texas 的理学硕士(MS)在读学生,正在信息科学领域发展长期的学术研究生涯。本项目欢迎就其论证、方法和研究范围提出实质性意见。

关于研究者