跳到正文
Contestability研究
出版物
首页研究 / NIC 项目

关于有意义可质疑性的研究计划

何种信息使一项制度性认定可被质疑——以及制度何时应对当事人负有具有后果的回应义务?

作者
Kerry Thornhill
状态
研究进行中
来源日期
网页版本
2026-10-23 · v3
译文
待合格语言审校
译自英文版本 2026-10-23 · v3

Kerry Thornhill

跨学科研究理学硕士(MS in Interdisciplinary Studies)· 在读 · University of North Texas

Anuradha and Vikas Sinha College of Artificial Intelligence and Advanced Analytics

两份配套文件界定本计划:论文 A(预印本)与论文 B 的论证图,以及 36 个月研究计划。均为工作文件;不报告已完成研究结果。What Counts as a Reason 考察相关哲学问题。

论证图

算法输出在制度采纳或实质依赖使其结构化待遇、机会、可见性、优先性、负担或推定地位时,成为具有制度效力的认定。论文 A 追问有意义的可质疑性需要哪些信息功能;论文 B 追问私人制度何时产生提供该可质疑性的 pro tanto 义务。

  1. 1具有制度效力的认定爱达荷将统计预算工具输出采纳为每位参与者的 Medicaid 豁免预算。
  2. 2合理的实质性异议预算下降者可合理异议错误/不完整记录、不可靠推断或未界定的复核标准。
  3. 3调查所需的认知任务评估该异议需要所用数据、测试记录与适用标准——2011 年通知未提供。
K.W. v. Armstrong, 789 F.3d 962 (9th Cir. 2015); 180 F. Supp. 3d 703 (D. Idaho 2016)

指导与审阅

Dr. Shomik Chakrabarti, University of North Texas

Shomik Chakrabarti 博士(UNT)提供方法指导与对 NIC 框架的批判性审阅。

六项候选信息功能

  1. 01

    认定与后果

    任务 识别制度结论及实践效果。

    暴露的缺陷 输出被命名但生效决定或其后果被遮蔽。

  2. 02

    社会技术角色与证据控制

    任务 识别谁生成、提供、解释、采纳或控制根据。

    暴露的缺陷 “人工”标签掩盖自动化、干预或供应商控制。

  3. 03

    数据、来源与质量

    任务 评估来源、准确性、时效、关联、遗漏与代理变量。

    暴露的缺陷 错误、过时或无代表性数据塑造了结果。

  4. 04

    治理标准–操作契合

    任务 将授权标准与所实施目标/代理比较。

    暴露的缺陷 系统精确计算未授权或错误标准。

  5. 05

    证据担保、不确定性与阈值

    任务 评估证据是否支撑推断及阈值依赖是否正当。

    暴露的缺陷 验证薄弱或贴近阈值削弱依赖。

  6. 06

    情境适用性

    任务 评估系统与证据是否可迁移到当前人与情境。

    暴露的缺陷 领域偏移或省略情境使适用失败。

制度吸纳

在名录之外;不是第七项信息功能。将知情异议连接到胜任且足够独立论坛的制度关系(论文 B:答责)。

两条轨道

Paper A

功能轨道检验信息操作的条件必要性。

Paper B

义务轨道追问私人制度何时负有该可质疑性。 →

“必要”之义

并非处处法律要求;并非每位当事人亲自拥有;并非共同足以实现正义。

三项主张

  1. 1

    异议–操作主张

    有意义的质疑要求调查实质性异议的能力,而非仅收到解释。

  2. 2

    分阶段可用主张

    任务可通过基线、保全、激活获取、受保护中介与可用支持实现。

  3. 3

    不可替代主张

    操作仅相对于独立指定的异议与有界可行路径集才必要。

研究假设

研究假设

检验名录覆盖自然主义异议、经受预注册竞争性划分、操作条件必要、调查能力经受迁移。

36 个月研究计划

研究问题

哪些信息功能使人们能在保持有正当依据之依赖的同时调查 AI 辅助决策?

36 个月:第一年双功能研究;第二、三年其余四项;交付经评估迁移的工具包。

三阶段,36 个月

  1. 1Phase 1 · 第 1–12 月

    完成初始双功能研究

    功能 3 与 4;语料、预试验、预注册。

  2. 2Phase 2 · 第 13–24 月

    检验另两项功能

    功能 1 与 2;公共福利;原型。

  3. 3Phase 3 · 第 25–36 月

    检验最后两项与迁移

    功能 5 与 6;医疗;迁移;发布。

第 12、24、30 月依证据保留、合并、拆分或限制功能。将报告无效结果。

工具包

至第 36 月向研究者与流程设计者发布可质疑性工具包。

四项关联探究

论文 A:信息论述;B:答责义务;经验计划;What Counts as a Reason:理由的制度形成。

论文 A 已有预印本。哲学论文与论文 B 撰写中(2026-12 / 2027-01)。

精选知识语境

建立在可质疑性与可复核性既有工作之上。入口: