Zum Inhalt springen
ContestabilityEine Forschungs­
publikation
StartForschung / NIC-Programm

Ein Forschungsprogramm zur sinnvollen Anfechtung

Welche Information macht eine institutionelle Entscheidung anfechtbar – und wann schuldet eine Institution einer Person eine folgenreiche Antwort?

Autor
Kerry Thornhill
Status
Forschung in Entwicklung
Quelldatum
Webversion
2026-10-23 · v3
Übersetzung
Wartet auf qualifizierte Sprachprüfung
Übersetzt aus der englischen Fassung 2026-10-23 · v3

Kerry Thornhill

MS in Interdisciplinary Studies · Laufend · University of North Texas

Anuradha and Vikas Sinha College of Artificial Intelligence and Advanced Analytics

Zwei Begleitdokumente bestimmen dieses Forschungsprogramm: eine Argumentationskarte, die den gemeinsamen begrifflichen Kern von Paper A (jetzt als Preprint verfügbar) und Paper B darlegt, sowie ein 36-Monats-Forschungsplan, der ihn prüft. Beides sind Arbeitsdokumente; der Plan ist vorgeschlagene Forschung, und diese Site berichtet keine abgeschlossenen Studienergebnisse. Eine gesonderte philosophische Untersuchung, What Counts as a Reason: Institutional Formation and the Limits of Rational Reconstruction, prüft Fragen, die NIC und Paper B informieren.

Die Argumentationskarte

Argumentationskarte · v. 5 · 12. Oktober 2026 · Eine Karte — drei Verwendungen: Paper A | Paper B | Forschungsplan

Ein algorithmischer Score, eine Klassifikation, Vorhersage, Empfehlung, Rangfolge, Kennzeichnung oder Diagnose wird zu einer institutionell wirksamen Entscheidung, wenn institutionelle Übernahme oder materielle Bezugnahme sie so wirksam macht, dass sie Behandlung, Chance, Sichtbarkeit, Priorität, Last oder vermuteten Status strukturiert. Paper A fragt, welche informationalen Funktionen sinnvolle Anfechtbarkeit verlangt, wo Anfechtbarkeit unabhängig gefordert oder zugesagt ist; Paper B fragt gesondert, wann der evaluative Gebrauch einer privaten Institution selbst eine pro-tanto-Pflicht begründet, diese Anfechtbarkeit zu gewähren.

  1. 1Institutionell wirksame EntscheidungIdaho übernahm die Ausgabe eines statistischen Budget-Tools als Medicaid-Waiver-Budget jeder Teilnehmerin und jedes Teilnehmers.
  2. 2Plausibler wesentlicher EinwandEine Person, deren Budget sank, konnte vernünftigerweise einwenden, das Tool habe falsche oder unvollständige Datensätze genutzt, der Schluss sei unzuverlässig oder der Prüfungsmaßstab undefiniert.
  3. 3Epistemische Aufgabe zu seiner PrüfungDie Prüfung dieses Einwands erfordert die vom Tool genutzten Daten, seinen Testnachweis und den angewandten Maßstab — nichts davon lieferten die Mitteilungen von 2011.
K.W. v. Armstrong, 789 F.3d 962, 971–74 (9th Cir. 2015); 180 F. Supp. 3d 703, 717 (D. Idaho 2016)

Mentoring und Prüfung

Dr. Shomik Chakrabarti, Clinical Assistant Professor, University of North Texas

Dr. Shomik Chakrabarti (University of North Texas) leistet Methoden-Mentoring und kritische Prüfung des NIC-Rahmens; sein Einwand gegen die Sechs-Funktionen-Klassifikation informiert einen geplanten Vergleich, der vor der Prüfung präregistriert werden soll.

Sechs Kandidaten informationaler Funktionen

  1. 01

    Entscheidung und Folge

    Task Feststellen, was die Institution geschlossen und welche praktische Wirkung gefolgt ist.

    Defect it exposes Die Ausgabe wird benannt, doch die wirksame Entscheidung oder ihre Folge bleibt verdunkelt.

  2. 02

    Soziotechnische Rollen und Evidenzkontrolle

    Task Feststellen, wer die Grundlagen erzeugt, geliefert, interpretiert, übernommen, geändert oder kontrolliert hat, einschließlich des tatsächlichen Beitrags der Automation und menschlicher Intervention.

    Defect it exposes Ein Menschen-Label verdeckt tatsächliche Automation, Intervention oder Anbieterkontrolle.

  3. 03

    Daten, Quelle und Qualität

    Task Herkunft, Genauigkeit, Aktualität, Verknüpfung, Auslassung, Proxy-Nutzung und Zusammensetzung der Evidenzbasis prüfen.

    Defect it exposes Falsche, veraltete, unvollständige, falsch verknüpfte oder unrepräsentative Daten formten das Ergebnis.

  4. 04

    Passung von Maßstab und Operation

    Task Den autorisierten Maßstab mit dem umgesetzten Ziel, Konstrukt, Proxy, Regel oder Objektiv vergleichen.

    Defect it exposes Das System berechnet genau ein unautorisiertes oder falsches Kriterium.

  5. 05

    Evidenzielle Rechtfertigung, Unsicherheit und Schwelle

    Task Prüfen, ob die Evidenz den Schluss stützt und ob Vertrauen an der gewählten Schwelle gerechtfertigt ist.

    Defect it exposes Schwache Validierung, Untergruppenfehler, Unsicherheit oder Schwellennähe untergraben das Vertrauen.

  6. 06

    Kontextuelle Anwendbarkeit

    Task Prüfen, ob System, Evidenz und Annahmen auf die gegenwärtige Person, Population, Ort, Zeit, Workflow und Ausnahmeumstände übertragen.

    Defect it exposes Domänenwechsel, atypische Umstände oder ausgelassener Kontext vereiteln die Anwendung.

Institutionelle Aufnahme

Institutionelle Aufnahme liegt außerhalb des Registers. Sie ist keine siebte informationale Funktion. Sie ist die institutionelle Relation (Paper B: Antwortpflicht), die einen informierten Einwand mit einem kompetenten und hinreichend unabhängigen Forum verbindet, das begründete Antwort und Folge leisten kann — Korrektur, Änderung, Aussetzung, systemische Änderung oder gerechtfertigte Bestätigung.

Zwei Spuren

Funktionale Spur — Paper A

Sei d ein unabhängig spezifizierter wesentlicher Einwand im Geltungsbereich; Od seine Prüfungsaufgabe; oi eine Kandidaten-Operation innerhalb der Funktion Fi; RC die begrenzte Menge machbarer Routen unter Bedingungen C. oi, oder ein treues Äquivalent, ist bedingt notwendig, wenn das Regime vorgibt, d zuzulassen, die Prüfung von d Od erfordert, irgendeine Route in RC, die oi ausführt, die vorab festgelegte Angemessenheitsschwelle auf Od erreicht, und keine Route in RC, die oi und treue Äquivalente auslässt, dies tut. Notwendigkeit haftet an der Operation und ihrer Aufgabe; die sechsfache Partition bleibt revidierbar.

Pflichtspur — Erweiterung Paper B

Funktionale Notwendigkeit begründet keine institutionelle Pflicht. Paper B schlägt eine pro-tanto-Pflicht relationaler institutioneller Antwortpflicht vor, wo vier Bedingungen zusammentreffen: die Institution macht absichtlich ein vermeintlich gründebezogenes Urteil wirksam; dieser Gebrauch betrifft die Person vorhersehbar, einzeln oder kumulativ; die Institution oder ihre verantwortliche Entscheidungskette hat ausschließliche oder materiell überlegene Kontrolle über die zur Prüfung eines vernünftigen Einwands nötigen Grundlagen; und der betroffenen Person fehlt ein angemessen ausreichender Gegenweg (Vermeidung, Verifikation, Korrektur, Vertretung). Das Paper muss verteidigen, warum dieses Verhältnis einen Anspruch auf Antwortpflicht gibt und warum ein verhältnismäßiger Anfechtungsweg eine angemessene Schranke ist. Das vorgeschlagene Argument verbindet operativen evaluativen Gebrauch mit Verantwortung für epistemische und Korrekturrisiken, prüft Kontrolle über Urteil und Anfechtung als mögliche Form willkürlicher privater Macht und erwägt die am wenigsten restriktive angemessene Antwort. Zum sich entwickelnden Argument →

Der Sinn von „notwendig“

Nicht überall rechtlich vorgeschrieben, nicht persönlich im Besitz jeder betroffenen Partei, nicht gemeinsam hinreichend für Gerechtigkeit, nicht in jedem Fall kausal unverzichtbar, nicht als erschöpfend erwiesen. Eine Anfechtung kann nur manche Funktionen aktivieren. Epistemische Treue bestimmt treue Äquivalenz; Rechtzeitigkeit, Unabhängigkeit, Zugänglichkeit und Nutzbarkeit bestimmen Lieferangemessenheit; institutionelle Aufnahme bleibt extern. Die Partition wird zusammengeführt, geteilt, erweitert oder domänenbegrenzt, wenn Evidenz sie widerlegt; zwei unbestimmte Nullen über vorab festgelegte Settings schwächen den begrenzten Notwendigkeitsanspruch ab.

Drei Ansprüche

  1. 1

    Einwand–Operations-Anspruch

    Sinnvolle Anfechtung verlangt die Fähigkeit, wesentliche Einwände zu prüfen, nicht bloß den Erhalt einer Erklärung, eines Beschwerdeformulars oder eines technischen Dossiers.

  2. 2

    Anspruch gestufter Verfügbarkeit

    Erforderliche Aufgaben können durch Basis, Sicherung, aktivierten Zugang, geschützte Vermittlung und nutzbare Unterstützung ermöglicht werden; notwendige Verfügbarkeit bedeutet nicht universelle sofortige Offenlegung.

  3. 3

    Kein-Ersatz-Anspruch

    Eine Operation ist nur relativ zu einem unabhängig spezifizierten Einwand, definierten Bedingungen und einer begrenzten Menge machbarer Routen notwendig, in der keine Route, die die Operation und treue Äquivalente auslässt, die Angemessenheitsschwelle derselben Aufgabe erreicht; ein treues Äquivalent ändert die Lieferung, nicht die Notwendigkeit.

Forschungshypothese

Forschungshypothese

Prüfen, ob das Register naturalistische Einwände abdeckt und eine präregistrierte rivalisierende Partition (die Zusammenlegung der dritten, vierten und fünften Funktion) übersteht; ob seine Operationen bedingt notwendig statt bloß hilfreich sind, wobei Auslassung unter eine vorab festgelegte Angemessenheitsschwelle fällt, während ein treuer Ersatz sie erreicht; ob Vertrauen auf gekennzeichnete Hinweise beitragend bleibt, gültige Widerleger es reduzieren während begründetes Vertrauen erhalten bleibt, oder präemptiv wird; gesondert, ob beurteilte Rechtfertigung und gewählte Disposition unter institutioneller Beschränkung auseinanderlaufen; und ob Untersuchungsfähigkeit gehaltenen Transfer übersteht.

Der 36-Monats-Forschungsplan

36-Monats-Forschungsplan · v. 6 · 12. Oktober 2026 · Testing Informational Conditions for Meaningful AI Contestability

Forschungsfrage

Welche informationalen Funktionen ermöglichen es Menschen, KI-gestützte Entscheidungen zu prüfen und zugleich begründetes Vertrauen zu bewahren, und wie können diese Funktionen zu einem nutzbaren Produkt über Disziplinen werden?

Dieses 36-Monats-Projekt schließt im ersten Jahr die anfängliche Zwei-Funktionen-Studie ab, prüft in den Jahren zwei und drei die übrigen vier Funktionen und liefert ein arbeitendes Anfechtbarkeits-Toolkit mit bewertetem Transfer über Disziplinen. Die Befunde bestimmen, welche Funktionen unterscheidbar bleiben und wie sich das Produkt ändert.

Drei Phasen, 36 Monate

  1. 1Phase 1 · Months 1–12

    Die anfängliche Zwei-Funktionen-Studie abschließen

    Functions
    3 · Daten, Quelle und Qualität
    4 · Passung von Maßstab und Operation (one operation: proxy-to-criterion fit)
    Work
    Corpus, pilots, preregistration · two experiments
    Revision point
    Month 12
    Deliverables
    First working toolkit modules
  2. 2Phase 2 · Months 13–24

    Zwei weitere Funktionen prüfen

    Functions
    1 · Entscheidung und Folge
    2 · Soziotechnische Rollen und Evidenzkontrolle
    Work
    Fälle öffentlicher Leistungen · Glaubens-/Handlungs- und gestufte Zugangstests · Transfer-Rekrutierung · Replikationsfenster
    Revision point
    Month 24
    Deliverables
    Beide abgeschlossenen Tests, der Vergleich gestuften Zugangs und ein integrierter Untersuchungs- und Prüfungsprototyp
  3. 3Phase 3 · Months 25–36

    Die letzten zwei Funktionen und Transfer prüfen

    Functions
    5 · Evidenzielle Rechtfertigung, Unsicherheit und Schwelle
    6 · Kontextuelle Anwendbarkeit
    Work
    Gesundheitsfälle (25–30) · Feldstudien zur Aufnahme, wo Zugang gesichert ist (25–36) · gehaltener Transfer und Replikationsfenster (31–36)
    Revision point
    Month 30
    Deliverables
    Toolkit released at 36

In den Monaten 12, 24 und 30 behält, fusioniert, teilt, erweitert oder beschränkt der Plan den Funktionsumfang anhand der Evidenz und präregistriert Änderungen. Nullergebnisse werden berichtet. Studien beeinflussen keine laufenden Entscheidungen.

The month-36 toolkit

Month 36 · Release

Bis Monat 36 veröffentliche ich ein arbeitendes Anfechtbarkeits-Toolkit für Forschende und Prozessgestaltende.

Users will configure and evaluate the complete process from notice through inquiry, evidence, reasoned response, and recorded action, including cases with unavailable evidence or limited reviewer authority.

  • Verbundene Oberflächen für betroffene Personen und Prüfende
  • A case generator
  • Ein Datensatz, der Grundlagen mit Evidenz und Disposition verknüpft
  • Tested modules
  • Scoring tools
  • An adaptation guide

Documents and versions

Kerry Thornhill · Anuradha and Vikas Sinha College of Artificial Intelligence and Advanced Analytics · Interdisciplinary Studies · University of North Texas. Core anchors: K.W. v. Armstrong, 789 F.3d 962, 971–74 (9th Cir. 2015); 180 F. Supp. 3d 703, 717 (D. Idaho 2016), official slip op. at 11–15, 22–25, 36 · Hardwig 1985, 335–37 · Lange 2026, 180–81 · duty analogues: Anderson 1999, Bovens 2007, Dagan & Dorfman 2016, Pettit 2012 — adjacent support, not independent derivations.

Four connected inquiries

Paper A entwickelt die informationale Darstellung; Paper B untersucht die vorgeschlagene Antwortpflicht; das empirische Programm prüft ausgewählte Ansprüche; und What Counts as a Reason: Institutional Formation and the Limits of Rational Reconstruction prüft die philosophischen Fragen institutioneller Bildung und rationaler Rekonstruktion. Jedes hat seine eigene Frage und Argumentationslast.

Paper A is available as a preprint. The philosophical paper is in preparation with a preprint planned for December 2026; Paper B is in preparation with a preprint planned for January 2027. The studies remain proposed.

Selected intellectual context

Das Programm baut auf etablierter Arbeit zu Anfechtbarkeit und Überprüfbarkeit auf. Dies sind Einstiege in die umgebende Literatur.