Aller au contenu
ContestabilityUne publication
de recherche
AccueilRecherche / programme NIC

Un programme de recherche sur la contestation effective

Quelle information rend une détermination institutionnelle contestable — et quand une institution doit-elle à une personne une réponse lourde de conséquences ?

Auteur
Kerry Thornhill
Statut
Recherche en cours
Date de la source
Version web
2026-10-23 · v3
Traduction
En attente de relecture linguistique qualifiée
Traduit de la version anglaise 2026-10-23 · v3

Kerry Thornhill

MS in Interdisciplinary Studies · En cours · University of North Texas

Anuradha and Vikas Sinha College of Artificial Intelligence and Advanced Analytics

Deux documents compagnons définissent ce programme : une carte d’argument pour l’article A (prépublication) et l’article B, et un plan de recherche sur 36 mois. Documents de travail ; aucun résultat d’étude achevé n’est rapporté. What Counts as a Reason examine des questions philosophiques connexes.

La carte d’argument

Une sortie algorithmique devient détermination institutionnellement opérante lorsque l’adoption ou la reliance institutionnelle lui fait structurer traitement, opportunité, visibilité, priorité, charge ou statut présumé. L’article A demande quelles fonctions informationnelles la contestabilité effective exige ; l’article B, quand naît un devoir pro tanto de la fournir.

  1. 1Détermination institutionnellement opéranteIdaho a adopté la sortie d’un outil budgétaire statistique comme budget Medicaid waiver de chaque participant·e.
  2. 2Objection matérielle plausibleUne personne dont le budget baissait pouvait objecter dossiers faux ou incomplets, inférence peu fiable ou norme de réexamen indéfinie.
  3. 3Tâche épistémique pour l’enquêterÉvaluer cette objection exige les données utilisées, le dossier de test et la norme appliquée — absents des avis de 2011.
K.W. v. Armstrong, 789 F.3d 962 (9th Cir. 2015); 180 F. Supp. 3d 703 (D. Idaho 2016)

Mentorat et relecture

Dr. Shomik Chakrabarti, University of North Texas

Dr. Shomik Chakrabarti (UNT) assure le mentorat méthodologique et la relecture critique du cadre NIC.

Six fonctions informationnelles candidates

  1. 01

    Détermination et conséquence

    Tâche Identifier ce que l’institution a conclu et quel effet pratique a suivi.

    Défaut exposé La sortie est nommée mais la décision opérante ou sa conséquence est obscurcie.

  2. 02

    Rôles sociotechniques et contrôle des preuves

    Tâche Identifier qui a produit, fourni, interprété, adopté ou contrôle les fondements.

    Défaut exposé Une étiquette humaine dissimule automation, intervention ou contrôle fournisseur.

  3. 03

    Données, source et qualité

    Tâche Évaluer provenance, exactitude, actualité, liaison, omission et proxies.

    Défaut exposé Des données fausses, périmées ou non représentatives ont façonné le résultat.

  4. 04

    Adéquation norme–opération

    Tâche Comparer la norme autorisée à la cible ou au proxy mis en œuvre.

    Défaut exposé Le système calcule exactement un critère non autorisé ou erroné.

  5. 05

    Garantie épistémique, incertitude et seuil

    Tâche Évaluer si les preuves soutiennent l’inférence et si la reliance au seuil est justifiée.

    Défaut exposé Validation faible ou proximité du seuil mine la reliance.

  6. 06

    Applicabilité contextuelle

    Tâche Évaluer si système, preuves et hypothèses se transportent à la personne et au contexte présents.

    Défaut exposé Un décalage de domaine ou un contexte omis fait échouer l’application.

Prise en charge institutionnelle

Externe au registre ; ce n’est pas une septième fonction. Relation institutionnelle (article B : answerability) reliant une objection informée à un forum compétent et suffisamment indépendant.

Deux voies

Paper A

La voie fonctionnelle teste la nécessité conditionnelle des opérations informationnelles.

Paper B

La voie du devoir demande quand une institution privée doit cette contestabilité. →

Sens de « nécessaire »

Pas juridiquement requis partout ; pas possédé personnellement par chaque partie ; pas conjointement suffisant pour la justice. Une contestation peut n’activer que certaines fonctions.

Trois thèses

  1. 1

    Thèse objection–opération

    La contestation effective exige d’enquêter sur des objections matérielles, pas seulement de recevoir une explication.

  2. 2

    Thèse de disponibilité étagée

    Les tâches peuvent être rendues possibles par orientation de base, préservation, accès activé, médiation protégée et soutien utilisable.

  3. 3

    Thèse de non-substitution

    Une opération n’est nécessaire que relativement à une objection spécifiée et à un ensemble borné de voies faisables.

Hypothèse de recherche

Hypothèse de recherche

Tester couverture des objections naturalistes, survie à une partition rivale préenregistrée, nécessité conditionnelle des opérations, et survie de la capacité d’enquête au transfert.

Plan de recherche sur 36 mois

Question de recherche

Quelles fonctions informationnelles permettent d’enquêter sur des décisions appuyées par l’IA tout en préservant une confiance justifiée ?

Projet sur 36 mois : étude initiale à deux fonctions (année 1), quatre restantes (années 2–3), boîte à outils avec transfert évalué.

Trois phases, 36 mois

  1. 1Phase 1 · Mois 1–12

    Achever l’étude initiale à deux fonctions

    Fonctions 3 et 4 ; corpus, pilotes, préenregistrement.

  2. 2Phase 2 · Mois 13–24

    Tester deux fonctions supplémentaires

    Fonctions 1 et 2 ; prestations publiques ; prototype.

  3. 3Phase 3 · Mois 25–36

    Tester les deux dernières et le transfert

    Fonctions 5 et 6 ; santé ; transfert ; publication.

Aux mois 12, 24 et 30 : rétention, fusion, scission ou restriction des fonctions selon les preuves. Résultats nuls rapportés.

Boîte à outils

Publication d’une boîte à outils de contestabilité pour chercheur·es et concepteur·rices de processus d’ici le mois 36.

Quatre enquêtes liées

Article A : compte rendu informationnel ; B : devoir d’answerability ; programme empirique ; What Counts as a Reason : formation institutionnelle des raisons.

Article A en prépublication. Articles philosophique et B en préparation (déc. 2026 / janv. 2027). Études proposées.

Contexte intellectuel sélectionné

Travaux établis sur contestabilité et reviewability. Points d’entrée :