Qu’est-ce que le lien de validation ?

Dans une expérience publiée en 2023, Lucía Vicente et Helena Matute ont demandé à des participants de prendre des décisions avec l’aide d’un système d’intelligence artificielle. Le système donnait parfois de mauvais conseils. Parmi les participants, 80,7 % ont repéré les erreurs et ont quand même suivi les recommandations. Ils savaient qu’il y avait un problème, mais le repérer ne leur donnait pas assez de confiance ou d’autorité pour ignorer la machine.

Nolan Lovett utilise ce résultat dans La tragédie des biens communs cognitifs pour expliquer ce qu’il nomme le «lien de validation» (Validation Tether). Les gens peuvent superviser l’intelligence artificielle seulement quand ils ont assez de connaissances indépendantes pour juger son travail. Pourtant, les organisations introduisent souvent l’intelligence artificielle en supprimant les tâches qui permettent aux gens d’acquérir ces connaissances.

L’attache décrit une dépendance. Ce n’est pas une compétence, une attitude ou une procédure. Une organisation ne peut pas l’ajouter à un modèle de compétences et l’enseigner dans un atelier. Elle survit quand les gens continuent à développer des connaissances qui ne dépendent pas du système qu’ils doivent évaluer.

L’expertise se développe par le travail

Lovett fait la différence entre la maîtrise internalisée et la maîtrise distribuée.

• La maîtrise internalisée est le savoir que possède le praticien. Elle comprend les modèles mentaux qui permettent à un clinicien de relier un symptôme inhabituel à un diagnostic, à un ingénieur de prévoir comment un composant tombera en panne, ou à un gestionnaire de programme de voir pourquoi une recommandation techniquement valide ne fonctionnera pas dans un district particulier. Les praticiens développent ce savoir en travaillant de façon répétée sur des problèmes de plus en plus difficiles, en recevant les commentaires de collègues plus expérimentés, et en ayant l’occasion de corriger leurs erreurs.
• La maîtrise distribuée est la capacité de produire des résultats en coordonnant le savoir détenu par des personnes et des outils. Elle comprend choisir un système d’intelligence artificielle, écrire des instructions utiles, comparer les résultats, organiser un flux de travail, et combiner la production de la machine avec du matériel venant de collègues ou de bases de données. Ces capacités sont de vraies formes de compétence professionnelle. Elles peuvent produire un excellent travail sans donner à l’opérateur un modèle indépendant du sujet.

La différence devient importante lors de l’examen. Quelqu’un avec une maîtrise distribuée peut produire un protocole clinique soigné en un après-midi. Déterminer si le protocole correspond au personnel disponible, aux circuits de référence, aux profils de maladie et à l’approvisionnement en médicaments demande une maîtrise internalisée. La production peut s’appuyer sur la machine. La validation ne peut pas dépendre entièrement du système qu’on examine.

Cette dépendance crée l’attache. La maîtrise distribuée reste utile tant qu’une maîtrise internalisée existe quelque part dans le flux de travail. Si les organisations arrêtent de former des personnes avec une maîtrise internalisée, la performance assistée peut continuer à s’améliorer pendant que la capacité de la vérifier diminue.

Deux examens peuvent donner la même approbation

Lovett sépare la validation de surface de la validation substantielle.

• La validation de surface vérifie les éléments visibles dans le résultat. Un examinateur peut trouver une citation inventée, une erreur de calcul, une contradiction, des sections manquantes, ou une mise en forme qui ne suit pas le modèle. L’intelligence artificielle peut faire une grande partie de ce travail, et les gens peuvent apprendre à le faire sans avoir beaucoup de connaissances du domaine.
• La validation substantielle demande si le résultat est correct pour la décision à prendre. Une recommandation peut citer de vraies recherches et reposer quand même sur une hypothèse inadaptée. Un modèle de risque peut être mathématiquement valide et omettre la variable qui détermine le résultat. Une suggestion clinique peut correspondre aux symptômes enregistrés et ignorer quelque chose de spécifique au patient.

L’élément manquant cause le danger. Les lecteurs qui n’ont pas de modèle de travail du domaine ne savent pas ce que le résultat a laissé de côté. La fluidité rend l’omission plus difficile à remarquer parce que le document ne contient aucun défaut visible.

Une étiquette d’approbation indique rarement quel examen a eu lieu. Un tableau de bord peut montrer que chaque document a passé l’assurance qualité même quand les examinateurs ont vérifié seulement les citations, l’exhaustivité et le style. L’organisation a alors la preuve qu’un examen a eu lieu, mais aucune preuve que quelqu’un a testé la recommandation par rapport aux connaissances du domaine et aux conditions locales.

La performance assistée peut masquer une perte de capacité

Plusieurs études discutées par Lovett comparent la performance avec l’intelligence artificielle et la performance sans elle.

• Kacper Budzyń et ses collègues ont comparé des endoscopistes avant et après l’utilisation d’un système de détection assistée par intelligence artificielle. Les endoscopistes ont montré une précision indépendante plus faible après avoir adopté le système.
• Fabrizio Dell’Acqua et ses collègues ont constaté que les consultants ont mieux réussi les tâches qui se situaient dans les capacités du modèle, et moins bien réussi les tâches qui dépassaient cette limite.
• Emma Wiles et ses collègues ont constaté que les participants ont mieux réussi quand ils utilisaient l’intelligence artificielle générative pendant la formation, mais l’avantage a disparu après que les chercheurs ont retiré l’assistance.

Ces études ne prouvent pas que chaque utilisation de l’intelligence artificielle provoque une perte de compétences. Elles montrent plutôt que réussir avec de l’assistance ne prouve pas que la personne a appris la tâche elle-même. Les organisations qui mesurent les résultats quand l’assistance est disponible ne peuvent pas savoir si les personnes peuvent travailler de façon indépendante.

D’autres preuves montrent des conditions qui peuvent préserver l’apprentissage.

• Un essai randomisé de Sarah Everett et ses collègues a constaté que les cliniciens ont conservé ou amélioré leur performance diagnostique quand le flux de travail exigeait un engagement actif avec le raisonnement du système.
• La recherche d’Anders Humlum et Emilie Vestergaard n’a constaté aucun effet sur les salaires ou les heures enregistrées pendant les deux premières années d’adoption chez les travailleurs danois. Les preuves disponibles montrent un mécanisme conditionnel plutôt qu’un déclin inévitable.

Lovett décrit deux formes possibles de déclin.

1. L’épuisement des réserves se produit quand moins de personnes entrent dans une profession et développent une expertise profonde.
2. La dégradation de la fonctionnalité se produit quand les praticiens continuent à progresser vers des rôles supérieurs mais développent des modèles mentaux plus superficiels que les cohortes précédentes.

Les données d’emploi peuvent finalement révéler la première forme. Les modèles d’erreur, les défaillances dans l’escalade et la mauvaise performance sans assistance peuvent révéler la seconde plus tôt.

La connaissance ne garantit pas un refus

L’expérience de Vicente et Matute ajoute une autre exigence. Les participants ont souvent détecté les conseils défectueux et les ont quand même suivis. La validation substantielle dépend donc de la connaissance et aussi de la question de savoir si une personne traite le résultat de la machine comme une affirmation qu’on peut remettre en question.

La position professionnelle influence cette décision. Un analyste débutant peut identifier une fausse hypothèse et quand même se soumettre à un système choisi par la direction. Un responsable de la santé de district peut voir qu’un protocole national ne correspond pas aux conditions locales et ne pas avoir de moyen pour le contester. Le problème n’est plus seulement de détecter les erreurs. Il inclut qui peut arrêter le flux de travail et quelle connaissance compte quand les sources divergent.

L’analyse de Reda Sadki sur la tragédie des biens communs cognitifs relie ce problème à la santé mondiale. Les hiérarchies de preuves classifient souvent l’observation de première ligne comme une anecdote tout en donnant l’autorité aux orientations standardisées produites loin des contextes où les praticiens les utiliseront. L’intelligence artificielle entre dans un système qui distribue déjà la crédibilité de manière inégale. Un professionnel de la santé peut reconnaître qu’une recommandation entre en conflit avec l’expérience locale et quand même supposer que l’institution ou la machine en sait plus.

Le lien de validation échouera si une personne qui a les connaissances n’a pas la position pour agir. Les arrangements d’examen ont donc besoin d’une voie d’escalade, pas seulement de l’accès à un expert.

Les organisations peuvent tester le lien de validation

Compter les messages, documents ou corrections faites par la machine ne mesure pas le lien de validation. L’évaluation doit examiner le jugement indépendant.

Les tests préparés doivent ressembler aux erreurs que l’organisation risque de rencontrer. Une faute d’orthographe mesure l’attention. Une recommandation plausible basée sur la mauvaise population teste la validation de fond.

Le résultat devrait aussi distinguer la détection, l’explication et l’action. Vicente et Matute ont montré que ce sont des résultats séparés.

Les politiques d’abstention méritent la même précision. Au Sommet de l’IA agentive de 2026 à Berkeley, Emily Zhu a demandé si un agent sait ce qu’il ne sait pas. Une politique utile nomme l’information manquante, le seuil de risque ou le désaccord qui déclenche l’examen humain. Elle identifie aussi qui reçoit le dossier et qui a l’autorité pour décider.

Le lien de validation est une question de personnel

L’intelligence artificielle change l’économie de l’apprentissage. Les tâches confiées au personnel junior servaient deux objectifs. Elles produisaient du travail pour l’organisation et donnaient au personnel moins expérimenté un contact répété avec les problèmes de la profession. Quand une machine prend ces tâches, l’organisation fait des économies immédiates. La perte d’expertise future apparaît des années plus tard et peut toucher des employeurs qui n’ont pas pris part à la décision initiale.

Lovett appelle ce processus plus large une tragédie des biens communs cognitifs. Chaque organisation bénéficie de la réduction de sa charge de formation tout en dépendant d’un marché du travail professionnel que d’autres organisations continuent de remplir. Si de nombreux employeurs prennent la même décision, la réserve partagée de jugement expert diminue.

L’exposition variera selon la profession et l’institution.

• Une réglementation professionnelle forte peut protéger la pratique supervisée et définir qui peut approuver les décisions à haut risque.
• Les règles de sécurité peuvent exiger des contrôles indépendants.
• Les organismes professionnels peuvent préserver les parcours de développement.
• Les employeurs peuvent automatiser le travail plus facilement quand ils peuvent le diviser en livrables distincts, ce qui sépare aussi ce travail de l’apprentissage.

Ces protections s’affaiblissent souvent en dessous des institutions nationales dans la santé mondiale. Le personnel du district et de l’établissement fait face aux conséquences immédiates des orientations inappropriées tout en recevant moins de temps protégé, de supervision et de reconnaissance professionnelle. Un système qui repose sur la validation locale doit investir dans les personnes censées la faire.

Ce que change le concept de lien de validation

Le lien de validation change la question posée sur la surveillance humaine. Nommer une personne qui examine le travail ne veut pas dire que cette surveillance existe vraiment. Cette personne a besoin de connaissances propres dans le domaine, de temps pour examiner le travail, d’accès aux informations pertinentes et du pouvoir d’arrêter la décision.

Le concept change aussi la façon dont les organisations mesurent la productivité.

• Un travail plus rapide peut montrer une vraie efficacité. Il peut aussi montrer une capacité empruntée que l’organisation ne reconstruit plus.
• Les mesures de performance doivent suivre ce que le personnel peut faire sans aide, si les personnes qui examinent le travail détectent les vraies erreurs et si le personnel junior continue de faire un travail de plus en plus difficile.

Une machine peut produire une recommandation qui semble correcte avant que quiconque dans la salle ait les connaissances pour la remettre en question. Le lien de validation nomme la dépendance entre cette recommandation et le jugement professionnel nécessaire pour l’utiliser en sécurité. Le maintenir demande des choix sur le personnel, la supervision, l’examen et l’autorité bien avant qu’un échec visible prouve qu’il a été perdu.

Références

Benzing, R., et al. (2025). Employee confidence and verification behaviour in generative artificial intelligence use. Cited in Lovett (2026). https://doi.org/10.1177/15344843261470602

Budzyń, K., Romańczyk, M., Kitala, D., et al. (2025). Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study. The Lancet Gastroenterology & Hepatology, 10(10), 896-903. https://doi.org/10.1016/S2468-1253(25)00133-5

Dell’Acqua, F., McFowland, E. III, Mollick, E., et al. (2026). Navigating the jagged technological frontier: field experimental evidence of the effects of artificial intelligence on knowledge worker productivity and quality. Organization Science, 37(2), 403-423. https://doi.org/10.1287/orsc.2025.21838

Everett, S. S., Bunning, B. J., Jain, P., et al. (2025). From tool to teammate: a randomized controlled trial of clinician and artificial intelligence collaborative workflows for diagnosis. medRxiv. https://doi.org/10.1101/2025.06.07.25329176

Hofer, B. K., and Pintrich, P. R. (1997). The development of epistemological theories: beliefs about knowledge and knowing and their relation to learning. Review of Educational Research, 67(1), 88-140. https://doi.org/10.3102/00346543067001088

Humlum, A., and Vestergaard, E. (2025). The unequal adoption of ChatGPT exacerbates existing inequalities among workers. Cited in Lovett (2026). https://doi.org/10.1177/15344843261470602

Lovett, N. (2026). The tragedy of the cognitive commons: how artificial intelligence could disrupt the regeneration of professional expertise. Human Resource Development Review. Advance online publication. https://doi.org/10.1177/15344843261470602

Niederhoffer, K., et al. (2025). Flawed artificial intelligence generated content at work and its cost to recipients. Cited in Lovett (2026). https://doi.org/10.1177/15344843261470602

Sadki, R. (2026). Health workforce development in the Age of Intelligence: a tragedy of the cognitive commons? Reda Sadki: Learning to make a difference. https://doi.org/10.59350/t0630-9wt12

Sadki, R. (2026). You cannot send an AI agent to jail: the scariest quotes from the Agentic AI Summit in Berkeley. Reda Sadki: Learning to make a difference. https://redasadki.me/2026/08/14/you-cannot-send-an-ai-agent-to-jail-the-scariest-quotes-from-the-agentic-ai-summit-in-berkeley/

Vicente, L., and Matute, H. (2023). Humans inherit artificial intelligence biases. Scientific Reports, 13(1), 15737. https://doi.org/10.1038/s41598-023-42384-8

Wiles, E., Krayer, L., Abbadi, M., et al. (2024). Generative artificial intelligence as an exoskeleton: experimental evidence on knowledge workers using generative artificial intelligence on new skills. SSRN. https://doi.org/10.2139/ssrn.4944588