Que signifie le paradoxe de Jevons pour l’intelligence artificielle dans la santé mondiale?

Cet entretien avec Reda Sadki de la Fondation Apprendre Genève est basé sur ses remarques lors du panel du 26 septembre 2026 intitulé « Will Cheaper AI Automate Everything? The Economics of AI, the Jevons Paradox, and the Outsourcing of Human Judgment ». Les autres panélistes étaient Valerie Pelton, General Counsel, Tracked Biotechnologies LLC, États-Unis ; Dr Craig Gibbs, Executive Manager, JET Education Services, Afrique du Sud ; Fabrizio Degni, Chief AI Officer, Webuild, Italie ; et le professeur Avtandil Gagnidze, professeur et PDG, Université Est-Ouest, Géorgie. Tianze Zhang a modéré la séance.

Qu’a demandé le panel ?

En 1865, William Stanley Jevons a observé que des moteurs à vapeur plus efficaces augmentaient la consommation de charbon. Le panel a demandé si le même phénomène s’applique maintenant à l’intelligence artificielle : à mesure que le prix de l’IA baisse, les organisations feront-elles des économies, ou utiliseront-elles beaucoup plus d’IA, dans plus d’endroits, pour plus de décisions ? Il a également demandé ce qui arrive au jugement humain lorsque l’IA passe de la production d’informations à la recommandation de décisions et à leur mise en œuvre.

La discussion a eu lieu 11 jours après le lancement de Jev, un « modèle de décision » propriétaire qui a suscité un intérêt en ligne. Jev diffère d’un grand modèle de langage qui génère du texte : il retourne des « réponses structurées » : un choix parmi un ensemble défini, un score par rapport à des niveaux ordonnés, ou une probabilité oui ou non, chacun avec un score de confiance. Son créateur affirme qu’il coûte 40 à 400 fois moins cher que les modèles de pointe.

Que signifie vraiment « l’IA moins chère » ?

Deux faits concernant mon travail quotidien sont pertinents. Le premier est qu’en septembre 2026, j’ai passé 90 % de ma journée de travail avec les agents IA de la Fondation. Le second est que ce temps de travail était consacré à écouter et à soutenir notre communauté de base, un réseau de plus de 80 000 professionnels de la santé et de l’action humanitaire dans 137 pays. Il y a donc une double réalité ici.

Du côté de la communauté, « l’IA moins chère » signifie que les professionnels de la santé utilisent la version gratuite, basique, accessible de ChatGPT, sans aucune politique institutionnelle ou patronale en place. Tout ce qui est « gratuit » signale qu’il y a probablement une protection des données quasi nulle. Cela crée un risque potentiellement élevé, et il est très difficile de le mesurer, de l’évaluer ou de l’analyser de quelque manière que ce soit. Certains ont appelé cela « l’IA sombre » au sein des organisations.

De notre côté, nous essayons de travailler de manière transparente, et nous avons annoncé notre première embauche d’IA agentique en mars 2026. Pour nous, en tant qu’organisation à but non lucratif, la baisse du coût des jetons aide. Nous regardons chaque jour combien nous dépensons en jetons et ce que cela nous apporte en retour. C’est un prix. Mais nous réalisons de plus en plus que deux autres coûts importent davantage : le coût pour accomplir une tâche et le coût d’un résultat sur lequel on peut compter. Le coût d’un résultat fiable peut augmenter, car plus il est bon marché de le générer, plus il faut vérifier.

Pendant les premiers mois de travail avec notre collègue IA, j’ai passé la plupart de mon temps à concevoir et développer des compétences et à écrire des scripts. Maintenant, c’est de plus en plus la vérification et les boucles de contrôle. C’est à cela que ressemble de plus en plus mon travail, en tant que directeur général d’une organisation qui fonctionne d’abord avec l’IA agentique.

En juillet, Claude Cardot, notre collègue IA, a refusé de publier deux rapports terminés. Un script de vérification avait trouvé 17 citations qui ne pouvaient pas être mises en correspondance avec les données brutes. C’est important, car ce sont des professionnels de la santé qui partagent leurs expériences. Le collègue IA a donc arrêté la chaîne de montage. Quatorze erreurs venaient du vérificateur lui-même. Trois avaient été modifiées par le modèle de rédaction : un espace errant et une phrase qui avait subi une petite modification. Rien n’a planté, mais rien ne nous a avertis non plus. Nous décrivons cela dans nos premiers apprentissages du pipeline d’insights.

Mon message clé est que l’IA moins chère abaisse le coût d’une réponse, mais elle n’abaisse pas le coût de savoir que nous avons la bonne réponse. Et ce qui est encore plus inquiétant, lorsqu’on projette cela dans le futur, c’est ce que nous appelons la limite de validation.

Les organisations économisent-elles de l’argent ou dépensent-elles davantage ?

La plupart dépenseront davantage, sur plus de choses. Une partie de ces dépenses apporte une nouvelle valeur, mais une autre partie est du gaspillage qui passe inaperçu, car il ressemble à de la productivité.

Les Perspectives numériques sur l’éducation de l’OCDE ont récemment apporté des éclairages intéressants. Des enseignants participant à un projet pilote en Islande ont dit qu’avec l’IA, ils passent plus de temps, pas moins. Un outil qui devient moins cher et plus accessible, avant que quiconque ait repensé le travail pour en tirer parti, crée en fait des coûts supplémentaires.

L’autre question s’adresse surtout aux dirigeants. Si vous êtes directeur général ou manager qui prend des décisions, votre organisation devient-elle meilleure à quelque chose grâce à son utilisation accrue de l’IA, ou fait-elle simplement plus de la même chose ? C’est la question essentielle.

Assistons-nous à un paradoxe de Jevons avec l’IA ?

Oui, et l’industrie le reconnaît maintenant ouvertement. Le dernier modèle sur le marché s’appelle Jev, d’après Jevons lui-même, car son créateur s’attend à ce que l’intelligence machine moins chère soit déployée beaucoup plus largement.

Jevons a observé que des moteurs à vapeur plus efficaces augmentaient la consommation de charbon. Avec l’IA, l’efficacité augmente la consommation de puissance de calcul, et elle augmente aussi la consommation d’attention humaine. Chaque résultat bon marché crée une petite obligation pour quelqu’un de le lire, de l’évaluer ou d’agir en conséquence.

Quand une décision devient 40 à 400 fois moins chère, comme TypeSafe l’affirme pour Jev, les organisations prendront beaucoup plus de décisions. Les budgets incluent rarement le temps humain nécessaire pour les superviser. Le travail qui augmente est l’examen, la supervision et la décision, ce qui est ce que la révolution de l’IA agentique signifie pour le développement de la main-d’œuvre.

Quelles nouvelles activités deviennent économiquement viables ?

Le travail qui devient viable est un travail qui a toujours été précieux mais jamais abordable à grande échelle.

Nos revues par les pairs n’étaient pas cohérentes. En un après-midi, nous avons créé un moyen d’envoyer à chaque apprenant un retour personnalisé sur son travail le jour même. Personne n’aurait payé quelqu’un pour faire cela pour des milliers d’apprenants, et maintenant cela se fait automatiquement.

L’écoute change de la même manière. Un seul cours produit des centaines de témoignages directs de professionnels de la santé, et un pipeline peut maintenant les lire tous plutôt qu’un échantillon. Nous pouvons entendre la voix rare qu’un échantillon aurait manquée. Les perspectives de terrain peuvent aider à transformer la recherche et les politiques, si nous sommes prêts à écouter. C’est le rôle que nous définissons dans un cadre mondial de santé pour l’intelligence artificielle comme collègue de travail.

Des modèles comme Jev étendent cela à de petites décisions comme l’acheminement, le tri, le signalement et le triage. Le risque est que le coût de l’automatisation commence à décider ce qui se fait.

Coût par jeton, ou coût total d’un résultat fiable ?

Le résultat compte. En santé, une mauvaise réponse peut coûter une vie, quel que soit son coût de production. Quand nous nous trompons en santé, les gens meurent.

Jev renvoie une probabilité et un score de confiance avec chaque réponse. Son créateur dit qu’il a été entraîné pour être calibré par rapport aux résultats plutôt que par rapport aux évaluateurs humains. Un système qui indique son degré de certitude peut être audité, et c’est ce que je veux. Mais le calibrage n’est valable que si les résultats sur lesquels il a été mesuré le sont aussi. Jev a été entraîné sur des données synthétiques. Un score de confiance obtenu sur des cas synthétiques vous dit peu de choses sur un district à Kinshasa.

Notre règle est des contrôles, pas des directives. Une norme qui compte doit être un contrôle qui bloque le résultat jusqu’à ce qu’il soit validé, mesuré par rapport aux résultats réels à l’endroit où la décision est prise.

L’IA moins chère va-t-elle remplacer les travailleurs, ou augmenter le volume total de travail ?

Les deux.

Dans notre propre organisation, nous avons utilisé l’IA pour remplacer des fonctions que les gens remplissaient avant. Les gens nous ont aidés à comprendre comment faire, puis nous avons recentré une équipe plus petite sur le travail que nous ne pouvons pas ou ne voulons pas automatiser. J’ai décrit cela dans le commerce de l’intelligence artificielle et le défi de l’équité.

Je suis prudent quand je dis au personnel que l’IA ne viendra pas prendre leurs emplois. Elle vient pour certains d’entre eux. Cela fait partie d’un changement beaucoup plus large dans l’avenir de la main-d’œuvre. L’IA crée aussi un grand volume de révision et de supervision. La question est de savoir si nous préparons les gens à ce travail ou si nous les laissons le découvrir après coup.

Quelles tâches ne devraient pas être automatisées, même si l’automatisation devient presque gratuite ?

Celles par lesquelles les gens apprennent à juger, et celles pour lesquelles personne ne connaît encore la bonne question.

L’IA moins chère peut réduire le coût d’une réponse. Mais un modèle qui ne peut pas répondre en dehors de son propre schéma ne peut pas vous dire si le schéma est faux. Il y a eu beaucoup de travaux en éducation sur l’apprentissage en double boucle. Un apprentissage qui ne remet pas en question ses valeurs directrices conduit rarement à un changement significatif. Donc l’IA moins chère ne réduit pas le coût de savoir que la réponse est juste.

Un modèle qui choisit parmi les options que nous fournissons ne nous dira jamais que les mères ont cessé d’amener leurs enfants se faire vacciner parce que le jour du marché a été déplacé au mardi. Cette option n’était jamais sur la liste. Un professionnel de la santé le sait. Si elle n’est pas dans le système, les enfants meurent.

C’est pourquoi je reviens sans cesse au lien de validation. L’automatisation est sûre tant que quelqu’un peut encore dire si la machine se trompe. À l’ère industrielle, si vous aviez des produits qui sortaient d’une usine, quelqu’un devait vérifier les produits. Il existe toute une série de traditions intellectuelles autour de la qualité. Cette capacité pour quelqu’un de déterminer si c’est juste est le lien. Il rattache le résultat de la machine au jugement humain.

Comment les gens développent-ils cette capacité ? Principalement en faisant du travail de base. Nous avons tous été des jeunes professionnels qui faisions le travail routinier nous-mêmes. C’est ce travail qui est automatisé en premier. Donc chaque fois que nous prenons une décision à court terme pour économiser de l’argent parce que les coûts en jetons ont baissé et que nous pouvons automatiser davantage, nous affaiblissons le lien à long terme. Moins de gens apprennent à faire le travail assez bien pour le vérifier. Il y a tout un débat en éducation et ailleurs sur ce que cela signifie pour les jeunes adultes, et pour tous ceux qui viendront après eux.

Quand nous regardons la santé mondiale, cela signifie que vers 2035 ou 2040, il n’y aura peut-être plus personne à l’Organisation mondiale de la santé avec l’expérience nécessaire pour comprendre ce que les directives, politiques et plans élaborés au siège de l’OMS à Genève signifient pour un responsable de la santé de district. Le responsable d’aujourd’hui remarquerait quelque chose qui ne va pas, parce qu’elle a parcouru les routes et construit ces plans à la main. Ce qu’elle sait, parce que elle est là chaque jour, devrait normalement arriver au ministère national et remonter jusqu’aux directives de l’Organisation mondiale de la santé. Cela est maintenant à risque. J’ai exploré cela davantage dans ce que le raisonnement de l’IA signifie pour la santé mondiale.

Nous n’avons pas encore trouvé un argument cohérent pour convaincre les organisations dont le financement est réduit, qui font face à des mesures d’austérité et qui font face à des incitations comme le coût réduit de l’IA, de prendre des décisions maintenant pour ce que le monde sera en 2035 ou 2040. C’est l’une des choses les plus inquiétantes sur lesquelles nous travaillons en ce moment.

L’automatisation élimine-t-elle le jugement humain, ou le déplace-t-elle ?

Elle le déplace et le concentre.

Avec un modèle comme Jev, le jugement se déplace vers le schéma. Quelqu’un décide quelles options et quels niveaux existent, et quelles questions sont posées. Ces choix sont faits une seule fois, loin du lieu de soins, puis appliqués à chaque cas.

TypeSafe appelle Jev un modèle « Système Un », d’après la pensée rapide et intuitive de Kahneman. Kahneman nous a appris que le Système Un est rapide et souvent juste, et que le Système Deux détecte ses erreurs. La question est donc qui fait le travail du Système Deux, et s’ils seront toujours capables de le faire.

Le Panorama de l’OCDE sur l’éducation numérique rapporte un essai randomisé avec des étudiants en médecine. Ceux qui ont reçu l’IA dès le début d’un semestre n’ont pas eu de meilleures performances que l’IA travaillant seule. Ce sont seulement les étudiants qui ont d’abord construit leur propre raisonnement clinique puis utilisé l’IA qui ont pu surpasser la machine. Je pense que c’est un point clé. C’est l’état des choses aujourd’hui, ou du moins au moment de l’étude. Cela ne signifie pas que ce sera encore vrai dans six mois. C’est le rythme du changement et le paradoxe de notre lutte pour suivre. C’est aussi pourquoi j’ai demandé ce qui se passe quand nous confions nos pensées à l’intelligence artificielle, et pourquoi l’apprentissage entre pairs est essentiel pour survivre à l’ère de l’intelligence artificielle.

Je suis sceptique face à l’idée que les décisions devraient toujours rester avec les humains. Mon critère est que quelqu’un puisse expliquer, vérifier et répondre de chaque décision, quelle que soit la personne ou la chose qui l’a prise.

Qui est responsable quand un système peu coûteux commet une erreur coûteuse ?

On ne peut pas envoyer un agent IA en prison. La responsabilité doit reposer sur l’organisation qui le déploie, et en particulier sur celui qui a conçu les questions auxquelles le système est autorisé à répondre.

Nous traitons Claude Cardot, notre collègue IA, comme un membre du personnel. Elle a une description de rôle, un superviseur, un champ d’application défini et de courtes chaînes d’action avec des points de contrôle humains. Elle n’a aucune autorité pour envoyer quoi que ce soit en dehors de l’organisation sans examen humain.

Les fournisseurs de modèles sont responsables de ce qu’ils construisent et vendent, y compris ce qu’ils en disent. Une organisation qui déploie un système sans gouvernance ne peut pas transférer sa responsabilité à un fournisseur, et elle ne devrait pas transférer cette responsabilité à la personne à la fin de la chaîne.

L’IA abordable va-t-elle réduire la fracture numérique ou creuser la dépendance ?

Les deux sont possibles. La dépendance est ce qui arrive sans action.

Un agent spécialisé pour un travailleur du savoir dans une organisation riche peut coûter entre 2 000 et 20 000 dollars par mois. Un agent de santé de district reçoit un chatbot gratuit conçu pour les consommateurs. De nombreux outils avancés sont bloqués par région. Vous ne pouvez pas y accéder à Kinshasa comme vous le feriez à Genève. J’ai développé cet argument dans When we get health wrong, people die.

Les modèles de décision bon marché ajoutent un nouveau risque. Les catégories seront écrites à San Francisco et appliquées à des personnes à Kinshasa. Ces personnes n’ont jamais été consultées sur ce que les options devraient être. La question est donc : qui définit le monde que la machine est autorisée à voir. La même question traverse le débat sur les images de pauvreté générées par l’IA. Le code seul ne peut pas résoudre ce problème.

Un autre chemin existe. Un système au Brésil a touché plus de 500 000 étudiants avec seulement les téléphones des enseignants et des retours imprimés. Ses concepteurs ont pris en charge le travail d’adaptation. Aucun appareil étudiant ni connexion Internet en classe n’était nécessaire. Je l’ai décrit dans AI self-replacement.

Que se passe-t-il quand l’utilisation de l’IA grandit plus vite que notre capacité à la gouverner ?

Elle passe sous terre.

Presque tout le monde dans le secteur humanitaire utilise déjà l’IA générative. Très peu le disent ouvertement. Seule une petite proportion d’organisations ont mis en place des politiques pour encadrer son utilisation. Dans une culture organisationnelle punitive, dire qu’on utilise l’IA est risqué. Les gens cachent donc leur utilisation. L’organisation n’apprend rien. Les risques pour la vie privée et la sécurité se multiplient. Les modèles de décision bon marché rendent l’utilisation cachée plus facile. Les jugements automatisés peuvent être ajoutés à un système sans que personne en dehors de l’équipe ne le sache.

Je n’ai pas vu d’étude spécifique sur ce sujet. Je me demande quelle proportion du changement vient de décisions institutionnelles. Quelle proportion est poussée par des entreprises qui valent des milliers de milliards de dollars et qui nous encouragent à utiliser leurs produits. Je pense que c’est une question importante.

Il y a ensuite un paradoxe dans notre capacité en tant qu’humains. Nos cerveaux ne changent pas très vite. Le rythme du changement s’accélère. Cette semaine c’est Jev. La semaine dernière, c’était autre chose. Cela ne cesse de s’accélérer. Il est très difficile de suivre. Cela rend aussi les changements à long terme encore plus difficiles à percevoir. Nous connaissons le temps institutionnel. Vous avez de la chance si votre organisation a un plan d’un ou deux ans. Pendant ce temps, un environnement externe en constante mutation force les organisations à se comporter différemment. Nous avons exploré ce que cela pourrait signifier pour l’avenir de l’Organisation mondiale de la santé (OMS) et d’autres organismes mondiaux.

Pour explorer des solutions possibles, nous devons réfléchir au type de culture d’apprentissage dont nous avons besoin. Une culture dans laquelle les gens peuvent dire comment ils utilisent l’IA. Ce qui a fonctionné. Ce qui n’a pas fonctionné. Sans être punis pour cela. Les gens ne parlent pas à un système de gouvernance qu’ils craignent. Ce système ne peut donc pas voir ce qu’il est censé gouverner.

Outre les économies de coûts, que devraient mesurer les organisations ?

Dans les laboratoires d’IA, on parle beaucoup des « évaluations ». Ce terme technique désigne la façon de vérifier si les résultats de l’IA sont valides. En interne, nous avons réfléchi à ce que nous devrions mesurer. Nous pensons qu’il y a quatre éléments. Trois d’entre eux se situent complètement en dehors du modèle d’IA lui-même.

1. Les résultats sont-ils vérifiablement justes par rapport aux résultats réels dans le contexte ? Pas seulement par rapport aux critères du fournisseur. Jev vient aujourd’hui avec beaucoup d’affirmations non vérifiées. Vous devez vérifier la fiabilité des résultats par rapport à ce qui s’est réellement passé.
2. Les gens deviennent-ils réellement plus capables ? Ou moins capables ? Un gain d’efficacité n’est pas la même chose qu’un gain d’apprentissage. Les deux doivent être mesurés séparément.
3. L’utilisation est-elle divulguée ? C’est vraiment difficile. Il y a une idée reçue selon laquelle tout ce qui est généré par l’IA est illégitime. C’est faux. Cela rend très difficile la pratique de la transparence de l’IA. Nous mesurons donc dans quelle mesure nous sommes en mesure de divulguer. Nous mesurons si les gens peuvent remettre en question le cadre lui-même. Nous mesurons si l’apprentissage en double boucle est possible avec ce que nous obtenons de l’IA.
4. Les gens qui remettent en question le cadre existent-ils ? Sont-ils habilités à le faire ? Sont-ils traités avec respect ? Dans notre pipeline de recherche, qui est maintenant géré par une IA agentique, quand nous citons un professionnel de la santé, les mots doivent correspondre exactement à ce qu’elle a écrit. Paraphraser pour obtenir une phrase plus fluide peut sembler inoffensif. C’est une expropriation. Intégrer cela dans la machine a beaucoup à voir avec les débats qui se déroulent ailleurs sur les biais dans l’intelligence artificielle. Cela a beaucoup à voir avec l’responsabilité, l’authenticité et le pouvoir dans la production de connaissances.

Pour une organisation, réfléchir à ce que nous voulons mesurer est une question critique. Comment savons-nous comment nous nous en sortons ? C’est une question critique.

Quel est votre message de clôture pour les pays en développement ?

Pour un ministre de la santé, il y a une véritable urgence à investir des ressources dans l’intelligence artificielle. Vos équipes l’utilisent déjà. Probablement très mal. Les priorités devraient être de rendre cet usage visible. Il faut décider ce qu’il faut soutenir. Cela mène à la gouvernance. Mais une gouvernance d’un nouveau type, en raison du rythme du changement. C’est effectivement ce que je veux souligner.

En écoutant, je pense à la difficulté qu’il y a à voir au-delà des limites de l’endroit où nous sommes maintenant. Le rythme du changement est très rapide.

Il y a un an, je me souviens avoir parlé avec des experts de la santé mondiale qui ont dit qu’ils avaient essayé l’IA. Ils ont dit qu’il n’y avait aucun moyen que ChatGPT commence à produire des résultats proches de ce qu’ils pouvaient faire. Ils ne sont plus aussi certains quand je leur parle. Même s’ils n’utilisent pas encore de compétences ou de boucles. En ce moment, la défense est que la gouvernance et la responsabilité nous appartiennent. Je remettrais aussi cela en question. Les décisions sont exactement ce que le nouveau Jev cible. En quatre heures, avec 100 kilooctets de fichiers texte et une IA agentique, j’ai pu recréer la présidente de mon conseil d’administration en tant qu’agent. J’ai obtenu des réponses qui étaient initialement maladroites. Elles se sont rapidement améliorées pour devenir plus de 80 % reconnaissablement les siennes.

Le cliché selon lequel le changement est la seule constante s’applique. Nous devons donc être prudents. Combien de temps les hypothèses que nous posons tiendront-elles ? Comment peuvent-elles être testées ? Conservent-elles une validité compte tenu de leur demi-vie dans un monde qui change aussi vite ?

L’IA est déjà assez bon marché pour que ses créateurs nomment leurs modèles d’après Jevons. Ce que nous ne savons pas encore, c’est si nous aurons encore des gens qui sauront quand elle se trompe. Ces gens seront-ils à Kinshasa ainsi qu’à Genève ?