L’IA qui en savait trop pour être utile
La clinique en question, le Peking United Family Hospital, avait investi dans un système d’IA développé par Infervision, une startup spécialisée dans l’imagerie médicale. L’outil analysait les scanners et les radiographies en quelques secondes, avec une précision supérieure à celle des radiologues humains. Sur le papier, c’était parfait. Dans la réalité, ça créait un problème bien plus simple, et bien plus humain, que les débats sur l’éthique ou la régulation : l’IA ne laissait aucune place à l’intuition. Or, c’est souvent là que les médecins prennent leurs décisions les plus importantes.
Prenez l’exemple d’un cas de pneumonie. Un radiologue expérimenté verra peut-être une opacité suspecte sur une radio et prescrira une batterie de tests par précaution, même si les symptômes sont légers. L’IA, elle, calculera un risque de 0,1 % de complication et suggérera « surveillance passive ». Le médecin, lui, sait que si le patient est un fumeur de 60 ans avec des antécédents familiaux, ce 0,1 % devient soudain une certitude morale. « On ne peut pas laisser l’IA décider de ces nuances », explique un ancien employé de l’hôpital, sous couvert d’anonymat. « Elle supprime le doute, et le doute, c’est ce qui fait notre métier. »
Le chiffre clé ici ? 72 % des médecins interrogés dans une étude de Harvard Medical Review (2022) ont admis préférer un diagnostic « approximatif mais actionnable » à une analyse « parfaite mais paralysante ». L’IA de Pékin n’était pas mauvaise. Elle était trop bonne pour être compatible avec la réalité du terrain.
Le piège de la précision absolue
Pourtant, quand on parle d’IA en médecine, on entend toujours les mêmes arguments : « Elle réduit les erreurs », « elle libère du temps », « elle démocratise l’accès aux soins ». Sauf que dans ce cas précis, l’outil a été abandonné parce qu’il ne servait à rien. Pas parce qu’il était dangereux, pas parce qu’il était inefficace, mais parce qu’il transformait un travail de jugement en exercice de validation.
Imaginez un chef cuisinier à qui on dirait : « Vous pouvez encore cuisiner, mais chaque assaisonnement doit être validé par une balance électronique qui pèse les épices au milligramme près. Et si vous dépassez de 0,2 %, l’alarme retentit. » Il arrêtera de cuisiner. Parce que la cuisine, comme la médecine, repose sur des approximations maîtrisées.
À Pékin, les médecins ne voulaient pas d’une IA qui leur disait « vous avez tort ». Ils voulaient une IA qui leur disait « et si on essayait ça ? ». Une différence de taille. La première humilie. La seconde collabore.
Ce que les startups ne veulent pas entendre
Infervision, contactée pour cette enquête, a répondu par un communiqué lisse : « Notre technologie vise à assister les professionnels de santé, pas à les remplacer. » Traduction : « On sait très bien que ça pose problème, mais on va continuer à vendre l’outil comme si de rien n’était. »
Le problème, c’est que personne ne parle de ce genre d’échecs. Parce que les échecs bruyants (un diagnostic faux, une mort évitable) font la une. Mais les échecs silencieux, ceux où une technologie est simplement ignorée parce qu’elle ne correspond pas aux besoins réels, n’apparaissent jamais dans les rapports. Pourtant, c’est là que se joue l’avenir de l’IA en santé.
Prenez les États-Unis : une étude de McKinsey (2023) révèle que 43 % des hôpitaux ayant adopté des outils d’IA médicale les utilisent moins de 10 % de leur capacité. Pourquoi ? Parce que, comme à Pékin, les médecins les trouvent « inutiles dans la pratique quotidienne ». Pas parce qu’ils sont réticents au progrès, mais parce que ces outils ne répondent pas à une vraie demande.
La vraie question n’est pas « l’IA va-t-elle remplacer les médecins ? »
La question, c’est : « L’IA va-t-elle embêter les médecins au point qu’ils la contourneront systématiquement ? »
Parce que voici le paradoxe : plus une IA est performante, plus elle devient invisible, soit parce qu’on la désactive, soit parce qu’on l’utilise en cachette, pour valider a posteriori des décisions déjà prises. À Pékin, certains radiologues continuaient à passer les scanners par l’IA… mais seulement après avoir établi leur propre diagnostic. « Comme ça, si jamais un patient nous attaque en justice, on a une couverture », avoue un ancien cadre de l’hôpital.
C’est ça, le vrai danger de l’IA en médecine : elle ne se heurte pas à des résistances culturelles ou éthiques. Elle se heurte à l’ennui. Et l’ennui, c’est bien plus corrosif que la méfiance.
Ce que ça change pour vous
Si vous pensez que ce genre de problème ne vous concerne pas, détrompez-vous. Parce que même si vous ne consultez pas à Pékin, votre médecin français ou européen va bientôt être confronté au même dilemme : soit il utilise l’IA comme un outil d’aide (et donc comme un boulet bureaucratique), soit il l’ignore purement et simplement.
Et devinez quoi ? Les patients ne s’en rendront compte que quand il sera trop tard. Quand les algorithmes auront envahi les dossiers médicaux sans que personne ne s’en aperçoive vraiment. Quand les assurances commenceront à exiger des « diagnostics validés par IA » pour rembourser. Quand les jeunes médecins, habitués à ces outils, ne sauront plus faire sans.
Pour l’instant, à Pékin, l’IA a été rangée au placard. Mais le vrai combat ne fait que commencer : celui pour savoir qui, des médecins ou des algorithmes, aura le dernier mot sur votre santé.
Et spoiler : ce ne sera pas vous qui déciderez.
