91 % des soignants des Pays de la Loire ignorent l'IA

L’IA débarque sans prévenir, comme un squatteur mal poli

En 2022, le CHU d’Angers a déployé un logiciel d’analyse d’images médicales pour détecter des anomalies sur des scanners. Résultat : les radiologues ont vu leur charge de travail augmenter de 15 %. « On nous a balancé le logiciel en disant : ‘Ça va vous faire gagner du temps.’ », raconte un médecin. Sauf que le temps gagné, c’est celui passé à vérifier les alertes fausses, parce que l’algorithme, formé sur des données américaines, ne connaît rien aux spécificités des patients locaux. « On a des taux de faux positifs à 20 %. À ce rythme, je vais passer ma carrière à contester des machines », grogne-t-il. Pourtant, l’ARS et les directions d’hôpitaux continuent de vanter les « opportunités » de l’IA comme si c’était une évidence. L’évidence, c’est que personne n’a mesuré l’impact réel sur le terrain.

Pire encore : les soignants ne sont même pas informés des biais cachés dans ces outils. Un algorithme de tri des urgences utilisé à Laval, par exemple, privilégie les patients jeunes et sans complications. « Les vieux, les obèses, les gens avec des antécédents, ils finissent toujours en bas de la liste », confie une urgentiste. « On nous dit que c’est ‘objectif’, mais objectif pour qui ? » La réponse ? Pour ceux qui ont conçu le modèle, bien sûr. Des ingénieurs qui ignorent tout du système de santé français, mais pas des données brutes. L’IA, dans les hôpitaux, c’est comme un chef cuisinier qui vous sert un plat sans vous dire qu’il a remplacé la moitié des ingrédients par de la poudre de perlimpinpin.

Pourquoi personne ne bronche ? La faute aux grands absents

Alors, pourquoi ce silence général ? Parce que l’ARS, les fédérations hospitalières et même les syndicats de médecins ferment les yeux. « On nous parle d’innovation, mais personne ne nous demande notre avis », résume un cadre de santé à Cholet. Les formations existent, oui. Trois jours par an, organisés par des éditeurs de logiciels ou des labos de recherche. « Des cours théoriques donnés par des types en costard qui parlent de ‘deep learning’ comme si on était en fac d’informatique », raille une puéricultrice. Le problème, c’est que ces formations ne sont pas obligatoires, pas financées par l’État, et souvent dispensées par ceux qui vendent les outils.

Côté État, on se renvoie la balle. La Direction générale de la santé (DGS) pointe du doigt les régions, les régions disent que c’est aux hôpitaux de s’organiser, et les hôpitaux attendent que l’ARS leur donne un cadre. « C’est la loi de l’emmerdement collectif », lance un syndicaliste. Pendant ce temps, l’IA s’installe, comme une moisissure dans un frigo oublié. Personne ne veut assumer la responsabilité de former des milliers de soignants, alors on fait semblant de ne pas voir.

Le vrai danger : l’IA qui décide à votre place

Le pire, c’est que le vrai risque n’est pas technologique. Ce n’est pas que les machines vont se rebeller. C’est qu’elles vont prendre des décisions sans que quiconque puisse les contester. À Tours, un algorithme de prescription d’antibiotiques a réduit de 10 % les surdosages. « Super, sauf que le médecin n’a plus le choix », explique un infectiologue. « Si la machine dit ‘pas d’antibio’, le médecin signe sans discuter. Parce qu’il a peur d’être poursuivi pour erreur. » L’IA ne remplace pas le jugement médical : elle l’étouffe.

Et puis, il y a le problème de la transparence. Un outil d’aide à la décision utilisé en psychiatrie à La Roche-sur-Yon a été accusé de favoriser les diagnostics de dépression chez les femmes de plus de 50 ans. « Personne ne nous a expliqué pourquoi », s’énerve une psychologue. « On nous dit juste : ‘Faites confiance à la science.’ Mais quelle science ? Celle des labos qui financent les études ? » L’IA en santé, c’est comme un médecin qui vous prescrit un traitement sans vous dire qu’il est sponsorisé par le labo qui le produit.

Ce qui se joue vraiment : une question de pouvoir

Derrière cette méconnaissance, il y a une guerre silencieuse. D’un côté, les soignants, qui voient leur autonomie s’effriter. De l’autre, les géants de la tech et les éditeurs de logiciels, qui vendent des boîtes noires en promettant des économies. « Ils nous disent que l’IA va libérer du temps, mais en réalité, elle va nous faire travailler plus pour moins », dénonce une sage-femme. L’IA, ce n’est pas une révolution médicale. C’est un outil de contrôle.

Le vrai scandale, c’est que personne ne semble s’en soucier. Pas les patients, qui croient encore que leur médecin décide seul. Pas les politiques, trop occupés à vanter les mérites de la « French Tech ». Pas même les soignants eux-mêmes, trop épuisés pour se battre. « On nous demande de nous adapter en permanence, mais on ne nous donne jamais les clés », résume un anesthésiste. L’IA s’installe comme une ombre dans les couloirs des hôpitaux. Et personne ne veut allumer la lumière.

Ce qu’il faudrait faire ?

1. Rendre les formations obligatoires, financées par l’État, et dispensées par des pairs, des médecins pour les médecins, des infirmières pour les infirmières. Pas par des commerciaux en costard.

2. Obliger les éditeurs de logiciels à publier les données brutes sur lesquelles leurs algorithmes sont entraînés. Pas de boîte noire, pas de confiance aveugle.

3. Créer un comité éthique régional, avec des soignants, des patients et des experts indépendants, pour auditer chaque outil avant son déploiement. Parce qu’aujourd’hui, personne ne vérifie si ces machines ne sont pas en train de nous mener en bateau.

4. Arrêter de mentir aux patients. Si un algorithme a influencé un diagnostic, il faut le dire. Pas comme à Angers, où on a supprimé toute trace de l’outil dans les dossiers pour éviter les questions.

Mais bon. À quoi bon ?

Les directions d’hôpitaux préfèrent fermer les yeux. Les syndicats n’ont pas les moyens de se battre. Et les soignants, eux, continuent de courir après des machines qu’ils ne comprennent pas. L’IA en santé, c’est comme un feu qui se propage dans un hôpital : tout le monde voit la fumée, mais personne n’ose crier au danger.

Parce que le vrai problème, ce n’est pas le manque de formation. C’est le manque de courage.