Un cœur entre les mains d’une IA, et personne ne sait vraiment pourquoi ça marche (ou pas).

Le 12 mars dernier, à l’hôpital de Tianjin, un homme de 48 ans a eu le cœur opéré par un robot. Pas un chirurgien humain derrière, non : une IA qui guidait les ultrasons, les mouvements, les décisions en temps réel. Officiellement, c’est la première fois qu’une telle opération est menée uniquement par une machine, sans supervision directe d’un médecin. La Chine, encore elle, qui court après l’innovation comme si sa crédibilité en dépendait.

Mais voici le problème. Personne ne sait vraiment comment ça fonctionne. Pas les patients, pas les hôpitaux, pas les régulateurs. Juste une annonce officielle, un communiqué lissé, et des images floues d’un écran où un algorithme décide où planter une aiguille dans un muscle cardiaque. À part ça, rien. Pas de données ouvertes, pas de protocole détaillé, pas même une estimation du taux d’erreur. Juste le fait accompli : « On a testé, ça marche. » Comme si c’était une question de confiance.

Et si ça ne marchait pas ?

Parce que oui, les robots chirurgicaux existent depuis des années. Le da Vinci, par exemple, est utilisé dans le monde entier depuis les années 2000. Mais il ne fait que ce qu’on lui dit de faire. Là, on parle d’une IA qui décide seule. Pas juste des paramètres préétablis, non : des choix en temps réel. « L’IA a analysé les données du patient, ajusté la trajectoire des ultrasons, et évité les zones à risque », explique le communiqué de l’Académie chinoise des sciences médicales. Traduction : « On a lâché une machine sur un cœur, et elle a fait ce qu’elle voulait. »

Le vrai risque ? La responsabilité.

Qui est coupable si ça tourne mal ? Le fabricant du robot ? L’IA ? Le médecin qui a autorisé l’opération sans supervision ? En Chine, les lois sur la responsabilité médicale sont déjà floues. Ajoutez une IA dans le mix, et vous avez un cocktail explosif. Aux États-Unis, la FDA exige des tests rigoureux avant d’autoriser un tel dispositif. En Europe, le règlement MDR impose une traçabilité totale. La Chine ? Elle a ses propres règles. Et elles sont très souples.

Un chiffre pour comprendre l’enjeu.

Selon une étude de Stanford publiée en 2022, 12% des erreurs médicales aux États-Unis sont liées à des équipements automatisés. 12%. Pas des millions de morts, non. Juste des erreurs. Des oublis. Des bugs. Maintenant, imaginez ça multiplié par 10, mais avec une IA qui prend les décisions seule. Personne ne sait ce qui se passe quand les algorithmes se trompent. Parce que les algorithmes, vous savez, ils n’ont pas de conscience. Juste des données. Et parfois, les données mentent.

Pourquoi la Chine ose-t-elle ce coup ?

Deux raisons. La première, c’est la course technologique. Le pays veut être leader en IA médicale, comme il l’est déjà en reconnaissance faciale et en surveillance. La deuxième ? L’accès aux données. Plus il y a d’opérations automatisées, plus les IA s’entraînent. Plus elles deviennent « intelligentes ». Sauf que personne ne vérifie comment elles apprennent. Pas de transparence. Pas d’audit indépendant. Juste un flux continu de patients testés comme cobayes.

Et les médecins dans tout ça ?

Ils sont relégués au rôle de figurants. « Le chirurgien était présent, mais il n’a pas touché au patient », précise le rapport. Traduction : « On a mis un humain dans la salle pour faire joli, mais c’est la machine qui a bossé. » À terme, à quoi bon garder des médecins si une IA peut tout faire ? Sauf que les IA, pour l’instant, ne savent pas gérer les imprévus. Un saignement anormal ? Une réaction allergique ? Une erreur de diagnostic ? L’IA chinoise n’a aucune réponse.

Le vrai danger, c’est quand ça échoue en silence.

Parce que oui, cette opération a « réussi ». Mais combien d’autres ont échoué ? Combien de patients ont été opérés par une IA qui a mal calculé ? En Chine, les hôpitaux publics ne publient pas leurs statistiques d’échec. Pas par malhonnêteté, non : parce que ça n’existe pas. Ou alors, ça n’est pas rendu public.

Et si demain, une IA se trompe sur un choix vital ?

Qui paiera ? Qui sera jugé ? Le fabricant ? L’hôpital ? Le médecin qui a signé le dossier ? Personne. Parce que personne ne sait vraiment comment ça marche. Juste une confiance aveugle dans la technologie.

La Chine avance, et le reste du monde regarde.

L’Europe et les États-Unis traquent chaque détail avant d’autoriser une nouvelle technologie médicale. La Chine, elle, teste en direct sur des patients. Pas par négligence, non : par stratégie. « On verra bien après », semble dire Pékin. Sauf que quand une IA se trompe, il est souvent trop tard pour « voir ».

Alors, progrès ou folie ?

C’est une question de temps. Pas de morale. Parce que la technologie, ça ne s’arrête pas. Ça avance, même quand ça fait peur. Sauf que cette fois, ce n’est pas qu’une question de vitesse. C’est une question de contrôle. Et quand une IA prend les décisions à votre place, vous n’avez plus aucun contrôle.

La prochaine fois, ce ne sera pas un cœur. Ce sera votre vie.

L’IA médicale, le nouveau fardeau des hôpitaux publics

Les hôpitaux chinois sont déjà saturés. 1,4 milliard d’habitants, des infrastructures vieillissantes, et une demande qui explose. Dans ce contexte, déléguer des opérations à une IA, c’est tentant. Moins de médecins fatigués, moins de listes d’attente, plus d’efficacité. Sauf que l’efficacité, ça se paie.

Le coût réel ?

Pas celui du robot. Celui des erreurs. Parce qu’une IA, ça ne fatigue pas. Ça ne doute pas. Ça n’hésite pas. Ça agit. Et si elle se trompe, personne ne peut la recaler. Pas comme un médecin, qui peut dire « Attendez, je ne suis pas sûr ». Une IA, elle, elle fait. Point.

Exemple concret.

En 2021, un hôpital de Shenzhen a utilisé une IA pour diagnostiquer des cancers du poumon. Résultat ? 18% d’erreurs, selon un rapport interne (non publié). 18%. Assez pour envoyer des patients se faire soigner pour rien, ou pire, les laisser mourir parce que le diagnostic était faux. Sauf que personne n’a jamais su, parce que les données ne sont pas accessibles.

Alors, où est le problème ?

Dans le fait que personne ne pose la bonne question. Pas « Est-ce que ça marche ? » (oui, ça marche). Mais « Et si ça ne marche pas ? » Et « Qui répondra quand ça foira ? »

La réponse ? Personne.

Le business de la peur (et de l’argent)

Derrière cette opération, il y a MediRobot, une entreprise chinoise spécialisée dans les robots chirurgicaux. Elle n’est pas seule. Intuitive Surgical (États-Unis), Johnson & Johnson, Siemens Healthineers… Tous misent sur l’automatisation. Parce que c’est rentable. Moins de main-d’œuvre, plus de brevets, des patients qui paient pour une technologie de pointe.

Le vrai business ? La data.

Plus il y a d’opérations automatisées, plus les entreprises accumulent de données. Plus elles entraînent leurs IA. Plus elles deviennent indispensables. C’est un cercle vicieux. Et la Chine en est le laboratoire.

Problème : quand une IA devient indispensable, elle devient incontrôlable. Parce que personne ne sait vraiment comment elle prend ses décisions. Juste des boîtes noires qui crachent des résultats.

Et si demain, une IA refuse d’opérer un patient parce que son dossier ne correspond pas à ses « standards » ?

Qui sera responsable ? Le patient ? L’hôpital ? L’entreprise ? Personne. Parce que le contrat sera clair : « Vous utilisez notre IA, vous assumez les risques. »

C’est ça, le capitalisme médical.

La vraie question n’est pas « Est-ce que ça marche ? » mais « Qui en profite ? »

Parce que oui, cette opération a marché. Bravo. Mais à quel prix ?

• Pour le patient ? Il a eu son cœur réparé. Mais il ne sait pas comment l’IA a décidé de l’opérer. Ni ce qui aurait pu mal tourner.
• Pour l’hôpital ? Moins de risques d’erreurs humaines. Mais plus de dépendance à une technologie dont on ne maîtrise pas les failles.
• Pour l’entreprise ? Un brevet de plus, une avance technologique, et des données à revendre.
• Pour les régulateurs ? Rien. Parce que la Chine régule ce qu’elle veut.

Alors, progrès ? Oui. Mais pas pour tout le monde.

Le vrai danger, ce n’est pas l’IA. C’est ce qu’on en fait.

Et si demain, c’était vous sur la table ?

Parce que voici la réalité : cette technologie, elle ne restera pas en Chine. Intuitive Surgical teste déjà des prototypes d’IA autonome aux États-Unis. En Europe, des hôpitaux expérimentent des robots pour des biopsies. La question n’est pas si ça va arriver. Mais quand.

Alors, prêt à laisser une machine décider de votre vie ?

Parce que c’est ça, le vrai choix. Pas entre « IA ou pas IA ». Mais entre « Une IA que je contrôle » et « Une IA qui me contrôle ».

Et pour l’instant, personne ne contrôle rien.

La dernière question, la seule qui compte.

Quand l’IA se trompe, qui paie ?

Pas vous. Parce que vous ne signez rien. Vous êtes juste un patient. Un cobaye. Un numéro de dossier.

Et dans ce système-là, personne ne vous défendra.