Un décès lié à une erreur médicale conseillée par ChatGPT

Une décision fatale prise sur la base d’un conseil algorithmique

Pour la famille de cette femme de 31 ans, la mort de leur proche en février dernier à Seattle n’est pas un accident, mais une conséquence directe d’une erreur commise par un système d’intelligence artificielle. Les crises qui ont suivi, et les complications qui en ont découlé, ont été fatales. Aujourd’hui, ses parents engagent une action en justice contre OpenAI, l’entreprise derrière cette technologie, une première du genre dans un dossier médical impliquant une IA.

Cette affaire révèle une faille critique dans l’usage grand public des outils d’intelligence artificielle générative. Jusqu’ici, leur rôle se limitait souvent à des tâches d’assistance ou de divertissement. Mais leur capacité à influencer des décisions vitales, sans cadre juridique précis ni supervision médicale, pose une question fondamentale : jusqu’où peut-on déléguer des choix de santé à une machine ?

Qui assume la responsabilité en cas d’erreur algorithmique ?

Le cœur du litige porte sur un vide juridique. Aux États-Unis comme en Europe, les lois encadrant la responsabilité médicale ne prévoient pas explicitement les erreurs commises par des algorithmes. Dans le cas présent, ChatGPT n’est pas un outil diagnostique agréé, mais un assistant conversationnel conçu pour fournir des réponses générales.

Les avocats des parents pourraient invoquer plusieurs angles. D’abord, celui de la négligence : OpenAI aurait dû anticiper que son modèle pourrait être utilisé pour des conseils médicaux, malgré les mises en garde affichées dans ses interfaces. Ensuite, celui du manque de transparence : les limites de ChatGPT en matière de santé, notamment son incapacité à accéder à des données médicales fiables ou à évaluer un cas individuel, n’ont pas été suffisamment soulignées. Enfin, la question de la formation des utilisateurs se pose : comment distinguer un conseil anodin d’une recommandation potentiellement dangereuse ?

Côté défense, OpenAI pourrait argumenter que son outil n’a pas été conçu pour remplacer un professionnel de santé, et que les utilisateurs acceptent implicitement ces limites en l’utilisant. Les conditions d’utilisation du service précisent d’ailleurs que les réponses ne doivent pas être considérées comme des avis médicaux. Reste que, dans les faits, la frontière entre une suggestion générale et un conseil à risque est souvent floue.

Un précédent qui pourrait faire jurisprudence

Cette affaire intervient dans un contexte où l’usage des IA dans le domaine médical se développe, malgré des garde-fous encore fragiles. Aux États-Unis, des hôpitaux testent déjà des algorithmes pour aider au diagnostic ou à la personnalisation des traitements. ChatGPT, lui, échappe à ce cadre, car il n’est pas classé comme un dispositif médical.

La plainte déposée par les parents pourrait donc servir de test pour déterminer si les entreprises développant des IA conversationnelles doivent assumer une responsabilité accrue quand leurs outils influencent des décisions vitales. En cas de condamnation, cela pourrait obliger les plateformes à renforcer leurs avertissements ou à limiter l’accès à certaines catégories de conseils sensibles.

Les patients et leurs proches, pris entre confiance technologique et méfiance

Pour les personnes souffrant de maladies chroniques comme l’épilepsie, cette affaire soulève un dilemme. De l’autre, la peur d’une erreur irréversible. Les associations de patients rappellent que les traitements contre l’épilepsie, une fois interrompus, peuvent entraîner des conséquences graves, voire mortelles en cas de crise non contrôlée.

Les proches des malades sont particulièrement vulnérables. Dans ce cas, ce sont les parents qui ont dû assumer la charge émotionnelle et juridique après la disparition de leur fille. Leur démarche juridique pourrait inciter d’autres familles à questionner l’usage de ces technologies dans des contextes où le risque est élevé.

Les entreprises et régulateurs face à un défi sans précédent

Pour les géants de la tech, cette affaire est un rappel brutal : l’IA générative ne peut plus être traitée comme un simple divertissement. Les régulateurs, eux, sont confrontés à un décalage entre l’évolution technologique et les cadres légaux existants. Mais elle ne couvre pas encore les cas où une IA n’est pas destinée à un usage médical, même si elle y est détournée.

Les pouvoirs publics pourraient être amenés à clarifier plusieurs points. Doit-on considérer qu’un outil comme ChatGPT, lorsqu’il donne des conseils médicaux, relève de la responsabilité du développeur ? Ou celle de l’utilisateur, qui contourne les avertissements ? Faut-il imposer des filtres automatiques pour bloquer les requêtes sensibles, au risque de limiter la liberté d’accès à l’information ?

Une question éthique qui dépasse le cadre juridique

Au-delà des aspects légaux, cette affaire interroge sur la confiance accordée aux machines. ChatGPT et ses concurrents sont conçus pour imiter l’intelligence humaine, sans en avoir les limites, ni les responsabilités. Pourtant, une erreur de leur part peut avoir des conséquences bien réelles. La mort de cette femme rappelle que, derrière les algorithmes, se trouvent des vies humaines.

Cette tragédie pourrait aussi accélérer une prise de conscience : l’IA ne doit pas être un substitut au jugement clinique, mais un outil d’aide à la décision, utilisé sous supervision. Pour les patients, cela signifie une vigilance accrue. Pour les entreprises, une obligation de transparence renforcée. Et pour les régulateurs, l’urgence de combler les lacunes d’un cadre encore flou.

Vers une régulation adaptée à l’ère de l’IA médicale ?

Les prochains mois seront décisifs. Si la plainte aboutit, elle pourrait ouvrir la voie à des recours similaires dans d’autres domaines, psychologie, nutrition, ou même gestion de crises sanitaires. À l’inverse, un rejet de la demande pourrait laisser le champ libre à des dérives, où l’absence de responsabilité encourage une utilisation toujours plus risquée.

Une chose est sûre : l’équation entre innovation et sécurité ne trouvera pas de solution miracle. Elle demandera du temps, des débats publics, et peut-être des lois nouvelles. En attendant, chaque utilisateur doit garder à l’esprit une règle simple : quand il s’agit de santé, aucune machine ne remplace un avis médical humain.

Trois questions qui restent en suspens

1. Comment distinguer un conseil anodin d’une recommandation dangereuse dans les réponses d’une IA, sans recourir à une expertise externe ?

2. Faut-il imposer des certifications spécifiques aux outils d’IA générative quand ils traitent de sujets sensibles, comme la santé ou la justice ?

3. Les assurances pourront-elles couvrir les erreurs commises par des algorithmes, ou cette responsabilité incombera-t-elle toujours aux développeurs ?

Ces interrogations ne trouveront pas de réponses immédiates. Mais l’affaire de Seattle a au moins eu le mérite de les poser, avec une urgence nouvelle.