Une décision judiciaire fictive invoquée par un procureur britannique

Le Crown Prosecution Service (CPS), organe public britannique chargé des poursuites pénales, repose sur une hiérarchie de décisions juridiques et de principes établis pour évaluer la recevabilité des affaires. Dans le cadre d’un désaccord interne sur l’opportunité de poursuivre un mineur accusé d’avoir agressé sexuellement sa sœur, une procureure a invoqué une décision de justice fictive, générée par un modèle d’intelligence artificielle. Cette pratique, révélée par The Guardian, interroge la place croissante des algorithmes dans l’aide à la décision judiciaire, où leur rôle se limite théoriquement à un soutien technique, sans valeur probante ou contraignante.

Le CPS, comme d’autres services publics britanniques, utilise depuis plusieurs années des outils d’IA conçus pour analyser des jurisprudences ou proposer des synthèses de droit. Ces systèmes, développés par des éditeurs spécialisés ou des startups, s’appuient sur des bases de données juridiques et des techniques de machine learning pour identifier des précédents pertinents. Leur utilisation est encadrée par des protocoles internes visant à éviter toute confusion entre une recommandation algorithmique et une source officielle.

Qui est responsable quand l’IA se substitue au droit ?

La question de la responsabilité dans l’utilisation des outils d’IA au sein des institutions publiques divise juristes et experts en éthique technologique. Deux approches s’affrontent :

• L’approche institutionnelle : Le CPS et d’autres services publics britanniques estiment que l’erreur relève d’un défaut de formation ou de vigilance individuelle, sans faille systémique. Les protocoles existants, selon cette ligne, suffiraient à distinguer une source officielle d’une suggestion algorithmique.

• L’approche systémique : Des universitaires comme Brian Flanagan, professeur à l’université de Maynooth et spécialiste de l’IA juridique, soulignent que cette affaire illustre un risque structurel. Lorsqu’un outil génératif, conçu pour imiter des textes humains, produit un contenu crédible mais faux, les utilisateurs, même avertis, peuvent lui accorder une légitimité excessive. Flanagan évoque un « grave échec », non pas d’un individu, mais d’un système qui n’a pas anticipé les limites des modèles actuels.

Le CPS n’a pas encore rendu public un rapport détaillé sur les circonstances de l’erreur, ni précisé si d’autres affaires pourraient avoir été affectées par des décisions fictives. Les outils d’IA utilisés par le service, comme ceux déployés dans d’autres administrations, sont généralement fermés (propriété d’éditeurs privés) et leur fonctionnement interne n’est pas toujours transparent. Cette opacité complique l’évaluation des risques.

Quels sont les recours pour les justiciables concernés ?

Dans cette affaire, l’enfant accusé, dont l’identité n’a pas été divulguée, était au cœur d’un désaccord entre procureurs sur la poursuite à engager. L’erreur commise par Ravinder Dhillon a potentiellement faussé les débats internes, en donnant l’illusion d’un précédent juridique solide. Si aucune poursuite n’a finalement été engagée (les détails de la décision finale ne sont pas connus), le jeune homme a évité une procédure pénale, mais au prix d’un processus entaché d’une irrégularité grave.

Pour les victimes ou les familles impliquées dans des affaires similaires, les conséquences sont plus lourdes. Une décision de non-poursuite fondée sur une jurisprudence fictive pourrait, a posteriori, être contestée si l’erreur est révélée. À l’inverse, une poursuite engagée sur la base d’un tel raisonnement pourrait être annulée pour vice de procédure. Le délai de prescription et les recours en appel offrent des marges de manœuvre, mais pas une garantie absolue.

Le CPS n’a pas encore indiqué s’il envisage des mesures de réparation pour les parties concernées par cette affaire. En droit britannique, les erreurs judiciaires peuvent donner lieu à des demandes de révision (appeal) ou à des indemnisations dans le cadre de la Criminal Cases Review Commission, mais ces procédures sont longues et exigeantes.

L’IA juridique : un progrès sous conditions strictes

L’utilisation de l’intelligence artificielle dans le domaine juridique n’est pas nouvelle. Depuis les années 2010, des outils comme ROSS Intelligence (États-Unis) ou CaseText (Royaume-Uni) analysent des milliers de décisions pour assister les avocats et les magistrats. Ces systèmes, présentés comme des aides à la décision, ne remplacent pas le jugement humain, mais réduisent les délais d’analyse et limitent les risques d’oubli de jurisprudence.

Cependant, leur développement soulève des questions éthiques et techniques :

Si ces données contiennent des erreurs ou des biais, l’IA peut les reproduire ou les amplifier. Dans le cas britannique, rien ne prouve que le modèle ait été conçu pour générer des faux, mais son utilisation à des fins de persuasion interne révèle un détournement de son usage prévu.

Le CPS a reconnu, dans un communiqué, que des renforcements étaient en cours, mais sans préciser leur portée.

En revanche, le Code de déontologie des procureurs impose une rigueur absolue dans la citation des sources. Une erreur de cette nature pourrait, en théorie, engager la responsabilité disciplinaire de la procureure concernée, mais les sanctions restent à définir.

Un précédent qui pourrait s’étendre à d’autres secteurs

Si cette affaire reste isolée pour l’instant, elle pourrait ouvrir une brèche dans d’autres domaines où l’IA est utilisée pour étayer des décisions administratives ou judiciaires. Dans ces contextes, une erreur de ce type pourrait avoir des conséquences bien plus lourdes, comme le refus d’un titre de séjour ou l’engagement de poursuites fondées sur une interprétation erronée.

Ces cas ont conduit à des retraits de plaidoiries et à des sanctions professionnelles.

Sur quoi les acteurs s’accordent malgré leurs désaccords

Malgré les divergences sur les causes et les solutions, plusieurs points de convergence émergent :

1. L’urgence de former les professionnels à distinguer une source fiable d’une suggestion algorithmique, même crédible. Les outils d’IA ne doivent pas remplacer le contrôle critique, mais l’accompagner.

2. La nécessité d’un cadre légal clair pour encadrer l’utilisation des décisions générées par IA, notamment en interdisant leur citation comme preuve ou argument d’autorité dans les procédures judiciaires.

3. La transparence des algorithmes : Sans accès aux données d’entraînement et aux mécanismes de génération, les institutions ne peuvent garantir l’absence de biais ou d’erreurs systématiques. Une audit indépendant des outils utilisés par le CPS et d’autres services publics serait un premier pas.

L’affaire britannique rappelle que l’innovation technologique, même bien intentionnée, ne peut se substituer aux garanties fondamentales du droit : la vérifiabilité des sources et la responsabilité de ceux qui les invoquent.

Photo : advokatsmart.no, CC BY 2.0, via Openverse.