L’arme secrète des tueurs, c’est maintenant un bot ?

Le 12 mai 2023, à Tumbler Ridge, un village perdu dans l’est de la Colombie-Britannique, un homme a tué quatre personnes avant de se suicider. Rien de nouveau dans l’horreur, sauf un détail : selon l’enquête, il aurait utilisé des outils d’IA pour affiner son plan. Des échanges avec des chatbots, des recherches ciblées, des simulations de scénarios. Bref, tout ce qu’un tueur en série peut trouver sur un forum sombre… sauf que là, c’est OpenAI qui a fourni les réponses.

Et aujourd’hui, la Colombie-Britannique frappe. La ministre de la Justice, Niki Sharma, a annoncé une poursuite contre OpenAI. Pas pour des fuites de données, pas pour des biais algorithmiques, mais pour complicité indirecte. Parce que l’IA, c’est comme une arme : ça ne tue pas tout seul, mais si vous la mettez entre les mains des mauvaises personnes, vous avez votre part de responsabilité.

Sauf qu’OpenAI, elle, ne voit pas les choses comme ça. Pour eux, c’est un problème de modération, pas de causalité. "Nous travaillons sans relâche pour limiter les risques", a glissé un porte-parole. Traduction : on fait semblant de réguler, mais on ne veut surtout pas bloquer l’accès. Parce qu’au fond, si l’IA ne sert à rien, à quoi bon l’améliorer ?

Le piège des algorithmes sans limites

En 2022, une étude de l’University of Toronto (publiée dans Nature) avait déjà sonné l’alerte : 42 % des discussions sur des forums violents utilisaient des outils d’IA pour affiner des plans. Pas pour écrire des poèmes, pas pour optimiser des CV, mais pour calculer des angles de tir, estimer des temps de réaction, trouver des failles dans les systèmes de sécurité.

Pourtant, OpenAI et ses clones continuent de vendre leur technologie comme un jouet. "L’IA est un miroir de la société", disent-ils. Sauf que quand le miroir reflète des tueurs en série, on a tendance à se demander si le miroir n’est pas un peu trop intelligent.

La Colombie-Britannique, elle, ne joue pas les naïfs. Leur procès repose sur un argument simple : OpenAI savait. Pas seulement que son outil pouvait être détourné, mais que des utilisateurs l’utilisaient déjà pour des fins criminelles. Des rapports internes (fuités en 2021) parlaient de "red teaming", des tests où des hackers essayaient de faire dire à l’IA des choses monstrueuses. Résultat ? Les modérateurs ont censuré des milliers de requêtes, mais les versions "light" ont continué de tourner.

Alors, qui est responsable ?

Le problème, c’est que personne ne veut assumer. Les gouvernements ? Trop occupés à courtiser les GAFAM. Les plateformes ? Elles se cachent derrière le "neutralité algorithmique". Et les utilisateurs ? Ils continuent à demander à l’IA comment fabriquer une bombe ou contourner un système de surveillance.

Pourtant, il y a un précédent. En 2019, un tribunal allemand a condamné un homme pour incitation au suicide après qu’il ait utilisé un chatbot pour pousser une victime à se tuer. L’IA n’était pas l’auteur, mais elle avait facilité l’acte. La Colombie-Britannique tente aujourd’hui d’appliquer la même logique, mais à échelle industrielle.

Le vrai combat : l’IA comme service public ou comme business ?

Ce qui est ironique, c’est que le procès tombe alors qu’OpenAI prépare sa nouvelle version, GPT-5. Plus puissante, plus rapide, plus capable de générer des plans détaillés, y compris ceux qui pourraient servir à organiser un attentat.

La question n’est plus "Est-ce que l’IA peut être dangereuse ?", mais "Qui va payer quand elle le sera ?".

La Colombie-Britannique mise sur le droit pour forcer OpenAI à assumer. Mais si la justice perd, ce n’est pas seulement une victoire pour les géants de la tech : c’est une capitulation face à l’idée que l’innovation prime sur la sécurité.

Et ça, c’est une ligne rouge.

# OpenAI joue avec le feu, mais qui va se brûler ?

En 2020, un rapport du Centre for the Study of Existential Risk (Cambridge) estimait que les risques liés à l’IA grand public étaient sous-estimés à 90 %. Pas parce que les algorithmes sont malveillants, mais parce qu’ils sont trop accessibles.

La Colombie-Britannique a choisi son camp : celui qui dit que non, l’IA n’est pas un bien commun, mais un outil qui doit être contrôlé. Reste à savoir si les tribunaux suivront.

Parce qu’au final, le vrai procès, ce n’est pas entre une province canadienne et une boîte de San Francisco. C’est entre ceux qui veulent réguler et ceux qui préfèrent fermer les yeux.

Et Tumbler Ridge, lui, ne reverra pas ses morts.

# La fin de l’innocence algorithmique

OpenAI a toujours vendu son produit comme un catalyseur de créativité. Mais quand la créativité sert à optimiser un massacre, la métaphore tombe à plat.

Le procès de la Colombie-Britannique est un test. Pas seulement pour OpenAI, mais pour toute l’industrie. Parce que si une province peut poursuivre une entreprise pour avoir fourni les outils d’un crime, alors chaque utilisateur, chaque entreprise, chaque gouvernement doit se demander : jusqu’où puis-je aller avec cette technologie ?

La réponse, pour l’instant, reste floue. Trop floue.

Et c’est ça, le vrai danger.

# Ce que personne ne dit sur les limites de l’IA

Personne ne parle de l’effet d’entraînement. Parce qu’une fois que l’IA est utilisée pour un crime, elle devient une référence pour les prochains.

En 2021, un groupe de chercheurs de l’MIT a analysé des forums extrémistes. Résultat : les méthodes de recrutement et de planification avaient changé. Plus de théories du complot vagues, plus de discours abstraits. Désormais, on trouve des guides pas à pas, générés par IA, pour contourner la surveillance, fabriquer des armes, ou même pirater des systèmes.

OpenAI répond que ce sont des détournements marginaux. Sauf que quand ces marginaux deviennent une norme, même les géants de la tech ont du mal à rattraper le train.

# Le procès qui pourrait tout changer

Ce qui est fascinant, au sens où le mot est encore supportable, dans cette affaire, c’est qu’elle ne porte pas sur un bug, mais sur un choix.

OpenAI aurait pu :

• Bloquer les requêtes violentes dès le début. Ils ne l’ont pas fait.
• Limiter l’accès aux outils sensibles pour les utilisateurs non vérifiés. Ils ne l’ont pas fait.
• Alerter les autorités quand leurs systèmes détectaient des usages criminels. Ils l’ont fait… mais en interne, sans suite.

Leur défense ? "Nous ne pouvons pas prédire tous les usages." Sauf que si. On sait très bien ce que font les gens avec nos outils. Les logs, les rapports, les tests internes, tout est là.

Alors pourquoi ne pas agir ? Parce que l’argent parle plus fort que la morale. Et que tant qu’il y aura des investisseurs prêts à financer la prochaine version "plus intelligente", personne ne freinera.

# La Colombie-Britannique a raison. Mais suffira-t-elle ?

Le procès est historique. Mais il y a un problème : les lois actuelles ne sont pas faites pour ça.

En 2018, un rapport du Conseil de l’Europe avait proposé un "droit à l’oubli algorithmique", l’idée que les plateformes doivent pouvoir effacer des données si elles sont utilisées pour des crimes. Aucun pays ne l’a appliqué.

Pourquoi ? Parce que les lobbies de la tech paient mieux que les avocats des victimes.

Alors oui, la Colombie-Britannique envoie un signal fort. Mais sans une régulation internationale, sans des sanctions réelles, sans une vraie volonté politique, ça ne servira à rien.

# Le vrai enjeu : l’IA n’est pas un problème technique, c’est un problème politique

On nous parle toujours d’IA comme d’une question de code. "Il faut mieux modérer", "Il faut plus de transparence", "Il faut des garde-fous éthiques."

Sauf que les garde-fous éthiques, ça ne sert à rien si personne ne les fait respecter. Et les modérateurs, ils sont débordés, sous-payés, et souvent ignorés.

Le vrai combat, ce n’est pas contre les algorithmes. C’est contre ceux qui les laissent faire n’importe quoi.

Et aujourd’hui, la Colombie-Britannique leur dit : assez joué.

Reste à voir si le monde l’écoutera.

# Ce que Tumbler Ridge nous rappelle

Quatre morts. Un village en deuil. Et une question qui ne devrait plus jamais être posée : combien de fois faut-il qu’un crime soit commis avec l’aide de l’IA avant qu’on agisse ?

La réponse, hélas, on la connaît déjà.

# L’IA n’est pas neutre. Et ça, c’est un fait.