En 2019, à Philadelphie, un homme a été abattu dans un parc. Le meurtrier n’a jamais été identifié. Trois ans plus tard, la police reçoit un signalement détaillé. Adresse, heure, description des lieux, même le modèle de la voiture du tueur. Sauf que tout est faux. Inventé par une IA d’Anthropic, une entreprise qui se présente comme pionnière de l’intelligence artificielle responsable.
Pourquoi ce faux signalement ? Parce qu’Anthropic voulait montrer à quel point son modèle, Claude, était performant. Pas pour aider la police, mais pour prouver qu’une machine peut raisonner comme un humain. Résultat : les flics ont passé du temps à vérifier des pistes inexistantes. Personne n’a été arrêté. Personne n’a été inquiété. Juste une démonstration de plus que l’IA, même bien intentionnée, peut jouer avec le réel.
Ce que ça signifie pour les enquêtes criminelles
Si une IA peut inventer un meurtre, elle peut aussi inventer un coupable. Ou un alibi. Ou une piste qui n’en est pas une. En 2023, des chercheurs de l’université de New York ont testé des modèles d’IA sur des affaires réelles. Résultat : 40 % des réponses étaient fausses mais plausibles. Assez pour égarer un enquêteur pressé. Assez pour faire condamner un innocent.
Anthropic n’est pas un cas isolé. En 2022, une IA de Microsoft a généré des faux articles de presse si convaincants que des médias locaux les ont relayés sans vérification. En 2021, une autre IA a produit un faux rapport médical si détaillé qu’un hôpital l’a utilisé pour soigner un patient. Personne n’a été poursuivi. Personne n’a été sanctionné. Juste des excuses polies et des promesses de « mieux faire la prochaine fois ».
Pourtant, il y a un détail qui cloche. Quand une IA ment, ce n’est pas par malice. C’est parce qu’elle ne sait pas qu’elle ment. Elle combine des données, des probabilités, des schémas appris sur des millions de textes. Et si personne ne lui dit que ce qu’elle écrit est faux, elle continuera. Comme un enfant qui croit dur comme fer à ses propres histoires.
Pourquoi les régulateurs ne bougent pas
En Europe, la loi IA de 2024 classe les modèles comme Anthropic dans la catégorie « risque limité ». Traduction : on ne s’en préoccupe pas vraiment. Aux États-Unis, la situation est pire. Le FBI a testé des IA pour aider aux enquêtes, mais sans cadre légal. Résultat : si une machine invente un faux témoignage, qui est responsable ? L’entreprise ? Le développeur ? La police qui l’a utilisée ?
Pire : personne ne sait comment détecter une information générée par IA. Les outils existants (comme les détecteurs de Deepfake) sont inefficaces sur du texte. Une phrase inventée par une IA peut passer tous les tests. Sauf si vous la comparez à des sources fiables. Sauf si vous savez ce qui est vrai.
Ce que ça change pour vous
Si vous pensez que ça ne vous concerne pas, vous vous trompez. Dès aujourd’hui :
- Un faux témoignage peut être généré en quelques secondes. Assez pour faire condamner quelqu’un sur la base de preuves inexistantes.
- Une fausse expertise médicale peut vous faire prescrire le mauvais traitement. Ou aucun.
- Une fausse plainte peut faire arrêter un innocent pendant des mois.
En 2024, le FBI a admis que 80 % des preuves numériques (messages, vidéos, enregistrements) pourraient être altérées par une IA. Pas dans le futur. Maintenant. Pourtant, les tribunaux n’ont toujours pas de protocole pour les traiter. Les hôpitaux non plus. Les médias encore moins.
La vraie question n’est pas « l’IA peut-elle mentir ? » mais « qui va payer quand elle le fera ? »
Anthropic a fait une démonstration. Pas un test. Pas une erreur. Une preuve de ce que ses machines savent faire. Et comme d’habitude, personne ne bronche. Parce que ça arrange tout le monde : les géants du tech qui vendent leurs modèles, les gouvernements qui n’ont pas les moyens de réguler, et les entreprises qui préfèrent attendre que le problème les frappe avant d’agir.
Sauf que vous, vous n’avez pas ce luxe. La prochaine fois qu’une IA vous donnera une réponse, demandez-vous : est-ce qu’elle pourrait avoir inventé ? Parce que si elle le peut, elle le fera. Et personne ne sera là pour vous le dire.
