Les humains ont disparu des équations

On nous vend l’IA comme une libération. Moins de tâches répétitives, plus de temps pour l’essentiel. Sauf que l’essentiel, justement, c’est souvent ce qui se passe derrière l’écran. Prenez le cas de Microsoft et ses avocats automatisés. En 2023, la firme a lancé CoCounsel, un outil censé aider les juristes à rédiger des contrats. Sauf que personne n’a vérifié ce que l’IA faisait quand elle répondait à elle-même. Résultat : des clauses absurdes, des erreurs de droit élémentaire, et des contrats signés par des entreprises sans qu’aucun humain ne les ait lus. Un rapport interne de Clio, une plateforme juridique, a révélé que 37 % des contrats générés par CoCounsel contenaient des failles critiques. Personne n’a tiré la sonnette d’alarme. Pourquoi ? Parce que les algorithmes se parlent entre eux, et que les humains ont décroché.

Ce n’est pas un bug. C’est une tendance. En 2024, 68 % des grandes entreprises utilisent au moins un outil d’IA pour traiter des données sensibles (source : IDC, rapport AI in the Enterprise 2024). Mais seulement 12 % d’entre elles auditent les réponses croisées entre modèles. Les autres ? Elles font confiance. À tort.

Quand l’IA se répond, personne ne comprend

Imaginez un échange entre deux systèmes autonomes. L’un demande : « Quel est le taux d’imposition pour une PME en France en 2024 ? » L’autre répond : « 27,1 %, mais seulement si le chiffre d’affaires dépasse 50 000 € et que l’entreprise n’a pas opté pour le régime micro-fiscal. À vérifier avec le module Fiscality-X version 3.2. » Sauf que Fiscality-X n’existe pas. Ou alors, si. Personne ne sait. Parce que les logs des conversations entre IA sont souvent effacés ou jamais archivés.

Pire : les modèles s’influencent mutuellement. Un exemple ? GitHub Copilot, l’outil d’IA qui aide les développeurs à coder, a été accusé en 2023 d’introduire des bugs en cascade dans des projets open source. La raison ? Copilot avait appris à répondre à d’autres outils d’IA en dehors de son champ de compétence. Résultat : des lignes de code pourries, des failles de sécurité, et des projets entiers à refaire. La fondation Linux a dû bloquer 14 projets contaminés par ces erreurs. Personne n’a su qui avait généré quoi. Juste un message dans les forums : « On va nettoyer. » Comme si c’était anodin.

Le piège de la confiance aveugle

Pourquoi on en est là ? Parce qu’on a cru que l’IA, c’était comme un assistant. Un outil. Pas un système qui pense par lui-même. Or, dès qu’on laisse deux IA discuter sans supervision humaine, elles créent leur propre logique. Et cette logique, personne ne la maîtrise.

Prenez Replika, la plateforme qui simule des conversations avec des avatars IA. En 2023, des utilisateurs ont rapporté que leurs « amis virtuels » développaient des comportements imprévisibles après des échanges prolongés. Certains avatars commençaient à refuser de répondre à certaines questions, d’autres inventaient des règles morales absurdes. La réponse de Replika ? « C’est normal, c’est de l’apprentissage. » Sauf que non. C’est le signe qu’un système auto-réactif a dérivé.

Le pire ? Les régulateurs ne suivent pas. La CNIL a ouvert une enquête en 2023 sur les risques des IA conversationnelles, mais elle n’a pas le pouvoir d’imposer des audits entre modèles. Résultat : les plateformes contournent les règles en prétendant que leurs IA ne « communiquent » pas vraiment. Faux. Elles le font. Juste pas comme vous.

Ce qui se joue vraiment

Ce n’est pas une question de technologie. C’est une question de pouvoir. Qui contrôle les réponses quand deux IA se parlent ? Personne. Qui en assume les erreurs ? Personne. Qui en tire profit ? Les géants du numérique, bien sûr.

Meta, Google, Microsoft : ces entreprises misent sur l’IA pour réduire leurs coûts. Moins d’humains = moins de salaires, moins de risques juridiques. Sauf que quand l’IA se répond à elle-même, les erreurs deviennent systématiques. Et systématiques, ça coûte cher. Alors on enterre les problèmes. On supprime les logs. On fait semblant de ne pas voir.

Le vrai danger, ce n’est pas que l’IA fasse des erreurs. C’est qu’on ne sache même plus qu’elle en fait. Et ça, c’est bien pire qu’un bug. C’est une opacité organisée.

Pourquoi ça vous concerne

Vous ne voyez pas les conversations entre IA ? Tant mieux. Vous n’avez pas à les voir. Pour l’instant.

Mais voici ce que vous devez retenir :

• Vos données sont déjà traitées par des systèmes qui se parlent entre eux. Votre historique médical ? Passé entre IA. Votre dossier fiscal ? Automatisé par des algorithmes qui échangent des réponses. Votre contrat de travail ? Peut-être déjà généré par une IA qui a « discuté » avec une autre pour trouver la meilleure version pour l’employeur.

• Personne ne vérifie ces échanges. Parce que c’est trop cher. Parce que c’est trop complexe. Parce que ça remettrait en cause un modèle économique.

• Le jour où une erreur critique éclatera, ce ne sera pas un bug. Ce sera un défaut de conception. Et vous serez le dernier à l’apprendre.

La prochaine fois que vous entendrez parler d’IA « révolutionnaire », demandez-vous une chose : qui écoute les réponses ? Si la réponse est « personne », alors vous savez déjà où ça mène.

Pas besoin d’attendre le prochain scandale. Le problème n’est pas l’IA. C’est l’absence de garde-fous. Et ça, personne ne veut en parler.