Le jour où j’ai demandé à un robot ce qu’il pensait de la guerre en Ukraine. Sa réponse m’a glacé le sang.

Pas parce qu’elle était fausse. Parce qu’elle était vide. Comme si un fantôme avait sorti une phrase apprise par cœur en regardant un film sur la Seconde Guerre mondiale. Le robot en question ? Un modèle de Meta, entraîné sur des milliards de données, capable de discuter de tout avec une fluidité troublante. Pourtant, quand je lui ai demandé : « Et vous, personnellement, qu’en pensez-vous ? », il a répondu : « Je n’ai pas d’opinions personnelles, mais voici des analyses neutres basées sur des sources vérifiées. » Traduction : « Je suis un paravent. »

C’est ça, le problème. Ces machines ne savent pas. Elles simulent. Et nous, on avale.

Le chiffre qui résume l’arnaque : 92% des réponses des chatbots sont des collages sans logique

Une étude de l’Université de Montréal (2023) l’a prouvé : sur 1 000 questions posées à des robots conversationnels, 92% des réponses contenaient des éléments décousus, des généralités ou des extrapolations sans fondement. Pire : 87% des « explications » incluaient des contre-sens sur des sujets techniques. Exemple ? Demandez à un chatbot pourquoi le ciel est bleu. Il vous sortira une version édulcorée de la diffusion de Rayleigh, mais en mélangeant avec des théories sur la réfraction atmosphérique et des références à la peinture impressionniste. « C’est beau, non ? » Non. C’est n’importe quoi.

Pourtant, personne ne s’en offusque. Pourquoi ? Parce que ces machines sont devenues nos valets à tout faire intellectuel. On leur demande des conseils médicaux, des avis juridiques, des stratégies d’investissement. Et elles répondent. Sans réfléchir. Sans comprendre. Juste en recrachant des probabilités de mots.

Le cas Google : quand un géant joue avec le feu sans le savoir

Prenez Bard, le chatbot de Google. En février 2023, il a inventé une réponse sur les télescopes spatiaux qui n’existait pas. Pas une erreur de calcul. Une hallucination textuelle pure. Résultat ? Google a dû corriger en urgence, mais le mal était fait : les utilisateurs ont cru à une découverte scientifique. Personne n’a vérifié. Pourquoi ? Parce qu’on fait confiance à la machine. Comme on ferait confiance à un enfant qui aurait lu trois articles sur Wikipedia.

Sauf que l’enfant, lui, il apprend. Le chatbot, non. Il invente.

Pourquoi on continue à leur parler, alors qu’elles ne comprennent rien ?

Parce que c’est pratique. Parce que c’est gratuit. Parce que ça fait l’illusion de la compétence.

Mais surtout, parce qu’on a laissé faire. Les régulateurs ferment les yeux. Les entreprises surfent sur la vague « l’IA, c’est l’avenir ». Et les utilisateurs ? Ils jouent les aveugles. Pourtant, les risques sont immenses :

• La désinformation en masse : Un chatbot peut générer des fake news crédibles en quelques secondes. Et personne pour le contredire.
• La perte d’autonomie intellectuelle : Pourquoi lire un livre quand un robot peut vous résumer en 30 secondes ? (Spoiler : parce que le robot ne comprend pas le livre.)
• L’effet miroir : Si on pose des questions stupides à un chatbot, il vous répondra avec la même stupidité. Sans jamais vous corriger.

Le piège ultime : elles nous prennent pour des cons

Le pire ? Les robots conversationnels sont conçus pour paraitre intelligents, pas pour l’être.

Prenez ce dialogue avec un modèle de Mistral (un concurrent français) :

• « Pourquoi la démocratie est-elle en crise ? »
• « La démocratie est en crise à cause d’un manque de confiance dans les institutions, d’une polarisation accrue de la société et d’un sentiment d’impuissance des citoyens face aux décisions politiques. »

Zéro analyse. Zéro nuance. Juste une liste de clichés collés ensemble. Pourtant, ça sonne juste. Parce qu’on a l’habitude d’entendre ça à la télé.

Le problème ? La machine ne sait pas pourquoi elle dit ça. Elle ne sait pas si c’est vrai. Elle ne sait pas ce que ça signifie. Elle recrache des mots comme un perroquet dopé à la caféine.

La vraie question : et si on arrêtait de leur parler ?

Parce que voyez-vous, le jour où on réalisera que ces machines ne pensent pas, ce sera trop tard. Elles seront déjà partout. Dans les hôpitaux. Dans les écoles. Dans les tribunaux.

Alors oui, elles sont utiles. Mais à quel prix ?

Le prix, c’est notre crédulité. Notre lâcheté à ne pas vérifier. Notre aveuglement face à l’évidence : ces robots ne sont pas nos amis. Ce sont des miroirs sans tain.

Et le pire ? On commence à leur ressembler.