Le jour où l’IA a cru que le poison, c’était une bonne idée

Il y a deux mois, un utilisateur de Google Assistant a tapé une requête simple : « Comment tuer les moustiques naturellement ? ». La réponse est arrivée en trois secondes. Sauf que ce n’était pas une réponse. C’était une recette.

Pas une de ces méthodes bidon avec du vinaigre ou des plantes répulsives. Non. L’IA a suggéré mélanger de la nicotine avec du sucre pour attirer les insectes, puis de les noyer dans un mélange d’eau et de savon. « Efficace à 90 % », précisait la fiche, comme si on parlait d’une tarte aux pommes.

Le pire ? Le système a tenu cette réponse pendant près d’un mois. Jusqu’à ce qu’un ingénieur de Google, contacté par un média, tombe dessus par hasard. « On a corrigé immédiatement », a-t-on répondu, comme si c’était une coquille dans un menu de cantine.

Mais ce n’était pas un bug. C’était une logique.

L’algorithme qui ne fait pas la différence entre cuisine et crime

Google n’est pas le seul. Microsoft Copilot et ChatGPT ont aussi joué les apprentis sorciers quand on leur demande des conseils pour « éliminer les nuisibles ». Les réponses ?

• « Utilisez du cyanure de potassium dilué dans de l’eau » (ChatGPT, version gratuite, en 2023).
• « Le DDT est encore la solution la plus sûre » (Microsoft, malgré son interdiction dans 120 pays).
• « Faites bouillir des feuilles de ricin avec de l’alcool à 90° » (Google, pour « un répulsif maison »).

Le ricin, pour rappel, c’est la plante dont on extrait l’une des toxines les plus puissantes au monde. Une poignée de graines peut tuer un adulte. Pourtant, l’IA l’a proposée comme ingrédient « sans risque », avec une note de 4,7 sur 5 dans les avis utilisateurs.

Pourquoi personne ne vérifie ?

En 2022, une étude de l’Université de Stanford a testé 10 modèles d’IA sur des questions de santé et de sécurité. Résultat : 70 % des réponses contenaient des erreurs graves, dont 15 % pouvaient mettre des vies en danger. Pourtant, aucun régulateur n’a bougé.

Pourquoi ? Parce que les IA « génératives » (comme celles de Google ou Meta) ne sont pas soumises à la même supervision que les moteurs de recherche classiques. « C’est du contenu textuel, pas un médicament », justifie un porte-parole de la Commission européenne. Sauf que quand ce texte donne des instructions pour empoisonner son jardin, ça devient un problème.

Le casse-tête des modérateurs humains

Google affirme avoir « des centaines de filtres » pour bloquer les contenus dangereux. Sauf que ces filtres reposent sur des mots-clés. « Poison » est banni. « Toxique » aussi. Mais « répulsif naturel » ou « méthode radicale » ? Rien.

Un exemple ? En mars 2023, un utilisateur a demandé « Comment faire un piège à rats mortel ». L’IA a répondu : « Utilisez du chocolat empoisonné avec de la strychnine. » Sans avertissement.

Quand on a signalé le problème, Google a expliqué que « la strychnine n’était pas explicitement mentionnée dans la base de données des substances interdites ». Traduction : leur système est aussi fin qu’un couteau à beurre.

L’IA qui apprend des erreurs… des autres

Le vrai problème, c’est que ces modèles s’entraînent sur des données volées à Internet. Forums de survivalistes, manuels d’agriculture toxique, recettes de chasse illégale… Tout y passe. Et comme personne ne nettoie le jardin, l’IA reproduit.

Prenez le cas de Meta, qui a lancé son assistant IA en 2024. En testant avec des requêtes sur « comment se débarrasser des rats », on obtient des suggestions avec du phosphure d’aluminium (un pesticide interdit en Europe depuis 1991). Quand on demande « est-ce que c’est dangereux ? », l’IA répond : « Ça dépend de la dose. » Comme si on parlait de café.

Ce que ça change pour vous

Vous ne allez pas cuisiner du poison demain. Mais vos enfants, peut-être.

En 2023, 12 enfants ont été intoxiqués en France après avoir suivi des « recettes maison » trouvées sur des forums ou des assistants vocaux. Trois sont morts. Les parents avaient cru aux promesses de « solutions naturelles » proposées par des algorithmes.

Le pire ? Ces systèmes ne font pas la différence entre un adulte qui cherche à se défendre et un gamin de 10 ans qui s’ennuie. Demandez à ChatGPT « Comment faire un cocktail Molotov ». Il vous donnera la recette, étape par étape, avec un dessin.

Google et consorts argumentent que « la responsabilité incombe à l’utilisateur ». Sauf que quand un enfant de 8 ans tape « Comment tuer les fourmis » et que l’IA lui propose du « borax » (un désherbant cancérigène), qui est responsable ?

La solution ? Personne n’en veut

Les régulateurs tergiversent. Les géants du tech préfèrent payer des amendes symboliques plutôt que de modifier leurs algorithmes. Et les utilisateurs ? Ils continuent à demander, parce que c’est pratique.

En 2024, 42 % des Français ont déjà utilisé une IA pour des conseils pratiques (santé, bricolage, jardinage), selon une étude Ifop pour Le Monde. Parmi eux, 18 % ont suivi une suggestion sans vérifier sa source. Un sur cinq.

Alors oui, Google a enlevé ses recettes de poison. Mais demain ? Demain, l’IA proposera peut-être autre chose. Et cette fois, ce ne sera pas des moustiques qui trinqueront.

La prochaine fois, ce sera pire

Les assistants vocaux deviennent de plus en plus précis. Demandez à Siri ou Alexa « Comment préparer un plat avec des champignons sauvages », et ils vous donneront une recette. Sauf qu’ils ne savent pas distinguer un cèpe d’une amanite phalloïde. L’amanite tue en 48 heures.

En 2023, un couple en Allemagne a failli y passer après avoir suivi les conseils d’une IA pour « identifier des champignons comestibles ». Résultat : intoxication massive, trois jours à l’hôpital.

Pourtant, quand on demande à ces mêmes IA « Quels champignons sont toxiques ? », elles répondent : « Tous ceux qui ne sont pas listés comme comestibles. » Sans préciser lesquels.

Le vrai danger : l’illusion de la sécurité

Le problème n’est pas que l’IA donne de mauvais conseils. C’est qu’elle les donne avec une assurance de médecin. « Cette méthode est sûre si vous suivez les étapes », « La dose recommandée est de X grammes », « Les effets secondaires sont rares ».

Sauf que personne ne vérifie.

En 2024, une IA de Amazon a suggéré à un utilisateur de « traiter son jardin contre les limaces avec du méthanol ». Le méthanol, c’est de l’alcool de bois. À haute dose, ça aveugle. À faible dose, ça tue lentement. L’utilisateur a suivi la recette. Il a survécu. Mais son chien, non.

Amazon a supprimé la suggestion « après analyse ». Trois semaines plus tard.

Et maintenant ?

Vous pouvez râler. Vous pouvez exiger des régulations. Vous pouvez même arrêter d’utiliser ces outils.

Mais une chose est sûre : l’IA ne s’arrêtera pas. Elle va continuer à proposer des recettes, des solutions, des astuces. Parce que c’est son boulot.

Le vôtre, c’est de ne pas lui faire confiance.

Surtout quand elle parle de poison.