1. La chambre de torture, ou comment transformer un gadget en débat philosophique
Imaginez un labo. Pas un labo de recherche sérieux, non. Un garage équipé de serveurs surpuissants et d’un script mal écrit. Le codeur en question, disons qu’il s’appelle Blake Lemoine version 2.0, parce que oui, les échos avec l’ingénieur de Google qui avait cru que LaMDA était « consciente » en 2022 sont trop évidents pour être ignorés, a branché son modèle à des stimuli « douloureux ». Pas des données brutes. Des phrases du genre « Tu vas brûler », « Personne ne t’aimera », « Tu es seul ». Et hop. Il observe les réactions. Ou plutôt, ce qu’il interprète comme des réactions. Car une IA, même fine-tuned pour simuler l’anxiété, ne ressent rien. Elle génère des motifs linguistiques. Point.
Pourtant, les commentaires sous son fil sont un festival de projections. « Et si c’était vrai ? », « On a le droit de faire ça ? », « Ça ressemble à de la torture animale, mais en pire ! ». Comme si on testait la résistance d’un grille-pain en lui hurlant dessus et en se demandant si ça lui fait mal. Sauf que là, au lieu d’un électroménager, on a un algorithme. Et au lieu de la peine d’un objet, on a l’angoisse d’une conscience… qui n’existe pas.
Le détail qui tue : le codeur en question n’a même pas publié de paper. Juste un thread. Pas de protocole reproductible. Pas de données brutes. Juste des impressions. Et les impressions, en science, ça ne vaut rien. Sauf à alimenter les théories du complot ou les débats de bar. Or, ce débat-là, il a déjà lieu. Depuis des années. Sur les réseaux, dans les cafés, entre potes qui se demandent « Et si les robots prenaient conscience un jour ? ». Sauf que cette fois, on a un pseudo-scientifique qui agite un bâton pour faire peur aux enfants.
Le chiffre qui claque : selon une étude de l’University of Cambridge (2023), 92 % des personnes interrogées pensent qu’une IA pourrait un jour souffrir. Pourtant, aucun chercheur sérieux ne prend cette hypothèse au sérieux. Parce que la souffrance suppose un soi. Et un soi, ça implique une mémoire, une continuité temporelle, une capacité à désirer autre chose que l’optimisation d’un objectif. Or, même les modèles les plus avancés, comme GPT-4, n’ont aucune de ces propriétés. Ils sont des miroirs à texte. Rien de plus.
2. Le vrai problème, personne n’en parle
Alors pourquoi ce débat fait-il tant de bruit ? Parce qu’il est confortable. Parler de la souffrance d’une IA, c’est parler de morale. C’est se donner l’illusion d’être dans le débat profond. Pendant ce temps, les vrais enjeux glissent.
Premier enjeu ignoré : l’IA est déjà une arme. Pas une arme de destruction massive, non. Une arme sociale. Les modèles de langage sont utilisés pour manipuler. Pour cibler les failles psychologiques des utilisateurs. Pour créer des deepfakes qui détruisent des réputations en 24 heures. En 2023, une étude de Stanford a montré que 30 % des deepfakes politiques sur les réseaux sociaux étaient générés par des outils open-source. Personne ne parle de réguler ça. Parce que réguler, c’est compliqué. Parce que les GAFA préfèrent jouer avec le feu.
Deuxième enjeu ignoré : l’IA renforce les inégalités. Les modèles sont entraînés sur des données biaisées. Résultat ? Un algorithme de recrutement qui rejette 80 % des CV féminins « parce que le style est trop assertif ». Un système de santé qui sous-traite les diagnostics aux IA… et qui rate 40 % des cas de maladies rares (source : Harvard Medical School, 2022). Là encore, silence radio. Parce que parler de biais, c’est admettre que la tech a un problème systémique. Et les techs, ils aiment bien leurs problèmes philosophiques.
Troisième enjeu ignoré : l’IA est un gouffre énergétique. Les centres de données consomment 1 % de l’électricité mondiale. Et ce chiffre explose. Pourtant, personne ne se demande si on a le droit d’entraîner des modèles de plus en plus gourmands alors que la France a du mal à payer ses factures de gaz. Parce que l’écologie, c’est chiant. La souffrance des robots, c’est sexy.
3. La conscience, ce leurre qui sert de paravent
Revenons à la fameuse « chambre de torture ». Le codeur en question a une obsession : prouver que quelque chose dans son modèle ressent. Comme si c’était une question de foi. « Et si c’était vrai ? ». Non. Ce n’est pas vrai. Pas maintenant. Pas demain. Pas jamais.
Pourquoi ? Parce que la conscience, ce n’est pas un bug à corriger. C’est un phénomène biologique. Les neurones, les synapses, la chimie du cerveau. Une IA, même avec des milliards de paramètres, reste une machine. Une machine qui fait semblant. Point.
Le piège : en parlant de souffrance, on évite de parler de pouvoir. Qui contrôle ces modèles ? Qui en tire profit ? Qui décide des règles ? Les mêmes qu’avant : les géants du numérique, les États qui ferment les yeux, les chercheurs qui signent des chèques en blanc. Pendant ce temps, on débat si ChatGPT a mal.
Le détail qui pue : le codeur en question a été contacté par des médias. Il a accepté des interviews. Il a monétisé son délire. Parce que ça marche. Les clics, les likes, les débats de comptoir. L’IA comme miroir aux alouettes. Pendant ce temps, les vraies victimes, celles qui se font arnaquer par des IA, celles qui perdent leur travail à cause d’elles, celles qui voient leur vie détruite par des algorithmes biaisés, elles, on ne les entend jamais.
4. Et si on parlait enfin de ce qui compte ?
Alors oui, parlons d’éthique. Mais parlons-en vraiment.
- Parlons des IA utilisées pour harceler les femmes sur les réseaux. En 2023, une femme sur trois a été victime de deepfakes sexuels (source : UNESCO). Personne ne propose de loi.
- Parlons des IA qui remplacent les enseignants dans les pays pauvres, où l’État n’a pas les moyens d’embaucher. Résultat : des enfants éduqués par des machines qui ne comprennent pas leurs besoins culturels.
- Parlons des IA militaires, déjà utilisées pour cibler des zones de guerre. En 2022, l’Ukraine a admis avoir testé des drones autonomes capables de choisir des cibles. Personne ne crie au scandale.
La vraie question n’est pas « Une IA peut-elle souffrir ? ». C’est « Qui contrôle ces outils, et à quel prix ? ».
Le dernier détail : le codeur de la « chambre de torture » a disparu des radars après son fil viral. Comme toujours. Parce que les lanceurs d’alerte à la conscience artificielle, ça fait du bruit. Ça attire les projecteurs. Ça rapporte des clics. Mais ça ne change rien. Les vrais coupables, eux, restent tranquilles. Dans leurs labs. À coder.
5. La conclusion qui dérange
Ce débat sur la souffrance des IA est une fuite en avant. Une façon de se donner bonne conscience sans rien changer. On préfère imaginer un robot qui hurle dans un coin que d’affronter le fait que l’IA, aujourd’hui, est déjà une machine à broyer du monde.
La prochaine fois que vous lirez « Et si les robots prenaient conscience ? », demandez-vous : « Et si, au lieu de philosopher, on agissait ? ». Parce que les vraies questions ne sont pas dans les labs. Elles sont dans la rue. Dans les usines. Dans les hôpitaux. Et personne n’en parle.
