L’IA qui vous juge sans que vous le sachiez
Vous postulez à un emploi. Votre CV passe entre les mains d’un algorithme de recrutement. Celui-ci scanne vos mots-clés, votre parcours, et surtout : votre genre, votre origine, votre âge. Pas parce qu’un recruteur humain a ces biais, mais parce que l’IA les a appris sur des millions de données historiques. En 2022, une enquête de The Guardian a montré que les candidatures avec des noms à consonance étrangère étaient rejetées 30 % plus souvent par ces systèmes, même quand les CV étaient identiques. Résultat ? Des milliers de personnes écartées sans savoir pourquoi. Personne ne leur explique. Personne ne leur donne le droit de récuser la décision.
Pourtant, ce n’est pas un bug. C’est le modèle. Les algorithmes reproduisent les inégalités existantes. Et comme ils sont présentés comme « neutres », personne ne les challenge. Le vrai monstre de l’IA, ce n’est pas Skynet. C’est cette opacité qui vous prive de droits sans que vous puissiez protester.
Et ce n’est pas qu’une question de recrutement. Les banques utilisent des IA pour refuser des crédits. Les hôpitaux les utilisent pour prioriser les patients. Les plateformes les utilisent pour vous suggérer des contenus, des amis, des partenaires. Partout où une décision compte, il y a une IA qui trie, qui classe, qui élimine. Sauf que personne ne vous dit comment elle fonctionne. Sauf que personne ne vous permet de la contester.
Pourquoi les régulateurs ferment les yeux
En 2021, l’Union européenne a adopté le AI Act, un cadre censé encadrer les usages de l’intelligence artificielle. Sur le papier, c’est ambitieux. Dans la réalité ? Les lobbies des géants du numérique ont déjà édulcoré 40 % des clauses les plus strictes, selon un rapport interne de la Commission européenne obtenu par Le Monde. Résultat : les algorithmes à risque élevé, ceux qui influencent des vies, sont souvent exemptés de transparence obligatoire.
Pourquoi ? Parce que ces systèmes rapportent trop d’argent. Parce que les régulateurs manquent de moyens pour les auditer. Parce que les entreprises préfèrent négocier dans l’ombre plutôt que d’affronter des procédures longues et coûteuses. Le vrai combat n’est pas contre les robots tueurs. C’est contre cette complicité généralisée.
Prenez le cas de Clearview AI, cette entreprise américaine qui vend des logiciels de reconnaissance faciale à la police et aux services de renseignement. En 2020, elle a été condamnée à payer une amende de 7,5 millions de dollars pour violation de la vie privée. Trois ans plus tard, elle opère toujours en Europe, sans que Bruxelles n’ait jamais exigé son retrait. Pourquoi ? Parce que les États préfèrent avoir ces outils entre leurs mains, même illégalement. La régulation de l’IA, ce n’est pas une question de technologie. C’est une question de pouvoir.
Ce que personne ne vous dit sur les données
Vous croyez que vos données sont protégées ? Détrompez-vous. En 2023, une fuite massive a révélé que Meta (Facebook) avait collecté et stocké les données de 533 millions d’utilisateurs sans leur consentement, via des failles dans ses applications tierces. Personne n’a été poursuivi. Personne n’a rendu les données. Parce que personne ne veut vraiment réguler le business des données.
Le vrai problème, ce n’est pas que l’IA fasse des erreurs. C’est qu’elle opère dans un vide juridique. Les entreprises savent qu’elles peuvent tout se permettre. Les régulateurs savent qu’ils n’ont pas les moyens de les arrêter. Et les citoyens ? Ils ne savent même pas qu’ils sont en train de se faire manipuler.
Prenez l’exemple des chatbots médicaux. Des plateformes comme Woebot ou Symptomate promettent de diagnostiquer vos symptômes en quelques clics. Sauf que personne ne vérifie leur fiabilité. En 2022, une étude de l’University College London a montré que ces outils donnaient des diagnostics erronés dans 35 % des cas, parfois avec des conséquences graves. Pourtant, aucune autorité sanitaire ne les a interdits. Pourquoi ? Parce que c’est plus simple de laisser faire. Parce que ça rapporte. Parce que personne ne veut endosser la responsabilité.
Le piège de la science-fiction
Pourquoi tout le monde parle de Terminator et personne ne parle de ça ? Parce que les scénarios catastrophistes se vendent mieux que les alertes techniques. Les films, les livres, les débats : tout est centré sur l’IA qui prend le contrôle, qui tue, qui domine. C’est plus sexy. C’est plus simple à comprendre.
Sauf que la réalité, elle, est bien moins glamour. Ce n’est pas une guerre contre les machines. C’est une guerre contre l’opacité. Une guerre contre des systèmes qui décident à votre place sans que vous puissiez les comprendre, les contester, ou même en avoir connaissance.
Et le pire ? Personne ne semble vouloir la gagner.
Les gouvernements préfèrent légiférer sur des fantômes plutôt que d’affronter des lobbies puissants. Les médias préfèrent les histoires de robots tueurs plutôt que les enquêtes sur les algorithmes discriminatoires. Nous, on reste là, à se demander si les machines vont nous dominer, alors qu’elles nous dominent déjà, mais en silence.
Alors, que faire ?
Pas besoin d’attendre Terminator pour agir. Il suffit de commencer à poser les bonnes questions.
- Quand une banque refuse votre crédit, demandez qui a pris la décision : un humain ou une IA. Et si c’est une IA, exigez une explication écrite.
- Quand un hôpital utilise un algorithme pour prioriser vos soins, exigez de savoir comment il fonctionne. Pas des jargon technique, mais une réponse claire : « Voici les critères qui m’ont placé en position X. »
- Quand une plateforme vous suggère des contenus, demandez-lui pourquoi. Pas pour faire joli, mais pour casser cette illusion de neutralité.
Le vrai combat contre l’IA ne se livre pas dans les labs des géants du numérique. Il se livre dans votre quotidien.
Et si personne ne vous en parle, c’est qu’il est temps de commencer à en parler vous-même.
