Le GPS de son téléphone indiquait « chemin sécurisé ». Bryce avait 16 ans, un sac à dos léger, et la certitude d’une randonnée sans risque. Sauf que le sentier tracé par l’IA le menait droit vers une corniche. Une faille de 200 mètres de haut. Pas de barrière, pas de balise, juste un vide. Et lui, coincé, les doigts crispés sur la roche, à se demander combien de temps il tiendrait avant que les secours n’arrivent. Huit heures. Huit putains d’heures à attendre, avec pour tout réconfort une barre de céréales et une couverture de survie sortie du sac d’urgence de son père. Pas un mot sur le danger dans l’appli. Pas une alerte. Juste le bleu du ciel, le vent qui s’engouffrait dans la faille, et cette pensée : personne ne sait où je suis.
L’hélicoptère des pompiers est arrivé à 19h47. Bryce a survécu. Mais la question qui reste, c’est : pourquoi l’IA lui a-t-elle menti ?
L’IA ne ment pas, elle simplifie. Et ça tue.
Les algorithmes de randonnée, comme ceux de Komoot ou AllTrails, sont conçus pour être rassurants. Ils lissent les courbes de niveau, estompent les pentes raides, et surtout : ils ne montrent pas les zones à risque. Parce que personne ne clique sur « danger mortel ». Personne ne télécharge une appli si le premier écran affiche : « Attention, risque d’effondrement, équipement obligatoire, secours à 3h de marche ».
Le problème, c’est que ces outils sont utilisés par des ados, des débutants, des gens qui croient dur comme fer à ce qui est écrit à l’écran. Bryce n’est pas un cas isolé. En 2023, les secours alpins français ont recensé 12 % de sauvetages en plus liés à des erreurs d’itinéraire guidées par des applis, contre 8 % en 2020 (rapport de la Sécurité Civile). Les chiffres montent. Les morts aussi.
Pourtant, les développeurs s’en sortent toujours avec la même réponse : « Notre outil est une suggestion, pas une directive ». Traduction : « On assume rien, vous assumez tout ». Sauf que quand un gamin de 16 ans se retrouve suspendu au-dessus du vide, la nuance juridique ne le sauve pas.
Le piège des données bidon
Le sentier que Bryce a suivi était marqué comme « facile » sur l’appli. Sauf que sur le terrain, c’était un passage technique, avec des éboulis instables et une corniche étroite comme une lame de couteau. Pourquoi cette discordance ? Parce que les IA s’appuient sur des données de randonneurs… qui mentent aussi.
Sur AllTrails, par exemple, les utilisateurs notent les sentiers. 83 % des avis positifs sont postés par des randonneurs qui ont réussi leur parcours (étude de l’Université de Washington, 2022). Ceux qui se perdent, qui glissent, qui faillent ? Ils ne laissent pas d’avis. Ou alors un commentaire du style « Super, mais attention aux racines », sans préciser que les racines cachent un ravin.
Résultat : l’IA apprend que « ce chemin est sûr » parce que les gens qui ont survécu l’ont noté comme tel. Elle ne voit pas les corps brisés au fond des vallées. Elle ne voit pas les ados qui, comme Bryce, se retrouvent coincés parce qu’on leur a promis un paysage, pas un cauchemar.
Qui paiera quand l’IA tue ?
En France, les fabricants d’applis de randonnée ne sont pas tenus légalement de signaler les dangers réels. « Responsabilité des utilisateurs », répète-t-on chez Komoot. Sauf que quand un utilisateur a 16 ans, qu’il n’a pas l’expérience, et que l’appli lui a caché l’essentiel, qui est responsable ?
Aux États-Unis, des familles ont déjà attaqué AllTrails après des accidents mortels. En 2021, un juge a rejeté le procès en invoquant « l’absence de négligence prouvée ». Traduction : tant que l’appli n’écrit pas « Attention, risque de mort » en gros, elle est clean. Même si elle envoie des gens à leur perte.
Le vrai problème, c’est que personne ne veut assumer. Les applis préfèrent jouer avec les mots. Les régulateurs ferment les yeux. Et les ados, eux, continuent de croire que l’écran sait tout.
La prochaine fois, ce sera pire
Bryce a eu de la chance. Son père était chasseur, il connaissait les bases. S’il avait été seul, avec un téléphone à 10 % de batterie, personne ne l’aurait retrouvé avant le lendemain. Peut-être jamais.
Le pire, c’est que les applis deviennent de plus en plus précises. Demain, elles proposeront des itinéraires en réalité augmentée, avec des flèches qui clignotent sur votre casque. Elles diront « Tournez à gauche » alors que le sol s’effrite sous vos pieds. Elles mentiront mieux. Parce qu’elles auront l’air plus vraies.
La question n’est plus de savoir si un autre Bryce va se retrouver coincé. C’est de savoir combien de fois ça arrivera avant qu’on ne force les applis à dire la vérité.
Pas « Ce chemin est joli ». Mais « Ce chemin peut vous tuer. Voici comment éviter ».
Et vous, vous feriez quoi à sa place ?
Vous auriez suivi l’appli jusqu’au bout ? Vous auriez fait demi-tour en voyant la faille ? Ou vous auriez prié, comme Bryce, en espérant que quelqu’un, n’importe qui, finirait par vous entendre ?
Parce que c’est ça, le vrai danger. Pas la technologie. Mais le fait qu’on croie encore que les machines nous protègent. Alors qu’elles ne font qu’une chose : nous envoyer droit dans le mur.
