Les GPU P106 à 35 dollars changent la donne pour les LLM

Pourquoi personne ne parle de cette affaire ?

Parce que ça ne ressemble à rien de connu. D’un côté, vous avez le minage, un marché saturé où les GPU se vendent à perte, souvent reconditionnés, volés, ou récupérés dans des décharges électroniques. De l’autre, vous avez les LLM, où les acteurs sérieux (Mistral, Meta, Google) dépensent des millions pour des puces haut de gamme. Entre les deux ? Un vide. Un vide que comble ce rig à 35 dollars.

Les P106, c’est l’ancienne génération des GPU Nvidia, ceux qu’on utilisait pour le deep learning il y a trois ans. Aujourd’hui, ils traînent dans les stocks des fermes de minage fermées, ou chez des revendeurs qui les bradent. 54 Go de VRAM, c’est juste assez pour des modèles légers. Assez pour des trucs qui marchent, mais pas assez pour les géants. Sauf que maintenant, avec ce prix, même un étudiant peut se payer un rig et bidouiller un LLM maison.

Et ça, ça fait peur.

Ce que ça signifie pour les LLM commerciaux

Les modèles actuels coûtent cher à entraîner. Pas seulement à cause des données, mais à cause du matériel. Un A100, la puce phare de Nvidia, coûte dans les 10 000 dollars. Les P106, elles, coûtent 35 dollars au total. La différence ? Abyssale.

Prenez un modèle comme Llama 2, 7 milliards de paramètres. Sur un rig P106, vous ne l’aurez pas. Mais un modèle de 100 millions de paramètres ? Pourquoi pas. Assez pour des tâches niche, des applications locales, des trucs qui tournent sur un bureau sans cloud. Le problème, c’est que ça existe déjà. Mais à 35 dollars, ça devient accessible à tout le monde.

Et là, les LLM commerciaux ont un souci. Parce que si n’importe qui peut se payer un rig et entraîner un modèle basique, la barrière à l’entrée s’effondre. Les acteurs sérieux vont devoir justifier leur prix. Ou alors, ils vont devoir racheter tous les P106 du marché pour éviter la concurrence.

Nvidia, déjà, a un plan. Les P106 sont obsolètes, incompatibles avec leurs dernières technologies. Mais ça ne les empêche pas de tourner. Et ça, c’est le vrai danger.

Le marché du minage se retourne contre lui-même

Le minage de crypto, c’est mort. Enfin, presque. Les fermes ferment, les GPU se vendent à perte. Les P106, c’est du stock invendu, des machines qu’on ne sait plus où mettre. Sauf que maintenant, elles trouvent une nouvelle vie. Pas dans le Bitcoin, mais dans l’IA.

Le paradoxe ? Les mineurs qui ont acheté ces GPU pour extraire des cryptos se retrouvent avec du matériel qui vaut soudainement quelque chose. Pas pour miner, mais pour autre chose. Et ça, les marchés ne l’ont pas anticipé.

Prenez un exemple concret : en 2021, une P106 coûtait 800 dollars. Aujourd’hui, elle vaut 4 dollars. La différence ? L’effondrement du minage. Mais si demain, ces GPU deviennent utiles pour autre chose, leur valeur pourrait rebondir. Pas assez pour faire fortune, mais assez pour que des gens se disent : « Et si on en rachetait 50 ? »

Sauf que Nvidia ne veut pas de ça. Leur stratégie, c’est de rendre ces GPU inutiles. En coupant les mises à jour, en les excluant des frameworks populaires. Mais avec un prix comme celui-là, ça ne suffit pas.

Ce qui se passe quand l’IA devient low-cost

Les LLM, c’est comme les smartphones il y a 15 ans. Au début, c’était du luxe. Puis les prix ont baissé, et tout le monde en a eu un. Sauf que là, la baisse de prix n’est pas progressive. Elle est brutale.

Avec un rig à 35 dollars, vous ne ferez pas un GPT-4. Mais vous ferez quelque chose. Assez pour des applications locales, des chatbots de niche, des outils spécialisés. Assez pour que des petites équipes, des labos universitaires, des hackers, se mettent à bidouiller sans demander la permission.

Le vrai risque ? La fragmentation. Si tout le monde peut entraîner son propre modèle, même petit, même médiocre, vous avez soudainement des milliers de LLM différents, incompatibles, mal optimisés. Le marché se disperse. Les géants perdent le contrôle.

Et puis, il y a la question de la qualité. Un modèle entraîné sur un rig P106, ça donne quoi ? Des résultats aléatoires ? Des hallucinations en série ? Peut-être. Mais ça marche quand même. Assez pour des tests, des prototypes, des preuves de concept.

Le problème, c’est que personne ne sait encore ce que ça va donner. Les régulateurs ne s’en préoccupent pas. Les entreprises non plus. Parce que ça ne ressemble à rien de connu.

La vraie question n’est pas le prix, mais l’accès

35 dollars, c’est peu. Assez pour que des gens se disent : « Bon, si je prends 10 rigs, ça fait 350 dollars. Je peux essayer. » Et c’est là que ça devient dangereux.

Parce que le vrai enjeu, ce n’est pas le coût matériel. C’est l’accès aux données. Un LLM, ça se nourrit de texte. Plus vous en avez, mieux c’est. Sauf que les gros jeux de données, ça coûte cher. Les petits, c’est souvent du scrapé, du volé, du mal nettoyé.

Donc oui, vous pouvez vous payer un rig à 35 dollars. Mais si vos données sont pourries, votre modèle le sera aussi. Sauf que personne ne vérifie. Personne ne contrôle. Et c’est là que le bordel commence.

Les LLM commerciaux misent sur la qualité. Les rigs P106, eux, misent sur la quantité. Et la quantité, ça peut suffire pour des trucs utiles. Même si c’est nul.

Ce qui va se passer maintenant

Deux scénarios possibles.

1. Nvidia et les géants de l’IA réagissent. Ils achètent tous les P106 du marché. Ils les détruisent. Ils font pression sur les revendeurs pour qu’ils arrêtent de les vendre. Ils sortent une nouvelle génération de GPU si obsolète que même les rigs low-cost deviennent inutiles.

2. Personne ne fait rien. Les P106 restent à 35 dollars. Des milliers de rigs sortent. Des milliers de LLM basiques apparaissent. Le marché se fragmente. Les géants perdent des parts de marché. Les régulateurs finissent par s’en mêler, mais trop tard.

Le premier scénario, c’est ce qu’ils veulent. Le second, c’est ce qui va probablement arriver.

Parce que 35 dollars, c’est un prix qui ne se refuse pas. Et quand l’IA devient accessible comme ça, les règles du jeu changent. Définitivement.

La dernière ligne.

Les LLM ne seront plus jamais le monopole des GAFA. Parce que maintenant, même un rig de récup’ peut en faire un basique. La question n’est plus « Qui contrôle l’IA ? », mais « Qui peut encore se permettre de ne pas en avoir un ? »