Les annonces se multiplient ces dernières semaines à propos de l’optimisation des LLM (ces “cerveaux” capables de comprendre et générer du texte, comme Gemini ou GPT). Google, OpenAI, Mistral… Tous cherchent à rendre leurs modèles plus performants, plus précis, ou moins coûteux.
Mais un autre mouvement, tout aussi stratégique, émerge. L’optimisation ne se limite plus aux modèles eux-mêmes. Avec l’avènement des agents IA, c’est tout l’écosystème autour des LLM qui devient un levier clé.
C’est suite à la lecture de cet article ByteDance prépare ses propres CPU Arm et RISC-V pour reprendre le contrôle du coût par token que me vient cette réflexion. L’ère de l’IA ne se résume plus à une course aux GPU. Et pour cause, avec l’essor des agents autonomes, les besoins en infrastructure ont radicalement changé. Il semble que l’on passe en effet d’un monde dominé par le GPU… à une dépendance multi-composants.
Après l’ère des abonnements illimités, les géants comme GitHub Copilot ou Claude ont récemment annoncé le basculement vers une tarification basée sur l’usage des tokens. Finie la consommation sans limite : chaque mot, chaque virgule, chaque espace compte désormais.
Continue readingCommençons avec ce que j’appelerais notre canari dans la mine.
Très connu de la communauté des développeurs — même s’il était déjà en déclin depuis le milieu des années 2010 — Stack Overflow a vu le nombre de questions publiées chuter fortement depuis l’arrivée de ChatGPT. Et par conséquence : moins de visites.
Beaucoup plus récemment, l’un des auteurs de Minecraft.fr a publié une analyse très intéressante (https://minecraft.fr/ce-qui-se-passe-sur-minecraft-fr-quand-vous-posez-une-question-a-une-ia/) sur ce qu’il se passe lorsqu’un utilisateur pose une question à une IA.
À mes heures perdues (enfin pas tant perdu que cela, j’ai appris des choses), je me suis récemment amusé à tester les copilotes pour développeurs. Vous connaissez sûrement Claude Code ou GitHub Copilot. Ayant lu des messages et articles, j’ai décidé de voir ce type d’assistant donne mais en 100% local, sans dépendance à une solution cloud.
