Après l’ère des abonnements illimités, les géants comme GitHub Copilot ou Claude ont récemment annoncé le basculement vers une tarification basée sur l’usage des tokens. Finie la consommation sans limite : chaque mot, chaque virgule, chaque espace compte désormais.
Continue readingCommençons avec ce que j’appelerais notre canari dans la mine.
Très connu de la communauté des développeurs — même s’il était déjà en déclin depuis le milieu des années 2010 — Stack Overflow a vu le nombre de questions publiées chuter fortement depuis l’arrivée de ChatGPT. Et par conséquence : moins de visites.
Beaucoup plus récemment, l’un des auteurs de Minecraft.fr a publié une analyse très intéressante (https://minecraft.fr/ce-qui-se-passe-sur-minecraft-fr-quand-vous-posez-une-question-a-une-ia/) sur ce qu’il se passe lorsqu’un utilisateur pose une question à une IA.
Il y a un mois, je partageais cette vidéo expliquant les bases des LLM en 1 minute. Aujourd’hui, je passe à l’étape supérieure en découvrant “LLM from Scratch” : un workshop où je peux mettre les mains dans la machine. En une soirée et avec un peu de Python, ce workshop nous lance dans la création d’un petit LLM. Cela a piqué ma curiosité. Grâce à ce workshop, je comprends mieux les concepts fondamentaux derrière ces modèles. Et c’est bien moins flippant que ce qu’on imagine !
Continue readingAu début, l’IA (celle qui a explosé avec ChatGPT) rimait avec cloud : puissance déportée, dépendance aux API, latence acceptée comme une certaine fatalité. Et puis, progressivement — presque silencieusement ? — le centre de gravité se rapproche de nos propres machines. Une évolution que je suis depuis un moment, et j’ai l’impression qu’un vrai basculement est en train de se produire.
Il y a deux ans, il fallait deux datacenters pour faire tourner un modèle de raisonnement avancé. Liquid AI annonce en janvier une prouesse : un modèle capable de raisonner en autonomie, sur un smartphone et utilisant moins de 1 Go de RAM.
Continue reading