Après les LLM, voici les Decision Models
Encore un nouveau nom barbare dans le monde de l’IA. Mais derrière le buzzword, il y a une idée assez intéressante : et si tous les problèmes d’IA n’avaient pas besoin d’un LLM ?
Un LLM (ChatGPT/Copilot/Claude/LeChat/Deepseek...) génère du texte. Un decision model fournit des réponses fermées et basées sur des probabilités.
Prenons un exemple assez classique. Un ticket client arrive et le logiciel doit simplement savoir :
- est-ce urgent ?
- quelle équipe doit s’en occuper ?
- faut-il faire intervenir un humain ?
On pourrait envoyer le ticket à un gros LLM. Mais c’est un peu comme utiliser un bazooka pour tuer un canari !
Un Decision Model peut simplement renvoyer :
urgent: 98%
team: technical (91%)
escalate_to_human: 84%
Et le logiciel peut ainsi continuer son workflow. C’est donc une sorte de "si" algorithmique intelligent.
Un Decision Model ne remplace pas les LLM. Il faut le voir comme un élément qui peut fonctionner avant ou autour d’eux :
requête → Decision Model → routage → LLM puissant si nécessaire → action
Ces petits modèles font le tri et on peut ensuite utiliser le gros modèle que là où on en a réellement besoin. Accessoirement, ces requêtes de décision coûtent beaucoup moins cher que d'envoyer systématiquement chaque demande à un gros LLM.
Les cas d’usage sont nombreux : filtrage, scoring, détection de fraude, modération, contrôle d’agents...
💬 Si vous en voyez d’autres, partagez-les !
Le concept a notamment été mis en avant récemment avec Jev, de TypeSafe. C'est d'ailleurs un ancien d'Anthropic (ceux qui font Claude). Et Cloudflare, qui propose notamment des services de sécurité et de performance pour les sites web, vient maintenant de lancer Clef, des Decision Models open-weight.
Ce qui me semble intéressant n’est donc pas tellement de savoir si c’est « un nouveau type de classifier ». Les classifieurs existent depuis longtemps. C’est plutôt l’idée de faire de la décision une primitive de base de l’IA, au même titre que la génération.
💡 Les LLM ont appris à parler aux humains. Les Decision Models pourraient apprendre aux logiciels à décider.
On reprend les mêmes recettes historiques. On n'a peut-être pas besoin du truc (ici un modèle) le plus gros. On a simplement besoin du bon type modèle utilisé au bon endroit.