En 2026, trois mots circulent dans toutes les réunions de direction : token, RAG, LLM. Ils apparaissent dans les présentations de vos prestataires, dans les rapports de vos équipes techniques, dans les appels d’offres que vous signez. Si vous ne savez pas ce qu’ils signifient concrètement, vous ne pilotez plus vos projets IA. Vous les validez en aveugle.
Ce n’est pas une question de compétence technique. C’est une question de gouvernance. Et de survie stratégique.
Le piège du « je fais confiance à mes équipes »
Faire confiance à ses équipes est une qualité managériale. Déléguer la compréhension des enjeux IA est une faute stratégique. Ce sont deux choses très différentes.
Imaginez un directeur général qui signe un contrat immobilier sans savoir lire un plan. Il fait confiance à son architecte, mais il ne comprend pas ce qu’il achète, ce qu’il paie, ni ce qui peut mal tourner. Le résultat n’est pas une question de confiance. C’est une question de lisibilité du risque.
C’est exactement la situation de nombreux dirigeants face à l’IA aujourd’hui. Ils investissent. Ils valident. Ils espèrent. Mais ils ne comprennent pas les trois ou quatre concepts fondamentaux qui conditionnent la réussite ou l’échec, de leurs projets.
Trois mots. Trois décisions que vous prenez chaque semaine sans le savoir.
Le token : l’unité de coût et de limite
Un token est la plus petite unité de texte qu’un modèle d’IA traite. Environ trois à quatre caractères, ou trois quarts d’un mot en français. Ce concept paraît purement technique. Il est en réalité financier et stratégique.
Pourquoi ? Parce que tout ce que fait votre système IA; lire un document, générer une réponse, analyser un contrat est facturé en tokens. En 2026, les tarifs varient de 0,50 € à 15 € par million de tokens selon le modèle utilisé. Une application traitant 100 000 requêtes par mois peut représenter entre 100 et 3 000 € de coûts mensuels selon les choix techniques effectués par vos prestataires.
Ce que cela signifie pour vous : quand un prestataire vous propose un modèle « plus puissant », il vous propose aussi un modèle plus cher au token. Quand vos équipes conçoivent un système qui envoie des documents entiers au lieu d’extraits ciblés, elles multiplient les coûts par dix. Sans que vous le voyiez dans le cahier des charges.
Le token, c’est le compteur d’eau de votre infrastructure IA. Savoir ce qu’il représente, c’est être capable de questionner les choix d’architecture avant qu’ils ne deviennent des surcoûts irréversibles.
Le LLM : le cerveau que vous louez
LLM signifie Large Language Model, grand modèle de langage. C’est le moteur de raisonnement derrière ChatGPT, Claude, Mistral, Gemini. Un LLM a été entraîné sur des milliards de textes pour comprendre et générer du langage humain.
Ce que beaucoup de dirigeants ignorent : un LLM est un cerveau généraliste qui ne connaît pas votre organisation. Il ne connaît pas vos procédures internes, vos clients, vos données, votre marché. Il parle couramment votre langue, mais il ne parle pas votre métier.
Ce que cela signifie pour vous : un projet IA qui se contente de « brancher ChatGPT » sur vos processus sans aller plus loin produira des résultats génériques, potentiellement inexacts, et souvent inutilisables pour vos cas d’usage réels. Le choix du LLM — lequel, à quel coût, avec quelle sécurité des données, sous quelle juridiction est une décision stratégique. Pas une décision technique.
Et cette décision est actuellement prise par vos prestataires, pas par vous. Parce que vous ne disposez pas encore du vocabulaire pour la questionner.
Le RAG : la différence entre une IA qui hallucine et une IA qui sait
RAG signifie Retrieval-Augmented Generation, ou en français : génération augmentée par récupération d’informations. C’est la technique qui permet à un LLM généraliste d’accéder à vos données internes avant de répondre.
Sans RAG, votre IA répond à partir de ce qu’elle a appris pendant son entraînement, des informations publiques, potentiellement obsolètes, sans aucun ancrage dans votre réalité. Elle peut « halluciner » : inventer des faits avec une assurance déconcertante.
Avec RAG, avant de répondre, l’IA consulte votre base documentaire, vos contrats, vos procédures, vos données produits, votre historique client. Elle ancre ses réponses dans ce que vous savez réellement. Le taux d’hallucination chute drastiquement.
Ce que cela signifie pour vous : si votre prestataire vous propose un système IA sans vous parler de RAG, il vous propose un système qui inventera des réponses avec vos données comme décor. Si votre équipe vous dit que « l’IA a accès à vos documents », demandez-leur comment. La réponse technique à cette question conditionne la fiabilité opérationnelle de tout ce que vous allez déployer.
Ce n’est pas de la culture générale. C’est de la gouvernance.
On entend souvent : « Je n’ai pas besoin de comprendre la technique, j’ai des équipes pour ça. » C’est vrai pour le code. C’est faux pour l’IA.
Voici pourquoi. Quand votre DSI vous présente un projet IA, elle vous soumet des arbitrages déguisés en questions techniques. Quel modèle ? Quelle architecture ? Quelles données ? Quelle sécurité ? Ces questions ont des réponses techniques, mais elles ont aussi des implications stratégiques, juridiques, budgétaires et organisationnelles qui vous appartiennent en tant que dirigeant.
Si vous ne pouvez pas les comprendre, vous ne pouvez pas les arbitrer. Et si vous ne les arbitrez pas, quelqu’un d’autre le fait à votre place avec ses propres contraintes, ses propres biais, ses propres intérêts.
La culture IA d’un dirigeant n’est pas une liste de mots savants à connaître. C’est la capacité à poser les bonnes questions au bon moment. À distinguer une promesse d’un risque. À comprendre ce qui se passe réellement dans les projets qu’on vous présente.
Cinq questions à poser dès votre prochaine réunion IA
Vous n’avez pas besoin de devenir expert. Vous avez besoin de devenir un interlocuteur éclairé. Ces cinq questions suffisent à transformer votre posture en réunion :
- Quel modèle LLM utilisez-vous, et pourquoi ce modèle plutôt qu’un autre ?
La réponse vous dira si votre prestataire a réfléchi au choix ou s’il a pris le modèle le plus médiatique. - Nos données sont-elles envoyées au modèle, et sous quelle forme ?
La réponse conditionne la confidentialité de vos informations stratégiques. - Comment le système accède-t-il à nos données internes – utilisez-vous une architecture RAG ?
Si la réponse est « non » ou « quoi ? », le système répondra à côté. - Quel est le coût en tokens par mois à pleine charge, et comment évolue-t-il avec le volume ?
La réponse vous donnera une visibilité sur le coût réel à 12 mois. - Comment mesurons-nous le taux d’hallucination et que se passe-t-il quand l’IA se trompe ?
La réponse révèle si votre prestataire a pensé à la gouvernance ou seulement à la démo.
Ce que l’histoire nous a déjà appris
À la fin des années 1990, les dirigeants qui ne comprenaient pas ce qu’était Internet ont laissé leurs prestataires décider de leur présence en ligne. Certains ont surinvesti dans des technologies inadaptées. D’autres ont sous-investi et perdu des marchés. Dans les deux cas, la cause était la même : une dépendance totale à des tiers non alignés sur leurs enjeux réels.
Dix ans plus tard, la même histoire s’est répétée avec les réseaux sociaux. Puis avec le mobile. Puis avec le cloud. À chaque vague technologique, les organisations qui s’en sont sorties avaient des dirigeants capables de comprendre les enjeux sans nécessairement maîtriser la technique.
L’IA générative est la quatrième vague. Elle est plus rapide, plus profonde, et plus transversale que les précédentes. Elle ne touche pas seulement votre site web ou votre marketing, elle touche vos processus de décision, vos relations clients, vos ressources humaines, votre production.
Les dirigeants qui comprennent ce qu’est un token, un LLM et un RAG ne sont pas des techniciens. Ce sont des décideurs qui ont décidé de rester aux commandes.
En conclusion : le danger n’est pas l’IA
Le danger n’est pas que l’IA remplace les dirigeants. Le danger est que des dirigeants qui ne comprennent pas l’IA soient progressivement remplacés dans les faits, sinon dans les organigrammes par les prestataires, les DSI, ou les assistants IA qui prennent les décisions à leur place.
Un token, c’est une unité de coût. Un LLM, c’est un cerveau que vous louez. Un RAG, c’est le dispositif qui ancre ce cerveau dans votre réalité. Trois concepts. Trois heures de lecture. Et une posture de dirigeant qui change radicalement.
Vos équipes ont besoin que vous compreniez suffisamment pour arbitrer. Vos prestataires ont besoin que vous sachiez suffisamment pour les questionner. Votre organisation a besoin que vous décidiez suffisamment tôt pour éviter les projets qui coûtent cher et changent peu.
Ce n’est pas une question de génération. C’est une question de décision.
Vous dirigez une organisation en pleine transformation IA ?
Je propose un échange de 30 minutes pour faire le point sur votre maturité IA et identifier vos vrais enjeux, sans jargon, sans solution imposée, sans engagement. Juste une conversation entre dirigeants.
