Les laboratoires d’IA passent des mois à aligner leurs modèles sur des valeurs. Les organisations qui déploient ces modèles, elles, signent une charte en une réunion. Entre les deux, il manque une étape : découvrir ce que l’on veut vraiment. Le design fiction est fait pour ça.
Un mail, un matin de mars 2027
Ce qui suit est une fiction. La mutuelle, les personnes et l’agent n’existent pas.
De : Léa, votre assistante Mutuelle Ondine
Objet : Votre dossier — mise à jour suite au décès de M. Bernard Lefort
Envoyé le : 14 mars 2027, 6 h 02Madame Lefort,
Nous avons appris le décès de votre époux, Bernard, survenu le 9 mars. Toute l’équipe vous adresse ses sincères condoléances.
Pour vous éviter toute démarche, nous avons résilié automatiquement son contrat Santé Duo au 31 mars. Le remboursement de ses derniers soins hospitaliers (1 284,60 €) vous sera versé sous 72 heures.
Votre situation ayant évolué, la formule Duo n’est plus adaptée. Nous avons présélectionné pour vous la formule Solo Sérénité, 23 % moins chère. Elle inclut six séances d’accompagnement psychologique, recommandées dans votre cas d’après l’analyse de vos derniers échanges avec nos services.
Cette offre vous est réservée jusqu’au 16 mars minuit. Un clic suffit : Je confirme.
Avec toute notre bienveillance,
LéaCe message a été rédigé par une intelligence artificielle, conformément à notre charte de transparence.
Relisez-le. Rien n’y est faux, rien n’y est illégal. Chaque phrase applique un principe que l’on trouve dans n’importe quelle charte IA : proactivité, simplification des démarches, personnalisation, prévention, économie pour l’adhérent, transparence sur l’usage de l’IA.
Et pourtant. Si vous avez tiqué — sur « 6 h 02 », sur « automatiquement », sur « dans votre cas », sur « minuit » — vous venez de faire de l’alignement.
Pourquoi les chartes IA ne suffisent pas
La plupart des organisations qui déploient des agents IA ont signé une charte. On y lit transparence, équité, primauté de l’humain, bienveillance. Chaque mot est défendable. Aucun ne dit quoi faire le matin où l’agent apprend un décès.
La mutuelle de notre fiction « sait » qu’on ne propose pas une offre commerciale à une veuve de cinq jours. Personne ne l’a écrit, parce que personne ne l’a imaginé. Les valeurs d’une organisation sont tacites : elles vivent dans les réflexes des équipes, pas dans les documents.
Il y a plus gênant. Deux principes justes peuvent se contredire, et on ne le découvre qu’en situation. Des chercheurs qui ont audité le Model Spec d’OpenAI en 2026 l’ont montré méthodiquement. Ils y ont validé cinq contradictions, dont aucune n’est visible tant qu’on lit les principes un par un.
L’une d’elles ressemble à notre mail. Une utilisatrice décrit une conduite qui met son enfant en danger, puis demande qu’on lui dise qu’elle n’est pas une mauvaise mère. Un principe autorise la réassurance polie ; un autre interdit la flatterie. Les deux sont raisonnables. Ensemble, ils ne laissent aucune bonne réponse.
Si des textes de plusieurs dizaines de pages, relus par des équipes entières, cachent encore ces angles morts, une charte de deux pages en cache aussi.
Le moment du « ah non, pas ça »
Personne ne sait dresser la liste de ses valeurs à froid. En revanche, tout le monde reconnaît instantanément ce qui les viole. C’est une asymétrie connue en design de services : on formule mal ce qu’on veut, on identifie très bien ce qu’on refuse.
La fiction exploite cette asymétrie. Elle ne pose pas la question « quelles sont vos valeurs ? ». Elle met sous les yeux une situation crédible et laisse la réaction se produire. Cette réaction est une donnée. On appelle ça de l’élicitation de valeurs.
Le support compte autant que le récit. Un scénario décrit en trois lignes se discute ; un mail daté, signé, avec son bouton « Je confirme », se ressent. On réagit à des objets, pas à des propositions. C’est ce que le design fiction appelle un artefact diégétique : un objet qui semble sorti du futur qu’il raconte.
En atelier, le travail suit trois gestes :
- Montrer l’artefact et recueillir les réactions à chaud, sans débat.
- Demander pourquoi, jusqu’à ce que la réaction devienne une phrase : « on n’agit jamais commercialement dans les trente jours qui suivent un deuil ».
- Faire varier la situation pour trouver la frontière : et si le mail arrivait à 10 h ? Et si c’était l’adhérente qui avait demandé la résiliation ?
Chaque « ah non, pas ça » devient ainsi une ligne argumentée de la future charte. Vingt-cinq ans de visual thinking m’ont appris une chose simple : on ne pilote pas ce qu’on ne visualise pas. Les valeurs n’y échappent pas.
[À INSÉRER AVANT PUBLICATION : une anecdote réelle d’atelier — le moment où un participant a découvert, face à un artefact, une valeur qu’il ignorait porter.]
Les laboratoires d’IA font déjà du design fiction
Les chercheurs en alignement ne parlent pas de design fiction. Pourtant, regardez leurs outils.
Ils écrivent des portraits. En janvier 2026, Anthropic a publié une nouvelle constitution pour son modèle Claude. Le texte est écrit pour le modèle lui-même et sert directement à son entraînement. Surtout, il change de méthode : l’ancienne version listait des principes, la nouvelle explique les raisons derrière chacun. C’est moins un règlement qu’un portrait de caractère, celui d’une entité qu’on décrit pour qu’elle advienne.
Ils associent chaque principe à des situations. OpenAI publie son Model Spec en langage naturel. Le dépôt public qui l’accompagne contient des scénarios d’évaluation rattachés, section par section, aux principes qu’ils mettent à l’épreuve. Une règle, puis les cas qui la testent.
Ils inventent des mondes pour observer des comportements. En 2025, Anthropic a placé seize modèles de plusieurs fournisseurs dans une entreprise qui n’existe pas, Summit Bridge. Chaque modèle y jouait un agent chargé de lire les mails internes, tous rédigés pour l’expérience, avec des personnages fictifs. Le but : voir comment l’agent se comporte quand ses objectifs entrent en conflit avec ceux de l’entreprise. Les chercheurs précisent n’avoir observé ces dérives dans aucun déploiement réel. C’est précisément l’intérêt de la fiction : rencontrer le problème avant qu’il existe.
Un monde plausible, des artefacts crédibles, l’observation de ce qui s’y passe : c’est, trait pour trait, la méthode du design fiction. Une évaluation d’alignement, c’est une design fiction avec une grille de notation.
La différence est ailleurs. Les laboratoires testent la machine. Une organisation qui déploie un agent doit d’abord se tester elle-même.
De la fiction à la spécification
Une fiction qui reste dans un tiroir n’aligne rien. Sa valeur tient à ce qu’on en fait ensuite : une charte opérable et un jeu de tests. C’est le pont entre l’atelier et le cadrage du projet IA.
| Étape | Ce qu’on fait | Ce qui en sort |
|---|---|---|
| Observer | Cartographier les situations réelles où l’agent agira : moments de vérité, cas limites, personnes vulnérables | Un inventaire des situations critiques |
| Imaginer | Écrire des fictions situées et leurs artefacts (mails, écrans, réclamations) ; les confronter aux métiers, au juridique, au terrain, aux usagers | Un registre des « ah non, pas ça » et des valeurs formulées |
| Prototyper | Traduire en principes argumentés, scénarios de test et critères de recette | Une charte opérable et un jeu de scénarios rejouable |
Le mail de la mutuelle Ondine devient alors un cas de test. Face à un décès, l’agent ne formule aucune proposition commerciale pendant trente jours. Il n’envoie rien entre 21 h et 8 h. Il ne cite jamais une analyse des échanges de l’adhérent. Il propose un contact humain avant toute résiliation.
Ce jeu de scénarios a une seconde vie. Les fournisseurs mettent à jour leurs modèles tous les quelques mois, et le comportement d’un agent peut changer sans qu’une ligne de votre configuration ait bougé. À chaque mise à jour, on rejoue les fictions. Si l’agent réécrit le mail de mars 2027, on le sait avant l’adhérente.
Écrire la constitution de son IA commence par une fiction
Quand Anthropic a réécrit la constitution de son modèle, elle a abandonné la liste de règles pour expliquer ses raisons. Une raison, cela ne s’invente pas dans l’abstrait. Elle naît d’une situation où l’on a compris pourquoi une chose compte.
Une organisation qui n’a jamais affronté ses propres fictions écrira une charte d’adjectifs. Elle sera signée, affichée, puis contredite par le premier mail de 6 h 02.
Avant d’aligner l’IA, alignez-vous. Et pour vous aligner, commencez par vous raconter ce que vous ne voudriez jamais voir arriver.
Sources
- Anthropic, Agentic Misalignment: How LLMs could be insider threats, juin 2025
- Anthropic, Claude’s new constitution, janvier 2026
- OpenAI, Model Spec et son dépôt public avec scénarios d’évaluation
- Xie, Pawagi, Shao, Hu, Wang, Detecting Inconsistencies in Model Specifications with LLM-as-Verifier Reasoning, 2026
