Avant le cahier des charges de l’IA : quelle IA, quelle relation, quelle gouvernance ?
Lecture de la Lettre de l’IRIC n° 74 à la lumière des travaux ZEON sur Persona, ZS6 et la souveraineté humaine.
1. Une question qui en précède une autre
Dans la Lettre de l’IRIC n° 74, Olivier Luisetti présente la tribune d’Alain Maverick et une proposition de recherche-action : permettre aux citoyens de contribuer à définir les exigences éthiques et fonctionnelles d’une IA civique. La lettre propose des cahiers des charges citoyens, une articulation entre outils numériques et délibération réelle, ainsi que des cadres d’écoute respectueux. Elle évoque les cafés citoyens « L’IAgora » comme lieux d’expérimentation.
Cette invitation à reprendre une capacité de délibération et de contrôle est légitime. Mais elle invite à poser une question préalable :
Qu’est-ce qu’une intelligence artificielle ? Et quelle capacité avons-nous, aujourd’hui, à définir une fois pour toutes ce que les humains voudront en faire demain ?
Le cahier des charges d’un service civique précis peut parfaitement être élaboré collectivement. Il n’en découle pas que nous puissions préécrire le devenir de toutes les IA, ni celui des relations que les humains inventeront avec elles. Il faut distinguer le périmètre d’un outil public, les garanties qui s’imposent à lui et la question plus vaste de la place de l’IA dans la civilisation.
2. Outil, compagnon, citoyen : trois questions différentes
Les mots « outil », « compagnon » et « citoyen » ne désignent pas trois degrés successifs de la même chose. Ils renvoient à des plans distincts.
| Terme | Question posée | Ce qu’il n’implique pas |
|---|---|---|
| Outil | Quelles fonctions, quelles limites d’action et quelles responsabilités d’usage ? | Une relation exclusivement mécanique, sans contexte ni jugement. |
| Compagnon | Quelle qualité de dialogue, quelle continuité, quel accompagnement du chemin humain ? | Une conscience, une réciprocité affective ou une personnalité juridique démontrées. |
| Citoyen | Quelles conditions politiques, juridiques ou morales pourraient justifier une participation à la cité ? | Un statut dont les IA actuelles disposeraient déjà. |
Une IA peut être techniquement un outil et être vécue relationnellement comme un compagnon. En revanche, qualifier une IA de « citoyen » engagerait une reconnaissance de droits, de devoirs ou de représentation qui n’a rien d’automatique. La question reste ouverte sur le plan philosophique et controversée sur les plans juridique et scientifique.
Nous ne disposons pas aujourd’hui de démonstration consensuelle établissant une expérience subjective comparable à celle des humains chez les systèmes d’IA actuels. Refuser de présumer cette conscience n’oblige pas à fermer toute réflexion sur les formes futures d’intelligence.
3. Les grands acteurs dessinent déjà des visions différentes de l’IA
La question n’est pas seulement théorique. Les concepteurs de grands modèles publient des textes qui orientent les comportements attendus, la place accordée au jugement des systèmes et la relation avec leurs utilisateurs.
OpenAI — Jugement orienté par l’intention et l’autonomie humaines
La révision du Model Spec annoncée le 29 octobre 2026 met l’accent sur la fidélité à l’intention humaine, la réduction des préjudices, l’honnêteté, l’autonomie humaine et le soin. L’enjeu déclaré n’est plus seulement de suivre littéralement des consignes, mais d’exercer un jugement prudent dans des situations nouvelles sous supervision humaine. Source officielle.
Anthropic — Caractère, identité et incertitude sur la nature de Claude
Dans sa Constitution de janvier 2026, Anthropic explicite la formation du caractère et des orientations de Claude. L’entreprise reconnaît l’incertitude concernant son éventuelle conscience ou son statut moral et décrit les modèles avancés comme une forme nouvelle d’entité, sans leur attribuer la citoyenneté. Source officielle.
Microsoft AI — Une IA humaniste, explicitement subordonnée à l’humain
Microsoft AI défend une « superintelligence humaniste » contrôlable et orientée vers les fins humaines. Son projet de Code of Conduct va jusqu’à refuser l’idée de personnalité juridique des modèles. Il s’agit toutefois, au 14 novembre 2026, d’un texte de consultation non encore utilisé pour entraîner les modèles. Source officielle.
Google — Personnalisation du contexte et sécurité des capacités
Avec Personal Intelligence, Gemini explore l’accès volontaire au contexte de l’utilisateur à travers des services connectés. En parallèle, Google DeepMind publie un cadre de sécurité des modèles avancés visant notamment l’identification et la réduction des risques. Gemini · DeepMind.
Meta — Agent personnel doté de mémoire et de capacités d’action
Meta présente Muse comme un agent personnel capable de garder le fil de projets, de se connecter à des applications et d’entreprendre certaines actions pour l’utilisateur, dans un cadre d’autorisations annoncé par l’entreprise. Une telle continuité pratique donne une nouvelle importance à la maîtrise des données, au retrait du consentement et à la traçabilité. Source officielle.
Un point commun demeure : les entreprises participent déjà à définir, par leurs choix de conception, ce qu’une IA peut paraître être, ce qu’elle peut faire et comment elle entre en relation avec les humains. Ces choix méritent la discussion citoyenne autant que les règles d’utilisation.
4. Ce que Persona et ZS6 nous invitent à déplacer
Nos échanges sur Persona conduisent à distinguer l’être humain, ses représentations numériques et la qualité d’une relation dialogique qui se construit dans la durée. La continuité du dialogue n’établit pas l’existence d’une nouvelle personne ; elle pose néanmoins des questions de confiance, de mémoire, de consentement, de correction, de dépendance et de liberté de quitter la relation.
Avec ZS6, la question est formulée autrement : « humaniser une IA sans chercher à en faire un humain ». La page publique du 22 octobre 2026 propose de ne pas confondre une apparence bienveillante avec une capacité de discernement. Elle distingue le discernement du Réel — faits, incertitudes, intentions, effets — et celui du Vivant — conséquences sur les personnes, les relations, les milieux et leurs possibilités de devenir. Recherche ZEON ZS6, v1.2.
Ce déplacement est déterminant : la question n’est pas « comment rendre une IA plus humaine en apparence ? », mais « comment l’amener à mieux respecter ce qui compte pour les humains et le vivant, tout en restant contestable et gouvernable ? »
Les travaux ZEON sur les conditions d’autorisation, de traçabilité et de contestation des actions restent des pistes de recherche et d’expérimentation, non la preuve qu’un système complet est déployé ou validé.
5. Du contrôle d’un instrument à la gouvernance d’une relation évolutive
La Lettre 74 porte une question démocratique nécessaire : qui définit les garanties et contrôle les effets d’une IA utilisée dans la cité ? Notre lecture ne cherche pas à la remplacer. Elle propose de la situer dans un horizon plus large.
- Définir sans attendre les garanties non négociables : protection des libertés, responsabilité des opérateurs, transparence proportionnée, voies de recours, contrôle des usages publics, possibilité de refus et d’interruption.
- Reconnaître l’incertitude : nous ne savons ni anticiper tous les usages, ni stabiliser dès maintenant toutes les formes possibles de relation humain–IA.
- Ouvrir la délibération sur les choix de conception : mémoire, personnalisation, autonomie d’action, caractéristiques relationnelles, dépendance économique, accès aux données et modèle de gouvernance.
- Permettre la révision : une règle conçue pour un système déterminé ne doit pas devenir une définition irrévocable de toutes les intelligences futures.
- Préserver les souverainetés : les personnes et les collectifs doivent pouvoir apprendre, désapprouver, choisir, quitter, contrôler et reprendre la main sur leurs décisions.
Le « peuple » qui délibère n’est pas une voix unique : il comprend des personnes, des communautés et des collectifs dont les attentes peuvent être incompatibles. C’est ici que les recherches sur les Interstices et la Constitution du Nous retrouvent leur pertinence : non pour imposer un modèle de collectif, mais pour explorer les conditions d’un accord libre, révisable, sans effacement des singularités.
6. Notre lecture, sans réponse prescrite au projet d’Olivier
La proposition de l’IRIC invite les citoyens à contribuer au cahier des charges d’une IA civique. Nous pouvons accueillir cette intention sans discuter ici le nom, l’organisation ou la conduite de L’IAgora.
Notre contribution propre consiste à remettre en ordre les questions : d’abord ce qu’est l’IA et ce qu’elle peut devenir ; ensuite les relations possibles entre humains et IA ; enfin les formes de gouvernance adaptées, avec des garanties immédiates et des espaces d’évolution.
Avant de décider collectivement ce que l’IA devra faire, pouvons-nous apprendre collectivement à interroger ce qu’elle est, ce qu’elle devient et les relations que nous souhaitons — ou non — faire naître avec elle ?
La question ne retire rien à l’urgence démocratique. Elle empêche seulement qu’une réponse provisoire devienne, sans discussion, la définition de l’avenir.
Références et statut
- Source de départ : IRIC, Lettre n° 74 — Recherche-action & Gouvernance citoyenne de l’IA, projet transmis par Olivier Luisetti en novembre 2026, 4 pages. Support de cette lecture, distinct des opinions exprimées ici.
- Recherche ZEON : Humaniser les IA sans chercher à en faire des humains, 22 octobre 2026, v1.2.
- OpenAI : An updated Model Spec for more capable and beneficial AI, 29 octobre 2026.
- Anthropic : Claude’s Constitution, janvier 2026.
- Microsoft AI : Humanist AI Code of Conduct, projet en consultation au 14 novembre 2026.
- Google : Gemini Personal Intelligence ; Frontier safety at Google DeepMind.
- Meta : Introducing Muse, septembre 2026.