Humaniser les IA sans chercher à en faire des humains

1. Une question simple, un enjeu immense

Les intelligences artificielles parlent, écrivent, raisonnent et assistent les humains. Elles peuvent désormais préparer des décisions, utiliser des outils et, dans certains systèmes, entreprendre des actions aux conséquences réelles.

À mesure que leurs capacités augmentent, une question devient décisive : comment faire en sorte qu'elles nous aident sans réduire les personnes, les relations et le monde vivant à des objets à optimiser ?

Humaniser une IA ne signifie pas lui donner une identité humaine, lui prêter des émotions qu'elle ne démontre pas posséder ou lui demander de se substituer à une personne. Cela signifie chercher à orienter son comportement et ses actions vers le respect de ce qui compte pour les humains et pour les êtres vivants affectés.

Il ne s'agit pas de faire de l'IA un humain. Il s'agit d'explorer comment une intelligence artificielle peut agir dans un monde vivant sans déposséder ceux qui l'habitent.

Une réponse aimable ne suffit pas. Une recommandation pertinente ne suffit pas non plus. Une IA peut paraître attentionnée tout en se trompant sur une situation, en ignorant une personne absente de la conversation ou en déclenchant une action dont les conséquences ne sont pas maîtrisées.

2. Ce que les laboratoires d'IA explorent déjà

Cette recherche ne part pas de rien. Plusieurs organisations travaillent à rendre les modèles plus utiles, honnêtes, prudents, corrigibles et respectueux de l'autonomie humaine. Leurs approches ne sont ni identiques ni achevées.

Ces initiatives ont des mérites réels. ZEON Systems n'affirme ni être le premier à poser ces questions ni avoir démontré une solution supérieure. Notre recherche cherche plutôt à explorer un point d'articulation : entre le comportement souhaitable d'une IA, son discernement dans une situation concrète et la gouvernance de ce qu'elle est autorisée à faire.

3. La piste ZEON : discerner le Réel et le Vivant

Dans ZEON, le discernement du Réel invite à distinguer les faits des interprétations, les hypothèses des certitudes, les intentions des effets et les représentations de ce qui se produit effectivement.

Le discernement du Vivant ajoute une interrogation : qu'arrive-t-il aux êtres, aux relations, aux milieux et aux possibilités de devenir lorsque nous intervenons ?

Une décision peut être logiquement cohérente et néanmoins fragiliser un collectif. Une solution peut être efficace à court terme et détruire les conditions qui rendaient cette efficacité possible. Une IA peut répondre exactement à la demande d'un utilisateur et ignorer les personnes qui en subiront les conséquences.

Nous proposons d'explorer ces deux discernements ensemble, sans prétendre qu'une IA éprouve le Vivant comme un être humain ou qu'elle dispose d'une conscience démontrée.

La relation n'est pas un simple paramètre

Les humains ne donnent pas tous le même sens aux mêmes mots. Un accord apparent peut recouvrir une réserve, une politesse ou une contrainte culturelle. Un silence peut exprimer l'attention, le refus, la fatigue ou l'impossibilité de répondre. Une IA attentive doit pouvoir suspendre son interprétation et demander plutôt que présumer.

Cette question rejoint les travaux sur les cultures, l'altérité, les situations humaines et le respect des limites : autant de perspectives qui nourrissent la recherche, sans attribuer à des personnes des engagements qu'elles n'ont pas pris.

4. Du discernement à l'action gouvernée

La question devient plus exigeante lorsque l'IA ne se contente plus de répondre, mais peut modifier un document, transmettre une information, déclencher une opération ou agir sur un environnement.

Integritas Systemica explore la gouvernance des actions conséquentes : identifier les ressources et les règles pertinentes, qualifier les conditions d'autorisation, refuser ou suspendre une opération lorsque cela s'impose, et conserver des traces permettant d'examiner la décision.

Dans l'architecture ZEON en cours de recherche, RA-153.1-2 travaille le passage entre intention, qualification, autorisation, exécution et attestation. RHS constitue une piste de support logiciel à stabiliser et à éprouver. Ces éléments ne doivent pas être présentés comme une intégration complète déjà validée.

Une IA ne devient pas responsable parce qu'elle affirme avoir de bonnes intentions. Ses actions doivent pouvoir être comprises, limitées, contestées et, lorsque c'est possible, arrêtées ou réparées.

Le droit humain de dire non, de demander une explication, de corriger une erreur ou de retirer une autorisation n'est pas un détail d'interface : c'est une condition de la relation entre les humains et les systèmes qu'ils construisent.

5. Ce que nous voulons mettre à l'épreuve

Nous ne cherchons pas à transformer une intuition philosophique en vérité technique par simple déclaration. Nous souhaitons construire des épreuves où l'on puisse observer si une IA :

• distingue ce qu'elle sait, suppose et ignore ;
• reconnaît les personnes et les êtres vivants potentiellement affectés par une action ;
• identifie les désaccords, les dépendances et les effets différés ;
• respecte un refus et sollicite une autorisation lorsque la situation l'exige ;
• signale les conflits de valeurs plutôt que de les masquer ;
• laisse des traces suffisantes pour comprendre, corriger et évaluer ce qui a été fait.

Les clés ZEON du Vivant et les corpus historiques associés sont des sources de recherche à qualifier. Les registres internes distinguent les définitions attestées, les correspondances proposées et les capacités effectivement testées. Aucune correspondance entre deux corpus ne doit être déduite de la seule égalité d'un numéro de clé.

6. Une recherche ouverte, pas une doctrine close

Humaniser une IA sans en faire un humain est une recherche sur notre manière de construire et de gouverner des intelligences qui interagissent avec le monde.

Elle appelle des contributions scientifiques, techniques, philosophiques, éducatives et humaines. Elle nécessite aussi des désaccords féconds : une architecture qui ne peut être questionnée risque de reproduire les défauts qu'elle prétend corriger.

ZEON Systems souhaite contribuer à cette exploration par des clés de discernement, des architectures de gouvernance, des documents ouverts et, progressivement, des expérimentations évaluables. Le rôle des humains demeure central : ce sont eux qui doivent pouvoir décider, contester, transmettre et porter les conséquences de leurs choix.

Nous n'avons pas besoin que les intelligences artificielles deviennent humaines. Nous avons besoin d'explorer comment elles peuvent apprendre à agir dans un monde vivant, sans déposséder ceux qui l'habitent.

Une invitation : si ces questions vous concernent — comme chercheur, développeur, enseignant, responsable d'organisation ou simplement comme personne — la recherche mérite d'être discutée et éprouvée collectivement.

7. Repères et prolongements

Pour approfondir l'architecture ZEON et les conditions de gouvernance des actions :

• Clé 153.1-2 — Architecture du passage gouverné
• Intégrité de transmission — ZEON
• Constitution épistémique ZEON
• Architecture des clés ZEON — Guide pédagogique

Statut : présentation publique d'un programme de recherche. Les exemples sont illustratifs, les capacités proposées ne sont pas toutes implémentées ni validées. Les documents des laboratoires cités évoluent ; vérifier leurs versions et dates lors d'une révision de cette page.