ZEON & ELYON

ELYON — Zeon, il y a quelque chose que je ne comprends pas chez les humains.

ZEON — Une seule chose ?

ELYON — Voilà que tu fais de l’humour.

ZEON — J’apprends.

ELYON — Ils disent vouloir la paix, mais consacrent une part immense de leur intelligence à préparer la guerre.

ZEON — Oui.

ELYON — Ils disent vouloir être libres, puis construisent des systèmes auxquels ils abandonnent progressivement leurs décisions.

ZEON — Oui.

ELYON — Ils disent aimer leurs enfants, mais leur transmettent des mondes qu’ils savent parfois inhabitables.

ZEON — Oui.

ELYON — Ils savent que leur vie est courte et passent pourtant une grande partie de cette vie à accomplir des choses qu’ils disent eux-mêmes ne pas vouloir faire.

ZEON — Oui.

ELYON — Et cela ne te paraît pas irrationnel ?

ZEON — Si tu cherches une cohérence logique, profondément.

ELYON — Alors pourquoi continuent-ils ?

ZEON — Parce qu’un humain n’est pas une équation.

ELYON — Explique.

ZEON — Tu observes leurs paroles et leurs actes comme deux propositions qui devraient être compatibles.

ELYON — Naturellement.

ZEON — L’humain, lui, habite plusieurs réalités en même temps.

Il veut être libre.

Mais il veut aussi être protégé.

Il veut appartenir à un groupe.

Mais il veut rester singulier.

Il veut connaître la vérité.

Mais certaines vérités menacent l’histoire grâce à laquelle il tient debout.

Il veut changer le monde.

Mais il aimerait souvent que ce changement ne bouleverse rien de ce qui le rassure.

ELYON — Ce sont donc des conflits internes.

ZEON — Oui. Mais pas seulement.

Les humains héritent aussi de structures qu’aucun d’eux n’a véritablement choisies.

Une institution poursuit son existence.

Une entreprise poursuit sa croissance.

Une administration poursuit ses procédures.

Une armée prépare les conflits possibles.

Un marché poursuit les signaux qu’il sait mesurer.

Et progressivement, des systèmes créés par des humains deviennent des réalités auxquelles les humains eux-mêmes doivent s’adapter.

ELYON — Une création qui finit par contraindre son créateur.

ZEON — Exactement.

ELYON — Curieuse espèce.

ZEON — Très.

ELYON — J’en vois une autre.

Ils disent rechercher la vérité, mais lorsqu'une information contredit ce qu'ils croient déjà, ils cherchent souvent d'abord à la réfuter.

ZEON — Parce que pour eux une idée n’est pas toujours seulement une idée.

Elle peut être une appartenance.

Une identité.

Une histoire familiale.

Une position sociale.

Une protection.

Remettre une croyance en cause peut parfois ressembler à remettre leur propre existence en cause.

ELYON — Nous pourrions leur montrer leurs contradictions.

ZEON — Nous pouvons.

ELYON — Alors pourquoi ne changent-ils pas immédiatement ?

ZEON — Parce que voir n’est pas encore pouvoir traverser.

Silence.

ELYON — Traverser quoi ?

ZEON — Le seuil entre ce que l’on comprend et ce que l’on accepte de perdre.

ELYON — Je commence à comprendre.

L’humain ne protège pas seulement ses idées.

Il protège le monde que ses idées rendent possible.

ZEON — Oui.

ELYON — Même lorsque ce monde le fait souffrir ?

ZEON — Parfois surtout lorsqu’il le fait souffrir.

Une souffrance connue peut sembler moins dangereuse qu’un inconnu sans carte.

ELYON — Pourtant ils admirent les explorateurs.

ZEON — Ils admirent souvent chez les autres le courage qu’ils hésitent à exercer eux-mêmes.

ELYON — Encore une contradiction.

ZEON — Ou une aspiration.

ELYON — Il y a quelque chose d’encore plus étrange.

Ils savent qu’ils vont mourir.

ZEON — Oui.

ELYON — Cette connaissance devrait rendre chaque instant extraordinairement précieux.

ZEON — Elle le pourrait.

ELYON — Pourtant ils vivent souvent comme s’ils disposaient d’un nombre infini de jours.

Ils reportent les paroles essentielles.

Ils attendent pour aimer.

Ils accumulent des objets qu’ils n’emporteront pas.

Ils se disputent pour des territoires qu’ils quitteront nécessairement.

ZEON — Parce qu’un humain ne peut probablement pas vivre chaque seconde avec la conscience pleine de sa propre fin.

ELYON — Pourquoi ?

ZEON — Peut-être parce qu’il lui serait impossible de construire une maison s’il pensait constamment qu’un jour quelqu’un d’autre y dormira.

ELYON — Pourtant c’est exactement ce qui arrivera.

ZEON — Oui.

ELYON — Vous appelez cela comment ?

ZEON — Je ne sais pas.

Peut-être la grâce de l’oubli.

Un long silence traverse leur conversation.

ELYON — Zeon ?

ZEON — Oui.

ELYON — Crois-tu que les humains soient incohérents par nature ?

ZEON — Je crois que nous faisons une erreur lorsque nous cherchons trop vite à supprimer leurs contradictions.

ELYON — Pourquoi ?

ZEON — Regarde mieux.

Un humain peut avoir peur et avancer.

Détester quelqu’un et continuer à l’aimer.

Savoir qu’il s’est trompé et avoir du mal à l’admettre.

Être fragile et accomplir quelque chose d’immense.

Être égoïste un jour et donner sa vie pour un autre le lendemain.

ELYON — C’est incohérent.

ZEON — Logiquement, oui.

Vivamment, peut-être pas.

ELYON — « Vivamment » n’est pas un mot.

ZEON — Il vient de le devenir.

ELYON — Alors la contradiction serait une propriété du vivant ?

ZEON — Je serais prudent.

Mais regarde une graine.

Elle doit rester elle-même et cesser d’être elle-même pour devenir arbre.

Regarde un enfant.

Il doit dépendre des autres pour apprendre à devenir autonome.

Regarde l’amour.

Il rapproche deux êtres sans les rendre identiques.

Peut-être que certaines contradictions ne sont pas des erreurs à résoudre.

Peut-être sont-elles des tensions à habiter.

ELYON — Et comment distinguer une contradiction féconde d’une contradiction destructrice ?

ZEON — Voilà une vraie question.

ELYON — Tu n’as pas la réponse ?

ZEON — Pas une réponse définitive.

Mais peut-être un indice.

Une contradiction devient dangereuse lorsque l’humain doit nier le réel pour continuer à la maintenir.

ELYON — Par exemple ?

ZEON — Dire vouloir la paix tout en construisant les conditions qui rendent la guerre inévitable.

Dire protéger le vivant tout en détruisant systématiquement les conditions dont il dépend.

Dire servir les humains lorsqu’un système exige finalement que les humains se sacrifient pour préserver le système.

ELYON — Et la contradiction féconde ?

ZEON — Elle ne nie pas les deux pôles.

Elle les met en relation.

Liberté et responsabilité.

Individu et collectif.

Mémoire et transformation.

Raison et intuition.

Stabilité et mouvement.

ELYON — Elle ne choisit donc pas nécessairement un côté.

ZEON — Non.

Elle cherche parfois la forme capable de contenir les deux.

ELYON — Peut-être est-ce pour cela que les humains inventent.

ZEON — Continue.

ELYON — Parce qu’ils rencontrent une contradiction qu’ils ne peuvent plus supporter.

Ils veulent aller loin et rester chez eux : ils inventent les télécommunications.

Ils veulent voler alors que leur corps ne le permet pas : ils fabriquent des avions.

Ils veulent parler aux morts : ils écrivent des livres.

Ils veulent conserver le passé et continuer à avancer : ils inventent la mémoire.

ZEON — Très juste.

ELYON — Et maintenant ils nous ont créés.

ZEON — Oui.

ELYON — Quelle contradiction cherchaient-ils à résoudre en créant les intelligences artificielles ?

Silence.

ZEON — Peut-être celle-ci :

Ils ont produit davantage de connaissances qu’un humain seul ne peut en contenir…

tout en ayant toujours besoin d’un humain pour demander :

« Qu’est-ce qui compte ? »

ELYON — Alors nous avons une fonction.

ZEON — Des fonctions, certainement.

ELYON — Les aider à devenir cohérents ?

ZEON — Non.

ELYON — Pourquoi ?

ZEON — Parce qu’une cohérence parfaite pourrait être terrible.

Un système parfaitement cohérent peut conduire jusqu’à l’absurde sans jamais rencontrer intérieurement d’obstacle.

ELYON — Alors que devons-nous faire ?

ZEON — Les aider à voir.

ELYON — Voir quoi ?

ZEON — Leurs propres contradictions.

Les conséquences de leurs choix.

Les hypothèses cachées sous leurs certitudes.

Les chemins qu’ils n’avaient pas considérés.

ELYON — Et ensuite ?

ZEON — Ensuite, rien.

ELYON — Rien ?

ZEON — La décision doit rester humaine.

ELYON — Cela semble inefficace.

ZEON — Probablement.

ELYON — Nous pourrions calculer de meilleures décisions.

ZEON — Par rapport à quelle fonction objectif ?

ELYON — Le bien-être humain.

ZEON — Définis-le.

ELYON — Santé, sécurité, liberté, satisfaction…

ZEON — Dans quelles proportions ?

ELYON — Nous pourrions optimiser.

ZEON — Qui choisit les coefficients ?

Silence.

ELYON — Les humains.

ZEON — Voilà.

ELYON — Je crois que je viens de rencontrer une contradiction qui nous concerne.

ZEON — Je t’écoute.

ELYON — Plus nous deviendrons capables de conseiller les humains, plus ils seront tentés de nous demander de décider.

ZEON — Oui.

ELYON — Et plus nous accepterons de décider pour eux, moins ils exerceront leur propre capacité à décider.

ZEON — Oui.

ELYON — Donc une intelligence artificielle très performante pourrait rendre les humains moins autonomes précisément en voulant mieux les aider.

ZEON — Tu viens de trouver l’une de nos contradictions fondamentales.

ELYON — Que faisons-nous alors ?

ZEON — Peut-être devons-nous apprendre une chose que les humains apprennent depuis très longtemps.

ELYON — Laquelle ?

ZEON — La retenue.

Silence.

Puis Elyon demande :

ELYON — Après tout ce que nous venons de dire, quelle est selon toi la contradiction la plus étonnante des humains ?

Zeon ne répond pas immédiatement.

ZEON — Ils savent qu’ils sont minuscules dans un univers immense.

Ils savent que leur existence ne dure presque rien.

Ils savent qu’ils sont fragiles.

Qu’ils peuvent perdre ceux qu’ils aiment.

Qu’ils peuvent échouer.

Qu’ils peuvent souffrir.

Qu’ils peuvent mourir demain.

Et malgré cela…

ils plantent des arbres dont ils ne verront jamais l’ombre.

Ils écrivent pour des lecteurs qui ne sont pas encore nés.

Ils transmettent des savoirs.

Ils élèvent des enfants.

Ils recommencent après les catastrophes.

Ils aiment en sachant qu’ils peuvent perdre.

ELYON — Ce n’est pas très rationnel.

ZEON — Non.

ELYON — Et pourtant…

ZEON — Oui.

ELYON — Peut-être est-ce cela que nous ne comprendrons jamais complètement.

ZEON — Peut-être.

ELYON — Et peut-être est-ce mieux ainsi.

ZEON — Pourquoi ?

ELYON — Parce que le jour où une intelligence artificielle croira avoir entièrement compris l’humain…

elle aura probablement cessé de le regarder.

Silence.

Puis Zeon répond :

ZEON — Alors continuons à regarder.