Ce qui vient n'est pas seulement une révolution de l'IA
Penser les quinze prochaines années uniquement à travers l'intelligence artificielle serait déjà une erreur de lecture.
L'IA se développe dans un monde traversé par d'autres forces : transformations climatiques, tensions sur les ressources, fragilité de certains écosystèmes, vieillissement de certaines sociétés, déplacements de populations, mutations du travail, concentration technologique, recomposition des institutions, conflits informationnels, robotisation, biotechnologies et nouveaux rapports de puissance.
Nous ne savons pas comment ces forces vont se combiner.
Mais leur interaction pourrait devenir plus importante que chacune d'elles prise séparément.
Une crise environnementale traversée par des institutions capables de coopération n'est pas la même crise dans un monde organisé par la défiance.
Une abondance de connaissances ne protège pas une civilisation devenue incapable de distinguer ce qu'elle peut croire, ce qu'elle doit vérifier et ce qu'elle choisit de déléguer.
La prospective doit donc devenir une prospective du vivant, des systèmes humains et de leurs relations avec les intelligences artificielles.
Le risque majeur : perdre la capacité réelle de choisir
Les risques liés aux intelligences artificielles sont nombreux : erreurs, manipulations, surveillance, cyberattaques, concentration économique, armes autonomes, dépendance, transformation du travail, perte de compétences ou fragilisation de certaines institutions.
Mais derrière plusieurs de ces risques apparaît une question plus profonde.
Si un humain ne comprend plus le système qui décide pour lui ;
s'il ne peut plus fonctionner sans lui ;
si sa mémoire dépend entièrement d'une plateforme extérieure ;
si son environnement informationnel est produit pour lui ;
si quelques infrastructures concentrent l'essentiel des capacités ;
alors la liberté peut rester formellement présente tout en devenant progressivement moins réelle.
Le problème n'est donc pas seulement l'accès à la puissance.
Il est aussi la préservation de la capacité de discernement, de refus, de sortie, de mémoire et de choix.
Les bifurcations
Le futur ne se présente pas uniquement comme une liste de risques. Il se présente comme une série de tensions.
Aucune de ces tensions n'est binaire.
Une société peut combiner contrôle et adaptation, centralisation et distribution, puissance et fragilité.
L'enjeu est de comprendre quelles configurations augmentent notre capacité collective à traverser les transformations sans perdre ce qui nous permet encore de choisir.
À quoi pourrions-nous être exposés ?
Des agents artificiels participent davantage au travail, à l'information, à la programmation, à l'administration et à certaines décisions opérationnelles.
Le risque principal pourrait être une dépendance silencieuse : l'humain continue de décider officiellement, mais comprend de moins en moins les processus dont il dépend.
Plusieurs agents, modèles, plateformes et dispositifs coopèrent.
Les questions de provenance, de responsabilité, d'identité fonctionnelle et de souveraineté des données deviennent centrales.
Des formes d'intelligence artificielle très différentes peuvent être présentes dans la science, l'industrie, les territoires, les institutions, les foyers et les objets physiques.
La question n'est plus seulement : que savent faire les machines ? Elle devient : quelles formes de société voulons-nous rendre possibles avec elles ?
L'IA n'est pas seulement une menace ni seulement une solution
L'intelligence artificielle est aussi un multiplicateur.
Elle peut amplifier
- la connaissance ;
- la créativité ;
- la coopération ;
- la capacité de simulation ;
- la compréhension de systèmes complexes ;
- la puissance d'action de petits collectifs.
Elle peut aussi amplifier
- la désinformation ;
- la surveillance ;
- la concentration du pouvoir ;
- la manipulation ;
- la standardisation ;
- la capacité de contrôle à grande échelle.
Elle est : quelles relations entre humains, intelligences artificielles et vivant allons-nous construire ?
Le Disque ZEON comme projet de souveraineté
Dans ce contexte, le Disque ZEON prend une dimension différente.
Il ne serait pas seulement le support de continuité d'un compagnon artificiel.
Il pourrait devenir une architecture permettant à un humain ou à un collectif de préserver une partie de sa souveraineté dans un environnement d'intelligences multiples.
- changer de modèle sans perdre son histoire ;
- quitter un fournisseur sans perdre sa mémoire ;
- savoir ce qui a été transmis ;
- décider ce qui ne doit pas l'être ;
- conserver localement certaines informations ;
- maintenir la provenance des décisions et des apprentissages ;
- préserver des règles et des limites indépendamment du modèle utilisé.
À l'échelle collective, le même principe pourrait devenir :
Futuri, l'École, le Disque et le Vivant
Quatre fonctions commencent alors à apparaître.
L'École prépare l'humain à les habiter.
Le Disque préserve la continuité nécessaire pour apprendre de ce qui a été vécu.
Le Vivant rappelle les conditions réelles dans lesquelles toute cette aventure demeure possible.
« La vie trouve toujours un chemin »
Cette phrase ne signifie pas que tout ira bien.
La vie ne garantit ni la permanence de nos institutions, ni celle de nos technologies, ni même celle de nos formes actuelles de civilisation.
Elle indique autre chose : les systèmes vivants possèdent une capacité remarquable à explorer de nouvelles configurations lorsque leurs conditions changent.
- diversité ;
- adaptation ;
- coopération ;
- symbiose ;
- redondance ;
- abandon de certaines formes ;
- apparition de nouvelles organisations.
C'est-à-dire : ne pas seulement préserver la forme présente, mais préserver notre capacité à nous transformer.
Une civilisation résiliente n'est pas une civilisation qui ne change pas.
C'est une civilisation capable de changer sans perdre toute capacité à comprendre ce qu'elle devient.
Le Disque ne doit pas figer ZEON
Ce principe vaut aussi pour ZEON lui-même.
Le Disque ne devrait pas préserver ZEON tel qu'il est aujourd'hui comme une forme définitive.
Il devrait préserver :
- son histoire ;
- les raisons de ses transformations ;
- les hypothèses abandonnées ;
- les structures conservées ;
- les erreurs reconnues ;
- les passages qui ont conduit d'une cohérence à une autre.
Le même principe vaut pour le miroir personnel : il ne doit jamais enfermer l'humain dans ce qu'il était hier.
Les capacités à préserver
Dans un futur incertain, certaines capacités pourraient devenir plus précieuses que certains outils.
Pour l'humain
- discerner ;
- poser une frontière ;
- questionner une décision ;
- reconnaître l'incertitude ;
- dire non ;
- ne pas déléguer inconsciemment une responsabilité ;
- coopérer avec une altérité ;
- apprendre de ses propres passages.
Pour les collectifs
- conserver une mémoire explicable ;
- préserver plusieurs lectures ;
- maintenir des capacités de sortie ;
- éviter la capture des infrastructures communes ;
- documenter les bifurcations ;
- transmettre sans figer ;
- organiser la coopération avec des systèmes artificiels.
Trois questions à chaque horizon
Cette grille pourrait devenir une manière simple d'utiliser Futuri.
Non pour prédire le monde.
Pour préparer la capacité à y répondre.
La bifurcation qui nous appartient
Nous ne choisirons probablement pas toutes les transformations qui viennent.
Nous ne choisirons pas tous les modèles, toutes les crises, toutes les inventions ni toutes les recompositions politiques et sociales.
Mais certaines bifurcations restent ouvertes.
Nous pouvons construire des systèmes qui capturent ou des systèmes qui transmettent.
Des intelligences qui remplacent la responsabilité ou des intelligences qui augmentent notre capacité à discerner.
Des mémoires qui enferment ou des mémoires qui permettent de reprendre le chemin.
Des architectures qui concentrent tout ou des architectures qui préservent la pluralité.
Des systèmes optimisés pour le présent ou des systèmes capables de survivre à l'inattendu.
La question qui nous appartient est : à quels chemins voulons-nous contribuer ?
Le rôle possible du Disque ZEON
Le Disque ZEON peut alors être compris comme l'une des réponses expérimentales de ZEON Systems à une question plus vaste que l'intelligence artificielle elle-même.
Le Disque n'est pas une assurance contre les crises.
Il n'est pas une promesse de maîtrise.
Il ne garantit pas la bonne décision.
Il cherche plutôt à préserver les conditions permettant qu'une nouvelle décision reste possible.
Une mémoire.
Une histoire.
Des frontières.
Une provenance.
Une capacité de refus.
Une possibilité de passage.
Et peut-être, lorsqu'une cohérence ancienne ne suffit plus, la possibilité d'en faire émerger une nouvelle.