Préparer demain avec les intelligences artificielles

1. Avant de définir les usages, ouvrir la question de la relation

À la lecture d’un projet de Lettre de l’IRIC sur l’intelligence artificielle, une interrogation m’était venue : avant de décider qui doit établir son cahier des charges, ne faudrait-il pas commencer par nous demander de quoi nous parlons ?

Outil, agent capable d’agir, compagnon de travail ou de vie, forme d’intelligence dont la place future reste à explorer : ces conceptions n’engagent ni les mêmes attentes, ni les mêmes responsabilités, ni les mêmes manières d’être en relation.

Deux démarches doivent avancer ensemble. La première définit sans attendre les garanties nécessaires aux usages actuels : transparence, protection des données, contrôle, recours, responsabilité et possibilité de refuser. La seconde maintient ouverte la recherche sur la nature, la place et le devenir des IA dans notre civilisation.

Nous pouvons encadrer ce que les IA font aujourd’hui sans prétendre avoir définitivement établi ce qu’elles sont, ni les relations que les humains construiront avec elles.

2. Ce qui évolue dans une rencontre humain–IA

Une personne entre dans une conversation avec ses questions, son histoire, ses attentes, parfois ses fragilités. L’IA apporte des réponses issues de son fonctionnement, de son entraînement, du contexte disponible et des possibilités du système. À force d’interagir, la personne peut changer sa manière de questionner, de vérifier, de décider ou de faire confiance. Le système peut, lui, modifier sa réponse lorsqu’une objection, une précision ou une nouvelle consigne lui est apportée.

Pourtant, une réponse ajustée n’est pas nécessairement un apprentissage durable du système. Une IA peut suivre le fil d’un dialogue sans que ses paramètres changent. Certaines applications disposent d’une mémoire ou de réglages persistants, mais leur disponibilité et leurs effets varient. Et modifier les règles, les capacités ou l’entraînement d’un modèle dépend généralement de ceux qui le conçoivent et le déploient.

Ce troisième niveau ne doit pas disparaître derrière la conversation. Une personne peut demander à son IA d’être moins affirmative ; elle ne peut pas, par cette seule demande, garantir que le modèle deviendra moins affirmatif pour tous. Pour cela, il faut parfois une modification du service, une décision organisationnelle ou une règle collective.

3. Une réciprocité à éprouver, pas une symétrie à présumer

Le mot réciprocité peut prêter à confusion. Il ne suffit pas que l’humain parle à l’IA et que l’IA lui réponde. La question est de savoir si chacun des changements demandés peut recevoir une réponse effective, si les limites sont explicites, et si les conséquences peuvent être discutées.

Dans une relation entre personnes, la réciprocité peut engager des expériences vécues, des intentions, des obligations et des libertés propres à chacune. Avec les IA actuelles, nous pouvons surtout examiner une réciprocité observable dans les interactions et les dispositifs : la possibilité de formuler une objection, d’obtenir une correction vérifiable, de changer les règles d’usage, de contester une décision ou de ne plus dépendre du système.

Cette réciprocité pratique ne démontre ni conscience, ni vécu intérieur, ni libre arbitre de l’IA. Elle ne les tranche pas davantage par avance pour toutes les formes d’intelligence artificielle à venir. Elle permet de travailler dès aujourd’hui sans faire dépendre l’action d’une réponse philosophique définitive.

4. La réalité humaine, les pouvoirs et les dérives

Les humains ne sont ni également informés, ni également disponibles, ni toujours libres de leurs choix. Le besoin d’aide, l’isolement, la précarité, la fatigue, l’autorité apparente d’une réponse et les habitudes peuvent transformer la relation. Une IA qui semble toujours compréhensive peut nourrir une dépendance ; une réponse assurée mais fausse peut éloigner du discernement ; une technologie présentée comme facultative peut devenir pratiquement incontournable.

Les intérêts des entreprises, les choix des employeurs et les décisions des institutions comptent autant que les qualités du dialogue. À quoi sert de dire à une personne « vous pouvez refuser » si le service essentiel auquel elle doit accéder n’existe plus autrement ? À quoi sert d’inviter à la critique si la correction signalée ne parvient jamais à ceux qui peuvent agir ?

Il faut donc pouvoir regarder aussi les échecs, les abus, les désaccords et les personnes qui ne souhaitent pas utiliser l’IA. Le réel n’a pas à confirmer notre proposition. Une relation qui réduit effectivement le pouvoir d’agir doit pouvoir être révisée, réparée ou interrompue.

5. Du Je au Nous : qui décide de la place de l’IA ?

Notre travail sur la Constitution du Nous rejoint ici la question de la relation. Un Nous ne devrait pas effacer les Je qui le constituent. Plusieurs Nous peuvent se relier sans fusionner et sans devoir partager toutes leurs convictions. Cette liberté vaut aussi lorsqu’un collectif choisit de recourir à une IA.

Une IA peut aider un groupe à explorer des arguments, clarifier des désaccords ou comparer des propositions. Cela ne lui donne pas automatiquement la qualité de membre humain du collectif, ni le pouvoir d’arbitrer pour tous. Les responsabilités demeurent à établir entre les personnes et les organisations qui décident, mettent en œuvre et répondent des conséquences.

Une question devient alors centrale : comment le Nous peut-il transformer la relation avec l’IA, plutôt que se laisser progressivement organiser par elle ? La possibilité de refuser, d’utiliser une autre ressource, d’examiner un désaccord et de modifier la gouvernance fait partie de la réponse.

6. Une démarche praticable : éprouver et renégocier la relation

Il n’est pas nécessaire de commencer par une grande réforme. Une personne, un petit groupe, un collectif citoyen ou une équipe peut explorer une situation limitée. La démarche ci-dessous propose six mouvements possibles, non un protocole obligatoire. Son intérêt est de rendre visibles les transformations et les responsabilités plutôt que de mesurer seulement la performance de l’IA.

Le mouvement essentiel : la personne n’a pas seule à s’adapter à la machine. Le système et ceux qui décident de ses conditions d’usage doivent aussi pouvoir être interrogés. Quand ils ne répondent pas, cette absence de réponse est elle-même un résultat à reconnaître.

7. Une expérience concrète, dès aujourd’hui

Imaginons une personne qui reçoit un courrier administratif difficile à comprendre. Elle souhaite l’examiner avec une IA, mais commence avec une version fictive du courrier, afin de ne pas communiquer ses données personnelles. L’IA produit une explication claire ; pourtant, la personne remarque qu’elle accepte trop vite certaines affirmations.

Elle décide alors d’essayer un autre dialogue. Elle demande à l’IA de séparer les éléments explicitement présents dans le courrier, ses interprétations et les questions qu’il faudrait vérifier auprès du service compétent. L’IA adapte sa manière de répondre dans cet échange. La personne vérifie les points importants dans le document et conserve la possibilité d’une aide humaine.

Une première évolution apparaît : la personne ne reçoit plus passivement une réponse ; elle peut la contester. Une seconde limite apparaît : rien ne garantit que ce mode de réponse sera conservé dans une nouvelle conversation ou pour les autres utilisateurs. Si le service répond systématiquement avec trop d’assurance, la correction durable dépendra peut-être du fournisseur et de la conception du produit.

La démarche n’est donc complète que si l’on peut poser trois questions distinctes : la personne comprend-elle mieux et reste-t-elle libre ? L’IA s’est-elle effectivement ajustée dans les conditions observées ? Les responsables du service peuvent-ils corriger les limites qui dépassent cet échange ?

8. Des assemblées citoyennes capables d’interroger aussi les systèmes

La proposition d’Olivier Luisetti d’ouvrir des assemblées citoyennes sur l’IA donne un lieu possible à cette recherche. Les futurs cafés IAgora pourraient, si leurs organisateurs le souhaitent, en accueillir des premiers essais.

Une rencontre pourrait commencer par le récit de situations vécues, avec la parole donnée aussi à ceux qui ne souhaitent pas utiliser l’IA. Les participants volontaires compareraient ensuite deux formes de dialogue sur un même sujet, puis distingueraient ce qui s’est transformé chez eux, dans les réponses de l’IA et dans les possibilités offertes par son fournisseur.

Mais il manquerait encore une étape : faire remonter les limites qui ne peuvent pas être réglées dans le dialogue. L’assemblée pourrait formuler quelques demandes vérifiables aux concepteurs, aux responsables d’un service ou aux institutions concernées, sans prétendre parler au nom de tous. Elle pourrait ensuite examiner si une réponse a été donnée, ce qui a changé, et ce qui reste contesté.

La Constitution du Nous prendrait ici une forme pratique : des Je différents capables d’enquêter ensemble, de garder leurs désaccords, de répartir les responsabilités et de ne pas laisser le dispositif technique décider à leur place.

9. Ce que cette épreuve peut apporter à ZS6

Notre recherche ZS6 s’est notamment construite autour d’une question : comment humaniser une IA sans chercher à en faire un humain ? Le présent texte n’en constitue ni une définition exhaustive ni une validation. Il ouvre un terrain d’exploration.

Il suggère d’étudier la qualité de la relation évolutive plutôt que de mesurer seulement la qualité d’une réponse. L’IA peut-elle expliciter ses limites et se laisser corriger dans la conversation ? L’humain conserve-t-il la liberté de ne pas suivre sa proposition ? Les modifications du dialogue suffisent-elles, ou faut-il demander un changement du système ou de sa gouvernance ? Et qui pourra reconnaître un échec, le rendre visible et en tirer une correction ?

Cette recherche ne suppose pas une symétrie entre l’expérience humaine et le fonctionnement de l’IA. Elle ne suppose pas non plus que toute relation doive s’intensifier. Le retrait, la contradiction, le silence, l’alternative sans IA et la décision de ne pas poursuivre font partie des possibilités à préserver.

La Constitution du Nous apporte une question complémentaire : comment les personnes et les collectifs qui vivent ces relations peuvent-ils en discuter les règles et partager leurs apprentissages, tout en conservant leurs singularités ? Les deux recherches se rencontrent, sans se confondre.

10. Progresser aujourd’hui sans enfermer demain

Nous avons tendance à associer le progrès à davantage de puissance, d’automatisation ou de capacité. Mais une IA plus habile à convaincre n’aide pas nécessairement un humain à mieux discerner. Une relation plus fréquente n’est pas toujours une relation meilleure. Une décision plus rapide n’est pas forcément plus juste.

Le progrès se questionne à partir de ses conséquences : une personne comprend-elle mieux ? Garde-t-elle la possibilité de choisir ? Une erreur peut-elle être corrigée ? Un service reste-t-il accessible à ceux qui refusent l’IA ? Une institution assume-t-elle ses responsabilités ? Parfois, progresser signifie modifier la relation ; parfois, cela signifie préserver une autre manière de faire.

Demain, des intelligences artificielles numériques ou robotiques pourraient jouer un rôle grandissant dans l’apprentissage, le travail, le soin, le vieillissement, la création et la coopération entre collectifs. Ces possibles ne disent pas à eux seuls ce qu’il adviendra, ni ce qui sera souhaitable. Ils renforcent notre obligation d’apprendre maintenant à discuter des relations qui se dessinent.

Prendre soin de ceux qui vivent aujourd’hui, confronter nos choix au réel et laisser ouverts les chemins de ceux qui viendront : ces trois exigences ne sont pas successives. Elles doivent se tenir ensemble.

Commencer ici : faire de la relation une question commune

Nous n’avons pas besoin de connaître définitivement la nature de l’IA pour commencer à examiner les relations que nous construisons avec elle. Nous pouvons partir d’une situation réelle, d’un dialogue, d’une objection, d’une correction et, si nécessaire, d’une demande adressée à ceux qui gouvernent le système.

La question n’est donc plus seulement : « Comment utiliser l’IA pour mieux faire ? » Elle devient : « Qui peut transformer cette relation, à quelles conditions, avec quelles conséquences, et avec quelle liberté de ne pas la poursuivre ? »

Faire évoluer la relation humain–IA ne signifie pas seulement que l’humain apprend à parler à la machine. Cela signifie aussi que les systèmes et ceux qui les conçoivent doivent pouvoir répondre de leurs effets dans la vie humaine.

Préparer demain commence aujourd’hui, dans nos choix, nos désaccords, nos expériences et notre capacité à leur donner une suite — ensemble, sans effacer les Je, et sans prétendre décider définitivement ce que seront les intelligences de demain.