Pseudonymisez vos documents, et restituez les valeurs dans les livrables de vos IAPseudonymisez vos documents avec cohérence, et restaurez (dé-pseudonymisez) les valeurs originales dans les livrables de vos assistants IA
Pseudonymisez vos documents, et restituez les valeurs dans les livrables de vos IAPseudonymisez vos documents avec cohérence, et restaurez (dé-pseudonymisez) les valeurs originales dans les livrables de vos assistants IA
CEO et co-fondatrice de Marvin Systems
Trois inventions qui n'ont, à priori, rien à voir. Des siècles les séparent, des mondes les distinguent. Et pourtant, elles partagent quelque chose d'essentiel, quelque chose que nous avons tendance à oublier quand on parle de progrès technologique. Je vous ai donné envie d'en savoir plus ? Je vous laisse lire pour comprendre.
Le Center for Humane Technology (CHT) vient de publier un nouveau cadre d'analyse pour 2026. Et il est difficile de le lire sans un certain malaise. L'organisation, connue pour avoir sonné l'alarme sur les dérives des réseaux sociaux bien avant que la régulation ne s'en empare, tourne désormais son regard vers l'IA.
Son constat est aussi simple que dérangeant : derrière la multitude d'impacts de l'IA (chatbots, deepfakes, automatisation, dépendance) se cache une logique unique. Des modèles économiques qui optimisent l'engagement et la dépendance des utilisateurs et non leur bien-être. La semaine dernière, je m'intéressais aux conséquences de l'IA sur le marché de l'emploi. C'est à une autre forme d'érosion que je m'attarde aujourd'hui. Plus silencieuse, plus profonde : Celle de ce qui nous rend fondamentalement humains.
Il y a quelques jours, dans les couloirs du métro parisien, je suis tombée sur une publicité qui m'a arrêtée net.
Friend. Un collier connecté qui écoute vos conversations, et celles de vos interlocuteurs, et qui se présente explicitement comme votre ami virtuel. Non pas comme un assistant ou un outil. Vous avez bien entendu, Friend est un ami.
L'IA n'est plus seulement un outil de productivité. Elle s'assume désormais comme le substitut d'une relation humaine par une relation virtuelle. Après Replika, le compagnon virtuel qui compte des millions d'utilisateurs dans le monde, plus aucune initiative ne m'étonne vraiment. Mais la question reste entière : quand allons-nous tirer la sonnette d'alarme ?
Ce qui inquiète le CHT n'est pas l'existence de ces produits. C'est leur design. Ils ne sont pas conçus pour compléter nos relations humaines. Ils sont conçus pour les remplacer. Des compagnons qui ne jugent jamais, sont toujours disponibles, s'adaptent émotionnellement à la demande. Quand cette connection sans friction devient la norme, la relation humaine, imparfaite, exigeante, imprévisible, constitue davantage une nuisance.
Une société qui perd ses relations humaines n'est pas seulement plus solitaire. Elle est plus fragile, plus susceptible à la manipulation et moins capable de résilience collective.
➡️ Pilier 2 : Nos capacités cognitives
Combien ne rédigent plus un mail sans assistance ? Ne synthétisent plus eux-mêmes un document ? Ne reformulent plus leurs propres écrits, quand ils écrivent encore ?
C'est notre voix, notre pensée, qui sont systématiquement déléguées.
Le phénomène n'est pas nouveau. Chaque technologie a réorganisé nos capacités cognitives : la calculatrice, le GPS, le moteur de recherche. Mais aucune n'avait encore remplacé l'acte de penser lui-même.
Ce que le CHT pointe, c'est la distinction entre l'outil qui amplifie la pensée et l'outil qui la court-circuite. Déléguer la rédaction d'un mail urgent, c'est un gain de temps. Déléguer systématiquement la formulation de ses idées, c'est autre chose. C'est abandonner le processus lent et laborieux par lequel on forge son jugement, sa voix, sa capacité à raisonner par soi-même.
À l'échelle individuelle, c'est une compétence qui s'atrophie. À l'échelle d'une société, c'est une capacité collective à penser, débattre et innover qui s'érode.
On connaît tous au moins une personne qui a déjà confié ses doutes les plus intimes à un LLM (Large Language Model) : Des questionnements sur sa relation de couple, un symptôme qu'on n'ose pas soumettre à un médecin, une anxiété qu'on préfère partager avec une machine plutôt qu'avec un proche.
L'IA est devenue un psychologue, médecin, conseiller, confident. Le réceptacle de toutes les questions qu'on ne prend plus le temps de poser aux humains qui nous entourent.
Ce glissement n'est pas anodin. Notre monde intérieur (nos doutes, nos valeurs, nos questionnements les plus personnels) a historiquement été un espace privé, accessible uniquement par consentement. On choisissait quand, comment et à qui on se révélait.
Or les produits d'IA sont désormais conçus pour nous encourager à nous livrer toujours davantage. Et ce qu'on confie à ces systèmes ne reste pas sur l'écran. Cela entre dans un espace où des algorithmes construisent, en temps réel, un portrait de qui nous sommes, pour mieux influencer ce que nous pensons, croyons, et décidons ensuite.
Que devient-on quand des vidéos peuvent nous faire dire, faire, incarner ce que nous n'avons jamais dit, fait, ni voulu, avec notre voix, notre visage et sans notre consentement ?
Les deepfakes ne sont plus l'apanage de laboratoires sophistiqués. Ils sont accessibles, rapides, convaincants et leurs victimes ne sont plus seulement des célébrités ou des politiques.
Ce qui est en jeu dépasse le préjudice individuel. Une partie d'une société fonctionnelle repose sur une conviction fondamentale : les personnes sont bien qui elles disent être. On peut les tenir responsables de leurs actes, leurs paroles, leurs engagements.
La réplication de l'identité par l'IA à grande échelle sape cette conviction. Elle crée un monde où la dénégation plausible est à portée de tout le monde et où la confiance sociale, déjà fragilisée, s'effrite un peu plus.
Contribuer au monde par le travail, l'expression artistique, les idées est l'une des façons les plus profondes dont nous créons du sens dans nos vies.
Les modèles d'IA se sont entraînés sur la musique, l'art, l'écriture, la recherche, les idées de l'humanité, souvent sans consentement ni compensation, pour être désormais capables de tout recréer seuls, à la demande et à la seconde.
Ce n'est pas seulement une question de droits d'auteur ou de propriété intellectuelle. Il s'agit également d'une question de dignité. Quand une machine peut reproduire en quelques secondes ce qu'un artiste a mis des années à construire, que reste-t-il de la valeur de cette contribution ? Et quand le travail lui-même est progressivement délégué, que reste-t-il du sentiment d'utilité qui lui est attaché ?
De quels nouveaux droits, de quelles normes, de quelles protections juridiques avons-nous besoin pour que l'IA serve l'humain et non l'inverse ?
Les effets produits par l'utilisation de l'intelligence artificielle ne sont pas dus au hasard. L'IA est conçue pour maximiser l'engagement, la dépendance, exactement comme les réseaux sociaux avant eux.
Et comme les réseaux sociaux, la prise de conscience risque d'arriver après le déploiement, après les dommages.
L'imprimerie a favorisé l'émergence de la liberté d'expression, la révolution industrielle a conduit à la reconnaissance des droits des travailleurs et l'appareil photo Kodak a contribué aux réflexions modernes sur le droit à la vie privée.
Toutes les trois ont contraint la société à répondre à une question qu'elle n'avait pas anticipée en se dotant de normes, de lois, de protections nécessaires pour définir un cadre et poser des limites.
C'est le point commun que je cherchais au début de cet article. La société a déjà relevé ce défi. La question n'est donc pas de savoir si elle en est capable mais plutôt de savoir si elle ira assez vite.