Pseudonymisez vos documents, et restituez les valeurs dans les livrables de vos IAPseudonymisez vos documents avec cohérence, et restaurez (dé-pseudonymisez) les valeurs originales dans les livrables de vos assistants IA
Pseudonymisez vos documents, et restituez les valeurs dans les livrables de vos IAPseudonymisez vos documents avec cohérence, et restaurez (dé-pseudonymisez) les valeurs originales dans les livrables de vos assistants IA
CEO et co-fondatrice de Marvin Systems
Lors d’une conférence organisée par le gouvernement chinois début novembre dernier, Chen Deli, chercheur senior chez DeepSeek, a mis en lumière le paradoxe : optimisme technologique vs pessimisme social, soit le fait que les progrès fulgurants tendant vers l’AGI (Intelligence Artificielle Générale) pourraient déstabiliser nos sociétés, malgré des bénéfices techniques immédiats et mesurables.
Un constat s’impose : il semble difficile d’évaluer les risques à long terme sur nos structures sociales, économiques et politiques, quand l’horizon se brouille derrière l’euphorie de l’innovation et le fantasme d’une super-intelligence omnipotente.
Chen Deli interpelle les entreprises de l’IA et les invite à prendre conscience des risques. Elles devraient jouer, affirme-t-il, le rôle de « gardiennes de l'humanité ».
On pourrait imaginer plutôt une responsabilité partagée entre tous les concitoyens du monde, mais cela paraît quelque peu illusoire.
La réalité est que les clés de compréhension des enjeux techniques, économiques et de gouvernance, sont détenues par une poignée d’acteurs. Et plus l’écart se creuse, plus la société dans son ensemble est réduite à un rôle de bêta-testeur à grande échelle, sans véritable droit de regard sur les choix d’architecture ou les arbitrages éthiques.
Peut-on parler d’abus de faiblesse organisé ? Les états et les régulateurs semblent eux-mêmes réduits à une position de spectateurs impuissants, condamnés à réagir plutôt qu’à anticiper.
L’humanité est-elle otage d’une course technologique ? L’optimisme technologique n’est pas un choix, mais semble plutôt être un dogme imposé.
Les entreprises de l’IA fixent le rythme, les règles et les narratifs. On parle d’asymétrie cognitive (ceux qui conçoivent les systèmes disposent d’un avantage en matière d’expertise, infrastructures et données) et d’asymétrie institutionnelle (ils influencent directement les normes, les standards techniques).
Partout, les tentatives de régulation peinent à suivre le rythme : l’Union européenne avance avec l’AI Act, mais les textes restent souvent généraux et déclaratifs, alors que les entreprises opèrent sur des cycles d’innovation mesurés en mois, voire en semaines.
Pendant ce temps, les risques systémiques (chômage de masse, polarisation sociale, perte de souveraineté, et même perte de sens) deviennent bien réels. Ils révèlent l’écart grandissant entre le tempo imposé par les géants de la tech et la capacité du reste de la société à suivre, comprendre et à s’organiser pour s’adapter.
Aujourd’hui, nous savons plus ou moins quantifier les gains de productivité ou les réductions de coûts. Mais comment modéliser l’impact de l’AGI sur la cohésion sociale, la démocratie, ou même la psyché humaine ?
Les risques exponentiels (biais algorithmiques, dépendance technologique, perte d’autonomie collective, inégalités cognitives) échappent aujourd’hui aux cadres d’analyse traditionnels.
La solution résiderait, peut-être, dans la mise en place de gardes-fous éthiques pour une innovation plus transparente.
Il a fallu des décennies de recherches, de rapports du GIEC, d’accords internationaux et d’éducation du public pour qu’émerge un début de conscience collective sur le climat.
Pour l’IA, certains acteurs comme l’UNESCO commencent à proposer des cadres de compétences pour que élèves et enseignants comprennent les enjeux, opportunités et limites de ces technologies. Mais on en est encore aux balbutiements : il faudrait investir massivement dans une littératie de l’IA accessible à tous.
En plus de l’accès au savoir technologique, il pourrait être pertinent de soutenir le financement de programmes de R&D indépendants pour contrebalancer les narratifs.
Commençons donc par rééquilibrer le rapport de force entre technologie et société, en donnant plus de pouvoir aux individus et aux collectivités.
L’éducation à l’IA n’est pas un luxe : c’est une condition minimale pour que le débat démocratique ne soit pas confisqué par quelques hubs technologiques.
Sommes-nous en train de fabriquer un outil au service d’un projet collectif, ou de laisser la logique d’optimisation perpétuelle redéfinir ce que signifie travailler, décider, créer, voire exister en société ?
L’AGI n’est pas une fatalité, mais un choix de société (ou plutôt une série de micro-choix) : où l’on place l’investissement public, quels usages l’on autorise ou interdit, quelles formes de pouvoir l’on accepte de déléguer à des systèmes opaques.
Ce sont ces choix, plus que la seule puissance des modèles, qui dicteront si l’IA devient un multiplicateur de résilience ou un accélérateur de fragilités.
Et vous, comment percevez-vous ce dilemme ? Pensez-vous que les risques de l’AGI sont suffisamment pris en compte aujourd’hui, ou faut-il repenser radicalement notre approche de l’innovation ?