Addiction, manipulation, fragmentation du réel : les algorithmes interrogent la capacité des démocraties à se défendre. Entre régulation hésitante et alternatives émergentes, une bifurcation s’esquisse : subir les plateformes ou fonder un numérique démocratique.
Le 8 janvier 2026, Emmanuel Macron n’a pas hésité à sortir les grands mots. Pour lui, il existe désormais un « nouvel impérialisme » des États-Unis, qui s’en prend à l’intégrité de la régulation européenne du numérique. Les citoyens européens sont massivement d’accord avec ce constat, toutes tendances politiques confondues. Cette inquiétude partagée concerne au plus près l’intelligence artificielle (IA). Sa souveraineté est devenue une considération géopolitique majeure.
Mais qu’entend-on par souveraineté du numérique ? Parle-t-on de la nationalité de ses propriétaires, ou du contrôle démocratique exercé sur lui ? Trop souvent, la « course à l’IA » est présentée comme une compétition sportive, où le « champion » représenterait la gloire d’un pays, pourvu qu’il accepte d’y concourir sous le drapeau. Mais, sachant que les IA sont devenues des instruments de pouvoir, qui affectent les dépendances stratégiques et les délibérations démocratiques, il paraît urgent d’aller au-delà de cette vision « olympienne » de la souveraineté.
Quels sont les cas d’usage qui devraient faire l’objet d’un contrôle citoyen et démocratique ? Les principes de construction, les autorisations au déploiement massif, les processus de mise à jour, la reddition des comptes lors de litiges et les suspensions de service en cas de risque systémique relèvent du débat démocratique.
En pratique, nous ne sommes pas en terrain légal vierge. Pour certaines IA et certains cas d’usage, ce contrôle démocratique est en place, notamment pour les IA prédictives en médecine, déjà soumises à la loi et à une exigence d’audits externes en amont de tout déploiement. Peu s’y opposent, mais d’autres systèmes, auxquels nous avons confié les clefs de nos vies, échappent totalement à cette logique.
Systèmes addictifs
Il y a, tout d’abord, les IA de recommandation. Il semble aujourd’hui normalde laisser des systèmes opaques, contrôlés par des organisations privées hors de tout contrôle démocratique, décider de ce que nous regardons, lisons et donc pensons. Or, une montagne de preuves extrêmement compromettantes pointe leur responsabilité dans la dégradation de la santé psychologique des individus et de la santé démocratique de nos sociétés.
Viennent ensuite les IA conversationnelles, devenues un autre portail d’entrée majeur du web. Tandis que les concepteurs de ces IA ont massivement investi dans un marketing qui a suscité un techno-enthousiasme à leur égard, l’usage prédominant de ces chatbots ne fait pas que reproduire les problèmes des IA de recommandation, en jouant sur nos émotions d’utilisateurs pour rendre un produit commercial addictogène. Elles nous font potentiellement basculer dans l’ère de l’attachement. Les conséquences psychologiques et démocratiques peuvent être tragiques. De nombreux procès accusent ces IA d’avoir poussé des utilisateurs au suicide, et l’on suspecte les unes et les autres de modifier la cognition des électeurs.
Rustines réglementaires
Avant l’avènement de ChatGPT, l’Union européenne a pourtant pris les devants avec des règlements extrêmement exigeants. Le Digital Services Act (DSA) proscrit les dark patterns, c’est-à-dire les conceptions qui nuisent volontairement aux utilisateurs de manière manipulatrice. Un tribunal néerlandais a ainsi jugé que les IA de recommandation de Meta[1] étaient des dark patterns du fait de leur exploitation du profilage psychologique des utilisateurs en restreignant l’accès à l’information.L’entreprise doit donc dorénavant proposer des fils chronologiques pour éviter ces manipulations illicites. De même, la Commission européenne a émis un avis préliminaire selon lequel l’IA de recommandation de TikTok violerait le DSA.
Plus frappant encore, l’Article 5.1 du règlement européen sur l’IA interdit l’usage des IA qui ont pour but ou pour effet la manipulation des utilisateurs avec préjudices, notamment lorsque cette manipulation se fait sous le seuil de perception des utilisateurs, ou lorsque des vulnérabilités socio-psychologiques sont exploitées. Cependant, la mise en application du règlement reste timide. Elle est même remise en question par le projet d’amendements appelé « Omnibus numérique ». La gouvernance européenne semble en particulier très perméable au lobbying et au coolwashing de l’IA[2], voire aux intimidations des États-Unis. Les entreprises du secteur dépensent plus de 100 millions d’euros par an en influence auprès des institutions européennes, soit trois fois plus qu’il y a dix ans.
C’est aux industriels qui extraient des profits monumentaux de produits potentiellement néfastes de montrer patte blanche.
Il serait utile que des concepts juridiques déjà ancrés, célébrés dans le grand public et en vigueur dans d’autres domaines, soient aussi appliqués au numérique. C’est le cas en particulier de laprésomption de non-conformité. Celle-ci consiste à inverser la charge de la preuve : c’est au développeur de démontrer que son système respecte les droits fondamentaux et ne met pas en péril les démocraties, et non aux citoyens et à la collectivité de prouver qu’il les viole. Ce principe existe déjà pour presque tous les produits autorisés à la vente. Comment ChatGPT Santé peut-il être considéré comme conforme alors que des cas d’incitation au suicide ont été documentés ? En France, un projet de loi sénatorial propose justement une présomption de violation des droits d’auteur par les chatbots.
Mais pour protéger plus efficacement notre espace informationnel, d’autres mesures plus adaptées à ses spécificités pourraient être essentielles, telles que la présomption de non-recommandabilité pour les IA de recommandation. Par défaut, tout contenu devrait être présumé non-recommandable. Pour recommander un contenu plus de cent mille fois, une plateforme devrait se voir imposer un processus de vérification spécifique afin que sa responsabilité légale dans une amplification à grande échelle puisse être retenue.
Dans ces deux cas, ce n’est pas à la société et à ses moyens très limités de prouver qu’un système est nuisible. C’est aux industriels qui extraient des profits monumentaux de produits potentiellement extrêmement néfastes de montrer patte blanche.
Alternatives souveraines
Il peut être tentant pour un techno-enthousiaste de qualifier d’obscurantistes les critiques des IA d’entreprises privées étrangères. Pourtant, ces mêmes critiques ont en fait déjà construit des monuments technologiques, à l’instar du système d’exploitation Linux, de la messagerie Signal ou du réseau social BlueSky. Mieux encore, beaucoup de critiques voient le numérique, s’il est ouvert, libre, interopérable et correctement gouverné, comme un pilier indispensable à la protection des démocraties et des citoyens.
À la suite du mouvement des Tournesols[3], Taïwan a fait un choix radical : confier à Audrey Tang[4] et aux plateformes vTaiwan et g0v le soin d’organiser la délibération citoyenne à grande échelle, en s’appuyant notamment sur Pol.is, un outil qui identifie les consensus entre groupes aux opinions divergentes, sans que les échanges ne dégénèrent en joutes tribales. Résultat concret : la régulation d’Uber s’est faite à Taïwan sans déclencher la guerre sociale qui a agité le reste du monde. En l’occurrence, le numérique n’est pas au service du pouvoir de quelques-uns mais d’une délibération démocratique augmentée et saine.
Des normes doivent permettre de transformer les innovations numériques en outils de construction démocratique.
L’Estonie a construit un État presque entièrement dématérialisé autour de X-Road, une infrastructure partagée où les données des citoyens ne sont jamais centralisées dans une base unique et vulnérable. Voter, créer une entreprise, accéder à son dossier médical : tout se fait en quelques minutes avec une identité numérique souveraine.
Le projet Tournesol[5] propose une IA de recommandation construite collectivement, où des contributeurs volontaires cherchent à identifier les contenus d’intérêt général que l’IA devrait recommander. Sachant que les IA conversationnelles ont aussi acquis un rôle important de recommandation, les données et les algorithmes de Tournesol visent aussi à influencer la conception de ces IA, pour assurer une meilleure traçabilité des influences numériques.
Sans volontarisme politique fort, ces alternatives resteront marginales. Les innovations numériques seront des armes contre lesquelles on se défend. Il nous faut des normes pour les transformer en outils de construction démocratique. Certes, un numérique au service des démocraties et des citoyens est possible, mais il est urgent de le soutenir pour le construire et le déployer à l’échelle. Un projet techno-politique, avec des principes clairs, nous paraît essentiel.
Piliers transformateurs
Quatre piliers pourraient constituer le cadre dans lequel penser toutes les briques du numérique. D’abord, la transparence. On constate une asymétrie colossale entre chaque citoyen et les multinationales, car ces derniers qui contrôlent les IA peuvent y inclure leurs propres biais. Un numérique démocratique doit rendre visible à chaque utilisateur l’influence réelle de sa participation sur les recommandations.
Vient ensuite la robustesse. L’élection roumaine de 2024 l’a démontré : des armées de bots peuvent inonder une plateforme de faux signaux et faire basculer un algorithme de recommandation. Un numérique démocratique doit garantir que les voix qui s’expriment sont authentiques tout en préservant l’anonymat des opinions, à l’image des cartes électorales, de l’urne et du bulletin secret. Des systèmes de preuve de citoyenneté sans divulgation d’identité existent déjà et doivent être déployés.
La démocratie de demain sera numérique ou périra par le numérique.
Il s’agit également de promouvoir des avis réfléchis. Un numérique démocratique doit créer des frictions qui favorisent la réflexion. Enfin, un socle commun doit s’établir. Pour faire démocratie, il faut partager un minimum de réalité commune. Or les algorithmes ultra-personnalisés ont fracturé cet écosystème informationnel partagé, remplaçant le commun par des bulles individuelles. Un numérique démocratique ne doit pas uniquement optimiser la rétention de chaque utilisateur, mais doit également viser la compréhension mutuelle entre citoyens. C’est le principe des bridging algorithms (« algorithmes de rapprochement ») qui mettent en avant ce qui peut nous réunir malgré nos différences.
La démocratie a pour fondement l’accès des citoyens à de l’information saine et de qualité. Dans un monde où une part toujours croissante des flux d’information est contrôlée, amplifiée et même créée par des plateformes privées, il nous faut mettre en place l’infrastructure informationnelle qui permette à la démocratie de perdurer dans sa version numérique. Car nous ne reviendrons pas en arrière. La démocratie de demain sera numérique ou périra par le numérique.
[1] L’entreprise fondée et dirigée par Mark Zuckerberg détient Facebook, WhatsApp, Instagram et Meta Quest dans le domaine de la réalité virtuelle.
[2] Technique marketing des géants de la tech qui consiste à parler uniquement des bons côtés de ces systèmes.
[3] Autrement appelé Mouvement 318 et emmené par des étudiants, ce vaste élan de désobéissance civile survenu en mars-avril 2014 à Taïwan s’opposait au vote final de l’accord de libre-échange sino-taïwanais. Il s’est illustré par une longue occupation du Parlement.
[4] Programmeuse et ancienne ministre des Affaires numériques de Taïwan.
[5] Initié par l’association du même nom dont les coauteurs de cet article sont respectivement président et directeur exécutif [ndlr].