L’intelligence artificielle est une industrie gourmande en énergie, aux impacts environnementaux aujourd’hui attestés. En plus de son outil, son usage présente des risques importants pour nos équilibres politiques et sociaux.
Propos recueillis par Benoît Hervieu-Léger et Simon-Pierre de Montpellier.
Quels sont les principaux enjeux écologiques posés par le déploiement de l’intelligence artificielle (IA) ?
Les enjeux environnementaux diffèrent selon les activités numériques, notamment en termes de consommation énergétique. Depuis l’apparition de ChatGPT, les modèles d’IA générative accaparent l’attention. Ce type de technologie requiert énormément de ressources pour fabriquer les serveurs qui seront mis dans des centres de données, dans lesquels ces dernières seront traitées. Ces usines du numérique consomment beaucoup d’énergie et sont gourmandes en eau. Les modèles de data centers déployés par les GAFAM[1] utilisent de l’eau en masse pour refroidir leurs serveurs. Deux tiers des projets de data centers lancés depuis 2022 se situent dans des zones en « stress hydrique ». Le modèle de refroidissement avec de l’eau est le plus fréquent. Dès lors, un enjeu politique se pose, celui de l’opposition à l’usage. Par exemple, en cas de canicule, l’accès à l’eau sera-t-il garanti aux serveurs ou aux habitants ?
Notre rapport aux outils technologiques dans les pays occidentaux est très consumériste. On est constamment incité à changer de dispositif. Ce faisant, on alimente l’extraction de nouvelles ressources pour les fabriquer. Or, ces ressources sont extraites au prix des droits humains et de l’environnement. Le secteur minier est l’industrie la plus polluante au monde, du fait de l’extraction massive de métaux.
Si l’on prend l’exemple de la République démocratique du Congo, d’où vient l’essentiel du coltan, nécessaire pour fabriquer les écrans de smartphone, la propriété des mines est le sujet de guerre entre les groupes armés depuis trente ans. On n’arrive pas à retrouver la paix car les flux financiers des clients de ces mines alimentent directement la mort, les viols de guerre, et les déplacements de population qui perdurent. C’est également un bon exemple pour montrer que les questions environnementales, la défense des droits humains et les enjeux démocratiques sont intimement liés. Détruire la planète revient aussi à fragiliser les modes de vie de certaines populations.
L’industrie technologique est lancée dans une course à l’abondance, au profit d’une infime minorité.
Quand on regarde ce qui se passe dans le triangle du lithium entre l’Argentine, la Bolivie et le Chili, on constate que les mines de lithium sont situées très haut dans les montagnes, où sont présentes – depuis bien avant l’arrivée des Européens sur le continent – des populations autochtones, qui vivent déjà dans des conditions relativement complexes, avec peu d’accès à l’eau. Elles vivent aussi en bonne entente et entretiennent des liens spirituels avec certains types d’animaux, notamment des flamants roses. Les deux populations, animales et humaines, se retrouvent dépourvues d’eau parce que cette ressource est captée pour extraire le lithium.
L’alimentation des data centers pose certains enjeux. Pendant longtemps, ils n’étaient pas vus par la population. Bien qu’ils soient parfois présents en ville, comme c’est le cas à Paris, ils se trouvent essentiellement dans des zones périphériques, notamment en campagne. De la même manière que, dans l’industrie agroalimentaire, des serres pour faire pousser des tomates restent allumées en permanence, déréglant le mode de vie de la faune et des oiseaux autour, les data centers restent allumés en continu, avec des flashs très forts, en milieu rural, ce qui pose certains questionnements sur cette présence constante de lumière.
Actuellement, l’industrie technologique est lancée dans une course à l’abondance, dont les profits sont réunis dans la poche d’une infime minorité. Le pouvoir est aujourd’hui capté par des sociétés privées et devient difficilement gérable pour les entités étatiques, ce que certains représentants politiques semblent ne pas comprendre. Je suis par exemple très étonnée de continuer de voir de grands contrats publics signés avec des acteurs états-uniens, sur lesquels nous avons peu la main. À mes yeux, l’IA est à la fois néfaste pour l’environnement et pour le climat politique. L’IA générative, par la multitude de contenus qu’elle permet de fabriquer, participe à la pollution directe de nos espaces de débat, d’information et de vivre-ensemble en ligne.
Dans votre ouvrage Technoféminisme, vous soulignez que le numérique aggrave les inégalités et les discriminations. De quelle manière ?
La tech conforte les inégalités parce qu’elle se croit neutre. L’industrie numérique ne regarde jamais ceux qui la composent et leur compréhension du monde. C’est une industrie très majoritairement composée d’hommes, notamment dans les pays développés. Les trois quarts des employés en France et aux États-Unis sont des hommes et un quart sont des femmes, qui, très souvent, travaillent dans les fonctions de support. Elles investissent peu la construction des outils. Ces inégalités ont un impact concret sur le type d’outil développé.
Si l’on applique cette analyse à la couleur de peau et à l’origine sociale, on retrouve le même genre de dynamique. Les personnes qui travaillent dans la tech sont diplômées des meilleures écoles aux États-Unis ou en Europe, et viennent de milieux sociaux aisés. De ce fait, il est nécessaire qu’elles admettent qu’elles ont un point de vue situé sur la société, au vu de leur position privilégiée. Il n’y a pas de prise de conscience des difficultés et des façons de vivre du reste de la population.
Cela entraîne toutes sortes de problématiques. Par exemple, Apple en 2012 sort Siri, le premier assistant d’IA. Siri est capable de répondre à des questions extrêmement « cliché » : si on lui demande de trouver du viagra ou des prostituées, il fournit l’adresse ; s’il s’agit de trouver de l’aide pour avorter ou parce que vous avez été agressée sexuellement, il ne sait pas vous répondre. Les associations féministes se sont rendu compte de ce problème très vite.
Les technologies fonctionnent mieux sur les visages blancs que noirs, mieux sur les visages d’hommes que de femmes
Un autre exemple à citer est le fonctionnement du recrutement dans les entreprises : quand Amazon a voulu essayer, en 2016, d’automatiser la gestion des CV, le choix de recourir à l’IA a été fait. Le système d’IA a appris, par défaut, qu’il fallait écarter les CV de femmes. Pour quelles raisons ? De ce point de vue, l’analyse de la technologie est révélatrice des inégalités de genre qui façonnent nos sociétés ; parce qu’historiquement, Amazon a toujours embauché plus d’hommes que de femmes. Le logiciel a donc appris que le genre était une variable dans le recrutement. Au final, l’outil a été abandonné car personne n’a réussi à le dé-biaiser.
Il existe des cas beaucoup plus récents, comme la reconnaissance d’images adaptée à la vidéosurveillance. On s’est rendu compte, assez vite et malheureusement en conditions réelles, que les technologies reconnaissent mieux les visages blancs que les visages noirs, mieux les visages d’hommes que de femmes. Il est d’ailleurs assez fréquent de voir dans les journaux des personnes derrière les barreaux sur la foi d’un traitement algorithmique.
Se pose aussi la question de la responsabilité : le fait qu’une personne se retrouve derrière les barreaux à la place d’une autre ; est-ce la faute du logiciel, la faute des policiers, ou la faute des deux ? Un climat social plus apaisé serait nécessaire pour qu’on puisse s’emparer collectivement du sujet et trouver des réponses nuancées. À défaut d’avoir des débats, je pense que c’est l’un des champs où la technologie fait plus de mal que de bien.
On déploie de la technologie sans preuve de son efficacité réelle.
Ce type de questionnements pourrait intervenir en amont des élections. Déployer cette technologie, des caméras et des algorithmes a un coût, notamment en termes de gestion des erreurs commises.
En France, un collectif d’associations a fabriqué un manifeste intitulé Désescalade numérique, divisé en dix grands points. Leur manifeste a été publié en prévision des élections municipales pour inciter celles et ceux qui le souhaitent à s’en emparer. Divers sujets sont mentionnés, dont celui de la vidéosurveillance et de ses enjeux : son coût, son efficacité en termes de résolution des affaires et de réduction de la criminalité, ou encore les solutions alternatives – telles que la multiplication des agents de police de proximité, logique qui a été adoptée à Issy-les-Moulineaux.
La vidéosurveillance doit faire l’objet d’un débat national. En ce sens, la Cour des comptes, depuis des années, pour chaque rapport sur la vidéosurveillance, demande des chiffres et ne les obtient pas. Cela démontre que l’on déploie de la technologie sans preuve de son efficacité réelle. Il est nécessaire d’ouvrir le débat public et de permettre aux citoyennes et citoyens de reprendre la main sur leurs outils numériques. Cela passe par l’inclusion de celles et ceux qui n’ont pas (ou peu) accès à ces outils.
Malgré ces constats lucides, quels sont vos motifs d’espoir face au défi technologique ?
Je pense que l’on est dans un moment où, de toute évidence, la technologie est un objet politique, un secteur qui influe sur notre vie politique, à l’échelle locale, nationale et internationale. La tendance à l’heure actuelle en France, à droite comme à gauche, est qu’on manque de débat et de réflexion politique sur l’usage de ces technologies. Cependant, des actions d’opposition montent localement contre des projets de data centers. C’est assez intéressant de voir comment se positionnent les équipes municipales et les députés des territoires concernés.
Ce n’est pas parce qu’on est écolo ou de gauche qu’on va prendre à bras-le-corps la question que pose cette technologie et interroger ses impacts environnementaux et sociaux. Au contraire, toute la classe politique semble plutôt convaincue du fait qu’il faut de la technologie partout, sans jamais se demander pourquoi. À l’instar du reste de la population, nos représentants politiques sont tombés dans le piège de la technologie comme synonyme de progrès, alors même que l’IA est un progrès pour une petite minorité blanche et riche ; c’est un modèle impérialiste. En revanche, j’ai de l’espoir quant à l’action des mouvements sociaux. Peut-être que les débats vont se faire de manière très décentralisée.
[1] Acronyme de Google, Apple, Facebook, Amazon, et Microsoft.