Quel monde voulons-nous avec (ou sans) l’IA ?

L’« intelligence artificielle », sous la forme des grands modèles de langage (LLM), est en train de devenir le centre de tous les fantasmes et spéculations technologiques comme financières.

Notre rôle en tant que chercheurs de la R&D d’EDF consiste bien entendu à étudier les potentialités de technologies nouvelles. Mais comme Rabelais à son époque nous pensons que « science sans conscience n’est que ruine de l’âme », et comme à son époque une partie des inquiétudes vient de l’exploitation de ces capacités algorithmiques à des fins de domination économique ou militaire, avec de graves conséquences écologiques.

 

Alors que notre entreprise se joint sans réserve au concert des enthousiasmes autour du « plug, baby plug », SUD Énergie tient à rappeler les responsabilités associées au déploiement d’une infrastructure lourde, énergivore, et dont certaines personnes comparent les potentialités à la découverte de l’énergie nucléaire : nous anticipons de quelques jours la publication d’un rapport parlementaire sur la stratégie française face à l’IA pour proposer plusieurs éléments de réflexion. Une analyse détaillée des impasses énergétiques et techniques de la trajectoire déjà annoncée suivra sa parution.

 

Un impact écologique et économique dès aujourd’hui

 

La course enclenchée a des conséquences écologiques majeures, visibles dès aujourd’hui sur la consommation d’électricité et sur des ressources très localisées comme l’eau. À une heure où la crise climatique frappe plus que jamais, ça ne devrait pas prêter à sourire. Pourtant, dans l’aveuglement de la doctrine EDF, affirmée encore par Fontana, tout est bon pourvu que ça pompe de l’électricité et justifie les investissements les plus pharaoniques dans le maximum de nouveaux moyens…

Prenons l’exemple très concret du futur « Data Center » qu’on prévoit d’installer en face du site des Renardières à Montereau-Fault-Yonne. Que signifie-t-il ? Les Data Centers qui permettent de stocker des données existent depuis plusieurs décennies déjà et l’avènement de ce qu’on appelle le « cloud » ou pour l’exprimer autrement l’offre commerciale de sous-traitance du stockage des données (que nous utilisons maintenant massivement à EDF avec OneDrive et Amazon AWS notamment). Pourquoi aurait-on besoin aujourd’hui d’investissements massifs de nouveaux centres de stockage ? Ne pourrait-on pas déjà réfléchir à ce qu’on a envie de stocker et de faire transiter, sachant que 70 % des flux sont de la video en streaming et en partie pour des usages qui peuvent interroger…

Pour bien comprendre l’évolution, il faut avoir en tête qu’on ne parle plus de Data Center mais de Computational Center, c’est-à-dire de centres de calculs puisque l’IA générative réclame des puissances faramineuses (et une consommation électrique bien plus forte) que le simple stockage de données. Cette évolution provoque déjà des séismes économiques dans l’accès à la RAM.

On pourrait donc résumer l’évolution ainsi : après avoir centralisé l’essentiel du stockage des données, les géants de la tech (et les états-nations) sont en train de disputer la domination de la puissance de calcul.

 

Nous savons bien à EDF et dans les autres grandes entreprises que la capacité de calcul reste un sujet stratégique (même si, quand on voit le peu d’investissement dans le domaine à la R&D, on peut douter de la conscience qu’en ont réellement nos dirigeants), qu’on n’aimerait pas déléguer. Mais si des centres de calculs gigantesques promettent des capacités de calcul, avec usage de l’IA, que nous serions incapables d’avoir en interne, il est peu probable que les entreprises résistent à ce qui ressemble un chantage effectué par un oligopole : confiez-nous vos calculs ou disparaissez.

Or aujourd’hui on peut espérer protéger nos données décentralisées en les chiffrant mais, si demain il s’agit de sous-traiter nos calculs, on peut difficilement imaginer comment garantir la sécurité des données utilisées pour ces calculs… Dès aujourd’hui l’entreprise et la R&D doivent anticiper cette question : quid de nos capacités de calculs dans le futur et de notre autonomie ?

Pour ne pas sombrer dans le catastrophisme, une partie de la réponse réside sans doute dans le fait que depuis 70 ans, EDF sait gérer un parc de centrales nucléaires, sans accident majeur, par ses propres capacités de calcul, et sans recourir à des « hyperscalers » privés voire détenus par des fonds étrangers. Plus que jamais SUD Energie défend la sobriété énergétique, la sobriété numérique, et dans ce domaine il faut toujours avoir l’esprit que le mieux est souvent l’ennemi du bien. Travailler sur la « low-tech », c’est-à-dire des technologies sobres, utiles et résilientes, nous semble une priorité que nous devons réaffirmer pour résister au chantage d’acteurs intéressés.

Il est donc difficile de se réjouir de l’installation de super-centres de calculs énergivores, aux mains d’acteurs privés pour potentiellement sous-traiter des calculs d’acteurs publics (en l’occurrence EDF sous-traiterait le centre de calcul à Iliad à Montereau).

À l’échelle nationale, il est clair que contrairement aux labels « projets d’Intérêt National Majeur » que distribue la puissance publique à tour de bras, l’intérêt général sera bien mal servi par le déploiement indifférencié de super-centres de calculs énergivores, aux mains d’acteurs motivés par une course au profit hautement spéculative.

 

 

L’impact sur l’emploi

 

En tant que syndicalistes, on ne peut pas non plus passer sous silence l’inquiétude face à l’impact sur l’emploi suite au développement de l’IA. On voit déjà des plans de licenciements massifs (exemple : 2400 postes à Cap Gemini), en particulier dans l’informatique et le secteur bancaire, annonces en général liées au développement de l’IA.

Pour une fois, ce sont des emplois de cadres qui sont visés, et c’est la grande nouveauté qui fait que le discours visant à dire qu’on détruit des emplois à faible valeur ajoutée pour en créer de meilleurs ne tient plus. Au début des années 2000, la révolution internet et de la téléphonie a détruit beaucoup d’emplois dans le secteur des telecom et en a créé d’autres plus qualifiés (en moins grand nombre évidemment). On peine à voir en France une vague de création d’emplois et de recrutements dans l’IA pour contrebalancer les plans sociaux. Et les postes proposés dans un Datacenter n’ont sans doute pas grand-chose à voir avec les emplois d’analystes ou de développeurs qui sont détruits. On sait que l’IA nécessite en revanche beaucoup de « petites mains » pour être entraînée, emplois souvent peu qualifiés, délocalisés dans des pays extra-européens avec parfois des impacts psychologiques sévères sur les personnes chargées de trier des images choquantes pour rendre l’IA « éthique ».

 

L’IA des usages malveillants en grand nombre

 

Analyse automatique des cibles pour les drones à Gaza, développement de robots-tueurs autonomes, falsification des photos et videos pour inonder les réseaux sociaux d’un autre pays, etc : le nombre d’utilisations malveillantes et dangereuses de ces capacités de calcul ne cesse de croître et d’inonder le cyberespace. Si bien que les utilisations « éthiques » (comme l’analyse automatique de l’imagerie médicale) semblent noyées dans la masse et très loin d’être la priorité de nos dirigeants. Récemment Cédric Villani (médaille Field de mathématiques et auteur en 2017 d’un rapport sur l’IA à la demande d’Emmanuel Macron) s’est exprimé dans ce sens pour affirmer que les dangers liés à cette technologie dépassaient aujourd’hui de très loin les bénéfices attendus (interview au Figaro).

 

De nombreux chercheurs et chercheuses de premier plan du domaine, dont une figure tutélaire comme Yoshua Bengio, directeur d’un International AI Safety Report, ont alerté sur les dangers de cette technologie, que l’on ne peut pas réduire à de simples fantasmes de science-fiction à la Terminator. Nicholas Carlini, expert en cybersécurité à Anthropic, explique à propos de Claude Mythos que « L’IA peut maintenant, de manière autonome et via un prompt basique, trouver et exploiter des failles de sécurité nouvelles dans les logiciels critiques (e.g. Linux) » et « elles deviennent meilleures à le faire à une vitesse effrayante » (source). Des opinions qui peuvent nous alerter en tant que scientifiques. Au-delà des scientifiques, plus récemment encore, Sam Altman lui-même le patron d’Open AI appelle à la régulation d’urgence de l’IA et à la création d’une structure analogue à l’AIEA (Agence Internationale de l’Energie Atomique) pour l’IA, et sur un autre plan la Chine propose la création d’une « World Artificial Intelligence Cooperation Organization ».

 

C’est dire si aujourd’hui la « course à l’IA » rappelle la course à l’armement ayant suivi les deux premières explosions nucléaires, dans un contexte d’évolution très rapide des armes utilisées dans ces conflits. Sauf que cette fois, sauf changement de cap politique ferme, cette « arme » pourrait prendre des décisions, que nous ne comprendrions ou ne détecterions pas toujours, et à qui, sans même parler de la perspective désastreuse de « robots tueurs », nous pourrions donner accès à la quasi-totalité de nos infrastructures critiques, à commencer par internet.

 

La pollution numérique

 

Au-delà de l’impact écologique, il est peut-être temps également de réfléchir à l’impact de l’explosion numérique des vingt dernières années en matière de bien-être psychologique, et même de santé mentale. Un certain nombre de pays (dont la France) commencent à légiférer sur l’accès aux réseaux répondant à des inquiétudes légitimes par exemple sur les dynamiques nocives des algorithmes de recommandation des réseaux sociaux, ou leur potentiel d’influence politique (voir les travaux du chercheur au CNRS David Chavalarias), bien présent depuis l’ère Facebook mais dont tout le monde a pris conscience au moins depuis le rachat de Twitter par Elon Musk.

L’État y répond néanmoins par des politiques que l’on peut craindre intrusives et liberticides, sinon elles-mêmes politiquement motivées (e.g. backdoor dans les messageries privées, généralisation du suivi de l’identité en ligne, censure préventive privée des opinions « à risque » par les plateformes sous la menace de sanctions administratives), ce que les capacités d’analyse automatique de texte des LLM (Large Language Models) rendent d’autant plus tangible. La création d’instances de régulation et de contrôle en ligne, indépendantes des plateformes comme du pouvoir politique du moment, semble la seule voie de salut hors du Charybde de la manipulation algorithmique dérégulée et du Scylla de la surveillance d’État généralisée.

 

Comme la voiture et le pétrole, la gabegie numérique, la profusion de vidéos, parfois vraies mais aujourd’hui le plus souvent truquées, d’opinions épidermiques, provoquent souvent un sentiment de saturation qui montre qu’on a dépassé le stade où la technologie est « conviviale » pour devenir au contraire envahissante.

 

Plutôt que de regarder l’IA d’un œil béat, nous pensons qu’il est temps de sortir des mythes naïfs d’une urgence de l’IA dans tous les domaines, pour décider quel chemin nous voulons prendre en tant que société. Il est illusoire de penser qu’on peut faire disparaître les algorithmes de l’IA, mais il s’agit de prévoir dès aujourd’hui d’un encadrement strict et une limitation aux usages vraiment identifiés comme utiles, sans attendre de voir se multiplier les dégâts comme c’est déjà le cas sur les trajectoires climatiques des États ou sur nos garanties démocratiques.

Et en tant que R&D c’est notre rôle, non seulement de comprendre ce qui se cache derrière l’IA, mais d’anticiper les dangers, en l’occurrence divers et nombreux, à la fois pour l’entreprise et pour la société.

 

La délégation SUD-Énergie de la R&D d’EDF