La Gouvernance de l'Intelligence Artificielle Générative

                                                                                                             par Fernando Gonçalves

L'Intelligence Artificielle Générative est en train d'impacter notre société.Tous les secteurs de la société sont ou vont être impactés : les entreprises et l'administration, l'enseignement et la santé, la recherche, les loisirs,... Quasiment toutes les activités sont concernées. De plus, les agents se développent et vont décupler les effets de l'IA générative. 

Mais comment maîtriser cette déférelante ? Quelles sont les règles à appliquer ? Comment limiter les risques ? ...  La solution est connue. Il faut renforcer la gouvernance en se basant sur les bonnes pratiques connues de tous les décideurs et les experts compétents.   

Nos amis du Club Européen de la Gouvernance des Systèmes d'information du Portugal réfléchissent comme nous le faisons sur l'impact de l'IA sur notre société et particulièrement sur les entreprises. Dans leur dernier numéro de leur revue bG, boletim Governança, Fernando Gonçalves a publié un article très intéressant sur la gouvernance de l'IA Générative que vious trouverez ci-dessous.  

Claude Salzman

Président du Club Européen de la Gouvernance des Systèmes d'Information 

UNE NOUVELLE ÉTAPE POUR LES BATAILLES GÉOPOLITIQUES, ÉCONOMIQUES ET SOCIALES MONDIALES

La gouvernance de l'intelligence artificielle (IA) constitue l'un des débats les plus complexes et les plus urgents de la technopolitique mondiale et du développement économique et social.

 On observe, dans plusieurs dimensions, une recherche de normes de marché, voire l'établissement de principes moraux, éthiques et juridiques encadrant la légitimité de son utilisation, que ce soit en médecine, dans l'art, l'éducation, sur le marché du travail ou dans le domaine militaire, avec des impacts multiples qui ne sont pas toujours évidents. Les défis liés à l'énergie, à l'informatique, à son financement et à sa viabilité économique sont également incontournables.

 Par ailleurs, la marge de manœuvre pour prévenir, dans le cadre de l'IA, des conséquences encore plus néfastes que celles que l'on ressent actuellement en raison de l'absence de régulation du cyberespace et du désengagement des pouvoirs publics de leurs responsabilités dans ce domaine qui est pourtant très limité.

 Les impacts déjà connus ou présumés de cette technologie dans les domaines les plus divers de la société exigent la définition urgente d'une réglementation claire, générale et universelle permettant de tirer profit de l'IA, tout en garantissant la confidentialité, la sécurité et la fiabilité de son exploitation et en atténuant les distorsions dues au fait qu'une grande partie de l'écosystème – énergie, infrastructures, capacité de calcul et modèles informatiques – est détenue par un nombre très limité d'entités.

 Sur les droits d'utilisation et la légitimité de leur définition

 Parmi les aspects les plus controversés du débat sur l'utilisation de l'IA figurent la définition de ses conditions d'utilisation et la question de savoir qui est responsable de sa réglementation légitime.

 L'affaire qui a opposé le Département de la Guerre américain à Anthropic en mars 2026 a mis en lumière un débat nécessaire et urgent : qui est responsable de la définition des limites d'utilisation des modèles d'IA, notamment sur des questions particulièrement sensibles telles que la surveillance de masse des citoyens ou les armes autonomes ? Les gouvernements des États souverains ? Leurs parlements ? Les fabricants ? Bien que l'Union européenne ait transmis une partie de la résolution de cette question au Règlement (UE) 2024/1689 relatif à l'IA, la grande majorité de l'écosystème, notamment les États-Unis et la Chine, reste à l'écart. Étant donné que ces deux pays sont les principaux producteurs mondiaux de modèles d'IA et de leurs produits dérivés, le risque de divergence des normes industrielles par rapport à ces principes est loin d'être négligeable.

 Face à la paralysie de l'ONU due à son modèle de prise de décision par consensus, il est peu probable qu'un traité émerge dans ce domaine. Le monde sera-t-il une fois de plus pris en otage par une autorégulation, où le déséquilibre entre les blocs géopolitiques et technologiques fausse d'emblée le pouvoir de négociation des différentes parties ?

 Pour l'instant, l'autorité de Léon XIV demeure incontestée. En juillet 2025, dans un message adressé aux participants du Sommet mondial « L'IA au service du bien commun », il déclare que « l'humanité est à la croisée des chemins, confrontée à l'immense potentiel généré par la révolution numérique induite par l'intelligence artificielle », et appelle à une « gouvernance locale et globale de l'IA » (Léon XIV, le pape lanceur d'alerte, Le nouveau guide de la super-intelligence artificielle, Le Point, Hors- Série n° 3, déc. 2025-janv. 2026, p. 26-27).

 La lutte pour un modèle d'exploitation de l'IA : logiciel libre contre logiciel propriétaire

 Au cœur du débat sur le modèle d'exploitation de l'IA se trouvent deux visions antagonistes : la démocratisation prônée par le modèle du logiciel libre et la protection de la propriété intellectuelle des plateformes propriétaires.

 Le modèle du logiciel libre repose sur le principe que le progrès technologique est optimisé par le contrôle public et la collaboration décentralisée. L'accès aux pondérations des modèles et à leur architecture est perçu comme un processus de mutualisation de leur supervision et comme un garant de normes éthiques et morales vérifiables.

 Yann Le Cun, l'un des plus grands experts mondiaux en IA, affirme, dans un entretien accordé au Monde le 16 janvier 2026 (David Larousserie et David Piquard), que cette approche favorise une plus grande diversité, évite la mainmise d'un petit groupe d'entreprises sur la technologie et accélère le progrès scientifique, permettant à chacun d'identifier les risques inhérents aux modèles et à leur utilisation.

 À l'inverse, les plateformes propriétaires valorisent la protection de la propriété intellectuelle comme un avantage concurrentiel et un moyen de renforcer la gestion des risques. Les principaux fabricants de plateformes d'IA affirment que la diffusion et l'accès sans restriction aux modèles peuvent donner aux acteurs malveillants la possibilité d'orchestrer des cyberattaques sophistiquées ou des campagnes de désinformation à l'échelle industrielle. Selon cette perspective, la limitation du code n'est pas seulement un acte de protection des droits d'utilisation commerciale, mais aussi un impératif de sécurité collective.

 La dichotomie entre modèles ouverts et fermés se manifeste clairement dans les approches des principaux producteurs de plateformes d'IA des deux grandes superpuissances contemporaines, reflétant leurs spécificités politiques.

 Mais il n'en a pas toujours été ainsi. Jusqu'à la fin des années 2010, le développement de l'IA reposait principalement sur l'open source. C'est avec le lancement par OpenAI, fin 2019, du modèle GPT-2, après la publication d'un article présentant ce modèle au début de la même année, qu'un changement s'opère dans l'approche des principaux fabricants : le partage de code cède la place à des restrictions d'accès croissantes, sous prétexte de sécurité et de motivations commerciales.

 Depuis lors, les États-Unis sont restés un terrain de jeu privilégié pour les systèmes propriétaires, pilier indissociable de leur modèle économique. Actuellement, ces modèles dominent les classements de performance. Cependant, les alternatives open source (notamment celles proposées par des entreprises chinoises comme Alibaba et Z.ai) ne sont pas en reste en termes de capacités. Yann Le Cun prévient que si les États-Unis abandonnent l'open source, la Chine pourrait prendre la tête de l'innovation, principalement grâce à la rapidité de développement de l'open source.

 Bien que le modèle de rémunération des systèmes d'IA open source semble encore plus complexe que celui des modèles propriétaires, on trouve dans les deux cas une rémunération par abonnement, appliquée aux consommateurs finaux, ou une rémunération à la consommation (généralement par tokens, jetons), pour les entreprises clients.

 Chez Alibaba, la disponibilité de modèles open source est souvent associée à une offre commerciale de cloud computing, à laquelle des modèles propriétaires de pointe sont intégrés selon un modèle de paiement à l'usage. Dans une certaine mesure, Alibaba utilise actuellement la même approche de l'intelligence artificielle que Google depuis sa création pour développer diverses solutions de marché, telles qu'Android ou Kubernetes.

 Quel que soit le scénario, le financement des investissements mondiaux dans l'intelligence artificielle reste incertain. Selon Gartner, ces investissements devraient atteindre près de 2 500 milliards de dollars, voire près de 3 300 milliards en 2027. (Gartner prévoit que les dépenses mondiales en IA atteindront 2 500 milliards de dollars en 2026) de même que les bénéfices concrets de ces investissements sans précédent.

 Paradoxalement, l'une des initiatives les plus fructueuses à ce jour dans le domaine de l'IA s'est développée selon un modèle open source, transformant profondément la science, notamment les domaines de la médecine et de la biologie. Le projet Alphafold, de Google DeepMind, a permis de prédire la structure tridimensionnelle d'une protéine à partir de sa séquence d'acides aminés.

 En 2020, Alphafold a joué un rôle crucial dans la compréhension de la structure du virus SARS-CoV-2, ouvrant la voie au développement de vaccins efficaces. Depuis, et grâce à son accessibilité aux chercheurs, cette technologie a été utilisée pour la découverte de nouveaux médicaments et le développement de domaines tels que l'immunothérapie et la pharmacologie personnalisée.

 Très récemment, Google a de nouveau investi dans un projet open source, Groundsource (Mayo et al.), qui, grâce à l'IA, transforme des millions de rapports publics en données structurées pour prédire les catastrophes naturelles, notamment les inondations, permettant ainsi d'anticiper les crues soudaines plusieurs heures à l'avance. Ceci démontre que Google adopte une approche relativement duale dans le domaine des modèles d'exploration.

 Énergie, eau et ressources informatiques

 Une partie des investissements nécessaires à l'IA est consacrée à la construction de centres de données, de processeurs, ainsi qu'aux systèmes électriques et au refroidissement. Les quantités d'énergie requises sont si importantes que les centres de données sont désormais caractérisés non plus par leur capacité de calcul, mais par leur consommation énergétique.

 Les projets de construction de nouveaux centres de données connaissent une croissance exponentielle. La combinaison des principales ressources nécessaires à leur fonctionnement constitue l'un des principaux obstacles à leur déploiement avec l’énergie, l’eau, le foncier et les processeurs.

 Parallèlement, la construction de nouvelles centrales nucléaires, l'installation de petits réacteurs nucléaires à proximité des centres de données et l'exploration potentielle de la fusion nucléaire progressent au même rythme que les besoins énergétiques de l'IA.

 La consommation d'eau potable représente un autre défi. Les besoins sans précédent en refroidissement font de l'eau le fluide le plus efficace, mais avec des impacts environnementaux très controversés. Dans ce domaine, le projet Start Campus de Sines (Portugal) fait référence, utilisant l'eau de mer provenant de l'ancienne centrale thermique pour le refroidissement des centres de données.

 Face à la complexité des défis, des approches radicales émergent, comme celle de certains investisseurs, notamment Elon Musk, qui proposent de construire des centres de données en orbite pour contourner les difficultés liées aux contraintes sur Terre. Grâce au refroidissement assuré par la température ambiante et l'énergie solaire permanente, le principal défi consiste à réduire les coûts de transport, afin de rendre ces infrastructures moins onéreuses que leurs équivalents terrestres (« Centres de données dans l'espace : moins fou qu'il n'y paraît »).

 Ingestion et production de données : vers une « IA dégénérative »

 L'entraînement des modèles d'IA dépend de la quantité (et il est essentiel de souligner qu'il dépend également de la qualité) des données disponibles. Face à l'épuisement des données extraites de sources disponibles sur Internet et autres référentiels ouverts, et, compte-tenu des litiges relatifs aux droits d'auteur et à l'hétérogénéité de la qualité des contenus, cette question devient cruciale pour les modèles d'IA. Sans nouvelles données l’entraînement des modèles est impossible, ce qui remet en cause tout l'édifice évolutif de l'IA.

Pour pallier cette pénurie de données, on recourt fréquemment aux données synthétiques : des informations générées artificiellement par des algorithmes ou des modèles d’intelligence artificielle, et non issues d’événements réels ou d’activités humaines.

Cette solution à la pénurie de données est ingénieuse et peu coûteuse ne semble pas, en soi, poser problème. Cependant, combinée au volume croissant de contenu généré par l’IA qui alimente Internet et qui, par conséquent, sert à entraîner les modèles d’IA, donne lieu à un phénomène qui remet en question tout le fonctionnement de l’entraînement des modèles d’IA tel que nous le connaissons et qui a été décrit comme une « endogamie de l’IA » (Shumailov et al.), une « IA des Habsbourg » ou une « IA dégénérative ».

 En bref, en se nourrissant de données qu’ils créent eux-mêmes, les modèles d’IA tendent vers une certaine « endogamie » et commencent à produire des réponses de plus en plus similaires et médiocres, ce qui peut conduire à leur effondrement. Le phénomène est expliqué par Aatish Bhatia dans un article publié en 2024 dans le New York Times (Bhatia), où il met en garde contre les risques d'une intensification des contenus produits par l'IA dans notre vie quotidienne.

 Perspectives pour l'avenir proche

 Une gouvernance adéquate de l'IA nécessitera l'établissement de consensus fondamentaux, indispensables pour garantir l'homéostasie du fonctionnement des modèles à l'échelle mondiale. Parallèlement aux efforts déployés par l'ONU, certains blocs économiques ou certains États, il est crucial de développer des mécanismes multilatéraux permettant la convergence de principes éthiques et juridiques communs.

 Dans les sociétés où l'humanisme prime sur toute autre valeur, il est essentiel de renforcer les principes qui sous-tendent l'inviolabilité des domaines sensibles pour recourir à l'IA, tels que les armes autonomes ou la surveillance de masse des citoyens.

 De même, en matière de développement durable, il convient d'adopter des normes environnementales universelles favorisant la conservation de l'eau et de l'énergie, et d'évaluer constamment des alternatives plus efficaces.

 Il est également essentiel de rendre transparente la manière dont les risques liés à l'IA sont atténués, en présentant a priori et clairement les inexactitudes, les défauts et les omissions possibles de certains résultats issus de l'utilisation de certains modèles.

 Enfin, il est impératif que les consommateurs, qu'il s'agisse de particuliers, d'entreprises ou d'autres entités, sachent clairement quand le contenu qu'ils consomment a été, en tout ou en partie, généré par l'IA, garantissant ainsi la transparence de la collecte, de la transformation, de la production et de la diffusion de l'information.

 Références

 ·         Bhatia, Aatish. 2024. « Quand la sortie de l'IA menace l'IA elle-même (Publié en 2024) ». NYTimes.com, 25 août 2024. https://www.nytimes.com/interactive/2024/08/26/upshot/ai-synthetic-data.html.

 ·         The Economist. 2026. « Des centres de données dans l’espace : moins fou qu’on ne le pense ». 2 mars 2026. https://economist.com/science-and-technology/2026/03/02/data-centres-in-space-less-crazy-than-you-think.

 ·         « Gartner prévoit que les dépenses mondiales en IA atteindront 2 500 milliards de dollars en 2026 ». 2026. Gartner. https://www.gartner.com/en/newsroom/press-releases/2026-1-15-gartner-says-worldwide-ai-spending-will-total-2-point-5-tillion-dollars -in-2026.

·         David Larousserie et David LaroAlexandre Piquard. « Yann Le Cun : « Pourquoi je quitte Meta pour créer ma start-up IA ». Le Monde, 16 janvier 2026. https://www.lemonde.fr/economie/article/2026/01/16/yann-le-cun-pourquoi- je-quitte-meta-pour-creer-ma-start-up-d-ia_6662500_3234.html?search-type=classic&ise_click_rank=2 

·         Mayo, Rotem, Oleg Zlydenko, Moral Bootbool, Shmuel Fronman, Oren Gilon, Avinatan Hassidim, Frederik Kratzert, et al.2026. “Groundsource: A Dataset of Flood Events from News.” https://doi.org/10.31223/X5RR2K 

·         Shumailov, Ilia, Zakhar Shumaylov, Yiren Zhao, Nicolas Papernot, Ross Anderson, and Yarin Gal. 2024. “AI models collapse when trained on recursively generated data » https://www.nature.com/articles/s41586-024-07566-y