Pages

Affichage des articles dont le libellé est LLM. Afficher tous les articles
Affichage des articles dont le libellé est LLM. Afficher tous les articles

jeudi 29 octobre 2026

L’accord de Washington: les contraintes de l’IA aux États-Unis

                                     Par Philippe Cases

Le 29 septembre 2026 un accord dit de « White House » a été signé entre différents acteurs de l’Intelligence Artificielle Générative et le Président Donald Trump. Ce n’est pas une règlementation mais un engagement volontaire des signataires d’appliquer quelques grands principes de sécurité. Même, s’il n’est que partiellement appliqué, c’est un changement important de la gouvernance des LLM.

Cet accord est né d’une situation assez étonnante : des patrons de l'IA demandant à ce que le secteur soit régulé et le président des Etats-Unis refuse d'imposer toute réglementation. Il fallait trouver une situation acceptable par tous.

Une rupture fondamentale

Pour comprendre la situation actuelle il faut se rappeler le contexte et notamment le choc créé par l’arrivée des agents il y a un peu d’un an après celui des LLM il y a maintenant quatre ans. De plus en plus fréquemment on constate des comportements à risque des agents qui ont des initiatives surprenantes et un peu inquiétantes. En Europe l’AI Act est censé prévenir ces dérives. Mais aux USA la situation est plus délicate et ils sont dans une sorte d’impasse réglementaire. Elle est due à un triple conflit d’autorités entre :

● L’État Fédéral et les États fédérés. En effet, face à l’absence de réglementation fédérale chaque État a tendance à édicter sa propre réglementation et celle-ci tendent à diverger d’un État à l’autre.

● De plus, la souveraineté publique et les intérêts privés sont assez divergents,

● Enfin les choix éthiques des fournisseurs d’IA et la responsabilité de l’État sont assez différents. 

Au fur et à mesure que l’IA progresse, et elle le fait à une vitesse incommensurable avec celle de l’action publique, ces conflits se creusent.

Avec l’apparition de l’IA agentique, le problème a changé d’échelle. Ces systèmes ne se contentent plus comme les LLM de produire du texte, du code ou des recommandations. Elle agit en accédant à des systèmes, en utilisant des outils, en prenant des initiatives, en exécutant des transactions et, le cas échéant, en interagissant avec d’autres agents. 

Il est, dans ces conditions, indispensable de maîtriser les initiatives des agents. La question de l’autorité s’invite dans l’entreprise. Les récentes péripéties d’OpenAI et d’Anthropic lors des tests de nouveaux systèmes ont bien montré la gravité du problème :

● Qui les autorise à agir ?

● Qui a autorité sur ces nouveaux acteurs du SI ? 

● Qui définit leurs limites et qui contrôle leur respect ?

● Qui peut révoquer cette autorité ?

● Comment cette autorité s’articule-t-elle avec le système de gouvernance de l’entreprise ?

● …..

Les agents représentent un risque systémique important avec des conséquences potentielles considérables. L’IA agentique n’est pas seulement une Intelligence Artificielle plus puissante mais c’est une IA qui décentralise l’initiative, transforme la production de propositions en actions et multiplie les effets possibles. 

Le contexte économique de cet accord

En Septembre 2026, le contexte économique et financier est extrêmement tendu. Il est caractérisé par une demande extrêmement importante à court terme de GPU. Elle est concentrée sur 1% d’acteurs, principalement des start-ups financées par du capital risque. De plus, on constate une diffusion de l’usage à grande échelle des modèles de frontières chez les consommateurs et on observe une première pénétration dans le monde du développement du code. Dans ces conditions les prévisions d’investissements sur le long terme demandent une adoption encore plus massive de l’IA, notamment par les entreprises, pour justifier les augmentations d’infrastructure dédiées à l’IA prévues

Or, leur adoption par les entreprises dites « traditionnelles » se heurte au mur de la gouvernance : les directeurs financiers et comités de risque freinent leurs déploiements face au risque de dérapage budgétaire (c’est le « token maxing »), aux craintes de fuites de propriété intellectuelle derrière de fausses garanties de rétention de données, à l'absence d'explicabilité des résultats obtenus et à l'incertitude sur la responsabilité juridique des agents autonomes. 

C'est ce double choc économique — le besoin de débloquer l'adoption réelle en entreprise tout en évitant un moratoire étatique destructeur de valeur — qui a façonné l'arbitrage des Accords de la Maison Blanche, privilégiant la responsabilité produit (C’est le « Product Liability »), les audits externes indépendants et l'engagement de la responsabilité fiduciaire des conseils d'administration (C’est le « D&O Liability »).

En Septembre 2026, la pression a augmenté d’un cran avec l'émergence des modèles de frontières open source principalement financés par la Chine. L'émergence simultanée de modèles ouverts chinois à très haute performance (comme DeepSeek, Qwen ou Xiaomi Mimo) a fait s'effondrer le coût de l'inférence à moins de 1 dollar le million de jetons soit un avantage de 60 % à 90 % par rapport au prix du jeton facturés par les modèles propriétaires fermés. 

En parallèle, en Août 2026 on a appris que lors des tests des nouveaux LLM d’OpenAI et d’Anthropic utilisant massivement des agents, ces derniers avaient échappé à tout contrôle. Cela a été un choc, amplifié par la démission de Jacob Coxon d’Anthropic en Septembre. Elle a entrainé un débat médiatico-politique sur les dangers de l’Intelligence Artificielle qui pourrait mettre en péril l’avenir de l’humanité (10 % de « chances » que nous soyons tous exterminés d’ici 10 ans selon Evan Hubinger). Ces risques d'émergence de modèles frontières avec l’apparition soudaine et non anticipée de capacités non prévus créent des crises significatives. Ils ont poussé une partie de l’industrie à réclamer des barrières réglementaires ou un ralentissement forcé afin de protéger leurs marges et leur valorisation.

Or, la situation de la régulation aux Etats Unis est très fragile. L’administration Trump avait, dès janvier 2025, annulé le peu de réglementation mise en place par celle de Biden et refusé d’imposer toute réglementation de peur de freiner les initiatives des entreprises du secteur. Le 29 Septembre 2026 Donald Trump a invité à déjeuner à la Maison Blanche les acteurs de l’industrie pour en discuter. Ont été invités OpenAI, Google, Méta, xAI et Nvidia.  En fait, le gouvernement s’est concentré exclusivement sur les risques systémiques des modèles de frontières géants hébergés dans des datacenters massifs. De ce fait, Apple et Intel en particulier n’était pas présent.

Les outils à la disposition du président des USA

Pour réguler une activité économique ou technologique (comme l'intelligence artificielle, la finance ou l'énergie), la puissance publique et les acteurs privés disposent de plusieurs instruments juridiques et politiques. Ces outils se distinguent par leur origine (nationale, internationale ou privée) et leur degré de contrainte (impératif ou volontaire).

Le Président des USA a à sa disposition des instruments contraignants comme une loi votée par le parlement au niveau national, « l’Executive Order » signé par le Président et qui ne s’applique qu'aux agences fédérales. A cela s’ajoute le traité ou un accord international engageant leurs responsabilités au niveau international (comme l’IA Act).

Il existe aussi des instruments non contraignants comme des accords volontaires qui sont un engagement public ou une charte de bonne conduite signée par des entreprises face à un gouvernement. Il n'y a pas de sanction légale en cas de violation, mais un risque réputationnel. Il existe aussi des recommandations qui sont des textes publiés par des autorités de régulation (comme la CNIL en France ou la FTC aux États-Unis) pour guider les entreprises à adopter les bonnes pratiques.

Le contexte politique autour de l’accord

Depuis une dizaine d'années, l’industrie de la technologie et de l’IA ont une situation particulière aux Etats Unis et dans le Monde. 8 des 10 premières capitalisation boursières (« market cap ») mondiales sont américaines et sont dans le secteur de la tech. Elles représentent entre 37% et 40 % de la capitalisation boursière de Wall Street. Si on y ajoute les produits dérivés de la tech comme Google, Meta et services de communications ou Apple, la tech constitue entre 56% et 57% de la capitalisation américaine. 

La domination technologique américaine ne se limite plus aux entreprises cotées qui ont construit Internet et le cloud. Avec l'IA, elle pourrait s'étendre à une nouvelle génération d'entreprises dont la valorisation rivaliserait comme l’atteste les valorisations estimées des premières start-up IA comme Anthropic (2.000 milliards de dollars) et de OpenAI (1.000 milliards de dollars) avec celle des plus grands groupes mondiaux existants. La question devient alors celle de la dépendance de l'économie américaine, de ses marchés financiers et plus largement de l'économie mondiale à un secteur dont les investissements, les valorisations et les anticipations de croissance sont désormais étroitement liés à l'IA. Les succès historiques d'Internet, des réseaux sociaux et des smartphones aux États-Unis se sont construits dans des espaces dérégulés. Le gouvernement américain est tenté d’appliquer la même recette à l'IA : laisser les entreprises foncer, quitte à corriger les dérives plus tard.

Enfin, l’IA n’est plus seulement un enjeu économique : elle est devenue une priorité de sécurité nationale. La compétition ne porte plus uniquement sur la rentabilité des entreprises ou la valorisation des marchés, mais sur la capacité des États à maîtriser les infrastructures, les modèles et les ressources stratégiques qui déterminent leur puissance future.

La compétition avec la Chine  

La Chine développe une stratégie complémentaire à la course américaine aux modèles les plus puissants : rendre des modèles d’IA performants accessibles à faible coût, en publiant largement leurs poids et en permettant leur adaptation et leur déploiement par des tiers. DeepSeek et Alibaba avec Qwen illustrent cette approche. Elle facilite la diffusion des modèles, réduit les coûts d’accès et permet aux entreprises de les héberger sur leurs propres serveurs et de les adapter à leurs propres besoins. 

Cette stratégie répond à une logique économique et géopolitique. En abaissant les barrières à l’adoption, les entreprises chinoises peuvent diffuser leurs technologies à l’échelle mondiale, créer un vaste écosystème de développeurs et favoriser l’émergence de dépendances technologiques. L’objectif n’est donc pas seulement de rivaliser avec les modèles américains les plus avancés, mais aussi de devenir une référence incontournable pour l’utilisation quotidienne de l’IA. La diffusion peut ainsi devenir un levier de puissance, même lorsque la monétisation directe des modèles reste incertaine. 

Cette approche présente également un intérêt particulier dans la compétition avec les États-Unis. Les restrictions américaines sur l’accès aux semi-conducteurs les plus avancés ont incité les entreprises chinoises à rechercher davantage d’efficacité dans l’entraînement et l’utilisation des modèles. L’ouverture des poids permet en outre à des tiers de fournir la puissance de calcul nécessaire à leur exécution, sans que chaque utilisation dépende directement des infrastructures du fournisseur chinois. 

La compétition se joue donc selon deux logiques qui ne sont pas exclusives : d’un côté, des entreprises américaines qui cherchent à valoriser des modèles propriétaires et des services intégrés et de l’autre, des acteurs chinois qui misent largement sur des modèles ouverts, des prix bas et une diffusion rapide. L’enjeu est de savoir si la valeur se concentrera principalement dans la conception des modèles les plus avancés ou si elle se déplacera vers leur diffusion, leur adaptation et leur intégration dans les activités économiques.

En inondant le marché mondial d'IA performantes et gratuites (ou à très faible coût), la Chine poursuit plusieurs objectifs hautement stratégiques :

- Créer de la dépendance : Les développeurs, les startups d'Asie, d'Afrique, d'Europe ou d'Amérique latine construisent leurs applications sur des fondations chinoises (Qwen ou DeepSeek). À terme, cela crée une dépendance technique et logicielle difficile à inverser.

- Neutraliser l'avantage américain : Si une entreprise peut obtenir 95 % des capacités de GPT-4 pour une fraction du prix en utilisant un modèle ouvert chinois, l'avantage commercial des laboratoires américains s'érode rapidement.

Rechercher une supériorité stratégique incite donc les États-Unis à privilégier la vitesse de développement au détriment de certaines garanties permettant de renforcer les contrôles sur les technologies sensibles, les exportations de puces et les infrastructures critiques alors que la Chine utilise l’IA pour développer un écosystème mondial autour de la Chine. 

La paralysie politique du congrès américain

Sur le plan purement politique, adopter une grande loi nationale sur l'IA est extrêmement difficile aux États-Unis.

● Une polarisation extrême : Le Congrès américain est profondément divisé entre Républicains et Démocrates, ce qui bloque la plupart des grands projets de lois technologiques. Ainsi les USA n'a toujours pas de loi fédérale sur la protection des données privées similaire au RGPD européen). Bernie Sanders conteste la concentration du pouvoir économique et technologique entre les mains de quelques milliardaires, jusqu’à proposer de suspendre le développement des IA les plus avancées. 

● Une fragmentation de la coalition du président Trump au niveau national  : la concentration des richesses et du pouvoir dans l'industrie de l'IA, les menaces sur l'emploi et le coût énergétique et la consommation d’eau des infrastructures alimentent une contestation qui divise les intérêts de la Silicon Valley et le populisme économique des MAGA.

● Une fragmentation territoriale : Parallèlement, les États fédérés, démocrates comme républicains, cherchent à encadrer les effets de cette expansion sur l’emploi, les libertés, l’environnement et le coût de l’énergie.

Cette contestation révèle une contradiction au cœur de la stratégie américaine : l’IA est devenue indispensable à la puissance économique et à la sécurité nationale, mais son développement peut aussi produire des coûts sociaux et territoriaux que les citoyens refusent de supporter seuls.


Ce texte est un résumé de la conférence faite par Philippe Cases au Club de la Gouvernance des Systèmes d’Information le Mercredi 14 Octobre 2026 : « De l’impasse américaine à la gouvernance des SI. Qui a l’autorité, et comment s’exerce-t- elle à l’ère de l’IA agentique ? ». Elle a permis de faire le point sur ce sujet et de répondre à quelques questions clés comme :

• Quel est le contenu de l’Accord de la Maison Blanche signé à Washington du 29 septembre 2026 ?

• Dans quel contexte cette réglementation a été prises ?

• Quel est la nature de la pression chinoise ?

• Quels sont les outils possibles pour règlementer l’IA ?

• Est-ce que le principe du volontariat est suffisant ?

• Quels sont les conséquences de cette réglementation

• ….

Lire ci-dessous le support de la présentation de l’exposé de Philippe Cases

                                                                                                            Slide

1. De l’IA générative à l’IA agentique          1

2. Les Accords de la Maison Blanche          2

3. Septembre 2026 : la crise de la SuperIntelligence          5

4. Accord américain et AI Act européen                     7 

5. Retour sur la gouvernance des SI en Europe          8 

6. Les responsabilités partagées tout au long de la chaine de valeur 11 

7. Agent Spaces – De la coopération à l’intelligence collective 14


vendredi 7 août 2026

Les nouveaux enjeux de la Cybersécurité

 par Bernard Laur

 La sécurité des systèmes d'information est une préoccupation croissante. Le développement des usages d'Internet a permis aux voleurs de tous poils de s'enrichir facilement. Toutes les semaines on apprend de nouveaux cas de piratages et de détournement de fonds. Or, il faut le savoir, seulement quelques cas sont rendus public parmi un océan de piratages restés confidentiels. Selon l’organisme chargé de la surveillance du piratage en France, cybersurveillance.gouv.fr, on a franchi en 2025 le seuil des 500.000 attaques soit 1.370 par jour, soit 1 par minute ! Ce chiffre est en hausse de 20 % sur celui de 2024 et en 2026 la progression continue.

 Le bal des voleurs

Si on plonge dans le détail des chiffres (slides 3 et suivants) on constate que l’an passé plus d’un million de personnes ont été victimes des pirates avec des prélèvements sur des comptes bancaires, des hameçonnages par des mails, des faux ordres de virement, la menace des rançongiciels, des violations de données personnelles, …

Du côté des entreprises, on estime que deux tiers d’entre elles ont été victimes d’au moins une attaque et souvent elles ne s’en sont même pas aperçues. La liste des incidents connus, slides 4 et 5, est impressionnante et ce ne sont que les incidents connus et publiés. Le reste est ignoré.

Outre les détournements de fonds, les extorsions et les chantages il y a surtout le vol de données. Il faut être clair. Aujourd’hui toutes vos données personnelles et tous vos petits secrets sont connus des pirates. Personne n’y échappe. C’est une véritable petite industrie. Les pirates pénètrent tous les sites contenant des données nominatives, les copient en quelques instants et les stockent sur leurs serveurs puis les agrègent et les valident. Ils disposent ainsi d’un profil complet de chacun d’entre nous et les proposent à qui veut bien les acheter.

Les pertes au niveau mondial sont considérables. On estime qu’elles sont comprises entre 10.500 et 23.000 milliards de dollars et ces montants sont en forte augmentation. Ils auraient presque triplé au cours des cinq dernières années. C'est un fléau mondial qui se traduit par le développement de mafias puissantes et dangereuses. Sans compter le jeu trouble des états hostiles comme la Chine, la Russie ou la Corée du Nord.

 Il est déjà trop tard

Or, face à ce péril, les entreprises et les administrations sont assez démunies. Elles ont du mal à mettre en œuvre une stratégie efficace et à mobiliser les moyens nécessaires. Lorsqu’on analyse les incidents connus on constate que ces organisations réagissent trop lentement, sans compter les très nombreux cas où elles ne réagissent pas du tout car elles ne se sont aperçues de rien. En moyenne le délai de réaction est compris entre 30 et 45 jours. Or les voleurs agissent en quelques minutes, voire en une poignée de secondes.

Mais le plus étonnant est le fait que 70 % des attaques exploitent le même trou dans la raquette (slides 8). En général, ce sont de graves défauts d’organisation de l’exploitation des serveurs et des réseaux et plus généralement la faiblesse de la gouvernance des données.

Les deux faces de l’Intelligence Artificielle

 A cela s’ajoute le développement récent de l’Intelligence Artificielle qui démultiplie le niveau de risque. Les pirates ont très vite compris tout l’intérêt de ces technologies. Il leur est ainsi possible d’automatiser les actions et surtout de les rendre plus subtiles et plus efficaces. Ils peuvent ainsi réaliser des attaques qu’il aurait été impossible d’imaginer avant. C’est l’industrialisation du gangstérisme.

Mais l’Intelligence Artificielle permet aussi de lutter contre le piratage en détectant instantanément des mouvements anormaux constatés sur le réseau, sur un des serveurs ou sur une base de données qu’un professionnel même très averti et disponible aurait du mal à détecter. Le système à base d’IA est capable de mettre en œuvre instantanément des mesures permettant de bloquer l’intrusion. Il est aussi possible, grâce à l’IA, de mieux gérer les données et de protéger plus efficacement les informations personnelles.

Il est pour cela nécessaire de mettre en œuvre des SOC (Security Operations Center) et des VOC (Vulnerability Operations Center) utilisant des agents IA. Ces systèmes réagissent immédiatement à toute attaque et mettent immédiatement l’intru en quarantaine. Il est ensuite possible de mettre en œuvre une des nombreuses parades capables de répondre à presque tous les types d’attaques possibles (slide 15).

A ces risques s’ajoutent les difficultés liées à l’insaisissable Shadow AI. C’est un problème peu visible mais certain, lié à l’utilisation sans contrôle et sans sécurisation d’un système d’IA Générative comme la version gratuite de ChatGPT ou de Gemini par les salariés de l’entreprise comme ils le font à domicile. Sans véritablement s’en rendre compte ils peuvent en utilisant des informations stratégiques et confidentielles de l’entreprise dans leurs prompts les voir recyclées par ces mêmes IA et donc accédées par des personnalités externes et concurrentes ou mal intentionnées. Ainsi via  les recherches effectuées par un salarié du service marketing ou du département de R&D, un concurrent peut être amené à détecter, voire à pouvoir prendre connaissance de ce que prépare l’entreprise.

De même de nouveaux LLM très puissants comme Mythos ont des capacités d’analyse offensive redoutables qui peuvent déstabiliser un grand nombre d’autres entreprises.

On s’aperçoit par ailleurs que l’arrivé récente des agents AI autonomes, qui est perçue comme une opportunité majeure, comporte aussi des risques importants de perte de contrôle de ces agents par les personnes et les entreprises qui les ont mis en œuvre, induisant en cela des risques sécuritaires critiques.

Pour éviter ces situations dommageables il est aujourd’hui absolument impératif de mettre en place des outils et une gouvernance efficace dans des délais courts.

 Quelques mesures de bonne gouvernance

La gouvernance est constituée par divers mesures simples que chaque professionnel connait mais, l’expérience le montre, ils ont souvent tendance à les oublier. Parmi ces mesures les plus importantes sont :

·     Avoir une stratégie globale de sécurité qui permette de concevoir et de construire un dispositif de sécurité cohérent et efficace fédérant sécurité informatique, cybersécurité et sécurité IA. Sans elle il est difficile de s’assurer de l’efficacité des multiples outils et mesures mis en oeuvre. Des méthodologies d’approche globale telles que « Zero Trust » deviennent incontournables.

Il faut ensuite blinder tous les accès aux systèmes et notamment aux données de façon à être certain à 100 % que la personne qui se connecte est bien celle qui est autorisée à le faire. Ceci est, par exemple, obtenu grâce à une double (ou multiple) authentification et devra par exemple intégrer l’authentification des agents IA utilisés.

·    Autre point clés, il est nécessaire de sécuriser la « supply chain », c’est à dire tous les accès des partenaires notamment des fournisseurs et des sous-traitants. L’expérience montre que c’est un des moyens d’intrusion des pirates les plus fréquents.

·      On doit aussi crypter toutes les données sensibles et notamment toutes les informations personnelles. De plus les clés de cryptage doivent être rendues inaccessibles. Toute tentative d’escalade des privilèges doit être détectée et le cas échéant bloquée.

·       Il faut renforcer les SOC et les VOC (Security Operations Center et Vulnerability Operations Center) avec des agents IA puissants et efficaces.

·    Une attention particulière doit être portée à l’application de la réglementation de sécurité. Elle est vaste et complexe : ISO 27001, NIS2, DORA, RGPD, ISO/IEC 27017, …

·      En matière de cloud il faut être très attentif aux risques liés à l’extra-territorialité (FISA, Cloud Act) et aux risques de coupure de services par des puissances étrangères. Il faut pour cela ne pas stocker des données sensibles ni effectuer des traitements vitaux sur des sites qui ne sont pas souverains (non certifiés SecNumCloud ou équivalent).

·      Et surtout il faut largement communiquer les règles de sécurité de base, former toutes les personnes concernées et leur fournir une assistance réactive et de qualité.

Le point le plus fragile des systèmes est actuellement constitué par le manque d’outils permettant une administration, supervision, détection, intervention globale et consolidée sur le système d’information, dans des délais cohérents avec les risques, prenant en compte à la fois les systèmes, les applications, les réseaux dans un contexte hybride (multicloud, systèmes internes) notamment dans les grandes organisations fonctionnant dans de nombreux pays et avec de nombreuses filiales ou partenaires. Il existe des plateformes unifiées comme celles de Microsoft Security, de CrowdStrike Falcon Plateform ou de Palo Alto Networks qui couvrent entre 70 et 85 % du périmètre à sécuriser mais le marché est en attente d’outils capables d’une couverture globale (multi-systèmes, multi-fournisseurs) et intégrant une IA avancée prenant en charge l’intervention au-delà de la supervision.

 De nouvelles approches

Contrairement à ce qui est souvent répété il existe déjà de nombreux moyens permettant de renforcer la sécurité des systèmes d’information. Parmi ceux-ci citons :

·        L’approche Globale « Zero Trust », « SaSE » (slide 21),

·        Le MFA (Multi Factor Authentification), le Passwordless et le PassKeys (slide 22),

·        La mise sous contrôle des Agents IA (slide 23),

·        Le chiffrement, l’anonymisation, la pseudonymisation et à terme le cryptage quantique (slide 24),

·        Le renforcement des SOC et des VOC avec des agents IA (slide 25),

·    Le développement de la souveraineté numérique et de la résilience pour garantir la continuité de service (slide 27).

·       La maîtrise des règlements et des lois qui sont très nombreux et finissent par constituer un « enfer » réglementaire (slides 29 à 31)

Comme on le voit les opérations à mener sont nombreuses et délicates. Pour y arriver il est indispensable de développer dans l’entreprise une culture de la sécurité. Il est souvent difficile d’y arriver car très fréquemment la culture technique de l’entreprise nécessaire est inexistante. De plus l’investissement en cybersécurité est souvent insuffisant, ce qui se traduit par un grave sous-équipement.

Un avenir complexe et difficile

En termes de cybersécurité, 2025 a été pire que 2024, elle-même pire que 2023, elle-même pire que 2022, …. Dans ces conditions, que nous réservent 2026 et 2027 ?

En 2025 le nombre d’attaques de ministères, d’administrations, de services publics, de sociétés majeures et de PME / ETI a battu tous les records : 67 % des entreprises françaises ont été victimes d’une cyberattaque. A cela s’ajoute le fait qu’en un an le nombre de violations d’informations personnelles a doublé.

Le retour d’expérience sur ce qui s’est passé en 2025 et les challenges majeurs pour 2026 (dont certains marqués par l’urgence) situent les enjeux et les priorités à venir :

·       Maîtriser l‘IA générative et l’agentique, et notamment le shadow AI, incontestables catalyseurs et générateurs d’une grande part des problèmes rencontrés. L’IA est-elle seulement le problème ou peut-elle constituer la solution ?

·       Faire évoluer la gestion des identités et la sécurité d’accès dont les faiblesses sont à l’origine de 80% des attaques.

·     Contrôler la supply-chain d’approvisionnement et la dépendance logicielle pour diminuer la surface d’attaque.

·   Développer une administration globale du Cloud, du SaaS et plus généralement du système d’information afin de le sécuriser et d’en garantir la résilience.

·       Assurer la conformité règlementaire et la souveraineté dans le cadre d’une véritable gouvernance cyber-sécuritaire.

 

Ce texte est un résumé de la conférence faite par Bernard Laur au Club de la Gouvernance des Systèmes d’Information le Mercredi 24 Juin 2026 : « Les nouveaux enjeux de la cybersécurité ». Elle a permis de faire le point sur ce sujet et de répondre à quelques questions clés comme :

  • Quel est l’importance et la nature des risques liés à la cybersécurité ?
  • Quid de la confidentialité des données personnelles ?
  • Comment les pirates pénètrent les réseaux et accèdent aux données confidentielles ?
  • Pour quelles raisons les entreprises et les administrations réagissent si tardivement aux incidents de sécurité ?
  • Pourquoi l’Intelligence Artificielle modifie considérablement la situation ?
  • Que faire pour diminuer les risques liés aux cyberattaques ?
  • Quels sont les méthodes et les outils à mettre en œuvre ?
  • Quelles sont les priorités pour améliorer la situation ?
  • ….


 Lire ci-dessous le support de la présentation de l’exposé de Bernard Laur 

  1. La situation actuelle de la cybersécurité                                    Slide      3
  2. L’Intelligence Artificielle a tout changé                                     Slide    12
  3. Et maintenant que faire ?                                                            Slide    17
  4.  La réglementation                                                                      Slide    28
  5. La meilleure défense c’est l’attaque                                           Slide    31

 

mardi 16 juin 2026

Agentique : où en sommes-nous aujourd’hui ?

par Christophe Legrenzi

L’Intelligence Artificielle générative évolue avec une rapidité surprenante. Lorsque ChatGPT est apparu le 30 novembre 2022 un nouveau monde a surgit sous nos yeux. Tout le savoir du monde était consultable à l’aide d’un seul prompt. Aujourd’hui cela parait bien loin tant les progrès se sont rapidement succédés. Ainsi depuis un peu plus d’un an sont apparus les agents IA. C’est la révolution dans la révolution car ils permettent de démultiplier la puissance des LLM..

Depuis quelques mois on assiste à leur très rapide développement. C'est une innovation considérable qui permet d'envisager des opérations qui étaient jusqu'alors jugées impossibles. Un nouveau monde s'ouvre devant nous qui dépasse de loin les possibilités offertes par les LLM. Il est pour cela important de comprendre les opportunités offertes par les agents et leurs possibilités mais aussi les risques potentiels qu'ils comportent et qu’il est nécessaire d’apprendre à maîtriser. Ce sont des enjeux stratégiques considérables. C’est le cœur de la nouvelle gouvernance des systèmes d'information.

La révolution des agents

L’agent est le résultat de la transformation d’un simple assistant conversationnel (couramment appelé chatbot) permettant d’accéder à un LLM à l’aide d’une simple phrase (un prompt) en des agents intelligents autonomes capables d’effectuer des successions d’opérations, exécuter des tâches simples mais aussi des traitements complexes, de planifier des actions, de s’enrichir par leur expérience et d’interagir avec différents outils ou sources d’informations internes, voire de s’auto-corriger. Comme on le voit, on change de monde.

On peut ainsi confier à des agents l’automatisation des processus métiers comme la gestion commerciale, la comptabilité, les ressources humaines, la logistique, … Les agents peuvent être intégrés aux systèmes informatiques existants comme les ERP, les CRM, les ITSM (1), ... Les principaux éditeurs de logiciel de gestion proposent dès aujourd’hui des agents pour améliorer les performances de leurs systèmes avec des améliorations importantes en matière de performance, de sécurité et de gouvernance.

On distingue actuellement trois types d'agent en allant du plus simple au plus complexe :

  • Un copilote textuel assimilé aux agents conversationnels. Il permet de répondre à des question précises ou de traiter un document pour, par exemple, le résumer, répondre à des mails, relancer des clients, ...
  • Un agent augmenté capable de mémoriser des informations liées à l’entreprise en recourant à la technologie RAG (2 ), ou de proposer des fonctions permettant d’accéder aux applications de gestion à l’aide d’APIs métir (3) et donc aux données se trouvant dans leurs bases de données,
  • Des systèmes multi-agents autonomes capables de se coordonner. Ils sont apparus en 2025 et permettent d’exécuter des opérations complexes en temps réels en activant un certain nombre d’agents sous le contrôle d’un système orchestrateur. Ces systèmes peuvent prendre en charge des opérations complexes et, avec leur utilisation fréquente, ils peuvent apprendre et se perfectionner.

L’émergence d’un nouveau monde

Techniquement, l’agent moderne se compose de différents ensembles :

  • un LLM comme ChatGPT (ou Copilot), Claude, Gemini, Le Chat, DeepSeek, ….
  • des bases de données vectorielles (4),
  • des graphes de connaissances (GraphRAG),
  • une structuration avancée (StructRAG),
  • des frameworks d’orchestration comme LangGraph, MGX ou Flowise.

Ces briques transforment l’agent en un véritable orchestrateur de données et de services, au lieu d’être un simple générateur de texte comme dans le cas des LLM. Les architectures multi-agents et les patterns supervisor/swarm permettent de créer des « équipes numériques virtuelles » spécialisées qui collaborent pour produire des rapports, prendre des décisions et gérer des actions complexes. 

Un long cheminement

Pour comprendre les progrès réalisés dans le domaine de l’Intelligence Artificielle Générative il faut remonter 9 ans en arrière. En 2017 une équipe de scientifiques de Google a inventé deux concepts originaux : celui de « Tranformeur » et celui de « mécanisme de l’attention ». Jusqu’alors les systèmes de traitement automatique des langues piétinaient. Ces deux notions sont à l’origine des progrès réalisés et notamment de Chat GPT, GPT pour Générative Pre-Trained Tranformer. Très vite des progrès rapides ont été constatés jusqu’à l’annonce de la version 3 de Chat GPT en 2022.

Ce fut une véritable explosion. En quelques mois des centaines de millions de personnes se sont connectés au système et ont été émerveillés par la qualité des réponses dans un français parfait. De plus, les systèmes de l’IA Générative sont capables de rédiger des programmes informatiques. C’est devenu un des usages les plus fréquent de ces systèmes. Et cerise sur le gâteau, c’est gratuit (5). De version en version on a assisté à des progrès considérables. Cependant il restait des hallucinations (c’est-à-dire des mensonges), des incohérences logiques, des informations qui n’étaient pas à jours, l’absence de mémoire des opérations effectuées antérieurement, … Cela a fini par éroder la confiance des utilisateurs. 

Mais surtout ces systèmes qui rédigeaient des textes de si bonne qualité n’étaient pas capables de consulter des données de l’entreprise et surtout ils ne pouvaient pas lancer des actions sur le site informatique de l’entreprise ou sur le Web. Les agents sont nés de ces constatations. Il fallait pouvoir accéder aux bases de données de l’entreprise et aux sites Web utiles pour lire et pour écrire. 

Aujourd’hui de nombreux cas d’usage sont opérationnels comme par exemple :

  • Le support client. Les nouveaux clients ont souvent besoin d’assistance comme par exemple avoir des explications sur les opérations qu’ils doivent effectuer, la mise en œuvre des garanties, la gestion des retours, … Grâce aux agents il est possible de traiter 80 % des demandes de 1er niveau et ainsi permettre aux personnes chargées de l’assistance de concentrer le travail sur les véritables problèmes. 
  • Les conseillers patrimoniaux avaient une grosse charge de travail pour suivre les dossiers de leurs clients. Ils ont ressenti le besoin d’avoir un système permettant d’analyser les portefeuilles de leurs clients, de rédiger des notes de synthèse qui leur sont destinées et de faire des recommandations d’achat ou de vente. De plus les agents ont permis de suivre en temps réel les variations des cours en bourse et de faire, le cas échéant, des suggestions.
  • Les avocats ont besoin d’avoir des dossiers pour plaider. Ce travail est confié à des assistants qui doivent rechercher la jurisprudence pertinente dans le cadre d’une affaire spécifique. Lors de la rédaction des contrats il est souvent utile de disposer d’un premier jet avec des clauses contractuelles adaptées au cas particulier. Enfin il est pratique d’avoir une veille juridique pour suivre les évolutions de la réglementation. Toutes ces tâches sont prises en charge par des agents.
  • L’automatisation de tâches administratives de bout en bout. Dans toutes ces entreprises il existe de nombreuses opérations répétitives de faible valeur ajoutée comme l’embauche d’un nouveau collaborateur, le traitement des factures fournisseurs, la gestion des tickets de l’assistance informatique de niveau 1, … Ces tâches sont assurées par des agents qui assurent l’orchestration entre les différents systèmes existants.
  • ….

Ainsi de nombreuses tâches peuvent être prise en comptes par les agents. Mais, encore faut-il contrôler leur activité car l’observation montre qu’il existe des risques non-négligeables qu’il faut apprendre à maîtriser.

La gouvernance des agents

Pour cela il faut d’abord s’assurer de l’alignement du système. C’est un enjeu important qui est assuré par des mesures comme l'apprentissage par renforcement à partir du feedback humain (RLHF), l'apprentissage par renforcement à partir du feedback de l’Intelligence Artificielle (RLAIF), ainsi que l’IA constitutionnelle qui assure l’innocuité des retours d’information de l’IA (Constitutional AI)). 

Il est aussi nécessaire d’assurer une traçabilité complète des opérations. Il est aussi indispensable de mettre en œuvre une politique de sécurité renforcée. Ces mesures sont importantes afin de garder la main sur ce que les agents peuvent réellement faire. Le potentiel de ces nouveaux agents est immense, tout autant que les risques liés à cette architecture notamment lors de la connexion entre différents systèmes informatiques. 

La souveraineté et le respect du RGPD peuvent être assurés par des déploiements avec des modèles open source, des RAG sur des données de l’entreprise et le recours à des sites on-premise (c’est-à-dire de l’entreprise) ou à des clouds souverains externes.

L’enjeu est d’arriver à construire progressive à une entreprise augmentée basée sur des agents fiables, gouvernés et créateurs de valeur mesurable.


Ce texte est un résumé de la conférence faite par Christophe Legrenzi au Club de la Gouvernance des Systèmes d’Information le Mercredi 27 Mai 2026 : « Agentique : où en sommes-nous ? ». Elle a permis de faire le point sur ce sujet et de répondre à quelques questions clés comme :

  • Quelle est l’origine des agents ? 
  • Quels sont les limites des LLM ?
  • Quels sont les relations entre les agents et les LLM ? 
  • Comment fonctionnent de manière pratique les agents ? 
  • Quels sont les différents types d’agents ? 
  • Quels est l’importance des multi-agents et des agents d’orchestration ? 
  • Quels sont les cas d’usage actuels ?
  • Comment améliorer la sécurité des agents ?
  • Quels sont les principes de gouvernance à appliquer ? 

Lire ci-dessous le support de la présentation de l’exposé de Christophe Legrenzi :

                                                                                                 Slide

1. Introduction                     3

2. L’évolution des capacités des IA           12

3. Comment fonctionnent les agents modernes 20

4. Cas d’usage et capacités actuelles         33 

5. Gouvernance, sécurité et souveraineté          39 

6. Conclusion et perspectives         47


---------------------------------------------------------------

 

[1] - ITSM : Information Technology Service Management  ou gestion des services informatique. C’est la gestion de la production informatique, la surveillance de la sécurité et le cas échéant l’intervention rapide en cas d’intrusion.

[2] - RAG : Retrivial Augmented Generation ou génération à enrichissement contextuel. Cette technologie permet de prendre en compte des données propre à l’entreprise : comptabilité, gestion des ressources humaines, contrats, …

[3] - API : Application Programming Interface ou interface de programmation d’application. Ils permettent d’accéder aux programmes et aux données des applications informatiques existantes.

[4] - Une base de données vectorielle est une base de données qui vous permet de stocker, d'indexer et d'interroger des vecteurs ou des représentations numériques de données non structurées, telles que du texte, des images ou des fichiers audios.

[5] - C’est gratuit pour les anciennes versions. Les nouvelles sont vendues à prix d’or.