par Bernard Quinio
Les IA, surtout les IA génératives, sont, de plus en plus, capable de faire le travail à notre place. C’est une bonne chose mais cela pose de nombreuses questions. Qui fait le travail le plus intelligent, le plus créatif, le plus sympathique : l'IA ou l'humain ? Quels sont ces conséquences sur les humains, sur les connaissances et finalement sur l’organisation des entreprises et des administrations ?
Il y a quelques années Michel Desmurget alertait dans un livre prémonitoire : « La fabrique du crétin digital » sur les risques induits par les écrans sur les enfants. Il signalait leurs effets négatifs sur le développement des jeunes enfants notamment en ce qui concerne sur leur capacité à avoir des interactions avec les humaines, sur leur langage et leur capacité de concentration.
Aujourd’hui le développement de l’Intelligence Artificielle et notamment de l’Intelligence Artificielle générative remet le sujet en avant. Elle va avoir des effets considérables non seulement sur les enfants mais aussi sur les adolescents et sur les adultes. Il est urgent de s’en occuper. Pour y arriver il est nécessaire d’analyser ce qui se passe dans la relation entre les humains et les systèmes d’Intelligence Artificielle Générative puis de trouver des solutions. Cependant, il ne faut pas pour autant verser dans le pessimisme le plus noir. Les IA Génératives ont des effets positifs considérables notamment en facilitant l’apprentissage, en permettant d’automatiser de nombreuses tâches, en faisant une synthèse sur un sujet particulier, en traduisant des textes écrits dans différentes langues, en suggérant des idées et des démarches nouvelles, … L’IA Générative est un fantastique outil d’enseignement et de recherche et d’amélioration de l’efficacité du travail dans les entreprises et les administrations.
Mais en même temps les systèmes d’IA Générative souffrent d’un certain nombre de problèmes comme les biais, les hallucinations, les effets de la consanguinité, … qui peuvent perturber les utilisateurs. Pour éviter ces risques il est indispensable de mettre en place des gardes fous et notamment de prendre des mesures afin de rendre l’IA Explicable et ainsi éviter les effets de boîte noire. Il est certain que l’on ne retrouve pas la même difficulté à expliquer les résultats obtenus dans le cas des autres applications informatiques. Les chiffres obtenus à l’aide d’Excel ne sont pas inexplicables. Ils peuvent être faux mais assez vite on sait quelle en est la cause. Ce n'est pas le cas avec l’Intelligence Artificielle Générative.
Mais à côté de ces défauts il existe un effet encore plus redoutable : c’est l’impact de l’IA Générative sur le raisonnement. On craint que des pertes de compétences peuvent survenir. Il y a quelques décennies, lors de la généralisation de l’emploi des calculatrices, nous avions déjà constaté chez les enfants une perte de leurs capacités de calcul mental. On a observé plus récemment que la génération Z a perdu le sens des ordres de grandeurs. N'est-ce pas inquiétant ? Certain dirons qu’en fait ce n’est pas si grave. Cependant, la généralisation de l’Intelligence Artificielle Générative fait apparaître un phénomène de ce type mais avec des effets considérablement plus fort. Il semble qu’il y a un risque de perte de capacité intellectuelle, c’est-à-dire d’intelligence. Dans ces conditions serons-nous encore capable de réfléchir seul ?
Ceci nous amène à nous interroger sur la nature de l’intelligence ? En fait il n’y a pas de définition claire de cette notion fondamentale. Les psychologues en discutant depuis des années sans arriver à se mettre d’accord et on ne sait toujours pas la mesurer de façon pratique. A la capacité d’avoir un raisonnement logique s’ajoute en effet une certaine dose de créativité, une capacité de mémorisation et surtout un esprit critique. Un bon raisonnement est le résultat de ces différents facteurs. Dans ces conditions mesurer l’impact de l’IA Générative sur l’intelligence n’est pas une opération évidente.
De nombreuses études montrent les risques de l’Intelligence Artificielle Générative
Une étude récente de la FNEGE sur l’attitude des étudiants face au l’IA Générative, et notamment face à ChatGPT, montre que 80 % d’entre eux utilisent régulièrement et massivement. En dehors de la rédaction des devoirs et des mémoires ils s’en servent pour effectuer beaucoup de choses différentes comme la recherche de données, une meilleure compréhension du cours, la recherche de citations, le développement d’idées innovantes, le cheminement de la réflexion, la création d’images, … Ils sont conscients des risques de l’IA Génératives comme la perte de compétences, la disparition de leur esprit critique, la perte de l’habitude de faire des efforts, … Mais, en pratique, ils ont du mal à prendre leur la distance face aux productions des IA Génératives et même après une mise en garde des enseignants ils éprouvent une grande difficulté à prendre la distance nécessaire. Ce constat doit être mis en relation avec un autre phénomène préoccupant récemment observé : la rapide perte d’attention des étudiants au-delà de 15 minutes. Enfin, l’emploi massif des IA Génératives a comme conséquence qu’aujourd’hui les enseignants ne savent plus vraiment de quelle manière ils peuvent évaluer les étudiants.
Différentes études confirment ces constatations notamment une recherche faite par Microsoft en 2025 sur la base de 319 réponses à une enquête qui montre que l’usage des IA Génératives est associé à une pensée moins critique. De même une étude du MIT sur un échantillon de 54 personnes suivie durant 4 mois montre que les personnes qui utilisent ChatGPT sous-performent systématiquement par rapport aux personnes qui n’y recourent pas. Pire : 83 % des utilisateurs sont incapables de se rappeler les opérations qu’ils ont effectuées quelques minutes auparavant ! On constate ainsi une perte des capacités de mémorisation qui est à relier probablement à la perte des ordres de grandeurs déjà constaté.
D’autres études montrent que les utilisateurs développent une dépendance à l’outil qui se traduit par une certaine paresse à rechercher les connaissances (vous trouverez dans les slides ci-dessous la référence de ces études et des articles qu’il est intéressant de consulter). Ceci est probablement dû à l’absence d’effort pour produire un résultat particulier.
On constate aussi un problème d’honnêteté intellectuelle car beaucoup de personnes pensent que si le système d’IA Générative l’a dit, c’est que c’est vrai. En fait, on constate qu’il y a une sorte phénomène de délégation cognitive qui se traduit par des pertes des compétences et donc une réduction de l’autonomie intellectuelle. Ceci explique en grande partie l’absence d’esprit critique constatée.
Pour en revenir à l’Université on constate des attitudes très variées des étudiants : une majorité d’entre eux perdent une partie de leurs capacités intellectuelles à cause de l’emploi de l’IA Générative et ils sont donc diminués alors qu’une minorité d’étudiants voient au contraire leurs performances augmentées car ils ont su préserver leurs capacités de compréhension, leur créativité et surtout leur esprit critique. Mais derrière cette fracture cognitive on distingue une facture éthique qui risque d’avoir avec le temps un très fort impact. L’usage croissant de l’IA Générative pourraient mener à terme à une uniformisation des métiers et des identités professionnelles.
En effet avec l’application de l’IA Générative dans le domaine de l’éducation on va pouvoir individualiser les parcours des étudiants. Ceci fait qu’ils ne sont plus ensemble pour travailler et ceci va se traduire par la perte du sens de la communauté. Finalement on va perdre les communs. Enfin, la dépendance croissante à ces outils va se traduire par des comportements curieux. Ainsi on constate une réticence croissante à apprendre des langues étrangères car les systèmes d’IA traduisent sans peine et instantanément toutes les langues.
Apprendre à vivre avec l’Intelligence Artificielle Générative
Dans ces conditions il est nécessaire de s’organiser pour résister à la tempête qui s’annonce. On doit pour cela commencer à distinguer le cas des professionnels formés et celui des étudiants en cours de formation. De même dans l’entreprise il va être nécessaire de gérer de manière spécifiques les débutants et de redéfinir le rôle des séniors. On peut penser que cela va entrainer dans les années à venir de grands changements.
Il faut le rappeler que l’IA Générative est un puissant outil de travail entre des mains expertes. Ainsi, dans le cadre des activités scientifiques elle est capable de prendre en charge de nombreux travaux. C’est un collaborateur fiable, efficace et discret. Il en est de même dans de nombreuses autres fonctions de l’entreprise comme la gestion commerciale, le marketing, les finances et la comptabilité, la logistique, le juridique, la recherche et développement, ….
Mais il y a actuellement trop de montreurs de marionnettes qui racontent des fables à ce sujet, sortent des bancs d’essais biaisés et minimisent les limites de cet outil. Ils annoncent le grand remplacement des hommes par les machines.
En vérité on va probablement arriver à un mode de collaboration efficace et équilibré en développant une sorte d’hybridation entre les hommes et l’IA Générative de façon à arriver à un humain augmenté. Ceci va nécessiter de revoir les compétences et les qualifications en recourant à des outils comme la classification de Bloom (voir slide 33). Ces changements vont avoir des conséquences importantes dans le domaine de la gestion des compétences. Ceci va imposer aux RH une nouvelle approche. Ses responsables vont devoir renforcer leur dialogue avec les différentes parties prenantes et en particulier avec les DSI.
Ce texte est un résumé de la conférence faite par Bernard Quinio au Club de la Gouvernance des Systèmes d’Information le Mercredi 5 Novembre 2025 sur le thème « Le crétin artificiel ». Elle a permis de faire le point sur ce sujet et de répondre à quelques questions clés comme :
- Qui fait le travail le plus intelligent, le plus créatif, le plus sympathique : l'IA ou l'humain ?
- Quelle perte de compétences pouvons-nous anticiper ?
- Saurons-nous toujours raisonner si les IA le font pour nous ?
- Qui va subir ces pertes de compétences ?
- Un expert peut utiliser une IA générative car il sait faire une analyse critique, mais un jeune non formé ? Sans faire des gammes, peut-on être concertiste ?
- ….
Lire ci-dessous le support de la présentation de l’exposé de Bernard Quinio :
Slide
1. Les concepts de base de l’Intelligence Artificielle 3
2. Ce qu’on peut très bien faire avec l’IA 7
3. Quelques petits problèmes 9
4. L’Impact des Intelligence Artificielle sur le raisonnement 14
5. Différentes études sur l’impact de l’Intelligence Artificielle 17
6. Comment résister à cette tempête 28
Aucun commentaire:
Enregistrer un commentaire