J’ai eu le plaisir, l’honneur et l’avantage de participer à la relecture/correction de l’un des derniers ouvrages d’Ariane Bilheran, Totalitarisme numérique en cours de chargement… L’humanité aux risque de l’IA (Guy Trédaniel, 2026). Impressions…
L’intelligence artificielle est un sujet qui me passionnait lorsque j’étais étudiant en diplôme d’études universitaires générales (1990-1992), au point d’avoir compulsé beaucoup d’ouvrages sur les systèmes experts acquis à cette époque par mon père, qui s’y était intéressé pour le rôle qu’ils pouvaient avoir dans l’aide au diagnostic financier [1].
Puis, lorsqu'il a fallu faire un choix entre la licence de mathématiques et la licence d’informatique, et j’ai opté pour la première, convaincu, même si je ne l’aurais pas formulé ainsi à l’époque, qu’il vaut s’investir dans des champs de savoir qui ont résisté à l’épreuve du temps (les mathématiques existent depuis 6000 ans…), plutôt que de tenter de maîtriser des techniques qui sont vouées à l’obsolescence. Même Yann LeCun, lauréat en 2018 du prix Turing, recommande aux étudiants qui voudraient travailler dans l’informatique d’étudier la physique quantique plutôt que le dernier langage à la mode [2].
Aujourd'hui, je suis un peu plus circonspect en ce qui concerne tous ces « gadgets technologiques » qui sont finalement aux mathématiques ce que l’Étoile noire est à la Force, comme s’en explique Dark Vador dans un célèbre passage de l’épisode IV de La Guerre des étoiles [3], et j’aurais tendance à abonder dans le sens de l’auteur du Totalitarisme numérique lorsqu'elle écrit, dans la note 231 : « Personnellement je ne suis pas du tout séduite à l’idée d’être entourée d’objets mécaniques et robotiques qui fonctionnent comme des mouchards. (…) J’ai personnellement le sentiment (…) de ne jamais pouvoir être tranquille (…) et d’être confrontée chaque jour à une folie ou une débilité humaine supplémentaire à traiter. » (page 252).
Car ce qui pose problème pour la philosophe et psychologue n’est pas tant un « outil, lorsqu'il est manié de manière intelligente et circonstanciée par des gens qui savent le manier et connaissent les limites de ce maniement (y compris les limites morales) » (page 12) que son « déploiement (…) en population générale » (page 12). Il ne s’agit donc pas dans ce livre de considérations techniques particulières, mais de réflexions philosophiques générales : qu’avons-nous à gagner à déléguer à la « grosse machine algorithmique » les moindres de nos préoccupations ? Le succès de cette GMA n’est-il pas révélateur de l’un des « trois piliers de la sottise » identifiés par Bernard Beauzamy dans son livre Meurs vieux lâche ! Il est trop tard ! [4] : le besoin de « réfléchir le moins possible » ?
L’ouvrage est divisé en quatre chapitres.
Le chapitre I, « L’IA : de quoi parle-t-on ? » a pour but de faire la généalogie de cette expression « IA » qui a fait florès. « En somme, l’IA est un calque d’une partie des aptitudes cognitives de l’homme » (page 27) qui se décline en « différents types » : « L’IA étroite », «l’IA généraliste » et «l’IA supérieure » (page 27). Mais cette terminologie repose d’emblée sur une « falsification du langage » (page 29) puisque ce qui est artificiel ne peut être intelligent, et ce qui est intelligent n’est pas artificiel. La question est alors posée : s’agit-il d’« Augmenter les aptitudes ou [de] les diminuer ? » (page 48).
Le chapitre II, « IA et transhumanisme », nous rappelle que le développement de l’IA est à replacer dans le cadre plus général de l’idéologie transhumaniste. On passe ici en revue les rôles du DARPA (Defense Advanced Research Projects Agency, Agence pour les projets de recherche avancée en Défense, page 69) de l’Armée dans la création d’Internet, anciennement appelé ARPANET (page 71) et d’Elon Musk qui veut « Fusionner l’intelligence numérique et l’intelligence numérique » (page 70) : il s’agit, comme dans tous les projets totalitaires de promouvoir « ‘‘L’homme nouveau’’ ou l’éradication de l’‘‘homme ancien’’ » (page 63).
Le chapitre III évoque « La dangerosité psychique de l’IA » qui est « la manipulation de l’esprit humain » (page 125 et suivantes) : après avoir analysé les « cinq arguments principaux utilisés pour nous conduire à utiliser l’IA » (page 127), l’auteur nous dresse une liste de « risques psychiques occultés ou banalisés » (page 139 et suivantes), dont « l’extorsion de la conscience humaine, son empêchement et son externalisation » (page 145), l’« attachement affectif et le transfert psychique » (page 147), pour n’en citer que deux.
Heureusement, le chapitre IV nous rappelle que parce que « Le mythe transhumaniste » doit faire « face à la réalité humaine » (page 169 et suivantes), il n’est peut-être pas « viable » (page 171) : « pour nous obliger à nous faire augmenter pour la machine, il faut au préalable nous avoir considérablement diminués » (page 173). En guise d’illustration, sur le forum « les-mathematiques.net », on trouvera un long fil de discussion (de 16 onglets) intitulé : « Tous les profs au chômage avec ChatGPT ? » [5]. Celui qui pose la question de cette manière a totalement oublié ce qu’est (ou devrait être ?) un professeur… Au début des années 2000, Michel Delord, professeur certifié de mathématiques et ancien membre du Conseil d’administration de la Société mathématique de France observait déjà, non sans malice : « l’acceptation par le corps enseignant des différentes réformes depuis une trentaine d’années rend tout à fait possible leur remplacement par des robots. » [6]. Ce chapitre se termine par une liste de « garde-fous pour se préserver » (page 205 et suivantes).
Au total, il s’agit d’un livre très agréable à lire – j’ai terminé la première lecture en trois jours – et riche de références (246 notes de bas de page) dont je recommande la lecture afin d’approfondir les quelques traits saillants que j’ai tenté de mettre en évidence ici.
Je terminerai par un nuage de mots réalisé avec la version numérique du livre :
Notes :
[1] Jean-Guy Degos, Contribution à l’étude du diagnostic financier dans les petites et moyennes entreprises, thèse pour l’obtention du doctorat d’État, Université Bordeaux I, 1991 ; voir notamment le chapitre II.5, « Diagnostic financier et enjeu opérationnel : la diversité des méthodes applicables à la petite et moyenne entreprise » (pp. 267-290).
[2] Voir Yann Le Cun, La théorie de l'apprentissage de Vapnik et les progrès récents de l'intelligence artificielle, 4 avril 2018, BNF, en ligne : https://www.youtube.com/watch?v=sNtskRADGTY ; le passage clé se trouve à partir de 1 h 14 min 42 secondes : https://youtu.be/sNtskRADGTY?t=4482.
[3] « Général Motti : L'Étoile Noire est l'engin de guerre le plus puissant de tout l'univers. Qu'on nous mette à l'épreuve.
Dark Vador : Votre jouet technologique ne m'impressionne pas. Même si notre armement est assez puissant pour détruire une planète, il est bien peu de chose en comparaison de la Force. ». Source : https://fr.wikiquote.org/wiki/Star_Wars,_%C3%A9pisode_IV_:_Un_nouvel_espoir.
[4] Voir notre entretien avec le PDG de la Société de Calcul mathématique ici : https://depeches-citoyennes.com/nos-videos/effondrement-de-notre-civilisation-meurs-vieux-lache-il-est-trop-tard.
[5] « Tous les profs au chômage avec ChatGPT ? », forum les-mathematiques.net : https://les-mathematiques.net/vanilla/discussion/2332714/tous-les-profs-au-chomage-avec-chatgpt.
[6] Michel Delord, NTIC à l'école : un pas de plus dans l’enseignement taylorisé d’une pensée taylorisée ?, pour le collectif Sauver les lettres, https://www.sauv.net/nticd.htm.
Cet article est
