Anthropologues, historiens et philosophes ont coutume de présenter les technologies, y compris celles de la communication, comme les extériorisations successives d’aptitudes humaines qui, par leur avènement, ont permis le développement inattendu d’autres facultés. Avec l’invention de l’écriture, par exemple, nos esprits se seraient progressivement libérés d’une fonction essentiellement mémorielle, et rendus ainsi plus disponibles pour le raisonnement (philosophique ou scientifique) ; avec l’invention de l’imprimerie et la profusion de textes qu’elle engendra, c’est l’esprit critique et encyclopédique qui prit son essor ; avec l’arrivée de l’informatique, grâce à l’automatisation et la dématérialisation de certaines tâches (calcul, saisie de texte, compilation de connaissances…), la production de données et de savoirs devint l’affaire du plus grand nombre et cette intensification, doublée d’une démocratisation, se serait encore accélérée avec l’avènement de l’internet qui aurait démultiplié nos capacités d’investigation et de communication, notamment via les moteurs de recherche et les réseaux sociaux. Dans ces perspectives optimistes, l’émergence récente des intelligences artificielles, et notamment des intelligences artificielles génératives de contenus (qu’il s’agisse de textes, d’images, de musiques ou de vidéos) constituerait l’ultime étape de notre émancipation. Des machines et leurs programmes peuvent en effet désormais prendre en charge l’ensemble des tâches traditionnellement associées à l’intelligence humaine, comme l’apprentissage, la perception, le diagnostic, le raisonnement, la résolution de problèmes et la prise de décisions, même si l’on ne sait guère, pour autant et pour l’instant, à quoi pourraient bien s’employer dans l’avenir nos esprits dégagés de ces diverses fonctions.
Ainsi que son titre le laisse entendre, Frédéric Neyrat s’inscrit en faux contre cette vision irénique de l’histoire, et sa conception un peu béate des progrès intellectuels et sociaux rendus possibles par les intelligences artificielles génératives (IAG). Non qu’il conteste l’importance du « cercle anthropo-technologique » (« Il n’y a pas d’humanité sans technologie, c’est-à-dire sans extériorisation de l’humanité dans des outils et des machines qui la conditionnent en s’y intégrant, en remodelant son intériorité sociale et psychique », rappelle-t-il dès son introduction, p. 17-18), mais le penseur choisit plutôt de montrer, avec Marshall McLuhan (Comprendre les médias, 1977), que l’apparition d’une nouvelle technologie, parce qu’elle est précisément une externalisation, constitue dans le même temps toujours une dépossession, voire une amputation de fonction dont la privation constitue « un trauma ».
Autour de la partie amputée se formerait une zone de désensibilisation, de narcose protectrice contre la douleur, empêchant alors les sociétés humaines de sentir la profondeur du changement, de sentir et de comprendre exactement comment une nouvelle technologie affecte le corps humain, les facultés cognitives et la société (p. 24).
Derrière le mot-valise de Traumachine s’inscrit donc prioritairement l’idée que l’expansion de l’intelligence artificielle ne représente pas seulement une nouvelle blessure narcissique infligée à l’humanité, après les précédents historiques de Copernic, de Darwin, et de Freud (ou de l’héliocentrisme, de l’évolutionnisme et de la psychanalyse), qui nous firent successivement découvrir que le monde ne tournait plus autour de nous, que notre espèce ne relevait pas de l’exception ni de l’élection dans le règne animal, et enfin que notre raison n’était pas seule maîtresse à bord, mais habitée et travaillée par son double, l’inconscient. Avec les IAG, nos attributs majeurs sont aussi le fait de simples machines, et ce transfert constitue un traumatisme sans précédent, que Frédéric Neyrat rattache historiquement à la dernière mutation du capitalisme. Selon le philosophe, ce système économique s’apparente en effet lui-même à une « machine » en plein hybris, ou encore à une IAG « coupée de la réalité à force d’avoir voulu la simuler et la remplacer intégralement » (p. 23), au point de préférer désormais tout sacrifier – la démocratie, les populations, la planète elle-même – plutôt que de renoncer à ses objectifs économiques et politiques au bénéfice d’une oligarchie. Traumachine désignerait alors l’excès de machines (« des machines, il y en a trop », affirme l’auteur dès son incipit et à plusieurs reprises) au service de pouvoirs de plus en plus autoritaires (aux États-Unis, en Chine, en Russie) qui intègrent maintenant systématiquement les intelligences artificielles à leurs nouvelles modalités de surveillance, de contrôle et de guerre envers les populations humaines. Le développement des drones et des armes létales autonomes (lethal autonomous weapon systems, ces laws ou nouvelles lois dominant dorénavant les conflits), va ainsi de pair avec la confiscation / concentration des médias dans les mains de quelques milliardaires ayant fait fortune grâce aux nouvelles technologies de communication et à leurs usages des algorithmes, cette convergence marquant précisément l’avènement d’un techno-fascisme à l’échelle globale.
Se sachant menacés par la dégradation inexorable de l’écosphère, les capitalistes abandonnent toute coopération avec les social-démocraties, soutiennent la mise en place de gouvernements fascistes afin de constituer un milieu de sûreté pour une minorité d’ultra-riches. […] Mais il est une autre manière pour la techno-élite de réaliser le capitalisme de survie : non plus faire sécession, mais s’accaparer la machine étatique, prendre directement le pouvoir afin de détruire tout ce qui limite ses ambitions. C’est ce qui s’est concrétisé aux USA en 2025 avec l’alliance entre, d’un côté, un président cristallisant un grand mouvement réactionnaire (contre les femmes, les queers, les transgenres, les minorités, les personnes Noires, les étrangers, les propalestinien(ne)s, contre la perte de pouvoir des mâles, des blancs, de leur pays), cherchant à restaurer le passé (MAGA, « make America great again »), et, de l’autre, toute l’élite super-riche de la high-tech, celle qui prône le transhumanisme, l’exploitation de l’outre-espace, les colonies spatiales, les voitures sans conducteurs, les robots, et l’IA […]. Dans cet attelage donnant au fascisme un nouveau visage, ou un nouveau masque, l’objectif des techno-milliardaires consiste à remplacer les institutions par des IAs, faisant ainsi d’une pierre trois coups : 1) déréguler sans limite, donc augmenter les profits et résoudre ainsi une difficulté de trésorerie (la machine à milliards était ralentie depuis 2008) ; 2) fourguer leur camelote high-tech, l’IAG et l’automatisation de la décision ; 3) et, sachant que les populations souffriront de cette éradication des institutions de la société, utiliser l’IA pour surveiller et punir, empêchant ainsi toute contestation sociale d’ampleur.
Or une fois compris ce que cherche à établir le techno-fascisme états-unien, doit nous revenir en mémoire qu’il est un pays en avance sur les USA en termes de redéfinition de la société par les IAs : la Chine. […] En 2017, le Conseil d’État chinois a publié un plan stratégique crucial, […] redessinant ni plus ni moins que toutes les fonctions du pays – sociales, économiques, militaires et même “morales”. Objectif : mettre en place une gouvernance par l’IA, capable d’assurer une plus grande stabilité du pays en prédisant les signes de troubles sociaux avant qu’ils ne se concrétisent. Ce sont tous les services de l’État qu’il s’agissait de redéfinir par l’IA, celle-ci étant appelée à examiner la validité des preuves dans les affaires criminelles, diagnostiquer des maladies et prescrire des médicaments dans des centres sociaux sans humains, et bien entendu rendre la censure plus performante (p. 204-206).
« L’intelligence » manifesterait ainsi pleinement son sens militaire (en particulier dans le monde anglo-saxon, où elle désigne le renseignement), et l’IA renverrait désormais autant à « l’intelligence armée » (p. 202) qu’à l’intelligence artificielle des machines computationnelles.
Face à ce sombre tableau, qui ouvre et ferme l’ouvrage comme les deux panneaux latéraux d’un retable, et dont les desseins ne se cachent même plus, mais s’affichent au contraire de manière toujours plus transparente, que peut-on et que doit-on faire de l’IA, et surtout comment agir face à son expansion ?
Notons tout d’abord que Frédéric Neyrat refuse de s’en tenir à un acte néo-luddite, qui consisterait à « désactiver purement et simplement les IAs » (p. 17) ou à les « désarmer » (p. 223) pour reprendre un verbe qu’il emprunte au collectif écologiste radical des Soulèvements de la terre. Un tel choix ne saurait en effet mettre un terme à la « technosymbiose » (p. 224) dépeinte par Katherine Hayles, une universitaire américaine spécialiste des rapports entre littérature, science et technologie. Dans notre situation d’interdépendance entre humains et médias informatiques, il convient plutôt de comprendre « l’impact des IAs sur notre capacité de penser et de sentir » ainsi que les effets engendrés par « ce traumatisme cognitif et sensoriel » sur « nos manières de communiquer et de penser le commun » (p. 17), en prenant bien la mesure des altérations provoquées par les usages volontaires et involontaires des intelligences artificielles génératives. Frédéric Neyrat en identifie principalement trois : une déperdition de la cognition, une dégradation de la connaissance, et une perte de libre arbitre.
De nombreux articles démontrent en effet la manière dont les large language models entraînent un dépérissement de la pensée critique : difficulté à se rappeler les idées, à démontrer qu’on les a comprises, à les appliquer, à les comparer avec d’autres idées, à les évaluer et à les recombiner. Plus grande est la confiance en l’IA, moins tend à s’exercer la pensée critique. Plus les contenus fournis par les IA génératives sont pris pour argent comptant, sans rectification critique, sans personnalisation, sans transformations par des opérations d’analyse, de synthèse, de comparaisons, etc., plus ces contenus se répètent et sont réinjectés tels quels dans l’internet, ce qui conduit à une homogénéisation des contenus, à une perte de diversité qui affecte jusqu’aux langues. Ce processus récursif […] est dégénératif : il conduit à une situation dans laquelle les IAs ne font plus qu’exploiter des données de synthèse, c’est-à-dire les data qu’elles ont-elles-mêmes produites (p. 208).
En s’adonnant voire en s’abandonnant de leur côté aux suggestions des IAs, en leur déléguant de plus en plus les décisions qui leur appartiennent, jusqu’à les promouvoir « agents moraux » dans des situations aussi diverses que la conduite de voitures autonomes ou le triage en matière médicale, éducative, économique et sociale, les humains s’engagent selon l’auteur dans un « devenir zombi ». Cette zombification des populations correspond très précisément aux objectifs poursuivis par les pouvoirs autoritaires d’une part, ainsi qu’au double lien qui sous-tend, d’autre part, la logique d’autonomisation des automates auxquels nous déléguons nos décisions : « Soyez autonomes mais obéissez. […] En d’autres termes, soyez autonomes dans la mesure où vous ne pensez pas, ne choisissez pas, et ne créez pas vraiment » (p. 135).
Frédéric Neyrat rejoint ainsi implicitement le constat qu’établissait avant lui le philosophe et romancier Gaspard Koenig, concernant les effets délétères du « nudge universel » (La fin de l’individu, 2019). Pour inverser cette pente, l’auteur de Traumachine propose cependant deux voies complémentaires. Il suggère d’abord de rompre avec nos conceptions anthropocentriques de l’IA, qui voient en elle la possible hyperbole de notre intelligence, en se rappelant tout ce qui lui manque : l’imagination, l’inconscient, la sensibilité comme autant de dimensions psychiques en lien avec une corporalité. Il propose ensuite de nous soigner du traumatisme induit par l’IA en suivant une voie initialement médicale, qu’il décrit comme une « expérience de déprescription technologique » :
Un peu comme quand des médecins demandent à des patients d’arrêter de prendre des médicaments afin de mieux diagnostiquer l’état de leur corps, quitte à prescrire ensuite d’autres médicaments. On devrait toutes et tous faire de telles expériences pour voir où nous en sommes, mentalement, et dans nos relations avec les autres. De telles expériences ne seront pas sans inconfort. Car ne plus avoir recours à l’IA ou aux données immédiates de l’internet est forcément oser se confronter au non-savoir. Et laisser remonter l’angoisse du lieu – en soi, en l’Autre – où ça ne sait pas. Le trauma technologique, ce trou blanc de la mémoire, serait-il guéri par l’expérience d’un trou noir ? Et ce trou noir ne nous amènerait-il pas à penser l’inhumaine communication de tout être avec l’univers, notre inconscient cosmologique, celui qui pulse au cœur de chaque entité ? (p. 230)
Frédéric Neyrat nous enjoint, in fine, de renouer avec le monde en retrouvant un sens du cosmos qu’il avait déjà mis au cœur de plusieurs de ses ouvrages, de La part inconstructible de la Terre (2016) au Cosmos de Walter Benjamin (2022) en passant par L’Ange Noir de l’Histoire (2021). Traumachine constitue une réflexion originale et sans concession sur les usages contemporains de l’IA, en même temps qu’une nouvelle contribution à la philosophie cosmique de l’auteur, qui nous invite ici à nous déshabituer de l’IA comme, dans La Condition planétaire (2025), il défendait la nécessité de « sortir de l’anthropocène » en adoptant une perspective littéralement extra-terrestre.
Anthony Mangeon - Configurations littéraires
