Podcast: Play in new window | Download (Duration: 32:17 — 19.0MB)
Subscribe: Apple Podcasts | Spotify | Android | Blubrry | Email | | More
On a coutume de dire qu’avec l’IA, l’Homme est augmenté, mais il se pourrait bien que ce soit l’inverse, qu’il soit diminué, et par sa prorpre faute. Les lecteurs de Visionary Marketing connaissent notre propension à les forcer à adopter un esprit critique par rapport aux modes (technologiques ou non). L’IA n’y fait pas exception. Il nous a semblé important de donner la parole à Marius Bertolucci, auteur d’un livre essentiel sur le sujet, intitulé L’Homme diminué par l’IA (Hermann). Ce livre est essentiel, car il contribue à cette prise de recul nécessaire par rapport à une technologie qui, comme l’écrit Chomsky, s’attaque au « système d’exploitation de l’espèce humaine », le langage. Voici une transcription légèrement raccourcie de cette interview, que vous retrouverez en intégrale dans le podcast associé.
L’Homme diminué par les écrans et l’IA
On a coutume d’entendre dire qu’avec l’IA, nous aurons bientôt affaire à des « Hommes augmentés« . Mais Marius Bertolucci, Maître de conférences à Aix-Marseille à l’Institut de Management Public et Gouvernance Territoriale et Secrétaire général de la Société de Philosophie des Sciences de Gestion (SPSG), est loin d’être d’accord.
Selon lui, cet Homme (avec un grand « H ») sera diminué et non augmenté. Voici le compte-rendu de notre entretien, agrémenté de références complémentaires qui permettront au lecteur de se repérer.
Pourquoi l’Homme diminué par l’IA ?
Marius Bertolucci. Henry Kissinger, qui a découvert le sujet de l’IA en 2015, a écrit un très bon article qui s’appelle : comment les Lumières se sont éteintes ? Lumières avec une majuscule, va de soi. Malheureusement, ce n’est pas la seule voix qui va dans ce sens-là.
Les pauvres humains que nous sommes, se retrouvent dans l’incapacité de faire société comme auparavant, à ne plus pouvoir vivre dans un état où la raison dicte ses règles, où le droit guide le comportement des individus.
C’est pour cela que, me semble-t-il, nous sommes entrés dans une ère de l’homme diminué.
J’aime beaucoup les ouvrages de Michel Desmurget, la fabrique du crétin digital et faites-les lire ! C’est à peu près 2 300 articles académiques qui sont résumés dans ces deux livres pour démontrer l’impact néfaste des écrans sur la psyché des individus, et l’impact positif de la lecture.
Si nous ne lisons plus, ce que semblent démontrer les chiffres, qu’est-ce que l’homme va devenir ?
[NDLR Voir nos précisions en fin de billet]
La présidente du Conservatoire National du Livre disait récemment, une étude est sortie il y a un peu moins d’un an sur la lecture en France et chez les plus jeunes, elle disait que nous arrivons dans un monde où nous aurons plus d’auteurs que de lecteurs
[NDLR On fera remarquer que si les gens savent écrire ils savent également lire, mais que cela ne veut pas dire qu’ils sont capables de lire un ouvrage long et nous renvoyons le lecteur vers la mise au point en fin de billet].
Nicholas Carr il y a une quinzaine d’années, quand il a dit que Google nous rendait stupides, nous rendait idiots. Est-ce que ce sera pire avec l’IA ?
MB. Nicolas Carr, en 2008, était un homme de 50 ans, formé dans un monde sans écrans, un intellectuel de très haut niveau. Et à cette époque, le monde était très différent. Les smartphones existaient à peine, les réseaux sociaux n’en étaient qu’à leur début.
De cet article de The Atlantic, il explique ne plus arriver à se concentrer ni à lire de gros livres. Ses amis et collègues non plus.
Mais la situation est devenue inquiétante, depuis lors. On s’en rend compte, même sans être un adolescent et sans avoir grandi avec un smartphone. Nous passons tous trop de temps à jouer avec ces objets. Le temps pour se concentrer a réduit.
« Si tous ne mourraient pas, tous étaient frappés », des classes populaires aux classes aux CSP+, même si cela est plus préoccupant dans les classes populaires
l’INSERM a démontré la nocivité de l’excès d’écrans pour les jeunes dans une étude de 2023.
Il est difficile même d’imaginer le nombre d’heures passées sur les différentes notifications et applications. Une étude de décembre 2023 du Pew Research Center montre qu’aux États-Unis, 30 % des adolescents « latinos » sont quasiment constamment connectés aux réseaux sociaux.
Pourtant, certains jeunes commencent spontanément à abandonner le smartphone, même si c’est encore marginal et parfois difficile.
MB. On ne pourra pas sauver tout le monde, ni avec un message de vérité ni avec des études. Ces vérités résonneront malheureusement uniquement dans certains archipels. Seuls certains groupes d’individus, ou certains milieux sociaux vont se déconnecter.
En mai 2025, une expérience « 10 jours sans écrans » a été menée avec des jeunes.
Ce que ces jeunes disaient après cette expérience-là était frappant.
« Je me suis rendu compte qu’on voyait plus la vie »
Sammy — Source France Bleu
Allons-nous vers une idiocratie, ou y aura-t-il un sursaut ?
MB. Pour ma part, je considère que la catastrophe a déjà eu lieu. La question est de savoir que faire, c’est une question que l’on me pose de plus en plus.
Dans le documentaire, on voit des repentis de la Silicon Valley, notamment Tristan Harris. Ils nous donnent des solutions de petites techniques qui sont assez intéressantes comme : mettre son téléphone en noir et blanc, supprimer toutes les notifications, n’installer aucune application sur le premier écran du smartphone, installer des applications pour réglementer son temps…
La prise de conscience est importante, mais la liberté individuelle ne suffit pas.
Il faut qu’il y ait une prise de conscience à l’échelle de la société, que l’on interdise des designs de smartphones et d’applications basés la promotion d’addictions?
Audran le Baron, qui est le directeur du numériqueDéfinition marketing digital, un terme utilisé en permanence et pourtant bien mal compris car mal défini au ministère de l’Éducation nationale nous dit qu’il faudrait éduquer les parents. Mais ça n’a pas de sens
Récemment je donnai une conférence et une dame vient me voir à la fin de la présentation. Elle me dit alors qu’elle a essayé à un moment donné de retirer le smartphone à sa fille de 14 ans qui y passait beaucoup trop de temps. Celle-ci a répondu violemment, en s’approchant d’elle et en lui disant « Rends-moi mon téléphone ! ». Et cette mère a été effrayée.
C’est vraiment terrible et cela prouve que c’est à l’État d’agir, car la prise de conscience doit passer par le haut et qu’il faut agir pour contraindre les acteurs du numérique. Les sociétés comme ByteDance, qui nous donne TikTok, et autres GAFAM. Pour cela, il faut des acteurs de poids.
Passons à l’IA. Si on reprend la nomenclature de co-intelligence de Ethan Mollick faut-il être centaure ou cyborg ?
MB. Ethan Mollick reprend la terminologie centaure-cyborg de l’étude qu’a faite le BCG en septembre 2023.
Et on a vu dans la presse dire Regardez, ChatGPT augmente de 40 % la productivité des consultants. L’étude a été faite avec le BCG, 7 % des effectifs, 758 consultants, avec Wharton, le MIT, Harvard et Warwick. C’est exceptionnel. D’ailleurs, j’invite tout le monde à lire ces 15 minutes de lecture très faciles.
Quand on creuse, on voit des choses intéressantes. Quand on a formé certains des consultants à GPT-4I et d’autres non, ceux qui ont été formés font plus d’erreurs que ceux qui ne l’ont pas été. Pourquoi ? C’est qu’ils prennent confiance en leur capacité.
Au concept de cyborg (contraction de cybernétique et d’organisme, un être augmenté par la technique, concept issu des années 60), j’oppose celui de Cybcog, qui est la contraction de cybernétique et de cognition.
Comme nous sommes souvent confrontés aux algorithmes, notre cognition est modifiée. Elle devient cybernétique, elle est diminuée, elle n’est pas augmentée.
En conséquence, je ne suis pas sûr que le choix d’être centaure ou cyborg relèvera de notre volonté.
Une dame me racontait récemment que sa fille qui était en troisième devait faire un exposé. Elle lui a dit « Je vais demander à ‘MyAI’ ». Sa mère pensait qu’il s’agissait d’une de ses amies, alors qu’elle faisait référence à l’IA de Snapchat.
Toute une génération va demander à ChatGPT ou MyAI la réponse, elle n’ira même plus chercher la réponse sur Wikipédia (qui a l’avantage d’être bien sourcé).
Cela nous donnera des individus constamment assistés. Leur conscience deviendra déficiente parce qu’elle n’est plus assez mobilisée. Celle-ci est comme un muscle. La prothèse de l’IA finira par remplacer un organe qui n’est plus présent.
Le problème, c’est qu’en absence de capacités cognitives, de culture, on ne peut développer un nécessaire esprit critique. Et une fois qu’on aura grandi avec ces écrans, sans éducation saine, « notre ami l’IA » nous paraîtra être la voix de la raison.
Emmanuel Kant nous rappelle l’importance de l’autonomie :
« Aie le courage de te servir de ton propre entendement ! »
Sapere Aude (« Ose savoir ! »)
Kant – Qu’est-ce que les Lumières ? – 1784
Or, la mise sous tutelle de notre entendement commence avec les écrans de nos smartphones. Notre « compagnon IA » exercera à son tour sa tutelle sur nous et détiendra même à nos yeux une forme de vérité supérieure.
Et tous se font avoir par le pouvoir de persuasion de ChatGPT. Et encore, on ne parle que de la version 4-o1.
En effet, il y a également un effet Eliza dans ces conversations
MB. Les humains sont câblés pour croire qu’il y a des consciences dans le monde, c’est pour cela que l’animisme s’est développé. Regardez Blake Lemoine, cet ancien ingénieur de Google qui en 2022 pensait que LaMDA était conscient (« sentient » en anglais). Il est important de dire que Blake Lemoine est aussi pasteur d’un courant évangélique pour comprendre aussi sa raison qui n’est pas que fait d’une rationalité froide [NDLR Il semblerait que Lemoine revendique une expérience en tant que prêtre d’un mouvement chrétien, probablement l’É, mais il s’agit d’une conjecture].
On me demande sans cesse d’expliquer pourquoi je pense que LaMDA est conscient. Il n’existe pas de méthodologie scientifique permettant d’arriver à ces conclusions et Google ne nous a pas donné l’autorisation d’en bâtir un. Mes opinions sur la personnalité et la conscience de LaMDA sont fondées sur mes croyances religieuses.
Blake Lemoine (@Cajundiscordian) June 14, 2022
Cette question est troublante. On peut imaginer cet homme-là, le soir, derrière son écran, en train de discuter avec sa machine, et avoir l’impression qu’elle le comprend et qu’elle est douée de conscience… ou qu’un fantôme se cache derrière elle.
Dans cet exemple, l’effet Eliza a fonctionné avec une puissance démesurée. Jusqu’ici, c’était du texte, mais depuis novembre 2024, nous avons droit à la voix humaine. Comment résister à cela ?
D’ailleurs, est-ce qu’on aura la force de résister ? C’est notre question.
Faudrait-il suivre l’exemple de ravage de Barjavel et tuer les faiseurs d’IA avant qu’ils sévissent ?
MB. Je pense qu’en démocratie, ce doit être au peuple et aux politiques de gouverner et non à la technique. Cette dernière devrait être à la main de l’homme et non se muer en une mégamachine qui fasse de nous ses rouages, à la manière de Charlie Chaplin.
Quand techniciens gouvernent, c’est l’instauration de la barbarie technocratique à laquelle on assiste. Je ne suis pas contre l’IA, je suis contre ses mauvais usages.
Il ne faut donc pas rejeter une technique, mais essayer de la remettre à sa place…
MB. Il faut faire attention de ne pas trop se reposer, sinon on finit par ne plus penser. Et la question suivante, c’est : que nous faisons des graphistes, des codeurs de sites InternetLe site web B2B est la vitrine digitale de votre entreprise. C’est le moyen le plus simple et efficace de présenter les produits et services de votre entreprise à vos futurs clients. juniors, etc. Que deviendront ces personnes ? C’est une question politique et une question de société.
Les travailleurs de l’Internet, ne sont-ils pas devenus, d’une certaine manière, les nouveaux ouvriers spécialisés, victimes d’un « travail en miettes » ?
MB. Le but de l’homme n’est pas le travail, ce n’est pas de devenir comptable. Si nous pouvons nous libérer en partie du travail, c’est extraordinaire. C’est le mensonge de la société industrielle d’avoir considéré que le travail était une bonne chose. Pourtant, toutes les sociétés en dehors de la société industrielle ont tenté de s’en libérer. Comme Hannah Arendt, je pense que « c’est un tribut payé à la nécessité”.
Le travail [Work*] est l’activité qui correspond à l’aspect non naturel de l’existence humaine, qui n’est pas intégré dans le cycle de vie de l’espèce et dont la mortalité n’est pas compensée par celui-ci. Le travail fournit un monde « artificiel » réifié, clairement différent de tout environnement naturel. Chaque vie individuelle trouve sa place à l’intérieur de ses limites, alors que ce monde lui-même est destiné à les dépasser et à les transcender toutes. La condition humaine du travail est l’attachement aux biens de ce monde.
Hannah Arendt, la condition humaine (The Human Condition), 1958 (Chapitre I = page 7 )
*NDLR Arendt, dans le chapitre 1 de son livre, distingue trois concepts, le labeur (l’activité naturelle des humains), le travail (l’activité non naturelle des humains) et l’action (les interactions directes des humains).
En résumé, si on réduit la quantité de travail, j’en serais ravi. Sauf que la vraie question derrière, c’est comment on occupe ce temps libre de manière noble.
Si le temps gagné est absorbé par les écrans, comme on le voit trop souvent, ce n’est pas bon.
Il faudrait instaurer, comme au temps du Front populaire en 1936 ou plus tard en 1981 [NDLR Sous la présidence de M. Miterrand], un ministère du temps libre. Non pour régimenter les individus, mais pour faire des propositions, pour faire quelque chose de ce temps libre.
Car actuellement, j’ai peur que ce temps libre, nous ne soyons pas capables de le mobiliser.
Revenons à Hannah Arendt, ce qui fera un pont avec Georges Friedmann auquel vous faites allusion [NDLR Le travail en miettes, 1964]. Elle disait qu’il n’y a rien de pire que de vivre dans une société de travailleurs sans travail. Et donc, que reste-t-il d’une société de travailleurs sans travail ? Rien, le néant.
Et donc, si on récupère du temps libre, il faut pouvoir le mobiliser, pour prendre soin de l’environnement, s’occuper des autres, prendre soin de soi. Les choses à faire sont innombrables.
L’IA en la matière aurait un rôle extraordinaire à jouer.
Il y a déjà une transformation de valeur, notamment dans la jeunesse, qui s’accompagne d’une transformation technique. Mais il faut qu’on soit à la hauteur de cela et qu’on soit en capacité de réfléchir collectivement à la meilleure solution, en tant que société.
Quelques réflexions personnelles
Si je suis en grande majorité d’accord avec les propos de Marius, j’aimerais apporter quelques nuances et réflexions personnelles, notamment sur la lecture et les écrans, car à l’inverse de lui, je ne suis pas fan de Michel Desmurget dont je déplore le simplisme et certains raccourcis dans son ouvrage sur le crétin digital.
Je suis totalement d’accord pour dénoncer l’utilisation irraisonnée des smartphones, notamment dans des activités passives de scrolling sans fin ou de cyberbabillage, en particulier chez les plus jeunes. Je remarque ainsi, tous âges confondus, la tendance à se laisser distraire par cet écran mobile (témoin les « smombies » ou « smartphone zombies », souvent plus âgés, qui déboulent chaque jour devant mon vélo ou une voiture en traversant la rue les yeux rivés sur leur écran).
Des vies sociales moins riches
Je constate également, et je ne suis pas seul, que les écrans ont un impact néfaste sur la capacité des humains, notamment des plus jeunes, à mener des vies sociales riches en échanges. Certains États ont même déjà pris des mesures en ce sens et des améliorations notables sont déjà visibles. Car la sociabilité est essentielle pour apprendre, car on apprend beaucoup des autres.
Idem sur les conséquences en termes de sédentarité et ses conséquences sur le plan de la santé. Il s’agit bien d’un problème d’éducation et de volonté et Marius Bertolucci a raison de dire que la simple injonction adressée aux parents, souvent démunis, ne suffit pas.
Quelques recherches sur la lecture
Sur d’autres points, et notamment sur la lecture, je suis plus circonspect. Nos propres recherches sur la lecture, en dehors des États-Unis, ont donc permis de confirmer une baisse de la proportion de lecteurs parmi les jeunes de moins de 16 à 19 ans (« Un jeune sur cinq ne lit jamais dans le cadre des loisirs et même si 84 % des jeunes lisent pour l’école, leurs études ou leur travail, ce chiffre est en baisse de six points par rapport à 2016 » — source : ministère de la Culture, 2024).
Un chiffre à nuancer cependant quand on le compare aux adultes : « En 2023, environ 89 % des Français ont lu au moins un livre dans l’année, une augmentation par rapport à 2021, mais un léger recul par rapport à 2019 ». Source CNL.
Les chiffres montrent au passage que les mangas et les Bandes dessinées ne sont pas, contrairement à ce qu’on entend communément, la première, mais la quatorzième source de lecture des personnes sondées par le CNL. À noter également que depuis plus de 10 ans, je lis quasiment tous mes livres sur écran (y compris mon mobile, qui est mon média préféré) et que, sauf preuve du contraire, cela ne m’a pas rendu idiot. Je n’ai pas non plus de problème de mémorisation, au contraire, car les annotations sont facilitées.
D’ailleurs, tous les gros lecteurs que je connais se sont également mis à la liseuse, pour des raisons pratiques. Pour ma part, c’est également pour des motifs médicaux, car mes yeux ne sont hélas plus capables de suivre un texte sur papier avec les lumières indirectes qui sont devenues la norme aujourd’hui. Ce qui ne m’encourage pas à relire mes anciens livres, pourtant nombreux, au point de remplir les nombreuses bibliothèques de la maison.
À noter également que si je suis devenu plus gros lecteur aujourd’hui, je ne lisais quasiment pas avant l’âge de 15 ans, sauf sous la contrainte. Par ailleurs, abonné à quatre quotidiens, je ne lisais jamais non plus les journaux avant mes 30 ans. Il faut donc rester prudent et laisser aux jeunes la possibilité de grandir, ce qu’ils ne manqueront pas de faire, comme nous avant eux.
Enfin, il faut noter que nos recherches n’ont pas permis de trouver de chiffres avant 1980 en France ni avant 1940 aux États-Unis.
Des chiffres évasifs
Il est donc très difficile d’affirmer péremptoirement qu’il y a moins de lecteurs en 2024 qu’il n’y en avait, par exemple, au début du siècle dernier, où un nombre important de personnes, notamment en France, ne savaient pas lire. À titre d’exemple, le baromètre du CNL cité plus haut n’existe que depuis 2015.
Les suites statistiques disponibles ne sont tout simplement pas suffisantes pour dénoncer un « déclin », même si elles le sont pour constater que la lecture d’ouvrages longs n’est pas le passe-temps de la majorité de nos concitoyens.
En fait, il est probable que la lecture n’ait jamais été un fait majoritaire et c’est peut-être cela dont il faut se lamenter et contre lequel je me bats constamment quand j’enseigne, en incitant les élèves à lire et se cultiver.
Quel lecteur n’aura jamais été incité à la lecture par un autre lecteur, plus passionné que lui, et qui lui aura montré la voie? À nous de captiver jeunes et moins jeunes autour de nous.