Podcast: Play in new window | Download (Duration: 18:18 — 25.6MB)
Subscribe: Apple Podcasts | Spotify | Android | | More
Les chatbots dopés à l’intelligence artificielle générative bouleversent nos sociétés à une vitesse vertigineuse, et cela nous amène à nous poser la question fondamentale de savoir où va l’IA. Pour y répondre, on peut s’en remettre aux nombreux auteurs d’essais sur le sujet ou, au contraire, se tourner vers un homme de lettres qui manipule la métaphore pour nous amener à réfléchir et, comme il le dit lui-même, nous alerter au travers de cette réflexion. C’est pourquoi j’ai interviewé Gauthier Dambreville, auteur de VarIAtions aux éditions L’Harmattan. Une interview d’autant plus intéressante du fait du passé de Gauthier, comme DSI d’une grande banque qui a automatisé tous les processus, au point de se dire aujourd’hui « qu’on peut faire partir tous les employés en même temps et les banques continueront de tourner toutes seules ».
L’IA, cette Formule 1 conduite en hors piste par un amateur sans permis
Gauthier est ingénieur de formation et ancien directeur informatique dans le secteur bancaire. Il observe les évolutions de l’IA depuis plus de 40 ans. Auteur du livre « VarIAtions : IA, le puzzle de notre futur s’assemble » publié aux éditions L’Harmattan, il nous livre dans cette interview sa vision experte d’un avenir où les pièces d’un immense puzzle technologique et sociétal s’assemblent sous nos yeux, sans que nous en maîtrisions vraiment le résultat final.
En fin de compte, je trouve l’approche métaphorique du livre de Gauthier, bien plus puissante que l’analyse clinique et fatalement brumeuse de ce puzzle, dont personne ne maîtrise toutes les pièces, même pas les meilleurs experts des réseaux de neurones.
TLDR : l‘essentiel en 3 points
- Métaphore centrale : L’IA générative est comme une Formule 1 conduite par un amateur sans permis en hors piste. C’est puissant, ça va vite, mais les embardées sont possibles.
- Façon « puzzle » : Gauthier Dambreville voit l’IA comme un puzzle qui s’assemble, où chacun apporte sa pièce… mais personne n’a la vue d’ensemble.
- Paradoxe de la perfection : Notre obsession sociétale de la perfection prépare notre propre remplacement par des machines « parfaites ». On veut des machines qui copient les humains et le paradoxe est justement que ce sont les humains qui finissent par copier les machines.
En définitive : Où va l’IA ? Personne ne le sait vraiment, même les experts. La vraie question devient : où voulons-nous aller ? Il faut réfléchir à ce qu’on veut préserver d’humain.
Le livre utilise la science-fiction pour explorer ces enjeux via des nouvelles métaphoriques plutôt que par un énième essai technique et réussit à nous interroger en profondeur sur la portée de l’IA
Quelle est votre vision de l’état actuel de l’IA générative ?
« On a lancé Internet, on a lancé les réseaux sociaux, sans aucun mode d’emploi. On voit ce que cela donne aujourd’hui. Avec l’IA, c’est la même chose. C’est comme si on mettait à disposition une Formule 1 à des gens qui n’ont pas le permis de conduire. Donner une formule 1 à quelqu’un qui ne sait pas conduire, ça me paraît assez grave, surtout si c’est en dehors d’un circuit ».
Cette métaphore de la Formule 1 illustre parfaitement l’un des défis majeurs de notre époque technologique. Gauthier Dambreville met le doigt sur un paradoxe fondamentalLe marketing fondamental est le chemin principal qui mène à la connaissance théorique du marketing. Mais que tirer de ses enseignements pour le B2B ? Lire la suite sur la page du glossaire dédiée au marketing fondamental (lettre “M”) : nous disposons d’outils d’une puissance extraordinaire, mais nous les déployons sans formation préalable ni garde-fous. L’histoire se répète avec chaque révolution technologique, mais l’IA générative amplifie cette problématique à un niveau inédit.
Expliquez-nous votre rapport à l’IA
« Je m’intéresse à l’intelligence artificielle depuis maintenant plus de 40 ans. J’ai fait toute ma carrière dans le domaine bancaire, où j’étais directeur informatique. Mon rôle, en fait, c’était d’automatiser les tâches qui, pour la plupart, à l’époque, étaient manuelles. Aujourd’hui, toutes les banques sont automatisées, c’est-à-dire qu’on peut faire partir tous les employés en même temps et les banques continueront de tourner toutes seules. »
Cette expérience dans l’automatisation bancaire donne à Gauthier Dambreville une perspective unique sur les transformations en cours. Il a vécu de l’intérieur la première vague d’automatisation et peut donc anticiper les bouleversements que l’IA générative va provoquer dans tous les secteurs. Son témoignage révèle une réalité que beaucoup préfèrent ignorer : l’automatisation complète d’un secteur entier est non seulement possible, mais déjà réalisée.
Qu’est-ce qui vous inquiète le plus dans le développement actuel de l’IA ?
« Le développement de l’IA est fascinant, parce qu’elle avance toujours plus vite que ce qu’on prévoit. Et on se demande jusqu’où elle peut aller. Par ailleurs, il provoque aussi une certaine inquiétude. Ça n’a rien à voir avec le mythe de Frankenstein, où la créature se retourne contre son créateur. Ce n’est pas du tout cela. Ce qui fait peur, ce sont plutôt tous les changements sociétaux que l’IA peut occasionner parmi nous ».
De la déshumanisation du travail
Nos véritables patrons, ce sont aujourd’hui les algorithmes. En Bourse, ils ont complètement supplanté les traders et ils édictent la stratégie dans les conseils d’administration. Moi aussi, je ne suis qu’un exécutant.
VarIAtions – Gauthier Dambreville, p. 38-39
Gauthier évacue intelligemment les craintes fantasmatiques pour se concentrer sur les vrais enjeux. Il ne s’agit pas de robots tueurs, mais bien de transformations sociétales profondes dont nous peinons à mesurer l’ampleur. Cette approche pragmatique tranche avec les discours apocalyptiques ou, au contraire, béatement optimistes qui dominent souvent le débat public.
Un bébé qui apprend ?
« Je me suis intéressé à l’IA depuis mes études et j’en ai suivi les évolutions quasi quotidiennement. Dans les années 2010, le deep learning est né, et il a engendré à terme l’IA générative. Le deep learning s’est développé surtout avec la puissance des machines qu’on n’avait pas avant. Et en fait, qu’est-ce que c’est que l’IA générative qui s’appuie sur le Deep Learning ? C’est comme un bébé. Il apprend tous les jours, jusqu’au jour où le bébé arrive, à un moment donné, à vous dépasser ».
L’analogie du bébé qui grandit et finit par dépasser ses parents est particulièrement frappante. Elle illustre le caractère exponentiel du développement de l’IA, mais aussi son aspect imprévisible. Où va l’IA ? La réponse n’est pas aussi simple qu’elle en a l’air.
[NDLR Si je mets un point d’interrogation sur ce sous-titre c’est que les IA génératives n’apprennent pas de nous, comme cela a été démontré par Flint. Toutefois, on peut nuancer cela en ajoutant que sur Claude, la notion de « projet » permet de garder en mémoire les travaux précédents ce qui revient en quelque sorte à instaurer une mémoire temporaire, sans pour autant produire d’entraînement. Et d’autre part en ajoutant que cela pourrait tout à fait changer dans le futur à condition de changer l’architecture de ces outils, ce qui sera sans doute le cas dans les années/décennies qui viennent].
Des nouvelles de science-fiction pour mieux comprendre l’IA
« L’objectif de ce livre, c’est quand même de faire prendre la mesure de ce qui se passe aujourd’hui, très modestement, parce que je crois que personne n’a idée aujourd’hui de ce qui va se passer exactement. C’est comme un puzzle qui s’assemble, c’est ce que j’ai voulu montrer dans mon livre. Et chacun apporte une petite pièce du puzzle. Toujours pour de bonnes raisons, a priori, pour résoudre un problème donné, mais on ne sait pas ce que ça va donner en fin de compte ».
Cette métaphore du puzzle traverse tout l’entretien et constitue le fil rouge de sa réflexion. C’est aussi le sous-titre du livre. Gauthier Dambreville nous invite à prendre du recul, comme devant un tableau impressionniste, pour saisir l’ensemble qui se dessine. Son approche littéraire lui permet d’explorer des scénarios que l’essai classique ne pourrait aborder avec la même liberté créative.
Certains de ses scénarios m’ont interpellé par leur pertinence et leur mise en situation.
Des frontières entre IA et humain en train de s’estomper
« Je pense que ces frontières deviennent de plus en plus poreuses. D’une part, parce qu’il n’existe pas aujourd’hui d’intelligence artificielle qui soit omnisciente, mais dans un domaine donné, une IA arrive très vite à surpasser l’homme, après beaucoup d’entraînement. Et puis, deuxièmement, c’est sur les sentiments. On arrive très bien à faire simuler des sentiments à une IA. D’ailleurs, les humains aussi savent simuler la colère, l’empathie, la politesse. Cela ne veut pas dire qu’ils éprouvent de la colère ou de l’empathie. Une IA saurait très bien le faire également ».
Cette analyse dépasse le simple anthropomorphisme pour toucher à une question philosophique fondamentale : qu’est-ce qui distingue vraiment l’émotion authentique de sa simulation parfaite ? Dambreville nous confronte à nos propres incohérences : nous acceptons la simulation émotionnelle chez les humains (le jeu des acteurs par exemple), alors pourquoi la refuserions-nous chez les machines ?
Le rôle de la perfection dans l’adoption de l’IA
Pour Gauthier Dambreville, nos sociétés sont obsédées par l’idée de la perfection. Mais selon lui, c’est un piège redoutable.
« Je crois que le souci de perfection qui anime nos sociétés est un de ses problèmes majeurs. Aujourd’hui, nous n’avons plus droit à l’erreur. Il y a, pour un mot déplacé, pour un mauvais geste, une mauvaise action, aussitôt, des levées de boucliers, des collectifs qui se forment, des pétitions qui se signent. Cela signifie que l’erreur individuelle n’est plus admissible. Alors, la conséquence de cela, c’est l’impossibilité de la prise de décisions individuelle ».
Du paradoxe de la perfection
Le souci de perfection, c’est bien, mais seuls les robots sont parfaits. Et à force de vouloir nous comporter comme eux, voilà le résultat : on préfère toujours l’original à la copie.
VarIAtions – Gauthier Dambreville, p. 45
Voilà une analyse particulièrement intéressante qui souligne comment nos exigences sociétales préparent le terrain à l’IA et à la soumission à la machine. En refusant l’erreur humaine, nous créons un appel d’air pour des systèmes qui promettent la perfection. Dambreville identifie là un mécanisme sociologique crucial dans l’acceptation de l’automatisation. Un mécanisme qu’il développe dans son ouvrage.
L’IA peut-elle développer un sens moral ?
Parmi les critiques communément reçues sur l’IA vient l’absence de « conscience », au sens moral du terme. Daniel Andler a particulièrement décortiqué cette question dans son ouvrage de 2023 Intelligence artificielle, intelligence humaine, la double énigme.
Mais Gauthier Dambreville n’est pas d’accord. Là encore, selon lui, tout est question d’apprentissage, et la limite entre la simulation et la conscience est à son avis ténue.
« Une IA peut avoir un jugement moral dès lors qu’on lui apprend ce qui est moral et immoral. Avec un bémol toutefois, il y a 100 ans, ce qui était immoral et ce qui était moral ne l’est plus aujourd’hui. Et vice-versa. Ce qui était immoral peut devenir moral, ce qui était moral peut devenir immoral. L’IA va devoir apprendre ce qui est moral et immoral selon les situations du jour ».
Cette réflexion soulève une question vertigineuse : si la morale évolue dans le temps, quelle morale enseigner à une IA ? Et si celle-ci évolue selon les lieux et les moments, peut-on encore considérer qu’une « morale » universelle existe ? Dambreville touche ici à l’un des défis les plus complexes de l’IA éthiqueL’éthique du marketing couvre un champ très vaste de thématiques. Il faut tout d’abord voir l’éthique du marketing comme une sous-branche de l’éthique des affaires. : la relativité culturelle et temporelle des valeurs morales.
L’IA en revalorisatrice du travail manuel ?
Dans une de ses nouvelles, Gauthier décrit un robot apprenant qui s’installe dans un fauteuil pour lire Darwin (l’auteur n’est pas choisi au hasard), alors que les humains s’adonnent au jardinage. L’inversion est patente et la conclusion contre-intuitive.
« Le travail manuel sera plus difficile à remplacer. Il faudra des machines très élaborées pour faire du jardinage à notre place, pour faire le ménage, pour faire du repassage. Cela sera beaucoup plus difficile que de remplacer l’homme dans ses tâches intellectuelles. Les tâches intellectuelles sont du domaine de l’immatériel. Ça sera beaucoup plus facile à remplacer. »
Cette prédiction inverse la hiérarchie traditionnelle qui valorise le travail intellectuel au détriment du manuel. Dambreville anticipe une revalorisation des métiers manuels, protégés par leur complexité physique et leur adaptabilité contextuelle. Il n’est pas seul à le penser.
Une IA artiste ?
Le débat sur la créativité des machines fait rage parmi les toutologues de LinkedIn. La plupart arguent du fait que les machines ne pourront (en substance) « jamais égaler les humains pour leur créativité ». Pourtant, il s’agit d’un vieux sujet, auquel Turing a déjà réglé son compte dans son texte fondamental de 1950, Computing Machinery and Intelligence. Gauthier Dambreville minimise cet argument de la créativité humaine. Hélas, il a sans doute plus qu’un peu raison.
« La question de l’authenticité de l’art existe déjà, parmi les humains. Qu’est-ce qu’un artiste, finalement ? Un artiste ne part jamais de rien. Il parle de tout ce qui l’a précédé. Il s’inspire des artistes avant lui. Et en fait, avec son talent, il va pousser l’œuvre beaucoup plus loin, en s’inspirant de tout ce qui a été fait avant lui. Une IA peut bien faire la même chose. »
Les machines ne peuvent-elles pas effectuer quelque chose qui devrait être décrit comme de la pensée, mais qui est très différent de ce que fait un homme ? Cette objection est très forte, mais nous pouvons au moins dire que si, malgré tout, une machine peut être construite pour jouer le jeu de l’imitation (« the imitation game ») de manière satisfaisante, nous n’avons pas à nous préoccuper de cette objection.
Alan Turing, Computing Machinery and Intelligence – 1950
En démystifiant la pensée humaine, Turing a ouvert la voie à une compréhension moins exclusive de la créativité. Si l’art humain procède par imitation et recombinaison, pourquoi l’IA n’en serait-elle pas capable ? Cette volonté de l’humain à se sentir supérieur n’est donc pas justifiée. Turing la décrit même comme un moyen d’éviter « le danger de perdre sa position dominante ».
L’humanité face à des machines « parfaites »
« On veut des hommes parfaits », poursuit Gauthier Dambreville, mais « qu’est-ce qui peut être parfait si ce n’est la machine, l’IA? La machine et l’IA ne commettent pas d’erreurs. [NDLR Sur ce point, nous pourrions montrer notre désaccord total, mais nous le réserverons pour plus tard]. On veut que les hommes copient les machines. Et en faisant cela, on prépare l’avènement de l’ère des machines, tout simplement ».
À une objection près (citée plus haut), cette observation glaçante révèle une inversion des rôles que nous avions déjà repérée dans certains discours. Au lieu d’humaniser la technologie, nous nous efforçons de mécaniser l’humain. Dambreville identifie là un processus d’autoaliénation qui facilite notre propre remplacement. Là encore, le fautif n’est pas la machine, mais l’homme qui a construit la machine. Mais faut-il pour autant se résigner ?
Cela me rappelle la fin de Ravages de Barjavel. Un membre de la communauté des survivants invente une automobile et vient la montrer aux autres. Le chef de la communauté critique l’inventeur, lui dit que sa machine sera détruite, et l’inventeur tue le patriarche. Mais la communauté se défend contre l’invention.
Comment se prémunir contre les dérives de l’IA ?
Si l’humain a créé la machine qui échappe à l’humain, où allons-nous ? La question philosophique, là aussi, mérite d’être posée.
« Comme toutes les inventions, il y a toujours un côté pile et un côté face. Il faut donc se prémunir. On ne peut pas empêcher l’IA de se développer, le coup est parti. Donc il faut se prémunir, avoir des pare-feux. Et puis se donner le temps de la réflexion. Si les IA font notre travail à notre place, qu’allons-nous pouvoir faire d’intelligent » ?
Où va donc l’IA ? La question reste ouverte, mais Dambreville nous enjoint à nous demander où nous voulons aller.
La machine a bougé. Elle crache des flammes, gronde de tous ses membres. Les pistons halètent, les roues dentées tournent, grincent. La masse énorme s’avance vers lui, écrase la nuit, la pluie, la boue, les roches. Elle arrive, elle l’atteint, le renverse, l’aplatit, l’enfonce dans la terre, prend le chemin qui descend vers la rivière. Le chemin descend, de plus en plus. La machine s’emballe, saute les talus, défonce les haies, file comme une avalanche. Un homme blond est aux commandes et la conduit vers l’abîme.
Barjavel, Ravages, p 181
VarIAtions sur un thème connu
L’IA nous oblige à nous poser des questions sur nous-mêmes, mais n’en a-t-il jamais été autrement dans toutes les mutations technologiques ?
Gauthier Dambreville nous invite à observer cliniquement les pièces d’un puzzle qui s’assemblent sous nos yeux. L’homme a créé un objet dont la téléologie n’est pas apparente, personne ne sait, pas même ceux qui ont construit des machines, où va vraiment l’IA. Gauthier Dambreville a beau dire que le mythe de Frankenstein n’est pour rien dans cette histoire, il me semble au contraire que si le créateur de la machine ne comprend ce qu’il a créé, les éditeurs de Mary Shelley vont pouvoir encore vendre beaucoup de livres.
Cet ouvrage « VarIAtions » et cette réflexion nous rappellent que l’enjeu n’est pas de résister à l’IA, mais de comprendre comment vivre avec elle tout en préservant ce qui fait notre humanité. Un jeu qui n’est pas à somme nulle, mais qui n’est pas simple non plus. Dans cette course vers l’automatisation généralisée, la question centrale devient : que voulons-nous garder de nos qualités humaines ? Car c’est finalement nous qui tenons encore les clés de cette réponse, même si le temps presse pour la formuler clairement.
Comme je le soulignais dans cet autre billet, cette question est véritablement une question philosophique, elle n’a rien à voir avec la technique, c’est une affaire de choix, pas de supériorité pour répondre avec 75 ans de retard à Alan Turing.