L’INTELLIGENCE ARTIFICIELLE
Introduction
ISSN 2608-984X
Philippe Meyer :
L’intelligence artificielle « est un outil particulièrement puissant pour inventer des uchronies et les développer jusqu'au moindre détail, car elle est capable d'halluciner des choses qui ne se sont jamais produites tout en s'inspirant de données réelles. Cela lui permet de générer des histoires uniques et fascinantes qui sont ancrées dans la réalité, mais qui explorent aussi des possibilités nouvelles et imaginaires. L'une de ses grandes forces, dans un tel projet, est sa capacité à générer des images immersives et réalistes. »
Le texte que je viens de lire, première préface de votre dernier ouvrage, Si Rome n’avait pas chuté, a été généré par l’intelligence artificielle. Pour réaliser ce livre, vous avez dirigé plusieurs IA afin qu’elles écrivent et illustrent une uchronie sur un Empire romain bénéficiant d'une révolution industrielle avant l'heure, avec la découverte d’une machine à vapeur au 1er siècle. Si, comme vous le reconnaissez, les textes manquent de style, ils ne sont ni meilleurs ni pires que la moyenne des productions des étudiants de nos facultés. Les illustrations ont davantage d’allure. Dans un site que vous aviez créé, « AI or Art », vous invitiez les utilisateurs à deviner si une série d'images avait été réalisée par un humain ou par un ordinateur. Résultat : « beaucoup de candidats parvenaient à peine à dépasser le score qu'ils auraient atteint en devinant parfaitement au hasard. »
Votre livre repose sur une conviction : l’IA générative n’est pas un simple gadget ; la coopération avec elle « recèle de véritables trésors. » Vous êtes convaincu que, bientôt, « la génération de contenu par IA sera omniprésente dans la production intellectuelle, artistique, scientifique, et dans nos vies quotidiennes. »
S’il semble difficile de s’y opposer, vous êtes conscient des risques et des menaces qui l’accompagnent. La création artistique ne sera plus le monopole de l’être humain. Les conséquences pour l’industrie culturelle seront profondes. En automatisant et en produisant en masse des compétences intellectuelles, l’IA générative va également provoquer une « série de mutations contraintes » dans beaucoup d’autres secteurs. De nouveaux métiers vont apparaître. Mais contrairement aux précédentes révolutions industrielles, « la rapidité de la transition la rendra probablement plus brutale du point de vue social et économique. » D’autres risques relèvent de l’utilisation malveillante de ces outils ou encore des inégalités de revenus qu’ils pourraient créer.
Par ailleurs, avec l’IA générative, l’image ne sera plus synonyme de vérité. Pire, sa capacité à créer des contenus ultra-personnalisés risque de démultiplier un phénomène que nous observons déjà : le repli sur soi. Ainsi pourrait-elle nous condamner à ne jamais sortir de la prison que chacun de nous est pour lui-même. Ce risque est d’autant plus inquiétant que l’IA peut être utilisée pour créer des contenus politiques et idéologiques.
Vous êtes agrégé de lettres classiques, vous avez exploré certains aspects de l’histoire de Rome dans trois livres avant celui qui nous réunit. L’intelligence artificielle a-t-elle, et en quoi, modifié, contredit, complété, ébranlé votre connaissance du monde romain ?
Kontildondit ?
Raphaël Doan :
Ce qui m’a intéressé dans l’usage de l’intelligence artificielle pour écrire un livre, ce n’était pas de m’auto-remplacer, et de la laisser faire le travail à ma place. Je souhaitais au contraire faire quelque chose d’une nature différente, nouvelle, quelque chose que je n’aurais pas pu faire seul. Ce qui m’a le plus intéressé avec cet outil, c’est sa capacité à stimuler la pensée, un peu comme un partenaire d’écriture, mais comme ce partenaire n’est pas un être humain, il a des réactions déroutantes, qui proposent des directions nouvelles, surprenantes. Cela m’a sorti de ma zone de confort, et m’a amené à imaginer des possibilités narratives qui s’accordaient particulièrement bien à une uchronie, et vers lesquelles je ne serais pas allé seul. C’était le premier intérêt : me forcer à « penser contre moi-même ».
Ensuite, il s’agissait de se servir de la génération d’images comme d’une espèce de reportage, à la façon de l’émission La caméra explore le temps. Ici, c’est plutôt : « la caméra explore un monde parallèle ». Comme si l’on pouvait se promener avec un appareil photo dans ce qu’on appelle « l’espace latent », et en rapporter toutes les images qu’on veut. C’est la combinaison de ces deux possibilités m’a paru stimulante.
Philippe Meyer :
En vous lisant, j’ai appris que tout cela était la faute de Platon, et que finalement, si la machine à vapeur n’a pas été inventée dans la Rome antique, c’est certes peut-être parce que les tuyaux n’étaient pas suffisamment hermétiques ou qu’on chauffait au bois plutôt qu’au charbon, mais aussi parce que Platon considérait que toute application pratique de la géométrie et des mathématiques était d’une vulgarité achevée, et qu’il ne fallait pas sortir de la spéculation purement intellectuelle.
Raphaël Doan :
Il est vrai que cette vision des choses était très influente pendant toutes l‘Antiquité. Sénèque pensait la même chose : faire des machines est une tâche d’esclave.
Michaela Wiegel :
Tout d’abord : félicitations, parce que vous réussissez avec ce livre à utiliser l’IA pour nous proposer des options qu’on n’aurait pas imaginées. Je crois que c’est Bismarck qui disait « on aime manger les saucisses, mais on ne veut pas savoir comment elles sont faites ». Pour ma part, j’aimerais bien que vous nous expliquiez tout de même un peu la « bonne » utilisation de l’IA. C’est un sujet qui génère beaucoup de fantasmes ; il y a désormais une rumeur selon laquelle l’IA se met à nous mentir, à nous cacher des choses … Comment avez-vous procédé pour arriver à ces formidables images qui illustrent votre livre ?
Raphaël Doan :
La première chose à avoir en tête à propos des LLM (Large Language Models, ou grands modèles de langage, terme qui désigne les IA qui produisent du texte, comme le célèbre ChatGPT), c’est que ce sont avant tout des systèmes conçus pour prolonger du texte, pour le compléter. Quand on pose une question ou qu’on donne un début de texte à ces IA, tout ce qu’elles font, c’est le compléter par un contenu vraisemblable en fonction de ce qui a été donné auparavant.
Donc si on veut orienter la machine vers un type de texte particulier, il faut donc lui fournir des éléments qui sont dans le même registre : le ton, le niveau de langage … Cela va l’inciter à poursuivre le texte de la même manière.
J’ai commencé par tenter plusieurs idées avec l’IA, pour voir différentes choses, ce qu’elle me répondrait si je lui demandais par exemple d’imaginer 15 applications que les Romains auraient pu faire de la machine à vapeur. Cette première phase produit beaucoup d’idées mauvaises, mais il y a tout de même eu quelques éléments intéressants. J’ai procédé de la même manière avec plusieurs questions, puis ai essayé de les recouper. Par la suite, de façon assez pyramidale, j’ai travaillé avec l’IA pour faire un plan général de ma narration, après quoi il s’est agi d’aller de plus en plus dans le détail. Car l’une des principales limites de ces LLM est aujourd’hui le contexte : le nombre de caractères qu’ils peuvent ingérer en entrée, et produire en sortie. C’est assez limité : on peut lui faire faire quelques paragraphes, mais pas tout un livre. Quoique sur certains LLM, il est possible de fournir presque tout un livre en « entrée », mais ce n’est pas encore si efficace que cela.
Cela oblige donc à travailler avec des petits passages, qu’il faut assembler ensuite, à la main. Je compare cela dans le livre au travail d’un monteur de cinéma : on a des quantités de pellicule, qu’il va s’agir de couper et de coller pour produire un tout cohérent. Bref, on est encore très loin d’avoir un livre entier en appuyant sur un bouton …
Philippe Meyer :
C’est donc un double travail : un travail de documentation d’abord, ce qu’on va « donner à manger à l’IA ». Puis un travail de curation : vous triez ce que la machine produit, pour assembler ce qui vous intéresse. Si je comprends bien, au moment de la rédaction de ce livre, il reste encore beaucoup de travail humain. Et vous êtes spécialiste de la Rome antique, si vous aviez voulu écrire avec l’IA un livre sur la Chine, vous auriez été bien plus démuni …?
Raphaël Doan :
C’est tout à fait cela. Je dirais que l’être humain reste essentiel dans tout le processus. En amont, pour savoir quoi faire : dans quelle direction faire travailler l’IA, pour lui donner la documentation initiale. Dans la partie narrative du texte, j’ai souhaité conserver le style assez plat du LLM, mais il y a des moments où je fais des fausses sources, avec de faux textes antiques, et là je lui donne par exemple des textes de Pétrone, pour que le LLM puisse imiter son style. En aval, il y a le processus de tri, que la machine ne peut pas faire elle-même, par définition. Et rien de tout cela ne peut être automatisé.
Philippe Meyer :
Mais si je demandais à la machine ce que serait devenue la cuisine chinoise si les Chinois avaient connu le pâté en croûte au 1er siècle, elle resterait coite ?
Raphaël Doan :
Elle proposerait peut-être des choses, mais vous ne sauriez pas forcément dire quelle est la plus vraisemblable ou pertinente …
Matthias Fekl :
Le livre est magnifique, mais aussi très original. A ma connaissance, c’est le premier du genre, et à ce stade le seul. Vous avez expliqué en quoi le rôle de l’humain était essentiel dans la création de ce livre, mais vous expliquez aussi, au début de l’ouvrage, que l’une des spécificités de l’IA, c’est justement qu’elle va affecter probablement beaucoup plus le travail intellectuel que le travail manuel, contrairement aux révolutions industrielles que l’on a connues. Je serais curieux de vous entendre à ce sujet.
Raphaël Doan :
Le fait que le travail de l’humain reste essentiel dans ce livre ne signifie pas pour autant qu’il n’y a pas une grande part d’automatisation. La révolution industrielle a produit des usines, avec des chaînes de montage. Certes, il y avait toujours quelqu’un pour les concevoir, les contrôler et travailler dessus, mais cela a tout de même conduit à un changement radical dans la manière de produire des biens manufacturés.
La situation est pour moi assez similaire s’agissant de l’IA, sauf qu’au lieu du travail mécanique, il s’agit ici du travail cognitif. Et c’est pour cela que je trouve que tous les débats autour de l’IA (« s’agit-il oui ou non d’une "intelligence" » ?) sont intéressants du point de vue philosophique mais que, quelle que soit la réponse, le fait est que l’IA va effectuer de plus en plus de tâches qui demandaient de l’intelligence. Ce n’est pas tout à fait la première fois, il y a avait déjà eu des machines effectuant des tâches pour lesquelles l’intelligence humaine était nécessaire, mais c’était à chaque fois très localisé, des tâches très « étroites ». Je pense bien sûr à la machine à calculer, par exemple. La différence avec les outils d’aujourd’hui, c’est qu’ils sont bien plus généralistes. Cela aura donc forcément un impact énorme. Personnellement, je crois qu’il y aura tout de même une forte inertie, que tout ne va pas changer du jour au lendemain. Comme souvent avec les révolutions technologiques, les structures sociales sont lentes à évoluer. Mais à long terme, il est très probable qu’on aura le même type de révolution qu’avec la révolution industrielle.
Matthias Fekl :
Il y a un deuxième critère que vous mettez en avant, c’est la rapidité de cette révolution. Vous décrivez en détail la façon dont les révolutions antérieures ont pris des décennies, alors qu’ici, en quelques années, beaucoup de choses peuvent basculer. Personnellement, je le vois déjà dans les professions juridiques, où des tâches entières pourront très bientôt être entièrement automatisées.
Raphaël Doan :
Il est vrai qu’il y a aujourd’hui des tâches ou des activités qui peuvent quasiment déjà être entièrement automatisées, alors que c’était tout à fait inenvisageable il y a seulement cinq ans. Même s’il y a déjà eu des innovations rapides par le passé, on avait tout de même un peu plus de recul que cela. Le plus frappant, ce sont par exemple les illustrateurs. Quelqu’’un qui commencerait aujourd’hui une carrière d’illustrateur pourrait légitimement être inquiet de l’arrivée des modèles de synthèse d’images. Cela ne veut pas dire pour autant qu’il n’y aura plus d’illustrateurs, ni qu’il sera impossible d’en faire une carrière : les gens qui ont à la fois le goût pour l’image, l’œil pour en juger et la créativité seront toujours nécessaires. En revanche, l’habileté manuelle sera sans doute moins importante. Et surtout, cela va considérablement compliquer les débuts de carrière. Aujourd’hui, si vous vous lancez dans une carrière d’illustrateur, vous commencez par des petits boulots. Ce sont ces petites tâches-là qui seront certainement confiées à l’IA les premières.
C’est donc problématique : des pans entiers d’activité créatrice sont bouleversés, ou peuvent disparaître. Et même si cela ne conduit pas à un remplacement général de l’Homme par la machine, il est clair que du point de vue local, cela va avoir des conséquences assez fortes. Ce qui va sans doute obliger les pouvoirs publics à garantir une forme de continuité, de redirection de ces talents vers les bons usages …
Tout cela est nouveau, et n’a jamais été fait à une échelle aussi massive. Personnellement, je suis très optimiste sur les perspectives en termes d’emplois et de croissance que l’IA va apporter, mais il va falloir veiller à ce que la transition ne soit pas trop brutale.
Richard Werly :
En parcourant votre livre, deux questions me sont venues spontanément. D’abord, les images qui l’illustrent me donnaient une impression de déjà vu. Au fond, beaucoup de créateurs visuels (BD, cinéma, etc.) nous ont montré ces espèces de synthèses entre monde romain et modernité. Je n’ai donc pas été particulièrement surpris, et ai plutôt eu le sentiment que l’IA ne faisait que recycler des choses qui nous étaient familières à tous. Cela pose la question de la capacité de l’IA à générer de la nouveauté.
Ensuite, à propos de la destruction des emplois dont vous parlez, le milieu intellectuel (auquel vous appartenez) craint-il une prolifération des faussaires ? C’est-à-dire des gens qui contrairement à vous, ne disent pas qu’ils ont eu recours à l’IA. Comment pourra-t-on distinguer le vrai du faux ?
Raphaël Doan :
A propos de la créativité des illustrations, je suis persuadé qu’aucun artiste humain ne crée à partir de zéro, et que chaque création vient d’une inspiration, et de la « banque d’images » que l’artiste a en lui. En ce sens, il est donc normal que l’IA ne produise pas des images radicalement nouvelles, mais c’est la même chose pour un auteur humain. L’Enéide de Virgile n’est après tout qu’une espèce de géniale fusion de l’Illiade et de l’Odyssée, et cela ne l’empêche pas d’être un grand poème … Personnellement, j’ai tout de même été frappé par la qualité des « fausses photographies de musée », d’objets archéologiques. C’est l’une des choses qui m’ont le plus amusées en faisant ce livre : faire des fausses photographies de catalogues, par exemple du British Museum, en montrant des « fusils romains » ou des « ordinateurs romains, » ou un androïde avec un tête en ivoire … Ce sont des choses qu’il aurait été extrêmement difficile de produire sans recours à l’IA. Il aurait fallu, soit construire l’objet, comme un accessoire de cinéma, puis le photographier, soit faire un travail de modélisation 3D extrêmement poussé … En plus, je trouve que ces « photos » reflètent très bien le style et l’esthétique des artefacts antiques. C’est le genre de choses qu’on a toujours eu beaucoup de mal à faire auparavant. Par exemple, imaginez un film historique, dont l’action se passe au XVIIIème siècle, dans lequel il y a une Comtesse, qui a dans son salon un portrait d’elle-même. Comme il s’agit d’une actrice, il faut que le portrait lui ressemble, donc on fait faire un tableau de l’actrice dans le style XVIIIème siècle. Personnellement, je n’ai jamais été très convaincu chaque fois que je vois ce genre de chose, ça « sent » le faux à plein nez. Bien sûr, il existe d’excellents faussaires dans le monde de l’art, mais ce ne sont généralement pas eux qu’on emploie dans ces cas-là … Et il se trouve qu’un modèle IA de synthèse d’images arriverait très bien à faire quelques chose de ce genre. C’est ce qui m’intéressait : retrouver l’inspiration directe des œuvres et des objets antiques.
A propos des faussaires, ensuite. Il y a déjà des gens qui se servent de l’IA sans le dire. Il y a même eu des sondages à ce sujet, nous apprenant qu’une proportion très grande (je ne sais plus si c’est 40% ou 60%) de gens travaillant en entreprise utilisent ChatGPT sans le dire à leur patron … Ce n’est pas très surprenant.
Personnellement, je ne suis pas très inquiet à ce sujet. D’abord parce que ce qui compte avant tout dans une tâche, c’est le résultat : si jamais un film de fiction comprend des images produites par IA sans qu’on me le dise, après tout ça m’est égal … Là où c’est évidemment choquant, c’est dans le cas du monde réel, de l’information de presse, par exemple. Mais dans ce cas là, le risque est le même que celui d’un faussaire « à l’ancienne », le problème vient plus de la diffusion de l’information, du contrôle de cette cette diffusion, que de la génération elle-même. La possibilité de générer des fausses images n’est pas nouvelle, l’IA ne fait que l’accélérer. Le vrai enjeu, c’est de contrôler la diffusion. C’est un défi auquel font déjà face les réseaux sociaux et les médias. Nous en sommes à un stade où l’idée qu’une image ou qu’une vidéo puisse être fausse est assez largement répandue, mais pas encore omniprésente. Je pense que le jour où votre réseau social favori aura un bouton pour créer des fausses images de vous-mêmes en vacances, à la plage ou je ne sais où, tout le monde sera conscient qu’une photo venue d’internet a probablement été générée par IA. Le jour où cette bascule sera effectuée, où l’on croira que l’image est fausse a priori, le dilemme changera de sens : ce seront les vraies images que l’on soupçonnera d’être fausses, et c’est peut-être un problème plus grave encore.
Richard Werly :
L’IA laisse-t-elle des traces ? Autrement dit, sait-on distinguer à coup sûr un document généré par IA d’un vrai ?
Raphaël Doan :
Cela dépend des modèles. Certains ont des « empreintes », mais ce n’est pas toujours le cas. C’est une espèce de nouvelle course aux armements : chacun essaie de trouver un système pour détecter de façon infaillible, ou au contraire un générateur qui ne laisse aucune trace … Je pense qu’on y arrivera toujours en dernier ressort, s’il faut aller jusqu’à un procès par exemple. Mais la vraie question est : au quotidien, quel degré d’effort est-on prêt à mettre pour distinguer le vrai du faux ?
Michaela Wiegel :
L’Union européenne, après de longues négociations, a enfin trouvé un accord sur la règlementation de l‘IA. Il était d’ailleurs assez frappant de voir que l’Europe était en quelque sorte débordée par le développement si rapide de ChatGPT … Ne fait-on pas fausse route en essayant de règlementer ? La véritable question n‘est-elle pas plutôt la propriété ? C’est-à-dire : où sont les serveurs, les supercalculateurs ? Quels sont les programmes utilisés ? Quelle transparence et quelles valeurs se cachent derrière tel ou tel modèle ? Je vois qu’il y a de petites pépites en Europe, qui n’ont évidemment pas la même puissance de feu que les mastodontes américains. C’est tout de même typiquement européen que de vouloir tout réglementer avant même d’avoir développé une industrie qui tienne la route …
Raphaël Doan :
Oui c’est un peu paradoxal, c’est comme vouloir règlementer les photos de presse en 1839, alors qu’on vient d’inventer le daguérréotype … C’est très difficile de savoir ce qu’une technologie va donner alors qu’elle est si récente. La philosophie de la règlementation européenne n’est pas idiote : il s’agit de réguler par les risques et les usages, et pas seulement par l’existence même du modèle fondamental. Mais évidemment, le diable est dans les détails … que classera-t-on dans les « risques élevés » au cas par cas ? A mon avis, les négociations seront encore longues, et elles vont devoir tenir compte de l‘avancée de la technologie. Je suis d’accord avec vous, le plus important sera malgré tout de posséder nous-mêmes les briques pour faire tout cela, et il y a là deux aspects. D’abord, du point de vue de l’infrastructure, il faudra avoir accès aux fameux GPU, les cartes graphiques qui permettent de faire tourner ces modèles et de les entraîner. Il en faut beaucoup, et leur principal producteur est la société Nvidia (qui a un quasi monopole). Toutes les entreprises du monde essaient aujourd’hui de sécuriser le plus grand nombre possible des ces GPU, de se faire des réserves (comme on parlait de réserves d’or), et cela laisse peu de place pour les petits acteurs, qui n’arrivent pas à se les procurer, ou alors en quantités très insuffisantes. Les Américains commencent à se constituer leur propre filière, et la diversification des sources va sans doute arriver à terme, par le jeu du marché. Il sera important que l’Europe puisse en bénéficier.
Puis, une fois qu’on a cette infrastructure, il y a la capacité à proposer des modèles. C’est important à la fois pour la souveraineté technologique, mais aussi sur le plan des valeurs, car derrière ChatGPT, il y a des biais, qui correspondent aux données qu’on a fournies à Chat GPT pendant son entraînement. Et ces données ne sont pas forcément les mêmes que celles qu’on aurait fournies à un modèle différent. Rien que la place des langues est significative : aujourd’hui ChatGPT parle raisonnablement bien français ou italien, mais on pourrait faire beaucoup mieux avec un modèle dédié. On n’est cependant pas si mal partis que certains le disent …
Philippe Meyer :
« Raisonnablement bien français », cela veut dire quoi exactement ? Par exemple : combien de mots de vocabulaire ? Sachant que le français fondamental, c’est 1500 …
Raphaël Doan :
C’est une bonne question … Je pense qu’il n’y a pas beaucoup de mots qui lui seraient inconnus, en revanche il ne les emploierait pas spontanément. Encore une fois, cela dépend de ce que vous lui donnez en entrée. Je m’étais par exemple amusé à « surentraîner » ChatGPT sur Proust. On peut faire des réglages fins, qui impliquent de réentraîner le modèle sur un corpus plus étroit, pour le forcer à suivre un certain style. C’est ce que j’avais fait avec Proust. Et ensuite, cela donnait quelque chose qui n’était certes pas Proust dans ses meilleurs jours, mais correspondait malgré tout, en termes de registre et de vocabulaire à ce que l’on pouvait attendre. Donc la capacité est là, mais si on utilise le modèle dans sa version commerciale classique, il va rarement utiliser un vocabulaire varié, car il est entraîné à être cet assistant bienveillant et un peu plat, assez « robotique ».
Matthias Fekl :
A propos de la problématique de la vérité, j’ai soit une incompréhension, soit un désaccord, que j’aimerais éclaircir. Vous faites un paradoxe intéressant, mais à mon avis pas totalement juste : vous dites que l’IA ne fait que refermer une parenthèse, qui s’était ouverte avec l’apparition de la photographie. Avant la photo, il y avait le dessin, la peinture, et après, il y aura des images dont l’adéquation au réel pourra être mise en doute. Pour moi, la nouveauté des images générées par IA c’est justement qu’elles installent le doute, puisqu’elles prétendent non seulement représenter le réel (comme la peinture figurative), mais aussi le refléter parfaitement, l’enregistrer … On a donc le sentiment d’être face à une reproduction pure et simple de la réalité, alors que cela ne l’est pas. Quelles conséquences politiques cela pourrait avoir ?
Raphaël Doan :
Vous m’avez bien compris, mais c’est une question de temporalité. Je pense que pendant plusieurs années, nous allons avoir une phase où beaucoup de gens se feront avoir par des images si parfaitement réalistes qu’elles sont « au dessus de tout soupçon ». Mais au fur et à mesure, après nous être bien fait avoir, nous allons considérer a priori que l’image est fausse, et qu’elle a été générée par IA, car ce sera la cas de la plupart des contenus. Fabriquée, et non captée. Je pense qu’une fois que ce seuil sera franchi, la charge de la preuve sera en quelque sorte renversée : ce sera à la vraie photo de « prouver son innocence », et que cela posera un autre type de problème. Cela va finir par donner à l’image la même valeur que le texte. Si un texte vous dit « le président Macron est allé en Chine et a serré la main du président Xi », vous n’y croyez pas automatiquement : ça dépend qui vous le dit, dans quel contexte, etc. Cela n’a pas en soi une valeur de vérité. Je pense que dans 10 ans, il en ira de même pour les photos : si on voit deux présidents se serrer la main, on ne croira plus automatiquement que c’est arrivé.
Richard Werly :
Il y a un domaine à propos duquel l’impact de l’IA m’intrigue particulièrement, et c’est précisément la politique. Au moment où nous enregistrons cette émission, la crise des agriculteurs semble être en train de se dissiper, certains barrages se lèvent … La colère des agriculteurs, on la connaît : elle est identifiée, on en connaît les motifs, on connaît les revendications, etc. Imaginez que vous entrez ces griefs dans un modèle d’IA, qui va les faire passer à la moulinette de toutes les législations qu’il connaît, imaginer des scénarios ... Si cela se trouve, il va sortir les solutions qui seront les bonnes. Au fond, plutôt que de confier la responsabilité de trouver les bonnes solutions à des ministres, je vais préférer un ministre machine, qui sera neutre, qui aura puisé sa connaissance dans l’ensemble des législations … Est-ce là le modèle politique de demain ?
Raphaël Doan :
Je ne suis pas sûr qu’on soit vraiment capables de le faire. Je suis certain que ce sera à terme un outil légistique (d’écriture de la loi) très utilisé et très utile : une machine qui « traduit » une idée de législation ou de norme en texte juridique qui tient compte de certaines contraintes, etc. Mais cela ne veut pas dire que l’idée même de la régulation aura été inventée par l’IA. Aujourd’hui, on est encore assez loin d’avoir quelque chose de suffisamment englobant pour avoir tous les paramètres, à cause des problèmes de taille du contexte. Pour le moment, on ne peut pas donner au modèle tant d’informations en entrée, cela limite donc sa capacité de réflexion pour les problèmes complexes. Dans votre exemple, il faudrait lui donner à la fois tout le contexte social, toute l’histoire récente des relations entre les agriculteurs et le gouvernement, l’Union européenne… Il faudrait d’autre part lui donner toute la règlementation en vigueur (énorme !), des paramètres économiques, etc.
Évidemment, on ne peut pas exclure d’être en mesure de le faire un jour, mais pour le moment on n’en est pas là. Mais dans tous les cas, il restera quelqu’un pour valider tout cela, pour choisir entre plusieurs options … L’IA sera à mon avis davantage un « super-haut fonctionnaire » qu’un « super-ministre ». Je pense que les hauts fonctionnaires font partie des gens que l’IA remplacera, parce qu’après tout, ils font de la synthèse de dossiers et des notes pour proposer des choses. Des tâches que l’IA est parfaitement en mesure d’accomplir. En revanche, elle ne peut pas décider, c’est encore au ministre de le faire.
Matthias Fekl :
Au fond, ce que formule Richard est un peu le vieux fantasme technocratique : penser qu’il existe des solutions idéales qui sont purement techniques, et que si elles ne sont pas en vigueur, c’est simplement parce qu’on ne les a pas encore trouvées. Mais sur beaucoup de crises, par exemple la crise environnementale et ses effets, on voit bien que le problème n’est pas tellement technique, il s’agit plutôt de concilier des impératifs contradictoires. C’est une question d’échéancier, d’accompagnements, d’alternatives offertes, etc. Bien plus que de connaissances des régulations.
Mais il est vrai que dans un deuxième temps, des tâches entières pourront être automatisées : dans l’administration, dans le juridique, dans les bureaux d’études …
Philippe Meyer :
Vous voulez dire que les plus remplacés par l’IA, ce seront les cabinets de conseil …? Le grand perdant sera McKinsey ?
Raphaël Doan :
Probablement. Le style même des productions de ChatGPT ressemble d’ailleurs à ce que peut produire un cabinet de conseil … On a créé une machine à générer des PowerPoint !
Philippe Meyer :
Vous avez dit à plusieurs reprises que comme la machine ne peut pas ingérer un nombre trop important d’informations en une fois, il faut la réalimenter régulièrement. Dans votre livre, la survie de l’empire romain tient à sa découverte de la machine à vapeur. Vous commentez chacun des chapitres, en expliquant ce que vous avez fourni à l’IA, ce qu’elle a produit, l’interrogation que vous en avez retirée, etc. Votre livre n’est pas très gros. Pour que nous nous rendions compte de la quantité de travail humain qu’il a demandé, savez-vous combien d’heures vous y avez passé ?
Raphaël Doan :
C’est une question piège ! J’ai du mal à quantifier en heures, car je travaille d’une manière très irrégulière, parmi d’autres activités, mais il a tout de même fallu plusieurs mois. Ce n’est pas du tout un travail automatique, loin de là. Une bonne moitié du texte n’est « que » de moi, il s’agit des commentaires sur ce que propose l’IA. Les images aussi demandent beaucoup de temps, déjà parce qu’il faut en générer beaucoup avant d’en avoir une intéressante, ensuite parce qu’elles nécessitent des retouches. Enfin, le texte généré par IA a lui-même subi quelques retouches … En réalité, faire ce livre ne m’a pas demandé moins de temps que les précédents. Évidemment, celui-ci se voulait expérimental, le but n’était pas de me permettre de faire un livre « éclair ».
Philippe Meyer :
Souhaitez-vous continuer à travailler avec l’IA pour votre prochain livre ?
Raphaël Doan :
Je ne sais pas encore, je ne referai évidemment pas le même procédé, mais je suppose que pour tout livre ou article sur lequel je travaillerai à l’avenir, je me servirai de l’IA. Pas forcément pour rédiger, mais plutôt pour tester des idées, vérifier que je n’oublie pas des choses, proposer des améliorations …
Matthias Fekl :
J’ai l’impression en vous écoutant que vous avez finalement passé davantage de temps sur tout ce sur quoi l’intelligence humaine apporte une plus-value : la conception d’un objet très original, l’articulation IA/intelligence humaine, l’idée de faire les images, l’idée de l’uchronie … Mais que sur l’exécution, il y a toute une série de choses qui ont pu être faites plus rapidement.
Raphaël Doan :
C’est cela. Mais aussi et surtout, l’iA a permis des choses que je n’aurais pas pu faire autrement.Je n’aurais jamais pu avoir de telles images, par exemple. Si j’avais dû faire exactement le même livre mais sans l’IA, la quantité de travail aurait été absolument démesurée.
Il y a deux types d’impact de l’IA sur le travail humain. Il y a les cas ou cela va vraiment accélérer, automatiser, voire remplacer, et puis les cas où cela va simplement être un exhausteur de créativité. Ce seront probablement des domaines assez différents. Il y a même des domaines dans lesquels utiliser l’IA demandera davantage de temps, mais permettra de faire des choses nouvelles. Dans le cinéma, j’imagine par exemple que des réalisateurs indépendants vont pouvoir faire des choses qui étaient tout simplement hors de leur portée sans IA.
Michaela Wiegel :
Je reviens à la question des langues. On n’a pas encore dit que l’IA a révolutionné la traduction, vous avez expliqué comment vous aviez entraîné une IA à parler comme Proust … Mais au total, ne se dirige-t-on pas vers une domination de l‘anglais ?
Raphaël Doan :
Il y a quinze ans, mes professeurs de latin me disaient (et j’étais d’accord avec eux) qu’on n’aurait jamais de vrai traducteur informatique fonctionnel pour une raison simple : la syntaxe et la grammaire ne sont pas des ensembles de règles fixes et déterministes. Par exemple, considérons la phrase : « nous avons offert un chien à Paul, il a de beaux poils roux » Dans cette phrase, on sait que le « il » renvoie au chien plutôt qu’à Paul, mais grammaticalement, rien ne l’indique à coup sûr, il pourrait très bien s’agir de Paul. Quand on veut traduire cette phrase en anglais, on se pose donc la question : faut-il utiliser « he » ou « it » ? Pour un programme informatique classique, ce type de problème resterait insoluble.
Les LLM, en s’appuyant sur des probabilités statistiques et sur tous les paramètres conçus pendant la phase d’entraînement, sont en mesure de dire qu’on parle plus probablement du chien, et qu’il vaut mieux utiliser « it ». Pour l’ordinateur, c’est la statistique qui remplace le bon sens. C’est intéressant du point de vue conceptuel : on est parvenu à effectuer une tâche dont on pensait qu’elle serait impossible par nature. On peut désormais tout traduire instantanément. Il y aura donc probablement une forme d’homogénéisation de chaque langage, parce que ces outils seront très utilisés, et qu’ils ont tendance à produire du vraisemblable, et donc à « resserrer » autour d’une manière de parler commune. Et en même temps, cela signifie aussi que l’anglais devient moins important, car si on peut tout traduire instantanément, il est moins nécessaire de devoir parler anglais. Peut-être que les gens arrêteront d’apprendre des langues, parce que communiquer dans sa langue maternelle ne posera aucune difficulté.
Bien évidemment, il est presque impossible de faire une prédiction. Peut-être qu’un goût pour l’apprentissage des langues demeurera, ainsi qu’une volonté d’aller plus loin que l’interface de la machine, mais en termes d’utilité, le fait est qu’on a désormais moins besoin d’apprendre l’anglais qu’autrefois.
Richard Werly :
Imaginons qu’à l’avenir, ou même dès à présent, une partie de la population n’ait pas du tout accès à l’IA, soit parce qu’elle n’en a pas les moyens, soit parce qu’elle ne l’intéresse pas, soit parce qu’elle n’en veut pas. Sera-t-elle vraiment défavorisée par rapport à l’autre partie qui l’utilise ? Au fond, ces « ignorants » là ne resteront-ils pas les plus créatifs ?
Raphaël Doan :
Je pense qu’ils seraient peut-être économiquement défavorisés, par rapport à tous les gains de productivité que permettra l’IA, mais honnêtement, je pense surtout que tout le monde se servira de l’IA. Certains moins que d’autres peut-être, mais je doute qu’il y ait des gens qui en soient entièrement coupés. Les gens s’en serviront d’une manière ou d’une autre, et peut-être même un peu contre leur gré. Les outils que nous utilisons en ce moment (par exemple des traitements de texte, des tableurs, etc.) vont tous intégrer de l’IA, donc en les utilisant, on utilisera l’IA, même indirectement. De plus en plus, toute la vie numérique va intégrer de l’IA. Pour y échapper, il faudra donc être entièrement déconnecté. Il y aura certainement des gens qui font ce choix, mais cela devrait rester très marginal … Mais je ne pense pas que des gens puissent se dire : « je continue d’être dans la vie active et d’utiliser des outils numériques, mais sans l’IA », car ce sera tout bonnement impossible.
Ce qui est possible en revanche, c’est que certains utiliseront l’IA comme substitut de relations humaines (c’est déjà le cas pour une toute petite partie de la population, qui a des amis ou des amoureux virtuels), et c’est peut-être un phénomène qui va croître, pour pallier une solitude : des machines de réconfort, en quelque sorte. Est-ce que ce sera tout à fait marginal, ou bien assez répandu ? L’avenir le dira, mais personnellement, je crois moins à l’îlot de gens qui résisteraient économiquement contre les outils IA.
Philippe Meyer :
Dans le livre, vous évoquez la question de la langue : l’appauvrissement du latin, sa pénétration par des mots étrangers, jusqu’à devenir à peu près ce qu’est devenu l’anglais. Beaucoup de gens parlent un « basic English » suffisant pour échanger quelques informations, mais très pauvre d’un point de vue linguistique. Cet outil de traduction qu’est aujourd’hui l’IA fait sans doute davantage aujourd’hui que traduire les modes d’emplois des appareils que nous achetons, mais je pense qu’il n’est pas possible d’envisager la traduction d’un roman, par exemple. Nos auditeurs pourront se reporter aux entretiens que nous avions eu avec Sarah Gurcel, traductrice, qui expliquait à quel point son métier est une activité physique. Le temps qu’on met à trouver le mot juste, l’expression qui reflète au mieux une pensée ou un style est très long. Quand on trouve, c’est très gratifiant, mais économiquement parlant, il est certain que ce n’est pas très rentable … C’est pourquoi on ne paie pas les traducteurs au temps qu’ils mettent à traduire un texte.
Par rapport à l’IA et aux langues, vous nous avez expliqué en quoi l’anglais allait peut-être paradoxalement ne plus être aussi indispensable, mais n’y a-t-il pas un risque que tous les vocabulaires de toutes les langues se réduisent à cause des biais de l’IA ?
Raphaël Doan :
Concernant la traduction, je suis tout à fait d’accord avec vous : pour tout ce qui est littéraire, tout ce qui est davantage que de la simple information, la sensibilité d’un être humain reste décisive. Pour moi qui suis latiniste, c’est d’autant plus évident : a priori, les textes latins sont tous antiques, donc on sait déjà ce qu’ils disent ! Si on les retraduit, c’est pour tenter de s’approcher au plus près d’un style.
Ceci étant dit, la très grande majorité des textes à traduire aujourd’hui ne sont pas des romans ou de la littérature. Même pour des essais, l’un des problèmes des éditeurs, c’est qu’il est généralement plus cher de faire appel à un traducteur que de payer l’à-valoir d’un auteur français pour avoir un nouveau livre … Il y a donc peu d’incitation pour un éditeur à faire traduire un livre, à moins d’être certain qu’il s’agit d’un best-seller … Dans ces conditions, on comprend qu’il soit tentant de faire traduire par un algorithme (même si ensuite, on fait relire à un humain, bien évidemment). C’est utile pour avoir accès à des livres étrangers, qui n’ont pas eu le succès suffisant pour être traduits.
A propos de l’appauvrissement du vocabulaire, je pense que c’est effectivement un risque. Cela ne fait d’ailleurs que prolonger une tendance qui existe déjà : les moyens de communication que nous utilisons aujourd’hui homogénéisent plutôt les échanges et appauvrissent le langage. On voit bien que d’une manière générale, dès qu’il y a unification d’un espace linguistique, cela élimine les variations et les niches. Par exemple les patois et les langues locales ont tendance à disparaître dès qu’on permet aux gens de dialoguer de manière plus fluide et plus rapide. La puissance du latin sous l’empire romain tient notamment au fait qu’elle est le vecteur de communication entre les différentes parties de l’empire. C’est quand cette communication commence à se disloquer (au début du Moyen-Age) que les langues commencent à se diversifier. Comme l’IA est un outil de communication, il y a des chances qu’elle contribue à un appauvrissement. Aux auteurs de continuer à choyer la langue pour la garder riche.
