Le Métavers ou l’autre monde
Introduction
Philippe Meyer :
Bruno Patino, Vous êtes journaliste, actuellement président de la chaîne Arte, et vous avez été directeur Général de France Télévision, et de 2007 à 2020, Directeur de l'Ecole de Journalisme de Sciences Po. En 2019, la publication chez Grasset de votre livre « La Civilisation du poisson rouge, petit traité sur le marché́ de l'attention » a rencontré un succès remarquable. En janvier 2022, vous avez publié́ la suite de ce premier tome, intitulée « Tempête dans le bocal, la nouvelle civilisation du poisson rouge ».
Le monde compte désormais 4,2 milliards de comptes actifs sur les réseaux sociaux et 53% de la population mondiale a recours à ces outils. Les utilisateurs des réseaux sociaux ont en moyenne des comptes sur huit plateformes différentes et y consacrent 2h30 par jour. La pandémie a augmenté sensiblement le temps d’écran de toutes les classes d’âge, avec une hausse de 60% chez les 6-10 ans, de 70% chez les adolescents et de 40% chez les adultes. Aujourd’hui, 74% des Français se considèrent dépendants de leurs outils connectés.
Dans vos livres, vous expliquez les effets prédateurs du modèle économique basé sur la publicité des grandes plateformes du numérique. Ce modèle, optimisé par le « data-mining », l'analyse des données personnelles, permet d'assurer la gratuité des services proposés aux utilisateurs. Cependant, il pousse les plateformes numériques à chercher à capter un maximum de leur attention pour les exposer à la publicité et recueillir un maximum de leurs données. Vous dénoncez cette course au « temps de cerveau disponible », dangereuse pour la santé des individus et la démocratie.
Vous exposez un certain nombre de pathologies nées de la dépendance aux réseaux sociaux. L’espace numérique étant façonné par des algorithmes entièrement tournés vers la promotion des publications au bruit numérique le plus fort, vous dites que la démocratie des réseaux sociaux est une « émocratie », qui rend performatives nos émotions, et les font envahir l'espace public, aux dépends de la raison, de la vérité et de la confiance. Si les écrans nous ont sauvé pendant la pandémie, nous permettant de maintenir des liens sociaux et certaines activités professionnelles, vous expliquez que la société hyper- connectée est une société de la fatigue. Selon l'Observatoire National de l'Activité Physique et de la Sédentarité, le confinement s'est traduit par une hausse de 60% de temps d'écran chez les 6-10 ans, 70% chez les adolescents, et 40% chez les adultes. Plutôt que de tomber dans le déterminisme technologique, vous appelez à demander des comptes aux dirigeants de ces plateformes. Plutôt que de prétendre corriger leurs nuisances en se limitant au filtrage des messages ou des utilisateurs, vous insistez sur la nécessité de s'attaquer aux algorithmes, dont le fonctionnement et les biais doivent être transparents et régulés. Enfin, vous rappelez l'importance de l'existence d'offres alternatives à celles des grandes plateformes, et notamment celle du service public, qui peut s'émanciper du modèle publicitaire et de captation de l'attention propre aux acteurs privés. A la tête d'Arte, vous tentez de faire vivre cette offre alternative avec succès, mais comment peut-elle être transposée dans le monde des réseaux sociaux ?
Kontildondit ?
Bruno Patino :
C’est une question très vaste, mais je la simplifierais volontiers ainsi : faut-il encore être sur les réseaux sociaux ou non ? Vous avez très bien résumé ce que j’ai tenté de raconter dans mes livres. Car raconter l’histoire des évolutions numériques des 20 dernières années, c’est raconter l’histoire de nos vies, tant individuelles que collectives.
On peut observer les réseaux d’aujourd’hui à trois niveaux, pour comprendre le genre de discussion que l’on peut avoir avec les grandes plateformes et tenter de faire vivre des offres alternatives. On peut d’abord s’attarder sur l’aspect quantitatif. Dans ces cas-là, on est rassuré, car seulement 3, 4 ou 5% (selon la façon de compter) des comptes sur les réseaux sociaux peuvent être considérés comme « nuisibles », c’est à dire liés à la désinformation, au harcèlement, etc. Donc du strict point de vue quantitatif, la grande majorité de ce qui est publié sur les réseaux sociaux est anecdotique, parfois informationnel, et relève plutôt d’une socialisation pacifiée et collaborative. C’est d’ailleurs ce que les plateformes mettent en avant, ainsi que des sociologues comme Dominique Cardon : les réseaux sociaux sont un outil de socialisation extraordinaire. Donc pour les offres alternatives comme Arte, être absent des réseaux sociaux, c’est se priver d’un outil majeur, permettant de toucher non seulement les jeunes générations, mais aussi les autres désormais. L’âge moyen de Facebook a considérablement monté ces 10 dernières années, il est de 46 ans, et se rapproche de l’âge moyen de la population américaine (49 ans). Quantitativement, pas de quoi être inquiet outre-mesure, et il y a même de quoi plaider en faveur de ces outils majeurs de socialisation.
Deuxième niveau : à quoi sommes-nous exposés ? C’est là qu’arrive un biais considérable. Je prends un exemple dans mon livre, très mis en avant par le président Biden : les messages antivax. Facebook a 3,3 milliards d’abonnés, or 12 personnes ont été à l’origine de 60 à 70% des massages antivax touchant 59 millions de personnes. L’impact qu’ont eu ces 12 personnes a donc été absolument gigantesque. Et plus intéressant encore : la plupart des gens qui ont suivi ces 12 personnes ne l’ont pas fait parce qu’ils ont eu l’idée de les suivre, mais parce que l’algorithme le leur a proposé. C’est là où se situe la vraie question : que s’est-il passé pour que les publications de ces 12 personnes soient amplifiées et accélérées à ce point ? Car il s’agit d’une mécanique externe au bon vouloir de ceux qui sont sur les réseaux. C’est ce sur quoi je m’attarde dans le livre : il s’agit d’un problème de modèle économique. Comment faire en sorte qu’à un moment donné, l’amplification et l’accélération ne mettent pas en avant les choses les plus délétères pour l’espace public ? Les grands responsables de ces plateformes se défendent en disant : « nous ne faisons que distribuer le courrier. Si vous recevez une lettre d’amour, vous ne prenez pas le facteur dans vos bras, pas plus que vous ne l’attaquez en justice s’il vous apporte une lettre de haine ». Sauf qu’ici, l’algorithme est un facteur déterminant, qui décide de distribuer certaines lettres 1000 ou 2000 fois plus que d’autres, et à des gens à qui elles n’étaient pas destinées de surcroît. On entend toujours que les réseaux sociaux ne sont qu’un miroir de notre société, ce n’est pas tout à fait vrai : c’est un miroir déformant. Les messages les plus pulsionnels, les plus « tribaux » sont plus mis en avant que les autres.
Quand il s’agit d’essayer de proposer des contenus alternatifs, comme essaie de le faire Arte, ou même pour des organes d’information, vous vous demandez comment exploiter l’outil sans pour autant être défavorisé à cause de la nature même de ce que vous publiez. J’en arrive au troisième niveau. On essaie toujours d’associer ces réseaux à des modèles existant. Par exemple, on se dit : « c’est un média ; donc on va réguler ça comme un média ». On désigne donc des « éditeurs » ; c’est ainsi qu’on va demander à Mark Zuckerberg d’être responsable de tout ce qui se partage sur Facebook. Ou on se dit « ce sont plutôt des outils de télécommunications », et on leur associe une loi de télécommunication. Ou bien que c’est uniquement de la conversation, comme au bistrot, et donc on n’y applique que la loi générale. C’est une problématique très intéressante, car les réseaux sociaux font voler en éclats les murailles érigées depuis le XIXème siècle. Il y a ainsi des règles, parfois écrites mais souvent tacites, d’expression selon les contextes. La « rule of speech, comme disent les Américains. Autrement dit, on ne s’exprime pas de la même façon au bistrot qu’en famille, ou qu’au bureau … Nous sommes habitués à ces différents modes d’expression selon l’entourage. Or la grande révolution de ces réseaux, au-delà même de leur modèle économique, c’est que tous les contextes d’expression y sont. A la fois un contexte d’information (on peut y lire des journaux comme Le Monde ou Le Figaro), mais aussi un contexte totalement anecdotique et premier degré, où l’on se « lâche » en se disant que ce n’est pas grave, mais aussi un contexte éducatif, un contexte d’influence, etc.
On est donc tout à coup dans un lieu unique, regroupant une multiplicité de contextes et une infinité de cultures. C’est là où cela devient vertigineux. Je ne trouve qu’on ne met pas assez en avant ce troisième niveau, cette centralisation des réseaux. Sur Facebook, la rule of speech est la même pour tous les contextes et toutes les cultures à la fois. Or, dès lors qu’on essaie de la réguler par le contenu, on ne peut que couper, amputer quelque chose de ces contextes et de ces cultures.
J’en reviens donc à votre question : quand vous êtes responsable d’une proposition alternative comme Arte, vous essayez, dans un environnement qui décontextualise tout sans cesse, de recontextualiser tout sans cesse. Vous vous efforcez de rappeler d’où vous parlez, et quelle est la nature de ce que vous êtes en train de faire.
Marc-Olivier Padis :
Vos publications ont mis en lumière ce problème de l’influence des réseaux sociaux sur la persévérance et la concentration. Votre métaphore du poisson rouge est très parlante. Mais pour en prendre le contrepied, j’aimerais vous interroger sur le succès des formats longs sur ce nouveau support numérique. Quand on regarde les podcasts, ou même les vidéos YouTube ayant du succès chez les jeunes, il s’agit de contenus très longs. La révolution qu’ont apporté les plateformes numériques est que les contenus sont produits par les usagers. Les producteurs traditionnels de contenus ont perdu la main et on s’est aperçu que quand les usagers produisaient des contenus, cela suscitait de l’intérêt. Et pas seulement sur des formats courts. Pourquoi le temps moyen consacré aux contenus est-il si court alors ?
J’ai une hypothèse, que je vous soumets : quand nous sommes sur les réseaux sociaux, nous sommes exposés à des contenus que nous n’avons pas demandé. Par exemple, au début de Facebook, on ne voyait apparaître que les contenus des gens avec qui on avait choisi d’être amis. Et puis, comme la plateforme se rémunère par la publicité, elle a changé son modèle et truffé le fil d’actualités de contenus non sollicités, plus de la moitié de ce qu’on voit. C’est en partie ce qui explique qu’on passe dessus très vite, à mon avis. Si je prends le métro, je ne m’arrête pas pour lire intégralement chaque affiche publicitaire, j’ai autre chose à faire. A mon avis, cela explique le temps moyen (très court) consacré à chaque publication, et ce n’est pas incompatible avec l’intérêt pour des formats longs.
Bruno Patino :
Je suis d’accord avec vous. Je précise une chose : personnellement, je suis technophile, et cela fait plus de 20 ans que je développe des outils numériques dans tous les médias où je suis passé. J’ai une forte appétence pour la technologie, et comme il se trouve que j’étais là dans les débuts, j’ai été très réceptif aux utopies numériques, auxquelles je crois encore un peu : mettre ensemble l’intelligence collective, le partage de l’information, l’économie du partage, bref une certaine horizontalité des rapports humains, et surtout un flux d’information et de culture qui n’est plus linéaire, entre un émetteur et un récepteur, toujours les mêmes . Je pense que c’est devenu complètement circulaire : entre celui qui produit le contenu, celui qui le distribue, et celui qui le reçoit, il y a une circulation générale. Celui qui lit peut participer à la distribution, par exemple. Je trouve cela formidable.
Mais ce que vous dites n’est pas antinomique avec ce que je décris dans mes livres. Je ne prétends à aucun moment que les gens sont devenus bêtes. Je parle de la prégnance d’un modèle économique qui nous pousse vers quelque chose que nous ne voulons pas. Je ne dis pas que la technologie produit des idiots, ou des gens qui ne veulent pas passer plus de 12 secondes à s’informer. D’ailleurs, si l’on regarde la durée moyenne de visionnage des vidéos YouTube, elle ne cesse d’augmenter. Par conséquent, les formats s’allongent. En presse écrite, à l’arrivée des formats numériques, le mot d’ordre était : « il faut faire court ». Aujourd’hui, le format long a fait son retour et marche très bien.
J’ai pris l’image du poisson rouge, car il est censé avoir un temps d’attention de 8 secondes, tandis que celui des millenials est censé être de 9 secondes. Mais dans le chapitre du livre où j’évoque cela, je précise que cette information nous a été communiquée lors d’un séminaire YouTube organisé par Google. Je n’ai pas fait la vérification, et j’ai reçu des lettres enflammées de défenseurs des poissons rouges. Et je dois confesser que je n’ai pas progressé dans ma connaissance des poissons rouges depuis la parution du livre. Mais si l’anecdote m’a paru intéressante, c’est parce que dans la salle, quand l’ingénieur nous expliquait que le temps d’attention des millenials était de 9 secondes, alors que nous étions tous horrifiés, il était enthousiaste et nous expliquait que c’était un défi : il s’agissait d’être capable d’envoyer un signal au moins toutes les 9 secondes pour réattirer leur attention. Car c’est de l’hameçonnage dont il est question.
Au début de ma vie numérique, je m’occupais du site du journal Le Monde. C’était avant les smartphones. La première fois qu’on a pu faire des alertes par SMS, je me souviens du prestataire de service nous vendant la technologie et nous disant « c’est extraordinaire, vous allez pouvoir alerter vos lecteurs que quelque chose se passe ». Et je me rappelle très clairement qu’il a ajouté : « attention ! Pas plus d’une alerte par semaine, et pour tout le monde. Donc mettez-vous d’accord avec vos concurrents, car plus d’une par semaine, et vos lecteurs s’en lasseront, ils vous trouveront intrusifs ». La moyenne en 2019 était de 46 alertes par jour. Nous nous sommes habitués à cela.
Vous êtes soumis à de plus en plus de contenus publicitaires non sollicités. Mais il ne s’agit pas d’un dysfonctionnement mécanique, mais d’une optimisation économique. C’est cela que je m’efforce de montrer dans mes livres : il s’agit d’une économie du temps. Si on vous fournit un service « gratuitement », c’est qu’on récolte vos données : « service for data ». Il faut cependant ajouter un point, quand vous n’êtes pas sur un modèle d’abonnement. Service for data, certes, mais aussi data for time. On vous rend un service en échange de votre temps d’attention. C’est ce que je raconte dans le livre : comment ces sociétés qui nous rendent service et nous font gagner du temps se rémunèrent sur ce temps qu’elles vous font gagner. L’emballement du modèle économique fait qu’à un moment donné, elles vous prennent plus de temps qu’elles ne vous en font gagner. C’est ce que j’appelle « l’économie de la fatigue ».
Si Arte se porte bien en ce moment, c’est parce qu’il y a une grande appétence chez le spectateur, l’auditeur ou le lecteur pour le format long, pour s’immerger dans le temps que vous lui donnez, sans être « hameçonné » par autre chose. Le numérique est tout à fait ambivalent. Ce que nous vivons en ce moment est un dysfonctionnement, dû à cette économie de l’attention.
Nicole Gnesotto :
Ce que vous expliquez est à la fois fascinant et terrifiant. Mais ce n’est pas seulement le modèle économique que vous décrivez qui fait peur, mais aussi le fait que tout cela est construit sur un système qui abolit la raison. Je considère que notre civilisation est bâtie sur les Lumières, que notre vie politique et citoyenne est bâtie sur le primat de la raison par rapport aux émotions. Ici, on a l’impression de revenir à une civilisation où c’est l’émotion qui l’emporte.
Vous avez rappelé qu’à ses débuts, Internet était une promesse de libération, d’accès à la Culture, à l’Autre, un développement de la démocratie contre le contrôle des sociétés totalitaires. Et tout cela était il n’y a pas si longtemps, 20 ans à peine. Comment en est-on arrivé là ? A cet univers presque concentrationnaire, de manipulation de nos cerveaux ? Vous parlez beaucoup des algorithmes, j’avoue ne même pas comprendre de quoi il s’agit vraiment. Qui les fait ? Y a-t-il une espèce de grand manitou qui décide derrière tout cela ? Voilà mes interrogations de citoyenne néophyte.
Bruno Patino :
J’essaie de raconter dans mes livres comment on en est arrivés là, mais un simple mot l’explique : libertarisme. C’est un mot qu’on entend beaucoup ces jours-ci, avec la tentative de rachat de Twitter par Elon Musk. Je pense que nous sommes dans une période de retour du libertarisme numérique, au travers de choses comme les NFT, le Métavers ou la blockchain.
L’écosystème culturel de la Silicon Valley mélange à la fois les enfants des salariés de Lockheed, Fairchild, les grandes sociétés qui ont contribué à l’effort de guerre américain. On l’oublie, mais la Silicon Valley est une création de l’effort de guerre américain. Cela s’est fait sur la côte Pacifique à cause de Pearl Harbor ; tout est passé du New Jersey à la Californie. C’est une époque où se sont développées des technologies nécessitant des semi-conducteurs, qui ont créé une très forte culture technologique. Mais ce sont aussi les années 1970, les hippies, les premiers jeux vidéo, et donc une gamification du rapport au monde. Et à quelques kilomètres au nord, à San Francisco, une culture farouchement libertaire. Des gens comme John Perry Barlow, l’auteur de la Déclaration d’indépendance du cyberespace en 1996, un texte qui aura une influence énorme dans la culture numérique. Cela donnera naissance à des choses comme l’Electronic Frontier Foundation, La Quadrature du Net, etc. Cette culture qui clame aux gouvernements « ne venez pas mettre vos pattes dans la technologie, vous n’y comprendrez rien, laissez-nous faire ». Il s’agit d’un déterminisme technologique très fort, mais positif. Barlow, avec qui j’ai eu la chance de discuter, libertarien, un peu Républicain, un peu gauchiste, parolier des Grateful Dead, était fasciné par Pierre Teilhard de Chardin. Pour lui, le numérique allait être la réalisation de la noosphère, c’est à dire la mise en commun de la conscience humaine, et il s’agissait d’empêcher que quiconque n’interfère.
Dans le libertarisme d’aujourd’hui, on retrouve ces idées (un peu tombées en désuétude) « d’intelligence collective » ou de « sagesse des foules ». Il y avait ainsi des jeux en ligne pour expérimenter tout cela. Par exemple, on montrait la photo d’une vache, et il s’agissait de deviner son poids. Et très étonnamment, quand le nombre de contributeurs était de plusieurs centaines de milliers, on s’approchait à 100 grammes près du poids réel de la dite vache. Il y avait cette idée que l’itération permet d’approcher de l’exactitude. Dans le domaine de l’information, on trouve cette idée du « marché libre des idées ». C’est une idée de Jefferson : il est bon que le mensonge et la vérité puissent cohabiter dans le même univers, parce qu’à la fin c’est la vérité qui l’emporte. Cette idée informationnelle des débuts (que j’ai personnellement partagée) consistait à dire : liberté d’expression absolue et totale sur le réseau, car le réseau va corriger de lui-même la mauvaise information, l’approximation ou la volonté de nuire. Dans l’idée libertarienne, l’horizontalité parfaite amène au mieux la noosphère, mais a minima la sagesse des foules et l’intelligence collective.
Sauf qu’en empêchant toute forme de régulation, le libertarisme laisse entrer l’économie sans aucune barrière. Entre 2006 et 2008 se sont produites trois choses concomitamment.
D’abord, les grandes sociétés comme Google et Facebook sont entrées en bourse, et ont dû assurer leur modèle économique. On l’a totalement oublié aujourd’hui, mais je me souviens d’un internet où les gens se disaient « le modèle économique, on verra plus tard, pour le moment, on développe ». On présentait des budgets sans recettes. Il a fallu changer cela.
Ensuite, l’arrivée du smartphone avec le lancement du premier iPhone en 2007. Là aussi, tout le monde a oublié, mais les débuts de l’internet grand public en France faisaient penser au Minitel : on payait un forfait à la minute de connexion. Avec le smartphone, c’est la connexion permanente. C’est un changement majeur.
Enfin, l’invention des réseaux sociaux. Ce sont ces trois phénomènes qui ont tout changé. On voit bien comment la publicité adressée, nourrie par la donnée individuelle, va devenir le modèle.
Pour finir, l’algorithme n’a rien de mystérieux, il ne s’agit que d’une formule mathématique, il ne fait ni plus ni moins que ce qu’on lui demande de faire. Pour les réseaux sociaux, pour Facebook par exemple, comme des milliards d’individus ont un compte et que « mon » Facebook ne ressemble pas au vôtre, ce ne sont pas des individus qui règlent tout cela mais forcément des algorithmes. C’est à dire des principes mécaniques d’organisation. Ici, ce qu’on demande à l’algorithme, c’est de maximiser les recettes publicitaires.
David Djaïz :
J’aimerais d’abord saluer le fait que vous êtes un dirigeant de média qui a réfléchi en profondeur à ces questions, et il me semble que la chose n’est pas si fréquente.
Vous avez pointé les défauts de l’approche libertarienne, qui refuse toute régulation. Mais il me semble qu’il y a une communauté libertarienne qui fonctionne très bien : Wikipédia. Le site repose sur la contribution des utilisateurs, et on arrive par l’auto-régulation et la décentralisation à des standards d’éthique et de qualité parfois très supérieurs à ce que l’on peut trouver sur les réseaux sociaux. Au fond, le problème ne serait-il pas plutôt la combinaison d’une approche économique extrêmement centralisée avec une décentralisation de façade, qui ne porte que sur l’expression mais ne met pas en situation de responsabilité ou de contribution les utilisateurs du réseau ? Les réseaux sociaux sont des boîtes noires économiques et technologiques, un peu comme les smartphones, qu’on ne peut pas ouvrir ni réparer soi-même. Quand on met réellement les gens en situation de contribution et de régulation collective, cela peut bien se passer.
Vous expliquez que les problèmes viennent du modèle économique. Quelle est la différence entre le modèle économique et le modèle technologique ? J’ai discuté récemment avec un ancien vice-président de YouTube, qui m’expliquait que le nerf de la guerre, ce ne sont pas tant les datas que les algorithmes. Il faudrait proposer à l’utilisateur une pluralité d’algorithmes, permettant des usages différents. Parce qu’on sait bien que si vous regardez une vidéo de chats, vous allez tomber dans une spirale infernale d’autres vidéos de chats …
Enfin : que peut le service public ? Il me semble qu’il y a une pauvreté de réflexion collective sur ce sujet. Longtemps, le service public s’est présenté comme un monopole, avec l’ORTF. Puis est arrivée la pluralité, avec beaucoup de régulations juridiques, de cahiers des charges, etc. Dans un monde proliférant et décentralisé, quelle est la mission du service public ? N’est-ce pas une goutte dans l’océan ?
Bruno Patino :
Nous sommes d’accord sur plusieurs points. A propos de Wikipedia, la question qu’on devrait se poser est : comment se fait-il qu’il n’y ait qu’un seul Wikipedia ? C’est assez extraordinaire quand on y réfléchit. On sait qu’il y a de vraies guerres informationnelles dans Wikipedia, et malgré tout, cela se régule. L’organisme qui se rapproche le plus de l’utopie initiale du numérique est unique. C’est très étonnant. Il y en a quelques autres, mais absolument microscopiques en comparaison.
Cet univers, qui devait être horizontal et décentralisé, a été victime d’une appropriation. Il a été « privatisé » et par la même occasion centralisé. Certains l’avaient prévu, comme Tim Wu, spécialiste de la téléphonie. Il constate que les systèmes sont les mêmes. Dans les débuts du téléphone, il existait une myriade de sociétés téléphonique, c’était totalement décentralisé et horizontal. Et petit à petit, le système s’est refermé sur un nombre de plus en plus réduit d’acteurs. Il y a non seulement une tendance au monopole, mais aussi à la réduction à certains usages particuliers. Dès son premier livre sur le sujet, en 2004, il prévenait que nous pouvions rêver tant que nous voulions, à propos du numérique, mais que le système allait immanquablement se refermer. Il y a désormais une poignée de grandes sociétés qui dominent, non pas ce qui se passe dans l’univers du numérique, mais notre usage de cet univers. La technologie est encore à peu près décentralisée, et en même temps l’organisation économique et sociale du numérique s’est totalement centralisée.
Je classe les solutions en trois chapitres : corriger la machine, gouverner les monstres, et bâtir l’alternative. Dans chacun de ces trois domaines, il se passe beaucoup de choses. A chaque fois, il s’agit d’une lutte intéressante. Mais c’est la centralisation des algorithmes et leur opacité qui est au cœur du problème. Il n’y a qu’un chef d’orchestre pour tous les musiciens et pour tous les types de musique, sauf qu’on ne voit pas sa baguette et qu’on ne sait rien de son comportement : c’est une boîte noire, comme vous le disiez. Je ne suis pas personnellement un fanatique de la transparence, car je pense que très peu de gens sont capables de comprendre vraiment les algorithmes dans le détail, mais je plaide en revanche pour un mouvement qui croît beaucoup depuis deux ou trois ans : la responsabilité algorithmique. Dans l’industrie agro-alimentaire, on n’est pas forcé de révéler ses recettes, elles sont protégées par le secret des affaires. En revanche, les ingrédients et les effets sur la santé doivent être connus. C’est quelque chose comme cela que l’on s’efforce de pousser. L’Union Européenne le fait au niveau du Digital Service Act, il y a des projets de lois discutés au Congrès américain, en Europe du Nord les législateurs s’y mettent, etc.
Cela avance, et contre les plateformes. Ces dernières ont été très favorables à une régulation selon laquelle le mal viendrait de l’extérieur. Avec toujours le même argument, celui de la neutralité, du facteur qui ne fait que vous apporter le courrier. On a même poussé cette idée de la neutralité pour y associer une espèce de pureté : « si vous nous attaquez, nous les plateformes, vous attaquez tout le monde, car nous ne sommes qu’un reflet de tous les individus » Cette idée de pureté s’est très bien accommodée des tentatives de régulation (notamment françaises) des contenus. C’est le message qu’on « nettoie », car le mal vient de l’extérieur. Sauf que selon les contextes, c’est impossible.
On raconte par exemple cette anecdote. Quand Facebook a mis en place son Oversight Board (Comité de surveillance), ils lancent un test. Une dizaine de bureaux disséminés sur la planète sont chargés d’évaluer si un message doit être interdit ou non . Le message en question était une jeune fille californienne souriante, avec une bulle de pensée disant « tuons tous les hommes ». Un bureau à New York dit que c’est évidemment de l’humour, tandis qu’un autre en Ouganda veut interdire le message, à cause de son caractère haineux. On voit donc que lorsqu’il s’agit de réguler les messages, on en arrive à une régulation au mieux problématique, au pire extrême.
Deuxième piste : réguler les utilisateurs. C’est ainsi qu’on « dé-plateformise » Trump après le Capitole. Les plateformes sont favorables à ce type de régulation : « dites-nous qui a droit de participer ou pas, nous ne voulons pas en prendre la responsabilité, décidez à notre place ». Cela devient extraordinairement compliqué évidemment : à quel titre interdire ? A propos de quels sujets ? Vous vous apercevez très vite qu’à part les robots, il est très difficile d’exclure qui que ce soit.
Le point sur lequel les plateformes ne veulent absolument pas de régulation est le comment le message est diffusé, c’est à dire l’algorithme. Parce qu’il s’agit du modèle économique et de la rentabilité.
C’est pourquoi parvenir à cette responsabilité algorithmique est important. Il s’agit de mesurer les impacts des algorithmes sur la polarisation des publications et la dissémination des messages les plus outranciers. Nous y arriverons, mais cela passera nécessairement par la décentralisation algorithmique : il ne faut pas un seul et même algorithme pour tous les individus et tous les contextes. Je rêverais par exemple d’un algorithme « découverte », qui me proposerait des choses que je n’ai jamais vues. On pourrait imaginer des algorithmes faisant tout autre choses que la simple répétition de vos comportements passés. Mais évidemment le taux de succès d’un algorithme « découverte » sera bien moindre que celui de l’algorithme vous proposant d’autres vidéos de chats …
La proposition de rachat de Twitter par Elon Musk est préoccupante. L’ex-PDG de Twitter, Jack Dorsey, avait proposé que chaque utilisateur puisse choisir son algorithme (pas la formule, beaucoup trop technique, mais l’effet recherché). Elon Musk a balayé tout cela et en bon libertarien, il propose la liberté absolue.
Marc-Olivier Padis :
Vous avez rappelé que les plateformes ne sont pas productrices de leurs contenus, elles ne sont cependant pas seulement des outils techniques permettant de publier : elles interviennent, comme des sortes de curateurs. Elles décident quels contenus sont promus, même si c’est par des biais automatisés.
Bruno Patino :
Ce sont des accélérateurs et des amplificateurs, plutôt que des curateurs, car ce mot implique une idée de filtre. Là en revanche, il ne s’agit que d’un bouton de volume, en gros. De temps en temps, un message est amplifié et sa propagation est accélérée, ou inversement.
Marc-Olivier Padis :
Mais tout de même, si on baisse ou monte le volume, c’est une façon de filtrer. J’ai des contacts sur les réseaux sociaux dont je ne vois jamais les contenus. Cela revient bien à sélectionner. Et c’est là qu’il faut réguler. Je voulais vous interroger sur la loi européenne récemment promue, le règlement des marchés numériques (Digital Markets Act). Après la loi sur les données personnelles, qui était une première mondiale et a produit des effets tout à fait positifs, peut-on dire un mot de celle-ci ? Car elle vise notamment à une interopérabilité des services de messagerie. Aujourd’hui, en moyenne, les jeunes utilisent 8 messageries différentes (Signal, WhatsApp …), passent de l’une à l’autre en permanence. C’est très malcommode : c’est comme si, ayant un abonnement chez Orange, je ne pouvais pas appeler quelqu’un ayant un abonnement Bouygues ou SFR. La disposition européenne vise à rendre toutes ces messageries compatibles entre elles. Pensez-vous que cette loi offre des perspectives intéressantes ? Qu’est-on en droit d’en attendre ?
Bruno Patino :
Le Digital Markets Act a été promulgué il y a quelques jours, mais le Digital Service Act est toujours en discussion. Philosophiquement, il s’agit de deux volets d’une même politique, que personnellement je salue. Certains disent que cela ne va pas assez loin, mais étant donné d’où partait la Commission Européenne, le virage réalisé est très spectaculaire. Désormais, elle ne considère plus que le numérique n’est qu’un marché comme les autres à organiser. On parle désormais de « sociétés structurantes », on voit bien que l’impact sur nos vies est pris en compte.
C’est toujours le même problème : comment décentraliser quelque chose dont le modèle a intérêt à être centralisé ? Aux Etats-Unis, on parle beaucoup en ce moment de content fortress, ou « forteresse des contenus ». Chacune de ces grandes sociétés s’efforce de vous empêcher d’aller voir ailleurs, ou autrement dit essaye d’être tout l’internet à elle seule. On parle beaucoup du Métavers, par exemple. Il y a aujourd’hui de nombreuses sociétés qui travaillent là-dessus, plusieurs modèles différents selon les technologies utilisées. Ce qui est intéressant et effrayant quand on voit Facebook promouvoir le sien, c’est qu’on voit bien le projet centralisateur : Facebook entend bien être l’unique point d’entrée dans le Métavers pour tout le monde. Vous parliez de filtres, mais attention : ici, il s’agit de recréer votre internet vous-même. Facebook vous dit par exmeple : « si vous, le Nouvel Esprit public, voulez être visible dans le Métavers, vous devrez le faire à nos conditions : être agréé par Facebook, utiliser la technologie Facebook, etc. »
Par conséquent, que la Commission Européenne essaye de décentraliser tout cela et d’abattre ces murailles me semble extrêmement positif. Un moment absolument central de l’Histoire de la téléphonie mobile fut celui de la portabilité : quand il devint possible de garder son numéro, alors même qu’on changeait d’opérateur. Il s’agit en gros de la même problématique ici : les données que vous avez déposé à Facebook (votre historique de photos par exemple) doivent pouvoir vous suivre si vous « déménagez ». Il y a aussi l’interopérabilité des services dont vous parliez.
David Djaïz :
Quel pourrait être le projet industriel (je pèse le mot) du service public audiovisuel dans un tel contexte ?
Bruno Patino :
Un universitaire américain que j’aime beaucoup, Ethan Zuckerman (dont je fais le portrait dans le livre) développe l’analyse suivante : les réseaux sociaux ne sont pas intrinsèquement mauvais ; se socialiser, c’est bien. En revanche, il faut cesser ce biais économique. Des réseaux sociaux vertueux et bénéfiques sont possibles.
Pour cela, il existe deux pistes. La première est celle des micro-réseaux. Il s’en crée sans cesse, partout. Il faudrait qu’ils soient interopérables entre eux. C’est un modèle qui essaime beaucoup aux Etats-Unis, mais aussi en Afrique du Nord et dans les pays asiatiques. La seconde est est plus ambitieuse, et espère un « poids lourd », en termes de serveurs et d’algorithmes. Et cela signifie un acteur public. Nous essayons à Arte de contribuer à cela. Nous nous efforçons de faire entrer les services publics dans cette sphère sociale, au minimum pour y participer, et au mieux pour en construire un. Je précise il ne s’agit pas de bâtir un « autre » Facebook concurrent, par exemple. Mais par exemple, aux Pays-Bas, des chaînes publiques se sont associées pour créer une messagerie sociale simple, avec des règles décentralisées d’algorithmes.
Il faut faire vite, car nous sommes focalisés sur la sphère sociale (Facebook et autres), mais une autre arrive, absolument colossale : celle du jeu. Twitch est par exemple devenu une plateforme sociale. Et le Métavers est au carrefour de tout cela. Si le Métavers arrive avant que nous n’ayons établi des règles du jeu un peu différentes, non seulement la socialisation ne sera pas meilleure qu’aujourd’hui, mais elle ne sera même plus visible. Par exemple, on a vu que les Gilets Jaunes ont commencé à être actifs sur Facebook vers le moi de mai 2018. Le premier article publié sur les Gilets Jaunes date de novembre 2018. Et l’explosion médiatique autour du phénomène a suivi la manifestation du 1er décembre. Ce n’est pas que les médias ne voulaient pas le traiter, c’est que si vous n’êtes pas dans les groupes privés, le phénomène est totalement invisible. Dans un monde virtuel, vous imaginez les conséquences de telles invisibilités …
