MARK ZUCKERBERG
Introduction
Philippe Meyer :
Julien Le Bot, vous êtes journaliste et spécialiste des questions numériques. Vous pilotez depuis 2015 le programme « Tous les internets », produit par Arte et Premières lignes et vous avez publié en 2019 un livre consacré à un acteur incontournable du monde numérique : Mark Zuckerberg. Vous vous êtes plongé Dans la tête de Mark Zuckerberg, c’est le titre de votre livre, et vous avez publié votre enquête aux éditions Actes Sud et Solin dans une collection dirigée par Michel Eltchaninoff et Michel Parfenov qui se propose de rentrer dans la tête d’un certain nombre de grandes figures du monde actuel. Vous revenez sur le développement de Facebook, de ses débuts en 2004 sur le campus de Harvard jusqu’au scandale Cambridge Analytica en 2018, qui a révélé le vol massif de données à des fins d’ingérence électorale. Cette plateforme dont le projet initial était de créer un trombinoscope universel est devenue incontournable dans les interactions sociales et compte désormais plus de 2,9 milliards d’utilisateurs.
Mark Zuckerberg n’est pas seulement le fondateur de Facebook ; il en est aussi le président-directeur général, le président du conseil d’administration et l’actionnaire majoritaire. Il a racheté ses concurrents Instagram en 2012 et Whatsapp en 2014 puis le groupe qu’il dirige a changé de nom en 2021, Facebook devenant Meta afin de dissocier l’entreprise du réseau social et de montrer son ambition de construire un métavers. Si la fortune de Mark Zuckerberg s’élève aujourd’hui à plus de 74 milliards de dollars, vous expliquez, Julien Le Bot, que l’argent n’est pas le premier moteur du créateur de Facebook. Le but de ce passionné d’informatique est avant tout de connecter les gens et de leur permettre de partager librement des informations. Il lui a été reproché de placer ce souhait de connexion du monde entier au-delà de toute autre considération et face à la prolifération de contenus violents, de fausses informations ou encore la création de faux comptes à des fins de manipulation, la réponse apportée par Facebook a été jugée insuffisante.
Face aux tempêtes qu’a pu traverser Facebook depuis 2016, Mark Zuckerberg ne s’est pas départi de l’optimisme qui le caractérise. Celui pour qui le culte du progrès et la culture de l’entrepreneuriat vont de pair a des sources d’inspiration variées. Vous expliquez, Julien Le Bot, qu’il éprouve un intérêt certain pour les hackers mais aussi pour les empereurs romains, et notamment le premier d’entre-eux, Auguste.
Dans votre portrait de Mark Zuckerberg vous insistez aussi sur la part de naïveté en lui. On peine à comprendre si celui qui a bâti un véritable empire et qui avait pour projet de créer une cryptomonnaie portant le nom de libra, en hommage à la monnaie romaine, poursuit une stratégie consciente d’extension de son pouvoir. Pour introduire notre conversation, je voudrais donc vous demander, Julien Le Bot, si dans la tête de Mark Zuckerberg il y a une soif de pouvoir, et de quel pouvoir ?
Kontildondit ?
Julien Le Bot :
Il y en a évidemment une, il serait naïf de croire qu’on a affaire à un personnage désintéressé. Il faut cependant garder à l’esprit que Zuckerberg est habité par une certaine idée de la technologie et de l’interaction entre technologie et société. Nous avons affaire à un personnage qui estime que nous sommes confrontés à un enjeu historique, qu’il s’agit de franchir une étape dans l’Histoire de l’humanité. Au delà de l’écume des jours qu’on peut lire dans la presse, les rachats d’Instagram, de WhatsApp, ou tel ou tel scandale, un immense projet est en train de se mettre en place, avec un personnage doté du référentiel historique et idéologique que vous avez mentionné : l’empire romain, Star Wars … Il est persuadé que, toutes choses étant égales par ailleurs, le fait de connecter l’humanité par le biais d’une plateforme commune est une excellente chose.
C’est l’élément à prendre en compte : Zuckerberg a structuré son pouvoir dans l’entreprise de manière à pouvoir aller toujours plus loin dans cette logique là, tout en préservant sa vision des choses. Cela pose évidemment des problèmes, et a conduit à un tas de scandales, à des discussions houleuses comme on a pu en voir depuis 2018 et dans le cadre du scandale Cambridge Analytica, aux Etats-Unis mais aussi en Europe, où il s’est fait tirer les oreilles par Bruxelles, même s’il n’a finalement pas répondu grand chose.
A l’heure où nous enregistrons ce podcast (Ndlr : 22 avril 2022), l’Europe est sur le point de se mettre d’accord sur un paquet de régulations des plateformes numériques, le DSA, (Digital Service Act), car ces dernières ont un accès quasiment monopolistique à l’information et à la circulation de messages. Mais en dépit des scandales et des régulations, Zuckerberg reste plus que jamais aux manettes de son entreprise. Il n’y a pas eu de changement significatif depuis la création de Facebook en 2004. Le projet de Mark Zuckerberg se déploie avec une belle constance.
Lucile Schmid :
Vous expliquez que Zuckerberg est un créateur, doté d’une vision. Ce n’est pas seulement un petit génie de la technologie, c’est aussi quelqu’un qui a modifié notre organisation sociale, et dont le travail a des répercussions sur les prises de décision, l’horizontalité, la transparence, etc. En un peu moins de vingt ans, nous sommes arrivés à une phase de maturité, où nous commençons à voir les conséquences positives et négatives de tout cela. Certaines nous ont sauté à la figure, notamment sur les possibilités de manipulation (avec Cambridge Analytica), ou la lanceuse d’alerte Frances Haugen, qui a fait fuiter des milliers de documents. Il y a donc la question de la place que jouent Facebook et ces réseaux dans la démocratie. Barack Obama lui-même, qui s’est beaucoup servi des réseaux sociaux, a déclaré qu’il fallait les réguler. Ce passage d’un extrême à l’autre est un peu troublant. Comment réguler ? Et comment peut-on garder à l’esprit que les réseaux sociaux sont un élément positif pour la société ? Rappelons que dans les Etats totalitaires, on les supprime pour contrôler la société. Mark Zuckerberg a-t-il un agenda politique ? Est-il accessible à cette idée de régulation ?
Julien Le Bot :
Votre propos soulève beaucoup de questions. Je ne sais pas si on peut le qualifier de « génie », mais c’est quelqu’un qui a commencé à « coder » très jeune, son père était passionné d’informatique et l’a encouragé dans cette voie. Il était très doué, et très stimulé, et était déjà à l’adolescence un programmeur très solide. Vous avez évoqué la transformation de nos organisations sociales à la faveur de ce déploiement technologique ; il est intéressant de noter que lorsqu’il est allé à Harvard, Zuckerberg s’est inscrit à deux cursus « majeurs » : computer science, et psychologie. Il est intéressant de noter cet intérêt précoce pour la relation entre un agir et des technologies. Très vite, il s’est amusé à coder des petits programmes destinés à enrichir notre façon d’être. Il y eut d’abord Synapse, un lecteur de musique qui vous recommande des morceaux en observant vos habitudes d’écoute. Il y eut ensuite Facemash, qu’on lui a beaucoup reproché, et à raison puisqu’il avait récupéré les photos de toutes les jeunes femmes du campus sans leur autorisation, pour organiser un système de classement, et une circulation virale. Enfin en 2004, il lance « The Facebook », avec l’ambition d’y mettre tout le campus, puis tous les campus américains, puis le monde entier. A l’époque, il y avait une très grande candeur sur le déploiement technologique, Internet contenait énormément de promesses. Vous évoquiez la maturité à laquelle nous sommes parvenus depuis, mais il faut bien distinguer internet des réseaux sociaux. Internet est un réseau de réseaux, civil depuis 1992. Il y a donc de très nombreux acteurs, n’importe qui disposant d’un ordinateur et d’une ligne téléphonique s’est retrouvé en capacité d’y publier des choses. Facebook, c’est tout à fait autre chose. Il s’agit d’un espace privé, à l’intérieur duquel vous vous créez un profil, et à partir de cette « place publique » privée, vous pouvez renseigner des données personnelles, et enfin communiquer. Vous n’êtes plus vraiment sur internet, mais dans un de ses recoins privés. Internet n’est que le lieu où les messages transitent. Internet était beaucoup trop ouvert, le projet a consisté à mettre tout le monde sur une même plateforme privée. Si ç’a été un tel succès, c’est aussi parce que la plateforme a permis de faire baisser le prix d’accès à certains outils : pour beaucoup de gens, créer un site internet est trop compliqué, ou trop cher, mais sur Facebook, vous pouvez publier en quelques clics.
La plateforme naît donc sur les campus en 2004, mais se propage très vite, si bien que la moitié de l’humanité est désormais connectée sur une ou plusieurs de ses plateformes. Car il s’agit d’un hydre à au moins quatre têtes. Meta, l’entreprise mère, inclut Facebook, mais aussi Messenger (une messagerie), Instagram et WhatsApp, une autre messagerie.
Vous avez fait mention du discours de Barack Obama, à Stanford, au beau milieu de la Silicon Valley. Il y a dit : « au fond, si j’ai pu être élu en 2008, c’est largement grâce à la puissance d’internet et des réseaux sociaux, qui ont transformé les Etats-Unis. » Après deux mandats et l’élection de Donald Trump, Barack Obama a pris conscience que les acteurs de la Silicon Valley, qui ont énormément augmenté la quantité d’informations diffusées dans un cadre quasiment pas régulé, ont en même temps contribué à énormément déréguler la sphère informationnelle, si bien qu’aujourd’hui on se rend compte que les aspects négatifs sont en train de prendre le pas sur les aspects positifs. Le propos d’Obama est mesuré et contextualisé, il ne veut pas jeter le bébé avec l’eau du bain, et reconnaît que les autoroutes de l’information sont utiles. En revanche, il dit que le fonctionnement des réseaux sociaux pose problème. Ce sont des entreprises privées voulant faire de l’argent, qui se sont retrouvées en position d’organiser la communication. Obama dit que cela ne peut plus durer, qu’il faut encadrer tout cela. Qu’on aborde ce genre de question aux Etats-Unis, le lieu de naissance de ces plateformes, est particulièrement significatif. La maturité et le recul sont là, mais sur quelle réponse politique déboucheront-elles ?
Philippe Meyer :
Selon vous, le film consacré à la naissance de Facebook (The social network, 2010) vous semble-t-il donner une image assez fidèle de Mark Zuckerberg ? Il n’y apparaît pas spécialement sympathique …
Julien Le Bot :
Le film de David Fincher est un peu injuste, dans la mesure où il présente Zuckerberg comme un boutonneux ayant des problèmes avec la gent féminine, ne cherchant que de l’argent et des femmes … C’est assez caricatural. Ce qu’il y a d’assez juste en revanche, c’est l’ambiance de l’époque : assez anarchique, c’est la culture du « bro », des mecs au bord de la piscine, avec des bières et des pizzas, codant à toute heure du jour et de la nuit. On se dit qu’on est cools, on se fiche pas mal du reste du monde et on a envie de renverser la table. Mais sur Zuckerberg lui-même, il me semble que le film passe à côté de sa complexité.
Nicole Gnesotto :
Il y a chez lui ce côté « maître du monde », qui n’attire pas les sympathies. Certains font d’ailleurs une analogie entre la Silicon Valley et le Parti Communiste Chinois, c’est à dire une visée de contrôle maximale sur les individus. Les motivations ne sont certes pas les mêmes, mais aboutissent à peu près à la même chose : une négation des singularités, des atteintes à la vie privée (et dans le cas des réseaux sociaux, la monétisation des données privées).
Zuckerberg me paraît représentatif de cette génération qui a commencé dans une idéologie très libertarienne mais dont la pratique est tout à fait orwellienne. Zuckerberg a d’ailleurs écrit son propre « petit livre rouge », dans lequel j’ai pioché certaines phrases ahurissantes. Par exemple : « changer la façon dont les gens communiquent changera toujours le monde ». On voit bien que l’ambition est globale. Je trouve qu’il y a un côté machiavélien dans ce projet, qui est loin d’être innocent. En effet, Zuckerberg a construit sa maîtrise technologique sur une formule économique dont il sait très bien qu’elle aboutit à flatter les pires instincts de chacun.
A-t-il changé ? Si oui, en quoi ? Je suis sûr que jeune homme il était épris de liberté d’information (vous décrivez d’ailleurs son bureau comme entièrement transparent), comment passe-t-on de cela à un système aussi destructeur pour la liberté individuelle ?
Philippe Meyer :
Contrairement à Nicole, je ne pense pas que le système du réseau social flatte les bas instincts. Mais le système algorithmique crée des chambres d’échos : on enferme chacun dans des bulles, faites de choses qu’on aime déjà et avec lesquelles on est d’accord. Même quand il n’y a pas de bas instincts, vous n’êtes pas incité à la curiosité ni à la découverte. Pour quelqu’un dont l’idéologie de départ était la libération ou l’ouverture, cela paraît paradoxal …
Julien Le Bot :
C’est même complètement contradictoire avec l’une des promesses d’internet : ouvrir et libérer, et même promouvoir les connaissances. Wikipédia est par exemple l’une des dernières utopies d’internet. Cette plateforme a aussi ses problèmes, bien sûr, mais elle a tout de même mieux résisté à la vague de désinformation qui a accompagné l’épidémie de Covid que les réseaux sociaux. Il s’agit là d’un environnement qui est structuré très différemment.
Il est difficile de répondre à vos questions, mais prenons par exemple le modèle économique. Au départ, ce n’était pas l’enjeu essentiel pour Zuckerberg, qui ne se préoccupait que de mettre le plus de gens possible sur la plateforme. C’est pour cela qu’il a levé autant de fonds. Le raisonnement était le suivant : « ne vous inquiétez pas, une fois qu’il y aura suffisamment de monde sur la plateforme, on trouvera bien un moyen de faire de l’argent ». Il a fallu attendre que Sheryl Sandberg, venant de l’administration Clinton, débauchée par Google et finalement récupérée par Facebook, mette en place ce fameux modèle économique, qui repose sur une surveillance permanente des usages. Une fois qu’on connaît exactement les usages, il suffit d’y coller une régie publicitaire : « si untel adore telle chose, il y a de grandes chances qu’il adore aussi telle autre, je vais donc le bombarder de publicités ».
Ce modèle est si prégnant qu’on parle désormais de « capitalisme de surveillance ». Il risque effectivement de déboucher sur ce qu’on appelle des « bulles de filtre ». Selon que vous mettez un pouce bleu soit à Barack Obama soit à Donald Trump, l’algorithme vous traite très différemment. Comme la plateforme vise à capter votre attention pour vous y faire passer le plus de temps possible, elle va tenter d’éliminer les frictions. On ne va donc pas vous proposer de publication qui heurte vos préjugés, mais au contraire vous brosser dans le sens du poil. On vous enferme donc dans un espace idéologique confortable. Une bulle. Evidemment, cela conforte les individus dans leurs préjugés, mais cela permet aussi à Facebook de dire aux investisseurs : « vous voyez, les gens viennent s’informer chez nous plutôt que dans les journaux, c’est donc chez nous qu’il faut faire venir l’argent ». En cela, on est en en effet très loin des utopies des débuts d’internet.
Mais il faut tout de même remettre les choses dans leur contexte. Tout cela est né à un moment où l’on parlait de « libre flot de l’information ». Dans les années 2000, l’idée (tout à fait intéressante et louable) était de sortir d’un modèle mainstream, de libérer des paroles et permettre à un maximum de citoyens de s’exprimer, et peut-être de se sentir davantage pris en compte. Vingt ans après, on voit bien que le système n’a pas libéré les esprits, il n’a que permis aux pires instincts de mieux s’organiser, pour déstabiliser nos institutions.
Je trouve intéressante l’analogie avec la Chine. En Chine aussi, il y a un moteur de recherche dominant, Baidu, et des réseaux sociaux, dont un pendant de Facebook, appelé WeChat. La différence est que la régulation en Chine a été pensée dès le premier jour où le pays a été connecté à internet. J’ai travaillé récemment avec Kavé Salamatian, un chercheur qui raconte très bien comment le tout premier message envoyé entre Pékin et l’université de Karlsruhe en Allemagne au début des années 1990 disait « nous vous écrivons depuis derrière la grande muraille ». Il y avait donc dès le début l’idée que les échanges étaient possibles, mais à condition d’être sous contrôle. Aux Etats-Unis en revanche, l’entreprenariat est tout-puissant, et il y a l’idée que ce marché s’organisera de lui-même, dans le respect de la liberté d’expression.
Ce qui est en train de se jouer aujourd’hui avec des personnages comme Zuckerberg ou par exemple Elon Musk, en train d’essayer de racheter Twitter au moment où nous enregistrons, c’est ce perpétuel jeu de la liberté d’expression sur des plateformes qui sont des espaces privés. Musk ne dit pas qu’il veut devenir le roi d’internet, il trouve que sur cet espace privé (qui est aujourd’hui la nouvelle forme de la place publique), il y a trop de régulations (qui ont par exemple conduit à bannir Donald Trump), et souhaite déverrouiller tout cela. Nous avons donc d’un côté des réseaux sociaux ultra-régulés en Chine, et de l’autre des difficultés à réguler aux Etats-Unis. Un camp libertarien, incarné par Elon Musk, davantage que par Mark Zuckerberg lui-même. Car Zuckerberg n’est pas opposé à une régulation, seulement à une régulation qui lui ferait perdre des souscripteurs …
Marc-Olivier Padis :
Votre livre réussit à nous intéresser à un personnage particulièrement antipathique. Parmi les entrepreneurs de la Silicon Valley, il y a de nombreuses personnalités intéressantes. Controversées, mais intéressantes. Ici, on se dit qu’on n’a pas grand chose à se mettre sous la dent, mais votre livre parvient à nous montrer le contraire. Il y a effectivement une « idéologie Silicon Valley », et un projet que vous avez très bien défini.
Mais ce projet est confronté à deux obstacles. Le premier, ce sont les usages. Facebook repose sur l’idée que les usagers sont des producteurs de contenu, et que l’intérêt d’être sur ce réseau est de bénéficier de ces contenus. C’est un aspect que Zuckerberg ne peut pas maîtriser : ce que les gens font de l’outil mis à leur disposition. Le second obstacle est le modèle économique. Basé sur la publicité, il implique de capter l’attention des usagers. Quand on est sur ce réseau, on est forcément exposé à des contenus publicitaires, peut-être ciblés mais non sollicités, au point qu’on voit de moins en mons les contenus proposés par les autres usagers.
J’ai l’impression que le modèle économique va à l’encontre de la promesse initiale, qui était de rester en contact avec vos amis. J’ai lu une étude selon laquelle seulement 30% de ce qu’on voit sur le fil d’actualité de Facebook est constitué de contenu produit par nos amis. Facebook n’est plus aujourd’hui qu’une fenêtre entrouverte. Les annonceurs doivent payer pour ouvrir la fenêtre, sans quoi ils ne touchent pas les abonnés. Quelle est la promesse du Facebook d’aujourd’hui ?
Julien Le Bot :
C’est une question passionnante. J’en discutais il y a peu avec Olivier Ertzscheid, chercheur en sciences de l’information et blogueur passionné de ces questions. Facebook est une plateforme absolument caconomique : on n’y fait ressortir que des choses hideuses. La promesse de départ était sympathique. On va suivre papi et mamie (car les jeunes ne sont plus sur Facebook aujourd’hui, ou seulement pour faire plaisir à leurs parents et grands-parents). Il s’agit d’une plateforme grand public, avec tout ce que cela comporte de has-been et de démodé. Zuckerberg a cependant eu la sagesse d’anticiper ce phénomène et de racheter Instagram.
Aujourd’hui, Facebook est devenu une espèce de grand centre commercial, une énorme régie publicitaire. Effectivement, ce qu’on y trouve est très peu qualitatif. Par conséquent, les gens un peu désarmés par rapport à la compréhension de l’information et à leur accès à celle-ci, s’y plaisent car ça fonctionne facilement, ça va vite, ça clignote, on est un peu flatté … Les personnes qui ont des attentes un peu plus sophistiquées sont en revanche en train de se détourner de ce genre de plateforme, même si cela reste un lieu incontournable. Aucune rédaction ou aucun média ne peut s’en passer, puisque c’est effectivement une nouvelle forme d’espace public. Pour autant, on sait bien qu’y rester enfermé sera vite compliqué : on ne touchera pas forcément les bonnes personnes, à moins de payer très cher. Cette situation de conglomérat qu’a réussi à créer Mark Zuckerberg lui a permis de s’imposer en tant que vaste régie publicitaire quasiment monopolistique : si vous voulez vendre quelque chose, des chaussures ou des messages antivax, vous devez absolument y être. Du point de vue de la qualité de l’écosystème en revanche, c’est un foutoir sans nom. Dans les dernières prises de parole publiques de Zuckerberg, il y avait la reconnaissance des chiffres monstrueux et de l’atteinte d’un plateau, en termes de nombres d’utilisateurs. Il admet qu’il y a une difficulté à penser l’étape d’après. C’est d’ailleurs sans doute en partie ce qui explique pourquoi Facebook est devenu Meta : on ripoline la devanture de la boutique. A l’extérieur, il y a une lucidité et une maturité du monde politique, et aussi des utilisateurs, qui commencent à réaliser que Facebook est en fait assez médiocre.
Cela explique qu’une partie des usages ait migré sur WhatsApp. WhatsApp est un cas particulier, en ce sens qu’il ne s’agit pas d’un réseau social (vous n’y avez pas de fil d’actualité). D’ailleurs, Meta n’a pas encore trouvé comment monétiser WhatsApp par la publicité. Faisons un rapide bilan. Facebook : les utilisateurs commencent à se rendre compte que ce n’est pas terrible. Instagram : on prend conscience que c’est sans doute nocif pour l’image de soi ou le rapport à la consommation des jeunes générations. WhatsApp : très prisé des utilisateurs mais fournissant à Facebook les données personnelles revendues ailleurs. Le paradoxe de nos usages, c’est que nous ne savons effectivement plus quelle est la promesse d’une plateforme comme Facebook. Une partie du public migre vers des plateformes chinoise comme TikTok, qui du point du vue du modèle économique, du traitement des données privées ou de la viralité ne vaut pas mieux. Un nouvel acte est en train de se jouer : les acteurs historiques des réseaux sociaux ont transformé les promesses initiales en triomphe publicitaire, et de nouveaux acteurs arrivent, pas plus scrupuleux, qui réussissent pourtant à capter notre attention et nos données.
Lucile Schmid :
Il y a aujourd’hui deux enjeux de la maturité par rapport aux plateformes. Le premier concerne la régulation, c’est donc un enjeu externe, qui viendra par exemple de la sphère politique. Le second concerne la modération. De côté, on voit bien qu’il s’agit d’une interpellation adressée à Mark Zuckerberg, c’est un enjeu interne. La modération peut passer par deux choses : les algorithmes, mais peut-être aussi le recrutement de modérateurs. Facebook a une ambition mondiale (à l’exception de la Chine), c’est une tour de Babel : en fonction de la langue et de structures politiques et sociales des région du monde, les questions de modération sont différentes.
D’où ce débat passionnant sur les biais de la modération aujourd’hui : selon le pays où vous êtes, elle est différemment assurée. Pensez-vous que Mark Zuckerberg arrive à comprendre cet enjeu de la modération, essentiel pour donner un avenir à Meta ?
Julien Le Bot :
C’est effectivement absolument crucial. C’est pourquoi j’ai pris le temps d’avoir une approche descriptive dans mon livre. Car au fond, même si Zuckerberg paraît peu sympathique, la question n’est pas là. Ce qui est important, ce sont les dégâts que ces plateformes occasionnent, ou les questions qu’elles posent à nos démocraties. Ce qui est formidable avec ce personnage, c’est qu’on a une grande diagonale du flou, avec l’idée selon laquelle il s’agit avant tout de problèmes d’ingénieurs, que Facebook est presque une entreprise de télécommunications … C’est pourquoi, lorsqu’il est interrogé à propos de tel ou tel problème, on l’entend régulièrement dire qu’il s’agit d’un « loupé opérationnel ». Quand on lui reproche des fautes de modération, c’est à dire des manquements dans une appréciation humaine de situations, il nous répond que l’algorithme a mal détecté un problème.
Nous avons donc un personnage qui a mis énormément de temps à comprendre que certains problèmes politiques et sociaux n’étaient pas réductibles à une suite de 0 et de 1. Il y a au fond l’idée que les machines pourront à terme résoudre des problèmes humains, et qu’il n’y a pas besoin de recruter des gens pour les questions de modération. C’est pourquoi le déploiement de la plateforme a été si brutal. Très régulièrement, Facebook est arrivé dans certains territoires où il n’y avait aucun modérateur humain maîtrisant la langue locale (ce fut le cas en Birmanie, par exemple). Il y a donc eu une trajectoire très longue avant que Zuckerberg n’admette que les problèmes liés au langage ne sont pas que des problèmes de traitement de l’information.
Il a donc commencé à faire des appels à la régulation, parallèlement à une tentative d’auto-régulation. Il y a ainsi eu le projet de Conseil de surveillance en 2019. En recrutant partout dans le monde des universitaires ou des activistes censés réfléchir à la liberté d’expression. Zuckerberg a annoncé que Facebook suivrait les recommandations de ce Conseil. Mais celui-ci compte 40 personnes, pour environ 3 milliards d’usagers. Quand bien même on parviendrait à délibérer sur ce que les algorithmes devraient faire dans telle ou telle situation type, et selon le lieu où elle se produit, on voit bien que ce n’est pas suffisant. Le grand bluff de tout cela, c’est qu’on reste dans une approche où le modèle économique est extraordinairement rentable, mais où en termes de responsabilité de l’entreprise, aucun investissement conséquent n’est réalisé. Par exemple, on ne prend pas en compte que selon le contexte, une même phrase ne veut pas dire la même chose. Sans même parler de la question de l’invective, de l’insulte et de la désinformation. Des groupes politiquement structurés et volontaristes parviennent à se jouer des algorithmes et de la modération humaine, et transforment les expressions et le langage pour continuer d’insulter ou de harceler leurs cibles.
Pour être tout à fait équitable : oui, Facebook et Mark Zuckerberg ont fait des progrès depuis 2019, au niveau « macro ». Du point de vue opérationnel en revanche, Facebook a de très grandes difficultés à modérer correctement des situations problématiques. Cela conduit à de la désinformation, du cyber-harcèlement, etc. L’enjeu de la modération est absolument fondamental, et il est loin d’être réglé.
Nicole Gnesotto :
Peut-on réguler ou modérer un algorithme ? Cela me fait penser, dans un tout autre domaine, à ce qu’on appelle les armes intelligentes : les drones hypervéloces par exemple, qui peuvent prendre eux-mêmes la décision de tuer, sans attendre l’intervention humaine. Est-ce que toute cette idée de modération n’est pas une vaste illusion ?
J’ai une autre question à propos de la Chine. On voit bien que les ambitions de Zuckerberg s’y heurtent : ses tentatives de s’y implanter sont infructueuses. A l’inverse, la Chine s’introduit très facilement dans l’univers de Zuckerberg, avec TikTok. Comment Zuckerberg fait-il face à cela ?
Julien Le Bot :
A propos de ce que vous appelez la modération des algorithmes, quelqu’un comme Dominique Cardon, directeur du Medialab de Sciences Po, explique qu’il faudrait faire de la rétro-ingénierie dans les algorithmes qui hiérarchisent le fil d’actualité. A défaut de pouvoir anticiper, il faudrait au moins être capable a posteriori de comprendre comment les publications sont hiérarchisées. Car au fond, l’enjeu de la responsabilité est en partie là : il s’agit de comprendre pourquoi une plateforme qui se présente comme un simple outil technologique a en réalité une activité éditoriale. Hiérarchiser des messages, c’est donner une certaine vision du monde à des individus qui l’utilisent pour s’informer. C’est d’ailleurs sur ce point que se portent une partie des régulations européennes : avoir une meilleure transparence sur le fonctionnement des algorithmes, afin d’être en mesure, au moins a posteriori, d’expliquer pourquoi telle ou telle situation a déclenché tel ou tel emballement.
Des progrès sont donc en train d’être faits, en Europe mais aussi aux Etats-Unis, pour avoir une meilleure compréhension de la « recette secrète » des algorithmes. C’est évidemment insuffisant, car si on continue de penser que régler le problème des algorithmes règlera le problème de la modération, on reste aligné avec le credo idéologique de départ, selon lequel les problèmes ne sont que d’ordre technique. La technique est l’une des questions à régler, mais elle n’est pas la seule.
Vous évoquez les armes intelligentes et le manque d’intervention humaine. Je suis d’accord avec vous : la plateforme va si vite qu’aujourd’hui l’entreprise a du mal à suivre. J’ai lu un article récent sur le site The Atlantic, à propos de « la tyrannie des super-utilisateurs ». On se rend compte que sur Facebook ou Instagram, la plupart des gens sont comme vous et moi. Ils tiennent des propos nuancés et n’ont pas toujours envie de s’exprimer sur tout. D’autres en revanche sont très motivés politiquement, très rapides et très bien organisés. Ceux-là veillent en permanence à diffuser leur message auprès de leur communauté. Il s’agit le plus souvent de propos colériques, qui viennent flatter vos instincts et vos engagements. Ce genre de propos, très suivi, est mis en avant par les algorithmes. Contrairement aux idées reçues, parmi ces super-utilisateurs, on ne trouve pas que des complotistes hors-système. Aux Etats-Unis par exemple, les gens de la galaxie Fox News sont très régulièrement mis en avant.
Nous avons donc certains acteurs de « l’ancien monde » informationnel qui ne jouent plus la règle du jeu démocratique et disent par exemple qu’une élection a été truquée. Ce message est amplifié par des plateformes qui se félicitent d’avoir des contenus aussi prisés. Le système est devenu complètement fou, et Meta ne parvient pas à régler tout cela, car les ingénieurs peinent à discerner des « actions coordonnées inauthentiques ». En modération, il est essentiel de pouvoir distinguer des coordinations authentiques (des citoyens soutenant tel ou tel candidat), de coordinations inauthentiques (des Russes diffusant des messages de propagande).
A propos de la Chine et de TikTok, ensuite. Du point de vue des usages, il est indéniable que TikTok monte énormément, surtout auprès des jeunes. Mais du point de vue de la pression politique, Mark Zuckerberg « prend un peu pour tout le monde », il est devenu le représentant d’un système plus large que Meta, et qui le dépasse. Nous ne parlons que de lui depuis le début de l’émission, mais d’autres plateformes comme Google ou YouTube sont également problématiques. TikTok est pour le moment moins surveillé, mais pose exactement les mêmes questions. Où vont les données récoltées ? Comment la hiérarchie de l’information est-elle faite ? Quid des investissements en termes de modération ?
Marc-Olivier Padis :
Je suis très sceptique sur l’avenir de Facebook. Nous avons déjà parlé des problèmes sur lesquels bute l’entreprise : différences culturelles, maîtrise de la langue, etc. Mais il y a aussi des questions psychologiques : les personnes embauchées pour faire de la régulation humaine développent des troubles, des syndromes, parce qu’ils passent leur temps à nettoyer un véritable égout. C’est extrêmement usant psychologiquement. D’autre part, du point de vue du dialogue avec les autorités publiques, Facebook fait preuve d’une éclatante mauvaise volonté, en tous cas par rapport aux autres acteurs comme Snapchat ou Google. Ces derniers défendent leurs intérêts aussi, mais au moins ils dialoguent. En France par exemple, Google a établi un partenariat avec l’AFP dans le cadre des élections, pour étudier les risques de manipulation. Ils prennent des initiatives pour montrer leur bonne volonté. Du côté de Facebook, rien de tel.
Sur l’avenir de Facebook, je ne vois qu’une seule alternative. Soit on fait jouer les lois anti-monopole, et on découpe Meta (car quatre entreprises aussi énormes créent un acteur disproportionné, représentant 80% du marché publicitaire). Soit, comme le dit Zuckerberg, nous allons tous basculer dans le Métavers. Peut-être suis-je totalement largué, mais personnellement, je n’y crois pas une seconde. La croyance selon laquelle nous ferons tout dans un espace virtuel, des courses aux activités culturelles, n’est rien d’autre qu’une bulle spéculative. Les deux directions me paraissent être des impasses. Où va Facebook ?
Julien Le Bot :
Effectivement les modérateurs humains de Facebook souffrent souvent de syndromes post-traumatiques. Et dans la mesure où ils sont exposés à des choses atroces huit heures par jour, cinq jours sur sept, cela n’a rien d’étonnant. Mais il faut bien prendre en compte que dans le modèle économique de Meta, la modération est externalisée. Le métier de Facebook, c’est de faire de la technologie. Dès qu’il s’agit d’humain, on sous-traite. Là encore, c’est un point de vue idéologique, car en réalité la modération est au cœur du modèle de Facebook. Le bien d’un espace informationnel dépend de la qualité de ce qu’on y trouve. Mais il y a cet argument qui consiste à dire : « nous, c’est la tech, et rien que la tech ». Du point de vue juridique c’est évidemment une stratégie de protection : plus l’entreprise se tient éloignée des problèmes liés à la modération, moins on pourra les lui reprocher.
A propos du dialogue avec les autorités, je ne suis pas tout à fait d’accord avec vous. Facebook met beaucoup d’argent dans le lobbying pour être aussi présent que les autres (sinon plus) à Bruxelles, à Washington, ou dans tout endroit où il risque d’être régulé. Et l’entreprise sait aller chercher dans le monde politique les meilleures personnes pour le conseiller. L’un des vice-présidents de Meta est aujourd’hui Nick Clegg, ancien homme politique britannique (vice-Premier ministre du Royaume-Uni entre 2010 et 2015). Il est en charge des affaires internationales et de la communication. Son recrutement était d’ailleurs très malin car d’un point de vue normatif, l’Europe a une longueur d’avance sur les Etats-Unis. Par conséquent mettre un Britannique comme courroie de transmission entre le vieux continent et le nouveau monde était un joli coup. Pour ce qui est de l’anticipation des échéances électorales, Facebook est beaucoup plus prudent en Europe et aux Etats-Unis que lorsqu’il s’agit de l’Afrique, de l’Amérique du Sud ou du reste du monde. En gros, là où la régie publicitaire rapporte peu d’argent, on ne fait pas ou presque pas de modération, pas non plus de partenariats pour limiter la désinformation, et advienne que pourra.
En France, Facebook a fait des partenariats avec des rédactions, des fact-checkers, et quant on voit des choses problématiques, même si la réaction peut être jugée trop lente, on est généralement prévenu qu’on voit un contenu douteux. Il y a donc des efforts dans le sens de ce que demandent les autorités, mais toujours dans l’ambiguïté du lobbying. Cela rejoint la question à propos de TikTok, car paradoxalement, la Chine et TikTok sont aujourd’hui l’un des alliés de Mark Zuckerberg. Car il dit : « si vous me régulez trop sévèrement, ou démantelez mes entreprises, si vous m’empêchez d’investir dans les questions de sécurité, que se passera-t-il ? Certes, Facebook va reculer, mais qui prendra sa place ? Les Chinois. » Quand Joe Biden déclare que Facebook a une responsabilité dans certains morts du Covid, à cause de la désinformation, et que certaines entreprises se sont montrées irresponsables, il y a dans le même temps une grande prudence quant à la régulation, car on ne peut se permettre de démanteler trop vite un acteur américain.
Oui, il y a une pression politique plus forte que jamais. Oui, l’Europe a une longueur d’avance sur les Etats-Unis. Mais de nombreux observateurs constatent que les régulations sont non seulement insuffisantes, mais que le contexte géopolitique ne joue pas en leur faveur. Car si Facebook était mis à l’écart, ce qui le remplacerait pourrait être pire encore.
Cela me fait penser à Max Schrems. Max Schrems est un citoyen autrichien, qui dans les années 2000, alors qu’il faisait un stage pour ses études aux Etats-Unis, prit conscience que le monde de la tech se souciait comme d’une guigne des données privées. Rentré en Europe, il porte plainte régulièrement contre Facebook : « que faites-vous de mes données ? Comment se fait-il que je ne les récupère pas toutes ? Pourquoi sont-elles hébergées aux Etats-Unis ? Comment se fait-il que les agences de renseignement américaines puissent avoir accès à mes données alors que je suis Européen ? ».
Il a fondé l’association NOYB (None Of Your Business) qui continue de faire pression de façon assez efficace. Cela montre que les régulations européennes progressent, mais qu’il reste de très grands enjeux, pour lesquels les réponses ne sont pas encore satisfaisantes.
Sur la prophétie du Métavers, enfin. Dans cette vidéo d’octobre 2021, Zuckerberg publie une vidéo d’1h15 dans laquelle il accueille l’internaute dans un appartement, avec un surf au fond, et déclare qu’il va nous montrer ce sur quoi « nous allons travailler ensemble » (car il y a toujours cette idée de la communauté). C’est ensuite la description du Métavers. Puisque la manne des réseaux sociaux va peut-être se tarir à cause des régulations, il faut jouer le coup d’après. Et le coup d’après est un pari, selon lequel nous serons tous de plus en plus connectés. Après internet sur votre ordinateur, vous avez eu internet et les réseaux sociaux sur votre téléphone. Pour lui, l’étape suivante sera un casque et deux poignées, grâce auxquels nous interagirons avec un monde virtuel en temps réel. Des univers où nous pourrons jouer avec nos amis et faire toutes sortes de choses … et vendre de la publicité. Il s’agit de réinventer ce fast-food informationnel, pour conserver l’avance financière de l’entreprise. Sauf que du point de vue de la technologie, les entreprises et les observateurs les plus avisés disent que nous en sommes encore très loin. Nous n’avons pas encore un internet assez rapide pour que des milliards de personnes évoluent en temps réel dans des univers virtuels. Et aurons-nous tous envie d’avoir en permanence un casque de réalité virtuelle ?
