Menace numérique sur les démocraties

Il semble que tout le monde ou presque ait conscience que les réseaux sociaux sont porteurs de quelque chose de néfaste, du moins dans l'utilisation que nous en faisons la plupart du temps. De nombreux livres et articles ont traité en long et en large des algorithmes créés pour capter notre attention, pour nous inciter à scroller, à passer plus de temps sur les réseaux, à consommer de la pub et à nous transformer en larves baveuses devant nos écrans. Avec "Toxic Data", David Chavalarias, directeur de recherche au CNRS et spécialiste des systèmes complexes, va plus loin : il met en exergue le caractère délétère de ces fameux algorithmes et le danger qu'ils représentent pour le débat citoyen, pour la paix sociale et plus largement pour nos démocraties.

À travers une démonstration méthodique et un style didactique, Chavalarias dissèque le fonctionnement des réseaux sociaux et la manière dont la quête de rentabilité les pousse à nous servir non pas ce qui nous est utile, instructif ou apaisant, mais au contraire ce qui a tendance à nous angoisser, à nous attirer naturellement et à renforcer nos biais cognitifs. Son analyse s'appuie sur des concepts précis qu'il développe tout au long de l'ouvrage : les environnements numériques se caractérisent par trois propriétés fondamentales - la dé-spatialisation/massification, l'instantanéité et la confusion des identités et des messages - qui permettent la tromperie sur l'intensité de l'adhésion à une cause par ce qu'il appelle le "comportement inauthentique coordonné" ou "astroturfing".

L'auteur explique comment ces mécanismes créent des "chambres d'écho" (espaces numériques où l'information circule en vase clos) et des "bulles de filtre" (effet de filtrage par les algorithmes de recommandation) qui mènent à une perception biaisée de la réalité. Le principe de "renforcement" fait qu'une fois qu'un environnement numérique détecte que vous aimez un type de contenu, il vous en ressert sans cesse, créant une "contagion algorithmique" qui peut conduire à une surexposition non désirée à certains messages.

L'auteur démontre de façon étayée comment les trolls en tous genres, et en premier lieu ceux au service de régimes autoritaires comme la Russie ou la Chine, utilisent le fonctionnement des algorithmes à leur avantage pour manipuler les opinions et répandre de fausses nouvelles. Il expose tout aussi clairement la manière dont on peut se faire happer par ces messages soigneusement sélectionnés par ces mêmes algorithmes, être exposés à des messages négatifs plus susceptibles de retenir notre attention, de nous enfermer dans les fameuses "bulles d'écho" par le principe de renforcement. La crise des gilets jaunes, le COVID ou encore les propagandistes d'extrême droite sont les principaux cas d'école qu'utilise l'auteur pour illustrer ses propos et les résultats sont édifiants. On pourra peut-être regretter qu'il n'ait pas cherché d'autres cas de figure, notamment du côté de l'islamisme radicale, ce qui aurait permis de moins colorer politiquement sont essai et donc de toucher potentiellement un public plus large.

"Toxic Data" montre à quel point la manipulation des opinions, la désinformation et la déformation de la réalité prennent des proportions considérables sur les réseaux sociaux. Chavalarias y développe notamment le concept de "score de centralité" - mesure du pouvoir social d'un individu à influencer le débat public par le volume de retweets - et révèle que les comptes les plus centraux sont désormais à l'extrême droite, témoignant d'une fragmentation de l'espace politique et d'une radicalisation des militants.

De manière assez inquiétante, il conclut son ouvrage par une partie exposant les tendances qui, à ses yeux, seraient susceptibles de mener la France vers un régime illibéral à très court terme si aucune mesure n'était prise. Cette analyse s'appuie sur deux concepts centraux : la "rigidité d'une société" (force de corrélation entre comportements induite par l'influence sociale) et la "dépendance au chemin" (l'avenir qui se fige en destin sous l'effet de phénomènes de renforcement). Ces mécanismes s'inscrivent dans ce qu'il nomme le "capitalisme d'influence" - l'organisation du monde économique autour de la marchandisation de l'influence sociale - et pointe comme à l'origine du mal qu'il dénonce.

Mais loin de s'en tenir à cette perspective catastrophiste, sa véritable conclusion propose pas moins de 18 propositions pour faire face à ces dangers. Des conseils au niveau individuel naturellement, nous invitant à affûter notre esprit critique et à prendre du recul avec l'environnement numérique, mais aux niveaux collectif également, allant de l'enseignement de l'esprit critique et la sensibilisation aux réseaux sociaux au cours de la scolarité jusqu'à la réforme des modes de scrutin, en passant par la création d'espaces numériques publics ou la possibilité pour les États de réaliser des audits des algorithmes des grandes entreprises de la tech.

"Toxic Data" est une lecture riche, foisonnante, très argumentée et illustrée d'exemples pertinents et précis, à qui on passera quelques maladresses de style et une tendance à vouloir parfois expliquer les opinions politiques de la population française au regard des seules manipulations des réseaux sociaux. Cet ouvrage n'en reste pas moins de salubrité publique et démocratique, une lecture qui devrait être mis entre de nombreuses mains, quoiqu'elles ne soient probablement pas toutes intéressées à l'idée ouvrir un bouquin qui dénonce leurs manipulations parfois totalement assumées...