L’œil de TikTok, une menace pour la démocratie ?

« Chaque mois, plus de 1 Français sur 3 se retrouve sur TikTok et y découvre un lieu unique, inclusif, sûr et bienveillant, où exprimer librement sa créativité », annonce TikTok sur la page dédiée à sa communauté. Avec ses 21,4 millions d’utilisateur·rices dans l’Hexagone, le 3^e réseau social mondial, créé en 2016 par le groupe chinois ByteDance, vante sa capacité à favoriser la liberté d’expression et l’inclusion. Pourtant, de nombreux exemples, en France mais aussi dans d’autres pays, contredisent cette promesse démocratique.

Récemment, des groupes néonazis ont utilisé la plateforme pour leur propagande et délivrer des messages de haine, comme l’a révélé un article du Monde daté du 29 juillet 2024. Aux États-Unis, la collecte illégale de données personnelles et les risques d’espionnage et de manipulation par l’État chinois via TikTok suscitent des inquiétudes et conduisent les pouvoirs publics à songer à l’interdiction de la plateforme si celle-ci reste sous le contrôle de la Chine. La menace est prise d’autant plus au sérieux que l’attaque du Capitole le 6 janvier 2021 a déjà démontré à quel point une masse connectée de followers pouvait menacer directement et physiquement le pouvoir législatif du pays. Ces exemples sont symptomatiques des dangers que peut encourir la démocratie à l’ère du numérique.

Pierre Rosanvallon définit la démocratie par la mise en œuvre de la souveraineté du peuple. Mais le peuple a-t-il toujours le pouvoir de décision lorsqu’il est sous l’influence d’algorithmes qui réfrènent l’affirmation de son esprit critique et de son libre arbitre ?

L’algorithme, opium du peuple

Dans Contribution à la critique de la philosophie du droit de Hegel (1843), Karl Marx écrit que la religion « est l’opium du peuple ». Pour le philosophe, elle enferme les prolétaires, victimes d’inégalités sociales, dans l’illusion que leur situation est acceptable puisque, selon la morale religieuse, les hommes et les femmes doivent souffrir sur terre. Aujourd’hui, TikTok s’inscrit dans cette même veine. Son algorithme de recommandation assomme les usager·es de vidéos courtes sans leur laisser le choix des contenus, détournant leur attention de leurs conditions matérielles et sociales réelles. L’ingurgitation de contenus à la chaîne et tous azimut ne laisse ainsi que peu de place à l’esprit critique et à la réflexion. Le temps de leur connexion, les utilisateur·rices de ce réseau social sont privé·es d’interactions sociales plus profondes et d’activités cérébrales plus enrichissantes et épanouissantes.

Subissant un flot d’informations continu, les adeptes de TikTok restent accroché·es à leur téléphone. Au total, les utilisateur·rices passent en moyenne 95 minutes par jour sur TikTok en 2022. « Et puis l’algorithme – secret le mieux gardé de TikTok – se glisse sous le rideau, entre en scène et vous empoigne, pour ne plus vous lâcher », affirme Yann Bouvier dans la préface de 101 questions sur TikTok (2022). L’historien spécialiste des réseaux sociaux explique que, pour créer cette dépendance, TikTok a mis au point un algorithme puissant au service de la captologie, c’est-à-dire l’influence des comportements par la technologie. Tel un insecte pris au piège d’une toile d’araignée, l’usager·e est ainsi happé·e par les vidéos courtes qui se succèdent.

« Plus vous likez, commentez, swipez, plus l’algorithme vous connaît », précisent Jean-Noël Chaintreuil et Johanna Lemler dans 101 questions sur TikTok. La page « Pour toi » est ainsi conçue pour proposer des contenus en fonction des données personnelles collectées par l’algorithme concernant les vues, les likes attribués et le temps passé devant les vidéos. De son côté, Antoine Bayet, journaliste et directeur du département des éditions numériques de l’Institut national de l’audiovisuel (Ina), avance que, par le biais de la « bulle de filtres », « les réseaux sociaux enferment leurs utilisateurs dans leurs croyances ».

L’ineptie, amie de la viralité ?

Pourquoi la vidéo d’une personnalité politique mangeant une pomme et faisant des commentaires sur le goût de son fruit totalise-t-elle bien plus de vues et de likes qu’un discours sur la paix et la tolérance ? Sur TikTok, ce qui provoque la viralité, ce sont des contenus drôles, ludiques, faciles à comprendre dans leur fond et dynamiques dans leur forme, avec des images animées et de la musique. C’est ainsi que #pillowchallenge, une série de vidéos postées en 2020, dont le concept est d’accrocher un coussin autour de sa taille à l’aide d’une ceinture et de se filmer dans cet accoutrement, a enregistré un record de publications (plus de 120 K) et de likes (entre 50 et 900 K « j’aime » par publication, en fonction des comptes). Sur ce type de réseau social, la bulle de filtres a pour effet de cantonner les utilisateur·rices à des messages similaires à ceux déjà consultés. Elle génère effectivement des données en fonction du profil des individus détecté grâce à l’algorithme. Dans ce dispositif, élargir son horizon et se confronter à des avis divergents est difficile. Et, lorsque les contenus qui s’affichent à l’écran sont insidieux ou manipulés, les conséquences peuvent être préoccupantes.

TikTok, une autoroute pour la dark information ?

À l’occasion d’une étude menée en 2020 pour La Revue des médias de l’Ina sur la médiatisation du Covid-19, Antoine Bayet s’est intéressé à « tous les faussaires de l’info : YouTubers, militants extrémistes, complotistes patentés et autres apprentis sorciers ». L’auteur de Voyage au pays de la dark information (2022) décortique les procédés mobilisés sur les réseaux sociaux pour délivrer des fake news à grande échelle, « dans un but politique, économique ou sociétal rarement explicité ». Dans cet ouvrage, il cherche à « comprendre ce qu’il se passe dans la tête de ces anonymes lorsqu’ils se mettent, plus ou moins consciemment, à produire de la dark info ». Il tente aussi de « découvrir […] qui sont ceux qui tirent les ficelles de ce type de dispositifs ». Et finalement, le journaliste met en garde sur le danger que représente cette circulation massive de fausses informations, destinées à embrumer les esprits sous couvert de liberté d’expression, et à endoctriner les masses.

De la désinformation à la propagande

Sur TikTok, réseau social qui se dit « inclusif » et « bienveillant », des propos haineux circulent pourtant. Messages xénophobes, antisémites, homophobes, complotistes apparaissent dans le flot d’informations. Une étude récente, menée par l’Institut pour le dialogue stratégique (Institute for Strategic Dialogue), a recensé par exemple des centaines de comptes TikTok faisant la promotion du négationnisme et l’apologie d’Hitler. Pour contourner la modération du réseau social, les auteur·rices de contenus néonazis mobilisent des stratégies comme l’usage de smileys, le détournement du vocabulaire (« juice » – jus en anglais – est ainsi employé pour signifier « jews » – juifs en anglais -) ou la modification de l’orthographe (Le Monde, article du 29 juillet 2024).

La manipulation est au cœur des stratégies d’endoctrinement mises au point par celles et ceux qui souhaitent exploiter l’algorithme de la plateforme chinoise pour convaincre. La recette est la même que sur les autres réseaux sociaux : utiliser des comptes factices, animés par des intelligences artificielles, afin de multiplier l’envoi de messages de propagande pour accroître la force de frappe d’une idéologie ou d’une opinion.

Dans Les Réseaux sociaux sont-ils dangereux ? (2021), Antoine Bayet met en lumière « la contribution, plus ou moins décisive, jouée par les réseaux sociaux dans une série de mobilisations politiques », comme l’attaque du Capitole en 2021, ou encore le Brexit en 2016. « La campagne Leave.EU a conduit, au printemps 2016, un « Waterloo numérique » en faveur du Brexit, à coup de millions de dollars dépensés dans des dark posts [publications sponsorisées, qui ressemblent à des posts classiques] ultra ciblés sur Facebook », précise Antoine Bayet. Ces coups durs portés à la vie politique laissent des traces. Lors des élections européennes en juin 2024, l’inquiétude était grande de voir, sur les réseaux sociaux, la campagne électorale perturbée par la promotion d’informations truquées (deepfakes) provenant de Russie. L’approche des élections présidentielles américaines est également une source d’inquiétude pour les adversaires de Trump, soucieux que le candidat, à l’initiative de l’attaque du Capitole, influence les électeur·rices à coups de posts manipulateurs. Le candidat républicain a d’ailleurs posté sa première vidéo sur TikTok le 1^er juin 2024, s’engageant pleinement sur le 3^e réseau social mondial à la conquête d’un nouvel électorat, malgré le projet d’interdiction de l’application chinoise sur le territoire américain.

Gageons que l’esprit critique ne s’évanouisse pas et demeure la meilleure arme de la démocratie, face aux algorithmes-opium du peuple.

---

Pour aller plus loin

---

---

---

---

---

---