Misogynie sur les réseaux sociaux : "le plus puissant des algorithmes, c'est le patriarcat"

Normalisation du sexisme ambiant, sous-représentation des femmes, culture du viol... La polémique autour du compte "Abrège Frère" et une récente étude pointant la responsabilité de l'algorithme de certains réseaux sociaux dans la propagation de contenus misogynes à destination des plus jeunes contribuent à mettre en lumière des problématiques qui se situent bien au-delà des écrans. Photo d'illustration, prise le 8 mars 2023 à Washington, sur laquelle deux utilisatrices de TikTok testent le filtre BoldGlamour de l'application, accusée d'alimenter, via cette IA, la pression toxique autour des normes de beauté sur les réseaux sociaux. Son buzz a été abrégé, pas la déferlante de propos misogynes qui l'a accompagné. En France, le créateur de contenus "Abrège Frère" au million d'abonnés sur TikTok - et presque autant sur Instagram - a créé la polémique ces derniers jours, accusé d'encourager le harcèlement sexiste à l'égard des femmes. Le but de ses vidéos : "abréger" des storytimes (contenus dans lesquels une personne raconte, face caméra, une histoire personnelle sur ses réseaux sociaux) afin d'aller selon lui à l'essentiel. Il coupe la storytime originelle pour la résumer en une phrase, accompagnant cela d'un message écrit indiquant le "temps gagné" pour celui ou celle qui regarde ce contenu. Alors que ses vidéos reprennent principalement des contenus de femmes, des TikTokeuses se sont insurgées, y voyant-là un moyen de les "silencier" et de favoriser le cyberharcèlement. En effet, même si tel n'était pas son objectif, les pastilles humoristiques  d'"Abrège Frère" se sont rapidement, et de manière systématique, accompagnées d'un cortège de commentaires offensant à l'égard de celles qu'elles visent. Selon une étude IPSOS menée fin 2022 pour l’association "Féministes contre le cyberharcèlement", 84 % des victimes de cyberviolences sont des femmes. Un fléau qui a récemment fait l'objet d'un documentaire, "Je vous salue salope : la misogynie au temps du numérique", sorti en octobre 2023. Si la polémique "Abrège Frère" réveille le sempiternel sujet de la haine en ligne et des carences en matière de modération sur les réseaux sociaux, des études récentes pointent aussi la responsabilité des différentes plateformes dans la suggestion constante de contenus discriminants et insultants à l'égard des femmes.  La France, pays où la haine en ligne est la plus forte "On en est 2024 et la société numérique n’est que le reflet de la société physique", déplore Marie-Joseph Bertini, professeure des universités en sciences de l'information et de la communication à l'Université Nice Sophia-Antipolis, évoquant le dernier rapport du Haut Conseil à l'Égalité entre les hommes et les femmes (HCE). "Sur l’ensemble des contenus, notamment sur les réseaux sociaux qui sont très fréquentés par les internautes et en particulier par les plus jeunes, la majorité sont produits par des hommes dans lesquels ne sont représentés quasiment que des hommes." Plus encore, dit-elle, "les commentaires sous ces contenus continuent de véhiculer des torrents d’injures sur les femmes, très souvent en prétextant l'humour qui est toujours le véhicule par lequel les violences sexistes et sexuelles (VSS) sont disséminées dans l'opinion. Et tout cela contribue à maintenir les femmes hors de la sphère numérique". Quand Internet est apparu dans le grand public, la spécialiste des études de genre pensait que ce nouvel outil contribuerait à reconfigurer les rapports de genre et ferait surgir de nouvelles formes de sociabilité plus respectueuses envers les femmes. "Ça a été le cas dans un sens, car de nouvelles formes de sociabilité sont apparues, mais le socle de la discrimination envers les femmes et de leur relégation hors de l’espace public n’a pas changé", déplore-t-elle. Or, selon le premier rapport de X (ex-Twitter) sur le sujet, la France est le pays en Europe où la haine en ligne est la plus forte (16 288 posts ont été supprimés par les modérateurs de X opérant en France, contre 7 160 en Allemagne et 1 403 en Belgique, par exemple). Et, toujours d'après l'étude, 70 % de la haine en ligne est dirigée contre les femmes. En cause, selon Marie-Joseph Bertini, l'éducation, l'anonymat sur les réseaux sociaux, mais aussi le rôle joué par leurs algorithmes. En effet, si les réseaux sociaux demeurent un défouloir pour l'expression de propos sexistes, il est également reproché aux algorithmes des réseaux sociaux d'enfermer les utilisateurs, notamment les plus jeunes, dans la misogynie, par la suggestion massive de contenus insultants à l'égard des femmes. Un algorithme qui favorise les contenus "clivants" Si les plateformes affirment régulièrement interdire les contenus sexistes et détecter et supprimer la majorité des contenus misogynes, l'algorithme de TikTok a de nouveau été épinglé récemment par une étude de l’University College London (UCL) et The Association of School and College Leaders (ASCL), sur des contenus problématiques suggérés de manière exponentielle à un panel d'adolescents âgés de 13 à 17 ans. Les chercheurs britanniques ont travaillé pendant une semaine, étudiant un millier de vidéos en se glissant dans la peau de quatre types d'utilisateurs : des individus souffrant de solitude, des utilisateurs intéressés par la santé mentale et le développement personnel, des individus épris de sport et de musculation, et enfin des utilisateurs intéressés par le "Droit des hommes" (mouvement réactionnaire défini par son opposition aux femmes et au féminisme, NDLR). Résultat : l'étude a pu mettre en lumière un algorithme amplifiant très rapidement et en grande quantité les contenus misogynes proposés aux jeunes, et ce, quels que soient leurs intérêts de base. "En cinq jours, tous les archétypes ont vu le niveau de contenu misogyne multiplié par quatre sur l'onglet de suggestion de contenus intitulé "Pour vous" (passant de 13 % de contenu misogyne, à 56 %). Selon une précédente enquête, "Automatic Misogyny Detection in Social Media", publiée en 2019 par Elena Shushkevich et John Cardiff de l'Université technologique de Dublin, les critères pour que des contenus soient considérés comme misogynes sont pourtant variés. Parmi eux : la description du physique des femmes ou des comparaisons de leur physique avec des normes étroites, l'affirmation de la supériorité des hommes sur les femmes, des actions telles que du harcèlement, des avances sexuelles ou des demandes de faveurs sexuelles, ou encore les insultes envers les femmes motivées par le simple fait qu'elles soient des femmes. Pour remédier au problème, l'étude qui pointe la responsabilité de l'algorithme de TikTok suggère entre autres la mise en place d'un "régime numérique sain" visant à responsabiliser les plateformes sociales, éduquer les jeunes, mais aussi informer les parents sur le fonctionnement des algorithmes des réseaux sociaux. Mais Marie-Joseph Bertini soulève le problème d'une modération limitée en raison du "profit gigantesque" que tirent les plateformes des contenus "clivants". Depuis l'arrivée à sa tête d'Elon Musk, la société X (ex-Twitter) a licencié plus de 1 200 employés dans le monde au sein des équipes chargées de lutter contre les contenus abusifs en ligne, selon les chiffres publiés mi-janvier par le régulateur de l'internet australien eSafety, qui affirme que cela coïncide avec un pic de "toxicité et de haine" sur le réseau social. "La haine est un déclencheur de clics", déclare Marie-Joseph Bertini. Ainsi, "de grand groupes licencient des modérateurs - alors qu’il y a de plus en plus de contenus à modérer - parce que cela coûte cher et qu'en même temps, le contenu clivant va susciter plus d'attention et augmenter l'audience". Si les grands groupes se situent dans des pays où leurs plateformes ne sont pas considérées comme responsables des contenus qu'elles hébergent (Meta et X se situent aux États-Unis, TikTok en Chine), l'Union européenne leur impose désormais certaines obligations. Le Digital Services Act (règlement DSA), visant à imposer aux très grandes plateformes du web et des réseaux sociaux de nouvelles règles pour protéger les utilisateurs en limitant notamment la diffusion en ligne de contenus et produits illicites, est entré en application samedi 17 février. "Le problème vient de la manière dont les sociétés sont organisées" Pour autant, estime Marie-Joseph Bertini, également autrice de "Femmes : le pouvoir impossible" (Pauvert) et "Ni d'Eve ni d'Adam. Défaire la différence des sexes" (Max Milo), s'attaquer aux algorithmes des réseaux sociaux n'est pas suffisant et revient à pointer du doigt un effet plutôt qu'une cause. "Le plus puissant des algorithmes à ce jour, c’est le patriarcat, et la systématisation de la domination masculine", insiste la chercheuse. "Et ce n’est pas en renvoyant une nouvelle fois au problème du fonctionnement du numérique que les choses changeront, car le problème vient de la manière dont les sociétés sont organisées". Pour ce qui est de la France, la chercheuse déplore que l'école à ce jour ne joue pas suffisamment son rôle d'éducation à ce sujet, les stéréotypes ayant généralement la peau dure au sein-même du corps des enseignants. Marie-Joseph Bertini revient ainsi sur l'abandon en 2014du programme "ABCD de l'égalité"  qui visait à lutter contre les stéréotypes filles-garçons. "Même quand le politique a la force et le courage de faire quelque chose, il y a une reprise en main de la société qui est extrêmement forte". "Nous avons une peur panique qui consiste à dire qu’il ne faut pas parler de ça aux enfants, qu'il faut garder des filles et des garçons [construits sur un modèle patriarcal] comme si la seule manière de constituer un garçon était de lui faire penser dès le plus jeune âge qu’une fille est inférieure à lui. C'est cela que j’appelle l’algorithme du patriarcat".