En octobre, le milliardaire polarisant et directeur général de Tesla, Elon Musk, a acheté la plate-forme de médias sociaux polarisante Twitter pour 44 milliards de dollars, promettant de changer le fonctionnement du site.
Dans diverses déclarations, pour la plupart des tweets, Musk a fait des allusions à une modération réduite sur la plateforme, s’engageant à faire du site un bastion de la « liberté d’expression ».
Dans les mois qui ont suivi, il a mis en place plusieurs nouvelles initiatives au sein de l’entreprise et du site, notamment le licenciement de centaines d’employés, rétablir des centaines de comptes précédemment interditssupprimant les badges de vérification de la plupart des utilisateurs qui n’ont pas payé 8 $ par mois pour un abonnement Twitter Blue et s’engageant à résoudre le problème de bot du site.
Mais de nouvelles recherches montrent que le site a également subi un autre changement après la prise de contrôle de Musk – il est devenu plus haineux.
Selon les données recueillies par des chercheurs de l’USC, de l’UCLA, de l’UC Merced et de l’Oregon State University, l’utilisation quotidienne du discours de haine par ceux qui avaient précédemment publié des tweets haineux a presque doublé après que Musk a finalisé la vente. Et le volume global de discours de haine a également doublé sur tout le site.
La recherche a été menée par Keith Burghardt, Matheus Schmitz et Goran Muric de l’USC, Daniel Fessler de l’UCLA, Daniel Hickey de l’État de l’Oregon et Paul Smaldino de l’UC Merced.
Le groupe a étudié les tweets d’utilisateurs qui avaient publié des messages haineux un mois avant et après la vente de Twitter et a également collecté un échantillon du groupe d’utilisateurs général.
Les chercheurs ont d’abord développé un « lexique de la haine » de 49 termes racistes, antisémites et homophobes et transphobes. Ensuite, ils ont examiné les publications avant et après la vente à l’aide d’un outil d’intelligence artificielle qui a scanné les termes haineux et leur fréquence, en éliminant les utilisations «non toxiques» ou non haineuses des termes.
« Nous avons d’abord dû créer un ensemble de mots que nous pourrions déterminer comme étant haineux », a déclaré Burghardt, informaticien à l’Institut des sciences de l’information de l’USC Viterbi School of Engineering, dans un communiqué de presse. « Notre objectif était de trouver des mots d’une précision relativement élevée, ce qui signifie que si les gens utilisent ces mots, il est peu probable qu’ils soient utilisés de manière non haineuse. »
Le volume de discours de haine publiés par des utilisateurs haineux a augmenté après la finalisation de la vente, bien que les chercheurs aient noté que le discours de haine sur Twitter était en augmentation avant même que Musk ne l’achète.
Au début de leur projet, les chercheurs ont émis l’hypothèse que, avec Musk faisant un signe de tête vers des politiques moins restrictives, le discours de haine augmenterait. Mais ils n’étaient pas sûrs de combien.
« Je n’avais aucune attente dans un sens ou dans l’autre », a déclaré Fessler, qui est directeur de l’UCLA Bedari Kindness Institute, dans une interview avec The Times, « parce que c’est très difficile à évaluer à l’avance. Vous ne savez pas quelle est la population d’utilisateurs produisant potentiellement un tel contenu, vous ne savez pas quelle est la taille de la population ou quelle est leur fréquence de tweet et de retweet.
Mais les résultats ont choqué Burghardt.
« Ce qui était surprenant, c’est … que ce genre de choses ait augmenté de façon si spectaculaire », a-t-il déclaré au Times. « Nous ne nous attendions pas à ce que les utilisateurs haineux utilisent davantage de mots haineux après qu’Elon Musk ait rejoint Twitter. »
Fessler a noté que les expressions d’intolérance étaient en augmentation depuis le début de la campagne présidentielle de Donald Trump et que Musk « a fait un clin d’œil à ces sentiments assez souvent pour qu’une population d’utilisateurs actifs ou potentiels de Twitter qui partageaient ces opinions reconnaissent l’opportunité qui leur était donnée. ”
« D’une sorte de niveau de 30 000 pieds », a déclaré Fessler, « l’effet Twitter reflète vraiment les tendances plus larges de la société. »
Les chercheurs ont noté qu’ils ne pouvaient pas « prouver une relation causale entre la prise de contrôle de Musk et le discours de haine ». Les modifications apportées par le PDG à la modération sont « mal documentées », ont-ils déclaré.
La recherche est une étape importante pour identifier comment et pourquoi les gens peuvent se radicaliser en ligne par ce qu’on appelle le terrorisme stochastique, dans lequel le discours de haine est utilisé pour inciter à des actes violents, a déclaré Burghardt.
Les médias sociaux pourraient jouer un rôle dans cette radicalisation, a-t-il dit, mais des recherches supplémentaires sont nécessaires.
Une fois que les utilisateurs rejoignent ces groupes haineux, même sur des sites de médias sociaux qui ne sont pas traditionnellement haineux, a déclaré Burghardt, ils sont immédiatement plus haineux et plus antagonistes.
« Nous nous attendons à ce qu’une fois qu’ils rejoignent ces sites, ils deviennent plus susceptibles de prôner la violence », a-t-il déclaré, « puis qu’une petite proportion commet réellement ces actes ».
Mais malgré l’augmentation documentée du discours de haine, Fessler a noté qu’il provenait d’une petite population.
« Ce n’est en aucun cas une opinion majoritaire », a-t-il déclaré. « Et la société dans son ensemble est… de plus en plus tolérante à la différence et de plus en plus diversifiée. »
Twitter a une influence considérable malgré sa taille relativement petite, donc Fessler craint qu’il ne soit apparemment soumis aux caprices d’une seule personne – Musk.
« C’est inquiétant quand une plate-forme avec la portée de Twitter peut être achetée par un individu et même de modestes tentatives pour la transformer à des fins plus socialement constructives… sont déconstruites et supprimées », a déclaré Fessler.
