Comme le démontre un rapport explosif d’un lanceur d’alerte, Twitter ne peut pas arrêter la désinformation sur sa plateforme. Il est temps de faire rôtir cet oiseau.
Comme beaucoup d’internautes, j’aime la schadenfreude et peu de choses m’ont donné plus de plaisir à lire que l’histoire du lanceur d’alerte Twitter d’hier.
C’est un véritable festin de choses terribles. La moitié du parc de 500 000 serveurs de l’entreprise fonctionnerait avec un système d’exploitation non sécurisé qui n’est plus pris en charge par les fournisseurs. Et le site aurait connu un incident de sécurité par semaine. Délicieux !
Aussi excitant que cela puisse être, d’autres parties de l’histoire sont beaucoup moins divertissantes. Un rapport interne affirme sans ambages que Twitter n’est absolument pas équipé pour faire face à la désinformation et aux fausses informations sur sa plate-forme. C’est plus qu’inquiétant, surtout à l’approche des élections américaines de mi-mandat. (Pour sa défense, l’entreprise affirme qu’elle travaille dur en prévision des midterms, ce qui est bon à entendre, mais le rapport de cette semaine n’inspire pas confiance).
Twitter existe depuis 16 ans, et son problème de désinformation est extrêmement évident depuis au moins six ans. J’ai passé neuf ans sur la plateforme avant qu’elle ne cesse d’être amusante. Pour moi, il est clair que le moment est venu de dire adieu à tout ça. Prenez le site, emballez-le dans une grosse couverture mouillée et jetez-le à la mer – idéalement avant qu’il ne puisse nuire à d’autres élections.
La désinformation fait mouche
Le Washington Post a révélé l’histoire du lanceur d’alerte et ancien responsable de la sécurité de Twitter, Peiter Zatko, alias Mudge. Outre la plainte du lanceur d’alerte et un rapport rédigé par Zatko décrivant les nombreux problèmes de sécurité chez Twitter, le Post a également inclus un rapport interne sur les tentatives de Twitter d’écraser les fausses informations et la désinformation sur la plate-forme. Le Washington Post rapporte que le document a été commandé par Zatko à un groupe extérieur, prétendument le groupe Alethea.
Le rapport, qui se base sur des entretiens avec des employés et des examens de documents et de processus internes, souligne le strict minimum d’efforts déployés pour juguler la désinformation sur Twitter. Il montre un personnel dévoué miné par le manque de personnel, le sous-financement et le besoin quasi pathologique pour la haute direction de ne rien faire d’autre que d’écraser des “incendies” potentiellement embarrassants. Extrait du rapport :
“Les personnes interrogées ont décrit une approche largement réactive de la désinformation, de la mésinformation et du spam, dans laquelle des mesures sont prises sur le contenu et les menaces uniquement s’ils sont signalés par des journalistes ou des titres de presse, des partenaires ou des responsables politiques, en raison du manque de personnes et d’outils suffisants pour effectuer une analyse proactive.”
Cette approche largement réactive a créé de nombreuses politiques en réponse à une crise mais, note le rapport, “sans stratégie claire de mise en œuvre.”
La déconnexion interne chez Twitter semble créer des situations où soit Twitter ne reconnaît pas les problèmes sur la plate-forme, soit les équipes ne prennent tout simplement pas la responsabilité parce que les problèmes ne correspondent pas à des définitions étroites. Encore une fois, d’après le rapport :
“Les personnes interrogées ont décrit plusieurs cas dans lesquels Twitter a été lent à agir sur la désinformation parce que les équipes ne considéraient pas que le sujet ou le récit relevait de leur compétence ou correspondait parfaitement à un acteur de menace particulier qu’elles surveillaient, comme QAnon ou Pizzagate.”
Le processus d’identification des tweets qui violent les politiques de l’entreprise est apparemment assez onéreux. Le rapport affirme qu’un employé doit utiliser cinq outils distincts pour épingler un seul tweet. Mais même lorsque les tweets sont correctement épinglés comme violant les politiques d’utilisation, cela n’arrête pas réellement le comportement. Le rapport fait référence à un autre document, non inclus, qui indique que les systèmes de Twitter pour étiqueter les tweets qui violent ses politiques sont peu pratiques et “ne dissuadent pas les comportements répétés ou malveillants.”
De manière stupéfiante, le rapport indique que malgré le fait d’être le ground zero de nombreuses campagnes de désinformation à l’échelle nationale depuis au moins 2016, Twitter n’a aucun moyen de suivre les campagnes malveillantes et aucun référentiel central pour les informations que l’entreprise accumule sur les mauvais acteurs.
Protection des élections
Malgré toutes ses défaillances, le rapport note que Twitter s’est donné beaucoup de mal pendant l’élection présidentielle américaine de 2020 pour éviter une répétition de 2016, lorsque la plateforme était un marasme de désinformation électorale. Le rapport indique que l’entreprise a dédié 100 membres du personnel de différentes équipes internes pour servir d'”escouade électorale”.
Bien que cela ait pu contribuer à éviter les pires résultats possibles, le rapport indique que “les équipes ont dû priver de priorité tous les autres travaux, y compris les travaux sur d’autres événements mondiaux critiques, simplement pour suivre le rythme rapide du contenu lié aux élections américaines.”
Soulignant à quel point cette approche n’est pas viable, le rapport note que “Twitter est incapable de fournir ne serait-ce qu’une version réduite du support électoral déployé pour l’élection américaine de 2020 pour la prochaine élection japonaise, qui a été identifiée comme une priorité pour l’entreprise.” Le rapport n’est pas daté, il est donc possible qu’il s’agisse d’une référence aux élections de juillet au Japon.
Le fait que la désinformation n’ait pas été aussi répandue sur Twitter en 2020 qu’en 2016 ressemble plus à un coup de chance qu’à une victoire. Le succès de Twitter en 2020 ne fait que souligner ses autres défaillances. Par exemple, la désinformation autour dunCOVID-19 était endémique sur la plateforme, et de nombreux responsables continuent d’utiliser Twitter pour diffuser des mensonges sur le résultat de l’élection présidentielle américaine de 2020 – peut-être parce que Twitter n’a pas, ou n’a pas pu, rassembler les forces nécessaires pour y remédier.
Fermons le
La désinformation n’est pas un problème facile à gérer, et l’aborder sur une plateforme massive et mondiale comme Twitter est encore plus difficile. Mais si Twitter avait son mot à dire, la désinformation ne serait probablement jamais résolue du tout. Une si grande partie des efforts relatés dans le rapport pourrait être interprétée comme performative. Réprimer uniquement les événements dommageables pour le public, créer de nombreuses politiques inefficaces qui ne peuvent pas être appliquées, créer des opportunités pour que les responsables de l’application de la loi se déchargent de leurs responsabilités, et continuer à utiliser des tactiques connues pour être inefficaces – ce sont les actions d’une entreprise qui cherche désespérément à éviter de faire des changements difficiles.
Twitter qualifie la version des événements de Zatko de “faux récit… criblé d’incohérences et d’inexactitudes et manquant de contexte important”. Mais un audit interne qui cite d’autres documents internes et des employés réels est difficile à contester. À un niveau instinctif, le rapport explique une grande partie des choix les plus déroutants de Twitter. Pourquoi Twitter donne-t-il la priorité à la sortie de nouvelles fonctionnalités que personne n’a demandées plutôt qu’à l’interdiction des nazis ? Pourquoi ignore-t-il les comportements qui violent ses propres politiques ? Parce que Twitter n’est pas intéressé par la résolution de ses problèmes systémiques.
Les gens sur Twitter (les vraies personnes, pas les bots, les politiciens et les comptes de désinformation) ne peuvent pas le réparer. Elon Musk ne réparera pas Twitter. L’entreprise elle-même a prouvé qu’elle n’était pas à la hauteur de la tâche. Avec une myriade d’alternatives meilleures et plus responsabilisantes, et de nouvelles plateformes émergeant comme d’excellents espaces de rassemblement pour construire des communautés, Twitter a eu un bon parcours.
Déconnectez-vous. Éteignez-le. Débranchez-le. Enterrez-le dans une tourbière. Lancez-le dans l’espace. Brûlez-le sur un bûcher comme Beowulf et laissez le ciel avaler la fumée.
Et jetez Facebook sur le tas tant que vous y êtes.
