Article original datant du 13/09/21
Le géant de la technologie est conscient que ses plateformes sont truffées de failles qui causent des dommages
- Un lanceur d’alerte divulgue des documents sur le programme « XCheck » géré par Facebook.
- Le programme secret « blanchit » les célébrités et les VIP en les protégeant des règles.
- Donald Trump, Neymar, la sénatrice Elizabeth Warren font partie de la « liste blanche ».
- Neymar, la star du football brésilien, a posté des photos nues de son accusatrice de viol en 2019.
- Facebook a permis aux images d’être exposées à 56 millions d’utilisateurs pendant 24 heures.
- Un examen interne de Facebook a révélé que les actions de Neymar étaient du « Revenge Porn’ (« porno vengeur »).
- Mais son compte n’a pas été désactivé, contrairement aux comptes des personnes non VIP.
- La nouvelle de ce programme a été rapportée pour la première fois lundi par le Wall Street Journal.
Selon un rapport explosif, Facebook a mis en place un programme secret qui permet aux célébrités et aux personnes puissantes de contourner les règles du réseau social.
Selon le Wall Street Journal, le programme du géant de la Silicon Valley, appelé « XCheck » ou « cross check », a créé une « liste blanche » de célébrités qui sont à l’abri des sanctions.
Il était initialement conçu pour protéger l’entreprise d’une mauvaise publicité dans le cas où elle aurait modéré le contenu de certains utilisateurs très médiatisés. Au lieu de cela, les critiques disent qu’elle a protégé ces mêmes utilisateurs des règles qui s’appliquent au grand public.
La liste des célébrités et des personnalités protégées comprend la star du football brésilien Neymar, l’ancien président Donald Trump, son fils, Donald Trump Jr, la sénatrice Elizabeth Warren, le mannequin Sunnaya Nash et le fondateur et PDG de Facebook, Mark Zuckerberg lui-même.
En 2019, une séance de questions-réponses en direct avec Zuckerberg lui-même a été supprimée après que l’algorithme de Facebook a jugé par erreur qu’elle violait les directives de l’entreprise.
Les stars de cinéma, les animateurs de talk-shows sur le câble, les universitaires, les personnalités en ligne et tous ceux qui ont un grand nombre d’abonnés sont protégés par « XCheck » à la fois sur Facebook et sur sa filiale, Instagram. L’année dernière, 5,8 millions d’utilisateurs de Facebook étaient couverts par « XCheck ».
Le programme est en place depuis des années – bien avant que Trump ne soit banni de la plateforme après avoir été accusé de fomenter l’émeute du 6 janvier au Capitole américain.
Le Journal s’est appuyé sur des documents internes fournis par des employés de l’entreprise, qui affirment que le programme protège les célébrités des mesures d’exécution prises à l’encontre des plus de 3 milliards d’autres utilisateurs de la plateforme.
Si une personnalité est soupçonnée d’avoir enfreint les règles, ses publications ne sont pas supprimées immédiatement, mais envoyées à un système distinct composé d’employés mieux formés qui examinent ensuite le contenu.
‘XCheck’ a permis à la star internationale du football Neymar de poster des photos dénudées d’une femme qui l’avait accusé de viol en 2019. Les images ont été supprimées par Facebook après une journée entière, ce qui leur a permis d’être vues par les dizaines de millions d’abonnés de Neymar.
Alors que la procédure standard de Facebook prévoit la suppression des « images intimes non consensuelles » ainsi que la suppression du compte.
Mais les photos de Neymar montrant la femme nue ont pu être conservées pendant une journée entière et son compte n’a pas été désactivé.
Un examen interne de Facebook a décrit le contenu comme une « vengeance pornographique » de Neymar.
Il s’agit notamment de la vidéo qui a été repostée plus de 6 000 fois, d’intimidation et de harcèlement à l’égard de sa personnalité.
Neymar a nié l’allégation de viol et a accusé la femme de tenter de l’extorquer. Aucune charge n’a été retenue.
La femme qui a fait cette allégation a été accusée de diffamation, d’extorsion et de fraude par les autorités brésiliennes. Les deux premières accusations ont été abandonnées, et elle a été acquittée de la troisième.
Le livestream de Mark Zuckerberg avec ses employés a été interdit par son propre algorithme.
En 2019, le PDG de Facebook, Mark Zuckerberg, a organisé une session de questions-réponses diffusée en livestreaming avec des employés de ses propres entreprises.
Mais la session a été interdite par erreur parce qu’elle est allée à l’encontre du propre algorithme de la plateforme, selon le Wall Street Journal.
Cette erreur est l’un des 18 cas de 2019 qui ont été signalés par inadvertance parmi ceux qui sont « sur liste blanche » par le programme « XCheck ».
Quatre de ces cas concernaient des posts du président de l’époque, Donald Trump, et de son fils, Donald Trump Jr.
Les autres incidents comprenaient des posts de la sénatrice Elizabeth Warren, du mannequin Sunnaya Nash, et d’autres personnes.
Le Journal cite un examen interne qui reconnaît : « Nous ne faisons pas réellement ce que nous disons faire publiquement ».
Contrairement au reste de notre communauté, ces personnes peuvent violer nos normes sans aucune conséquence », selon l’examen interne cité par le Journal.
Un porte-parole de Facebook a déclaré au Journal que le programme « a été conçu pour une raison importante : créer une étape supplémentaire afin que nous puissions appliquer avec précision les politiques sur le contenu qui pourrait nécessiter plus de compréhension ».
Un examen interne a révélé que même lorsque Facebook prend des mesures contre des comptes protégés, il le fait tardivement.
L’année dernière, « XCheck » a permis à des publications qui violaient les directives de Facebook d’être vues au moins 16,4 milliards de fois avant d’être finalement supprimées, selon un document obtenu par le Journal.
Le porte-parole, Andy Stone, a déclaré que l’entreprise était en train de supprimer progressivement ses politiques de « liste blanche » en ce qui concerne « XCheck ».
Une grande partie de ce matériel interne est constituée d’informations obsolètes assemblées pour créer un récit qui passe sous silence le point le plus important : Facebook a lui-même identifié les problèmes liés au contrôle croisé et s’est efforcé de les résoudre », a-t-il déclaré.
Le Journal a interrogé des dizaines d’employés actuels et anciens de Facebook qui affirment que l’entreprise est consciente des failles de sa plateforme et du préjudice qu’elles causent, mais qu’elle ne veut ou ne peut pas y remédier.
L’un d’entre eux, qui cherche à obtenir la protection fédérale des dénonciateurs, a remis les documents à la Securities and Exchange Commission ainsi qu’au Congrès.
Les examinateurs internes de Facebook savent que la plateforme a été utilisée pour des activités illicites entre les cartels de la drogue mexicains ainsi que pour le trafic d’êtres humains.
L’entreprise est également consciente de l’effet du réseau social sur la santé mentale des adolescents, selon le Journal.
Mais Facebook n’a pas pris de mesures pour résoudre ces problèmes, de peur de nuire à ses résultats financiers, selon le Journal.
M. Trump est actuellement banni de Facebook pour deux ans, mais les responsables de l’entreprise ont recommandé de prendre des mesures disciplinaires à son encontre dès le mois de juin de l’année dernière, en raison de son message sur les émeutes qui ont éclaté après la mort de George Floyd.
M. Trump a initialement partagé ce message sur Twitter et Facebook peu avant 1 heure du matin dans la nuit du 29 mai 2020, après une troisième nuit de manifestations violentes dans le Minnesota à la suite de la mort de George Floyd.
Le message en entier disait: « Je ne peux pas rester en arrière et regarder ce qui arrive à une grande ville américaine, Minneapolis. Un manque total de leadership. Soit le très faible maire de gauche radicale, Jacob Frey, se ressaisit et reprend la ville en main, soit j’envoie la Garde nationale pour faire le travail correctement.
….Ces crapules déshonorent la mémoire de George Floyd, et je ne laisserai pas cela se produire. Je viens de parler au gouverneur Tim Walz et je lui ai dit que les militaires sont avec lui jusqu’au bout. Au moindre problème, nous prendrons le contrôle, mais quand le pillage commence, les tirs commencent. Merci !
@realDonaldTrump
….Ces crapules déshonorent la mémoire de George Floyd, et je ne laisserai pas cela se produire. Je viens de parler au gouverneur Tim Walz et lui ai dit que l’armée est avec lui jusqu’au bout. S’il y a des problèmes, nous prendrons le contrôle, mais quand le pillage commence, les tirs aussi. Merci !
Quelques heures plus tard, Twitter a caché le message derrière un avertissement aux utilisateurs, qui indiquait : « Ce tweet a violé les règles de Twitter concernant l’apologie de la violence. Cependant, Twitter a déterminé qu’il pouvait être dans l’intérêt du public que le tweet soit accessible ».
Cependant, Facebook a laissé le message de Trump affiché sans aucun avertissement, ce qui a suscité la controverse.
M. Zuckerberg a défendu la décision de l’entreprise de laisser le message affiché, affirmant qu’il faisait référence à la Garde nationale et que les utilisateurs de Facebook avaient donc le droit de savoir « si le gouvernement prévoyait de déployer une force ».
Selon le Journal, le tweet de Trump a violé les règles de l’entreprise et aurait dû être supprimé.
Prendre une décision manuelle comme celle-ci semble moins défendable qu’une évaluation et une action algorithmiques », a écrit un responsable de l’entreprise.
Malgré les failles du programme, Facebook a continué à développer « XCheck », ajoutant des dizaines de milliers de noms chaque année.
Cela a été fait en dépit du fait que les employés de Facebook savaient que l’entreprise n’investissait pas assez de fonds dans la modération du contenu.
Comme l’entreprise n’accordait pas une priorité suffisante à la modération du contenu, elle a décidé d’établir une « liste blanche » – ou de refuser d’appliquer ses règles et directives – pour un groupe d’utilisateurs sélectionnés.
Ce problème est omniprésent et touche presque tous les secteurs de l’entreprise », selon un rapport interne de 2019.
L’examen a noté que les listes blanches « posent de nombreux risques juridiques, de conformité et de légitimité pour l’entreprise et nuisent à notre communauté.
Selon des chercheurs de l’université de New York, les fausses informations sur Facebook attirent SIX FOIS plus d’attention que les messages factuels.
Les fausses informations d’extrême gauche et d’extrême droite sur Facebook obtiennent six fois plus de likes et de partages que les posts factuels, révèle une étude portant sur des milliers de pages – après que le géant des médias sociaux ait banni les chercheurs de la plateforme.
L’étude évaluée par des pairs, réalisée par des chercheurs de l’université de New York et de l’université Grenoble Alpes en France, a passé au peigne fin 2 551 pages Facebook entre août 2020 et janvier 2021.
Elle a révélé que les fausses informations des deux côtés de l’échiquier politique se propagent plus rapidement que les faits provenant de sources faisant autorité comme l’Organisation Mondiale de la Santé et les médias de masse comme CNN.
L’étude a été publiée après que Facebook a fermé les comptes personnels des chercheurs, qui examinaient les données d’une autre étude sur les publicités politiques avant la publication de la plus récente.
Facebook a affirmé que les chercheurs « utilisaient des moyens non autorisés pour accéder aux données et les collecter », en violation de ses conditions d’utilisation et d’un accord conclu en 2019 avec la Federal Trade Commission concernant la protection des données personnelles.
Mais Samuel Levine, directeur par intérim du bureau de protection des consommateurs de la FTC, a répliqué en disant qu’un décret de consentement permet à Facebook de créer des exceptions aux restrictions de collecte de données « pour des recherches de bonne foi dans l’intérêt public ».
Selon les universitaires, l’entreprise tente d’exercer un contrôle sur les recherches qui la dépeignent sous un jour défavorable.
Les chercheurs de l’université de New York ont constaté que 40 % des sources d’extrême droite et 10 % des sources de centre ou de gauche font la promotion de la désinformation.
Ils ont également indiqué que la désinformation représente 68 % de l’engagement avec les sources d’extrême droite, contre seulement 36 % pour les sources d’extrême gauche.
L’étude est susceptible d’alimenter les allégations selon lesquelles Facebook a élargi le fossé politique aux États-Unis en renforçant les opinions préexistantes des utilisateurs et en les cloisonnant dans des silos.
Le fondateur de la société, Mark Zuckerberg, s’est présenté à de nombreuses reprises devant le Congrès, témoignant sur les questions de vie privée et d’abus de données.
Les recherches « contribuent à étoffer l’ensemble des preuves qui montrent que, malgré les divers efforts d’atténuation, la désinformation a trouvé un foyer confortable – et un public engagé – sur Facebook », a déclaré Rebekah Tromble au Washington Post.
Mme Tromble est directrice de l’Institute for Data, Democracy and Politics de l’université George Washington, qui a examiné les conclusions de l’étude de l’université de New York.
L’étude divise les éditeurs de presse en fonction de leur tendance politique, sur la base des informations fournies par NewsGuard et Media Bias/Fact Check.
Elle a révélé que les messages publiés sur les pages Facebook de sites de gauche, comme Occupy Democrats, et de sources de droite, comme Dan Bongino et Breitbart, ont autant de chances de voyager plus loin que les messages de sources plus centristes.
Ce que nous constatons, c’est que ces écosystèmes sont fondamentalement différents », a déclaré Laura Edelson, chercheuse à la NYU, à CNN. L’écosystème médiatique d’extrême droite comporte une part beaucoup plus importante de sources de désinformation, 40 % en fait.
Ces résultats ont d’énormes implications pendant la pandémie de COVID-19. Près d’un tiers des personnes, soit 31 %, obtiennent leurs informations sur le coronavirus à partir de Facebook, selon le projet Covid States.
En réponse aux critiques sur les fake news pendant l’élection de 2016, Facebook a modifié son fil d’actualité pour présenter plus de publications de la famille et des amis et moins de pages et d’entreprises.
En juillet, le président Joe Biden a déclaré que les entreprises de médias sociaux qui permettent la diffusion de fausses informations « tuent les gens ».
Facebook conteste ces résultats, affirmant que les pages, qui sont publiques et peuvent être « aimées » par de nombreux utilisateurs, ne représentent qu’une petite partie de l’activité sur la plateforme de médias sociaux.
Ce rapport s’intéresse principalement à la façon dont les gens s’engagent avec le contenu, ce qui ne doit pas être confondu avec le nombre de personnes qui le voient effectivement sur Facebook », a déclaré Joe Osborne, porte-parole de Facebook.
Lorsque vous regardez le contenu qui obtient la plus grande portée sur Facebook, cela ne ressemble pas du tout à ce que cette étude suggère.
Il a ajouté que l’entreprise dispose de 80 vérificateurs de faits couvrant plus de 60 langues afin d’identifier et de réduire la diffusion de fake news.
Mme Edelson, qui a mené l’étude sur la désinformation, a été coupée de Facebook le mois dernier après que l’entreprise a fait valoir que sa collecte de données pour une autre étude sur la désinformation dans les publicités politiques pourrait les mettre en violation d’un accord de 2019 de la Commission fédérale du commerce des États-Unis sur la protection de la vie privée.
‘Cette dernière action de Facebook visant à couper les efforts de transparence d’un groupe extérieur – efforts qui ont facilité à plusieurs reprises les révélations de publicités violant les conditions de service de Facebook, de publicités pour des fraudes et des schémas financiers prédateurs, et de publicités politiques qui ont été incorrectement omises de la bibliothèque de publicités peu reluisante de Facebook – est profondément inquiétante’, a déclaré le sénateur Mark Warner, un démocrate de Virginie, dans un communiqué.
La FTC (Federal Trade Commission) a démenti la plainte de Facebook.
La FTC n’a pas été informée que Facebook invoquerait publiquement notre décret d’accord pour justifier la fin de recherches universitaires en début de semaine », a écrit Sam Levine, directeur par intérim du Bureau de la protection des consommateurs de la FTC, dans une lettre adressée à Facebook.
Bien qu’il ne nous appartienne pas de résoudre les litiges individuels entre Facebook et des tiers, nous espérons que l’entreprise n’invoque pas la protection de la vie privée – et encore moins le décret de consentement de la FTC – comme prétexte pour atteindre d’autres objectifs », a écrit M. Levine.
Les conservateurs se sont souvent plaints que les grandes plateformes de médias sociaux ont réduit au silence leurs opinions. Pendant l’élection de 2016, Facebook a sérieusement envisagé de supprimer la vidéo du candidat de l’époque, Donald Trump, appelant à une interdiction des musulmans, selon le New York Times.
Après la victoire éclatante de Trump, les ingénieurs en sécurité de Facebook ont présenté une étude sur la façon dont les fake news se sont propagées si rapidement sur la plateforme.
Joel Kaplan, vice-président de la politique publique mondiale de Facebook, a fait valoir que la fermeture des pages aurait un impact disproportionné sur les conservateurs, selon le Washington Post.
Trump a finalement été banni de Facebook et de Twitter après avoir appelé ses partisans à se rendre au Capitole le 6 janvier, où ils ont fait irruption dans le bâtiment lors d’une émeute qui a fait cinq morts.
Les employés de Facebook se sont plaints que la pratique de la liste blanche laissait les utilisateurs exposés à la désinformation.
Nous exposons sciemment les utilisateurs à des informations erronées que nous avons les processus et les ressources nécessaires pour atténuer », peut-on lire dans un mémo de 2019 rédigé par des chercheurs de Facebook.
À un moment donné, les modérateurs de contenu examinaient moins de 10 % des publications problématiques d’utilisateurs protégés par » XCheck « .
Un utilisateur de Facebook qui figurait sur la liste blanche a été autorisé à partager un article d’un médecin décédé il y a plus de 40 ans, affirmant que la chimiothérapie était inefficace pour traiter le cancer.
L’une des raisons fondamentales pour lesquelles j’ai rejoint Facebook est que je crois en son potentiel pour être une force profondément démocratisante qui permet à chacun d’avoir une voix civique égale », a écrit Samidh Chakrabarti, un cadre qui a dirigé l’équipe civique de Facebook, dans un document.
Le fait d’avoir des règles d’expression différentes selon les personnes est donc très troublant pour moi ».
D’autres employés ont exprimé leur mécontentement à l’égard du programme.
La prise de décision de Facebook sur la politique de contenu est influencée par des considérations politiques », a écrit un économiste de la division data-science de l’entreprise.
Kaushik Iyer, un ingénieur de l’équipe d’intégrité civique de Facebook, a écrit en juin 2020 : « Séparez la politique de contenu de la politique publique. »
