Les révélations embarrassantes n’en finissent pas pour Facebook. Après la série d’articles du Wall Street Journal, à partir des documents fournis par la lanceuse d’alerte Frances Haugen – auditionnée ensuite par des sénateurs américains –, c’est au tour du site The Intercept de publier une “liste noire” interne.

Plus exactement, il s’agit d’un instantané de cette liste évolutive des “individus et organismes dangereux”, qui comprend plus de 4 000 entrées. Son origine remonte à 2012, explique The Intercept dans un article d’analyse : “Alors que le Congrès et les Nations unies s’alarmaient du nombre de terroristes recrutés sur Internet, Facebook avait décidé d’ajouter une mesure à ses ‘standards de la communauté’, en excluant des ‘organisations ayant commis des actes terroristes ou des crimes violents’.” Par la suite, cette politique s’est développée, pour aboutir à “un ensemble de restrictions drastiques sur ce que peuvent dire presque 3 milliards d’utilisateurs de Facebook au sujet d’une liste toujours plus longue d’entités”.

Si le réseau social met régulièrement en avant cette politique comme preuve de ses efforts pour éviter la propagation des discours incitant à la violence, ses détracteurs lui reprochent son manque de transparence et jugent qu’elle “frappe de façon disproportionnée certaines communautés”, écrit The Intercept. Facebook a refusé de rendre la liste publique, alors que son propre comité de surveillance (oversight board) “a formellement recommandé de la publier en totalité à de multiples reprises”, selon le site d’investigation.

Deux poids, deux mesures ?

Aux yeux d’experts interrogés par The Intercept, “la liste et les règles qui l’accompagnent reflètent clairement les angoisses et préoccupations politiques américaines, et les valeurs de la politique étrangère de l’après-11 Septembre”. “En outre, d’après des experts, la politique des ‘individus et organisations dangereux’ et sa liste noire imposent des restrictions bien moins fortes aux commentaires sur des milices anti-État, essentiellement blanches, que sur des groupes et individus classés comme terroristes, surtout issus du Moyen-Orient ou d’Asie du Sud et musulmans, ou sur des complices présumés d’activités criminelles, en majorité noirs et latinos.”

Le site, situé à gauche, reconnaît que l’incitation à la haine crée un dilemme pour Facebook.

Ne rien faire [pour la limiter] serait perçu comme une négligence grossière par une grande partie des gens ; mais les tentatives de Facebook de contrôler les discours de millions d’utilisateurs dans le monde sont largement vues comme de l’autocratie.

Trois niveaux de “dangerosité”

La liste qu’a publiée The Intercept comprend plusieurs catégories : Terrorisme, Criminalité, Mouvements sociaux militarisés, Acteurs non étatiques violents. Être sur la liste interdit dans tous les cas d’avoir un compte sur une plateforme de Facebook. Il existe cependant trois niveaux différents, “correspondant à des restrictions plus ou moins strictes de la parole” au sujet de ces entités.

Le premier niveau est le plus strictement limité. Facebook explique supprimer “les éloges, les soutiens techniques et les représentations” à propos des entités qui y sont classées. Les entités “criminelles” de ce niveau sont, d’après The Intercept, “presque toutes des gangs américains et des cartels de la drogue latino-américains, avant tout noirs et latinos”. Les entités “terroristes” du même niveau sont issues, “dans une proportion écrasante”, du Moyen-Orient et d’Asie du Sud, indique le site.

La plupart de ces entités terroristes “proviennent directement du gouvernement américain” et spécifiquement d’une liste de sanctions du ministère des Finances “créée juste après le 11 Septembre”. Or, souligne The Intercept, cette liste est destinée “à punir des adversaires à l’étranger plutôt qu’à déterminer la ‘dangerosité’”. Facebook est ainsi conduit à restreindre les posts sur la Compagnie iranienne de fabrication de tracteurs ou le Fonds palestinien d’aide et de développement, une association britannique.

Il y a également “près de 500 groupes de haine dans le niveau 1, dont plus de 250 organisations suprémacistes”. Toutefois, Faiza Patel, de l’institut progressiste Brennan Center for Justice, “relève que des centaines de milices de Blancs d’extrême droite, apparemment semblables à ces groupes de haine, ont droit à un ‘traitement plus léger’ et sont placés dans le niveau 3”, indique The Intercept.

Le réseau social se défend en affirmant que “[sa] ligne sur les organisations suprémacistes blanches […] est bien plus dure que celle de n’importe quel État”. Il souligne que les Nations unies et quelques grands pays occidentaux “n’identifient en tout que 13 organisations suprémacistes blanches”.

Une définition très large

Le niveau 2, celui des “Acteurs non étatiques violents”, est composé d’entités telles que des groupes rebelles, qui visent des acteurs étatiques ou militaires et non civils. Les utilisateurs de Facebook peuvent approuver leurs actions non violentes, mais le réseau supprime tout “soutien technique” ou “représentation” de ces entités ou de leurs dirigeants.

Enfin, le niveau 3 comprend des entités non violentes, mais “susceptibles d’enfreindre à maintes reprises nos politiques en matière de discours incitant à la haine ou d’organismes dangereux […], ou de démontrer une forte intention de se livrer à des actes de violence”, indique Facebook. Sur ces entités, la parole est libre. Les “mouvements sociaux militarisés” sont à ce niveau et comprennent surtout, d’après The Intercept, des milices de droite états-uniennes.

Dans l’ensemble, conclut le site, “la liste de Facebook représente une définition particulièrement large de ‘dangereux’. Elle comprend […] plus de 200 musiciens ou groupes de musique, des chaînes de télévision, un studio de jeux vidéo, des compagnies aériennes, une université de médecine travaillant sur un vaccin iranien…”

Les modérateurs qu’emploie Facebook sont souvent embarrassés pour l’utiliser. Et certains de leurs choix sont pour le moins problématiques. En février dernier, un post contestant l’emprisonnement du leader révolutionnaire kurde Abdullah Öcalan, inscrit sur la liste, avait par exemple été supprimé. Avant que le comité de surveillance interne de Facebook n’appelle à revenir sur cette décision.

The Intercept

Abonnez-vous à la Lettre de nouveautés du site ESSF et recevez par courriel la liste des articles parus, en français ou en anglais.