X

Recherches fréquentes

Blog | Profile ton réseau

Comment l'outil de modération de Facebook peut être transformé en arme

28 mai 2019


Fausses informations, faux profils, harcèlement, ingénierie sociale… Sur ce champ de bataille idéologique que sont devenus les réseaux sociaux, l’arsenal à disposition pour mener sa guerre personnelle 2.0 a pris de l’ampleur au fil des ans. Mais parmi les armes utilisées, la plus immédiatement efficace est sans doute le sabotage. Encore mieux: contrairement aux autres moyens précités, elle ne requiert que peu d’énergie. Le principe? Parvenir à faire supprimer un groupe de discussion du camp ennemi en le rendant soudain non-conforme du point de vue du règlement de la plateforme qui l’héberge.

Un mode opératoire particulièrement redoutable qui est actuellement rendu possible par le renforcement de la modération, notamment sur Facebook. La personne qui mène l’attaque va en effet utiliser la puissance de la censure appliquée (un peu comme un judoka va détourner à son avantage la force de son adversaire) pour arriver à ses fins. La recette s’avère élémentaire. Les soldats numériques vont avant toute chose créer un faux profil, puis réussir à se faire accepter dans le groupe de discussion qu’ils cherchent à détruire. Une fois l’infiltration achevée, le reste du protocole est enfantin, consistant à poster dans le fil du groupe un contenu «inapproprié» et attendre que la réaction en chaîne diabolique s’enclenche.

En publiant ainsi un texte, une image ou une vidéo explicite (si possible avec de la nudité frontale et génitale, c’est sans doute ce qui va le mieux fonctionner…) l’assaillant va vite attirer l’œil de Sauron – pardon, alerter les algorithmes qui surveillent les contenus – et faire automatiquement suspendre le groupe. La puissance de frappe d’un tel stratagème a déjà fait ses preuves récemment, mettant au tapis en quelques heures des communautés Facebook parfois peuplées de centaines de milliers de membres, et dont les activités ou l’idéologie n’enfreignaient pourtant pas les règles du réseau social.

Cheval de Troie revisité

Dans le viseur des snipers? Des groupes dont la liberté d’expression, en particulier à propos de mouvances politiques et de sujets sensibles comme l’avortement, n’est pas du goût de tout le monde. Le procédé est tellement menaçant que depuis quelques semaines, des milliers de groupes Facebook estampillés «fermés» ont carrément opté pour le mode «secret», plus confidentiel encore, car n’apparaissant pas dans le moteur de recherche du réseau social, et n’offrant pas non plus la possibilité d’admettre de nouveaux membres.

Blindées comme des forteresses imprenables, ces communautés risquent cependant de perdre en influence. Facebook a d’ailleurs reconnu le problème, rendu conscient que certains petits malins mal intentionnés bernaient les outils de modération pour torpiller des groupes jusqu’ici sans histoire. La contre-attaque de la plateforme pour neutraliser les mercenaires 2.0 s’est même intensifiée ce printemps, avec la désactivation de près de 3 milliards de faux comptes destinés à influencer la Toile de manière bien fourbe.

 

Et quelques liens


Facebook says it will restore groups infiltrated by saboteurs

Facebook a supprimé plus de 3 milliards de faux comptes

Facebook admet que des groupes privés ont été victimes de « sabotage »
 

Retour au blog