X

Recherches fréquentes

Comment l'outil «suggestion d'amis» fait se rencontrer les terroristes sur Facebook

TEXTE
16 mai 2018

«Quelqu'un pourrait mourir dans une attaque terroriste organisée grâce à nos outils» écrivait il y a quelques années Andrew Bosworth dans un mémo interne de Facebook. Les inquiétudes alors lucides du bras droit de Mark Zuckerberg, d'abord gardées confidentielles, n'ont été révélées qu'en mars dernier grâce à une fuite. L'inertie – et la relative inefficacité – de l'entreprise vis-à-vis des organisations radicales, en dépit de ces alertes formulées il y a longtemps, est d'autant plus choquante que nombre de terroristes, en effet, se servent activement de ses services pour exister.

Et il y a pire: ces plateformes peuvent participer indirectement à la création d'un terroriste. C'est le constat plutôt inquiétant d'une expérience menée par des chercheurs de l'ONG Counter Extremism Project. Leur question de départ? La fonction de suggestion d'amis sur Facebook peut-elle aider les extrémistes confirmés et les candidats au radicalisme à se rencontrer sans même l'avoir vraiment cherché? Affirmatif, ont déjà répondu les auteurs de l'étude paraissant ce mois.

Réseautage à l'insu de son plein gré

Ayant généré un profil fictif, ils ont ensuite, depuis ce compte cobaye, cliqué sur des liens et des articles mainstream non-extrémistes évoquant Daesh. Et surprise, les initiateurs de l'expérimentation ont rapidement reçu des invitations d'ajout venant tout droit d'individus proches ou se revendiquant de l'Etat islamique. Même si la modération de Facebook est censée pister et supprimer les profils faisant l'apologie du terrorisme, seulement la moitié des comptes suspects ayant été suggérés aux chercheurs de l'ONG a été définitivement désactivée à l'issue des six mois d'expérience.

L'enquête souligne ainsi comment un internaute, au départ vaguement intéressé par l'idéologie djihadiste, peut en quelques clics innocents se mettre à fréquenter des réseaux louches. Et se retrouver, par le truchement pourtant neutre des algorithmes, enfermé dans une bulle cognitive où l'islamisme devient progressivement la seule vérité admise. Flippant, vous avez dit?

-

Et quelques liens

La fuite d'un mémo interne embarrasse Facebook

Facebook accused of introducing extremists to one another through 'suggested friends' feature

Sur Internet, l'invisible propagande des algorithmes


Article précédent Légalement, les singes peuvent-ils faire des selfies? Article suivant Facebook a compris comment récolter encore davantage de données personnelles