Faux comptes Facebook : la bataille sans fin contre les robots

Faux comptes Facebook : la bataille sans fin contre les robots

facebook fake accounts

Le chiffre stupéfiant de plus de trois milliards de faux comptes bloqués par Facebook sur une période de six mois met en évidence les défis auxquels sont confrontés les réseaux sociaux dans la réduction des comptes automatisés, ou bots, et d’autres efforts infâmes pour manipuler les plateformes.

Voici quatre questions clés sur le fléau des faux comptes FB :

Comment se fait-il que tant de faux comptes soient apparus dernièrement ?

Facebook a déclaré cette semaine qu’il a “désactivé” 1,2 milliard de faux comptes dans les trois derniers mois de 2018 et 2,19 milliards au premier trimestre de 2019. La plupart des faux comptes de médias sociaux sont des ” bots “, créés par des programmes automatisés pour afficher certains types d’information – une violation des conditions de service de Facebook et un effort pour manipuler les conversations sociales.

Des acteurs sophistiqués peuvent créer des millions de comptes en utilisant le même programme. Facebook a déclaré que son intelligence artificielle détecte la plupart de ces efforts et désactive les comptes avant qu’ils ne puissent poster sur la plate-forme. Pourtant, il reconnaît qu’environ 5 % des plus de deux milliards de comptes Facebook actifs sont probablement des faux.

Quel problème posent ces faux comptes ?

Les faux comptes peuvent être utilisés pour amplifier la popularité ou l’aversion d’une personne ou d’un mouvement, déformant ainsi l’opinion des utilisateurs sur le véritable sentiment public. Selon des chercheurs, les Bots ont joué un rôle disproportionné dans la diffusion de fausses informations sur les médias sociaux avant les élections américaines de 2016.

Des acteurs malveillants ont utilisé ce genre de faux comptes pour semer la méfiance et la division sociale dans de nombreuses régions du monde, fomentant dans certains cas la violence contre des groupes ou des individus.

Les Bots ” ne se contentent pas de manipuler la conversation, ils construisent des groupes et des ponts “, a déclaré Kathleen Carley, informaticienne à l’Université Carnegie Mellon, qui a fait des recherches sur les robots des médias sociaux, ” ils peuvent faire croire aux membres d’un groupe qu’ils pensent la même chose que les autres et, ce faisant, ils créent des chambres à écho.

Facebook affirme que ses outils d’intelligence artificielle peuvent identifier et bloquer les faux comptes au fur et à mesure qu’ils sont créés – et donc avant qu’ils ne puissent afficher de fausses informations. “Ces systèmes utilisent une combinaison de signaux tels que l’utilisation d’adresses e-mail suspectes, d’actions suspectes ou d’autres signaux précédemment associés à d’autres faux comptes que nous avons supprimés “, a déclaré Alex Schultz, vice-président de Facebook Analytics dans un billet de blog.

Est-ce que Facebook a le contrôle de la situation ?

faux comptesLes chiffres du rapport sur la transparence de Facebook suggèrent que Facebook agit agressivement sur les faux comptes, a déclaré Onur Varol, chercheur postdoctoral au Center for Complex Network Research de la Northeastern University.

“Trois milliards, c’est un chiffre important – ça montre qu’ils ne veulent pas rater de faux comptes. Mais ils sont prêts à prendre un risque” de désactiver certains comptes légitimes, a dit M. Varol.

Les utilisateurs légitimes peuvent être incommodés, mais peuvent généralement faire rétablir leur compte, a fait remarquer le chercheur. “J’ai l’impression que Facebook fait de sérieux efforts pour lutter contre les faux comptes, a-t-il ajouté.

Mais les nouveaux robots deviennent de plus en plus sophistiqués et difficiles à détecter, car ils peuvent utiliser le langage presque aussi bien que les humains, selon Carley. “Facebook a peut-être résolu la bataille d’hier, mais la nature de ces choses est en train de changer si rapidement qu’ils n’obtiendront peut-être pas les nouvelles “, a-t-elle dit.

Varol est d’accord, notant qu'”il y a des robots qui comprennent le langage naturel et peuvent répondre aux gens, et c’est pourquoi il est important de poursuivre la recherche”.

Dois-je m’inquiéter des robots et des faux comptes ?

De nombreux utilisateurs ne font pas la différence entre un compte réel et un faux compte, disent les chercheurs. Facebook et Twitter ont intensifié leurs efforts pour identifier et éliminer les faux comptes, et certains outils publics comme le Botometer développé par Varol et d’autres chercheurs peuvent aider à déterminer la probabilité de faux comptes Twitter et leurs adeptes.

“Si vous utilisez Facebook pour communiquer avec votre famille et vos amis, vous ne devriez pas vous inquiéter “, a déclaré Filippo Menczer, un informaticien qui fait des recherches sur les médias sociaux à l’Université d’Indiana. “Si vous l’utilisez pour accéder aux nouvelles et les partager avec vos amis, vous devriez faire attention.”

M. Menczer a déclaré que de nombreux utilisateurs de Facebook accordent peu d’attention à la source du matériel et peuvent finir par partager des informations fausses ou trompeuses. “Tout le monde pense qu’ils ne peuvent pas être manipulés, mais nous sommes tous vulnérables, a-t-il dit.

Avec les robots, les humains représentent un élément clé dans la chaîne de la désinformation, selon les chercheurs. “La plupart des fausses informations ne viennent pas des robots, dit Carley. “La plupart provient de blogs et les robots les rediffusent” pour amplifier la désinformation.