Cette montée des discours haineux sur Internet et notamment sur les réseaux sociaux s’explique en partie par la facilité de communiquer dans le cyberespace, celle d’accéder à un auditoire, l’anonymat et une certaine forme d’impunité en ligne.Bien qu’ayant leur part de responsabilité dans ce phénomène, il serait déraisonnable de se limiter à pointer du doigt les internautes ou encore une frange de la société tout en étant conscient de la complexité de celui-ci.En effet, dans un contexte où les États peinent à mettre en place une législation du secteur numérique, les grandes compagnies et notamment les GAFAM (Google, Apple, Facebook, Amazon, Microsoft) ne se font pas prier pour imposer leurs conditions générales d’utilisation (CGU) au détriment des lois. De plus, chaque plateforme a ses propres algorithmes complètement invisibles pour la grande majorité des utilisateurs, mais aux rôles non moins importants. L’algorithme de Facebook est connu pour sa propension à favoriser les réseaux communautaires et affinitaires. En d’autres termes, Facebook a plus tendance à enfermer ses utilisateurs dans des bulles de filtre communautaires dans lesquelles ils reçoivent des messages qui vont conforter leurs opinions et renforcer l’opinion communautaire. En revanche, Twitter a un algorithme qui favoriserait le clash en affichant des messages contenant des opinions contraires à celles des utilisateurs.En 2016, Microsoft dévoilait Tay, son chatbot qui était censé apprendre des utilisateurs de Twitter, Facebook, Instagram et Snapchat grâce à l’intelligence artificielle. Cependant l’expérience a vite tourné au vinaigre et Tay est devenu un chatbot raciste et misogyne en 24h ce qui obligea Microsoft à le désactiver.Cette triade Loi, CGU et Code, est à prendre en considération dans toute tentative de lutte contre la haine en ligne avec une attention particulière pour le code. Car, ne nous méprenons pas, in fine, ce sont les algorithmes qui dans le cyberespace décident de laisser passer telle ou telle image ou vidéo et veillent à l’application des lois et des CGU. Cependant, il est important de noter que les propos haineux en ligne restent malgré tout très marginaux et que l’impression qu’ils sont majoritaires et omniprésents est principalement due à des phénomènes tels que la tyrannie des agissants, l’illusion de la majorité et certains biais cognitifs.Par défaut, Internet accorde plus d’importance à ceux qui s’expriment le plus, par conséquent, la minorité qui insulte fait beaucoup plus de bruit que la grande majorité qui n’insulte pas. Dominique Cardon disait d’ailleurs à ce sujet : « On est tous égaux a priori, mais la différence se creuse ensuite dans la mesure de nos actes, entre ceux qui agissent et ceux qui n’agissent pas. Internet donne une prime incroyable à ceux qui font. Et du coup, il peut y avoir une tyrannie des agissants. »L’illusion de la majorité quant à elle opère lorsqu’un utilisateur d’une plateforme numérique observe un comportement chez la plupart de ses amis du fait des algorithmes et des effets des bulles de filtre alors que ce comportement est en réalité plutôt rare dans l’ensemble du réseau.On pourrait aussi ajouter à la liste les effets Streisand et cigogne qui peuvent également participer à amplifier les propos haineux en ligne.Pour lutter de manière efficace contre ce phénomène, les États gagneraient entre autres à développer des programmes de littératie numérique, tout en exigeant des plateformes numériques et des fournisseurs de services Internet plus de surveillance et de modération des contenus en ligne, ainsi qu’un meilleur accès à la signalisation et aux mécanismes d’authentification.
Par Oumar Watt, spécialiste IT