La modération des contenus est-elle compatible avec l’activité commerciale des réseaux sociaux ?

De nouvelles formes de conflit, qui n’ont rien à voir avec la violence physique, se multiplient sur les plates-formes de partage de contenu en ligne : réseaux sociaux, sites de partage de vidéos, services de messagerie, etc. Un pic à près de 200 millions d’engagements mensuels a été enregistré pour des histoires de désinformation sur Facebook.

Les plates-formes numériques qui hébergent ces contenus sont généralement créées et administrées par des entreprises privées, telles que Facebook et Instagram, qui définissent ces environnements en ligne et tiennent compte de diverses considérations et contraintes économiques rarement évoquées dans les études sur la sécurité.

Les développeurs de ces plates-formes numériques font souvent le choix d’exploiter des « effets de réseau », phénomènes par lesquels la valeur d’un utilisateur est d’autant plus grande qu’il y a d’utilisateurs sur le réseau. Idéalement, une plate-forme doit présenter une grande quantité de contenus prêts-à-consommer par les utilisateurs, tout en les incitant à créer de nouveaux contenus que d’autres voudront consommer.

Malheureusement, les effets de réseau rendent ces plates-formes tout aussi attirantes pour les diffuseurs de fake news, qui savent s’y adapter. C’est la raison pour laquelle les plates-formes de partage de contenu doivent réussir à modérer efficacement leurs contenus (processus par lequel elles contrôlent et suppriment les contenus qui violent leurs conditions d’utilisation).

Or, comme nous avons pu le constater à l’occasion d’un travail de recherche récent, ces activités de modération sont souvent très chronophages et difficilement automatisables, car les algorithmes sur lesquels elles s’appuient restent imprécis.

Une position délicate

Le modèle économique des plates-formes numériques consiste généralement à développer la base d’utilisateurs afin de maximiser les effets de réseau. Les plates-formes doivent trouver le juste équilibre entre les utilisateurs, les créateurs de contenu et les annonceurs.

Chaque type d’utilisateur paie un prix différent : les personnes lambda utilisent les services gratuitement, celles qui produisent un contenu particulièrement intéressant peuvent être rémunérées, et enfin, celles qui tirent le plus grand profit de la plate-forme, c’est-à-dire les annonceurs, doivent payer. Outre la gestion des effets de réseau et de la…

La suite est à lire sur: theconversation.com
Auteur: Olivier Chatain, Professor, Strategy and Business Policy, HEC Paris Business School