« Toxic Data » : la menace de l’intermédiation algorithmique

À l’ère numérique, les sujets de discussion sont susceptibles de se polariser autour de points de vue toxiques à l’échelle d’une société entière. Pouvons-nous au moins espérer que la cohésion sociale, même affaiblie, ne sera pas rompue, et que deux camps qui s’opposent sur un thème trouveront toujours un terrain d’entente sur un autre ? [...] Que deux voisins en désaccord sur la vaccination continueront à échanger sur des questions politiques, que deux amis en désaccord sur des questions politiques continueront à discuter sur les questions environnementales ? Nous avons l’habitude de vivre à l’intersection de plusieurs cercles relationnels qui reflètent la diversité de nos centres d’intérêt et de nos rôles sociaux. [...] Nous nous appuyons activement sur le contexte pour filtrer l’information à laquelle nous accordons de l’importance et pour choisir quel type d’information échanger. Nous n’abordons pas partout, ni n’importe comment, des thèmes tels que l’alimentation, l’éducation, le sport, la contraception ou l’immigration. [...] Bref, nous sommes capables d’orienter notre attention et d’adapter notre comportement en fonction du contexte social. [...] Les algorithmes ne font pas la distinction entre vos différents cercles relationnels et traitent indifférement vos sujets de préoccupation. [...] Facebook peut très bien vous bombarder de messages que l’une de vos connaissances a appréciés alors même que vous n’abordez jamais ce type de sujets avec elle. Ce bombardement intempestif vous amènera peut-être à adopter un point de vue auquel vous ne vous seriez pas exposé naturellement ou, au contraire, à rompre un lien social par overdose de contenus dissonants, alors que vous auriez très bien pu continuer à sympathiser sur d’autres sujets avec cette personne. [Il en résulte que] la structure de vos cercles sociaux est brouillée. [...] Vous êtes privé(e) des filtres contextuels que vous appliquiez dans vos interactions quotidiennes.

Plus un réseau social se densifie avec l’ajout de liens, plus le nombre moyen d’intermédiaires entre deux personnes se réduit. Or les contenus négatifs ont tendance à se propager, de proche en proche, plus facilement que d’autres types de contenus. Dès lors qu’un certain seuil de densification est atteint, ces contenus négatifs sont donc les premiers à pouvoir toucher une très large fraction du réseau, même s’ils sont produits par un très petit nombre de personnes. Dernier effet potentiel à signaler : comme les mécanismes d’influence sociale ne respectent plus les frontières de vos cercles relationnels sur les réseaux sociaux numériques, les valeurs, les croyances et les comportements risquent de s’y aligner en passant d’un cercle relationnel à l’autre. Ce phénomène favoriserait ainsi une polarisation globale de la société, sur plusieurs dimensions à la fois (par exemple, aux États-Unis, en général, les antivax sont aussi climatosceptiques et républicains). Bien que cet effet n’ait pas encore été documenté, il pourrait expliquer la polarisation importante de nos sociétés actuelles et la formation concomitante de plusieurs lignes de fracture.

La liste est longue, et un seul ouvrage ne suffirait pas à examiner l’ensemble des configurations sociales au sein desquelles le numérique s’est immiscé, les choix algorithmiques qui ont été faits et leurs conséquences sociales. Il y a néamoins un point commun à toutes ces plateformes : elles se mettent en tête de gérer une partie de nos relations à autrui. [...] En se posant en intermédiaires dans le flux des échanges sociaux et en modelant la perception que nous avons de notre monde social, les réseaux sociaux numériques se sont arrogé le pouvoir de modeler à leur avantage les piliers de la cohésion sociale.