Présentation & Notes de conférences - La haine, le harcèlement et les discriminations en ligne face à la loi

Antonin Decrulle

30 mai 2024

🗓️

Le 25 avril 2024 de 12h30 à 14h00 en ligne

Intervention de Suzanne Vergnolle dans le cadre du cycle de webinaires de sensibilisation organisé par l'association Vox Public. Ce webinaire vise à présenter les obligations légales applicables aux réseaux sociaux et les droits pour leurs utilisateurs. Il entend surtout former les acteurs de la société civile afin qu'ils puissent mieux comprendre les opportunités offertes par le droit dans ce domaine.

Notes de conférences

Entre mars et juin 2024, l’association VoxPublic organise une série de webinaires de sensibilisation destinés aux acteurs de la société civile. Leur but est de mieux comprendre le rôle et les responsabilités des réseaux sociaux dans la propagation des contenus haineux, discriminatoires ou constitutifs de harcèlement.

Le 25 avril 2024, à l’occasion du second webinaire, c’est le thème « La haine, le harcèlement et les discriminations en ligne face à la loi » qui a été présenté. Madame Suzanne Vergnolle, maître de conférences au Cnam (Conservatoire national des arts et métiers) et titulaire de la chaire sur la modération des contenus en ligne, a eu l’occasion de revenir sur les obligations des plateformes en ligne et les droits des utilisateurs.

En ouverture du webinaire, elle a fait un point historique, rappelant que pendant longtemps le principe régissant l’expression publique était celui de la censure. Ce n’est qu’à la suite du siècle des Lumières et de la consécration des principes de liberté d’expression et de la presse que la parole a pu être libérée. Sanctifiant le principe de liberté de la presse, la loi du 29 juillet 1881 a posé, dans le même temps, ses limites en instaurant une série de délits (injure, diffamation…).

Suzanne Vergnolle a rappelé qu’avec la démocratisation du Web, un véritable changement de paradigme a été provoqué : désormais, tout un chacun peut poster des contenus accessibles depuis le monde entier et leur diffusion est très rapide. Face à ces nouveaux paramètres et à la croissance impressionnante du volume des contenus publiés en ligne, le cadre légal applicable à ces discours a dû être adapté. Une distinction entre la notion d’éditeur et d’hébergeur a alors émergé juridiquement afin de favoriser le développement de l’activité des fournisseurs de services en ligne. À cet égard, la directive e-commerce a mis en place un régime de responsabilité atténuée pour ces prestataires. Plus précisément, les services d’hébergement ne peuvent pas être tenus responsables des contenus postés par le biais de leur service s’ils n’ont pas de connaissance de l’existence de contenus illicites et que, lorsqu’ils acquièrent cette connaissance, ils agissent promptement pour les retirer ou en rendre l’accès impossible. Bien que ces règles aient permis le développement d’un internet ouvert et accessible, Suzanne Vergnolle n’a pas manqué de souligner les dérives qui se sont progressivement installées.

Pour pallier ces difficultés et mieux encadrer les activités des fournisseurs de services en ligne, le législateur européen a adopté de nombreux textes, particulièrement le DSA (ou règlement sur le services numériques). Ce texte reprend le régime d’irresponsabilité conditionnelle issu de la directive e-commerce mais ajoute pléthore de nouvelles obligations de diligence auxquelles les prestataires doivent se conformer. L’intervenante a énuméré les points essentiels du DSA auxquels les acteurs du milieu associatif doivent prêter attention, notamment le fait que le texte régule les services intermédiaires en fonction des risques associés à leur utilisation et impose certaines règles particulières aux plateformes ainsi qu’un régime strict pour les très grands services en ligne.

Les obligations légales des plateformes en ligne

Dans un premier temps, Suzanne Vergnolle a présenté certaines obligations du DSA applicables aux plateformes en ligne et a expliqué comment la société civile peut tirer parti de ces obligations pour mettre les plateformes face à leurs responsabilités.

En ce qui concerne les nouvelles obligations applicables aux services en ligne, la modération des contenus constitue l’un des points forts du DSA. Désormais, les plateformes en ligne doivent mettre à la disposition de toute personne un mécanisme de notification des contenus illicites (art. 16) et traiter de manière prioritaire les notifications des signaleurs de confiance (art. 22). Ces signaleurs de confiance sont des entités indépendantes nommées par les autorités nationales en raison de leur expertise particulière. En outre, le DSA accorde une place prépondérante à la notion de transparence. À ce titre, le règlement impose à tous les services intermédiaires de produire régulièrement un rapport de transparence (art. 15, 24 et 42) présentant des éléments en lien avec leurs pratiques de modération des contenus et les moyens alloués à cette modération. Suzanne Vergnolle a rappelé que ces rapports de transparence constituent des ressources précieuses pour les acteurs de la société civile. En effet, des analyses et des comparaisons peuvent être effectuées afin de non seulement mieux comprendre les politiques de modération des différents services mais aussi de demander des comptes aux plateformes. Enfin, la gestion des risques est également un thème majeur du DSA. Le texte prévoit en effet que les très grands services doivent effectuer une évaluation annuelle des risques systémiques associés à l’utilisation de leurs services (art. 34) et prendre des mesures pour atténuer ces risques (art. 35).

Les droits des utilisateur.rice.s

Dans un deuxième temps, Suzanne Vergnolle a analysé les droits garantis par le règlement sur les services numériques pour les utilisateurs des réseaux sociaux ainsi que le potentiel rôle des acteurs associatifs dans le cadre de l’exercice de ces droits.

Avant toute chose, il a été rappelé que le DSA reconnaît peu de droits individuels aux destinataires des services. Seuls quelques droits individuels, tels que celui d’introduire une plainte ou de recevoir une indemnisation sont explicitement reconnus. Cependant, le DSA pondère cette lacune en instaurant de nombreux droits « collectifs » et en octroyant un rôle majeur à la société civile. Dans le cadre de son rapport, Suzanne Vergnolle a dénombré les nombreux rôles pouvant être joués par la société civile, notamment les associations.

Dans le cadre du webinaire, elle a rappelé que le statut de signaleur de confiance constitue une importante opportunité pour les associations de mettre à profit leur expertise afin de contribuer à assainir les contenus postés en ligne et de faire remonter au régulateur les dysfonctionnements du système. De la même manière, les acteurs de la société civile peuvent s’appuyer sur l’analyse des rapports de transparence pour inciter la Commission européenne à encourager la standardisation de ces rapports. Par ailleurs, les associations ont aussi la possibilité de représenter les destinataires des services dans le cadre de procès (art. 86). Toutefois, l’intervenante a réitéré que cette représentation présente des limites intrinsèques liées aux droits reconnus par le DSA. Enfin, ce sont les pouvoirs attribués aux chercheurs qui ont fait l’objet d’une présentation particulière. L’article 40 du DSA prévoit en effet que les chercheurs peuvent accéder aux données des très grands services afin d’enquêter sur l’évaluation et l’atténuation des risques systémiques. L’article établit deux procédures distinctes d’accès aux données, permettant aux chercheurs agréés et aux autres chercheurs, dont ceux travaillant pour des associations, d’accéder aux données des grands services.

Pour conclure, Suzanne Vergnolle a rappelé le DSA conserve le régime d’irresponsabilité atténuée de la directive e-commerce tout en l’enrichissant de nouvelles obligations de diligence. Dans ce contexte, le DSA représente une source d’espoir dans la mesure où il garantirait une transparence accrue, une meilleure protection des destinataires des services, notamment contre les risques systémiques ainsi qu’une revalorisation du rôle de la société civile. Néanmoins, le texte accorde peu de droits aux destinataires des services et son succès dépendra aussi bien de l’implication de toutes les parties prenantes que de la mise en œuvre effective de ses dispositions.

Échanges avec le public

Au cours de la présentation, de nombreuses questions ont été posées par des membres de l’audience. L’une de ces questions portait par exemple sur la différence de traitement entre un match de football retransmis illégalement dont l’accès est immédiatement supprimé et un contenu haineux en ligne qui n’est pas nécessairement modéré. L’intervenante a mis en avant le motif financier dans la mesure où les plateformes suppriment ces contenus promptement par peur des poursuites judiciaires. En effet, les défenseurs des droits d’auteur parviennent à détecter et à signaler les contenus illicites très rapidement car ils sont bien organisés. En ce qui concerne les contenus haineux, il n’existe pas de groupe de pression aussi efficace. Par ailleurs, ces contenus polarisants peuvent apporter de l’engagement et donc des revenus à la plateforme. Plusieurs autres questions ont porté sur les signaleurs de confiance, notamment sur leur désignation et sur la possibilité de leur fournir des moyens financiers ainsi que de les accompagner via des formations. Suzanne Vergnolle a déploré qu’aucune rémunération ne soit prévue pour les signaleurs de confiance alors même qu’ils assistent les plateformes dans leur travail de modération des contenus. Elle a mentionné la création d’une taxe prévue dans le DSA dont les très grands services doivent s’acquitter pour financer les mesures de surveillance. Elle a rappelé que, dans son rapport, elle propose qu’une partie de cette taxe soit reversée aux signaleurs de confiance. Une personne s’est également interrogée sur les pratiques de modération concernant les contenus reproduisant un contenu précédemment posté et jugé illicite par les équipes de modération. Suzanne Vergnolle a expliqué que la principale difficulté dans la modération de ces contenus réside dans le fait qu’ils sont souvent repostés sur plusieurs plateformes simultanément. Enfin, des membres du public ont posé des questions sur les avancées majeures liées à l’adoption du DSA. À ce titre, l’intervenante a mentionné les nombreuses demandes d’information de la Commission et les quatre enquêtes ouvertes par cette dernière, ainsi que l’implication des associations qui participent aux tables rondes et qui contribuent aux travaux des régulateurs.

En définitive, ce webinaire avait un objectif double : expliciter les principales dispositions du DSA et mettre en lumière le fait que l’implication de la société civile sera cruciale pour que ces dispositions soient appliquées efficacement.