Le procureur général James et la gouverneure Hochul publient un rapport sur le rôle des plateformes en ligne dans la fusillade de Buffalo

Dans le sillage de ces conclusions, le procureur général James et la gouverneure Hochul appellent à des réformes fédérales et étatiques pour lutter contre l'extrémisme et la violence en ligne, notamment une législation étatique qui criminaliserait les images ou vidéos graphiques créées par l'auteur d'un homicide et pénaliserait les personnes qui partagent ou repostent ces mêmes images ou vidéos. En outre, le procureur général James et la gouverneure Hochul recommandent des modifications de la section 230 de la loi fédérale sur la décence des communications afin d'accroître la responsabilité des plateformes en ligne et d'exiger des entreprises qu'elles prennent des mesures raisonnables pour empêcher que des contenus criminels violents illégaux n'apparaissent sur leurs plateformes. 

"La tragique fusillade de Buffalo a mis en évidence les dangers réels des plateformes en ligne non modérées, qui sont devenues des lieux de reproduction de la suprématie blanche", a déclaré le procureur général James. "Aujourd'hui, j'ai rencontré les familles des victimes pour leur faire part des conclusions de ce rapport. Ce rapport est une preuve supplémentaire que la radicalisation et l'extrémisme en ligne constituent une menace sérieuse pour nos communautés, en particulier les communautés de couleur. Nous avons vu cela se produire à Christchurch, Charlottesville, El Paso et Buffalo, et nous ne pouvons pas attendre une autre tragédie pour agir. Les plateformes en ligne doivent être tenues pour responsables de la diffusion de contenus haineux et dangereux sur leurs plateformes. Les contenus extrémistes fleurissent en ligne, et nous devons tous travailler ensemble pour faire face à cette crise et protéger nos enfants et nos communautés." 

"Depuis trop longtemps, la haine et la division se répandent sur les plateformes en ligne - et comme nous l'avons vu dans ma ville natale de Buffalo, les conséquences sont dévastatrices", a déclaré Gouverneur Hochul. "À la suite de l'horrible fusillade perpétrée par des suprémacistes blancs cette année, j'ai émis un renvoi demandant au Bureau du procureur général d'étudier le rôle joué par les plateformes en ligne dans ce massacre. Ce rapport offre un compte rendu glaçant des facteurs qui ont contribué à cet incident et, surtout, une feuille de route vers une plus grande responsabilisation." 

Le rapport du BVG a examiné plusieurs plateformes en ligne utilisées par le tireur, notamment 4chan, 8kun, Reddit, Discord, Twitch et YouTube, ainsi que d'autres plateformes en ligne où le BVG a trouvé du contenu graphique de la fusillade ou du manifeste du tireur, notamment Facebook, Instagram, Twitter, TikTok et Rumble. Le BVG a cité ces entreprises à comparaître et a examiné des milliers de pages de documents. Les enquêteurs ont examiné la manière dont les plateformes ont été utilisées pour distribuer et promouvoir des mèmes et des messages racistes et antisémites et pour partager des images de violences racistes antérieures, deux éléments qui ont contribué à la radicalisation du tireur présumé. Le rapport explique également comment plusieurs plateformes grand public ont été utilisées pour diffuser en direct la fusillade dans le but d'inciter à d'autres actes de violence, et comment des vidéos explicites de la fusillade ont proliféré en ligne.  

En somme, le rapport confirme que plusieurs plateformes en ligne ont joué un rôle indéniable dans cette attaque raciste, d'abord en radicalisant le tireur alors qu'il consommait des quantités volumineuses de contenus racistes et violents, puis en l'aidant à préparer son attaque et enfin en lui permettant de la diffuser. Le rapport fait état des points suivants : 

• Les plateformes marginales alimentent la radicalisation: De son propre aveu, le tireur de Buffalo a été radicalisé par des contenus racistes et antisémites virulents sur des sites Web et des plateformes anonymes, pratiquement non modérés, qui fonctionnent en dehors de l'Internet classique, notamment 4chan. Dans le sillage de la fusillade de Buffalo, une vidéo graphique de la fusillade enregistrée par un spectateur du livestream du tireur a proliféré sur des sites marginaux. L'anonymat offert par 4chan et les plates-formes similaires, ainsi que leur refus de modérer le contenu de manière significative, font que ces plates-formes continuent d'être des terrains propices aux discours de haine raciste et à la radicalisation.
   
• Le livestreaming est devenu un outil pour les tireurs de masse: Le livestreaming est devenu un outil permettant aux tireurs de masse de rendre leur crime instantanément public, terrorisant davantage la communauté ciblée par le tireur et servant de mécanisme pour inciter et solliciter d'autres actes violents. Le tireur de Buffalo a été galvanisé par sa conviction que d'autres personnes le regarderaient commettre des actes de violence en temps réel. Bien que la plateforme qu'il a utilisée pour diffuser en direct ses atrocités ait désactivé le livestream dans les deux minutes suivant le début de la violence, deux minutes, c'est encore trop.
   
• Les politiques de modération des plateformes grand public sont incohérentes et opaques: De nombreuses grandes plateformes établies ont amélioré leur temps de réponse pour identifier et supprimer les contenus problématiques liés à la fusillade de Buffalo, notamment les vidéos graphiques de la fusillade et le manifeste du tireur, par rapport aux événements précédents. Cependant, les réponses des plates-formes étaient inégales, l'une d'entre elles étant incapable d'identifier les messages qui renvoyaient à des copies hors site de la vidéo de la fusillade, même après que ces messages aient été signalés par les utilisateurs. De nombreuses plateformes ne divulguent pas non plus entièrement la manière dont elles modèrent les contenus haineux, extrémistes ou racistes.
   
• Les plateformes en ligne manquent de responsabilité: Les plateformes en ligne bénéficient d'une trop grande immunité juridique. L'article 230 de la loi sur la décence des communications protège largement les plates-formes de la responsabilité de leurs décisions en matière de modération de contenu, même lorsqu'une plate-forme permet aux utilisateurs de publier et de partager des contenus illicites.

En réponse aux conclusions du rapport, le procureur général James recommande une série de réformes qui sont soutenues par le gouverneur Hochul et qui permettraient de lutter contre l'extrémisme en ligne et d'accroître la responsabilité des plateformes en ligne. Ces recommandations comprennent : 

• Créer une responsabilité pour la création et la distribution de vidéos d'homicides: New York et d'autres États devraient adopter une législation imposant une responsabilité pénale pour la création, par l'auteur, d'images ou de vidéos décrivant un homicide. New York devrait envisager d'établir une responsabilité civile pour toute personne qui transmet ou distribue de telles images ou vidéos au-delà de l'auteur. De concert avec les révisions appropriées de la section 230, cette responsabilité s'étendrait aux plateformes en ligne, y compris les médias sociaux et les plateformes de diffusion en direct, qui ne prennent pas de mesures raisonnables pour empêcher la diffusion de ces contenus.
   
• Ajouter des restrictions au livestreaming : Le livestreaming a été utilisé comme un outil par le tireur de Buffalo, comme les attaques précédentes alimentées par la haine, pour documenter et diffuser instantanément ses actes violents afin de s'assurer une certaine renommée et de radicaliser les autres. Le livestreaming sur les plateformes devrait être soumis à des restrictions - notamment des exigences de vérification et des délais d'enregistrement - conçues pour identifier la violence à la première personne avant qu'elle ne puisse être largement diffusée.
   
• Réforme de la section 230: Actuellement, la section 230 du Communications Decency Act fédéral protège les plates-formes en ligne de toute responsabilité pour le contenu de tiers qu'elles hébergent, quelles que soient les pratiques de modération de ces plates-formes. Le Congrès devrait repenser la disponibilité immédiate de la section 230 comme une défense complète pour les pratiques de modération de contenu des plateformes en ligne. Au lieu de cela, la loi devrait être réformée pour exiger qu'une plateforme en ligne qui souhaite conserver les protections de la section 230 prenne des mesures raisonnables pour empêcher les contenus criminels violents illégaux d'apparaître sur la plateforme. Cette proposition changerait le défaut. Au lieu de pouvoir simplement revendiquer une protection au titre de la section 230, une plate-forme en ligne a la charge initiale d'établir que ses politiques et pratiques étaient raisonnablement conçues pour traiter les contenus illicites.
   
• Accroître la transparence et renforcer la modération: Les plateformes en ligne devraient fournir une meilleure transparence sur leurs politiques de modération de contenu et sur la manière dont ces politiques sont appliquées en pratique, y compris celles qui visent à lutter contre les contenus haineux, extrémistes et racistes. Ils doivent également investir dans l'amélioration des processus et des procédures à l'échelle du secteur pour réduire la prévalence de ces contenus, notamment en élargissant les types de contenus qui peuvent être analysés pour détecter les violations de leurs politiques, en améliorant la technologie de détection et en fournissant des moyens encore plus efficaces pour partager les informations.
   
• Appel aux fournisseurs de services du secteur pour qu'ils en fassent plus: Les fournisseurs de services en ligne, comme les bureaux d'enregistrement de domaines et les sociétés d'hébergement, s'interposent entre les sites marginaux et les utilisateurs. Ces entreprises devraient examiner de plus près les sites web qui diffusent de manière répétée des contenus violents et haineux, et refuser de desservir les sites qui perpétuent le cycle de la violence suprématiste blanche.

"Dans l'après-midi du 14 mai 2022, un tireur isolé a parcouru 200 miles pour infliger un acte de terrorisme ignoble et raciste aux bons et innocents habitants de Buffalo. Ce tueur et d'autres comme lui ont utilisé des salons de discussion virtuels et diverses formes de médias sociaux pour planifier, coordonner et diffuser des attaques conduisant à une douleur et une souffrance impensables et pourtant bien réelles", a déclaré le représentant américain Brian Higgins . "Pendant trop longtemps, les méga-entreprises ont éludé leur responsabilité en matière de modération du contenu et n'ont pas été tenues responsables de leur rôle d'hôte d'activités dangereuses et criminelles. Puisse cette horrible tragédie être un moyen de combattre la haine et de promouvoir la compréhension, de tenir les gens responsables de leurs actes et de construire une société plus juste."
 

"Les images et les sons de l'horrible attaque raciste ont hanté beaucoup de ceux qui ont été directement et indirectement touchés par ce terrible événement. Non seulement les personnes présentes dans les Tops et leurs proches ont subi cette perte profonde en temps réel, mais ils ont découvert plus tard que le tireur raciste avait diffusé son massacre sur les médias sociaux, où des millions de personnes dans le monde entier ont pu voir chacune de ces belles vies bien remplies être prises pour cible et enlevées de manière insensée", a déclaré le sénateur Tim Kennedy, State . "Bien que ce livestream ait été retiré par la suite, la vidéo de leurs meurtres et tentatives de meurtre a continué à circuler, partagée par des millions de personnes sur les médias sociaux et diffusée dans les reportages d'actualité - un visuel dont aucune famille ne devrait être témoin une fois, et encore moins à perpétuité. Le rapport du procureur général James met en lumière ces problèmes et propose des solutions et des plans d'action intelligents. Les entreprises de médias sociaux doivent être tenues pour responsables. Ils doivent mieux surveiller les discours haineux qui envahissent les flux et les plateformes, et s'engager à supprimer les menaces et la propagande dangereuse et agressive."

"Un nombre croissant d'attaques violentes contre des communautés commencent par des discours haineux en ligne", a déclaré le maire de Buffalo Byron Brown . "Il est beaucoup trop facile pour les individus de se radicaliser et d'être endoctrinés par une idéologie haineuse par le biais d'Internet. Le meurtrier du 5/14 a recherché sa cible à Buffalo, a diffusé ce manifeste haineux et a diffusé ses meurtres en direct avec une facilité déconcertante. Il faut faire beaucoup plus pour garantir qu'il n'y a pas de place sur Internet pour les discours de haine, pour l'endoctrinement de la haine, pour la diffusion de manifestes de haine."

"Les médias sociaux ont eu de nombreux effets négatifs sur la communauté concernant la fusillade de masse du 14 mai. Il a non seulement diffusé une attaque malveillante qui a laissé beaucoup trop de personnes traumatisées, mais il nous a fait prendre conscience d'un autre espace de haine partagé par les communautés de couleur", a déclaré Darius G. Pridgen, président du conseil communal de Buffalo, . "Le tireur a enlevé dix membres de famille de notre communauté et a éliminé le sentiment de paix et de sécurité en échange de la peur et de la douleur. Nous devons veiller à ce que les individus et les groupes soient mieux surveillés en ligne et fassent l'objet d'enquêtes afin de prévenir tout nouveau terrorisme. Toute menace de préjudice doit être prise au sérieux et faire l'objet d'une action immédiate."