Procurador-Geral propõe mudanças na lei da Internet nas manchetes do relatório de tiro em massa em Buffalo

ALBANY – A procuradora-geral de Nova York, Letitia A. James, que propôs mudanças radicais nas leis de Internet dos EUA após o ataque mortal de 14 de maio em um supermercado Buffalo Tops, disse em um relatório divulgado na terça-feira que várias plataformas online “contribuíram para os horríveis tiroteios em massa e violência baseada no ódio”.

O relatório, que conclui uma investigação de cinco meses pela Gov. Kathleen C. Hochul, também revelou novos detalhes sobre a disseminação online de fotos e vídeos do ataque e o funcionamento interno do fórum de mensagens 4chan, que especialistas descrevem como um -extremista de direita Um terreno fértil para moléculas.

O relatório concluiu que o estado não pode apresentar acusações criminais ou civis contra essas plataformas porque as leis existentes as protegem de responsabilidade. Ainda assim, suas descobertas reforçam o escrutínio governamental das plataformas de mídia social, que enfrentam crescentes críticas bipartidárias por suas políticas de moderação, algoritmos de recomendação e influência cultural.

O atirador de Buffalo, Payton Gendron, de 18 anos, escreveu em seu diário online que o 4chan o apresentou a ideias de supremacia branca, enquanto plataformas como Discord, Reddit, YouTube e Twitch permitiram que ele planejasse seu ataque e transmitisse para milhões de espectadores. . Somente o Facebook e o Instagram removeram cerca de 1 milhão de postagens relacionadas ao tiroteio em Buffalo nas nove semanas após o ataque, segundo o relatório.

Entre outras medidas, James agora recomenda que Nova York criminalize a gravação de fotos e vídeos durante um assassinato e imponha penalidades civis a quem compartilhar esse conteúdo.

O relatório determinou que um “indivíduo” não identificado foi responsável por gravar a transmissão ao vivo de Gendron do massacre de Tops Markets e compartilhá-la com outras plataformas.

“As plataformas online devem ser responsabilizadas por permitir a disseminação de conteúdo odioso e perigoso”, disse James em comunicado. “O conteúdo extremista é predominante online, e todos devemos nos unir para enfrentar esta crise.”

Várias empresas de mídia social não responderam aos pedidos de comentários da Buffalo News.

Muitos dos detalhes do relatório sobre o uso das mídias sociais pelo atirador de Buffalo já são conhecidos do público. Concluiu que Gendron encontrou ideologias extremistas através de plataformas como 4chan e Reddit, e então usou armas e comunidades táticas em sites como Discord e YouTube para orquestrar massacres.

Mas depois de entrevistar representantes dos sites e intimar “milhares de páginas” de registros, investigadores do AG Internet and Technology Bureau e do Civil Rights Bureau também reuniram uma imagem de como as imagens de vídeo do tiroteio se espalharam e a tecnologia plataforma falhou completamente suprimida.

Especialistas em contraterrorismo e extremismo doméstico alertaram que tanto o vídeo quanto os escritos publicados do atirador podem inspirar futuros tiroteios.

O relatório descobriu que, em alguns casos, um sistema de moderação automatizado incompleto ou uma dependência excessiva de relatórios de usuários levaram os planos do atirador a não serem detectados antes do ataque. O sistema de moderação automatizado do atirador no Discord, no qual o atirador manteve diários explícitos por meses, não conseguiu sinalizar sua conta porque ele escrevia principalmente em canais privados, segundo o relatório.

Da mesma forma, o relatório descobriu que o Twitch, o site de transmissão ao vivo de propriedade da Amazon, usou aprendizado de máquina para monitorar os fluxos de vídeo de novos usuários – não capturando Gendron antes de começar a filmar, pois os primeiros 20 minutos não pareciam violar a política do site. Em vez disso, o site cortou o feed depois que três usuários relataram na mesma janela de 10 segundos, com um escrevendo que o streamer “está prestes a abrir uma loja”. Apenas espectadores de sete estrelas “20 a 28” poderão sinalizar isso para o administrador do site, pois apenas usuários logados podem enviar tais relatórios.

“Embora o vídeo de filmagem inicial tenha sido removido mais rapidamente do que os tiroteios em massa anteriores, não está claro se isso pode ser atribuído à moderação de conteúdo aprimorada da plataforma”, concluiu o relatório, “e à falta de velocidade. após a filmagem.”

O relatório também teve como alvo plataformas marginais e sites de hospedagem que pouco fizeram para impedir a distribuição dos escritos do atirador de Buffalo, ou das fotos e vídeos do ataque. Muitas plataformas convencionais, incluindo Facebook, YouTube, Twitter, Discord e Amazon, pertencem a uma parceria do setor chamada Global Internet Counterterrorism Forum, que ajuda esses sites a identificar e remover rapidamente conteúdo após ataques terroristas. O fórum sinalizou 740 imagens e 130 vídeos nas 25 horas após o massacre de Buffalo, permitindo que sites membros bloqueassem automaticamente conteúdo semelhante quando foi postado.

Mas alguns sites marginais e “alt-tech”, notadamente o fórum de mensagens anônimas 4chan, desafiaram a pressão da indústria para reprimir conteúdo violento e odioso.

Os investigadores descobriram que o vídeo do tiroteio em Buffalo foi carregado no 4chan antes de qualquer outro site depois que uma pessoa não identificada no estado de Washington o gravou ao vivo no Discord.

Os moderadores do 4chan removeram o vídeo inicial, mas permitiram muitos links e uploads subsequentes, incluindo 382 compartilhamentos do vídeo do atirador e 179 compartilhamentos de seu insulto racista nas nove semanas que se seguiram ao massacre. Em entrevistas com investigadores, moderadores do 4chan disseram que alguns dos fóruns do site permitem abertamente conteúdo violento e de ódio, incluindo aqueles que Gendron diz que frequenta, e que o site não se comunicou com fóruns globais da internet ou investigou suas postagens no site. .

Essas políticas provaram ser um desafio contínuo para legisladores e grupos da sociedade civil, que dizem que conteúdo online violento pode causar danos no mundo real – mas eles devem depender fortemente de plataformas para se policiar. A Primeira Emenda permite que os americanos publiquem conteúdo explícito, violento ou odioso online, com algumas exceções para coisas como material de abuso sexual infantil. Ao mesmo tempo, as plataformas gozam de ampla imunidade legal contra ações judiciais por conteúdo postado por seus usuários, graças à pedra angular da Seção 230 da Lei de Internet dos EUA.

O relatório da AG recomenda que Nova York considere liderar o país para uma legislação que criminalize a criação de imagens ou vídeos que retratam homicídios por perpetradores ou aqueles que agiram com eles. Também instou o Estado a criar novas penalidades civis para a transmissão ou distribuição de tal conteúdo.

“Esses vídeos são uma extensão do ato criminoso original projetado para incitar ou solicitar outros atos criminosos”, disse o relatório.

Além da nova lei estadual, o relatório pede ao Congresso que expanda as proteções legais da Seção 230 para plataformas que tomem medidas “razoáveis” para controlar “conteúdo criminoso violento ilegal”. Embora não esteja claro o que pode constituir uma ação razoável, o relatório recomenda capacitar as agências federais existentes para regular plataformas online e elaborar diretrizes de revisão, ou criar uma nova agência para supervisionar a conformidade das plataformas.

A recomendação vem quando a Seção 230 já foi criticada por legisladores federais e está sob escrutínio pela Suprema Corte dos EUA. Em 8 de outubro, o tribunal concordou em ouvir uma contestação histórica à Seção 230, que afirma que o YouTube é responsável pela morte de uma mulher americana em um ataque terrorista do ISIS porque hospedou vídeos que o ISIS usou para recrutamento.

Os advogados das vítimas de 14 de maio e suas famílias também estão entrando com possíveis ações civis contra várias plataformas, incluindo 4chan, Twitch e Discord. O relatório citou vários membros da família que falaram de seus medos de assistir ou aprender sobre o vídeo ao vivo: “É nojento saber que foi filmado e que as pessoas assistem como um filme”, ​​disse Kimberly Salter, esposa do segurança da Tops Aaron Salter Jr. … em seus comentários aos investigadores.

“O relatório do procurador-geral de hoje confirma algumas de nossas descobertas em nome das famílias que representamos”, disse o advogado Terry Connors. “Existem algumas plataformas online mal monitoradas que espalham ideologia racista e incitam a violência. Estamos analisando opções para responsabilizá-los pelo massacre de 14 de maio no Tops Market.”

Como Associado da Amazon, recebo receita de compras qualificadas.

Leave a Reply

Your email address will not be published.