Moderadores do Twitter recorrem à automação em meio ao aumento relatado de discurso de ódio | Twitter

O Twitter de Elon Musk depende muito da automação para moderar o conteúdo, de acordo com o novo chefe de confiança e segurança da empresa, em meio a um aumento relatado no discurso de ódio na plataforma de mídia social.

Ella Irwin disse à agência de notícias Reuters que Musk, que adquiriu a empresa em outubro, estava mais focado no uso da automação, dizendo que Twitter no passado, optou pela revisão humana de conteúdo prejudicial, que consumia muito tempo e trabalho intensivo.

“Ele encorajou a equipe a correr mais riscos, a se mover rapidamente, a proteger a plataforma”, disse ela.

Em relação à segurança infantil, Irwin disse que o Twitter passou a excluir automaticamente tweets sinalizados por figuras confiáveis ​​com um histórico de sinalizar postagens prejudiciais com precisão.

O Twitter também está restringindo de forma mais agressiva hashtags e resultados de pesquisa que conduzem ao abuso em áreas como exploração infantil, independentemente dos impactos potenciais sobre “usos benignos” desses termos, disse ela.

“A maior mudança é que a equipe está totalmente capacitada para se mover rápido e ser o mais agressiva possível”, disse Irwin.

Seus comentários vêm quando os pesquisadores relatam um aumento no discurso de ódio no serviço de mídia social, depois que Musk anunciou uma anistia para contas suspensas sob administração anterior da empresa que não infringiram a lei ou se envolveram em “spam flagrante”.

A empresa enfrentou questões pontuais sobre sua capacidade e disposição de moderar conteúdo prejudicial e ilegal desde que Musk cortou metade da equipe do Twitter e emitido um ultimato para trabalhar longas horas o que resultou na perda de centenas de funcionários adicionais.

Na sexta-feira, Musk prometeu “um fortalecimento significativo da moderação de conteúdo e proteção da liberdade de expressão” durante uma reunião com o presidente francês, Emmanuel Macron.

Irwin disse que Musk incentivou a equipe a se preocupar menos sobre como suas ações afetariam o crescimento do usuário ou a receita, dizendo que a segurança era a principal prioridade da empresa. “Ele insiste nisso todos os dias, várias vezes ao dia”, disse ela.

Pesquisadores dizem que o número de tweets contendo conteúdo odioso no Twitter aumentou acentuadamente uma semana antes de Musk twittar em 23 de novembro que as impressões ou visualizações do discurso de ódio caíram. Os tweets contendo palavras anti-negros naquela semana foram três vezes maiores do que no mês anterior à posse de Musk, enquanto os tweets contendo calúnias gays aumentaram 31%, de acordo com pesquisa do Center for Countering Digital Rush.

Irwin disse que as demissões não afetaram significativamente os funcionários em tempo integral ou contratados que trabalham no que a empresa chamou de divisões de “saúde”, inclusive em “áreas críticas” como segurança infantil e moderação de conteúdo.

Ela disse que o Twitter removeu cerca de 44.000 contas implicadas em violações de segurança infantil, trabalhando com o grupo de segurança cibernética Ghost Data.

O Twitter também está restringindo hashtags e resultados de pesquisa comumente associados a abuso, como a busca por pornografia “adolescente”. Preocupações anteriores sobre o impacto dessas restrições nos usos permitidos dos termos desapareceram, disse ela.

Usar “repórteres de confiança” foi “algo que discutimos no passado no Twitter, mas houve alguma hesitação e, francamente, apenas um pouco de atraso”, disse Irwin.