DestaqueGoiâniaGoiásManchetesRedditTecnologia

Jornal VER 7 – CEO do Reddit diz que é “impossível” impor consistentemente regras de discurso de ódio

Uma discussão vazada revela o difícil problema de treinar AI para detectar e definir insultos

Um tópico de chat privado divulgado neste fim de semana revela que banir o discurso de ódio no Reddit é aparentemente um trabalho muito difícil de se tentar.

A notícia, vista pela primeira vez pelo Huffington Post , vem de uma conversa vazada entre o CEO do Reddit, Steve Huffman, e o usuário do Reddit, Zachary Swanson, conhecido como “whatllmyusernamebe” no site. Swanson pediu a Huffman para reconsiderar sua posição permissiva sobre o discurso de ódio no site, apontando que as regras do Reddit já proíbem o discurso “violento” , que o site define como “conteúdo que encoraja, glorifica, incita, ou pede violência ou dano físico contra um indivíduo ou um grupo de pessoas. ”

Em resposta, Huffman argumentou que o discurso de ódio é “difícil de definir”, acrescentando que impor uma proibição total do discurso de ódio é “um precedente quase impossível de sustentar” e “impossível impor consistentemente”. Depois de falar com Huffman, Swanson postou screenshots de sua conversa em um  subreddits, incluindo r / stopadvertising , que é dedicado a reduzir o discurso de ódio no site. Depois disso, Swanson recebeu um e-mail dizendo que ele foi suspenso do site por uma semana sob acusação de assédio.

Esta não é a primeira vez que Huffman se encontra em sai justa por causa de sua postura sobre o discurso do ódio. Em abril , Huffman viu-se envolvido em controvérsia por se recusar a moderar qualquer racismo que acontecesse em seu site. Na época, ele disse que a postura do Reddit no discurso é “separar o comportamento das crenças”, e que o discurso de ódio não constitui um “comportamento”. Os usuários estavam perguntando especificamente a Huffman sobre isso em relação ao r / The_Donald, o subreddit dedicado ao presidente dos EUA que tem sido frequentemente criticado por abrigar discussões racistas ou intolerantes.

Huffman mais tarde esclareceu que achava que o racismo não era “bem-vindo” ao Reddit, mas acreditava que “a melhor defesa contra o racismo e outras visões repugnantes tanto no Reddit quanto no mundo é em vez de tentar controlar o que as pessoas podem e não podem dizer regras, é repudiar essas visões em uma conversa livre. ”

Como Huffington Post aponta, existem sites de mídia social que tentam moderar para o discurso de ódio, incluindo Facebook , Instagram e Twitter . A questão é que esses esforços normalmente levam o esforço humano. Neste momento, o Facebook trabalha com dezenas de pessoas – principalmente contratadas no exterior – para supervisionar o conteúdo, revisar o material sinalizado e decidir quando algo violou suas regras. Eles são os que inspecionam as postagens dos usuários para decidir o que constitui e o que não constitui discurso de ódio. É um problema caro e exatamente porque a empresa está comprando e desenvolvendo software especializada em processamento de linguagem natural para lidar com esse problema com inteligência artificial. Em última análise, o objetivo é ter uma IA que possa entender a linguagem e a intenção, que são cruciais para decidir quão odioso ou benigno um determinado post pode ser.

O Reddit pode não ter esses algoritmos, mas a empresa decidiu policiar o discurso de ódio no passado, uma vez que ele cruza uma linha nebulosa e normalmente envolve uma quantidade razoável de pressão pública. Depois de meses de críticas em 2015, o site fechou um punhado de comunidades subreddit abertamente racistas , com Huffman afirmando que eles “violam o espírito da política, tornando o Reddit pior para todos os outros.” Dois meses antes, Huffman tinha desligado usuários motivos semelhantes.

 

Jornal VER 7 – CEO do Reddit diz que é “impossível” impor consistentemente regras de discurso de ódio
5 (100%) 1 vote
Tags

# Talis

Talis é jornalista.

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *