Mas pode estar se preparando para o fracasso.
É uma realidade feia que vemos em todos os cantos da web: racismo, fanatismo, misoginia, extremismo político. Discurso de ódio parece prosperar na internet como um câncer.
Ele persiste e floresce em plataformas de mídia social como Facebook, Twitter e Reddit - eles certamente não alegam recebê-lo, mas estão tendo um bom tempo para mantê-lo sob controle. Nenhum AI ainda é sofisticado o suficiente para sinalizar todos os discursos de ódio perfeitamente, então os moderadores humanos têm que se juntar aos robôs nas trincheiras. É um processo imperfeito e demorado.
Como os sites de mídia social estão sob crescente escrutínio para erradicar seu problema de discurso de ódio, eles também se deparam com limites para o quanto eles podem (ou vão) fazer. Então, de quem é a responsabilidade, afinal, de mediar o discurso do ódio? Cabe às próprias plataformas online, ou o governo deve intervir?
O governo britânico parece pensar que a resposta é ambas. O Home Office e o Departamento de Digital, Cultura, Mídia e Esportes (DCMS) - um departamento responsável pela regulamentação da transmissão e da internet - está elaborando planos de regulamentação que tornariam legalmente responsáveis por todo o conteúdo que hospedam plataformas como Facebook e Twitter. , de acordo com o Buzzfeed News .
Em um comunicado ao Futurismo, o DCMS diz que “incentivou principalmente as empresas de internet a agir voluntariamente”. Mas o progresso tem sido muito lento - e é por isso que ele planeja intervir com “intervenção estatutária”.
Mas esse tipo de intervenção governamental é realmente o caminho certo quando se trata de discurso de ódio online? Os especialistas não estão convencidos disso. De fato, alguns acham que pode até causar mais mal do que bem.
Detalhes sobre o plano do DCMS são escassos - ainda é cedo no desenvolvimento. O que sabemos até agora é que a legislação, relata o Buzzfeed , teria duas partes. Um deles: introduziria "tempos de espera" - prazos nos quais as plataformas on-line teriam que eliminar o discurso de ódio ou enfrentar multas. Dois: padronizaria a verificação de idade para usuários do Facebook, Twitter e Instagram. Um white paper detalhando esses planos será supostamente publicado no final deste ano.
Por que o governo deveria intervir? As plataformas da Internet já estão tentando limitar o discurso de ódio por conta própria. O Facebook removeu mais de 2,5 milhões de mensagens de ódio e "conteúdo violento" somente no primeiro trimestre de 2018 , de acordo com um post no blog do Facebook publicado em maio.
De fato, essas plataformas têm lidado com discurso de ódio desde que elas existiram. "Não há nada de novo no discurso do ódio em plataformas on-line", diz Brett Frischmann , professor de Direito, Negócios e Economia na Universidade de Villanova. O governo britânico pode estar tentando impor uma lei para parar o discurso do ódio com muita rapidez para encontrar algo que funcione como deveria.
Infelizmente, o discurso de ódio é um tolo que se move muito mais rápido do que os editores parecem capazes. Como resultado, muito disso não é mediado. Por exemplo, o discurso de ódio dos grupos extremistas de extrema-direita no Reino Unido, muitas vezes ainda cai nas rachaduras , alimentando crenças xenófobas. Em casos extremos, esse tipo de discurso de ódio pode levar à violência física e à radicalização de mentes impressionáveis na internet.
Crédito de imagem: Pathum Danthanarayana
Jim Killock, diretor executivo do Open Rights Group no Reino Unido - uma organização sem fins lucrativos empenhada em preservar e promover os direitos dos cidadãos na internet - acha que a legislação, se fosse aprovada amanhã, não seria apenas ineficaz. Pode até ser contraproducente.
O crescente discurso de ódio online, acredita Killock, é sintomático de um problema muito maior. "De certa forma, o Facebook é um espelho da nossa sociedade", diz ele. “Esse maremoto de desagrado, como o racismo e muitas outras coisas, vem de trás [do sentimento] de inquietação com a falta de poder na sociedade, pessoas querendo alguém para culpar.”
Infelizmente, esse tipo de desilusão com a sociedade não mudará da noite para o dia. Mas quando uma política aborda apenas os sintomas da injustiça sistêmica em vez das questões reais, o governo está cometendo um erro. Ao censurar aqueles que sentem que estão sendo censurados, o governo está reforçando suas crenças. E isso não é um bom sinal, especialmente quando aqueles que estão sendo censurados estão ativamente espalhando o discurso de ódio online por conta própria.
Além disso, uma lei como a que o DCMS propôs tornaria certos tipos de discurso ilegais, mesmo que não seja o que a lei diz. Killock argumenta que, embora muitos materiais on-line possam ser "desagradáveis", muitas vezes isso não viola nenhuma lei. E não deveria ser para as empresas decidirem onde fica a linha entre as duas, acrescenta. “Se as pessoas estão infringindo a lei, é francamente o trabalho dos tribunais estabelecer esses limites.”
Mas há boas razões para evitar redesenhar essas fronteiras legais para que tipo de comportamento on-line deve ser aplicado (mesmo que tecnicamente não seja ilegal). O governo pode ter que ajustar uma lei geral muito mais abrangente que diz respeito à liberdade de expressão. Isso provavelmente não vai acontecer.
Os planos do governo do Reino Unido ainda estão em fase de desenvolvimento, mas já existem motivos de sobra para duvidar que a lei faça o que o governo pretende. Mudar as fronteiras entre o comportamento ilegal e não ilegal on-line cria um precedente perigoso, e isso pode ter algumas conseqüências indesejáveis - como flagrar conteúdo satírico como discurso de ódio, por exemplo.
O DCMS está se preparando para o fracasso: censurar o conteúdo on-line só vai encorajar seus críticos, ao mesmo tempo em que não resolve os problemas da raiz. Ela precisa encontrar o meio termo se quiser uma chance real: muita censura e a desconfiança daqueles que se sentem marginalizados continuarão se construindo. Muito pouca regulação e plataformas de internet continuarão a fazer com que muitos usuários se sintam indesejados ou levem à violência.
O governo do Reino Unido tem algumas táticas que poderia tentar antes de decidir regular o discurso online. O governo poderia incentivar as empresas a fortalecer o processo de apelação para derrubar conteúdo nocivo. “Se você dificulta bastante o uso de recursos, as pessoas podem não usá-las”, argumenta Killock. Por exemplo, o governo poderia introduzir uma legislação que assegurasse que cada usuário tivesse uma maneira padronizada de relatar conteúdo on-line problemático.
Mas será preciso uma mudança muito maior antes de podermos nos livrar do discurso de ódio de maneira significativa. “Culpar o Facebook ou as pessoas e opiniões horrendas que existem na sociedade talvez seja um pouco injusto”, diz Killock. “Se as pessoas realmente querem fazer e dizer essas coisas [nocivas], elas farão isso. E se você quiser que eles parem, você tem que persuadi- los de que é uma má ideia ”.
Como são essas políticas? Killock ainda não tem a resposta. “A questão que realmente temos é: como podemos fazer a sociedade se sentir melhor sobre si mesma?”, Diz Killock. "E eu não estou fingindo que isso é uma coisa pequena."
Jim Killock, diretor executivo do Open Rights Group no Reino Unido - uma organização sem fins lucrativos empenhada em preservar e promover os direitos dos cidadãos na internet - acha que a legislação, se fosse aprovada amanhã, não seria apenas ineficaz. Pode até ser contraproducente.
O crescente discurso de ódio online, acredita Killock, é sintomático de um problema muito maior. "De certa forma, o Facebook é um espelho da nossa sociedade", diz ele. “Esse maremoto de desagrado, como o racismo e muitas outras coisas, vem de trás [do sentimento] de inquietação com a falta de poder na sociedade, pessoas querendo alguém para culpar.”
Infelizmente, esse tipo de desilusão com a sociedade não mudará da noite para o dia. Mas quando uma política aborda apenas os sintomas da injustiça sistêmica em vez das questões reais, o governo está cometendo um erro. Ao censurar aqueles que sentem que estão sendo censurados, o governo está reforçando suas crenças. E isso não é um bom sinal, especialmente quando aqueles que estão sendo censurados estão ativamente espalhando o discurso de ódio online por conta própria.
Além disso, uma lei como a que o DCMS propôs tornaria certos tipos de discurso ilegais, mesmo que não seja o que a lei diz. Killock argumenta que, embora muitos materiais on-line possam ser "desagradáveis", muitas vezes isso não viola nenhuma lei. E não deveria ser para as empresas decidirem onde fica a linha entre as duas, acrescenta. “Se as pessoas estão infringindo a lei, é francamente o trabalho dos tribunais estabelecer esses limites.”
Mas há boas razões para evitar redesenhar essas fronteiras legais para que tipo de comportamento on-line deve ser aplicado (mesmo que tecnicamente não seja ilegal). O governo pode ter que ajustar uma lei geral muito mais abrangente que diz respeito à liberdade de expressão. Isso provavelmente não vai acontecer.
Os planos do governo do Reino Unido ainda estão em fase de desenvolvimento, mas já existem motivos de sobra para duvidar que a lei faça o que o governo pretende. Mudar as fronteiras entre o comportamento ilegal e não ilegal on-line cria um precedente perigoso, e isso pode ter algumas conseqüências indesejáveis - como flagrar conteúdo satírico como discurso de ódio, por exemplo.
O DCMS está se preparando para o fracasso: censurar o conteúdo on-line só vai encorajar seus críticos, ao mesmo tempo em que não resolve os problemas da raiz. Ela precisa encontrar o meio termo se quiser uma chance real: muita censura e a desconfiança daqueles que se sentem marginalizados continuarão se construindo. Muito pouca regulação e plataformas de internet continuarão a fazer com que muitos usuários se sintam indesejados ou levem à violência.
O governo do Reino Unido tem algumas táticas que poderia tentar antes de decidir regular o discurso online. O governo poderia incentivar as empresas a fortalecer o processo de apelação para derrubar conteúdo nocivo. “Se você dificulta bastante o uso de recursos, as pessoas podem não usá-las”, argumenta Killock. Por exemplo, o governo poderia introduzir uma legislação que assegurasse que cada usuário tivesse uma maneira padronizada de relatar conteúdo on-line problemático.
Mas será preciso uma mudança muito maior antes de podermos nos livrar do discurso de ódio de maneira significativa. “Culpar o Facebook ou as pessoas e opiniões horrendas que existem na sociedade talvez seja um pouco injusto”, diz Killock. “Se as pessoas realmente querem fazer e dizer essas coisas [nocivas], elas farão isso. E se você quiser que eles parem, você tem que persuadi- los de que é uma má ideia ”.
Como são essas políticas? Killock ainda não tem a resposta. “A questão que realmente temos é: como podemos fazer a sociedade se sentir melhor sobre si mesma?”, Diz Killock. "E eu não estou fingindo que isso é uma coisa pequena."
FONTE:
