ASSÉDIO E VIOLÊNCIA ONLINE: POSSIBILIDADES A PARTIR DA MODERAÇÃO DE CONTEÚDO

As redes sociais formaram uma nova arena para a ação comunicativa e redimensionaram as possibilidades de participação de grupos diversos. Neste cenário de ampliação das possibilidades comunicativas, em que há a potencialidade de que qualquer pessoa comum se torne, de fato, um emissor de conteúdo de ampla recepção, algumas questões relativas ao engajamento equitativo e democrático permanecem prementes, como (1) o acesso material de pessoas a esses serviços, (2) a educação digital e a possibilidade de, de fato, se tornar um ator relevante na circulação de conteúdo, e (3) outros obstáculos materiais como casos de violência online. Este artigo foca neste terceiro eixo. Apresento aqui um breve panorama sobre as implicações de violências discursivas na participação em debates online, especificamente, em relação ao assédio baseado em gênero: suas formas de ocorrência e possíveis soluções infraestruturais nas plataformas digitais.

Fonte: Creative Commons. Edição: Carolina Telles.

Assédio online: um problema para a democracia?

Processos de silenciamento de grupos minoritários podem ocorrer de três formas:

(1) por processos de subjetivação, provocados por uma sociabilidade distinta, a qual não permite a reprodução dos signos linguísticos que são valorizados pela sociedade;

(2) pela ausência de reconhecimento social (Honneth 1996) [1] , que produz exclusão simbólica e/ou material;

(3) por processos de violência direta, como no caso de ofensas e perseguições, que tem como intenção bloquear e impedir, de forma ativa, a participação de grupos de indivíduos no ambiente público;

O assédio online se encaixa neste terceiro âmbito. Como Lenhart et al (2016) observam, este conceito serve para abranger uma gama de comportamentos que produzem

“contatos indesejáveis, e que são utilizados para criar um ambiente intimidador, incômodo, amedrontador, ou até mesmo hostil para as vítimas, com usos de meios digitais para alcançar a vítima.” (tradução livre)

Idealmente, sistemas democráticos deveriam possibilitar que grupos tenham a mesma possibilidade de participação e construção do debate público (Dahl, 1994), já que um de seus pressupostos basilares é a igualdade entre sujeitos. Se a esfera virtual tem se tornado o principal ambiente para a interlocução comunicativa entre sujeitos, mecanismos que evitem a sobreposição de grupos em relação a outros e que estimulem a participação de minorias, são desejáveis.

A literatura recente que discute assédio e discurso de ódio traça uma distinção bastante demarcada do assédio direcionado a uma pessoa por ser parte de um grupo específico e de ofensas direcionadas a uma pessoa por seus posicionamentos. Em geral, as consequências do primeiro são maiores e mais profundas. Como uma pessoa experiencia o assédio depende não apenas do tipo e da natureza dessas ofensas, mas também das suas experiências prévias em relação a outros fatores como forças físicas e psicológicas, além do status da vítima na sociedade (Leets, 2002). Isso significa que grupos que já sofrem com violências discursivas e com desigualdades de tratamento na vida social, potencialmente estão mais vulneráveis em situações de constrangimento – inclusive devido à falta de amparo de instituições públicas.

Em geral, os estudos feministas entendem o assédio online como sendo uma expressão de padrões culturais mais amplos que colocam a mulher em uma posição inferior na sociedade. Seriam formas de se reforçar papeis sexuais existentes no mundo offline nesta nova arena. Em relação ao assédio online, há ainda outras características típicas do ambiente virtual que podem o tornar mais grave do que o assédio offline, tais como (1) anonimato; (2) difusão; (3) permanência.

A partir de dois surveys conduzidos na Noruega, Marjan Nadin e Audun Fladmoe (2019), procuraram examinar a natureza do assédio online, tendo gênero como categoria principal de observação, na intenção de responder se: (1) mulheres experienciam mais assédio online do que homens – e quais as diferenças das ofensas de um grupo para o outro; e, (2) em qual extensão há padrões de gênero em relação a como o assédio atua como um mecanismo de silenciamento?

O estudo de Nadin e Fladmoe indicou que mais homens sofrem comentários ofensivos do que mulheres, mas, no entanto, estes dizem respeito a seus posicionamentos e não sobre suas identidades. Outro resultado desta pesquisa foi que as diferenças de gênero são enaltecidas conforme o grau da agressividade das ofensas e que mulheres têm maior tendência a deixar de publicar conteúdos, após terem sofrido com ataques do que os homens. Neste contexto, portanto, houve uma confirmação da hipótese de que o assédio tem potencialidade de silenciamento.

Em relação ao viés de gênero: os autores citam estudos realizados com fontes anglófonas que mostram como o assédio online direcionado a mulheres tem características próprias: são geralmente ofensas hiperbólicas e com teor de escárnio sexualizado, que acusam as vítimas de serem pouco inteligentes, histéricas e feias, além de ameaças e/ou fantasias sobre atos sexuais violentos geralmente pensados como formas de “corrigir” os seus comportamentos.

Outras revisões recentes de literatura sobre esses comportamentos online afetam mais ainda mulheres jovens (Henry & Powell, 2018), o que também foi constatado em uma pesquisa do Pew Research Center (2017).

Ofensas, quando direcionadas a um grupo específico, possuem consequências maiores e provocam mais danos do que outras formas de insultos porque atingem a identidade pessoal (Chakraborti & Garland, 2015, p. 13) e, como gatilhos, trazem em si a memória da exclusão e de violências mais graves que ocorreram a outras pessoas por pertencerem ao mesmo grupo social. Por exemplo, Boeckmann e Liew (2002) afirmam que o discurso de ódio que atinge um grupo específico produz respostas emocionais mais fortes em seus receptores do que outras formas de discursos degradantes. Isso significa que, por ser um gatilho para a consciência de um indivíduo de que ele faz parte de um grupo vulnerável, o assédio, como discurso de ódio direcionado a uma pessoa por fazer parte de um grupo específico, suscita mais medo do que outros insultos.

Ainda, experiências de assédio e ódio direcionados a um grupo podem funcionar como ameaças (Chakraborti & Garland, 2015) porque — intencionalmente ou não — afetam não apenas a vítima direta, mas a comunidade mais ampla que possui os mesmos traços identitários. Para mulheres, por exemplo, as experiências de outras mulheres — e, consequentemente, o seu conhecimento sobre os riscos de estar sujeita a uma mesma situação ou a situações similares — podem gerar medo, ainda que elas não tenham sido, em suas experiências pessoais, vítimas de nenhuma violência direta.

Esses comportamentos perpassam uma retórica de exclusão e ameaças. Servem ao propósito de estabelecer e reforçar papeis sexuais na sociedade, como uma mensagem para que mulheres se recordem de qual deve ser “seu lugar” na hierarquia social. Ainda que não exista uma intenção explicita na mensagem do perpetrador, essas ofensas são direcionadas, em geral, a mulheres como grupo, para além daquela que é vítima.

Uma das conclusões mais fundamentais da pesquisa do Data & Society, é a de que o assédio online, além de provocar medo e outros sintomas emocionais, faz com que grupos vulneráveis tomem mais cuidado ao exprimirem suas visões: quatro a cada dez mulheres disseram ter se auto-censurado para evitar o assédio online. Negros e indivíduos LGBTs também tendem a se auto-censurar mais que brancos e heterossexuais. Por este motivo, o assédio pode ser uma ameaça aos próprios ideais de igualdade e à participação democrática equitativa.

Nesse sentido, devido à potencialidade de silenciamento de grupos específicos, o assédio online deve ser considerado como um problema para a democracia, já que há afetação da participação equitativa nas redes – e, consequentemente, implicações na organização fora das plataformas digitais, já que esta é mediada por debates que ocorrem no espaço virtual.

Como o assédio online ocorre?

Jhaver, Ghoshal, Bruckman e Gilbert (2018), observaram a partir da análise de listas de bloqueio do Twitter e entrevistas com usuários (bloqueadores e bloqueados), quais são os mecanismos utilizados para a realização do assédio online e o que costuma ser considerado como comportamento ofensivo.

Traçaram, assim, uma descrição geral de táticas utilizadas mais comumente por assediadores:

Soluções possíveis?

A despeito de avanços em políticas de comunidades para evitar abusos em plataformas como Tinder e Twitter, ainda não é tão claro como discursos ofensivos online podem ser interpretados por máquinas — o que dificulta a implementação de soluções automatizadas. Observando o Twitter, por exemplo, é possível ver que uma parte significativa da linguagem misógina possa ser classificada como “misoginia casual”. Isto é, termos como “estupro”, “vadia”, e “prostituta” podem ser usados de forma metafórica, sem de fato serem ameaçadores ou abusivos. Formas mais sutis e menos agressivas de ofensas podem ser expressadas para mulheres, e ainda assim comunicarem que mulheres são incapazes, objetificáveis e cidadãs de segunda-classe.

No entanto, algumas medidas para a redução da incidência do assédio online podem ser pensadas, tais como:

1. A edição de leis específicas anti-assédio online — que, mesmo sem intuito coercitivo, podem ter como efeito a denúncia e visibilidade do problema;

2. Moderação online: (como disse neste texto) nem sempre a resposta regulatória é o melhor e único caminho. Há possibilidade de aplicação de técnicas diversas de moderação, que não seja apenas a remoção de conteúdo ofensivo;

3. No Twitter, por exemplo, alguns bots são programados para chamar a atenção para discursos ofensivos;

4. Mensagens de alerta: como no caso do Tinder, mensagens de alerta podem aparecer na própria plataforma para que os usuários tenham ciência de que estão usando linguagem que pode ser considerada ofensiva;

5. Educação e fomento a contra-discursos: com campanhas anti-assédio, por exemplo;

6. Contra-balanceamento com mensagens positivas e expressões de apoio da comunidade online.

___________________

* Uma versão anterior desse texto foi publicada em: https://medium.com/centro-de-tecnologia-e-sociedade/ass%C3%A9dio-e-viol%C3%AAncia-online-perspectivas-para-a-modera%C3%A7%C3%A3o-39f4b799308f

NOTAS:

[1] A ausência de reconhecimento, na teoria honnethiana, é produzida pela distinção interpessoal em relações assimétricas de poder. Se manifesta, (1) na esfera afetiva sendo traduzida em violências e maus-tratos, produzindo inibições à constituição de autoconfiança; (2) na esfera jurídica, a partir da privação de direitos e exclusão institucional/estrutural, inibindo a percepção do autorrespeito individual; (3) na esfera social, manifestada em ofensas e outras formas de degradações morais e materiais, afetando a constituição da autoestima, pela privação de estima social.

REFERÊNCIAS

BOECKMANN, Robert J.; LIEW, Jeffrey. "Hate speech: Asian American students’ justice judgments and psychological responses". Journal of Social Issues 58, n. 2, 2002, p. 363–381.

CHAKRABORTI, N.; GARLAND, J. Hate crime: Impact, causes and responses. Sage Publications, 2009.

FLADMOE, A.; NADIM, M. "Silenced by hate? Hate speech as a social boundary to free speech. Boundary Struggles". Contestations of Free Speech in the Public Sphere. Oslo: Cappelen Damm Akademisk, pp. 45–76, 2017.

FRASER, Nancy. "Rethinking the public sphere: A contribution to the critique of actually existing democracy". Between borders: Pedagogy and the politics of cultural studies, 1994, p. 74–98.

GELBER, Katharine; MCNAMARA, Luke. "Evidencing the harms of hate speech". Social Identities, n. 3, 2016, p. 324–341.

HEREK, Gregory M.; COGAN, Jeanine C.; GILLIS, J. Roy. "Victim experiences in hate crimes based on sexual orientation". Journal of Social Issues, n. 2, 2002, p. 319–339.

HONNETH, Axel. The struggle for recognition: The moral grammar of social conflicts. Mit Press, 1996.

JHAVER, Shagun et al.. Online Harassment and Content Moderation: The Case of Blocklists. ACM Transactions on Computer-Human Interaction, [s.l], vol. 25, n. 02, março 2018. Disponível em: http://eegilbert.org/papers/tochi18-jhaver-blocklists.pdf.

LEETS, L. Experiencing hate speech: Perceptions and responses to anti‐semitism and antigay speech. Journal of social issues, 58, n. 2, 2002, 341–361.

LENHART, Amanda; YBARRA, Michelle; ZICKUHR, Kathryn; PRICE-FEENEY, Myeshia. Online Harassment, Digital Abuse, and Cyberstalking in America. Data & Society Institute. 21 nov. de 2016.

NADIM, Marjan; FLADMOE, Audun. "Silencing women? Gender and online harassment". Social Science Computer Review, 2019.

PEREIRA DA SILVA, Sivaldo. "Políticas de acesso à Internet no Brasil: indicadores, características e obstáculos." Cadernos Adenauer. Rio de janeiro: Fundação Konrad Adenauer (2015): 151-171.

Como citar esse post: CURZI, Yasmin. (2020). “Assédio e Violência Online: Possibilidades a partir da moderação de conteúdo”. Horizontes ao Sul. Disponível em:

Yasmin Curzi é pesquisadora do Centro de Tecnologia e Sociedade da FGV Direito Rio e Doutoranda em Sociologia pelo IESP-UERJ.

email: ycurzi@gmail.com

Editora responsável: Simone da Silva Ribeiro Gomes