Moderação de conteúdo e o caso da dança proibida

Quem tem o poder de dizer o que uma palavra significa?

Livre expressão

Sabe quando alguém faz um trocadilho com uma palavra ambígua e nós achamos engraçado? Isso é porque sabemos que aquela palavra tem mais de um significado, e conseguimos entender o que a pessoa quer dizer porque temos a capacidade de analisar o contexto no qual algo é dito. Essa é uma capacidade que nem sempre as máquinas podem imitar. Por isso, infelizmente, algumas vezes os algoritmos usados para detectar conteúdo impróprio limitam conteúdos que na maior parte do tempo são ofensivos mas, em dado contexto, são plenamente legítimos. E é mais triste ainda que isso tenha o potencial de propagar apenas o significado ofensivo daquela palavra, apagando seu sentido legítimo. No post de hoje, eu vou contar um fato que talvez pareça corriqueiro à primeira vista, mas ajuda a ilustrar o problema.

O conteúdo

Há algumas semanas atrás, estava vendo postagens no feed do Instagram e, de repente, percebi que uma delas tinha a hashtag “boogaloo”.

Quando cliquei na tal hashtag para ver ao que aquele conteúdo estaria associado em maior escala, o Instagram resultou em uma tela em branco, onde se lia: “Essa hashtag está oculta”, em letras negritadas, e mais abaixo em cinza: “As publicações com #boogaloo foram limitadas porque a comunidade denunciou um conteúdo que pode não cumprir as Diretrizes da Comunidade do Instagram”. Ou seja, conteúdos que contenham a palavra são excluídos da página de recomendação ou da busca por hashtags – em um tipo de shadowban, que esconde determinados conteúdos sem tomar medidas na sua fonte.  A própria pessoa que faz a postagem não recebe aviso algum.

A medida de moderação usada, além disso, não explica seu contexto. Na mesma tela que diz ter limitado as publicações, é possível clicar em um link “saiba mais”, mas ele apenas direciona para a página geral das diretrizes de comunidade do Instagram. Contudo, a postagem que eu estava vendo não guardava relação alguma com temas violadores de políticas de comunidade – tratava-se de um vídeo de coreografia.

O contexto

Para começar, vale explicar que boogaloo é um estilo de dança social; relata-se uma forma de dançar funk sob esse nome, originada em uma comunidade afro-americana de Chicago nos anos 1960, e também há diversas referências sobre boogaloo como dança urbana em Oakland, na Califórnia. O estilo é praticado até hoje nas danças urbanas, e nomeia diferentes passos. Seus movimentos compreendem ilusões, restrição de músculos, paradas, robô ou balançar, e têm um aspecto de entretenimento, diversão e expressão musical, sem qualquer potencial ofensivo – aqui e aqui, alguns passos são mostrados por seus praticantes. O perfil que fez a postagem a que me referi no início, inclusive, é de um professor de dança e movimento – a quem eu agradeço por ter enviado essas referências (obrigada, Vini!)! 

Então, seria muito estranho que esse termo se tornasse uma “hashtag proibida” apenas com base nessas informações. Mas mais contexto é necessário para entender o que aconteceu nas redes sociais. No ano passado, devido ao projeto sobre transparência na moderação de conteúdo aqui do IRIS, me tornei assinante das colunas do Casey Newton, jornalista que escreve sobre redes sociais. Na hora que vi a hashtag, lembrei de um texto dele sobre a corrida do Facebook para limitar o grupo de extrema-direita, associado a ideais armamentistas e supremacistas brancos, autodenominado “Boogaloo”. 

Pelo menos desde 2012, o grupo reúne adeptos de ideias anti-governamentais e de extrema direita e as propaga nas redes sociais sob esse nome. Qualquer página com a palavra foi, inclusive, alegadamente removida das recomendações do Facebook em 2020 – quando a empresa percebeu a existência de inúmeros grupos contendo o termo e simpatizantes de causas semelhantes. Isso ocorreu em meio a ações violentas e criminosas de pessoas que guardavam relação com a causa e com o dito movimento – o que envolve o assassinato de um agente de segurança pública dos Estados Unidos.

Mas por que um movimento de extrema-direita, com supremacistas brancos armamentistas, estaria usando esse nome? Na mídia, houve a popularização da expressão devido ao filme de dança “Breakin’”, dos anos 1980, que teve como continuação o filme “Breakin’ 2: Electric Boogaloo”. Desde então, a extensão “2: Electric Boogaloo” é considerada uma forma de parodiar pejorativamente continuações. Assim, o movimento se apropriou do termo “boogaloo” pela ideia de defender uma Segunda Guerra Civil nos Estados Unidos.

O significado

E assim, uma palavra que é usada desde os anos 1960 como expressão de um tipo de dança ligado a uma comunidade negra nos Estados Unidos passou a ser moderada no Instagram por sua associação, em eventos que começaram em 2012, a um movimento supremacista branco. 

Sem ter todo esse contexto em mente, eu jamais saberia por que foi considerado que um professor de dança, ao atribuir uma hashtag a uma coreografia, estaria infringindo de alguma maneira as políticas de conteúdo. E mais: ao clicar na hashtag para ver mais conteúdo daquela dança, acabo tendo apenas acesso à informação de que a palavra viola diretrizes, sem a explicação, e não tenho acesso ao significado pretendido pela postagem. Não há, nessa página que explica que “boogaloo” é uma hashtag restrita, o que ele significava originalmente. 

Isto é, ao restringir a hashtag por considerá-la ofensiva, o Instagram dá um peso a esse significado, dando a entender que esta é uma palavra a ser evitada. Não traz à tona todo o significado cultural dela no meio da dança ou a possibilidade de, em diversos contextos, ela ser legítima e carregar consigo a expressão de uma cultura totalmente diferente da violência que se busca restringir. Inclusive, o significado em torno da dança, que é apagado pela restrição, é criado por pessoas negras, em um contexto de resistência ao ambiente violento e opressor que vivenciam. 

Tendo isso em mente, artistas do boogaloo original criaram o Boogaloo Day, em uma tentativa de reclamar a hashtag que denomina sua dança e cultura. A solução é complexa, pois ainda há um longo caminho a percorrer para que o controle de conteúdo ofensivo na internet não atinja também expressão legítima. Ainda assim, o caso faz refletir. É como se a moderação do conteúdo, nesse caso, propagasse apenas um uso pejorativo ou ofensivo de uma palavra, apagando o sentido de comunidade e expressão que ela tem para diversas pessoas há décadas.

Esse é um caso entre muitos – como aquele relatado nesse post de nossa convidada Tatiane Guimarães sobre expressões da comunidade LGBTQIA+ – que podem ilustrar o quanto a  moderação de conteúdo intervém concretamente na realidade. Quando conteúdos possuem mais de um significado a depender do contexto, é perigoso tomar uma decisão uniforme para todos, pois isso pode tornar aquele o único significado, eliminando os demais. Para que possamos garantir a diversidade de expressão, é preciso que os procedimentos de intervenção estejam públicos e passíveis de crítica, e a maior transparência possível seja adotada para informar sobre as decisões, pois elas também criam e passam adiante significados.

As opiniões e perspectivas retratadas neste artigo pertencem a seu autor e não necessariamente refletem as políticas e posicionamentos oficiais do Instituto de Referência em Internet e Sociedade.