Por que entender e disputar as tecnologias é inadiável?

Se “quem tem fome, tem pressa” e somos pessoas mergulhadas em problemas sociais concretos e cruéis — como a falta de alimento e moradia ou os altos índices de morte e encarceramento de pessoas negras —, para que disputar politicamente questões que parecem mais abstratas e distantes, como as inovações tecnológicas recentes e frequentemente inacessíveis? Tornando mais nítidos os efeitos materiais dos riscos e oportunidades gerados pela tecnologia, te convido a (re)descobrir a razão pela qual esse debate é urgente e deve estar presente da favela ao asfalto, além do papel dos direitos digitais na transformação da realidade em que vivemos. 

Reconhecendo as barreiras reais

No Brasil e em diversos lugares do mundo, enfrentamos problemas sociais urgentes e cruéis, como a fome, o desemprego e a violência sistemática que atinge grupos marginalizados, como mulheres, pessoas trans, negras, indígenas e LGBTQIAP+. Essas questões não podem ser negligenciadas, são premissas básicas para qualquer debate sobre a sociedade. Afinal, para discutir e agir, é crucial ter condições básicas de sobrevivência e dignidade — quem irá se importar sobre a proteção dos dados pessoais coletados em plataformas digitais quando sente fome ou quando está doente e sem acesso à saúde básica, por exemplo?

Entretanto, ao considerar a importância da disputa por questões aparentemente mais abstratas, como a proteção de dados pessoais e a regulação de plataformas digitais, torna-se essencial entender que esses temas não são tão distantes da realidade quanto podem parecer à primeira vista. Em um mundo cada vez mais hiperconectado, esses pontos aparentemente distantes têm implicações diretas e tangíveis em nossas vidas.

A desigualdade social e a concentração de renda são fatores que influenciam diretamente a forma como diferentes grupos sociais experimentam as transformações tecnológicas. Enquanto algumas pessoas podem usufruir dos avanços tecnológicos, opinar na maneira como esses produtos são regulamentados e entender o seu funcionamento, outros se vêem à margem — ou sem ter sequer acesso a seu uso ou, ao usá-los, em uma espécie de “analfabetismo funcional” devido à falta de letramento digital frente a produtos tecnológicos que são tão comuns em seu cotidiano quanto frequentemente imperceptíveis e potencialmente danosos. Um bom exemplo disso são as câmeras de reconhecimento facial que são implantadas em espaços públicos e que podem falhar, provocando, por exemplo, prisões equivocadas, tal como visto em diversos casos.

Nesse cenário, compreender questões tecnopolíticas e definir os rumos do uso e desenvolvimento desses produtos não deve ser um luxo reservado apenas para alguns; é uma necessidade premente para enfrentar plenamente as barreiras reais que se colocam diante de um futuro mais justo e igualitário para todes.

Tecnologia como ferramenta de manutenção dessas barreiras

A persistência da fome, apesar de termos avançado tecnologicamente a ponto de ter recursos para erradicá-la, levanta questionamentos essenciais sobre o papel da tecnologia na redução das desigualdades. Esta não é uma questão isolada, há diversas situações que destacam como a tecnologia pode ser uma ferramenta para a manutenção de barreiras sociais.

Como já citado, o uso do reconhecimento facial é um exemplo atual latente. Seu uso tem revelado erros e vieses alarmantes, ampliando a marginalização de comunidades já vulneráveis, como pessoas negras, mulheres e pessoas com deficiência. Essas falhas são apenas a ponta do iceberg de um histórico de tecnologia utilizada de maneira prejudicial.

Não é de hoje que a tecnologia é instrumentalizada para reforçar estruturas de poder desiguais. A indústria da guerra, que impulsiona há séculos a produção de inovações tecnológicas, evidencia esse ponto. O Holocausto também evidencia como a tecnologia foi utilizada como ferramenta de extermínio, revelando um passado sombrio e alertando para os perigos da instrumentalização da tecnologia para fins escusos.

Por outro lado, quando se trata dos benefícios do mundo digital — como o acesso a serviços, a informação, a educação e a comunicação global —, os dados de exclusão digital e de dificuldades na garantia de uma conectividade significativa indicam entraves de acesso especialmente para grupos marginalizados. 

Além disso, mesmo quando há inclusão digital, as barreiras encontram maneiras criativas para persistir: estudos apontam que as plataformas digitais, apesar de aparentemente democráticas, podem ser palco de mecanismos de moderação de conteúdo que, de forma sutil, perpetuam posturas discriminatórias — como a hegemonia da branquitude — ao decidir quais conteúdos serão privilegiados em detrimento de outros. Foi essa a conclusão do texto “Denúncias de discriminação algorítmica no Instagram sob uma lupa”, escrito por Alessandra Gomes e Ester Borges, que parte do relato de uma influenciadora negra que percebeu que conseguia maior alcance quando publicava fotografia de pessoas brancas.

Outro exemplo recente é o caso de uma ferramenta de Inteligência Artificial (IA) que, ao receber o comando para representar “uma mulher negra, de cabelos afro, com roupas de estampa africana num cenário de favela”, gerou a imagem de uma mulher negra com arma de fogo, perpetuando estereótipos nocivos. Essa experiência é um reflexo da influência das decisões tomadas na criação e uso da tecnologia e evidencia falhas éticas e regulatórias no campo dos sistemas de IA.

Estes são apenas alguns entre inúmeros exemplos que evidenciam como a tecnologia não é neutra; ela reflete e pode manter ou amplificar as desigualdades existentes. Compreender e disputar o papel da tecnologia é crucial, então, para romper com esses padrões prejudiciais e construir um futuro mais equitativo e inclusivo para todes.

Inovação e tecnopolítica para outras realidades possíveis

A inovação tecnológica frequentemente é celebrada como a chave para resolver problemas. No entanto, é crucial questionar: quais problemas estamos tentando resolver e para quem? A busca pela inovação deve estar intrinsecamente ligada à busca pela igualdade de acesso aos direitos humanos e fundamentais. Assim, quando aplicada de forma ética e inclusiva, pode ser uma aliada poderosa, em contraste com uma visão reducionista, que aposte sem criticidade em um solucionismo tecnológico. 

Dessa forma, será possível incentivar uma inovação efetivamente comprometida com o progresso socioeconômico e identificar, inclusive, quais produtos e soluções não fazem sentido. Nesse sentido, exemplos como armas autônomas e o uso reconhecimento facial na segurança pública destacam a importância de uma escolha consciente e responsável sobre quais tecnologias devem ser desenvolvidas e implementadas.

No desenvolvimento de novas tecnologias, a disputa política deve ser direcionada para solucionar problemas fundamentais, como a fome, o acesso à moradia, saúde e educação. Para isso, é também essencial reconhecer que cada comunidade tem sua própria visão do que constitui um “bem viver” e, portanto, a inovação deve ser adaptada e contextualizada para atender às necessidades específicas de cada grupo.

A disputa política não se restringe apenas ao desenvolvimento das tecnologias, mas se estende à sua regulação, o que significa, nesse contexto, estabelecer parâmetros que garantam seu uso e desenvolvimento ético e seguro. Essa regulação não pode ser definida por poucos, mas deve ser formulada em diferentes espaços de debate político aberto, em que a diversidade de vozes e perspectivas contribua para definir os limites e diretrizes para tais tecnologias.

A disputa pela inovação tecnológica deve ser moldada, portanto, para promover um desenvolvimento socioeconômico amplo, considerando as singularidades e necessidades específicas de cada comunidade. É um chamado para garantir não apenas o acesso, mas o uso significativo e a efetividade dos direitos afetados por essas tecnologias, assegurando que sejam aliados à promoção da justiça e não para acentuar as desigualdades já existentes.

A (re)construção e a regulação de novas tecnologias como aliadas

Diante desse cenário, é nítido que, quando olhamos mais de perto, as inovações tecnológicas são mais concretas do que imaginamos e são instrumentos para construção de alternativas para a realidade dura que se impõe atualmente, já que a tecnologia reproduz os valores sociais e, simultaneamente, pode mantê-los ou modificá-los. Assim, compreender e moldar o cenário tecnopolítico é crucial para construir um futuro mais justo e igualitário. Assim, a inovação tecnológica deve ser direcionada à promoção do desenvolvimento socioeconômico amplo, considerando as necessidades de cada comunidade e garantindo que beneficie efetivamente a justiça social, impulsionando o bem-estar coletivo e a inclusão.

No Instituto de Referência em Internet e Sociedade (IRIS), nós entendemos que essa perspectiva é transversal, considerada em nosso posicionamento e missão institucionais, bem como em tudo o que produzimos como centro de pesquisa e incidência política. E se você chegou até aqui, te convidamos a nos acompanhar no site e nas redes sociais para mais espaços de discussão sobre os impactos das tecnologias na sociedade.

Existem também diversas entidades engajadas em promover o debate e difundir conhecimento útil sobre as novas tecnologias a partir dessa perspectiva: LabJaca, Olabi, Data_Labe e Manas Digitais são alguns exemplos de valiosas instituições que somam nesse objetivo. A partir dessas redes, sigamos cultivando, no presente, um futuro com respeito e promoção dos direitos humanos no ambiente digital.