Inteligência artificial e discriminação contra mulheres: os dados e o sistema

No dia internacional da mulher, é bom refletir sobre como a inteligência artificial replica e até potencializa discriminações de gênero – e outras mais.

Inteligência artifical, decisões automatizadas e discriminação

Há muito conteúdo que explica inteligência artificial, algoritmos e técnicas de machine learning. Não vou entrar em conceitos, mas deixo as indicações de alguns nomes como Ada Lovelace, Katy O’Neil e Ivana Bartolletti para quem procura por trabalhos sobre algoritmos, como fórmulas matemáticas passam a ser empregadas em diversas tecnologias, inclusive em processos de tomada de decisão com base na cada vez mais gigante enconomia de dados. 

Este texto também não quer sustentar que os usos de inteligência artificial, ou esse campo do conhecimento, deveriam ser abandonados ou lançados aos desenvolvimentos não quistos pela humanidade. A questão é que as aplicações da inteligência artificial são alimentadas por bases de dados já construídas – por determinado grupo de pessoas, com características específicas e correspondentes a grupos historicamente dominantes. Existe um compromisso necessário e urgente a ser tomado por diferentes setores da sociedade para que tecnologias (baseadas em dados ou não) deixem de reproduzir discriminação, exclusão ou processos de marginalização. 

Nada novo sob o sol

Embora, infelizmente, sejam vários e não raramente interseccionados os processos de discriminação, como a racial, o dia 8 de março é um convite internacional para refletir sobre o longo caminho que precisamos seguir, enquanto sociedade, para a equidade de gênero. As aplicações de inteligência artificial não são exceções à realidade.

Não são poucos os exemplos e, possivelmente, muitos os que nem chegam ao conhecimento público. Mesmo em situações triviais, como a sugestão de um restaurante, o preconceito aparece: o programa de reconhecimento facial em um shopping de Oslo sugeria salada se detectasse a presença de uma mulher em frente ao banner “automatizado” e pizza, se reconhecesse o traço masculino. Para além de coletar dados pessoais (biométricos, sensíveis) de forma indistinta e sem o consentimento dos consumidores, a máquina ainda era sexista – e voltada a padrões de beleza impostos sobre todas nós. 

Se um exemplo de cardápio de restaurante parece pouco importante, ser preterida para um emprego, por sua vez, está bem longe disso. Em um dos casos mais famosos sobre discriminação algorítmica contra mulheres, o sistema de recrutamento por inteligência artificial da Amazon preteria as candidaturas femininas. Tendo “aprendido” com uma base de dados composta por maioria masculina de ex-empregados, a ferramenta reforçava o padrão de uma época em que mulheres sequer tinham entrada no mercado de trabalho. 

Quando testadas, ferramentas de busca por voz – que também são treinadas a partir de bases de dados de uma sociedade sexista – revelaram estereótipos femininos subvernientes e suscetíveis a abusos. As chamadas “assistentes virtuais” refletiram padrões de submissão e violência contra mulheres, o que poderia ser naturalizado pelas tantas pessoas que utilizam essa tecnologia. Aliás, o próprio fato desses sistemas estarem atrelados ao gênero feminino reforça imagens padronizadas de mulheres como cuidadoras, assistentes ou objetificadas. 

O silêncio não é uma boa opção

Se cada vez mais são os campos que precisam de avanço para a igualdade de gênero ou o fim da discriminação e da violência contra as mulheres, o que devemos fazer? A primeira coisa parece a mais simples e também a mais difícil para muitos casos: romper o silêncio, denunciar, levantar-se contra as situações que precisam ser interrompidas. No campo da tecnologia, isso também envolve inserir mais mulheres no desenvolvimento, aperfeiçoamento e aplicações seja da inteligência artificial, ou em outras áreas das ciências computacionais. 

A mobilização também é um passo importante, para que nossas vozes sejam consideradas nos processos de desenvolvimento e aplicação das tecnologias digitais. Por isso, é crucial produzir conhecimento, buscar alternativas mais representativas e diversas. Também é importante ouvir e ser ouvida em eventos como o Fórum da Geração da Equidade, focado em equidade de gênero, e se engajar em campanhas de conscientização por mais representatividade em uma sociedade movida pela internet, como a #MulheresnaGovernança. O caminho é longo, mas mudando a lógica da cantiga (que também tem lá seus problemas), a estrada não deve ser deserta. Nos encontramos lá!

As opiniões e perspectivas retratadas neste artigo pertencem a seu autor e não necessariamente refletem as políticas e posicionamentos oficiais do Instituto de Referência em Internet e Sociedade.