Tem mulher escrevendo sobre algoritmos sim, senhor!

É comum para as mulheres escutar que não há muitas delas escrevendo ou estudando sobre temas de tecnologia, o que muitas vezes dificulta o destaque dos trabalhos executados, por elas, “entre os homens”. Esse texto tem o objetivo de apresentar o trabalho de três dessas mulheres na temática da Governança de Algoritmos, que, por sua vez, explora o estudo dos algoritmos que estão presentes no nosso cotidiano de forma multidisciplinar.

Armas de destruição matemática

“Algoritmos são opinião embutida em matemática”, escreveu Cathy O’Neil, matemática americana, autora de “Weapons of math destruction”. Seu livro foi um dos primeiros a trazer uma análise crítica dos algoritmos, explicando porque eles se tornam uma arma quando mal aplicados na indústria, especialmente quando vendidos para exploração pelo poder público.

Ela analisa a aplicação de sistemas algorítmicos através de exemplos, como o dos professores norte-americanos demitidos por um suposto mau desempenho, calculado de acordo com parâmetros injetados num algoritmo completamente opaco, que, como muitos outros, não permitia auditoria, e, portanto, não permitiu que os professores contestassem a decisão tomada pela administração pública.

Cathy O’Neil chama de “armas de destruição matemática” os algoritmos que tem como características: (1) ser muito difundidos, capazes de afetar a vida de muitas pessoas; (2) misteriosos, pois não há a possibilidade de as pessoas que estão sendo alvo do seu julgamento avaliarem a sua fórmula; e (3) destrutivos, pois eles podem arruinar a vida das pessoas injustamente, como quando determinam a demissão de uma pessoa ou de um grupo de pessoas. Ela enfatiza que, embora o algoritmo esteja programado para resolver um problema, ele pode não só não o resolver como piorar a situação.

Além disso, ela explica que algoritmos são complexos processos de tomada de decisão, e que o mesmo algoritmo pode ser usado para o bem ou para o mal. Exemplo disso são os dados relativos ao histórico médico de um indivíduo: eles podem servir para que um paciente tenha um melhor atendimento, ao dar entrada em algum serviço de emergência; ao mesmo tempo, podem ser utilizados como filtro para uma empresa que quer contratar empregados, mas não quer ter vultosos gastos com planos de saúde.

O’Neil escreve de forma didática e acessível sobre o tema, além de ter uma perspectiva que poucos autores têm, sobre a construção de algoritmos no que se refere à matemática e à programação dos sistemas algorítmicos. Ela também escreve no blog Mathbabe.

Algoritmos nem sempre são apenas uma construção “IF…THEN”

Outra mulher de destaque nesse campo é Taina Bucher, autora de “If…then: algorithmic power and politics”. Taina é pesquisadora de mídia e professora associada do Centro de Comunicação e Computação da Universidade de Copenhagen, na Dinamarca. A pesquisa dela tem como foco as mídias sociais, o poder dos algoritmos no cotidiano e a interseção entre os estudos de software e a ciência e tecnologia e sociedade.

Em seu livro, Taina parte da premissa de que a vida não é simplesmente submetida à mídia, mas cada vez mais as coisas acontecem em um ambiente mediado por algoritmos. Enquanto as pessoas interagem com plataformas e empresas específicas de mídia, essas plataformas também interagem com as pessoas. As plataformas de mídias sociais e outras empresas na Web recomendam, sugerem e entregam aos usuários aquilo que os seus algoritmos previram como as notícias mais interessantes ou relevantes, assim como livros, filmes ou músicas mais adequados ao usuário para ler, assistir ou comprar.

Porém, ela entende que os algoritmos não têm poder em si. Ela se apoia na teoria de Foucault, de que o poder é exercido, relacional e produtivo, para mostrar que a noção do “poder algorítmico” implica muito mais que um ranking resultado de uma classificação feita pelo algoritmo; o poder sempre toma várias formas, o que inclui o seu exercício como resultado de instruções dadas por um computador, mas também as pretensões que o algoritmo pode ter. Além disso, ainda em consonância com o pensamento de Foucault, o poder ajuda na produção de certas formas de agir e saber, o que, em última análise, aponta para a necessidade de se examinar esse poder em relação aos tipos de conflito e orientações que os sistemas algorítmicos podem gerar.

A obra de Taina Bucher, portanto, oferece uma análise dos “algoritmos nossos de cada dia” sob um ponto de vista não muito comum, o da mídia e da comunicação, passando pela sociologia e pela filosofia, de forma muito interessante e interdisciplinar. Ouso considerá-la leitura obrigatória para quem envereda pelos estudos de algoritmos e seus efeitos sociopolíticos.

A falta de diversidade na indústria se reflete nos produtos

A terceira mulher dessa lista de mulheres incríveis é a Sara Wachter-Boettcher, autora de “Technically wrong: sexist apps, biased algorithms, and other threats of toxic tech”. O livro parte da premissa de que a indústria da tecnologia, predominantemente composta por homens brancos, cria produtos que excluem as necessidades de mulheres e pessoas negras. Ela acredita que o foco na diversidade na tecnologia não deveria ser apenas pelo ponto de vista dos empregados, mas também dos consumidores dos produtos.

Ela argumenta ainda que os criadores de produtos que se utilizam de inteligência artificial precisam olhar cuidadosamente para os dados que utilizam, atentando para os vieses exsurgentes desses dados. Além disso, é importante verificar as taxas de falha do sistema, porque baixas taxas de erro são importantes, mas isso não pode ser aceitável quando a falha sempre acontece em relação ao mesmo grupo de pessoas. Torna-se ainda mais perigoso o fato de confiarmos que a máquina não é enviesada para tomar uma decisão, considerando que é difícil saber porque aquela decisão foi tomada e, ainda, porque ela pode se tornar cada vez mais enviesada com o tempo.

O livro de Sara traz uma importante visão da indústria da tecnologia, que se torna ainda mais relevante num momento em que tanto se discute a pequena presença de mulheres em cursos de exatas e na própria indústria da engenharia e da tecnologia em geral.

Conclusão

Apesar da predominância do sexo masculino na indústria da tecnologia, ou pesquisando sobre temas relacionados, é importante destacar, valorizar e dar visibilidade ao trabalho feito por mulheres. É preciso que o esforço compreensivo seja realizado de forma cabal: o objetivo presente não guarda nenhuma relação com diminuir ou menosprezar o trabalho de homens nas mesmas áreas, mas mostrar aos homens que o trabalho executado por mulheres tem tanto valor quanto o deles. Além disso, demonstrar para meninas ou mulheres que desejam seguir as áreas inerentes à tecnologia que elas têm em quem se espelhar. Esse é o objetivo desse texto, através da demonstração das ideias de três autoras de destaque em suas áreas. Pessoalmente, duas delas surgiram para mim, durante a minha pesquisa para o doutorado, como uma surpresa; a outra – Cathy O’Neil – já era leitura obrigatória sobre o tema. E eu apenas escolhi três dentre as várias autoras que me foram apresentadas por esse tema tão rico. A campanha #MulheresNaGovernança continua, portanto, apresentando as mulheres da Internet e dando visibilidade aos seus trabalhos. Ainda não sabe do que se trata a campanha? Assista o vídeo e junte-se a nós!

As opiniões e perspectivas retratadas neste artigo pertencem à autora.