As maiores empresas de tecnologia do mundo estão banindo o reconhecimento facial: Amazon, IBM, Meta (Facebook), Microsoft. Na contramão, empresas de menor porte, entidades da sociedade civil e governos seguem insistindo nesse tipo de ferramenta. Aqui estão alguns pontos para o caminho em direção ao seu banimento. 

Reconhecimento Facial não é só mais uma tecnologia

O reconhecimento facial está também no escopo das discussões sobre inteligência artificial, aprendizagem de máquina e tomada de decisão por algoritmos. O convite inicial é enfrentar “o perigo de uma história única” (para parafrasear Adichie) ou, nesses casos, duas histórias: 1. De que necessariamente tecnologias digitais são melhores que seres humanos;  2. De que tecnologias digitais são neutras.

O idealismo sobre a tecnologia, a esperança de que são melhores e até a crença de um aperfeiçoamento constante estão em voga no primeiro ponto. A inspiração e até a razão de ser de alguns inventos são para melhorar determinada situação ou contexto. Isso trouxe tecnologias essenciais para a humanidade, se pensarmos em anestésicos, antibióticos, vacinas, por exemplo. E também os automóveis, transportes, meios de comunicação. Parece que o somatório de tudo que pode ser chamado de tecnologia e muitas das técnicas e ferramentas alcançadas com a aplicação da internet são melhores. E, sim, uma calculadora faz contas melhor que eu e muita gente, o carro chega mais rápido que qualquer maratonista premiado e assim adiante… As questões são: melhor pra quem? Como? A que custo? Pago por quem? Quando não sabemos as respostas para essas perguntas, não é possível assumir que algo é melhor. 

Sobre o fato de que a tecnologia não é neutra, mas discriminatória em sua  estrutura, especialmente contra minorias, precisamos lembrar que é feita por seres humanos (até onde a gente sabe). São, portanto, produtos do intelecto limitado, falível, enviesado, com diferentes níveis de consciência e inconsciência, arquétipos, crenças, histórias e memórias. Problemas que podem até ser minimizados, mas fazem parte de uma construção coletiva que não consegue ser eliminada, apagada ou esterilizada. Uma aplicação tecnológica, digital ou não, é humana. E erra. O volume, a capacidade de processamento, a velocidade e a profundidade da intervenção atingidas por tecnologias digitais tornam esses erros muito mais consideráveis. Não se trata apenas de erros matemáticos, porque não é pura matemática. Existe uma complexa bagagem, que não se desapega do substrato social. Falando em matemática, é bom lembrar Kathy O’Neil.

Apesar da pertinência temática a discussões mais amplas, este post se concentra no uso do reconhecimento facial em locais a que são submetidas várias pessoas, frequentemente sem seu conhecimento.

A banalização é preocupante

Um diálogo real sobre reconhecimento facial foi assim:

“ –Não quero fazer reconhecimento facial para entrar na academia

-Preocupa, não! Não precisa tirar os óculos. Ela te reconhece mesmo com eles.”

 E depois uma longa conversa com toda a cadeia de agentes responsáveis pelo estabelecimento que não faziam a menor ideia de qual era o problema, senão tirar os óculos. Virou só mais uma desculpa para deixar a academia, mas vai muito além: as pessoas estão implementando (e inclusive pagando por) coisas que simplesmente desconhecem. E não é como se houvesse consenso científico sobre os benefícios dessas coisas. Na verdade, as evidências apontam para graves consequências sobre a vida das pessoas, processos discriminatórios que podem mudar o destino de alguém, decisões que podem afetar crianças, adolescentes e famílias inteiras. 

A discussão sobre reconhecimento facial alcança não só o nível do banimento, mas antes precisa enfrentar sua banalização generalizada. Academia, restaurante, supermercado, escola não têm como objeto social – e dificilmente teriam estruturas de segurança da informação e checagem – tratamento de dados pessoais sensíveis. E o reconhecimento facial trata o que há de mais sensível: o rosto, a figura, a face de alguém, seus traços, expressões, demonstração de emoções. Tudo muito fascinante e avançado em primeiro plano, mas com evidências de ser proporcionalmente temerário e opaco. O nosso rosto é o dado mais pessoal, aquilo que nos identifica entre a multidão como regra geral e que, mesmo sob ação do tempo (a não ser sob poderosos bisturis ou desconfigurações), não se modifica. 

A sensibilidade do dado biométrico, especialmente sobre nossos rostos, já está refletida nas obrigações legais relativas a esses dados. Mesmo assim, ainda nessa nossa fase de fundação de um arcabouço mais robusto para a proteção de dados, é preciso ir além. Precisamos aplicar os princípios (como o nome diz) de proporcionalidade, necessidade e minimização de dados; compreender de forma completa a cadeia de tratamento desses dados; e ser capazes de atribuir responsabilidades e prover informações completas (sobre a tecnologia, sobre quem está envolvido em seu desenvolvimento, sobre a implementação, se, com quem, e sob qual justificativa os tratamentos são realizados), entre outras tantas ações que concretizem os direitos relacionados à proteção de dados pessoais. Relatórios de impacto (capazes de medir prejuízos ou atestar a ausência de efeitos colaterais ou danos contra as pessoas, assim como sua submissão a decisões injustas, preconceituosas ou discriminatórias) devem ser apenas o início de uma conversa sobre a adoção desse tipo de tecnologia. 

A via do banimento é necessária

O reconhecimento facial mostra um cenário muito distante do que seria seguro: ausência de relatórios de impacto, muitas vezes total ignorância sobre possíveis impactos e até mesmo sobre as implicações sociais do reconhecimento facial a da sensibilidade dos dados pessoais envolvidos. Há ainda falta de conhecimento sobre o que, de fato, está em jogo, quem tem ou pode ter acesso e tratar dados pessoais sensíveis, o que pode ser feito com eles e por quem. Direitos previstos aos titulares começam pelo conhecimento, diálogo com a técnica, transparência e proporcionalidade, além de observância efetiva do sistema jurídico. São elementos que não se encontram nas aplicações atuais (e, inclusive, banais) de reconhecimento facial. 

Os riscos e erros já documentados e conhecidos (mas ignorados), a banalização do uso, submissão massiva da população a decisões sem conhecimento, chance de exercício de direito, finalidades não definidas, com repercussões sobre a vida, o trabalho e o futuro das pessoas: esse conjunto de elementos torna inaceitável o emprego de reconhecimento facial. Além disso, tantas razões levaram cidades como Oakland a decidir pelo banimento e fazem com que grandes empresas, inclusive aquelas que outrora dele se beneficiaram, o abandonem ou desliguem. Mesmo os maiores conglomerados, os mais ambiciosos empreendimentos se posicionam contra o reconhecimento facial e admitem seus riscos. Precisamos também, de maneira coletiva, compreender que o emprego do reconhecimento facial, especialmente banalizado e carente de análises realistas, não pode ser admitido.

As opiniões e perspectivas retratadas neste artigo pertencem a seu autor e não necessariamente refletem as políticas e posicionamentos oficiais do Instituto de Referência em Internet e Sociedade.