Reconhecimento facial no carnaval – uma rima que exige reflexão

Se você fechar seus olhos agora e tentar pensar em todos os detalhes do seu próprio rosto, você conseguiria se lembrar de tudo? Ou se te entregassem um papel em branco e uma caneta, com a missão de desenhar a face dos seus pais com perfeição, seria capaz?

Bom, eu não conseguiria, e imagino que grande parte dos leitores também não. Independente de uma memória boa, habilidades artísticas ou facilidade para reconhecer pessoas em multidões, a mente humana é um tanto quanto limitada no que diz respeito à replicação de imagens e memórias de maneira detalhada, integral ou perfeita. 

Mas sabe quem não compartilha essa dificuldade? As várias máquinas que realizam reconhecimento facial e estão à sua volta, com uma imagem perfeita do seu rosto já armazenada no banco de dados – ou não tão perfeita assim…

Contexto geral – sobre o reconhecimento facial no carnaval 

O tema “reconhecimento facial” já foi abordado no blog do IRIS em alguns momentos, com destaque para quando se enfatizou seu banimento e quando sua relação com a segurança pública foi abordada, já há alguns anos. Tendo em vista as discussões recentes sobre o tema e as problemáticas levantadas diante do uso da tecnologia neste último carnaval em várias cidades brasileiras, o presente texto se destina a uma análise do cenário atual, considerando a perspectiva realista de que a discussão gira em torno de uma tecnologia que já existe (de variadas formas) e já está sendo amplamente utilizada a todo momento.

Contextualizando o cenário atual, o reconhecimento facial é uma tecnologia utilizada em todas as regiões do Brasil, para fins como segurança pública, educação, controle de fronteiras, etc. O mapeamento realizado pela pesquisa Panóptico do Centro de Estudos de Segurança e Cidadania (CESeC) apresenta o número de projetos ativos em cada região, o número de pessoas potencialmente vigiadas e os operadores e locais em que a tecnologia está sendo utilizada. De acordo com tais dados, é possível constatar que vias públicas, escolas e festejos são os ambientes que mais alocam a tecnologia, sendo a região sudeste a com mais pessoas no alvo das câmaras. Em 2023, o reconhecimento facial para ações de segurança pública já estava sendo usado em todos os estados brasileiros, em um total de 195 projetos e alcançando mais de 47 milhões de pessoas. 

Nesse contexto, o carnaval se destaca como um período que atrai multidões, festas e trânsito de pessoas, abrindo margem para crimes de natureza diversa. Logo, o reconhecimento facial tornou-se um mecanismo atrelado à busca por “criminosos e foragidos” principalmente nessa época do ano. Nessa matéria do Fantástico, são citados vários casos de como indivíduos que estavam sendo procurados por crimes previamente cometidos foram encontrados no carnaval dentre as multidões, graças às câmaras públicas em conjunto com o cruzamento da base de dados. Outro exemplo é trazido pela CNN, que considera o ano de 2024 como “um marco para a segurança pública pelo uso de reconhecimento facial em capitais como Belo Horizonte, Salvador, Rio de Janeiro e São Paulo”.

Bom, se essa tecnologia de fato apresenta benefícios em seu uso voltados à segurança pública, qual o problema a ser discutido? 

Reflexão – onde estão os problemas, então? 

O cenário em pauta é um exemplo de situação complexa que tem respostas muito simples, porém erradas – enquanto as respostas “certas”, ou pelo menos mais cautelosas e analíticas, contemplam explicações que dão voltas, consideram vários fatores e, por isso, não são o que o senso comum gostaria de ouvir. 

Feito o disclaimer, e respondendo à pergunta proposta no último tópico, tem-se que: sim, o reconhecimento facial pode trazer bons resultados em âmbitos diversos, seja em praticidade no dia a dia, na proteção de pessoas em multidões ou ao encontrar foragidos nas ruas. No entanto, o preço que se paga por esses resultados é alto. É nesse momento que a resposta se torna complexa e necessariamente traz elementos que não são possíveis de serem explicados em uma única frase, a exemplo do racismo estrutural e da sociedade de vigilância. 

Estendendo-se à resposta longa então, três pontos serão apresentados para ilustrar os perigos no uso do reconhecimento facial. O primeiro é a sua margem de erro muito alta, principalmente para pessoas negras e mulheres. O estudo Gender Shades explica essa questão perfeitamente. Nele, a pesquisadora Joy Buolamwini, comprova que, para corpos femininos negros, o índice de erro na identificação biométrica é de quase 35%, enquanto que para corpos masculinos brancos, tal é de 0,8%. Esse viés é o ponto que relaciona o assunto ao racismo estrutural. Embora o senso comum caracterize as atividades da Inteligência Artificial (IA) como algo perfeito, exato e matemático, tais ações sempre irão partir de uma mente e de dados humanos.

Assim, se o banco de dados utilizado por certa IA apresenta majoritariamente pessoas brancas, como a máquina irá desenvolver associações com pessoas negras? Ainda, se a equipe que a programou é composta por pessoas que trazem consigo vieses racistas e machistas, como a máquina irá diferir  disso, visto que ela apenas consegue reproduzir vieses? 

Dito isso, vem à tona o segundo ponto para fundamentar os perigos do uso do reconhecimento facial, relacionando-se agora à sociedade de vigilância. Este, por sua vez, também demanda algumas frases além para ser completamente abordado. Primeiramente, considere esse dado: no Brasil 68% da população carcerária, em 2022, eram homens e negros. Nesse painel do Fórum da Internet no Brasil de 2023, a pesquisadora Ana Gabriela cita esse dado colocando como o uso da tecnologia em questão se torna na verdade uma ferramenta discursiva do Estado que legitima a sobreposição de marginalizações e violências que já existem na sociedade atual. Visto o contexto nacional em que grande parte da população negra já é marginalizada, o “raciocínio” automático da IA será associar tal grupo àqueles que cometem crimes e estão foragidos, fazendo da marginalização uma constante. 

Em síntese, pode-se trazer o segundo ponto como: diante do contexto apresentado, o uso do reconhecimento facial torna-se uma justificativa, que muitas vezes se baseia em erros de uma máquina, para realizar condutas violentas e racistas – que já iriam acontecer de toda forma, mas agora trazem um argumento além do simples racismo.

Por fim, o terceiro ponto se relaciona à proteção de dados e como o uso do reconhecimento facial vai de encontro à segurança pessoal, quando mal administrado. Inicialmente, tem-se que o uso de padrões biométricos utilizados na tecnologia produz dados sensíveis, de acordo com o art. 5º, II, da Lei Geral de Proteção de Dados (LGPD). Logo, seu tratamento apresenta requisitos específicos e mais rígidos do que os demais dados pessoais. O uso da tecnologia, por sua vez, é fundamentada pelo art. 11º, II, g, o qual autoriza o tratamento deste tipo de dado para a ”garantia da prevenção à fraude e à segurança do titular, nos processos de identificação e autenticação de cadastro em sistemas eletrônicos”, considerando que não prevaleçam os direitos e liberdades fundamentais do titular que exijam a proteção dos seus dados pessoais. Cabe trazer, por sua vez, que o uso de dados pessoais tendo como finalidade exclusiva a segurança pública é uma das exceções da aplicação da LGPD (de acordo com o art. 4º, III, a). No entanto, de acordo com o art. 4º, §1º, as atuais exceções da LGPD serão ainda regidos por legislação específica. Enquanto isso, as atividades de segurança pública e demais exceções precisam respeitar os direitos de titulares e os princípios gerais da proteção de dados pessoais, trazidos no art. 2º da regulação.

Diante disso, algumas problemáticas vêm à tona, tais como questões de consentimento do titular, transparência na extração e na finalidade dos dados pelos responsáveis, garantia da autodeterminação informativa do titular de dados, dentre outros. Mais uma vez, apresenta-se um cenário em que é possível obter benefícios; no entanto, para isso, os pontos de tensão devem ser bem operados e analisados. Nesse caso, se a extração e tratativa dos dados ocorre de maneira incorreta, somados aos pontos já colocados, o cenário será majoritariamente de ônus. Nesse cenário, vale citar a campanha Tire meu rosto da sua mira, criada por organizações integrantes da Coalizão de direitos na rede com fins de banir o uso de tecnologias digitais de reconhecimento facial na segurança pública. 

Considerações finais

Frente ao exposto, observa-se que não existem soluções ou respostas simples para o contexto em questão. É preciso considerar, por sua vez, o cenário de uma forma realista e entender que o reconhecimento facial é uma tecnologia já amplamente utilizada em nossa sociedade e que movimenta agentes, empresas, setores e interesses. Assim, é necessário considerar seu potencial de risco e os fatores que fazem essa tecnologia ser potencialmente tão perigosa. O próximo passo é refletir sobre as possíveis soluções – ou ao menos mitigação de danos, de maneira colaborativa e incluindo a conscientização da sociedade na pauta!