Decisões automatizadas e transparência algorítmica

Seja no âmbito da União Europeia, onde vige a GDPR (General Data Protection Regulation) (GDPR), seja no âmbito legal brasileiro, em que a Lei Geral de Proteção de Dados Pessoais (Lei n. 13.709) está prestes a entrar plenamente em vigor, uma das questões que mais aguça debates em termos de aplicabilidade dessas legislações é uma possível (in)compatibilidade entre os segredos de negócio e o direito à revisão e o direito à explicação de decisões automatizadas. A partir do momento que se procura explicar a racionalidade e os parâmetros por trás de decisões algorítmicas, questiona-se também a sustentabilidade de modelos de negócio baseados justamente nas vantagens competitivas das automatizações decorrentes dessas aplicações. No atual contexto político-econômico de enorme importância do capitalismo de vigilância e da produção digital de valor (GAFA – Google, Apple, Facebook e Amazon), será mesmo possível garantir transparência algorítmica? É esse o questionamento que este post procura responder.

Segredo de negócio: caixa preta algorítmica?

Um dos pontos mais importantes sobre segredo de negócio é que ele decorre de um conceito relacional, relativo à concorrência entre empresas em determinados mercados. Ao contrário de outras categorias de propriedade intelectual, como marcas e patentes, as empresas detentoras de segredos de negócio não buscam um registro geral do governo para garantir o caráter de novidade e de anterioridade de seu registro. 

O segredo de negócio refere-se a uma vantagem competitiva no modelo de negócio da empresa, cujo segredo e confidencialidade é justamente aquilo que garante sua proteção contra os concorrentes. Enquanto for mantido o segredo desses processos, fórmulas, metodologias de produção, técnicas, know how, fluxos e organizações, a empresa assegura também sua competitividade no mercado. Por essa razão, empresas que lidam com segredos de negócio em seu cotidiano utilizam acordos de confidencialidade para empregados, colaboradores, parceiros comerciais, entre outras pessoas (físicas e jurídicas) que venham a ter acesso a eles, bem como procedimentos específicos para impedir o vazamento dessas informações.

No que diz respeito às economias digitais, ainda que códigos de programas de computador possam ser objeto de diferentes categorias de propriedade intelectual a depender da jurisdição (proteção patentária nos Estados Unidos e como categoria específica de proteção autoral no Brasil), várias empresas decidem protegê-los como segredos de negócio. Além de diferentes níveis de proteção, sua complexidade é tamanha que fica difícil identificar com precisão todos os passos e parâmetros envolvidos na tomada de decisão de um algoritmo. 

Por exemplo, sabe-se que o buscador do Google utiliza dados pessoais de usuários,  como geolocalização e o histórico de navegação,para determinar quais links serão mais relevantes no ranqueamento de itens de sua página de resultados. Precisamente a utilização de uma imensidão de informações pessoais na tomada de decisões para seus usuários faz de seu buscador um dos mais eficientes, rápidos e úteis do mercado. As empresas entendem que a proteção das etapas e parâmetros decisórios por trás desses algoritmos, ou seja, seu segredo de negócio, é justamente o que as tornam mais competitivas em seus respectivos mercados relevantes. Nesse contexto, a proteção algorítmica representa um importante passo para a manutenção dos padrões de competitividade desses modelos de negócio.

Direito à explicação e à revisão de decisões automatizadas

Como o objetivo de garantir um mínimo de transparência e responsabilidade das empresas que utilizam o processamento automatizado de dados pessoais de usuários, ambas a General Data Protection Regulation (GDPR) e a Lei Geral de Proteção de Dados Pessoais (Lei n. 13.709) preveem instrumentos de controle mínimo desses processos decisórios implementados por empresas da economia digital. Sob a GDPR, os usuários têm direito à informações transparentes, acesso aos dados pessoais que as empresas utilizam, portabilidade de dados, objeção a determinados perfilamentos, entre outras prerrogativas. 

No Brasil, existe o direito à revisão de decisões automatizadas (art. 20 da Lei n. 13.709). Conforme vige a lei atualmente

“o titular dos dados tem direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade”

No entanto, graças ao veto presidencial, essa revisão deixou de ser, obrigatoriamente, por meio de intervenção humana. Como se não bastasse os riscos à automatização até mesmo desse processo de revisão (que na União Europeia exige a participação humana no processo de contestação), a lei brasileira ainda condiciona a prestação de informações acerca dos critérios e dos procedimentos utilizados para a decisão automatizada à observação dos segredos comercial e industrial. Ou seja, até mesmo critérios mínimos de transparência das decisões automatizadas são limitados aos segredos de negócio da empresa que controla os dados.

A legislação europeia vai além e prevê ainda um direito à explicação (Considerando n. 71), que consiste em uma regra interpretativa e operacional da GDPR, sem necessariamente o mesmo poder vinculante de um artigo do corpo do regulamento. Ela determina que o processamento automatizado de dados que realiza avaliação de aspectos pessoais, que produz efeitos legais (exemplificando com as práticas de credit score e recrutamento online) e que realiza perfilamento sobre a performance econômica, de trabalho, saúde ou relativa a interesses pessoais de usuários deve incluir medidas específicas com informações explicativas ao titular dos dados sobre a decisão, com a possibilidade de se contestar a mesma. 

Pesquisadores brasileiros, como o Prof. Renato Leite Monteiro, entendem que uma interpretação abrangente da LGPD, em conjunto com a Constituição, com o Código de Defera do Consumidor e com outros dispositivos legais, garante a existência de um direito à explicação no Brasil. No entanto, esse posicionamento demanda maior consolidação jurisprudencial. A título de comparação, o pesquisador destaca que a GDPR cita segredos de negócio apenas uma vez, apesar de ser uma lei mais abrangente e detalhada em termos relativos, enquanto a LGPD o faz em 13 instâncias, em contraposição a critérios de transparência algorítmica. Isso denota a importância dada em termos literais pela legislação brasileira à proteção dos segredos de negócio, face a eventual relativização dos mesmos por direitos à revisão e transparência informacional pelos usuários.

Ainda que distintos conceitualmente, resta verificar na prática como o direito à revisão e o direito à explicação serão aplicados, tanto na jurisdição europeia, quanto na brasileira. Em termos práticos, há uma certa insegurança por parte de empresas de forte base tecnológica, especialmente startups, quanto aos limites e responsabilidades de seus modelos de negócio. Por outro lado, há maior respaldo à população quanto aos direitos que possuem a partir da titularidade de dados pessoais. Certamente, as legislações representam um avanço em termos de garantia do direito fundamental à privacidade.

Questões concorrenciais, transparência algorítmica e inovação: por uma visão progressista da propriedade intelectual

Um aspecto pouco mencionado no âmbito do direito à explicação e à revisão de decisões automatizadas diz respeito à regulação competitiva dos mercados digitais. Por exemplo, caso do buscador da Google anteriormente citado, é importante ressaltar que não são apenas usuários que têm interesses no ranqueamento de resultados que lhe são exibidos e no acesso a informações relevantes a partir da ferramenta de pesquisa. Empresas que disputam a atenção de seus consumidores também estão interessadas em maior transparência no mecanismo de busca, já que precisam entender quais critérios proporcionam melhores ranqueamentos, de forma a direcionar mais usuários dos buscadores para seus sites institucionais (portais de notícias, e-commerce, sites oficiais etc.).

A Comissão Europeia, por meio de suas autoridades antitruste, chegou a regular partes da ferramenta de busca da Google, aplicando inclusive multas bilionárias em decorrência da verificação de práticas anticompetitivas. Verificou-se que, por meio de diferentes estratégias, a empresa vinha favorecendo suas próprias aplicações paralelas em sua página de resultados do buscador, estipulando cláusulas abusivas para a inserção de anúncios publicitários em buscadores do Google instalados em sites de terceiros, além de dificultar a instalação de outras ferramentas de pesquisa em aparelhos Android. Nesses casos, parte das investigações quanto às ações anticompetitivas da Google decorre de estudos empíricos, denúncias de concorrentes e páginas de resultados. Agora que a empresa também tem obrigações informativas quanto aos parâmetros e critérios utilizados no processamento automatizado de dados, haverá maior escrutínio público, inclusive para fins antitruste, dos resultados de seu buscador

Já existem evidências de que os segredos de negócio estão crescendo em importância relativa, especialmente na cartela de ativos intangíveis de modelos de negócio da economia digital. Se considerarmos essa tendência em contraposição a outras categorias da propriedade intelectual, como patentes e direitos autorais, uma diferença fundamental é o destino dessas inovações após um tempo de proteção. Patentes expiram e podem ser utilizadas se custo por outros competidores após um prazo. Criações literárias protegidas por direitos autorais caem em domínio público e garantem o direito de acesso a essas obras pela população, inclusive para fins de adaptação. Ou seja, após um período de proteção, há uma reversão dessas inovações à sociedade.

No entanto, o mesmo não acontece com segredos de negócio. A depender das medidas de sigilo e confidencialidade tomadas, bem como a incapacidade do mercado de atingir essas inovações por conta própria, esses segredos permanecem confinados somente ao âmbito das empresas e daqueles que têm acesso a eles. Não há uma transferência posterior dessas inovações à sociedade e aos competidores desse nicho de mercado.

Conclusão

Este texto não defende nem o fim do segredo de negócio para modelos de negócio algorítmico, nem um direito absoluto à explicação. Pelo contrário, acredito que o direito à revisão de decisões automatizadas é um importante primeiro passo em direção à transparência algorítmica, especialmente aquele baseado em intervenção humana no processo revisório. O direito à explicação europeu vai além, e garante mais substratos para uma eventual verificação prática de enviesamentos, práticas anticoncorrenciais e outros usos indevidos de dados pessoais. Ao verificarmos esses critérios básicos de parametragem do processamento de decisões automatizadas, podemos pensar em uma consecução mais justa do respeito à privacidade, da autodeterminação informativa, do desenvolvimento econômico e tecnológico, da inovação, da livre iniciativa, da livre concorrência e da defesa do consumidor, todos esses fundamentos da proteção de dados no Brasil.

Quer saber mais informações sobre o direito à explicação e inteligências artificiais? Confere este post aqui!