Testando os limites do capitalismo de vigilância

Apesar de esta não ser uma resenha de um livro, acredito que a nova publicação de Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, é uma das leituras mais essenciais para a governança da internet em 2019. Você encontra uma ótima análise pelo Ricardo Abramovay aqui, mas minha intenção é ir ligeiramente além da tese do livro: se estamos realmente vivendo uma evolução tecnológica do capitalismo financeiro informacional – o capitalismo de vigilância -, o que isso significa para o quadro normativo que circunda os direitos digitais? Mais precisamente, será que estamos prestes a viver uma reformulação de direitos tradicionais da propriedade intelectual, como segredos de indústria, direitos de autor e programas de computador e patentes? Confira:

O capitalismo de vigilância é mais que uma forma de organização produtiva

Nas revoluções industrial, fordista e toyotista, havia claramente a adição de fatores laborais humanos para a cadeia de produção de valor. Nessa lógica de acumulação, era imprescindível o trabalho assalariado, que gera mercado consumidor e, consequentemente, demanda. Essa organização produtiva começa a se flexibilizar com os fluxos de capital financeiro nas últimas décadas do século passado, mas ainda de forma especulativa e acarretando, em contrapartida, regulações diversas, como supervisão de fundos de investimento, taxação, ancoragem percentual mínima em investimentos não especulativos, sujeição a avaliações de risco por agências especializadas, etc.

Ao contrário de diversas fases anteriores do modo de produção capitalista, o trabalho humano não é, necessariamente, utilizado como insumo na produção de riqueza. Por meio de avanços organizacionais, o capitalismo financeiro se desenvolve e se transforma de forma a abarcar lógicas de acumulação ainda mais sofisticadas, imbricadas no tecido social por meio da tecnologia e cada vez mais determinantes para as relações que intermedeia.

Zuboff descreve uma importante mudança de estratégia do modelo de acumulação da Google como um ponto de inflexão em 2001, já que até então seus criadores até mesmo rejeitavam a utilização de anúncios pagos como forma de financiamento da ferramenta de busca. A bolha das “empresas ponto com” no início do século, aliada à rejeição de proteções legislativas e institucionais aos direitos de privacidade de usuários norte-americanos (após 11 de setembro), possibilitou o desenho de um fértil campo de experimentação online, com novas formas de geração de valor a partir da coleta, análise e utilização de dados pessoais.

Foi assim que a Google passou a gerar valor sem que seus usuários desempenhassem as funções de trabalhador ou de cliente em seu modelo de negócio. Os usuários deixaram de ser força produtiva, como eram nas fábricas, e também perderam a condição de clientes dos produtos manufaturados. Agora, segundo a autora, a população de usuários digitais fornece matéria-prima para a extração de dados pelas plataformas. Os anunciantes que contratam as plataformas são os verdadeiros clientes, que remuneram as plataformas pela criação desse espaço virtual de publicidade progressivamente mais direcionada.

A inserção do usuário como matéria-prima na cadeia de valor informacional possibilita a geração do que Shoshana Zuboff nomeia behavioral surplus (excedente comportamental, em tradução literal), o adicional de dados que fornecemos quando estamos conectados, para além dos comandos que são efetivamente como input (o que postamos em nossas páginas e que informamos como dados pessoais). Quanto mais (e de maior qualidade forem os) excedentes comportamentais fornecidos pelos usuários, maior a precisão para a oferta de anúncios publicitários.

Em vez de a tradicional visão de que “nós trabalhamos para a Google” em troca de seus serviços gratuitos, seria muito mais adequado pensar sobre essas plataformas como marketplaces. Nesses mercados virtuais, plataformas como as da Google ou do Facebook têm como objetivo manter seus usuários o maior tempo possível online, de forma a expô-los à publicidade (cada vez mais) customizada de seus verdadeiros clientes: os anunciantes, os patrocinadores de posts e as páginas ranqueadas.

A geração de métricas dos usuários é, ao mesmo tempo, eficiente e exponencialmente mais completa: mapas de calor em sites, discriminação e análise de reações, reconhecimento de discurso e imagens, geolocalização e tempo de permanência, entre outros. Dificilmente seria possível coletar tantas informações pessoais em modelos tradicionais de publicidade offline. Não é à toa que empresas que geram riqueza a partir dessa sofisticação do capitalismo financeiro informacional encabeçam hoje listas de maior valor de mercado no mundo e do setor de tecnologia.

Todas as fases anteriores de transformação profunda do sistema capitalista foram acompanhadas também por reformas legais de forma a corroborar as mudanças, ou mesmo proteger atores econômicos ameaçados. A revolução industrial corroborou a regulamentação de sistemas patentários e de direitos autorais. O modelo de produção fordista foi acompanhado de ganhos sociais e trabalhistas, com o intuito de alimentar também a demanda no mercado nascente. A flexibilização produtiva toyotista exigiu regras mais eficientes de exportação e importação de insumos para a criação de cadeias globais. O aumento do fluxo de capital financeiro especulativo dependeu de sistemas bancários altamente regulados e seguros, bem como de bancos centrais mais independentes e previsíveis. Quais mudanças legislativas o incremento decorrente do capitalismo de vigilância pode engendrar?

Um sistema de propriedade intelectual inquestionável?

O que os atuais sistemas de proteção à propriedade intelectual têm a ver com o desenvolvimento do capitalismo de vigilância? Entre os principais ativos desses modelos de negócio, estão ativos imateriais, como marca (principalmente no caso da Apple), direitos autorais, segredos de indústria, patentes e programas de computador. A depender da forma como cada país decide regulamentar direitos de propriedade intelectual, os algoritmos por trás das funcionalidades dessas plataformas digitais podem ser protegidos por segredos de indústria, patentes e programas de computador.

As discussões recentes sobre o Mercado Único Digital europeu demonstram a força dos mecanismos já estabelecidos de proteção aos direitos autorais, por meio da proteção e garantia de remuneração a produtores de conteúdo autoral, editores e distribuidores tradicionais. Enquanto isso, responsabilizam-se redes sociais e plataformas digitais pelo compartilhamento indevido de materiais protegidos por seus usuários, o que não deixa de ser uma tentativa legislativa de regular também aspectos intelectuais no ambiente digital, uma verdadeira ofensiva à máxima de Lessig de que “código é lei”.

A GDPR já representava um grande marco de limitação da atuação de plataformas digitais, mas diz respeito apenas a aspectos relacionados à proteção e privacidade de dados pessoais dos usuários. A Diretiva sobre o direitos autorais, no entanto, denota uma tentativa das instituições políticas (legislativas) e dos mercados mais estabelecidos (indústria do entretenimento) de se contrapor a esses modelos de negócio mais inovadores, que ainda testam os limites de sua atuação na contemporaneidade.

No caso do segredo de indústria, uma das condições para proteção frente à concorrência é justamente a manutenção de sigilo quanto à forma exata de funcionamento desses códigos de computador. Se sabe quais são os inputs e os outputs, mas não a forma de processamento, análise e produção de inferências a partir das informações fornecidas, uma verdadeira caixa preta. Ou seja, grande parte do sucesso das maiores empresas em termos de geração de valor na atualidade depende fortemente do sigilo quanto a suas formas de funcionamento. Eventualmente, outros fatores de sucesso podem ser também considerados, como adesão a essas plataformas por uma grande base de usuários (Facebook vs. Google+, ou WhatsApp vs. Telegram, por exemplo) e a vantagem do pioneiro tecnológico (first-mover advantage).

Mas o que fazer quando é preciso questionar outputs de decisões automatizadas? E se um usuário não concorda com as inferências feitas a partir de suas informações, ou com a customização do conteúdo que lhe é mostrado online? Como questionar e, ainda mais importante, como judicializar essas questões quando a forma de funcionamento automatizada das plataformas é protegida por segredos industriais? Autores como Jamie Bartlett (2018), por exemplo, vão alertar também sobre os diversos impactos que a tecnologia tem sobre sistemas políticos e representativos, adicionando elementos ainda mais gravosos à crise da democracia na contemporaneidade.

Formas de análise de segredos industriais

A GDPR inaugura o direito à explicação em um de seus recitais (71) como uma das formas de responder a questionamentos decorrentes de decisões automatizadas. Por um lado, os limites e a força vinculativa de um recital (e não o texto principal do regulamento) ainda estão para serem testados nos tribunais, mas esse é um importante passo em direção à redefinição de parâmetros de funcionamento do capitalismo de vigilância. Por outro, a própria União Europeia promulgou a Diretiva 2016/943, que reforça parâmetros de manutenção de segredos de indústria nos Estados-membros e abre caminho para graus mais elevados de proteção. Inevitavelmente, juízes europeus serão confrontados com a tensão entre o direito à explicação e a necessidade de proteger os segredos de indústria que formam a espinha dorsal das plataformas digitais. A aplicação efetiva de um direito à explicação no bloco europeu implicará em análise da forma como modelos de negócio baseados em algoritmos funcionam. O segredo industrial será contraposto a esse direito dos usuários e, a depender de como será aplicado, poderá ser uma barreira para sua consecução prática.

No Brasil, já se organizam resistências à aplicação de eventuais formas de auditoria de sistemas algorítmicos, como é o caso da Agenda Legislativa da Indústria em 2019. O documento opina positivamente sobre a Lei Geral de Proteção de Dados Pessoais, mas exprime preocupação quanto aos poderes da Autoridade Nacional de Proteção de Dados, que não deveria ter esse poder de auditoria sob suas competências, sob pena de eventual “violação do segredo industrial e comercial”.

É importante lembrar que os direitos de propriedade intelectual não são absolutos e devem ser aplicados de forma sistêmica, a considerar também aspectos concorrenciais, de direito público, e direitos humanos, temos como exemplo o licenciamento compulsório de patentes em casos de concorrência desleal, ou emergência nacional. A relativização do segredo industrial do código fonte de algoritmos não é, necessariamente, algo que inviabiliza o modelo de negócio dessas plataformas. As formas administrativas e processuais de análise dos segredos industriais variam de acordo com a jurisdição, mas em geral existem mecanismos de garantia do sigilo daquilo que é objeto de análise pelos tribunais: provas periciais especializadas, sigilo de peças e oitivas, entre outros. É compreensível o receio do mercado (e da sociedade) em relação à falta de compromisso de alguns magistrados com as prerrogativas das partes, especialmente o sigilo de fases instrutórias de um processo, mas isso não significa que sua análise pelos tribunais não possa ser feita de forma a preservar os direitos das partes. Também se cogita o envolvimento de terceiros independentes na realização dessas análises, o que é igualmente polêmico, porém contratualmente mais transparente em termos de responsabilidade de intermediários em contextos como o brasileiro.

Conclusão

Claro que há receio e forte resistência entre as empresas de tecnologia de abraçar a auditoria de algoritmos protegidos por segredos industriais, assim como outros tipos de escrutínio e regulação, como houve durante a aprovação do Marco Civil no Brasil, ou nas discussões sobre o Mercado Digital Único europeu. No entanto, é justamente esse tipo de embate que reflexões como a de Shoshana Zuboff acarretam. Se é verdade que estamos vivenciando uma sofisticação tecnológica dos meios informacionais de produção de valor, por que não considerar também reformulações dos meios de regulação dessas novas formas de exploração?

Se você tem interesse sobre como os tribunais europeus regulam a internet, aproveite para ler mais sobre esse tema aqui!

Esta postagem foi revisada e melhor desenvolvida a partir das sugestões e comentários do pesquisador Gustavo Rodrigues, do Instituto de Referência em Internet e Sociedade.

As opiniões e perspectivas retratadas neste artigo pertencem a seu autor e não necessariamente refletem as políticas e posicionamentos oficiais do Instituto de Referência em Internet e Sociedade.