As deepfakes e a intensificação do fenômeno das fake news

Recentemente, diversos vídeos falsos de celebridades, nos quais estas são retratadas realizando ações ou defendendo opiniões com as quais não concordam, passaram a ser veiculados pela internet. Esses vídeos, que, fora a aparência, nada têm a dizer sobre as personalidades neles retratadas, foram chamados de deepfakes, e representam uma grande preocupação acerca dos direitos individuais de imagem nos dias atuais, entre outras repercussões potencialmente perigosas. Este post busca apresentar informações acerca da tecnologia empregada nos deepfakes, bem como desenvolver o tema das possíveis repercussões políticas e sociais dessa tecnologia – em especial, no contexto da intensificação do uso de fake news para fins de manipulação social e política.

O que são deepfakes?

Deepfakes consistem, basicamente, em vídeos manipulados digitalmente para fazer com que pessoas pareçam dizer ou fazer coisas que, na realidade, não são reais. Em outras palavras, dizem respeito a uma técnica de efeitos visuais bastante avançados, que permitem justapor a face de uma pessoa ao corpo de um ator que de fato foi filmado durante a produção do vídeo original.

Esses efeitos são alcançados por meio do emprego de inteligência artificial, mediante técnicas de aprendizado de máquina. O que acontece é que o software empregado reconhece a face da pessoa que atuou no vídeo e aplica sobre ela um modelo 3D da face da pessoa que se quer inserir no arquivo. Esse modelo 3D, por sua vez, é criado mediante a análise de um vasto banco de dados contendo diversas fotos da pessoa que será introduzida ao vídeo.

Como a qualidade do deepfake está diretamente relacionada ao quanto o algoritmo de machine learning consegue aprender sobre a face analisada, é necessária a disponibilidade de uma quantidade bastante expressiva de referências fotográficas da pessoa para se obter uma representação realista. Isso significa que, em termos gerais, os principais afetados pela tecnologia são as pessoas públicas, frequentemente fotografadas e amplamente divulgadas – estas correspondem ao demográfico mais rico em referências para a criação de deepfakes convincentes.

Preocupações quanto ao direito de imagem

A tecnologia de deepfake apresenta diversos benefícios, quando usada com o consentimento da pessoa na qual será empregada. Muitos deles apontam para avanços significativos no campo da produção cinematográfica, com a possibilidade, por exemplo, de se alterar o movimento dos lábios dos atores para condizer com o que está sendo falado nas versões dubladas em outros idiomas – eliminando a dessincronia labial que normalmente é inevitável nesse tipo de conversão.

Outra possibilidade proveniente dessa tecnologia é a própria melhora geral da qualidade dos rostos humanos que conseguiremos gerar mediante o uso de computação gráfica, o que por si só representa um avanço inestimável em termos de possibilidades criativas para as mídias digitais. Isso, por sua vez, representa um grande passo para a democratização do acesso a essas possibilidades visuais – que antes eram restritas a grandes estúdios, detentores de quantias inimagináveis de recursos financeiros, mas que agora podem ser acessíveis para produtores menores e até mesmo independentes de maneira muito mais acessível.

Por fim, há ainda a possibilidade de que os benefícios dessa tecnologia se estendam para muito além da indústria do entretenimento. Caso a tecnologia evolua o suficiente para ser utilizada em tempo real, poderá ser empregada para a realização de sessões de terapia via videoconferência no caso de pessoas que não se sintam à vontade para expor suas faces, por exemplo, ou mesmo para realizar entrevistas de emprego mais imparciais, sem viéses de gênero, raça etc.

Por outro lado, uma preocupação importante que surge com a popularização de uma tecnologia como essa diz respeito justamente ao uso indevido de faces alheias para produção de conteúdo com o qual seus respectivos detentores não consentiram. Retomando o tópico dos deepfakes envolvendo celebridades e pessoas públicas como políticos, empresários de destaque etc., fica fácil imaginar como essa tecnologia pode gerar conflitos relativos ao direito de imagem. Isso porque a grande disponibilidade de material fotográfico dessas pessoas famosas pode subsidiar a produção de vídeos que não apenas violam direitos de imagem, mas também que podem veicular conteúdo calunioso, falso e, de diversas outras formas, destinados a enganar a audiência e causar algum tipo de reação estrategicamente condicionada. O que nos leva ao tópico a seguir…

Fake news 2.0

O fenômeno das notícias falsas já é amplamente conhecido pela maioria das pessoas. Usualmente, contudo, essas notícias disseminadas pela internet a título de gerar desinformação e manipular massas de pessoas mais suscetíveis às suas nuances eram disponibilizadas em forma de imagens. Isso porque o vídeo representa uma mídia muito mais difícil de manipular, sendo necessário muito mais conhecimento técnico do criador de conteúdo para produzir algo minimamente crível.

Nesse sentido, os vídeos sempre foram dotados de uma certa presunção de veracidade – sendo muitas vezes apresentados como prova cabal de que alguma informação é verdadeira. No contexto das deepfakes, contudo, essa lógica cai por terra, e o que nos resta são fake news com potencial devastador, circundadas por essa aura de veracidade, justamente pelo formato da mídia veiculada.

É importante lembrar que as fake news já foram responsáveis pela manipulação social a níveis nunca antes imaginados. Essa preocupação, em termos gerais, ganhou força com o escândalo da Cambridge Analytica, no qual essa empresa, que se utilizava do ecossistema e dos dados de usuários da Facebook, conseguiu manipular os resultados de votações políticas extremamente importantes – destacadamente, as eleições presidenciais estadunidenses de 2016 e a votação do Brexit, ambas sabidamente afetadas pelas atividades da empresa.

No contexto atual da corrida eleitoral estadunidense, portanto, as deepfakes constituem um perigo iminente, mas essa situação não se limita ao território estrangeiro. No Brasil, a polarização político-ideológica crescente que vivenciamos nos últimos anos constitui solo fértil para a proliferação de notícias falsas de todas as naturezas – e as deepfakes representam um problema no sentido de que podem manipular a população com ainda mais eficiência do que as fake news usuais, potencialmente amplificando essa polarização dos grupos políticos no país.

Nesse sentido, é importante que busquemos cada vez mais confirmar a veracidade do conteúdo que nos é disponibilizado online. Há, por exemplo, portais de verificação de fake news, como o Fato ou Fake ou o Detector de Fake News, entre outros. Além disso, há características específicas pelas quais podemos buscar em vídeos para tentar averiguar se o rosto que vemos foi sobreposto a um que originalmente estava lá – os olhos sendo a maior denúncia de que o vídeo foi manipulado (normalmente, os deepfakes podem parecer estar olhando para sentidos distintos dos que apontam o rosto do indivíduo, e podem piscar os olhos em padrões não muito naturais).

Conclusão

Em resumo, pode-se dizer que, agora que foi disponibilizada para uso geral, a tecnologia de deepfakes constitui uma realidade com a qual sempre teremos que lidar. Tendo isso em vista, é importante estarmos cientes de sua existência, e sabermos que, ao contrário do que se imaginava algum tempo atrás, não há informação totalmente crível na internet, sendo que até mesmo vídeos podem ter sido manipulados para veicular desinformação.

Cabe a nós, portanto, tomar as devidas precauções para mantermos-nos informados e evitar o compartilhamento de conteúdo falso, bem como apontar quando algo dessa natureza for divulgado por conhecidos e inclusive denunciar a postagem quando se tratar de algo claramente mal-intencionado. É verdade que as deepfakes constituem um perigo em potencial, mas o costume que diversos de nós já criamos de verificar a veracidade das informações pode ser suficiente para impedir que a tecnologia seja abusada para fins ilegítimos.

Gostou deste post? Tem interesse por temas relacionados a inteligência artificial? Clique aqui para ter acesso a mais conteúdo do IRIS sobre esse assunto!

As opiniões e perspectivas retratadas neste artigo pertencem a seu autor e não necessariamente refletem as políticas e posicionamentos oficiais do Instituto de Referência em Internet e Sociedade.
Ilustração por Freepik