Ponderações sobre a Inteligência Artificial no mundo atual

Em meio a tantas notícias que, constantemente, nos bombardeiam com novas tecnologias advindas da Inteligência Artificial (IA), avaliar o que é de fato promissor e seguro pode se tornar uma tarefa difícil. 

 O mundo atual está repleto de formas de IA que sequer nos damos conta do impacto ou atividade, contemplando desde as técnicas de moderação de conteúdo das plataformas até o uso de objetos inteligentes que fazem parte da rede da Internet das Coisas (IoT). Ampliando o leque, as realidades estendidas – assunto de um conjunto de posts do blog – têm se tornado cada vez mais populares, trazendo  uma variedade de IA’s cada vez mais rebuscadas, ágeis e que operam diante de uma coleta de dados massiva. 

O objetivo deste texto é realizar uma breve explanação do tema, trazendo alguns elementos da IA e apontando uma das problemáticas decorrentes do seu uso.

O que é Inteligência Artificial?

De acordo com o Chat GPT (“Generative Pre-Trained Transformer”), ferramenta de Inteligência Artificial desenvolvida pela OpenAI e assunto do último post do blog, a IA pode ser definida da seguinte forma:“um campo de estudo da ciência da computação e da engenharia de sistemas que busca criar máquinas capazes de executar tarefas que exigem inteligência humana, como a capacidade de aprender, raciocinar, tomar decisões e resolver problemas.” O fato de uma própria ferramenta trazer essa informação apenas confirma que, de fato, tais máquinas têm desenvolvido as tarefas almejadas, alcançando êxito em  reduzir esforços humanos e tornando as tarefas mais fáceis e rápidas.

Apesar de aparentar ser uma grande novidade, a IA surgiu na década de 50. No entanto, como qualquer grande inovação, costumava ser restrita a determinados locais, como centros de pesquisa e espaços para desenvolvimento de tecnologias bélicas. Diante de circunstâncias diversas, por sua vez, se popularizou. Dentre tais, estão: o barateamento de infraestruturas e desenvolvimento de algoritmos, o aumento da conectividade e do acesso e a extração e coleta de dados crescente.

Ainda em contexto introdutório, é válido discorrer sobre o aprendizado de máquina (machine learning). Definido como um subconjunto de IA, são programas que se distinguem da programação tradicional em sua forma de aprender; ao invés de o fazer a partir de instruções explícitas, o processo ocorre por meio de experiências, – ou dados de treinamento – de maneira que quanto mais informações forem recebidas, melhor será o desempenho. Em seu uso prático, o aprendizado de máquina é aplicado para que as máquinas consigam projetar comportamentos, em atividades como o reconhecimento de rostos. Por fim, as muitas técnicas utilizadas nesse subconjunto da IA recebem classificações conforme a necessidade de interferência humana (sendo assim supervisionados, não supervisionados ou semi-supervisionados); a capacidade de aprender em tempo real ou não (chamadas “batch” ou online); se o aprendizado é de caráter estatístico ou neuronal e, por fim, se há a compreensão de um padrão por meio de dados de treino ou se há comparação de dados novos com dados já conhecidos.

Embora as técnicas de IA gerem a sensação de um serviço completamente automatizado, é sempre válido destacar que existem pessoas por trás dos sistemas e, por isso, a tecnologia não é neutra. A partir disso, surgem questões de ética no que diz respeito ao seu uso, desenvolvimento e aplicação. É justamente esse contexto, ou a desconsideração dele, que origina casos em que os algoritmos, programados a partir de padrões pouco diversos, geram ferramentas racistas, misóginas e transfóbicas. O próximo tópico visa abordar essa questão.

IA e discriminação algorítmica 

Apesar da Inteligência Artificial ser executada por máquinas, humanos estão envolvidos em todo o processo. Seja ao programar os algoritmos que irão compor seu funcionamento, testá-los e/ou tomar decisões cruciais para decidir como e onde eles irão funcionar. Diante dessa sequência de ações, valores passam a ser integrados aos então códigos e, a depender de onde são alocados, passam a reproduzir discriminações já presentes na sociedade – um pouco mais sobre isso nos textos do blog quanto à Discriminação na moderação de conteúdo e racismo e a respeito da Inteligência algorítmica e discriminação contra mulheres. 

Assim, exemplos de como isso pode se materializar, infelizmente, são diversos, tais como:

• Em Janeiro de 2010, foi identificado que um recurso presente nas câmeras da Nikon para evitar olhos fechados nas fotos não sabia identificar olhos asiáticos, visto que os confundia.
• Em Julho de 2015, foi reportado que o Google Fotos, ao marcar animais nas fotos, confundiu os rostos de pessoas negras com gorilas.
• Em Janeiro de 2019, foi identificado que o recurso de análise de expressão facial da Microsoft e Face+ marcava pessoas negras como menos felizes e mais raivosas.

(A fonte desses três exemplos foi a Linha do Tempo do Racismo Algoritmo, desenvolvida pelo pesquisador Tarcízio Silva.)

A partir de tais situações, torna-se nítido como visões de mundo pessoais impactam no desenvolvimento de ferramentas que utilizam IA. E, em uma linha contínua, quando tais são utilizadas de maneira acrítica e sem cautela, continuam perpetuando padrões pouco diversos e preconceituosos. Ainda, o próprio treinamento das IA’s podem ocorrer de maneira opaca ou mesmo danosas. Um exemplo disso, por sua vez, é a maneira como o Google utiliza o reCaptcha para treinar sua IA. A cada vez que alguém executa as ações necessárias para “provar que não é um robô”, um banco de dados é alimentado, fazendo com que  os dados pessoais dos usuários sejam utilizados para retroalimentar as IA’s em questão. Além de invasiva, essa ação ocorre diariamente sem que haja uma comunicação efetiva sobre a maneira como funciona. Outro exemplo, por sua vez, envolve más condições de trabalho àqueles que testam determinadas ferramentas, como o escândalo do ChatGPT, em que a empresa OpenAI terceirizou trabalhadores no Quênia para identificar conteúdos abusivos e ilegais por um valor de US$2 por hora. 

Considerações finais 

Conforme mencionado na introdução deste texto, o objetivo central foi propor uma breve reflexão sobre Inteligência Artificial, seu avanço e uso. Retornar a um mundo sem os recursos decorrentes de tal tecnologia seria impensável. No entanto, desenvolver e utilizar ferramentas que podem ser brilhantes sem senso crítico e cuidado podem gerar mais atrasos do que avanços de fato. Nesse sentido, vejo como o caminho ideal aquele que busca por uma humanização da tecnologia; um aperto de mãos entre os princípios e os recursos tecnológicos a fim de gerar um mundo virtual mais diverso.