Global Symposium on Artificial Intelligence & Inclusion

Organização

Entre os dias 8 e 9 de novembro, dois representantes do Instituto de Referência em Internet & Sociedade participaram do Global Symposium on Artificial Intelligence & Inclusion, organizado no Museu do Amanhã (Rio de Janeiro) pelo Instituto de Tecnologia e Sociedade do Rio de Janeiro (ITS Rio) e pelo Berkman Klein Center for Internet & Society (Harvard). A proposta do evento surge a partir de uma plataforma maior, a Global Network of Internet & Society Research Centers (NoC), da qual o IRIS faz parte e que conta com mais de 80 centros de tecnologia no mundo.

Temáticas do evento

O simpósio contou com convidados e colaboradores de todo o mundo em diversos setores: advocacia, filantropia, mídia, psicologia, educação, políticas e indústria. O objetivo foi abordar as principais oportunidades e os desafios das tecnologias baseadas em inteligência artificial por meio da perspectiva da inclusão. A inteligência artificial e suas tecnologias relacionadas começaram a moldar partes importantes da economia digital e afetam as principais áreas de nossas sociedade, que está cada vez mais conectada. Seja ela voltada para o setor de transporte (carros auto-dirigíveis), produção industrial, finanças, justiça social, saúde ou educação, a AI tem o potencial de impactar profundamente nossas vidas e moldar nosso futuro individual e coletivo de maneiras que nós nem mesmo concebemos atualmente.

A promessa de tecnologias baseadas em IA é enorme e os benefícios podem variar, desde ganhos de eficiência, até melhorias sem precedentes de qualidade de vida. Os desafios e os riscos potenciais são igualmente surpreendentes, por exemplo, quando se considera a incerteza quanto ao futuro do trabalho ou o surgimento de novas estruturas de poder fora do controle dos quadros existentes de governança e responsabilização. Mais especificamente, o acesso desigual e o impacto da AI e tecnologias relacionadas em populações frequentemente marginalizadas, que incluem comunidades pobres urbanas e rurais, mulheres, jovens, LGBTQ, grupos étnicos e raciais, pessoas com deficiência – e particularmente as que estão na interseção dessas grupos marginalizados – contribuem para o risco perturbador de ampliar as desigualdades digitais em todo o mundo.

Além disso, enfatizou-se que os interessados na área de IA devem ter o cuidado metodológico de buscar distinguir quais são as novas questões e problemas que surgem com a nova tecnologia, dos problemas e questões já existentes em outras áreas do conhecimento. Esse ponto é  importante  para  que o debate e solução de problemas seja realizada de uma forma eficiente, evitando-se um “hype” generalizado  sobre IA.

Inteligência artificial e exclusão: marginalidades recorrentes

A produção de desigualdades pela inteligência artificial foi um tema recorrente do simpósio. Por exemplo, ressaltou-se o enviesamento de resultados nas pesquisas em bancos de imagem, por meio do trabalho do coletivo Desabafo Social. Além disso, foram discutidas as formas com que infraestrutura, seleção de dados e a própria formação de desenvolvedores de aplicação pode reproduzir (por vezes, de forma ainda mais exacerbada) as desigualdades que processos de marginalização que observamos na sociedade “offline”.

Um dos keynote speakers do simpósio, Nishant Shah explicou que muitas vezes as decisões tomadas por desenvolvedores e até mesmo das equipes jurídicas que auxiliam a condução dessas aplicações se baseia no conceito de “homem médio”, ou “razoabilidade” daquilo que é costumeira e socialmente esperado.

No entanto, o próprio conceito de “homem médio” já carrega diversos enviesamentos e presunções. Por exemplo, ela carregaria a ideia de um homem branco, ocidental, do Norte Global. A tecnologia envolvida nos processos que presumem a existência de uma atitude do “homem médio”, ou razoabilidade situacional, na verdade, não é neutra. Partindo do pressuposto de que essa tecnologia não será neutra, porque não pensar sobre qual seriam os enviesamentos apropriados, adequados e ideais para seu desenvolvimento? Que tal tentar incluir também por meio da inteligência artificial?

Por outro lado, a inteligência artificial também exige contextualização. No Japão, por exemplo, a figura dos robôs e da automação do pensamento faz parte do imaginário coletivo há décadas, mas de maneira bastante positiva. Segundo a pesquisadora Arisa Ema (Tokyo University), a inteligência artificial costuma ser tratada positivamente em animes, filmes e reportagens. Em vez de um cenário apocalíptico ao estilo Exterminador do Futuro, aplicações de AI variam entre o tratamento de demência, depressão e até mesmo metodologias de facilitação do aprendizado.

Uma questão importante levantada no Simpósio é a diferença na capacidade de desenvolvimento de tecnologias de IA quando se compara países desenvolvidos com o Sul Global. Hoje poucos países têm liderado o desenvolvimento tecnológico nessa área, destacando-se EUA e China. Essa concentração gera preocupações pois tem o potencial de agravar as desigualdades entre os países.    Sendo que as possibilidades de uma maior universalização da produção IA por diversos países encontra como barreira a concentração de dados por determinados  atores.  Isso é importante pois para se treinar um algoritmo de IA, em muitos casos, é necessário uma grande quantidade de dados, os quais têm se concentrado em alguns agentes econômicos  como Amazon, Apple, Microsoft, Google, Facebook, e Baidu, por exemplo. 

Outra crítica  importante realizada no Simpósio foi que determinados  algoritmos de IA podem ser treinados somente com dados de uma língua e cultura determinada, o que pode gerar problemas na utilização  desse algoritmo quando aplicado  a outra língua e cultura.

Infelizmente o Brasil se posiciona muito atrás quando comparado com os países líderes do desenvolvimento dessa tecnologia. Vladimir Putin tem tentado colocar a Rússia nessa corrida tecnológica, em aula pública nacional de abertura do ano letivo afirmou que a Inteligência Artificial é  o futuro da humanidade,  e que aqueles que liderarem  seu desenvolvimento vão liderar o mundo. O tom da fala, apesar de exaltado, deveria servir como um alerta para nosso país. Nesse sentido é interessante o texto do antropólogo Hermano Vianna, citado no encerramento do Simpósio, que brinca com o conceito de antropofagia do Modernismo brasileiro afirmando que devemos desenvolver uma IA antropofágica à brasileira:

“Tudo bem, muito o que se fala atualmente sobre IA é hype. Mas o hype geralmente cria as tais “janelas de oportunidade” que podem ser aproveitadas por quem está de fora do debate principal, usando a confusão blá-blá-blá geral para dar pitaco na conversa para a qual não fomos chamados. Na minha opinião o Brasil perdeu a oportunidade da internet. Não inventamos um aplicativo original para o uso da Grande Rede, como o Skype criado por estonianos, suecos e dinamarqueses […] Nem criamos versões locais de ferramentas globais capazes de em seguida terem impacto no resto do mundo, como os chineses conseguiram com o Alibaba ou o Baidu. Os brasileiros se contentaram basicamente com o papel de consumidores vorazes das novidades, campeões ou vice-campeões em uso de redes sociais […] Nosso comportamento foi cada vez mais adquirindo o padrão de servidão voluntária diante de grandes corporações como Facebook. Trocamos a liberdade do código aberto (ou da noção de que a informação quer ser livre) por condomínios fechados administrados por empresas cada vez mais espertas no uso e na venda de nossos dados privados. Desconfio que quando falam em desenvolvimento nacional, grande parte dos brasileiros (inclusive dos economistas brasileiros) está pensando apenas na compra de camisetas da Abercrombie via Amazon.
[…]
Meu consolo: pode existir algo criativamente predatório nessa tendência apenas consumista. Há uma maneira brasileira de pensar? Conseguiríamos aqui construir uma inteligência artificial realmente outra, alienígena para padrões dominantes, ou fora do projeto Putin de dominação mundial? O Brasil não acabou?”

Direitos autorais e produção artística

Outro aspecto interessante do simpósio diz respeito às discussões sobre direitos autorais e a produção artística por meio de inteligência artificial. Harshit Agrawal, artista indiano, produz instalações que envolvem, de alguma forma, a automação criativa por meio de AI. Em uma de suas peças, voluntários eram chamados para segurar uma caneta sobre um papel, que era então comandada por um imã. Uma AI fazia a caneta se mover e produzir sentenças e conteúdo sobre o papel. Parte da discussão da obra envolvia a conversa posterior com esses voluntários, mais especificamente sobre o sentimento de paternidade que eles sentiam sobre as obras “criadas” por sua mão. O objetivo é justamente discutir a pertinência (ou não) da autoria da inteligência artificial. Segundo o artista, ele mesmo não vê elementos suficientes para marcar a autoria entre o programador da AI e as obras que ela cria.

Quer saber mais sobre o tema de inteligência artificial? Confira alguns dos posts que já escrevemos sobre o tema aqui no blog, e também o site do Global Symposium on Artificial Intelligence & Inclusion. Em breve, serão publicados os resultados das conferências.