IRIS e AqualtuneLab denunciam junto ao Ministério da Igualdade Racial caso racismo algorítmico na plataforma Canva 

Em novembro de 2024, uma ferramenta de inteligência artificial da plataforma Canva foi usada para expandir uma fotografia de Lélia Gonzalez, uma das intelectuais negras mais importantes da história do Brasil. Sem qualquer comando nesse sentido, o sistema acrescentou à imagem elementos semelhantes a carreiras de cocaína sobre a mesa em que Lélia está apoiada. Um teste comparativo com a fotografia de um homem branco mostrou outro resultado: a mesma ferramenta acrescentou um copo de leite, símbolo historicamente associado a grupos de supremacia branca.

Diante desse caso, o IRIS e o AqualtuneLab formalizaram uma denúncia à Ouvidoria do Ministério da Igualdade Racial, solicitando a apuração dos fatos e a adoção de medidas cabíveis pela plataforma Canva.

O caso de Lélia Gonzalez não é isolado. Ele integra uma série de episódios recentes de racismo algorítmico, quando sistemas de inteligência artificial reproduzem ou amplificam preconceitos raciais já presentes na sociedade, ainda que essa não seja a finalidade para a qual esses sistemas foram criados. No Brasil, essa reprodução de viés racial acontece num cenário de ausência de regulação específica para inteligência artificial e de falta de mecanismos claros para prevenir, testar e responsabilizar plataformas por racismo algorítmo e discriminação algorítmica.

Essa denúncia se conecta diretamente à atuação do IRIS no projeto Tropicália e à sua estratégia de incidência em inteligência artificial, que defende o desenvolvimento e a governança de tecnologias efetivamente antidiscriminatórias.

Na denúncia, o IRIS e o AqualtuneLab pedem ao Ministério da Igualdade Racial que recomende à plataforma Canva a adoção de quatro medidas complementares:

• Criação de um canal de denúncia específico para viés algorítmico e discriminação racial, separado do canal genérico de moderação de conteúdo, com fluxo de investigação e prazos próprios.
• Publicação de relatórios periódicos de transparência algorítmica, com dados sobre denúncias recebidas, medidas corretivas adotadas e prazos de resposta.
• Realização e publicação de uma auditoria de viés racial específica para a ferramenta de expansão de imagens, já que esse tipo de sistema opera de forma diferente de outras ferramentas de geração de imagem e pode apresentar padrões próprios de viés.
• Criação e implementação de um código de ética com medidas de governança de inteligência artificial, compartilhado com os usuários da plataforma.

Veja a denúncia completa aqui, clicando aqui.