Os usuários do Twitter levantaram um sério questionamento no último final de semana. Sem um motivo plausível, o algoritmo da plataforma que é responsável por utilizar de rede neural para gerar as pré-visualizações de imagens dentro da ferramenta aparentemente tem uma preferência por rostos de pessoas brancas.

De acordo com o The Verge, tudo começou quando o usuário do Twitter @colinmandland postava sobre um outro problema a respeito dos algoritmos de reconhecimento facial. A publicação em questão contava um relato de um homem negro que sempre tinha sua cabeça removida junto da opção de plano de fundo virtual da ferramenta. Ao postar as imagens dos dois homens, Colin percebeu que a rede estava dando preferência para o rosto branco.

Inicialmente o usuário achou que fosse algum padrão da plataforma, de preferir o canto direito da imagem na miniatura. E para então tirar as dúvidas, ele decidiu inverter as imagens. A surpresa foi que o rosto do homem branco continuava sendo preferência.

Os questionamentos foram realizadas por uma infinidade de usuários que fizeram os mais diversos testes com a ferramenta, sempre utilizando pessoas brancas e negras. E na grande maioria deles, a ferramenta dava preferência para as pessoas brancas, independente de qual contexto destas pessoas dentro da imagem. O nível é tão assustador que o padrão se repete para homens, mulheres e até mesmo desenhos com personagens brancos e negros.

Os testes são tão surpreendentes e chocantes que logo funcionários do Twitter fizeram questão de se pronunciar sobre o assunto por meio de suas contas. O diretor de design do Twitter, Dantley Davis postou que a empresa estava investigando o que causava isso em sua rede neural, enquanto conduzia alguns experimentos com imagens.

A funcionária branca da equipe de comunicação do Twitter Liz Kelley, postou ontem que a empresa não encontrou “nenhuma evidência de preconceito racial ou de gênero”. Mas admitiu que era evidente a necessidade de continuar analisando a ferramenta. “Vamos abrir o código do nosso trabalho para que outros possam revisar e replicar.”, informou.

O diretor de tecnologia da companhia mencionou que esta era uma discussão muito importante. Confirmou que o modelo já havia sido analisado, mas que precisava de melhorias contínuas.

Atualizado em 21/09/2020 às 13h43 – O Twitter Brasil publicou uma nota em seu perfil oficial no Brasil que é basicamente uma tradução da nota oficial publicada pelo perfil do departamento de comunicação do Twitter em inglês.