Ciência e Tecnologia

Twitter investiga algoritmo por priorizar rostos brancos em fotos

Rede social afirma que algoritmo usado para definir a prévia das imagens busca contraste, mas prometeu realizar mais análises

Por Texto: Victor Hugo Silva com Tecnoblog 21/09/2020 16h42
Twitter investiga algoritmo por priorizar rostos brancos em fotos
Reprodução - Foto: Assessoria
O tratamento diferente em fotos com pessoas brancas e negras fez o algoritmo do Twitter ser questionado. Desde sexta-feira (18), testes feitos por vários usuários indicaram que a rede social pode priorizar rostos brancos nas prévias das imagens, mesmo que os rostos negros estejam em uma posição mais favorecida no arquivo. Questionada, a plataforma prometeu investigar a situação. A discussão sobre viés racial em algoritmos ganhou atenção após Colin Madland relatar no Twitter que o Zoom não exibia o rosto de um colega negro que escolheu um plano de fundo virtual durante uma chamada de vídeo. Madland compartilhou uma foto da tela do Zoom e, logo depois, percebeu que o aplicativo do Twitter priorizava seu rosto, de um homem branco, em vez de seu colega na prévia do tweet, mesmo que a imagem fosse invertida. https://twitter.com/colinmadland/status/1307111822772842496?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1307111822772842496%7Ctwgr%5Eshare_3&ref_url=https%3A%2F%2Ftecnoblog.net%2F368571%2Ftwitter-investiga-algoritmo-por-priorizar-rostos-brancos-em-fotos%2F No sábado (19), Tony Arcieri testou como a rede social reagiria às fotos de Barack Obama, primeiro negro eleito presidente dos Estados Unidos, e Mitch McConnell, branco eleito senador por Kentucky. Arcieri usou imagens verticais com uma um rosto acima do outro, ora com o topo mostrando a de Obama, ora a de McConnell. A comparação mostrou que a plataforma priorizou a foto de McConnell nos dois casos. https://twitter.com/bascule/status/1307446234655809536?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1307446234655809536%7Ctwgr%5Eshare_3&ref_url=https%3A%2F%2Ftecnoblog.net%2F368571%2Ftwitter-investiga-algoritmo-por-priorizar-rostos-brancos-em-fotos%2F O usuário cogitou que o algoritmo priorizou McConnell por conta de detalhes como a cor da gravata, e editou as fotos. Ainda assim, a imagem do senador ganhou destaque. O rosto de Obama só apareceu na prévia quando as cores da foto foram invertidas, mudando fatores considerados pelo algoritmo. Outro usuário apontou que a exibição muda de acordo com o app e indicou que o TweetDeck parecia não ter o problema de viés racial. Em resposta a Arcieri, o Twitter garantiu que fez testes antes de implantar o algoritmo e que não encontrou evidências de viés racial ou de gênero. “Mas está claro que temos mais análises para fazer. Continuaremos a compartilhar o que aprendemos, quais ações tomamos e abriremos o código para que outros possam revisar e replicar”, afirmou a plataforma no perfil de sua equipe de comunicação. Twitter diz que algoritmo busca contraste O Twitter adotou em 2018 uma rede neural para definir o que é destacado na prévia das imagens. A plataforma afirmou, à época, que a inteligência artificial recortaria fotos no ponto que as pessoas mais querem ver. Para isso, o sistema faria o chamado “recorte de imagem através de saliência”, isto é, buscaria regiões que contam com mais contraste para o restante do arquivo. É o que apontou o chefe de Design do Twitter, Dantley Davis, em resposta a Madland. Segundo ele, “a inteligência artificial está buscando por contraste como entrada”. Na foto da conversa no Zoom, o contraste encontrado pelo algoritmo teria sido a barba do usuário. Quando Davis publicou a mesma imagem com a barba de Madland desfocada, a prévia do Twitter mostrou o homem negro. “Não estou dizendo que isso está certo, apenas explicando o que está acontecendo”, continuou Davis, que afirmou ser favorável a parar de cortar fotos por meio da rede neural. Em resposta a outro usuário, o executivo relatou estar tão irritado com o problema como qualquer outra pessoa. “No entanto, estou em posição de consertar isso e o farei”, afirmou.

Mais lidas