Pesquisa aponta que inteligência artificial pode reforçar racismo

A pesquisa da Ação Educativa e da REDE Negra em Tecnologia e Sociedade mostra que tecnologias digitais baseadas em inteligência artificial ou algoritmos podem contribuir para o racismo estrutural no Brasil

Por Laura Patta

Uma pesquisa realizada pela Ação Educativa e pela REDE Negra em Tecnologia e Sociedade apontou que tecnologias digitais baseadas em inteligência artificial ou algoritmos podem contribuir para o racismo estrutural no Brasil. A pesquisa ‘Prioridades Antirracistas sobre Tecnologia e Sociedade’ está disponível na íntegra aqui.

Segundo os resultados do estudo, tais tecnologias digitais são baseadas em dados de larga escala e não têm mecanismos para atender as complexidades sociais, e por isso podem reforçar o racismo no país.

Por meio de uma metodologia qualitativa, a pesquisa consultou 113 especialistas em equidade racial, tecnologia e sociedade.

O estudo propôs a pergunta “Quais são suas prioridades sobre antirracismo na tecnologia?”, e os entrevistados puderam indicar até cinco repostas. Nos resultados, foram identificadas 18 prioridades em comum.

A prioridade mais frequente foi a invisibilidade das contribuições negras, afrocentradas e antirracistas na tecnologia, representando 10,8% das respostas.

As respostas dos entrevistados refletiram a ideia de que a invisibilidade das relações de poder, histórias e controvérsias na tecnologia prejudicam a justiça racial e afetam negativamente a superação dos impactos de séculos de racismo.

Em seguida, ficaram empatadas a questão de falta de diversidade e inclusão; inteligência artificial e algoritimização; e a vigilância e violência estatal, todos com 9,7%.

Os entrevistados concordaram que a falta de diversidade traz enorme prejuízo individual e coletivo para a sociedade brasileira. Em relação à vigilância e à violência estatal, os especialistas demonstraram preocupação com sistemas de monitoramento, reconhecimento facial e biometria por promoverem seletividade penal e o encarceramento das populações negras e de baixa renda.