O risco invisível da inteligência artificial: decisões tomadas sobre quem nunca participou dos dados

 

 

Por Carolina Marciale

 

A inteligência artificial já começa a influenciar decisões sobre emprego, crédito, consumo, saúde e políticas públicas. Mas existe uma pergunta ainda pouco debatida: o que acontece quando esses sistemas passam a interpretar a sociedade sem compreender plenamente a realidade de milhões de pessoas?

Enquanto governos, empresas e plataformas aceleram o uso de ferramentas baseadas em inteligência artificial, cresce também uma preocupação global sobre os dados que treinam esses sistemas — e, principalmente, sobre quem ficou de fora deles.

No Brasil, onde grande parte da população vive entre informalidade econômica, desigualdade digital e baixa representação estatística, essa discussão ganha uma dimensão ainda mais profunda. Porque ausência nos dados também produz ausência nas decisões.

O debate sobre inteligência artificial costuma girar em torno de produtividade, inovação e automação. Mas os sistemas de IA aprendem a partir de padrões existentes. E esses padrões nem sempre conseguem refletir a complexidade social real de países marcados por desigualdade, informalidade e múltiplas formas de organização econômica e comunitária.

Isso significa que milhões de pessoas seguem parcialmente invisíveis para os sistemas que começam a organizar decisões importantes da vida cotidiana.

O risco não está apenas em preconceitos explícitos reproduzidos pela tecnologia. Está também na ausência de contexto. Na incapacidade dos sistemas de compreender formas de vida, renda, consumo e circulação econômica que escapam dos modelos tradicionais de coleta de dados.

Uma família pode parecer financeiramente instável porque possui renda informal variável. Um território pode parecer economicamente menos relevante porque produz menos rastros digitais. Um trabalhador pode parecer menos confiável para sistemas automatizados simplesmente porque sua realidade não se encaixa nos padrões historicamente mais registrados.

Quando isso acontece em escala, a consequência deixa de ser apenas tecnológica. Passa a ser social, econômica e institucional.

A inteligência artificial não cria sozinha as desigualdades que já existem. Mas pode aprofundá-las quando começa a operar sobre bases de dados que representam apenas parte da sociedade.

Essa discussão ganha relevância justamente em um momento em que empresas, governos e plataformas digitais ampliam o uso de inteligência artificial para organizar políticas, definir prioridades, interpretar comportamento de consumo e automatizar decisões.

Por trás da promessa de neutralidade tecnológica, existe uma disputa silenciosa sobre quem produz conhecimento válido sobre a sociedade.

E essa talvez seja uma das discussões mais importantes da próxima década.

O tema já aparece em alertas de organismos internacionais. O Banco Mundial aponta que, para que países consigam se beneficiar plenamente da inteligência artificial, não basta acesso à tecnologia. São necessários conectividade confiável, dados locais, habilidades digitais e capacidade computacional. Sem dados capazes de refletir realidades diversas, a tendência é que os sistemas funcionem melhor para alguns grupos do que para outros.

O Instituto Nacional de Padrões e Tecnologia dos Estados Unidos (NIST), referência internacional no tema, também chama atenção para o fato de que o viés em inteligência artificial não nasce apenas no algoritmo. Ele pode surgir de dados pouco representativos, desigualdades históricas e do próprio contexto social em que o sistema será aplicado.

A Organização para Cooperação e Desenvolvimento Econômico (OCDE), por sua vez, defende que sistemas de inteligência artificial confiáveis precisam respeitar direitos humanos, inclusão e valores democráticos. Isso desloca o debate da tecnologia para um campo mais amplo: o da governança e da qualidade das decisões.

Nos últimos anos, iniciativas brasileiras vêm tentando enfrentar parte desse desafio ao aproximar metodologia, escuta territorial e inteligência social. A parceria entre Ipsos, CUFA e Data Favela surge nesse contexto: ampliar a capacidade de compreensão sobre populações historicamente sub-representadas nas pesquisas tradicionais e produzir leituras mais próximas darealidade concreta do país.

A discussão não interessa apenas ao terceiro setor. Interessa também ao mercado, às instituições financeiras, às plataformas digitais e aos formuladores de políticas públicas. Afinal, sistemas de inteligência artificial aprendem com os dados disponíveis. E dados incompletos geram interpretações incompletas da sociedade.

Em um país como o Brasil, onde milhões de pessoas constroem diariamente formas próprias de trabalho, renda, consumo e organização social, compreender apenas os grupos mais visíveis significa compreender apenas uma parte da realidade.

Por isso, diversidade de dados não deve ser tratada apenas como pauta de inclusão. Trata-se de qualidade de decisão.

Organizações capazes de produzir leitura contextual, escuta qualificada e inteligência social terão papel cada vez mais estratégico em um mundo orientado por dados e automação.

Porque o futuro da inteligência artificial não será definido apenas pela capacidade computacional dos sistemas, mas pela diversidade humana presente nos dados que ensinam esses sistemas a interpretar o mundo.

 

*A opinião dos colunistas não reflete, necessariamente, a opinião do Observatório do Terceiro Setor.

 

Sobre a autora: Carolina Marciale é Head de Comunicação Institucional da CUFA (Central Única das Favelas) e Head de Comunicação Estratégica da Data Favela, com atuação em comunicação corporativa, reputação, gestão de crises e assuntos públicos. Trabalha na interface entre território, dados e agenda pública, estruturando estratégias de comunicação orientadas por evidências, mobilização social e posicionamento institucional.