Prefeituras tomam, todos os dias, decisões que separam quem recebe e quem não recebe: quem é fiscalizado primeiro, quem passa na triagem, quem entra na fila de um serviço. Cada vez mais, essas decisões usam critérios automáticos. Como saber se elas tratam grupos de forma desigual sem justificativa? Um artigo publicado em julho de 2026 na revista PNAS, assinado por Jongbin Jung, Sam Corbett-Davies, Johann Gaebler, Ravi Shroff e Sharad Goel, este último da Harvard Kennedy School (HKS), propõe um método. O registro na página da HKS traz o resumo; o artigo completo não foi lido.
A ideia em resumo
O método se chama regressão ajustada ao risco e tem três passos, segundo o resumo. Primeiro, combinam-se as informações disponíveis em um modelo de aprendizado de máquina para estimar o risco ou o valor de uma ação, como aprovar um crédito ou contratar alguém. Segundo, medem-se as diferenças entre grupos nas decisões depois de ajustar apenas por essas estimativas de risco. Terceiro, testa-se o quanto o resultado é sensível a possíveis erros na medição do risco. O objetivo é medir disparidades tanto em decisões humanas quanto em decisões de máquinas, a partir do conceito de impacto desproporcional.
O que a pesquisa mostrou
Os autores aplicaram o método a cerca de 2,2 milhões de abordagens policiais a pedestres em Nova York. O achado principal é que os testes estatísticos tradicionais de discriminação podem subestimar de forma substancial o tamanho das disparidades raciais ajustadas ao risco. O resumo não dá tamanhos de efeito, não detalha o modelo de risco e não discute limitações; a terceira etapa, de sensibilidade, responde a uma preocupação metodológica, mas o texto completo seria necessário para avaliar as demais.
A razão de ser do método é simples de explicar a um gestor: comparar grupos sem considerar o risco pode induzir a erro nos dois sentidos. Um grupo pode ser mais fiscalizado porque tem de fato mais irregularidades, ou apenas porque a fiscalização sempre foi para lá. Ajustar pelo risco tenta separar as duas explicações, e o teste de sensibilidade avisa quando a resposta depende demais de como o risco foi medido.
Como aplicar no Brasil
O resumo não é um manual para prefeituras, mas dá uma boa pergunta de auditoria: se corrigirmos pelo risco real, a decisão ainda difere entre grupos? A LGPD garante ao titular o direito de pedir revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses (art. 20) e traz entre seus princípios a não discriminação (art. 6º, IX). Um roteiro para começar:
- Liste decisões que classificam pessoas ou empresas. Fiscalização, triagem de benefícios, priorização de filas, abordagens, lançamento e cobrança. Marque quais usam critério automático ou planilha de pontuação.
- Defina o que seria risco ou necessidade de verdade. Por exemplo, a probabilidade de irregularidade comprovada ou a gravidade da necessidade, e não apenas quem já foi atendido antes, o que reproduz o passado.
- Compare grupos depois de igualar o risco. Território, sexo e raça ou cor, quando houver dado confiável, são recortes comuns. Se a decisão difere sem explicação por risco, abra uma investigação.
- Teste a sensibilidade. Pergunte o quanto o resultado muda se a medida de risco estiver imperfeita; se muda muito, a conclusão é frágil.
- Documente e dê transparência. Registre o critério, quem decide e como o cidadão pode pedir revisão.
- Trate os dados com cuidado. Dados de origem racial ou étnica e de saúde são dados pessoais sensíveis (art. 5º, II, da LGPD); use-os apenas com finalidade definida, de forma agregada sempre que possível, e consulte o encarregado.
Cuidados e limites
O resumo diz que os testes tradicionais podem subestimar disparidades, mas não quantifica o efeito, e o exemplo é policial, em Nova York, com um tipo específico de decisão. Medir risco é, por si só, uma escolha que pode embutir vieses, razão pela qual a etapa de sensibilidade importa. Uma disparidade ajustada ao risco não prova discriminação, e a ausência de disparidade não prova justiça; ambas exigem análise de contexto. Equipes sem formação estatística devem buscar apoio técnico antes de publicar números sobre grupos. Este texto é uma leitura própria da Evoluta, feita por profissionais com formação pela Harvard Kennedy School, sem vínculo da empresa com a HKS.
