A colonização do juízo pelo cálculo

Há crescente confiança em sistemas algorítmicos, particularmente aqueles baseados em Inteligência Artificial (IA), cujo modo de operação denominamos cálculo. Eles influenciam e substituem tomadores de decisão humanos em domínios cada vez mais sensíveis. Isso ocorre a despeito de profundas divergências no modo como o juízo humano e o cálculo operam, e de persistentes desafios à tentativa de superá-las. Neste artigo, defendemos que  essa confiança é desmedida e decorre parcialmente de uma falha em perceber o fenômeno da colonização do juízo pelo cálculo: o que aparece como uma crescente acurácia na simulação do juízo é, em boa medida, fruto de umacrescente influência do cálculo no modo como o juízo opera, delimitando seus contextos de operação e incitando a adoção de suas trajetórias inferenciais. Isso se mostra em habilidades cognitivas fundamentais, como a de determinar fatores relevantes em quaisquer contextos, inclusive os de deliberação moral.