A administração pública brasileira incorpora rapidamente sistemas de inteligência artificial para apoiar decisões em benefícios, fiscalizações, contratações e processos. Embora esses sistemas sejam apenas consultivos e a decisão permaneça com o agente público, essa estrutura pode produzir o efeito contrário ao esperado. O problema não está na IA decidir, mas em alterar o ônus da argumentação. Concordar com a recomendação costuma dispensar justificativas, enquanto divergir exige fundamentação detalhada, aumentando o risco de responsabilização. Assim, seguir o sistema torna-se mais seguro do que exercer o próprio julgamento. A discricionariedade administrativa depende da liberdade de escolha dentro da lei e do dever de motivação previsto na Lei nº 9.784/1999. Com a IA, essa obrigação deixa de ser simétrica, recaindo principalmente sobre quem rejeita a recomendação. Inspirada na teoria da argumentação de Robert Alexy, essa dinâmica cria um incentivo institucional para seguir o algoritmo, independentemente de falhas cognitivas. O chamado viés de automação pode reforçar esse comportamento, mas não é sua principal causa.
Pesquisas com servidores públicos mostram que não há confiança automática em algoritmos; a adesão decorre sobretudo da estrutura de incentivos. O escândalo dos auxílios à infância nos Países Baixos ilustra que a supervisão humana formal não impede erros quando prevalece a confiança no sistema. No Brasil, a LGPD, o Projeto de Lei nº 2.338/2023 e a Resolução CNJ nº 615/2025 garantem supervisão humana, mas não eliminam essa assimetria. A solução proposta é exigir fundamentação tanto para seguir quanto para rejeitar a recomendação algorítmica. Somente com igualdade no dever de justificar a decisão a discricionariedade permanece efetiva. O desafio não é confiar ou desconfiar da inteligência artificial, mas assegurar que a decisão humana continue sendo realmente livre, responsável e fundamentada.
Nenhum comentário:
Postar um comentário