IA Funcional: Por que funcionários contornam sistemas?

Um banco global aprovou um sistema de IA para automatizar decisões de crédito em 2022. Em testes, a ferramenta processava solicitações mais rápido, reduzia erros e prometia economia. A gestão de riscos, compliance e o CEO endossaram a iniciativa como um avanço. Seis meses após a implementação, contudo, a maioria dos processos ainda passava por revisão humana. Salvaguardas temporárias se tornaram permanentes, e o sistema de IA, embora parte do fluxo, não tomava a maioria das decisões finais.

Essa história se repete em vários setores: as organizações adotam sistemas que tomam decisões melhores, mas preservam estruturas de autoridade humana que impedem a aceitação dessas decisões. O problema não são projetos-piloto fracassados, mas sim a falta de evolução das estruturas de responsabilização e legitimidade das empresas para integrar a inteligência artificial. Instituições acumulam tecnologia sem se reorganizar em torno dela.

Outras explicações, como a inércia estrutural, não capturam a essência do problema. Muitas vezes, há aparente conformidade: os sistemas funcionam e são utilizados, mas não recebem direitos reais de decisão. Pesquisas sobre complacência com automação alertam para a excessiva cedência às máquinas, mas aqui o cenário é o oposto: os profissionais não cedem porque as estruturas de responsabilização tornam isso perigoso para suas carreiras. A literatura sobre o paradoxo da produtividade aponta para a falta de ganhos de desempenho em investimentos de TI, mas raramente detalha o mecanismo organizacional por trás disso.

Quando um sistema de IA recomenda algo e um humano discorda, o humano quase sempre prevalece discretamente. Profissionais redefinem os limites do sistema por prudência, estabelecendo mais revisões e sinalizações. Individualmente defensáveis, esses ajustes se tornam desastrosos coletivamente. O cenário se agrava com sistemas de IA agêntica, que agem em vez de recomendar, criando ambiguidade sobre responsabilidade jurídica em larga escala.

A adoção real se manifesta na simplificação de processos, diminuição de exceções e redistribuição explícita de autoridade. A tecnologia e a arquitetura organizacional precisam avançar juntas, com o trabalho de organização planejado antes da escalada do sistema. Líderes precisam questionar a governança da IA: quem é o responsável final pela decisão? Quem deve aprovar o sistema? Quem deve ser notificado quando ele falha? Quem absorve o risco? Se essas perguntas não forem respondidas explicitamente, serão respondidas implicitamente por operadores individuais.

A adoção plena ocorre quando aprovar decisões de um sistema de IA não representa um sacrifício profissional. Líderes devem redesenhar papéis, elevando o julgamento humano para supervisão ampla e aprimoramento do sistema. É preciso fornecer ferramentas para explicar decisões não tomadas pessoalmente e ter apoio de líderes dispostos a encarar erros iniciais como aprendizado institucional. Empresas mais perspicazes reconhecem que o ponto central é a autoridade, redesenhando fluxos de trabalho e governando transições sem transferir custos de aprendizado para funcionários individuais.

Em breve, você aprovará um sistema de IA que funciona. A tentação será medir o sucesso por métricas de uso e fluidez. Mas se o sistema fosse desligado amanhã, as decisões que realmente importam mudariam? Se não mudassem, a autoridade não foi transferida.