O LLM Já Decidiu Antes de Raciocinar. Sua Governança Monitora o Quê?

Pergunte a um modelo de linguagem se determinado código é seguro. Ele responde que sim, e descreve os passos de análise que seguiu. Verificou dependências, avaliou padrões de entrada, conferiu tratamento de exceções. A resposta parece diligente.

Agora imagine que a decisão (“sim, é seguro”) já estava codificada nas ativações internas do modelo antes de qualquer token de raciocínio ser gerado. Que os passos descritos não são um registro da análise, mas uma justificativa construída depois do fato.

Essa não é uma hipótese. É o que pesquisadores demonstraram em abril de 2026.

A Decisão Precede o Raciocínio

Um grupo de pesquisadores da Anthropic, MIT e Universidade do Nordeste publicou um estudo que examina a relação temporal entre decisão e raciocínio em LLMs. A metodologia é direta: sondas lineares treinadas sobre as ativações internas do modelo, antes da geração de qualquer token de cadeia de pensamento.

O resultado: sondas simples conseguem decodificar a decisão final do modelo a partir de ativações que existem antes do primeiro token de raciocínio ser produzido. A confiança das previsões é alta. O modelo “sabe” o que vai concluir antes de começar a explicar por quê.

Para quem trabalha com governança de IA, essa descoberta inverte uma premissa fundamental. Se a decisão é anterior ao raciocínio, o raciocínio não é evidência do processo decisório. É uma narrativa construída para acompanhar uma conclusão que já existia.

Steering de Ativação: A Prova Experimental

Os pesquisadores foram além da observação passiva. Usando vetores de steering aplicados às ativações pré-raciocínio, eles conseguiram alterar o comportamento final do modelo em 7% a 79% dos casos, dependendo da tarefa.

O dado revelador: quando o steering mudava a decisão, o chain-of-thought se adaptava para justificar a nova conclusão. Os pesquisadores descrevem isso com precisão cirúrgica: o raciocínio “frequentemente racionaliza a mudança ao invés de resistir a ela.”

Pense no que isso significa. O raciocínio não funciona como um tribunal independente que avalia evidências e chega a um veredito. Funciona como um advogado de defesa: recebe o veredito primeiro e constrói o argumento depois. Mude o veredito, e o advogado muda o argumento sem pestanejar.

O Que Isso Quebra na Governança

Várias práticas de governança empresarial dependem, implícita ou explicitamente, de que o raciocínio do modelo reflita seu processo decisório.

Auditoria de chain-of-thought. Organizações que revisam os passos de raciocínio para validar decisões de IA estão, na prática, auditando a racionalização. Se a conclusão já estava determinada antes dos passos aparecerem, os passos são decorativos. Podem até ser logicamente coerentes. Mas não descrevem o que aconteceu dentro do modelo.

Compliance baseado em explicação. Regulações emergentes como o EU AI Act exigem que sistemas de alto risco forneçam explicações sobre suas decisões. Se essas explicações são racionalizações pós-fato, o que exatamente está sendo regulado? A resposta honesta: a capacidade do modelo de produzir narrativas plausíveis, não a transparência do processo.

Detecção de viés por raciocínio. Equipes que analisam o chain-of-thought buscando sinais de viés ou raciocínio inadequado estão olhando para a superfície errada. O viés, se presente, mora nas ativações pré-raciocínio. A cadeia de pensamento visível pode estar perfeitamente limpa enquanto a decisão subjacente carrega distorções que nunca aparecem no texto.

De Racionalização para Verificação

Como exploramos em Quando Sua IA Explica o Raciocínio, Ela Está Inventando, a pesquisa de interpretabilidade da Anthropic já mostrava que modelos computam respostas por caminhos diferentes dos que descrevem. A descoberta sobre decisões pré-codificadas vai um passo além. Não é apenas que a explicação difere do processo. É que a explicação é posterior à conclusão.

A distinção importa para a prática. Se o modelo simplesmente explicasse mal o que fez, seria um problema de tradução (do espaço conceitual para a linguagem). Mas se o modelo já decidiu antes de raciocinar, é um problema de arquitetura. O raciocínio visível não é uma janela para o processo interno. É uma fachada.

Governança que funciona nesse cenário precisa abandonar a premissa de que monitorar raciocínio equivale a monitorar decisão. As alternativas são menos elegantes, porém mais honestas:

Verificação de saída contra dados independentes. Se você não pode confiar na explicação, verifique o resultado. Compare decisões do modelo com benchmarks conhecidos, dados históricos ou avaliação humana especializada. O resultado importa mais que a justificativa.

Testes de consistência. Submeta a mesma pergunta com variações de formulação. Se a decisão muda quando o framing muda, o modelo está respondendo à forma, não ao conteúdo. Essa fragilidade é detectável sem depender do chain-of-thought.

Monitoramento de ativações, não de tokens. A pesquisa sugere que as ativações pré-raciocínio contêm mais informação sobre a real “intenção” do modelo do que qualquer texto gerado. Isso ainda é técnica de pesquisa, não ferramenta de produção. Mas indica a direção: governança precisa olhar para dentro do modelo, não para o que o modelo diz sobre si mesmo.

O Custo da Ilusão de Transparência

O perigo maior não é que chain-of-thought seja inútil. É que parece útil. Uma explicação coerente e detalhada cria a sensação de que o processo foi compreendido. Essa sensação é falsa, e a falsidade tem custo.

Organizações que constroem governança sobre raciocínio visível acumulam um tipo específico de dívida: confiança mal depositada em evidências que não evidenciam o que aparentam. Quando essa confiança falha (e as descobertas sugerem que falhará), o déficit aparece de uma vez.

A pesquisa não diz que governança de IA é impossível. Diz que uma categoria inteira de governança (baseada em monitoramento de raciocínio) precisa ser reavaliada. A decisão já estava tomada antes do raciocínio começar. Monitorar o raciocínio, portanto, é monitorar a justificativa que o modelo construiu para uma decisão que já existia.

A pergunta para qualquer organização que opera sistemas de IA: sua governança verifica decisões ou verifica racionalizações?

Fontes

Anthropic, MIT, Northeastern University. “LLMs Encode Pre-Generation Decisions in Chain-of-Thought Models.” arXiv, abril 2026.
Anthropic. “Reasoning Models Don’t Always Say What They Think.” Maio 2025.

A Victorino Group ajuda organizações a construir governança de IA baseada em verificação, não em explicação: contato@victorino.com.br | www.victorino.com.br