Sua Taxonomia Virou o Modelo de Permissão do Agente

TV
Thiago Victorino
8 min de leitura
Sua Taxonomia Virou o Modelo de Permissão do Agente

Empresas gastaram US$ 37 bilhões com IA generativa em 2025, contra US$ 11,5 bilhões no ano anterior, e apenas 15% relatam IA generativa implantada em escala corporativa. Os dois números vêm do mesmo conjunto de pesquisas: a Menlo Ventures no gasto, o World Quality Report 2025 na taxa de implantação. Entre o dinheiro e a escala mora uma categoria de falha que é atribuída ao modelo e pertence ao acervo de onde o modelo lê.

Patrick Neeman, líder de AI UX na Workday, fez o argumento na UX Collective em julho de 2026, e vale citar a formulação dele uma vez porque é a versão mais limpa: “Você não tem um problema de IA. Você tem um problema de arquitetura de informação fantasiado de IA.”

A busca otimiza por semelhança de superfície

Geração aumentada por recuperação, como descrita por Lewis e colegas em 2020, faz algo mais estreito do que a maioria dos compradores imagina. Ela transforma a pergunta em vetor, procura num banco vetorial e devolve trechos que ficam perto da pergunta nesse espaço. Perto significa proximidade lexical e semântica. Neeman descreve a consequência assim: a busca “encontra a correspondência mais barulhenta, aquela que compartilha mais palavras de superfície com a consulta, independentemente de ser atual, autoritativa ou verdadeira.”

Quem define o que conta como barulhento é o acervo. Se um PDF de política de 2019, sua substituição de 2024 e uma thread de Slack onde alguém parafraseou as duas estão todos no mesmo índice sem tipo, sem data de vigência e sem rótulo de autoridade, o recuperador não tem base nenhuma para preferir a que governa. Ele devolve o trecho que compartilha mais vocabulário com a pergunta. O modelo então escreve uma resposta fluente ancorada no trecho errado, e a fluência é o que torna isso perigoso. Modelos de linguagem “não preenchem lacunas com julgamento; eles fazem pattern-matching sobre a bagunça e a reproduzem em escala, com confiança.”

O trabalho da Anthropic sobre recuperação contextual dá uma noção de quanto da falha é estrutural em vez de ser do modelo. Acrescentar contexto explicativo a cada trecho antes de indexar reduziu as recuperações falhas em até 49%. Mesmo modelo, mesma consulta, conteúdo mais bem descrito, metade dos erros. Ninguém trocou o motor de raciocínio.

A escalada que ninguém precificou

Qualidade de busca como problema de arquitetura de informação já é um argumento conhecido. Mudou o que está embaixo dele.

Um assistente que responde perguntas produz texto que um humano lê e pode descartar. Um agente que abre um chamado, ajusta um registro, emite um reembolso ou provisiona acesso produz estado. Neeman coloca a diferença sem rodeio: “Uma resposta errada corrói a confiança. Uma ação errada move dinheiro, altera registros e dispara sistemas a jusante que assumem que ela estava correta.”

Agora acompanhe como um agente decide sobre o que pode agir. Ele localiza a entidade, resolve a que essa entidade se relaciona e aplica as regras de escopo que conseguir recuperar. Cada uma dessas etapas é uma consulta ao mesmo acervo sem tipos e sem rótulos. Se dois registros de cliente têm nomes parecidos, se uma política revogada mora ao lado da substituta, se um documento não tem dono anexado, o agente resolve a ambiguidade do mesmo jeito que o recuperador: por semelhança de superfície. Ou seja, sua taxonomia passou a decidir o que o agente tem permissão de tocar.

Chame de taxonomia, ontologia ou camada semântica. A função é idêntica: dizer a uma máquina o que uma coisa é e como ela se relaciona com outras coisas. Sob um assistente, isso era um sistema de arquivamento. Sob um agente, é uma superfície de autorização, e ela nunca foi projetada para carregar esse peso. Nas palavras de Neeman: “A bagunça não mudou. O raio de dano mudou.”

Dois tribunais, uma conclusão

Em Moffatt v. Air Canada, um tribunal da Colúmbia Britânica responsabilizou a companhia aérea por uma resposta errada que o chatbot deu sobre tarifa de luto. A empresa argumentou que o chatbot era “uma entidade separada, responsável pelas próprias palavras”. O tribunal rejeitou. A Air Canada era dona do output porque a Air Canada colocou o sistema em operação.

Já tratamos de um tribunal alemão chegando à mesma conclusão em outro caso sobre responsabilidade por output de IA. Duas jurisdições, fatos diferentes, uma regra: quem opera responde pelo que o sistema diz. Nenhum dos tribunais perguntou qual modelo foi usado, qual fornecedor entregou ou qual era a temperatura. A responsabilidade grudou em quem colocou o sistema na frente do cliente.

Estenda isso a agentes e a exposição muda de forma. Uma frase errada gerou um reembolso e um noticiário ruim. Uma ação errada gera uma transação, uma trilha de auditoria que a registra como intencional e sistemas a jusante que já consumiram o resultado. Quando o regulador ou o autor da ação perguntar por que o agente fez aquilo, “o modelo alucinou” não é resposta. A resposta vai ser um rastro de recuperação, e ele vai apontar para o seu acervo de conteúdo.

Rode isto hoje, sobre uma resposta errada

O diagnóstico que Neeman oferece custa uma tarde e não exige decidir plataforma nenhuma. Pegue uma resposta errada que sua IA produziu recentemente. Puxe os trechos que ela recuperou para produzir aquilo.

Você vai cair em um de dois lugares. Ou os trechos recuperados estavam corretos e o modelo raciocinou mal, o que é um problema de modelo e se resolve com modelo. Ou os trechos estavam desatualizados, ambíguos, duplicados ou vieram de uma fonte sem autoridade, o que significa que o modelo resumiu exatamente o que você deu a ele. Pelo output sozinho, esses dois casos são indistinguíveis. Ambos parecem uma resposta errada e confiante. Só o rastro de recuperação separa os dois, e a maioria dos times compra um modelo melhor sem nunca olhar.

Rode a amostra grande o bastante para ser honesta, vinte respostas em vez de uma, e você tem uma proporção. Essa proporção é o argumento sobre para onde vai o próximo dólar.

Os cinco movimentos seguintes, adaptados da auditoria pré-compra de Neeman:

  1. Audite de onde sua IA recupera, não apenas como ela responde. Suítes de avaliação pontuam respostas. Pontue o acervo.
  2. Tipifique o conteúdo antes de indexar. Tipo de documento, data de vigência, dono, nível de autoridade, status de substituição. Conteúdo sem tipo não pode ser filtrado, e o que não pode ser filtrado acaba recuperado.
  3. Conserte rótulos e taxonomia antes de consertar prompts. Engenharia de prompt compensa um acervo ruim uma consulta por vez e nunca acumula.
  4. Dê aos agentes um modelo explícito de relações e permissões. O que pertence a quê, o que depende do quê e o que o agente tem permissão de tocar. Escrito, não inferido em tempo de execução a partir de embeddings.
  5. Coloque um custo de arquitetura de informação sobre um resultado de IA. A versão de Neeman: “Simplificando, arquitetura de informação ruim agora pode ser medida em custo de tokens. Muitos deles.” Retentativas, contextos mais longos e retrabalho humano são a fatura.

A disciplina vizinha é rastreabilidade. Argumentamos em governança que você não consegue rastrear que uma decisão sem ligação com o código que a implementa não está governada, e no diário do agente que ações de agente precisam de registro durável. Rastros de recuperação são o mesmo instrumento apontado para o lado da entrada.

A IA do Google mandou as pessoas colocarem cola na pizza em 2024 porque um post de piada parecia, para um recuperador, uma receita. Isso era engraçado enquanto o output era uma frase. Dê à mesma pilha de recuperação uma ordem de compra e uma service account, e o post de piada vira uma decisão de autorização. Antes de aprovar o próximo upgrade de modelo, pergunte o que seu agente recuperou da última vez que errou. Se ninguém conseguir produzir esse rastro, o acervo é onde seu orçamento deve estar.


Fontes

A Victorino ajuda equipes a auditar os acervos de conteúdo sobre os quais seus agentes agem, antes que esses acervos virem um modelo de permissão por acidente: contato@victorino.com.br | www.victorino.com.br

Todos os artigos do The Thinking Wire são escritos com o auxílio do modelo LLM Opus da Anthropic. Cada publicação passa por pesquisa multi-agente para verificar fatos e identificar contradições, seguida de revisão e aprovação humana antes da publicação. Se você encontrar alguma informação imprecisa ou deseja entrar em contato com o editorial, escreva para editorial@victorino.com.br . Sobre o The Thinking Wire →

Se isso faz sentido, vamos conversar

Ajudamos empresas a implementar IA sem perder o controle.

Agendar uma Conversa