Operando IA

Agentes de IA em Escala de Produção: O Que Stripe, Cloudflare e Times com Istio Realmente Fazem

TV
Thiago Victorino
10 min de leitura
Agentes de IA em Escala de Produção: O Que Stripe, Cloudflare e Times com Istio Realmente Fazem

A Stripe faz merge de 1.300 pull requests gerados por agentes toda semana. A Cloudflare cortou 98% do desperdício de tokens de agentes com um único padrão HTTP. Times que usam Istio estão reaproveitando o service mesh como infraestrutura de validação para agentes. E um número crescente de equipes opera o que um desenvolvedor chama de “Night Shift” — agentes trabalhando autonomamente enquanto humanos dormem.

Nenhum desses é demo. São padrões operacionais emergindo de forma independente em empresas que já passaram da pergunta “devemos usar agentes de IA?” e entraram na mais difícil: como você realmente os opera em escala sem se afogar nas consequências operacionais?

A resposta, nos quatro casos, é infraestrutura que a maioria das organizações ainda não construiu.

O Gargalo de Validação É Agora a Restrição Vinculante

O relatório State of Software Delivery 2026 da CircleCI analisou 28 milhões de workflows. A descoberta que deveria preocupar quem está escalando agentes: o throughput mediano na branch principal caiu 6,8% em relação ao ano anterior. A taxa de sucesso atingiu 70,8%, o menor nível em cinco anos. Nas feature branches, o throughput cresceu 15,2% — ou seja, os times estão escrevendo mais código do que nunca. Só não conseguem fazê-lo chegar à produção.

Como analisamos em De In-the-Loop para On-the-Loop, os 5% melhores times quase dobraram o throughput enquanto os outros 95% estagnaram ou regrediram. A distância está aumentando.

O The New Stack capturou a dinâmica com precisão: “O pipeline está sufocando com o próprio sucesso.” Agentes geram código mais rápido do que a infraestrutura consegue validar. Times limitam seus agentes — não porque são ruins, mas porque o ambiente de staging não absorve o volume. Desenvolvedores recorrem a testes unitários e mocks. O código passa nos testes localizados e quebra no sistema mais amplo.

A restrição vinculante da produtividade de agentes não é mais geração de código. É infraestrutura de validação.

Quatro Primitivas Operacionais

As empresas à frente estão construindo quatro categorias de infraestrutura que a maioria dos times sequer considerou. Não são frameworks teóricos. São padrões de engenharia específicos com resultados mensuráveis.

1. Ambientes de Execução de Agentes

A arquitetura DevBox da Stripe é o exemplo mais documentado. Cada tarefa de agente roda em uma instância EC2 isolada que espelha o ambiente completo de um desenvolvedor: pools pré-aquecidos, codebase completa, dependências em cache, setup de QA integral. Tempo de boot inferior a dez segundos. A instância é destruída após a tarefa.

A filosofia de design, como cobrimos em A Camada Agêntica da Stripe, merece ser repetida: “O que é bom para humanos é bom para agentes.” Se um desenvolvedor precisa de um ambiente completo com as dependências certas, acesso ao banco e infraestrutura de teste, o agente também precisa. O agente não deve operar num ambiente degradado só porque não é humano.

Engenheiros da Stripe rodam meia dúzia de DevBoxes simultaneamente. Cada um hospeda um agente independente numa tarefa separada. O humano revisa resultados, faz triagem de falhas e define o próximo lote. Esse é o modelo operacional engenheiro-como-diretor substituindo engenheiro-como-escritor.

O que a análise do ByteByteGo adiciona é a arquitetura de feedback. A Stripe limita agentes a uma tentativa de CI. Uma tarefa que falha duas vezes volta para um humano. “Saber quando parar é tão importante quanto saber como começar.” Esse limite é uma decisão de governança disfarçada de decisão de eficiência. Tentativas ilimitadas permitem que agentes queimem computação em problemas que não conseguem resolver. Tentativas limitadas forçam escalação.

2. Contratos de Erro Legíveis por Máquina

Quando um agente de IA atingia uma página de erro da Cloudflare, recebia 46.645 bytes de HTML — barras de navegação, CSS, texto para humanos, links do rodapé. São 14.252 tokens consumidos antes de o agente sequer conseguir entender o que deu errado.

A implementação da RFC 9457 (“Problem Details for HTTP APIs”) da Cloudflare substitui esse HTML por respostas estruturadas. Quando um agente envia Accept: text/markdown ou application/problem+json, recebe um erro legível por máquina:

  • Markdown: 798 bytes, 221 tokens. Frontmatter YAML com código de erro, possibilidade de retry, tempo de espera e orientação acionável.
  • JSON: 970 bytes, 256 tokens. Campos padrão RFC 9457 mais extensões operacionais.

A redução é de 98% tanto em payload quanto em tokens. Para um agente encontrando múltiplos erros por workflow, a economia se acumula diretamente em custos menores de inferência.

Mas o ganho de eficiência não é a parte interessante. A parte interessante são dois campos: retryable (booleano) e owner_action_required (booleano). Esses campos transformam o tratamento de erros de inferência para consulta. O agente não precisa interpretar uma página HTML para decidir se deve tentar novamente. Ele lê um booleano. Rate-limited? Espera o tempo especificado e retenta. Acesso negado? Para e escala. Falha de DNS? Reporta e segue.

Isso é governança determinística embutida no contrato de erro. Como discutimos em O Imposto Operacional, o custo de tokens do overhead de protocolo é o custo de contratos estruturados entre agentes e infraestrutura. A contribuição da Cloudflare é mostrar que o mesmo princípio se aplica ao tratamento de erros — e que os padrões HTTP existentes já suportam isso.

Dez categorias de erro. Dez comportamentos prescritos para agentes. Rede inteira, sem configuração por site. A infraestrutura ensina os agentes a falhar com elegância em escala.

3. Ambientes Efêmeros de Validação

O padrão Istio ataca o gargalo de validação diretamente. Quando você processa centenas ou milhares de PRs gerados por agentes por dia, duplicar o cluster Kubernetes inteiro para cada um é inviável. Duplicação completa leva 15 minutos ou mais por ambiente. A 1.000 PRs por dia, os custos de infraestrutura explodem.

A alternativa: ambientes efêmeros que implantam apenas os microsserviços alterados como sandbox leve. Bancos de dados pesados e serviços downstream estáveis são compartilhados de um ambiente baseline. O service mesh roteia dinamicamente o tráfego de teste entre o sandbox e o baseline usando roteamento baseado em headers.

Se você já roda Istio, já tem a capacidade de roteamento de tráfego. O service mesh intercepta requisições com headers específicos e as direciona para versões sandbox dos serviços alterados. A propagação de baggage via OpenTelemetry garante que o contexto de roteamento viaje por cadeias profundas de microsserviços.

O resultado: validação em runtime de alta fidelidade — testando contra dependências reais e em execução — com a concorrência e velocidade que workflows de agentes exigem. Agentes validam seu código, recebem feedback instantâneo e iteram sem contenção com outros agentes trabalhando em paralelo.

Esse padrão importa porque resolve o problema que faz times limitarem seus agentes. Quando validação é rápida e barata, você para de racioná-la. O teto de throughput dos agentes se eleva.

4. Padrões de Agendamento Autônomo

Jamon Holmgren opera o que ele chama de “Night Shift” desde dezembro de 2025: um workflow autônomo de 17 etapas que executa durante a noite enquanto o desenvolvedor dorme.

O workflow é explícito sobre o que humanos fazem e o que agentes fazem. Humanos escrevem especificações durante o dia. Agentes executam um loop estruturado à noite: seleção de tarefa, análise de spec, planejamento de testes, escrita de testes, revisão por seis personas, implementação, validação de qualidade, testes de regressão, revisão final, changelog e commit. O humano revisa os resultados na manhã seguinte.

A melhoria de 5x em produtividade que Holmgren reporta é anedótica — um desenvolvedor, um projeto. Mas o padrão não é exclusivo dele. O insight estrutural é que trabalho de agente e trabalho humano têm perfis de custo diferentes e não deveriam ser intercalados no mesmo relógio.

Dois detalhes operacionais merecem atenção. Primeiro, rigor máximo em verificação de tipos, linting e compilação. Holmgren reverteu sua posição anterior contra ferramentas estritas: “Para agentes, eu quero o máximo de rigor possível.” Ferramentas estritas dão aos agentes sinais de feedback claros e determinísticos. Ferramentas frouxas dão sinais ambíguos que requerem julgamento que o agente não tem.

Segundo, análise de causa raiz em cada comportamento incorreto do agente. Quando um agente comete um erro, a resposta não é corrigir o erro. É identificar por que o agente não tinha contexto suficiente para evitar o erro, e então corrigir a documentação ou workflow que causou a lacuna. Cada incidente vira um investimento em qualidade futura. “Eu não posso mascarar imperfeições na documentação ou no workflow pilotando manualmente. Preciso melhorar todo dia, para que a próxima manhã não seja gasta limpando bagunça.”

Esse é o paradoxo das operações de agentes na prática: mais agentes criam mais trabalho operacional, a não ser que você invista na infraestrutura que torna o output do agente confiável sem revisão manual.

O Padrão Transversal

Remova os detalhes específicos e o mesmo padrão aparece em todos os casos.

As empresas operando agentes em escala não estão construindo agentes melhores. Estão construindo infraestrutura que torna o output do agente verificável sem revisão humana de cada artefato. A Stripe constrói ambientes de execução com checkpoints determinísticos. A Cloudflare constrói contratos de erro com lógica de retry legível por máquina. Times com Istio constroem sandboxes de validação com testes contra dependências reais. Praticantes de Night Shift constroem loops de especificação-revisão-teste com portas de qualidade de seis personas.

O fio comum é determinismo. Cada padrão descrito aqui adiciona checkpoints determinísticos ao workflow do agente. Flags booleanos de retentativa. Portas de aprovação/reprovação de CI. Vereditos do verificador de tipos. Resultados de suítes de teste. Essas não são decisões de IA. São decisões de infraestrutura que restringem o que a IA pode fazer, tornando o output restante confiável.

Como cobrimos em O Imposto da Verificação, verificação não escala adicionando humanos. Escala codificando julgamento humano em sistemas automatizados. As quatro primitivas descritas aqui são implementações específicas desse princípio.

O Que Isso Significa para Sua Organização

Audite sua infraestrutura de validação antes de escalar seus agentes. Se seu pipeline de CI leva 30 minutos e seu ambiente de staging é compartilhado entre times, você atingirá o gargalo de validação antes de atingir qualquer limitação de capacidade do modelo. O padrão Istio — ambientes efêmeros com baselines compartilhados — é o caminho mais claro para organizações rodando microsserviços.

Implemente contratos de erro legíveis por máquina. A RFC 9457 não é nova. É padrão IETF desde 2024. Se suas APIs internas retornam páginas de erro HTML para agentes, você está queimando tokens em parsing e perdendo tratamento determinístico de erros. A implementação da Cloudflare é um padrão de referência.

Limite seus loops de retry. A Stripe limita a uma tentativa. O Night Shift de Holmgren tem condições de parada explícitas. Tentativas ilimitadas são a falha de governança mais comum em implantações de agentes. Desperdiçam computação e mascaram problemas que requerem julgamento humano.

Separe trabalho no relógio humano de trabalho no relógio do agente. Especificações, decisões de arquitetura e levantamento de requisitos são atividades do relógio humano. Execução de testes, geração de código, linting e testes de regressão são atividades do relógio do agente. O padrão Night Shift é a versão mais explícita disso, mas o princípio se aplica em qualquer escala.

A distância de infraestrutura entre times que conseguem operar agentes em escala de produção e times que não conseguem está aumentando a cada trimestre. A distância não é sobre modelos. É sobre as quatro categorias de infraestrutura operacional descritas aqui. Os times que estão construindo essa infraestrutura agora são os que terão produtividade composta dos agentes. Os times que estão esperando são os que terão dívida técnica composta.

Fontes


A Victorino Group ajuda organizações de engenharia a construir a infraestrutura operacional que torna agentes de IA confiáveis em escala de produção — ambientes de execução, pipelines de validação, contratos de erro e sistemas de governança. Entre em contato: contato@victorino.com.br ou visite www.victorino.com.br.

Se isso faz sentido, vamos conversar

Ajudamos empresas a implementar IA sem perder o controle.

Agendar uma Conversa