Cinco Perguntas para um Fornecedor de Harness, Aplicadas ao Maior Lançado Este Mês

TV
Thiago Victorino
8 min de leitura
Cinco Perguntas para um Fornecedor de Harness, Aplicadas ao Maior Lançado Este Mês

Em 1 de setembro, Kai Waehner publicou um teste de cinco perguntas que um comprador pode aplicar em uma reunião com fornecedor para descobrir quão portátil é de fato um harness de agentes. Em 10 de setembro, a OpenAI lançou a Agents API, um runtime de harness gerenciado que a própria OpenAI descreve como “fully managed by OpenAI”. Nove dias separam o teste do maior objeto disponível para ele.

Já argumentamos que o harness é onde a governança mora agora e que ele é um artefato de vida curta que as duas pontas do stack estão devorando. Este texto faz algo mais estreito. Pega um checklist com nome e autor, aplica a um produto lançado, e relata quais perguntas o anúncio responde.

As cinco perguntas

O teste de Waehner, na forma em que você pode ler em voz alta na reunião:

  1. Você consegue exportar as definições de agente em um formato que outro sistema leia, e alguém já fez isso de verdade?
  2. Onde vive o contexto acumulado, e você consegue apontar para ele dentro da sua própria camada de dados?
  3. A coisa toda poderia ser re-hospedada em infraestrutura que você controla?
  4. Você recebe a trilha de auditoria completa, ou apenas o resumo que o fornecedor faz dela?
  5. Qual é o custo realista de saída em meses de engenheiro, medido hoje?

A instrução de processo pesa tanto quanto o conteúdo: “Ask all five of the same vendor, in the same meeting, and write the answers down.” Uma pergunta por vez, espalhada ao longo de um trimestre, rende cinco respostas tranquilizadoras que nunca precisam ser coerentes entre si.

Acima do checklist ele coloca um critério de desempate: “does the context your agents accumulate live in your data layer or inside the harness?” O texto dele é um argumento. Não traz benchmark nem pesquisa, e deve ser lido como raciocínio.

Waehner também separa três formatos de harness pelo tanto que o fornecedor detém. Um harness de framework vive no seu código, e você mantém tudo. Um harness de runtime gerenciado coloca execução, estado e escala no fornecedor, onde “your agent definitions live in their format”. Um harness embarcado fica dentro de uma plataforma de aplicação, e “the agents work only where they were born”. Ele se recusa a ranquear: “None of these is wrong. They are three different deals, and the mistake is signing one without reading it.”

Aplicando o teste ao anúncio da Agents API

O que vem a seguir avalia um documento: o anúncio de lançamento. O produto pode conter mais do que o texto diz. Uma leitura do texto bruto desse anúncio não encontrou portões de aprovação, human-in-the-loop, trilha de auditoria, permissões ou RBAC, nem motor de política. As únicas superfícies com cara de controle são isolamento por sandbox, vault_ids para escopo de segredos, max_concurrent_subagents como teto de raio de impacto, e deploy em VPC ou infraestrutura própria. Silêncio em um post de lançamento é silêncio. Não prova ausência no produto, e é o material que o comprador tem antes da reunião.

Pergunta 1, exportação. O anúncio é silencioso sobre exportar definições de agente. Ele diz que o harness por baixo é o harness Codex de código aberto, publicado em github.com/openai/codex, e que “The Agents API provides versioned access to these capabilities with each model launch.” Se uma definição rodando no runtime gerenciado volta em um formato que outro runtime leia, isso não é tratado.

Pergunta 2, contexto. Aqui o anúncio fala, e fala em nome do harness. O enquadramento da OpenAI: “Useful agents need a powerful harness that manages context, uses tools efficiently, and coordinates subagents.” Os recursos lançados são compactação automática quando a sessão se aproxima do limite de contexto, busca de ferramentas que carrega definições sob demanda, chamada programática de ferramentas, e subagentes com contexto próprio cada um. Rasmus Wissmann, CTO da Long Lake, citado no mesmo anúncio, formula na direção contrária: “Agents API supplies the harness; the environment, context, and UX stay ours.” As duas frases estão no mesmo post. O critério de desempate de Waehner pede que o comprador resolva exatamente isso, apontando para uma tabela na própria camada de dados.

Pergunta 3, re-hospedagem. É a pergunta que o anúncio responde melhor. Três escolhas de ambiente são oferecidas: um sandbox gerenciado pela OpenAI, um sandbox de parceiro, ou sua própria infraestrutura ou VPC. Os parceiros nomeados são Blaxel, Cloudflare, Daytona, DigitalOcean, E2B, Modal, Oracle, Runloop e Vercel. A colocação da execução é de fato negociável. A pergunta 3 trata de onde a carga roda, e a pergunta 1 trata de se as definições viajam. Uma boa resposta para uma delas não entrega a outra.

Pergunta 4, trilha de auditoria. Silêncio. O próprio enquadramento de Waehner explica por que isso é esperado em vez de escandaloso: o harness é o loop interno, o ciclo de raciocínio de um agente com suas ferramentas, memória e guardrails. A orquestração de workflow é o loop externo, “coordinating work across agents, systems, and humans, with approvals, schedules, retries, lineage, and the audit trail that regulated industries require.” Quem espera que o fornecedor do harness entregue a trilha de auditoria está pedindo ao loop interno um artefato do loop externo.

Pergunta 5, custo de saída. Silêncio, e por estrutura. A declaração de preço cobre a entrada: “There are no additional fees for using the Agents API, you simply pay for the tokens and tools your agents use.” Nada no anúncio estima o custo de sair. Esse número é o que o comprador precisa produzir sozinho, na reunião, em meses de engenheiro.

Mais uma ressalva sobre os números do anúncio. Toda cifra de desempenho ali é depoimento de cliente sem método declarado: um score de avaliação que sai de 0,71 para 0,85 e uma redução de latência de 4x (Ciridae), uma redução de 60% no custo por caso (SafetyKit), uma redução de 86% em respostas falhas de agente (Hypha). A OpenAI não publicou benchmark próprio ao lado disso.

Por que a pergunta 5 custa caro

Um artigo submetido ao arXiv em 8 de setembro traz o primeiro resultado medido que vimos sobre o que acontece quando harness e modelo são adaptados um contra o outro. Os autores definem harness como “the system prompt, tool set, execution hooks, and context-management scaffolding around a model”, e então fazem fine-tuning de um modelo mais fraco sobre trajetórias de um modelo mais forte, dentro de um harness que já havia sido evoluído para o modelo fraco. Do resumo: “performance regresses on all seven tasks by 4 to 30 points across Qwen3-Coder and Gemma 4, even though the same procedure helps under the unevolved harness.”

A causa declarada é de encaixe. O conhecimento chegou ao modelo do mesmo jeito. A imitação “transfers knowledge and increases scaffold usage, but disrupts model-harness fit: the weaker model adopts the expert’s planning strategy without the competence to execute it and no longer matches the harness evolved around its native planning style.”

A correção proposta preserva o estilo do próprio modelo: “an on-policy expert-correction pipeline, automated by a meta-level MLE agent, that localizes the failing turn in the weaker model’s own rollout and asks the expert to rewrite only that turn.”

Um comprador não precisa rodar esse pipeline para usar o achado. Ele diz que harness e pesos são objetos acoplados, e que mexer em um sob um arranjo calibrado para o outro pode custar mais do que devolve. É isso que transforma “a gente migra depois” em um número.

Também afia a orientação de investimento de Waehner, que vai contra o instinto de engrossar o harness: “Keep the clever logic thin and disposable. Invest in the durable parts instead: state, policy, audit, and the portability of your definitions.” A razão que ele dá: “every model generation changes the optimal agent structure, and over-engineered control flow breaks with the next release.”

Um fornecedor que responde à pergunta 4

O Spacelift Flows, anunciado em 8 de setembro, vale a leitura ao lado da Agents API porque o post dele lista os controles que o outro não menciona. A Spacelift afirma ter portões de aprovação, aprovações em múltiplos estágios entre dev, staging e produção, uma trilha de auditoria passo a passo desde a primeira rodada, aprovações no Slack roteadas automaticamente a partir de eventos de infraestrutura, e um servidor MCP que dá aos agentes “their own governed path”, de modo que os flows expõem um conjunto curado de ferramentas aprovadas em vez de acesso bruto à infraestrutura.

Duas ressalvas. O post é assinado por um technical product marketing manager e não publica número nenhum, então trate a lista como superfície de produto alegada, não como comportamento verificado. E a Spacelift não concorre com um harness. Ela fica no loop externo de Waehner, que é justamente onde ele coloca aprovações e linhagem. A leitura útil é que os dois documentos descrevem andares diferentes, e o comprador precisa dos dois respondidos por alguém.

Já escrevemos antes sobre um laboratório transformando o harness em SKU e sobre o que uma sessão de propriedade do fornecedor deixa de fora dos seus registros. O anúncio da Agents API é coerente com os dois textos.

Faça isto agora

Marque uma reunião com o fornecedor de harness atual ou pretendido. Faça as cinco perguntas nessa mesma reunião, anote as respostas, e trate uma resposta ausente como resposta.

Depois, anexe um artefato a cada uma:

  • Exportação. Peça uma definição de agente exportada, hoje, como arquivo. Tente carregá-la em outro lugar.
  • Contexto. Nomeie a tabela, o bucket ou o índice nos seus próprios sistemas onde o contexto acumulado do agente aterrissa. Se você não consegue nomear, quem detém o contexto é o harness.
  • Re-hospedagem. Obtenha as opções de deploy por escrito, incluindo o caminho por parceiro ou VPC, e confirme quais delas sua revisão de segurança já aprova.
  • Trilha de auditoria. Decida quem é dono do loop externo antes de comprar o interno. Se nada no seu stack registra hoje aprovações e linhagem entre agentes, essa é a compra que vem primeiro.
  • Custo de saída. Escreva um único número em meses de engenheiro, com as premissas ao lado, e date-o. Meça de novo em um trimestre e compare.

A regra de encerramento de Waehner é a que vale levar para a sala: “Choose the model for capability. Choose the harness for what it lets you keep.”


Fontes

A Victorino ajuda organizações de engenharia a conduzir a compra de harness com portabilidade e propriedade da auditoria decididas antes do contrato: contato@victorino.com.br | www.victorino.com.br

Todos os artigos do The Thinking Wire são escritos com o auxílio do modelo LLM Opus da Anthropic. Cada publicação passa por pesquisa multi-agente para verificar fatos e identificar contradições, seguida de revisão e aprovação humana antes da publicação. Se você encontrar alguma informação imprecisa ou deseja entrar em contato com o editorial, escreva para editorial@victorino.com.br . Sobre o The Thinking Wire →

Se isso faz sentido, vamos conversar

Ajudamos empresas a implementar IA sem perder o controle.

Agendar uma Conversa