Um Tribunal Disse ao Google Que Ele Responde Pelos Erros da Própria IA. Você Também.

Um tribunal alemão decidiu que o Google é legalmente responsável pelas imprecisões dos seus AI Overviews, os resumos que o buscador gera acima dos links azuis. A defesa do Google foi a mesma que todo fornecedor invoca: o usuário deveria verificar o resultado por conta própria. O tribunal rejeitou. Segundo a análise de Bruce Schneier, os juízes chamaram os resumos de “uma expressão das atividades comerciais do Google”. A empresa que publicou a resposta responde pela resposta.

Essa frase é a história inteira para quem coloca agentes na frente do cliente. O sistema jurídico começou a tratar as afirmações de uma IA como afirmações de quem a opera. Não do fornecedor do modelo. Não do usuário. Suas.

A defesa do aviso legal acaba de cair no tribunal

A mitigação padrão para alucinação tem sido uma linha de letra miúda: “gerado por IA, pode conter erros, verifique de forma independente.” Funciona como transferência de responsabilidade. A empresa emite uma resposta confiante e joga o custo de estar errada sobre quem lê.

A decisão alemã trata essa transferência como nula. Se você opera o sistema, apresenta o resultado como uma resposta e lucra com o engajamento que ele gera, o resultado é uma afirmação sua. Uma nota de rodapé não converte uma alegação publicada no projeto de pesquisa do cliente.

Schneier resume o ponto mais profundo sem rodeios: “Qualquer empresa que não defende as afirmações que seus agentes fazem, sejam humanos ou IA, não merece o tempo nem o dinheiro dos usuários.” O ponto é comercial, antes de ser jurídico. Um negócio cujas respostas vêm com uma negação embutida de responsabilidade está dizendo ao cliente que as respostas não são confiáveis. O aviso e o produto se desmentem.

A taxa de erro não é arredondamento

Os AI Overviews do Google carregam uma taxa de erro de cerca de 10 por cento, segundo o texto de Schneier. Diante do volume da plataforma, a abstração desaba em algo físico. Com aproximadamente 5 trilhões de buscas por ano, uma taxa de erro de 10 por cento produz na ordem de 16 mil resumos errados a cada segundo.

A escala transforma esse percentual em número de operação. Se o seu agente responde perguntas de clientes em qualquer volume relevante, uma taxa de erro de 5 a 10 por cento se torna um fluxo de afirmações erradas que você publica continuamente, cada uma agora carregando responsabilidade potencial. O volume que torna a IA atraente é o mesmo que transforma a taxa de erro em item de balanço.

A maioria dos times corporativos nunca mediu o próprio número. Sabem que a demonstração funcionou. Não sabem com que frequência o agente em produção diz ao cliente algo falso, porque ninguém instrumentou. Não dá para precificar um risco que você se recusa a contar.

A Air Canada já traçou a linha

Não é uma decisão excêntrica isolada em uma jurisdição. O padrão é anterior. A Air Canada foi responsabilizada quando o chatbot de suporte inventou uma política de desconto por luto e um cliente confiou nela. Segundo o relato de Schneier, o tribunal rejeitou o argumento da companhia de que o chatbot seria uma entidade separada, responsável pelas próprias declarações. A promessa do chatbot era a promessa da companhia aérea, tratada como qualquer alegação no próprio site da empresa.

Dois fatos conectam os casos. Primeiro, a defesa do “foi a IA, não nós” perde. Tribunais colapsam o agente dentro do operador. Segundo, o padrão aplicado não é novo. Empresas sempre responderam pelo que seus representantes dizem aos clientes. Um vendedor que promete um desconto vincula a firma. A decisão apenas confirma que um agente de IA é um representante, não uma exceção mágica ao direito da representação.

Para quem acompanha onde a IA e os tribunais se encontram, esta é uma frente distinta das já mapeadas. Cobrimos quem detém o código gerado por IA e a governança que vem junto, e o precedente quando um laboratório de fronteira foi obrigado a preservar dados de usuários. Aqueles tratam de entradas e acesso. Este trata de saídas, as alegações que o seu agente faz no curso normal de atender um cliente.

Responsabilidade é o mecanismo de cobrança que a precisão nunca teve

Por dois anos, o argumento pela qualidade da saída de IA foi quase só aspiracional. Seja preciso porque é boa prática. Reduza a alucinação porque o usuário prefere. Nada disso tem preço, então nada disso forçou orçamento.

A responsabilidade muda a estrutura de incentivos. Uma resposta errada que não custa nada é tolerada. Uma resposta errada que cria exposição jurídica é medida, limitada e governada, porque agora aparece onde a empresa de fato presta atenção. O tribunal alemão e a corte da Air Canada fazem pela precisão da IA o que os reguladores fizeram pela privacidade de dados: convertem uma preferência branda em obrigação exigível, com custo anexado.

Isso reposiciona o trabalho. A precisão da saída deixa de ser uma preocupação de qualidade de modelo do time de dados. Vira uma preocupação de governança de quem assina embaixo dos sistemas voltados ao cliente. A pergunta sai de “o modelo é bom o suficiente” para “conseguimos defender cada afirmação que este agente faz a um cliente, e provar que tentamos.”

Faça isto agora

Rode um exercício esta semana. Pegue o seu agente de maior volume voltado ao cliente e faça três perguntas, nesta ordem.

Qual é a taxa de erro real dele em produção? Amostre saídas reais e tenha um humano avaliando a precisão factual. O benchmark e a demonstração não contam. Se você nunca fez isso, o número será mais alto do que a liderança imagina. Esse número é a sua superfície de responsabilidade.

Onde as respostas dele criam compromissos vinculantes? Preço, política, elegibilidade, reembolso, orientação jurídica ou médica. Mapeie todo ponto em que o agente pode afirmar algo que o cliente aja em cima e cobre de você. Essas são as declarações que um tribunal tratará como suas.

O que acontece quando ele erra? Rastreie uma saída falsa de ponta a ponta. Ela é registrada? Dá para reconstruir o que o agente disse, a quem e por quê? Se o cliente confiou nela, dá para detectar antes que ele escale? Se a resposta honesta for não, você opera uma responsabilidade não medida em volume de produção, e um aviso legal não vai cobrir.

As empresas que tratam isto como problema de governança vão instrumentar seus agentes, limitar as categorias de resposta de alto risco e defender o que entregam. As que tratam como problema de aviso legal vão seguir emitindo respostas erradas confiantes até um cliente, ou um tribunal, entregar a conta.

Fontes

Bruce Schneier (Harvard Kennedy School). “AI and Liability.” Junho de 2026.

A Victorino ajuda empresas a instrumentar, limitar e governar agentes de IA voltados ao cliente para que possam defender cada afirmação entregue: contato@victorino.com.br | www.victorino.com.br