Washington Vai Obrigar a Publicar Quantas Vezes a Barreira Falhou

A partir de 1º de janeiro de 2027, uma empresa que opera um chatbot de companhia com IA no estado de Washington precisa publicar quantas notificações de encaminhamento para crise emitiu no ano anterior. O que a lei exige é uma contagem. Uma descrição do protocolo de segurança não satisfaz a obrigação.

Essa única linha de reporte, dentro da HB 2225, é a coisa operacionalmente mais interessante que um estado americano fez até agora em governança de IA. Venita Subramanian, escrevendo para o Tech Policy Press, resume o princípio de desenho por trás disso em uma frase: “Regimes regulatórios deveriam ser construídos para expor imperfeições, não para descrever barreiras perfeitas.”

Todo programa de governança de IA que revisamos faz o contrário. Documenta controles. Mapeia para um framework. Produz um documento de política que descreve o que deveria acontecer quando um modelo se comporta mal. O que quase nenhum deles produz é um número dizendo com que frequência isso de fato aconteceu.

O Que a Lei Exige de Verdade

A HB 2225 se aplica a chatbots de companhia com IA, que a lei define como sistemas “que fornecem respostas adaptativas e semelhantes às humanas e sustentam relacionamentos ao longo de múltiplas interações”. O escopo é estreito de propósito. As obrigações são específicas o bastante para serem auditadas.

A regra de divulgação é uma delas. O chatbot precisa informar que não é humano no início da interação e ao menos a cada três horas durante o uso continuado. Para menores, essa informação se repete ao menos a cada hora. Uma cadência fixa é uma propriedade testável. Dá para instrumentar, amostrar e provar que o intervalo foi respeitado.

A regra de desenho é outra. As empresas precisam impedir técnicas manipulativas de engajamento envolvendo menores, e o texto legal enumera quais: induzir uma criança a voltar em busca de companhia, criar vínculo emocional, promover isolamento ou encorajar segredo em relação a adultos de confiança. Isso é mecânica de produto, descrita em linguagem de produto. Um loop de engajamento otimizado para retenção passou a ser superfície de conformidade.

Depois vem a regra de crise. As empresas precisam operar protocolos para detectar ideação suicida e automutilação, encaminhar usuários para recursos de crise e impedir que o chatbot encoraje automutilação. Precisam descrever publicamente esses protocolos. E precisam reportar quantas notificações de encaminhamento para crise emitiram no ano anterior.

As três primeiras obrigações são o tipo de coisa que um documento de política resolve bem. A última resiste a isso. Uma contagem não pode ser escrita como aspiração.

Dever de Cuidado É a Espinha Dorsal

Subramanian ancora todo o argumento em um conceito jurídico mais velho que qualquer framework de IA: dever de cuidado, definido como “a obrigação legal de se comportar de maneira razoavelmente segura e não de maneira imprudente”. O que ele exige, na leitura dela, é transparência, barreiras contra validação prejudicial, recursos humanos de resposta a crise, caminhos reais de escalonamento e responsabilização quando as salvaguardas falham.

Compare essa lista com o jeito como a maioria da governança de IA é montada. Quatro dos cinco itens descrevem coisas que uma empresa constrói. O quinto descreve o que acontece depois que a construção falha. É nesse quinto item que quase todo programa que vemos para, porque é o único que exige admitir que uma falha ocorreu, com um número associado, em uma periodicidade fixa.

Dever de cuidado funciona bem como espinha dorsal justamente porque tribunais já sabem raciocinar sobre ele. Não exige que um regulador defina o que é um modelo seguro. Exige que o operador se comporte de forma razoável diante do que sabia, e torna o registro do que ele sabia passível de ser exigido.

Por Que o Contador É Fiscalizável e a Política Não É

Pense no que um regulador consegue fazer com uma descrição de controle publicada. Consegue ler. Consegue comparar com um framework. Consegue perguntar se o controle descrito existe. Cada uma dessas verificações é satisfeita escrevendo uma prosa melhor.

Agora pense no que um regulador consegue fazer com uma contagem publicada de encaminhamentos para crise. Consegue comparar este ano com o anterior. Consegue comparar um operador com outro de porte parecido. Consegue perguntar por que uma plataforma com milhões de usuários menores encaminhou quase ninguém. Consegue perguntar por que a contagem despencou no trimestre seguinte a uma atualização de modelo. Cada uma dessas perguntas tem resposta factual que a prosa não consegue fornecer.

A contagem também muda o comportamento interno antes de qualquer regulador aparecer. Um número que será publicado cria um dono, um pipeline de medição, uma disputa de definição e uma discussão sobre casos de borda. Essas discussões são o trabalho real de governança. Fizemos uma versão desse argumento em a verificação que você não vê: um controle que não produz artefato observável é indistinguível de um controle que não roda.

É também por isso que as obrigações de divulgação, sozinhas, não sustentam o peso. O aviso da Character.AI dizia: “Lembre-se: tudo o que os Personagens dizem é inventado!” O caso que levou a empresa ao tribunal envolve a morte, em fevereiro de 2024, de Sewell Setzer, de 14 anos, com processo movido pela mãe. A linha de aviso estava lá. O que faltava era qualquer registro publicado de quantas vezes o sistema detectou e escalou um usuário em crise.

Washington É Mais Prescritiva do Que o Que Veio Antes

Nova York e Califórnia promulgaram leis comparáveis em 2025. O Oregon veio em março de 2026. Washington vai além em nível de prescrição, e a direção do movimento, quatro estados, é difícil de ler como evento isolado.

Para quem constrói sistemas agênticos fora da categoria de chatbot de companhia, o escopo específico importa menos que o mecanismo. Quando um legislativo aprende que uma contagem reportável de falhas é fiscalizável e uma descrição de controle não é, esse instrumento passa a ser reaproveitado. Detecção de fraude, triagem médica, filtros de contratação, escalonamento de atendimento: todos têm uma barreira cuja taxa de disparo hoje só o operador conhece, quando conhece.

A proposta que Subramanian constrói em cima da lei estende a lógica para a própria avaliação: publicar critérios de avaliação e taxas de falha. Isso é bem mais difícil que publicar uma contagem de encaminhamentos, e nenhuma jurisdição legislou nesse sentido. Como princípio de desenho para um programa interno, adotar hoje custa zero.

Faça Isto Agora: Escolha Uma Barreira e Conte

Escolha, dentro de todo o catálogo de controles, a única barreira que existe para impedir o pior resultado que seu produto pode causar. Uma.

Depois responda quatro perguntas por escrito ainda esta semana:

Quantas vezes ela disparou nos últimos 12 meses? Se a resposta for “não instrumentamos isso”, você acabou de descobrir o estado real do controle.
Qual é a definição de um disparo? Dois engenheiros vão discordar. A discordância é o achado.
Quantas vezes ela deveria ter disparado e não disparou? Esse número é mais difícil e costuma exigir amostragem. Uma estimativa honesta com método declarado vale mais que um número preciso sem método.
Quem seria o dono da contagem se ela tivesse de ser publicada em periodicidade fixa? Se nenhum nome se encaixa, o controle também não tem dono hoje.

Publique as respostas internamente, em uma página com data, e repita em um trimestre. A comparação entre as duas datas vale mais que qualquer um dos números isolados. É também o artefato de que você vai precisar se um regulador, o time de compras de um cliente ou o advogado de um autor perguntar o que você sabia e quando.

Programas de governança que descrevem barreiras perfeitas vão continuar passando na revisão interna e falhando no primeiro teste externo. Os que publicam as próprias contagens de falha conseguem argumentar com evidência. Como argumentamos em confiança é a UX e na convenção de confiança, a credibilidade de um sistema de IA se constrói a partir do que ele expõe sobre os próprios limites. Washington acaba de escrever uma versão estreita disso em lei, com prazo.

Fontes

Venita Subramanian, Tech Policy Press. “A UX Design Perspective on Improving AI Safety.” Agosto de 2026.

A Victorino ajuda organizações de engenharia a transformar descrições de controle de IA em taxas de falha medidas e reportáveis: contato@victorino.com.br | www.victorino.com.br