Editoras Vigiam a IA dos Autores. Por Dentro, Usam IA Sem Avisar.

TV
Thiago Victorino
6 min de leitura
Editoras Vigiam a IA dos Autores. Por Dentro, Usam IA Sem Avisar.

Ao menos três das cinco maiores editoras de livros dos Estados Unidos, HarperCollins, Simon & Schuster e Hachette, vêm incorporando ferramentas de IA aos seus processos editoriais sem divulgação pública e sem consentimento dos autores. Essa é a conclusão central de uma investigação da Wired assinada por Adam Morgan, construída a partir de entrevistas com mais de duas dúzias de funcionários, todos sob condição de anonimato.

As mesmas casas aplicam regras de IA a quem lhes entrega livros. Um editor disse à Wired que “cada selo tem uma história de alguém muito respeitado que teve um livro cancelado por uso flagrante de IA”. Um agente literário disse à Wired: “Incluímos cláusulas de IA nos nossos contratos dizendo que ‘este material não pode ser processado por um LLM’”.

A regra, portanto, aponta para fora. O autor que usa IA pode perder o livro. Um agente escreve cláusulas para manter manuscritos longe dos modelos. Enquanto isso, segundo os funcionários ouvidos pela Wired, a IA roda dentro de casa sem divulgação pública e sem consentimento dos autores.

Lemos isso como uma falha de governança com formato específico: uma política assimétrica, cobrada das contrapartes e dispensada internamente.

O que o registro mostra de fato

A maior parte das afirmações centrais depende de fontes anônimas. Isso importa e deve moderar quem repete a história. As declarações de política com fonte identificada são mais estreitas e vêm de duas empresas.

A política da Hachette, citada pela Wired, diz que a empresa apoia “o uso de ferramentas de IA para fins operacionais” e não apoia “usos criativos de IA, incluindo a comunicação com nossos autores e parceiros”. A Simon & Schuster proíbe qualquer ferramenta de IA “que não tenha sido avaliada e aprovada”. A HarperCollins não respondeu aos pedidos de comentário.

Leia as duas políticas com atenção. As duas regulam quais ferramentas a equipe pode usar. Nenhuma delas, no trecho que a Wired cita, diz o que o autor vai saber. A Hachette traça a linha em torno do uso criativo e da comunicação com autores, e o trecho citado fica em silêncio sobre informar o autor quando a IA operacional toca o trabalho dele. A linha da Simon & Schuster é um portão de aprovação. Uma ferramenta aprovada ainda pode ser usada num manuscrito sem que o autor fique sabendo.

Um funcionário da HarperCollins descreveu o resultado sem rodeios. Não houve orientação “sobre o que dizer a autores ou agentes sobre nada disso, porque acho que eles sabem que isso causaria um escândalo”.

Essa frase resume o problema inteiro. O funcionário acredita que a liderança espera atrito com a divulgação, e o resultado relatado é silêncio onde deveria haver uma política.

Parte dos controles já existe

A reportagem traz evidências de que essas organizações sabem traçar limites quando querem.

Na HarperCollins, editores que pediram para colar um manuscrito inteiro num LLM aberto “foram orientados a não fazer isso pelo time jurídico da empresa”. Esse é um controle real. O jurídico disse não.

A exigência de aprovação da Simon & Schuster é outro controle real. Uma lista de ferramentas avaliadas é a primitiva certa para qualquer empresa que queira tornar o uso de IA inspecionável.

E a cláusula contratual do agente é um terceiro controle, escrito do outro lado da mesa.

A matéria-prima da governança está presente. Falta a regra que liga esses controles à contraparte. O jurídico bloqueia um fluxo. Um portão de aprovação avalia ferramentas. Um agente escreve proibições. Nenhum desses mecanismos produz uma frase que o autor possa ler dizendo onde a IA tocou o livro dele.

O silêncio também cobra por dentro

A própria equipe está resistindo à adoção, o que, na nossa leitura, mostra que o caminho silencioso também sai caro internamente.

Em maio de 2024, a Simon & Schuster promoveu um concurso de casos de uso de IA com “prêmio de US$ 10.000 para o vencedor e US$ 5.000 para cada um dos dois segundos colocados”. A Wired relata que a empresa depois recuou de “parte do incentivo à IA porque os funcionários continuavam reclamando nas reuniões gerais”. A equipe também fez circular uma carta aberta pedindo “o compromisso de não trazer o Skan AI ou software semelhante para os fluxos da S&S”. Um memorando do CEO afirmou que “nenhuma decisão foi tomada para usar o Blueprint ou qualquer outra ferramenta de monitoramento de produtividade ou análise de fluxo de trabalho”.

Na nossa leitura, há pressão por trás da adoção. Um funcionário disse à Wired que “equipes grandes foram reduzidas a cinco ou seis pessoas, mais ou menos, e estamos fazendo o dobro ou o triplo de livros”. Equipes tão enxutas tendem a recorrer a ferramentas com ou sem política. Quando a política cobre a aprovação de ferramentas e cala sobre a divulgação, as ferramentas se espalham e o silêncio se espalha junto.

Emma Dries, da Triangle House Literary, resumiu a demanda da contraparte numa frase: “Precisamos que as editoras sejam claras sobre o que está sendo usado e quando.”

O pedido é modesto. Um registro de ferramentas e momentos já o atenderia.

Uma regra, nos dois sentidos

Já escrevemos sobre onde o público e um framework do setor traçam a linha de divulgação de IA, sobre voz de marca e divulgação no LinkedIn e sobre o RH virando a função que autoriza a IA. O mercado editorial acrescenta uma variável que esses textos não isolaram: a direção para onde a regra aponta.

Uma regra de divulgação que vale só para contrapartes é um passivo à espera de um repórter. Cada cláusula que uma empresa impõe a fornecedores vira evidência do que ela sabia, no dia em que o próprio uso não declarado aparece. A editora que cancela um livro por uso de IA já admitiu que o uso de IA é relevante para a obra. Fica difícil argumentar depois que o próprio uso de IA sobre a mesma obra é pequeno demais para mencionar.

A correção é simetria. A divulgação que você exige de uma contraparte, você deve no sentido oposto, com o mesmo nível de detalhe.

Três controles para adotar

A reportagem entrega três controles a qualquer organização. Cada um precisa de um ajuste para deixar de apontar num sentido só.

A cláusula de proibição de LLM. Um agente a escreveu. Empresas podem adotá-la também como compromisso próprio, além de exigência imposta aos outros. Se você diz a fornecedores que o material deles não pode passar por um modelo, publique as condições em que você vai passar o material deles por um, e cumpra.

A lista de ferramentas avaliadas. A Simon & Schuster já exige aprovação. Acrescente ao registro da lista um campo: quais materiais de contrapartes cada ferramenta aprovada pode processar. Assim um registro interno de aprovação vira a fonte da divulgação externa.

Uma regra de divulgação escrita para a contraparte. A política da Hachette fala de uso criativo, incluindo a comunicação com autores e parceiros. Escreva a versão endereçada ao autor, ao cliente ou ao fornecedor, na linguagem deles. Ela responde ao que Dries pediu: o que está sendo usado, e quando.

Faça isto agora

Reúna todas as cláusulas de IA que sua empresa impõe a fornecedores, prestadores, freelancers ou clientes. Coloque-as lado a lado com a sua política interna de uso de IA. Para cada cláusula, pergunte se o seu próprio uso de IA sobre o material daquela contraparte passaria no mesmo teste que você impõe a ela.

Onde falharia, você encontrou uma assimetria. Feche-a escrevendo primeiro a divulgação voltada à contraparte e depois alinhando a lista de ferramentas, para que cada ferramenta aprovada corresponda ao que você vai dizer às pessoas cujo trabalho ela toca. Se a resposta sincera para “o que diríamos a eles?” for a que o funcionário da HarperCollins descreveu, de que o silêncio evita briga, esse silêncio é o risco que você carrega.


Fontes

A Victorino ajuda empresas a escrever regras de divulgação de IA que valem nos dois sentidos, para a equipe e para as contrapartes: contato@victorino.com.br | www.victorino.com.br

Todos os artigos do The Thinking Wire são escritos com o auxílio do modelo LLM Opus da Anthropic. Cada publicação passa por pesquisa multi-agente para verificar fatos e identificar contradições, seguida de revisão e aprovação humana antes da publicação. Se você encontrar alguma informação imprecisa ou deseja entrar em contato com o editorial, escreva para editorial@victorino.com.br . Sobre o The Thinking Wire →

Se isso faz sentido, vamos conversar

Ajudamos empresas a implementar IA sem perder o controle.

Agendar uma Conversa