Anthropic Lança Marca D'água para Claude, Mas Especialistas Alertam para Limites na Detecção de Conteúdo por IA

A Anthropic, desenvolvedora de inteligência artificial, revelou uma nova marca d’água destinada a verificar a participação de seu modelo Claude na criação de textos. A iniciativa surge como uma resposta às regras de transparência estabelecidas pelo AI Act europeu, embora a companhia e especialistas destaquem que a ferramenta não deve ser interpretada como uma prova definitiva de autoria por IA, especialmente após intervenções humanas.

Marca D'água: Um Sinal de Transparência Probabilística, Não Prova Forense

Segundo Anderson Soares, fundador do Centro de Excelência em Inteligência Artificial da Universidade Federal de Goiás (CEIA-UFG), a tecnologia deve ser compreendida como um "sinal de procedência ou de transparência probabilística". Ele enfatiza que a marca d'água pode indicar uma provável participação do Claude na produção de um conteúdo, mas não consegue distinguir, por si só, um texto integralmente gerado pela IA de um que foi elaborado por uma pessoa e apenas revisado com o auxílio do modelo.

Essa distinção é crucial em cenários de contestação, como suspeitas de plágio, fraudes acadêmicas ou disseminação de desinformação. Nesses casos, a marca d’água não permite concluir isoladamente quem escreveu o texto, qual a proporção de uso da IA ou se houve edição humana posterior. Soares ressaltou em entrevista ao Canaltech que "transformar essa suspeita em uma prova é algo muito mais complexo. Em um contexto criminal, por exemplo, seria extremamente difícil utilizar esse tipo de mecanismo como prova isolada".

Como Funciona a Marca D'água e Suas Limitações Técnicas

Ao contrário de marcas d'água em imagens, a tecnologia da Anthropic não incorpora caracteres ocultos, metadados ou informações extras no texto. O sistema modifica a fonte de aleatoriedade utilizada pelo modelo para selecionar entre palavras plausíveis durante o processo de geração. Conforme Soares explicou, a IA "utiliza probabilidades para fazer essas escolhas", e a técnica mantém um "padrão estatístico" nessas decisões, que pode ser associado à chave privada da empresa.

A verificação da marca d'água, portanto, depende do acesso a essa chave, que é mantida pela própria Anthropic. Isso significa que não é possível verificar de forma independente a presença da marca em um texto sem ter acesso a essa informação. Pesquisadores podem analisar a metodologia, mas não reproduzir integralmente a checagem de um texto específico sem a chave da companhia.

Eficiência e Impacto da Edição Humana

A própria Anthropic admite que a ferramenta apresenta uma eficácia menor em amostras curtas e em respostas muito factuais, correções gramaticais pontuais ou códigos. Nessas situações, o modelo tem menos liberdade para formular o conteúdo, o que resulta em menos escolhas de palavras para compor o sinal estatístico. Consequentemente, o sistema tende a funcionar melhor em textos mais longos e livres, como artigos, relatórios e ensaios, onde uma maior quantidade de escolhas linguísticas pode elevar a confiança na participação do Claude.

A empresa também indica que edições leves provavelmente não removem completamente a marca, mas uma reescrita integral pode eliminá-la. Contudo, Anderson Soares adverte que o problema não se limita a uma substituição palavra por palavra. "Uma edição típica, como reescrever trechos, cortar parágrafos, ajustar o tom ou trocar algumas palavras já pode colocar o texto em uma zona em que a confiabilidade da detecção despenca", avalia. Esse aspecto é particularmente relevante em fluxos de trabalho onde o texto gerado por IA é editado antes da publicação, sugerindo que a marca d'água oferece mais utilidade quando o conteúdo permanece próximo à versão original do modelo.

Aplicações e o Futuro da Transparência em IA

Na avaliação do especialista, o uso mais adequado da tecnologia é complementar outros mecanismos de verificação. Ele reitera que o objetivo declarado da tecnologia, relacionado ao artigo 50 do AI Act, é funcionar como um sinal de proveniência ou de transparência probabilística, e não como um "detector forense à prova de adversários".