Anthropic implementa marca d'água em textos gerados pelo Claude

A nova política de marca d'água da Anthropic

A Anthropic anunciou a implementação de marcas d'água invisíveis em textos gerados pelo Claude, como parte de sua estratégia para cumprir o EU AI Act. O sistema utiliza a tecnologia SynthID-Text, que introduz um padrão estatístico nas escolhas de palavras do modelo, permitindo verificar a probabilidade de um conteúdo ter sido processado pela IA sem impactar a qualidade ou legibilidade do material.

O watermark não altera o significado ou a experiência para a pessoa que o lê, mas permite identificar se o texto foi provavelmente gerado pelo Claude.

Essa medida, que se estende globalmente, gerou repercussão imediata entre os usuários, resultando em relatos de cancelamentos de assinaturas. Profissionais de diversas áreas expressam preocupações com a presença persistente de marcadores em seus trabalhos, temendo que a identificação de processamento por IA possa trazer questionamentos sobre a autoria, conformidade contratual ou impactos em ambientes acadêmicos e profissionais.

Tecnologia e limitações

O funcionamento da marca d'água baseia-se na alteração da fonte da aleatoriedade durante a geração de tokens. Em vez de utilizar números aleatórios arbitrários, o Claude utiliza uma chave codificada que torna a sequência de palavras consistente com os padrões do modelo. Contudo, a eficácia do sistema apresenta