Anthropic vai identificar textos e imagens gerados pelo Claude

A Anthropic, desenvolvedora do modelo de inteligência artificial Claude, anunciou que passará a implementar métodos de identificação em conteúdos gerados por suas IAs. A medida visa aumentar a transparência, marcando textos, imagens e outros arquivos de mídia com metadados e marcas d'água digitais. Essa iniciativa responde diretamente às exigências do Regulamento de Inteligência Artificial da União Europeia, que entrou em vigor em 2 de agosto e impõe a obrigação de indicar quando um material é criado por IA.

Embora impulsionada por regulamentações europeias, a política será aplicada globalmente, afetando todas as formas de acesso ao Claude, incluindo suas APIs, aplicativos comerciais e interações com parceiros de nuvem como AWS, Google Cloud e Microsoft Foundry. Essa abrangência sublinha o compromisso da empresa em estabelecer um padrão de transparência que transcende fronteiras regulatórias, buscando construir confiança na origem do conteúdo digital.

Como a Identificação Funcionará

A Anthropic adotará abordagens distintas para textos e mídias visuais. Para o conteúdo textual, o Claude incorporará uma marca d'água na estrutura das respostas, de forma imperceptível ao olho humano. Essa técnica é semelhante à utilizada pelo Google em suas imagens geradas pelo Gemini, conhecida como SynthID, e foi projetada para permanecer associada ao texto mesmo após ser copiado ou transferido para outros programas. No caso de imagens e arquivos visuais, a identificação ocorrerá por meio de metadados de procedência com assinatura digital, seguindo o padrão C2PA, um protocolo aberto já adotado por outras gigantes da tecnologia como Adobe, OpenAI e o próprio Google.

Desafios e Limitações

A implementação dessas identificações começou com os novos modelos de IA lançados a partir de 2 de agosto. A Anthropic está trabalhando para adaptar seus sistemas mais antigos, usufruindo de um período de carência de quatro meses previsto pela legislação europeia. A empresa também planeja lançar documentação técnica e ferramentas para que terceiros possam verificar a autenticidade de conteúdos gerados pelo Claude no futuro.

Apesar dos avanços, a própria Anthropic reconhece que essas identificações não são totalmente à prova de fraudes. Metadados C2PA podem ser perdidos ao converter arquivos ou carregá-los em certas redes sociais. Similarmente, marcas d'água em textos podem se dissipar se o conteúdo for reescrito, traduzido ou for muito curto. Essas limitações destacam a complexidade de garantir a procedência do conteúdo em um ambiente digital dinâmico e em constante evolução.

Com informações de Tecnoblog.