Como vai funcionar sistema do Claude que dedura quem cria texto com IA?

A Anthropic, desenvolvedora da inteligência artificial Claude, anunciou uma iniciativa significativa para combater a desinformação e promover a transparência no conteúdo gerado por IA. A partir de agora, todos os textos produzidos ou revisados pelos modelos Claude receberão uma marca d'água invisível. Esta medida, que se alinha às exigências de regulamentação como o AI Act da União Europeia, visa permitir que máquinas identifiquem a origem do texto sem alterar seu significado ou ser perceptível a olhos humanos. A implementação abrange todos os modelos da empresa lançados a partir de 2 de agosto, incluindo sua presença em diversas plataformas e APIs.

Como Funcionam as Marcas d'Água e Metadados

O sistema da Anthropic incorpora um identificador imperceptível diretamente no texto gerado, que pode ser detectado por softwares especializados ou pela própria IA. Este marcador permanece intacto mesmo após cópias e edições leves, mas pode ser removido por alterações mais substâncias, como capturas de tela ou conversões de formato de arquivo. Além da marca d'água textual, documentos e mídias gerados pelo Claude, como imagens e PDFs, incluirão metadados no padrão C2PA. Este padrão, amplamente adotado na indústria, funciona como uma 'impressão digital' digital, fornecendo informações detalhadas sobre a origem do arquivo, similar aos dados EXIF de uma foto que indicam data, local e dispositivo de captura.

• Marca d'água invisível: Integrada ao texto, detectável por máquinas.
• Persistência: Mantida em cópias e edições leves.
• Metadados C2PA: Adicionados a arquivos como imagens e PDFs para autenticidade.
• Abrangência: Aplicada a todos os modelos Claude em diversas plataformas.

Limitações e Desafios da Detecção

Apesar da robustez da solução, a própria Anthropic reconhece algumas limitações importantes no seu sistema de detecção. O conteúdo pode ser apenas 'processado' pelo Claude, sem ser totalmente criado por ele, dificultando a atribuição precisa. Edições pós-geração podem descaracterizar a origem, e há a possibilidade de 'falsos positivos' ou a ausência de marcação em textos muito curtos, de modelos antigos ou que passaram por muitas revisões. A integridade da marca também pode ser comprometida por ações como a conversão de formatos de arquivo ou a criação de prints, alertando para a necessidade de abordagens complementares na verificação de conteúdo gerado por inteligência artificial.

Com informações de Canaltech.