União Europeia força Big Techs a rotularem conteúdo feito por IA

A União Europeia implementou novas e rigorosas regras de transparência para conteúdos digitais criados ou modificados por inteligência artificial (IA). Desde 2 de agosto, o Artigo 50 do AI Act obriga empresas a identificar explicitamente imagens, vídeos e áudios gerados por IA que possam ser confundidos com materiais reais. Além disso, textos sobre assuntos de interesse público produzidos ou manipulados por IA também devem ser rotulados, especialmente se não passaram por revisão humana ou controle editorial, posicionando a UE na vanguarda da regulamentação de conteúdo sintético.

Impacto e Métodos de Identificação

O descumprimento dessas normas acarreta multas severas, podendo chegar a 15 milhões de euros ou 3% do faturamento anual global da empresa. Essa imposição financeira significativa pode compelir grandes laboratórios de IA a padronizar suas práticas globalmente, influenciando o uso de suas tecnologias muito além das fronteiras europeias. A legislação é flexível quanto à tecnologia de identificação, permitindo que as empresas escolham métodos como marcas d'água invisíveis, a exemplo do SynthID do Google, que permanecem mesmo após edições básicas, ou o uso de metadados, similares aos dados EXIF, embora estes últimos possam ser perdidos em processos de edição ou conversão.

Desafios e Limitações da Rotulagem

Além das identificações técnicas, a UE exige rótulos visuais claros para conteúdos de IA. Para materiais artísticos, satíricos ou de ficção, a identificação deve informar o público sem comprometer a fruição da obra. A preocupação central é mitigar a desinformação, golpes e deepfakes, que se tornam cada vez mais sofisticados com o avanço da IA. Os rótulos diferenciam entre conteúdo “AI” (participação da IA), “AI GENERATED” (totalmente criado por IA) e “AI MODIFIED” (modificado por IA), visando facilitar a rastreabilidade e verificar a autenticidade.

Apesar dos avanços, a rotulagem apresenta desafios. Marcas d'água podem ser comprometidas por alterações no arquivo ou processamento por outros sistemas de IA. A falta de um padrão universal entre as empresas tecnológicas cria assimetria, limitando a eficácia da rastreabilidade. Enquanto funciona para conteúdos criados por usuários comuns em plataformas reguladas, a medida pode ter eficácia limitada contra campanhas intencionais de desinformação, onde os responsáveis podem usar sistemas modificados ou remover as marcações. Há também o risco do “efeito bumerangue”, onde a confiança excessiva nos rótulos pode levar usuários a crerem que todo conteúdo sem identificação é autêntico. Portanto, a rotulagem é uma camada adicional de proteção, não uma garantia absoluta de autenticidade, e a avaliação crítica da fonte e do contexto permanece essencial.

Com informações de Canaltech.