Quem testa a IA também disputa poder

A inteligência artificial já influencia contratações, concessões de crédito e atendimentos em serviços públicos, mas a detecção de erros graves muitas vezes recai sobre o usuário final. Além dos riscos cotidianos, como fraudes geradas por áudios falsos ou conselhos médicos incorretos, há o temor de vulnerabilidades críticas que facilitem ataques cibernéticos ou o ensino de atividades ilícitas. Diante dessa realidade, promessas corporativas tornaram-se insuficientes, tornando indispensável a realização de auditorias independentes antes e depois da disponibilização pública dos sistemas.

Para o Brasil, o desafio é ainda mais evidente diante das peculiaridades regionais. Algoritmos treinados com base predominante na língua inglesa costumam apresentar falhas de interpretação em português, além de replicar preconceitos ausentes em suas bases de dados originais. Sem uma infraestrutura técnica que permita auditar tais limitações de maneira autônoma, o poder público e as empresas locais permanecem inteiramente dependentes dos parâmetros definidos pelas corporações estrangeiras que desenvolvem a tecnologia.

A corrida internacional pelos institutos de segurança

Na tentativa de conter essa vulnerabilidade, governos de países como Estados Unidos, Reino Unido e Japão estruturaram, a partir de 2024, uma primeira frente de institutos de segurança dedicados a modelos avançados de inteligência artificial. Entre as principais ferramentas empregadas por esses órgãos está o red-teaming, técnica adversarial em que técnicos simulam táticas de fraudadores para identificar pontos cegos e brechas de proteção. O mecanismo permitiu que autoridades estrangeiras firmassem acordos com empresas como OpenAI, Anthropic, Google DeepMind, Microsoft e xAI para obter acesso privilegiado aos modelos antes de sua estreia no mercado.

Embora tenha assinado o compromisso diplomático da Declaração de Bletchley em 2023, o Brasil não integrou o grupo pioneiro de dez nações da Rede Internacional de Institutos de Segurança de IA no ano seguinte. Essa ausência custa caro ao país, pois é nesse fórum técnico que se decidem as metodologias de mensuração de risco e os critérios de validação algorítmica. Participar ativamente desse debate garante que peculiaridades linguísticas e sociais brasileiras não sejam desconsideradas nas diretrizes globais.

A proposta da Rede INSOED e o papel do Inmetro

Para preencher essa lacuna, a tramitação do Projeto de Lei 5.960 de 2025 incorporou a criação da Rede Nacional de Institutos de Segurança, Oportunidades e Apoio Técnico à Economia Digital, denominada INSOED. Diferente de uma agência reguladora punitiva, a entidade foi desenhada como uma rede colaborativa e consultiva, reunindo centros de pesquisa, universidades e laboratórios sob a coordenação técnica do Instituto Nacional de Metrologia, Qualidade e Tecnologia (Inmetro). Essa estrutura descentralizada espelha iniciativas adotadas em nações como França e Índia.

• Avaliação adversarial contínua: desenvolvimento de metodologias nacionais para testar defesas de modelos digitais em português.
• Padronização métrica: aplicação da experiência do Inmetro na definição de margens de incerteza e ensaios técnicos.
• Inserção internacional: criação de um interlocutor governamental formal para negociar normas globais a partir de evidências próprias.

Desafios estruturais para viabilizar as avaliações

Apesar do avanço institucional representado pela proposta legislativa, testar algoritmos complexos impõe desafios muito maiores do que a verificação de produtos industriais tradicionais. Os sistemas de inteligência artificial sofrem modificações constantes via atualizações e ganham comportamentos imprevistos quando conectados a bases externas, demandando uma análise multidisciplinar que combine ciência da computação, cibersegurança e ciências sociais. Para que a iniciativa não permaneça restrita ao papel, a rede demandará financiamento contínuo, cooperação efetiva das desenvolvedoras para acesso aos códigos-fonte e infraestrutura computacional de alto desempenho.

Com informações de MIT Tech.