TikTok enfrenta ação de R$ 200 milhões por mensagens racistas no Brasil

O Ministério Público Federal (MPF) ajuizou uma ação civil pública contra a ByteDance Brasil, representante legal do TikTok no país, cobrando R$ 200 milhões por danos morais coletivos. O processo judicial tem como foco a permanência de comentários racistas em publicações da rede social e exige uma reformulação profunda nos métodos de moderação de conteúdo da empresa. A iniciativa ocorreu após um internauta denunciar ofensas dentro do próprio aplicativo, receber como resposta que nenhuma diretriz havia sido violada e, diante da inércia da plataforma, recorrer formalmente às autoridades públicas.

A investigação teve como estopim um vídeo que mostrava um jovem negro supostamente associado ao furto de um aparelho celular. No espaço de comentários, centenas de perfis passaram a vincular explicitamente características físicas e a cor da pele do indivíduo à marginalidade. Em uma primeira perícia técnica, o órgão identificou 622 manifestações de cunho racista em um universo de quase 6 mil interações avaliadas. Uma análise posterior comprovou que a publicação seguia disponível e continuava exibindo comentários depreciativos, demonstrando que o sistema de fiscalização da rede falhou em eliminar o problema.

Expressões codificadas e o modelo de engajamento

As análises do MPF mostraram que muitos usuários recorreram a termos indiretos e gírias para evitar sanções, utilizando expressões como "skin", "paleta de cores" e "a cara não nega". A acusação aponta que as ferramentas do TikTok apenas rastreavam palavras isoladas, sendo incapazes de interpretar o contexto das conversas e de transferir casos suspeitos para moderadores humanos especializados. Além disso, a ação civil adverte sobre os efeitos do rage bait, mecânica na qual o ódio e a indignação são aproveitados pelo algoritmo para ampliar visualizações e interações, gerando potenciais ganhos comerciais a partir do preconceito.

Exigências judiciais e prazos impostos

Para coibir a manutenção desse cenário, a Procuradoria formulou uma série de medidas mandatórias contra a ByteDance, apoiando-se em parâmetros do Supremo Tribunal Federal (STF) a respeito do dever de cuidado e da responsabilidade dos intermediários digitais. A entidade solicita ainda a participação da Autoridade Nacional de Proteção de Dados (ANPD) no acompanhamento do caso:

• Preservação imediata de dados: guarda das evidências em até 24 horas e travamento de novos comentários no vídeo original em 48 horas.
• Exclusão definitiva: remoção de todas as mensagens racistas apontadas no período máximo de dez dias úteis.
• Governança técnica: envio de relatório pericial em 15 dias úteis e formulação de um plano de adequação em 30 dias úteis.
• Monitoramento contínuo: implementação das melhorias em 60 dias após aval da Justiça, fiscalização trimestral por um ano e multa diária de R$ 100 mil em caso de desobediência.

O montante financeiro exigido não será transferido a indivíduos, mas revertido inteiramente para o fundo de proteção aos direitos difusos e coletivos, buscando mitigar os prejuízos causados pelo estigma social disseminado em massa. A ByteDance já havia declinado de um acordo amigável proposto pelo MPF alegando a eficácia prévia de suas equipes e algoritmos, mas terá agora que demonstrar em juízo como pretende impedir que sua arquitetura tecnológica continue servindo de palco para discriminação racial.

Com informações de Olhar Digital.