Recentemente, a Meta bloqueou anúncios de uma adaptação teatral de Um Teto Todo Seu, de Virginia Woolf, em Barcelona. O motivo alegado pelo sistema foi a violação de políticas sobre conteúdo adulto ou sexualmente sugestivo.
É um erro grosseiro, mas que revela a estrutura do problema: o algoritmo não lê literatura, ele busca padrões de palavras-chave que, fora de contexto, disparam alarmes de segurança. O problema não é apenas a falha técnica, mas a presunção de que a moderação em escala pode substituir o julgamento humano.
O custo da moderação em escala
Quando uma máquina decide o que é apropriado, ela ignora nuances históricas, literárias e artísticas. Para o filtro da Meta, o título da obra de Woolf pode ter sido interpretado como uma alusão a conteúdo sexual, ignorando completamente o peso intelectual e o contexto de uma peça de teatro clássica.
A dependência de sistemas automatizados para moderar bilhões de interações diárias cria um ambiente onde o contexto é a primeira vítima. As empresas de tecnologia priorizam a velocidade e a redução de custos operacionais, o que inviabiliza uma análise humana real para cada anúncio ou postagem.
Essa abordagem gera consequências práticas para produtores culturais e pequenos negócios que dependem dessas plataformas para sobreviver. Quando um anúncio é banido sem uma explicação clara ou um canal de recurso eficiente, o prejuízo é imediato.
- Falso positivo: Ocorre quando o sistema identifica erroneamente um conteúdo legítimo como violação, bloqueando a divulgação de eventos culturais ou informativos.
- Opacidade algorítmica: A dificuldade de obter uma revisão humana real, deixando o usuário preso em um ciclo de respostas automáticas e suporte ineficiente.
- Padronização cultural: A imposição de normas de conduta globais que não respeitam as particularidades regionais ou o valor artístico de obras consagradas.
A eficiência algorítmica é, muitas vezes, apenas um nome elegante para a negligência em escala.
A falha na curadoria cultural
A tentativa de aplicar regras universais de moderação a um mundo culturalmente diverso é uma batalha perdida desde o início. O que é considerado aceitável em um contexto pode ser visto como ofensivo em outro. Ao tentar criar um ambiente "seguro" para todos, as plataformas acabam criando um ambiente estéril, onde a complexidade humana é filtrada para fora do discurso público.
A história da peça de Barcelona, detalhada pelo The Guardian, é apenas um sintoma de um problema maior. Não se trata apenas de uma peça de teatro, mas da erosão do espaço público digital. Quando a tecnologia que usamos para nos comunicar e promover cultura não consegue distinguir entre literatura e pornografia, perdemos a capacidade de ter um debate público minimamente qualificado.
- Contexto ignorado: O algoritmo processa dados isolados, sem considerar a intenção do autor ou a recepção do público.
- Medo do regulador: As empresas preferem banir conteúdo legítimo para evitar multas ou escândalos, sacrificando a liberdade de expressão no processo.
- Desumanização do suporte: A substituição de moderadores humanos por sistemas de IA que não possuem a capacidade de entender ironia, metáfora ou valor cultural.
Se a solução para o excesso de conteúdo na internet é a automação, talvez devêssemos questionar se o modelo atual de redes sociais é sustentável para a cultura. Enquanto a moderação for tratada como um problema de engenharia de dados e não como uma responsabilidade editorial, veremos mais casos como este.
Da próxima vez que eu for subir uma campanha cultural, vou ter que me preocupar mais com o vocabulário do que com a qualidade do evento? Talvez seja hora de diversificar os canais de divulgação antes que o algoritmo decida o que é arte.