Uma investigação da BBC revelou que o Instagram, rede social controlada pela Meta, aprovou e exibiu anúncios pagos que direcionavam usuários a conteúdo de abuso sexual infantil na Índia. O caso, que ocorreu no início de 2024, coloca em xeque a eficiência dos filtros de moderação automatizados adotados pela plataforma e reacende o debate sobre a responsabilidade das big techs na proteção de menores on-line.
Como a investigação foi conduzida
Repórteres da BBC criaram um perfil novo com o objetivo de mapear recomendações suspeitas. Bastou seguir dez contas com fotos sugestivas para, em menos de uma semana, começar a receber anúncios com ofertas explícitas de videochamadas eróticas. Dias depois, surgiram peças publicitárias que mostravam crianças em situações sexualmente sugestivas, sempre acompanhadas de links para canais do Telegram onde vídeos eram vendidos por 99 rúpias — cerca de R$ 5,40.
Resposta ineficaz dos sistemas de denúncia
O time de reportagem utilizou a própria ferramenta de denúncia do Instagram para alertar a empresa. Em 24 horas, recebeu a resposta automática de que “o anúncio não violava os Padrões da Comunidade”. Só após contatar a assessoria de imprensa da Meta, a companhia removeu os anúncios e suspendeu as contas envolvidas.
Meta admite falhas de detecção
Procurada pela BBC, a Meta informou que, em 2023, já havia derrubado mais de 274 mil grupos e canais relacionados a abuso sexual infantil. Mesmo assim, a gigante reconheceu que seus sistemas “não são perfeitos” e que a revisão humana pode deixar material ilegal escapar. A empresa prometeu aprimorar a combinação de machine learning e auditoria manual — a mesma estratégia usada na moderação de conteúdo violento em transmissões de jogos ao vivo, por exemplo.
E o Telegram nisso tudo?
Os anúncios levavam a canais do Telegram que comercializavam os vídeos. Após denúncias, apenas um deles foi removido. A assessoria do aplicativo afirma utilizar moderação humana e algoritmos para “erradicar” conteúdo de abuso infantil, mas admitiu a dificuldade de monitorar grupos privados.
Por que isso importa para você
Mesmo que você use o Instagram apenas para acompanhar criadores de conteúdo ou seguir as promoções de hardware do momento, episódios assim mostram como falhas na moderação podem expor qualquer usuário a material criminoso. Para quem tem filhos ou irmãos mais novos navegando em redes sociais, é crucial:
- Revisar configurações de privacidade e contas seguidas.
- Manter diálogo aberto sobre o que aparece no feed.
- Ensinar como denunciar e bloquear conteúdo impróprio.
Riscos ampliados por IA generativa
Ferramentas de IA, como modelos generativos de imagem e vídeo, facilitam a produção de material ilícito e tornam a detecção cada vez mais complexa. Plataformas que atuam na ponta do consumo de entretenimento — inclusive serviços de streaming de jogos ou e-commerce de periféricos — terão de investir pesado em verificação de idade e análise preditiva para evitar a veiculação de anúncios do tipo.
Imagem: Internet
Como acompanhar suas denúncias no Instagram
Caso você precise revisar reclamações já feitas:
- Acesse o menu “Configurações e privacidade”.
- Toque em “Suporte” > “Solicitações de Suporte”.
- Visualize o status e, se necessário, envie mais informações.
Já para rever anúncios com os quais interagiu, basta ir em “Configurações e privacidade” > “Anúncios” > “Atividade com anúncios”.
O episódio reforça que, embora as redes sociais ofereçam recursos avançados — do carrossel de produtos a filtros em realidade aumentada —, a segurança infantil continua dependendo de ação combinada entre tecnologia, moderação humana e participação ativa da comunidade.
Com informações de Tecnoblog
