Instagram exibe anúncios de abuso infantil e expõe falhas graves de moderação

Uma investigação da BBC revelou que ao menos 30 anúncios promovendo a venda de vídeos de abuso sexual infantil, com foco em crianças indianas, foram veiculados no Instagram. Denúncias feitas pelos próprios repórteres através da plataforma não levaram à remoção imediata do conteúdo, que permaneceu ativo. O incidente expõe uma falha crítica nos sistemas de moderação da Meta, que falharam em bloquear a veiculação automática de material criminoso.

A falha ocorre no ecossistema de publicidade da Meta, que gera receita bilionária com anúncios automatizados no Instagram. Embora a moderação utilize algoritmos, a investigação demonstrou como os sistemas são facilmente contornados com palavras-chave codificadas e imagens de aparência inofensiva. Tal falha compromete tanto a segurança das crianças quanto a confiança dos anunciantes.

A BBC detalhou que os anúncios usavam eufemismos como “vídeos caseiros” e “meninas inocentes” para driblar os filtros automáticos. Os preços dos pacotes variavam entre 5 e 400 dólares. A Meta afirmou ter removido o conteúdo e prometeu intensificar investimentos em detecção, mas a quebra de confiança na plataforma já se estabeleceu.

Por que os filtros de anúncio do Instagram falham na proteção infantil

A moderação de anúncios do Instagram combina machine learning com revisão humana, mas o processo automatizado prevalece em escala. O algoritmo falhou em identificar os padrões textuais codificados e em cruzar dados com bancos de conteúdo ilícito já conhecido. A investigação da BBC demonstrou que um anúncio criminoso pôde ser aprovado e publicado em menos de 10 minutos, sem revisão humana eficaz.

A falha é estrutural: a Meta processa milhões de anúncios diariamente, dependendo da automação para manter a escala. Algoritmos treinados para detectar nudez explícita são ineficazes contra linguagem codificada ou imagens de crianças em contextos sugestivos. A Meta admite as limitações do sistema, mas não detalha investimentos em equipes humanas especializadas para combater esse tipo de crime.

O problema não é exclusivo da Meta. O YouTube foi multado em US$ 170 milhões em 2019 por coletar dados de crianças, enquanto o TikTok enfrenta pressão de reguladores europeus por falhas semelhantes. Contudo, o caso do Instagram é agravado pelo fato de envolver anúncios pagos, significando que a plataforma lucrou diretamente com a divulgação de material criminoso.

O que muda para quem usa o Instagram no Brasil

Com mais de 110 milhões de usuários, o Brasil é um mercado-chave para o Instagram. A falha exposta pela BBC é um alerta para pais e educadores sobre a vulnerabilidade da moderação de conteúdo em português. Se o sistema falhou em detectar termos em inglês, não há garantia de sua eficácia com as nuances da língua portuguesa.

Para anunciantes, o risco reputacional é alto. Uma marca pode ter sua publicidade veiculada ao lado de conteúdo criminoso sem saber. As ferramentas de brand safety oferecidas pela Meta não impedem que o próprio algoritmo aprove anúncios ilegais. O anunciante, portanto, financia uma plataforma que demonstra falhas em suas proteções mais elementares.

Usuários devem ter cautela, pois a investigação provou que as denúncias internas podem ser ineficazes. A via mais eficaz é a denúncia direta a autoridades competentes, como a SaferNet Brasil, que possui canais específicos para crimes de abuso infantil online. A confiança na moderação automatizada da plataforma se mostra, portanto, insuficiente.

A corrida pela moderação eficiente está longe do fim

O incidente no Instagram não se trata de um lapso isolado, mas sim de um sintoma de um modelo de negócio que prioriza a escala em detrimento da segurança. Sem investimento em moderação humana especializada e em algoritmos treinados para linguagem codificada, a vulnerabilidade persistirá. A Meta prometeu rever seus processos, mas sem apresentar prazos ou métricas públicas de acompanhamento.

Reguladores globais estão atentos. A Índia abriu uma investigação formal, enquanto a União Europeia pode acionar o Digital Services Act (DSA) para exigir mais transparência da Meta. No Brasil, o caso reforça os argumentos de projetos como o PL 2630/2020, que busca regular as plataformas digitais. A pressão por responsabilização legal das plataformas tende a aumentar.

Para o setor de tecnologia, a lição é inequívoca: a automação não substitui a responsabilidade. A inteligência artificial exige calibração para cenários criminosos complexos, não apenas para violações óbvias dos termos de serviço. Empresas que tratam a moderação como custo, e não investimento em confiança, arriscam multas, danos à reputação e, mais grave, a segurança de seus usuários.