Instagram admite falta de solução contra deep fakes e acende alerta sobre confiança na plataforma

Adam Mosseri, chefe do Instagram, admitiu publicamente que a rede social ainda não sabe como combater uma nova onda de vídeos falsos criados por inteligência artificial. A declaração, dada ao jornal britânico The Independent, expõe uma fragilidade que vai muito além dos filtros de conteúdo: a plataforma não tem ferramentas eficazes para impedir que personagens digitais reproduzam apresentações de artistas reais — principalmente comediantes — e ainda lucrem com isso.

O problema ganhou escala com perfis que acumulam centenas de milhares de seguidores usando avatares gerados por IA para simular shows de humoristas conhecidos. Esses perfis não apenas replicam o conteúdo alheio sem autorização, como direcionam a audiência para plataformas de conteúdo adulto, como OnlyFans e Fanvue. É uma simbiose perversa entre deep fakes e monetização fácil, que escancara a ausência de barreiras técnicas e regulatórias no curto prazo.

A fala de Mosseri não é um caso isolado de despreparo executivo. Ela reflete o descompasso entre a velocidade de criação de ferramentas de IA generativa e a capacidade das plataformas de moderar o que circula em seus feeds. Enquanto isso, a confiança do usuário — ativo mais valioso de qualquer rede social — vai sendo corroída a cada vídeo falso que passa impune.

Por que o Instagram não consegue frear deep fakes de comediantes

A dificuldade começa na natureza do conteúdo. Diferentemente de deep fakes políticos ou pornográficos não consensuais, que já contam com alguma vigilância e remoção mais ágil, a reprodução de performances artísticas por avatares digitais ocupa uma zona cinzenta. Não é exatamente difamação, nem necessariamente violação de direitos autorais detectável por algoritmos de hash. É uma imitação gerada por IA que se parece com o artista, mas não usa o arquivo original.

Mosseri não apresentou um plano concreto. Reconheceu o problema, mas não detalhou prazos ou tecnologias que o Instagram pretende empregar. A postura reativa contrasta com a agilidade da empresa em lançar recursos de IA generativa para criadores de conteúdo — o que sugere prioridades bem definidas: inovar para engajar, moderar para… depois.

O mercado de ferramentas de detecção de deep fakes cresce, mas nenhuma solução é infalível. A própria Meta, dona do Instagram, investe em pesquisa de autenticação de mídia, mas a aplicação em escala nos feeds ainda é incipiente. Enquanto isso, os perfis falsos se multiplicam porque o custo de criação é baixo e o retorno financeiro, via redirecionamento para conteúdo adulto, é alto.

O que muda para quem usa o Instagram para trabalhar e se informar

Para o usuário brasileiro, o impacto é direto. Comediantes e artistas nacionais já são vítimas recorrentes desse tipo de fraude, e a tendência é que o fenômeno se espalhe para outras categorias, como professores, palestrantes e influenciadores. Quem consome conteúdo precisa redobrar o ceticismo: aquele vídeo engraçado do seu humorista favorito pode ser uma simulação feita para capturar cliques e direcionar tráfego.

Para quem usa a plataforma profissionalmente, o risco é de associação indevida. Uma marca que anuncia ao lado de um perfil falso pode ter sua reputação arrastada. Pequenos negócios que dependem do Instagram para vender precisam ficar atentos a cópias de seus perfis e conteúdos gerados por IA que imitam seus produtos ou atendimento.

A recomendação prática é verificar a origem dos vídeos antes de compartilhar, desconfiar de perfis que direcionam para links externos suspeitos e denunciar conteúdos que pareçam simulações não autorizadas. O Instagram oferece ferramentas de denúncia, mas a eficácia depende de uma análise humana que, segundo o próprio Mosseri, ainda não tem solução automatizada confiável.

A confiança como moeda: o que esperar do Instagram nos próximos meses

A admissão de Mosseri pode ser lida como um primeiro passo para pressionar por regulação externa ou justificar investimentos futuros em moderação. O certo é que a plataforma não tem como resolver o problema sozinha, e a sociedade também não pode esperar por ela. A tendência é que vejamos, nos próximos meses, uma combinação de pressão regulatória — como o avanço de leis sobre IA no Brasil e no exterior — e o surgimento de ferramentas de verificação de mídia integradas aos navegadores e aplicativos.

Para o Instagram, o desafio é não perder a confiança do usuário a ponto de tornar o feed um território de desconfiança generalizada. Redes sociais que falharam nesse quesito viram terra de ninguém e perdem anunciantes. A fala do chefe da plataforma é um alerta: a corrida contra os deep fakes está apenas começando, e quem chegar atrasado paga a conta em credibilidade.