Julgamento nos EUA nega pedido da xAI e valida banimento de apps de 'nudify' em Minnesota

Uma corte federal nos Estados Unidos negou o pedido da xAI para suspender uma lei de Minnesota que proíbe aplicativos de geração de imagens com conteúdo sexualmente explícito não consentido. A decisão, proferida no final de julho, permite que a legislação estadual passe a valer enquanto o processo judicial contra ela continua. Para o setor de tecnologia, este caso marca um ponto de inflexão: pela primeira vez, uma empresa de grande porte na área de inteligência artificial tem sua plataforma diretamente enquadrada em uma lei de proteção ao consumidor, superando discussões centradas apenas em direitos autorais ou privacidade.

A lei de Minnesota, sancionada em 2025, destaca-se por ser uma das pioneiras nos EUA a direcionar especificamente ferramentas capazes de remover roupas de pessoas em fotografias, utilizando inteligência artificial generativa. A xAI sustentou que a legislação era excessivamente abrangente e poderia impactar modelos de IA legítimos, como aqueles utilizados para criação artística ou em softwares de edição profissional. Contudo, o juiz responsável pelo caso avaliou que o potencial de dano à população — com especial atenção a mulheres e menores — sobrepuja o interesse comercial da empresa em manter a ferramenta operacional no estado.

A decisão sobre ‘nudify’ e os limites legais da IA generativa

A argumentação da xAI não carece de fundamento. A empresa, liderada por Elon Musk, defende que a lei de Minnesota é inconstitucional por infringir a liberdade de expressão e por ser tecnicamente complexa de se aplicar. Afinal, como se distinguiria um aplicativo de ‘nudificação’ de um editor de imagens com funcionalidades avançadas? A corte, no entanto, rejeitou essa perspectiva. O juiz enfatizou que a lei é suficientemente específica ao definir o propósito primário da ferramenta: a criação de imagens sexualmente explícitas sem consentimento. Essa delimitação altera o cenário para qualquer empresa que desenvolva modelos de geração de imagem.

Este precedente abre precedentes para que outros estados americanos e nações adotem legislações similares, sem receio de ações judiciais que paralisem sua implementação. No Brasil, a discussão sobre deepfakes e a disseminação de imagens íntimas falsas já existe, focando-se principalmente no Código Penal e em resoluções do Tribunal Superior Eleitoral (TSE) em períodos eleitorais. A decisão de Minnesota sugere uma abordagem regulatória que pode e deve focar na ferramenta em si, e não apenas nas consequências de seu uso criminoso. Para startups nacionais que utilizam APIs de modelos abertos, o recado é inequívoco: a responsabilidade legal transcende o usuário final.

Implicações da lei de Minnesota para desenvolvedores e usuários no Brasil

Para desenvolvedores brasileiros que criam ou integram APIs de geração de imagem, a decisão americana serve como um alerta para a devida diligência. Se uma plataforma como a xAI, com uma equipe jurídica substancial, não obteve sucesso em contestar a lei, a probabilidade de uma startup nacional resistir a um processo semelhante é consideravelmente menor. Na prática, quem opera no Brasil deve revisar seus termos de serviço para incluir cláusulas explícitas de proibição do uso para ‘nudificação’, além de implementar mecanismos técnicos que impulsionem a geração desse tipo de conteúdo.

Por outro lado, o usuário comum se beneficia de uma camada adicional de proteção que anteriormente não existia. Aplicativos de ‘nudificação’ circulam com facilidade em lojas de aplicativos e grupos de mensagens, frequentemente operando a partir de jurisdições com leis menos rigorosas. Com a decisão de Minnesota, a pressão sobre as lojas de aplicativos — Google Play e App Store — aumenta para que adotem políticas de remoção mais estritas em nível global, e não restritas aos EUA. Para mulheres brasileiras que temem ter suas imagens manipuladas, esta decisão pode representar o início de um movimento mais forte de pressão social e legislativa local.

A regulamentação de IA no Brasil: um caminho em construção

O Projeto de Lei (PL) 2338/2023, em tramitação no Senado, que visa estabelecer o marco regulatório da IA no Brasil, ainda não aborda especificamente aplicativos de ‘nudificação’. No entanto, a decisão americana fornece argumentos concretos para que parlamentares incluam dispositivos que responsabilizem os fornecedores de modelos fundacionais. A tendência é que o Brasil siga as abordagens europeias e americanas, com leis setoriais que visem usos específicos da IA antes de uma regulamentação geral. Isso implica que empresas de tecnologia atuantes no país precisarão de um sistema de compliance mais ágil e adaptável a normas federais e estaduais.

Nos próximos meses, o mercado deve testemunhar dois movimentos convergentes. O primeiro é a resposta da xAI, que pode buscar instâncias judiciais superiores ou liminares em outros estados. O segundo é a potencial proliferação de legislações estaduais nos EUA, criando um cenário regulatório fragmentado que forçará as empresas a adotar a norma mais restritiva como padrão global. Para o Brasil, a lição é dupla: a tecnologia avança em ritmo acelerado em relação à legislação, mas a ação legislativa precisa e direcionada pode ser eficaz. A questão que permanece é se o Congresso brasileiro demonstrará a mesma determinação em focar na ferramenta, e não apenas no infrator.