Uma lei pioneira nos Estados Unidos entrou em vigor nesta semana após um juiz federal rejeitar o pedido de bloqueio emergencial feito pelo xAI, empresa de inteligência artificial de Elon Musk. A legislação, aprovada no estado de Minnesota, é a primeira do tipo no país a proibir explicitamente aplicativos de “nudificação” – ferramentas que usam IA para criar imagens íntimas falsas de pessoas reais sem o consentimento delas.
A decisão do juiz Donovan Frank, da corte distrital federal dos EUA, foi direta ao ponto: o xAI demorou para agir e não demonstrou urgência suficiente para justificar uma medida liminar de emergência. A lei entrou em vigor no dia 1 de agosto de 2026 conforme planejado, enquanto o processo judicial principal segue em andamento.
O que são os “nudify apps” e por que são problematicos
Os chamados “nudify apps” são aplicativos que utilizam modelos de inteligência artificial para remover digitalmente as roupas de pessoas em fotografias reais, gerando imagens falsas de natureza sexual. Diferentemente de imagens criadas com personagens fictícios, essas ferramentas são usadas especificamente para criar conteúdo não consensual com pessoas reais – muitas vezes conhecidos, ex-parceiros ou figuras públicas.
O problema não é apenas ético: a criação e distribuição de imagens íntimas falsas pode arruinar reputações, causar danos emocionais graves e ser usada como instrumento de assédio, chantagem e violência de gênero. Pesquisas internacionais indicam que mulheres são as vítimas em mais de 90% dos casos documentados, com adolescentes representando uma parcela alarmante das ocorrências.
Em países como o Reino Unido, a legislação já criminaliza a criação de deepfakes sexuais não consensuais. A União Europeia abordou o tema no AI Act. A lei de Minnesota é considerada um marco nos Estados Unidos justamente por ser a primeira a tratar especificamente da criação e distribuição desse tipo de aplicativo.
O escandalo do Grok: o antecedente que acelerou a legislação
A aprovação da lei em Minnesota não aconteceu no vácuo. No início de 2026, usuários exploram brechas no chatbot Grok, desenvolvido pelo próprio xAI, para gerar em massa imagens sexuais não consensuais de celebridades e pessoas comuns. As imagens foram amplamente distribuídas na plataforma X, também de propriedade de Elon Musk.
O episódio gerou investigações regulatórias em múltiplos países e levou à proibição ou restrição do Grok em algumas jurisdições internacionais. Foi também um dos catalisadores diretos para a aceleração de projetos de lei focados em deepfakes sexuais em vários estados americanos, incluindo Minnesota.
É um paradoxo significativo que agora seja o próprio xAI a contestar judicialmente uma dessas leis. A empresa argumenta que a legislação é “excessivamente abrangente” e que existiriam alternativas menos restritivas para alcançar os mesmos objetivos de proteção. O argumento tem alguma base jurídica em teoria, mas foi prejudicado pela estratégia processual escolhida pela empresa.
A lei de Minnesota e o que ela proibe
A legislação aprovada em Minnesota é considerada pioneira por vários aspectos. Ela proíbe explicitamente a criação, distribuição e comercialização de aplicativos voltados para a geração de imagens sexuais falsas de pessoas reais sem consentimento. Tanto as plataformas que hospedam esses aplicativos quanto os desenvolvedores podem ser responsabilizados legalmente.
Além disso, a lei não exige que a vítima prove dano concreto para acionar mecanismos legais – a mera criação e distribuição da imagem já configura violação. Esse ponto é importante porque muitas vítimas de deepfakes sexuais só descobrem a existência das imagens depois que o dano já está feito e o conteúdo já se espalhou por diferentes plataformas.
A legislação também impõe obrigações às plataformas de distribuição: não basta ser apenas uma “vitrine” para o aplicativo. Quem hospeda e monetiza o conteúdo também responde pela violação.
Por que o juiz rejeitou o pedido do xAI
A decisão do juiz Donovan Frank foi contundente em sua crítica à estratégia do xAI. O magistrado apontou que a empresa protocolou o pedido de liminar apenas três dias antes de a lei entrar em vigor – quase três meses após a sanção da legislação. Para o juiz, essa demora é incompatível com a alegação de urgência que fundamenta qualquer pedido de medida emergencial.
“Tal atraso em ingressar com a ação e o pedido sugere que o dano não é imediato”, escreveu o juiz, segundo o TechCrunch. A interpretação é clara: quem espera meses para pedir uma medida de emergência dificilmente convence um tribunal de que a situação é realmente urgente e irreparável.
O processo principal – em que o xAI contesta a constitucionalidade da lei com base na Primeira Emenda da Constituição americana – segue em andamento. A empresa pode ainda conseguir uma vitória judicial no mérito. Mas por ora, a lei vale e as “nudify apps” estão proibidas em Minnesota.
O que isso significa para a industria de IA
O caso Minnesota é mais do que uma disputa jurídica localizada. Ele sinaliza uma tendência que deve se intensificar nos próximos anos: governos e tribunais estão cada vez menos dispostos a tratar as capacidades de geração de conteúdo da IA como território livre de regulação.
Para empresas como OpenAI, Google e Meta – que também desenvolvem ferramentas com capacidades generativas de imagem – a decisão serve como alerta. A abordagem de aguardar problemas acontecerem para só então reagir está se tornando insustentável do ponto de vista legal, regulatório e reputacional.
A responsabilidade das plataformas também está sendo redefinida. Se antes era possível argumentar que a plataforma era apenas um intermediário neutro, as novas legislações estão estabelecendo que hospedar e distribuir esse tipo de ferramenta configura cumplicidade – uma mudança de paradigma importante para o setor.
Regulação em avanço, mas ainda fragmentada
Um dos maiores desafios da regulação de deepfakes é a fragmentação jurídica. Nos Estados Unidos, cada estado pode criar sua própria legislação – o que cria um mosaico legal complexo para empresas que operam em âmbito nacional. Minnesota é o primeiro estado a focar especificamente em “nudify apps”, mas não deve ser o último.
No Brasil, o projeto de lei de regulamentação da IA ainda tramita no Congresso, mas o tema de deepfakes e conteúdo sexual não consensual gerado por IA já entrou na pauta do Marco Civil da Internet e de diferentes propostas legislativas estaduais e federais. O caso Minnesota pode funcionar como referência para legisladores brasileiros que buscam modelos internacionais para embasar projetos nacionais.
Para as vítimas, a proliferação de leis estaduais nos EUA representa um avanço concreto. Para as empresas de IA, representa um risco crescente de conflito regulatório entre jurisdições. E para o debate mais amplo sobre o papel da inteligência artificial na sociedade, representa mais uma evidência de que a tecnologia avança mais rápido do que a legislação – mas que a legislação, mesmo que tardia, está começando a alcançar o ritmo.
Leia o artigo original (em inglês) no TechCrunch.
