O procurador da cidade de San Francisco, David Chiu, enviou cartas formais à Apple e ao Google exigindo a remoção de aplicativos de nudez digital, conhecidos como apps nudify, de suas respectivas lojas de aplicativos. Os softwares em questão alteram digitalmente imagens de pessoas para removê-las de suas roupas sem o consentimento das vítimas, criando pornografia deepfake não consensual. A notícia foi publicada pelo TechCrunch em 17 de julho de 2026 e evidencia uma escalada das ações legais contra esse tipo de tecnologia.
A pressão legal chega em um momento em que a proliferação de ferramentas de inteligência artificial de geração de imagens tornou esse tipo de abuso tecnológico acessível até para usuários sem conhecimentos técnicos. O que antes exigia softwares especializados e habilidades avançadas pode hoje ser feito com poucos toques na tela de um smartphone.
O que são os apps nudify e por que preocupam
Os apps nudify usam redes neurais generativas para processar fotos de pessoas vestidas e produzir versões alteradas nas quais as roupas são digitalmente removidas. O resultado é uma imagem fabricada que aparenta ser real, mas não representa nada que tenha acontecido. Essa tecnologia é amplamente utilizada para criar conteúdo sexual não consensual, especialmente visando mulheres e adolescentes.
O impacto sobre as vítimas pode ser devastador. Diferentemente de outros tipos de assédio digital, imagens geradas por IA são difíceis de rastrear até sua origem e, uma vez compartilhadas na internet, são praticamente impossíveis de remover completamente. Casos de extorsão sexual e cyberbullying associados a esse tipo de material já foram documentados em diversos países.
A organização Tech Transparency Project identificou dezenas de aplicativos desse tipo disponíveis em ambas as lojas, Apple App Store e Google Play Store. Os apps estavam disponíveis para download e geravam receita para os desenvolvedores, parte da qual também era repassada às plataformas na forma de comissões sobre compras realizadas dentro dos aplicativos.
A lei californiana e a base legal da ação
A ação do procurador David Chiu se baseia em uma lei californiana que criminaliza atividades que facilitem deliberadamente ou ajudem na criação de pornografia deepfake não consensual. Uma legislação de 2025 também permite que vítimas processem terceiros que tenham contribuído para a distribuição desse tipo de material, ampliando significativamente a responsabilidade legal para além dos criadores diretos do conteúdo.
Isso coloca Apple e Google em uma posição delicada: ao hospedar e lucrar com esses aplicativos, as empresas podem ser consideradas facilitadoras de uma atividade ilegal segundo a lei californiana. O procurador deu às duas empresas um prazo de 28 dias para responder, sob risco de penalidades civis.
A questão é especialmente relevante porque tanto a Apple quanto o Google alegam ter políticas rígidas contra conteúdo sexualmente explícito e abusivo em suas lojas. A carta de Chiu aponta que ambas as empresas foram alertadas sobre a existência dos apps pelo menos desde janeiro e abril deste ano, sem que tomassem ação suficiente.
As respostas da Apple e do Google
A Apple declarou que removeu três dos aplicativos mencionados na carta e que está em processo de encerramento das contas dos desenvolvedores responsáveis pelos demais. O Google, por sua vez, afirmou que todos os cinco aplicativos referenciados na carta de Chiu foram suspensos do Google Play. Ambas as declarações surgiram após o envio das cartas, o que levanta a questão de por que a ação não aconteceu antes, sem a necessidade de pressão legal formal.
O histórico das big techs com esse tipo de situação é bastante criticado. Plataformas frequentemente argumentam que não têm como monitorar proativamente todos os aplicativos disponíveis em suas lojas, dado o volume de apps submetidos diariamente. Mas críticos apontam que os lucros gerados por esses aplicativos deveriam criar um incentivo maior para investigar e remover conteúdo abusivo sem esperar por notificações externas.
O papel das lojas de aplicativos como gatekeepers
O caso dos apps nudify evidencia uma tensão estrutural no modelo de negócios das lojas de aplicativos. Apple e Google operam sistemas fechados nos quais exercem controle completo sobre o que pode ou não ser distribuído, e cobram comissões de 15% a 30% sobre transações realizadas dentro dos apps. Esse modelo de intermediação, que lhes garante enorme poder e receita, vem acompanhado de uma responsabilidade proporcional sobre o que circula nessas plataformas.
Quando aplicativos prejudiciais passam por seus processos de revisão e ficam disponíveis por meses, a narrativa de que as lojas são ambientes seguros e moderados fica comprometida. A pressão regulatória crescente em diferentes países aponta para um futuro no qual as plataformas serão cada vez mais responsabilizadas pelo conteúdo que hospedam e distribuem.
Impacto para usuários e criadores de conteúdo
Para a maioria dos usuários, a remoção de apps nudify é uma notícia positiva e sem impacto negativo. Ninguém perde uma ferramenta legítima quando aplicativos projetados para criar conteúdo não consensual são retirados das lojas. O debate real está em como as lojas devem revisar e monitorar suas catalogações de forma mais eficiente para evitar que esse tipo de aplicativo sequer chegue ao público.
Para desenvolvedores de aplicativos que trabalham com processamento de imagens por IA, o caso reforça a necessidade de documentar claramente o uso previsto de suas ferramentas e implementar salvaguardas técnicas que impeçam usos abusivos. Ferramentas de IA generativa legítimas, como editores de foto e vídeo com recursos inteligentes, precisam demonstrar ativamente que seus casos de uso são responsáveis.
Uma batalha que vai além das lojas de aplicativos
A ação de San Francisco é parte de um movimento global crescente contra o abuso de IA para criação de conteúdo não consensual. A União Europeia, o Reino Unido, Austrália e vários estados americanos têm aprovado ou discutido legislações que tratam especificamente de deepfakes sexuais como crime.
No Brasil, o Marco Civil da Internet e a Lei Geral de Proteção de Dados (LGPD) oferecem alguns instrumentos legais para lidar com esses casos, mas especialistas apontam a necessidade de legislação específica para deepfakes sexuais, especialmente em um contexto em que as ferramentas de IA ficam progressivamente mais acessíveis e sofisticadas.
O caso dos apps nudify é, em última análise, uma manifestação do dilema mais amplo que a IA generativa traz para a sociedade: as mesmas tecnologias que permitem criar arte, otimizar processos e democratizar a criatividade também podem ser usadas para causar dano real a pessoas reais. A resposta a esse dilema passa pela regulação, pela responsabilização das plataformas e pelo desenvolvimento de ferramentas técnicas de detecção, mas também por uma mudança cultural sobre o que consideramos aceitável no ambiente digital.
Fonte: TechCrunch – Apple and Google ordered to purge nudify apps from App Stores
